AI로 수백개 공정 분석… 초당 웨이퍼 1장씩 검사, 불량률 낮춰

[K제조 바꾸는 AI로봇]
SK, 6년전 AI기업 ‘가우스랩스’ 설립
AI 웨이퍼 가상계측 솔루션 개발… 샘플만 체크하다 사실상 전수검사
김영한 대표 “AI덕 현장 난제 해결”

“반도체는 정밀 제조의 꽃입니다. 이 난제를 풀 수 있다면 산업 인공지능(AI)의 기준을 만들 수 있다고 봤습니다.”

김영한 가우스랩스 대표(사진)는 산업 AI가 가장 먼저 도전해야 할 영역으로 ‘반도체 제조’를 꼽았다. 가우스랩스는 2020년 SK가 제조·산업 현장에 특화된 AI를 육성하기 위해 설립, 투자한 회사다.

김 대표는 가우스랩스 설립 전 미국 스탠퍼드대에서 박사 학위를 받고 미국 샌디에이고 캘리포니아대(UC샌디에이고) 전기컴퓨터공학과 교수로 재직하고 있었다. 미국 전기전자공학회(IEEE) 석학 회원이기도 했다. 그런 그의 인생 방향을 바꾼 계기는 2019년 SK하이닉스에서 보낸 안식년이었다. 김 대표는 “현장에서 반도체 데이터와 AI가 결합했을 때 해결할 수 있는 문제가 많았다”고 말했다.

김 대표가 합류하면서 SK그룹은 본격적인 산업 AI 투자에 나섰다. 가우스랩스는 미국 실리콘밸리에 본사를 두고 출범했으며, SK하이닉스가 초기 자본금 5500만 달러(약 806억 원)를 전액 투자했다. 반도체 제조 현장에서 바로 사용할 수 있는 AI를 만드는 게 목표였다.

가우스랩스가 개발한 AI 가상계측 솔루션은 ‘파놉테스 VM(Panoptes VM)’이다. 그리스 신화에 나오는 ‘눈이 백 개 달린 거인’ 이름에서 따왔다. 제조 현장의 모든 공정을 끊임없이 모니터링하고 실시간으로 분석한다는 의미다. 이 솔루션은 2020년 8월 개발을 시작해 2022년 말 버전 1.0이 출시됐다. 현재는 SK하이닉스 양산 라인에 도입돼 초당 1장 이상의 웨이퍼를 가상 계측하고 있다.

반도체 제조는 수백 개 공정으로 구성되며, 각 단계마다 결과를 확인하는 계측 과정이 필요하다. 하지만 계측 장비는 대당 수백억 원에 달하고, 처리 시간도 길어 전체 웨이퍼의 1∼5%만 샘플로 검사하는 것이 현실이다. 김 대표는 “문제는 95∼99%의 웨이퍼가 불량 여부를 모른 채 다음 공정으로 넘어간다는 점”이라고 설명했다.

파놉테스 VM은 장비 센서에서 수집되는 온도, 압력, 가스 유량 등의 데이터를 AI가 분석해 실제 계측 없이도 공정 결과를 예측한다. 공정이 끝난 직후 실시간으로 가상 계측값을 생성해 사실상 전수 검사에 가까운 효과를 낸다. 웨이퍼에 회로를 쌓고 깎는 ‘박막’과 ‘식각’ 공정에서 공정 산포를 약 15% 개선하는 성과도 확인됐다. 산포는 반도체 제조 공정 중 불가피하게 나타나는 개별 공정 값들의 차이로, 이것이 줄어든다는 것은 제품 품질이 균일해진다는 의미다.

가우스랩스는 반도체 팹에서 축적한 산업 AI 혁신 경험을 다른 산업으로 확산하는 것이 목표다. 김 대표는 “반도체는 공정이 복잡하고 미세해 문제를 개선하기 가장 어려운 산업이지만, 그만큼 한번 성과를 내면 파급력도 크다”며 “이 난제를 풀어 산업 AI가 실제 제조 현장에서 어떻게 작동해야 하는지 증명하는 것이 가우스랩스가 지향하는 방향”이라고 말했다.