모르는 것 인지하는 AI… “지능 증강과 같은 다양한 기술로 응용될 것”

모르는 이미지를 보고 ‘모른다’고 대답하는 사람과 달리, 정답을 찾도록 학습된 인공지능(AI)는 답을 몰라도 이와 유사한 값을 정답으로 인식한다. 자율주행차 등에서 이런 문제가 나타날 경우 차량이 동물을 차량으로 인식해 급정거하는 등의 심각한 위협을 초래할 수 있다.

이런 문제를 해결할 수 있는 실마리가 풀렸다. 광주과학기술원(GIST)는 학습한 적 없는 ‘모르는 데이터’를 구별해 내는 AI기술을 개발했다고 22일 밝혔다.

기존의 AI모델은 컨베이어 벨트처럼 재료(데이터)가 들어오고 여러 사람(블록)의 손을 거쳐 가장 많은 손을 거친 마지막 블록의 결과물을 답으로 결정했다. 하지만 이 경우 과도한 학습으로 인해 모르는 데이터도 아는 데이터로 착각하는 경향이 있다.

연구팀은 AI에게 직소 퍼즐처럼 잘게 쪼갠 이미지(모르는 데이터)를 입력했다. 이후 마지막 블록의 답을 최종 결과물로 내보낸 기존 방식과 달리, 여러 블록 중 직소퍼즐에는 가장 낮은 활성도를 보이는 블록을 선택했다. 결과적으로 이 블록은 ‘모르는 데이터’를 ‘모른다’고 가장 높게 인지하기 때문이다.

이 방법은 모르는 데이터를 탐지하는 확률이 기존 방식보다 5.8~6.8% 높았다. 이규빈 교수는 “이번 기술을 통해 모르는 것을 아는 것으로 잘못 인식해 발생하는 피해를 방지할 뿐만 아니라, 지능 증강과 같은 다양한 기술로 응용될 것”이라고 밝혔다.

전남혁 기자 forward@donga.com