‘만능 AI’는 환상… 사람의 역할 더 중요해져[기자의 눈/남혜정]

남혜정·산업1부 기자

“아니요, 신사임당의 남편은 이순신 장군이 아닙니다. 신사임당의 남편은 조선시대 중기의 문신인 오선길입니다. 이순신 장군은 신라시대의 장군으로, 조선 중기와는 시대적 차이가 있습니다.”

오픈 인공지능(AI)의 챗봇 ‘챗(Chat)GPT’에게 ‘신사임당의 남편이 이순신 장군인가’라고 질문하자 나온 답변이다. 챗GPT는 ‘생성형 AI’ 광풍을 몰고 왔다. 시, 소설, 작곡, 논문 작성 등 창작을 하고 로스쿨, 의사면허시험까지 통과하면서 챗GPT의 능력이 인간을 대체할 것이라는 얘기까지 나온다. 그러나 ‘생성형 AI의 인간 대체’는 다소 과장된 부분이 있다. 챗GPT가 기자의 질문에 내놓은 답변은 ‘그럴싸한’ 오답이다.

빅테크 기업을 중심으로 초거대 AI 시장 선점을 위한 기술을 앞다퉈 공개하고 있지만 여기서도 비슷한 오류들이 등장했다. 네이버는 지난달 27일 열린 연례 기술 콘퍼런스 행사 ‘데뷰’ 기조연설에서 초거대 AI 모델을 기반으로 한 챗봇형 검색 서비스 ‘서치GPT’를 공개했다. 챗GPT와 달리 진실성과 정확도를 높일 수 있는 기술을 적용했다고 소개했다. 그러나 이날 시연 과정에서 ‘일본 여행을 가려고 하는데 코로나 백신 접종 증명서랑 입국 정보 등록하는 방법을 알려 달라’는 질문에 서치GPT는 업데이트되지 않은 정보를 제공한 데다 ‘푸라노스’라는 존재하지 않는 백신을 언급했다. 앞서 구글도 AI 챗봇 ‘바드’ 시연회에서 ‘제임스웹 우주망원경’에 대한 잘못된 정보를 답변으로 내놓으면서 주가 폭락을 겪었다. MS의 챗봇 ‘빙’ 역시 시연 과정에서 ‘갭과 캐나다 스포츠웨어 브랜드 룰루레몬의 실적을 비교해 달라’는 질문에 룰루레몬의 총마진율과 영업마진율 등의 수치를 사실과 다르게 제시했다.

초거대 AI 서비스가 고도화될수록 중요해지는 것은 인간의 역할이다. 생성형 AI의 ‘오답 릴레이’는 그럴싸한 오답을 내는 ‘할루시네이션(환각)’ 현상을 완전히 극복하기 어렵다는 것을 보여준다. 생성형 AI는 방대한 데이터를 학습한 후 AI가 도출한 답을 인간이 얼마나 선호하는지 평가하는 ‘인간 피드백을 통한 강화학습(RLHF)’을 통해 탄생했다. 생성형 AI의 거침없는 답변 역시 인간의 손을 거쳐야 가능한 것이다. 또 AI가 학습한 데이터도 잘못된 정보이거나 의미 없는 내용일 수 있다. AI가 모든 것을 해결할 수 있다는 ‘환상’에 빠져선 안 된다. AI의 장점과 한계를 정확히 알고 활용을 고민해야 한다. 결국 판단은 인간의 몫이다.

남혜정·산업1부 기자 namduck2@donga.com