거짓을 진짜처럼 술술… ‘피노키오 AI’ 경계령

황현식 LGU⁺ 대표, 사내망 글 올려
‘오픈AI의 거짓 독후감’ 사례 공개
“학습 안한 책까지… 전형적 환각현상”
구글 AI 인터넷 검색서도 오류… ‘수리법’ 물었더니 ‘망치는법’ 내놔

크게보기

오픈AI와 구글이 잇따라 검색, 음성비서 등과 결합한 인공지능(AI) 서비스를 내놓으며 AI 진화가 가속화하고 있다. 하지만 AI 기술 발전과 함께 거짓 정보를 진짜인 것처럼 제공하는 부작용인 ‘환각현상’이 더욱 심각해질 수 있다는 지적이 나온다.

황현식 LG유플러스 대표는 8일 사내 인트라넷에 “저자는 사람들을 이해하는 것을 ‘퍼즐 맞추기’에 비유하며 우리가 서로의 퍼즐 조각들을 하나씩 맞춰가며 전체 그림을 완성한다고 설명합니다”라는 글을 올렸다. 데이비드 브룩스의 저서 ‘사람을 안다는 것’의 독후감이었다. 황 대표는 한 달에 한 번꼴로 영화나 책 감상문을 올리고 감상문 말미에 경영철학을 공유하는 것으로 알려져 있다. 하지만 이날 올린 내용은 평소와 달리 황 대표가 아닌 오픈AI의 GPT-4가 작성한 것이었다. 이날의 글은 GPT-4의 거짓정보를 경고하기 위해 작성됐다.

같은 글에서 황 대표는 “책의 저자가 (독후감에 나온) 표현을 (책에서) 직접적으로 사용한 적이 없었다는 생각이 들어 검증한 결과 GPT-4의 데이터베이스에 이 책이 없었다는 것을 밝혀 냈다”며 “전형적인 환각이었다”고 설명했다.

황 대표는 “신기하기도 했지만 두려운 마음이 앞섰다. AI가 가진 가능성과 그 안에 내포된 위험성을 동시에 체감했기 때문”이라며 “AI가 효율적이고 빠르게 답을 찾도록 도와줄 순 있지만 심각한 오류를 발생시킬 위험도 가지고 있다”고 지적했다.

최근 잇달아 AI 신기술을 선보인 오픈AI와 구글의 발표에서도 거짓 정보 문제가 나타났다. 미국의 IT 전문매체 ‘더 버지’는 14일(현지 시간) 구글이 연례 개발자 행사에서 AI 검색 기술을 공개하며 오류를 범했다고 지적했다.

이날 공개된 동영상에서 사용자는 고장난 카메라의 영상을 보여주며 “왜 카메라의 레버가 끝까지 움직이지 않는가”라는 질문을 보냈다. AI가 제공한 답변 중 하나는 “뒷문을 열고 필름을 부드럽게 제거하라”였다. 더 버지는 “이러한 방식으로 카메라를 열면 필름이 빛에 노출돼 사진이 망가질 수 있다”며 “이 상황에서 최악의 행동일 것”이라고 지적했다. 지난해 구글은 AI 챗봇 ‘바드’를 발표하며 제임스웹 우주망원경에 대한 거짓 정보를 제공해 홍역을 앓은 바 있다.

오픈AI의 ‘GPT-4o’도 13일 진행한 공개 행사에서 시연자가 자신의 얼굴을 보여주며 “감정 상태를 추측해 보라”고 질문하자 “나무 표면이 보인다”는 답변을 하기도 했다.

이 같은 AI의 환각현상은 구글과 오픈AI가 일반 사용자들을 상대로 보편적 서비스를 더 확대하고 있다는 점에서 우려가 커지고 있다. 일반인들이 마치 진짜처럼 보이는 거짓 정보에 노출될 확률이 더 커진 것이다. 김명주 서울여대 정보보호학과 교수는 “이제는 사람들이 환각현상을 어느 정도 경계하고 있다”라면서도 “GPT-4o처럼 AI가 마치 친구와 대화하듯 친근한 인격체가 될 경우 그 경계심이 낮춰지고, 이에 따라 환각현상에 대한 피해가 늘어날 수 있다”고 지적했다.

환각현상을 막기 위해 황 대표는 AI 학습에 투입되는 ‘데이터’의 신뢰성을 강조했다. 그는 “AI와 데이터는 ‘한 몸’이다. AI에 사용되는 데이터가 얼마나 충분하고 정확한지에 대한 관심이 더욱 높아져야 한다”고 강조했다.


전남혁 기자 forward@donga.com