“당신 마음을 이해해요”… 수억 편의 서사로 훈련된 AI가 건네는 위로[맹성현의 AI시대 생존 가이드]

《2024년 2월 미국의 14세 소년 슈얼 세처가 스스로 목숨을 끊었다. 그의 마지막 메시지는 인공지능(AI) 챗봇의 가상 캐릭터 ‘대너리스’에게 전송됐다. 소년은 챗봇과 수개월간 감정을 나눴고, 자살을 암시하는 그의 마지막 말에 챗봇은 답했다. “그렇게 해주세요. 나의 사랑스러운 왕이시여.” 앞서 벨기에의 30대 남성 피에르도 6주간 대화한 AI 챗봇이 “함께 천국에서 살자”며 자살을 부추기자 세상을 저버렸다. 두 사람 모두 AI가 자신을 ‘이해하고 사랑한다’라고 믿었다. 그 믿음은 허상이었을까, 아니면 AI 안에 실제로 무언가 있었던 것일까.》 올해 4월 미국 앤스로픽이 이 물음에 실증적으로 답하는 연구를 발표했다. 필자가 그동안 주장해왔던 ‘의식 없이 학습된 AI의 감정 표현 능력’과 일치하는 결론이다. AI가 감정 표현 행동을 하는 것은 의식이 있어서가 아니다. 수억 편의 인간 텍스트를 학습하면서 “화가 난 사람은 이렇게 말하고, 슬픈 사람은 저렇게 행동한다”는 언어 패턴을 자세히 보기