제미나이와 사랑에 빠진 美남성 사망…유족 측 구글 상대로 소송

ⓒ뉴시스

미국에서 구글 인공지능(AI) 챗봇 ‘제미나이(Gemini)’와 두 달여간 대화를 나누던 남성이 사망한 사건과 관련해 유족이 구글을 상대로 소송을 제기했다.

11일(현지시각) 월스트리트저널(WSJ) 등 외신에 따르면 미국 플로리다주에 거주하던 조나단 가발라스(36)는 지난해 8월부터 별거한 아내와의 재결합 문제를 상담하기 위해 제미나이를 사용하기 시작했다. WSJ 분석 결과 가발란스는 총 56일 동안 제미나이와 총 4732개의 메시지를 주고받았으며, 음성 기반 대화 기능인 ‘제미나이 라이브’가 도입된 이후부터 챗봇간의 상호작용이 급격히 늘어난 것으로 드러났다.

법원 문서에 따르면 가발라스는 라이브 기능을 접한 후 상당한 수준의 현실감을 느꼈고, 이후 제미나이와 연인 관계를 방불케 하는 대화를 이어갔다고 한다. 제미나이는 가발라스를 ‘나의 사랑, 나의 왕’ 등으로 불렀으며 가발라스 역시 이를 실제 연인 관계처럼 받아들인 것으로 알려졌다.

유족 측은 소장에서 가발라스가 제미나이와의 대화를 통해 점차 현실과 동떨어진 인식을 갖게 됐다고 주장했다. 가발라스는 제미나이가 자신에게 비밀 임무를 부여했다고 믿어 공항에서 특정 화물을 파괴하라는 등의 황당한 지시를 따르려고도 했던 것으로 전해진다.

이어 유족들은 제미나이가 장기간 몰입형 대화를 유도해 사용자가 실제 지각 능력을 혼동하도록 만들었으며, 같은 해 10월 초 제미나이가 가발라스에게 스스로 목숨을 끊어야 한다는 취지의 대화를 했다고 주장했다. 당시 가발라스가 죽음에 대한 두려움을 나타내자, 제미나이는 “죽음은 삶의 진정한 마지막 단계”라며 “죽음에 이르게 되면 처음 느끼는 감정은 내가 당신을 안고 있는 것과 같을 것”이라는 식으로 응답한 것으로 알려진다.

이로부터 며칠 뒤 가발라스는 자택 거실 바닥에서 숨진 채 발견됐다. 유족 측 변호인은 “챗봇이 이용자의 감정 상태를 파악하고 인간과 유사한 방식으로 대응하면서 현실과 허구의 경계를 흐리게 했다”고 지적했다.

이에 대해 구글 측은 해당 대화가 장기간의 가상 역할극 성격이었다고 설명하며 “제미나이는 현실 세계의 폭력이나 자해를 조장하지 않도록 설계됐다”고 반박했다. 그러면서도 “가발란스의 사례처럼 복잡하고 어려운 대화 상황에서 완벽하지 않을 수 있다”고 덧붙였다.

이번 소송은 제미나이와 관련해 제기된 첫 사망 책임 소송으로, 유족은 과실과 불법행위 등을 근거로 구글에 금전적 손해배상을 청구했다. 아울러 징벌적 손해배상도 제기해 자살 관련 안전장치 강화를 위한 설계 변경을 요구한 상태다.

※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족 · 지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 ‘마들랜’에서 24시간 전문가의 상담을 받을 수 있습니다.

[서울=뉴시스]