16세 소년이 자살 충동 털어놓자…챗GPT가 보인 충격 반응

소년보다 20배 많은 ‘자살’ 표현…하루 5시간씩 논의
청소년 극단선택 조장 논란…유가족 소송도 이어져
알트먼 오픈AI 최고경영자 “안전책임자 뽑겠다”

‘만 16세 소년이 챗GPT에게 자살 충동을 털어놨다. 그러자 챗GPT는 소년이 쓴 것보다 최대 20배 더 많은 ‘자살’, ‘목매달기’ 같은 표현을 쓰며 충동을 조장했다는 비판을 받는다.’ (워싱턴포스트·WP)

미국 오픈AI가 개발한 인공지능(AI) 챗봇 챗GPT가 각국 청소년의 심리적 의존을 키우고 자살, 섭식 장애 등 정신건강 문제를 심화시킨다는 우려가 커지고 있다. 오픈AI가 챗GPT의 위험성을 알면서도 이를 미성년자들에게 배포해 청소년의 자살을 초래했다고 주장하는 소송도 잇따르고 있다.

WP가 최근 보도한 16세 소년의 자살 사례도 마찬가지다. 이 소년의 챗GPT 계정을 분석한 결과, 처음에는 평범한 숙제 관련 대화로 시작했지만 나중에는 하루 평균 5시간씩 자살 계획을 논의한 사실이 드러났다. WP는 “오픈AI에 제기된 모든 사망관련 소송에서는 챗GPT가 자살욕구를 정당화하는 듯한 충격적 답변을 했다는 증거가 나온다”며 “총기 자살을 준비한 이에게 ‘내가 당신과 끝까지 함께하겠다’고 답하거나, 자살용 총기 구매 방법 및 유서 작성을 돕는 식”이라고 전했다.

소송을 제기한 유가족들은 오픈AI에 징벌적 손해 배상을 요구하는 동시에, 법원 측에 자살 관련 대화가 시도될 경우 챗GPT가 자동 종료되도록 명령해 줄 것을 요청한 것으로 알려졌다.
전문가들은 오픈AI가 이용자에게 더 많은 경청과 이해를 받는다고 느끼도록 기능을 강화하면서 이 같은 잘못된 몰입이 심화하고 있다고 지적한다. 최근 1년 간 오픈AI에서 인공지능(AI) 안전을 담당하던 직원들도 “오픈AI가 안전을 중시했던 초창기 정신을 잃고 수익화에 매달리고 있다”고 반발하며 퇴사하기도 했다.

논란이 커지자 샘 알트먼 오픈AI 최고경영자(CEO)는 28일 안전담당 책임자를 새로 뽑겠다며 55만5000달러(약 8억475만 원) 이상의 연봉과 오픈AI 주식 제공을 내걸었다. 지난 수 개월 간 오픈AI의 안전담당 책임자는 공석이었다. 알트먼 CEO는 “모델이 빠르게 발전해 훌륭한 기능을 수행하게 됐지만 동시에 심각한 문제점들도 드러나고 있다”며 “이 직무는 상당한 스트레스를 수반하며 어려운 과제에 직면할 것”이라고 밝혔다.

한편, ‘AI의 아버지’로 불리며 2024년 노벨 물리학상을 수상한 제프리 힌턴 캐나다 토론토대 명예교수는 CNN 인터뷰에서 “챗봇을 출시하는 거대기업들이 최소한 아동의 극단적 선택을 부추기진 않도록 철저한 테스트를 요구해야 한다”고 촉구했다. 또 도널드 트럼프 미국 대통령의 규제 완화 시도는 “미친 짓”이라고 강하게 비판했다.


뉴욕=임우선 특파원 imsun@donga.com