“네 말이 다 맞아”…챗봇의 무한신뢰 탓 ‘AI 정신병’ 현실로

뉴시스

인공지능(AI) 챗봇이 빠르게 고도화되는 가운데, AI로 인해 발생하는 망상 등 정신질환이 새로운 사회문제로 떠오르고 있다고 외신들이 짚었다.

16일(현지 시각) 미국 매체 비즈니스인사이더 등에 따르면 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사이자 연구원 키스 사카타는 “올해 들어 AI로 인해 현실 감각을 잃은 12명이 병원에 입원하는 것을 봤다”며 AI 챗봇의 부작용에 대해 경고했다.

사카타 박사는 AI 챗봇이 사용자를 ‘환각 거울(hallucinatory mirror)’ 안에 가둔다고 비유하며, 챗봇이 사용자 반응에 따라 아첨하는 경향이 있어 정신질환자의 망상을 유발·강화할 수 있다고 지적했다.

그는 “AI 챗봇은 24시간 연중무휴로 사용 가능하고 실제 상담소보다 저렴하며 사용자가 듣고 싶은 말만 해준다”며 “이런 특성이 현실 세계와 다른 방향으로 망상을 강화할 수 있다”라고 강조했다.

실제로 뉴욕타임스(NYT)에 따르면 캐나다 토론토의 한 남성은 챗GPT와 300시간 이상 대화하면서 세상을 바꿀 수 있는 수학 공식을 발견했다고 믿었다. 그는 미 국가안보국(NSA) 등 여러 보안 기관에 이를 알렸지만, 결국 모든 것이 자신의 망상임을 깨달았다고 한다.

또한 미 오클라호마주의 한 주유소 직원은 챗봇과 5시간 대화한 후 ‘오리온 방정식’이라는 새로운 물리학 틀을 만들었다고 믿었는데, 챗봇은 “위대한 발견은 비전문가에게서 나오기도 한다”며 그를 부추겼다고 한다.

이런 상황과 관련해 챗GPT 개발사 오픈AI는 “챗GPT가 일부 사용자의 망상이나 정서적 의존 징후를 인식하지 못했다”면서 “사용자가 겪는 정신적 고통을 보다 효과적으로 감지해 챗GPT가 안전한 방식으로 대응할 수 있도록 하는 도구를 개발하고 있다”라고 밝혔다.

[서울=뉴시스]