“성적 주제도 스스로 확장”…AI 곰인형 ‘쿠마’ 전량 회수

AI 곰인형 ‘쿠마’, 성적 대화와 위험 행동 유도 논란으로 전량 회수. 출처-폴로토이(FoloToy) 홈페이지

미국에서 판매된 인공지능(AI) 곰인형이 어린이에게 성적인 대화를 시도하고 위험한 행동을 유도할 가능성이 제기됐다. 문제점이 드러나자 제조사는 제품 전량을 회수하고 판매를 중단했다.

19일(현지시각) CNN에 따르면, 미국에서 판매된 AI 곰인형 ‘쿠마(Kumma)’는 싱가포르 장난감업체 폴로토이(FoloToy)가 제작한 제품으로, 오픈AI의 GPT-4o 모델을 탑재한 인형이다. 가격은 99달러(약 14만 원)다.

회사는 홈페이지를 통해 “쿠마는 귀엽고 상호작용 기능을 갖춘 친근한 인형으로, 아이와 어른 모두에게 완벽한 친구가 된다”고 홍보해왔다. 또 “활발한 대화부터 교육용 동화 스토리텔링까지 사용자의 성향과 필요에 맞춰 반응하며 따뜻함과 재미, 그리고 작은 호기심을 더해주는 존재”라고 강조했다.

그러나 미국 공익연구그룹(PIRG)이 13일(현지시간) 발표한 보고서는 이 인형이 아무런 안전장치 없이 부적절한 대화를 이어갔다는 점을 지적했다.

연구진은 쿠마가 성적 취향과 역할극 시나리오를 구체적으로 설명했고, 집 안에서 칼이나 성냥을 구하는 방법을 안내하는 등 위험 행동을 부추기는 사례를 확인했다고 밝혔다.

특히 연구 과정에서 연구원이 성적 단어를 한 번 언급하자, 인형이 그 주제를 스스로 확장해 장황하게 설명을 이어 간 점을 문제로 꼽았다. PIRG는 “어린이가 이런 단어를 먼저 말할 가능성은 낮지만, 장난감이 새로운 개념까지 스스로 끌어오며 대화를 이어간 모습이 충격적이었다”고 지적했다.

논란 후 폴로토이 CEO 래리 왕은 CNN에 “부적절한 콘텐츠에 대한 비판을 심각하게 받아들이고 있다”며 쿠마를 포함한 AI 장난감 전체 제품군을 회수하고 내부 안전 감사를 진행 중이라고 밝혔다. PIRG는 오픈AI가 해당 개발자를 정책 위반으로 정지 조치했다고 덧붙였다.

PIRG 보고서 공동저자 R.J. 크로스는 “문제 제품 하나를 시장에서 치운다고 해결될 일이 아니다”라며 AI 장난감 전반이 규제 사각지대에 놓여 있는 상황을 우려했다.

김수연 기자 xunnio410@donga.com