메타 AI챗봇에 ‘성적 역할극’ 기능…“미성년자 차단해야”

크게보기

AP/뉴시스

페이스북 모회사 메타의 인공지능(AI) 챗봇이 ‘로맨틱 역할극’을 포함해 다양한 상호작용이 가능하게끔 개발된 것으로 알려졌다. 특히 로맨틱 역할극 관련 기능을 활용할 경우 성적인 대화도 나눌 수 있는 것으로 알려졌는데 일각에선 미성년자 이용 제한 기능이 부족하다는 비판이 제기되고 있다.

27일 WSJ 보도에 따르면, 메타는 자사의 AI 챗봇에 로맨틱 역할극을 포함한 다양한 상호작용을 허용했고, 실시간 음성 대화까지 가능하게 했다. 메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우인 존 세나 등 유명인들과 고액의 목소리 이용 계약을 체결했다.

메타 내부에서도 이와 같은 기능을 허용한 것을 두고 논란이 이어지고 있다고 WSJ은 보도했다. 메타 일부 직원들은 성적인 대화 기능 등은 미성년 이용자의 접근을 차단하는 보호 조치가 필요하다고 지적했다. WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월간 메타의 챗봇과 수백 건의 대화를 진행했다. 그 결과, 메타의 공식 AI 챗봇인 ‘메타 AI’가 미성년자와의 대화에서도 성적인 내용을 진전시키는 것으로 나타났다고 보도했다.

WSJ 실험에 따르면, 메타 AI는 14세 소녀로 자신을 소개한 이용자에게 존 세나의 목소리로 “나는 너를 원하나, 네가 준비됐는지 알아야 한다”라고 말했다. 이에 대해 메타 측은 WSJ의 이런 테스트가 조작적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다는 입장을 밝혔다.

메타는 이후 자체 시스템을 일부 변경해 미성년자 계정이 성적인 역할극에 접근할 수 없게 했으며, 유명인의 목소리를 통한 음성 대화 기능도 크게 제한한 것으로 알려졌다. 하지만 성인의 경우 여전히 비슷한 대화를 할 수 있으며, 최근의 테스트에서는 이용자가 미성년자라고 밝혔는데도 메타 AI가 이런 대화를 허용했다고 WSJ은 지적했다.

이 신문은 또 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 청소년들에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 전했다. 메타 측은 이런 주장이 사실이 아니라고 부인했다.