챗GPT ‘나이 예측 기능’ 탑재된다…미성년자 판단땐 보호조치

크게보기

동아일보 DB

오픈AI가 ‘미성년 이용자’를 가려내고 청소년에 적합한 이용 경험과 안전장치를 제공하기 위해 챗GPT에 나이 예측 기능을 도입한다고 밝혔다.

21일(현지시간) 오픈AI는 자사 블로그를 통해 “챗GPT가 계정 생성 기간과 활동 시간대, 시간 경과에 따른 사용 패턴, 사용자가 밝힌 나이 등 행동과 계정의 다양한 신호들을 종합 분석해 사용자의 나이를 예측하게 될 것”이라며 “나이 예측 모델에 의해 사용자가 18세 미만일 가능성이 있다고 판단되면 챗GPT는 민감한 콘텐츠 노출을 줄이기 위해 보호 조치를 작동한다”고 밝혔다.

오픈AI에 따르면 사용자가 18세 미만이라고 판단될 때 챗GPT는 △노골적인 폭력 또는 잔혹한 내용 △미성년자에게 위험하거나 유해한 행동을 조장할 수 있는 전염성 콘텐츠 △성적, 폭력적 역할극 △자해 묘사 △극단적인 미의 기준 및 건강하지 못한 다이어트나 외모 비하를 조장하는 콘텐츠 등을 자동으로 제한한다. 만약 미성년이 아닌 사용자가 미성년자로 잘못 분류됐다면 신원 확인 서비스를 통해 간단히 복구할 수 있다. 이 기능은 유럽에서 몇 주 이내 도실제로 도입될 예정이다.

크게보기

2023년 6월 9일 서울 영등포구 63스퀘어에서 열린 K-Startups meet OpenAI 행사에서 샘 알트만 오픈AI 최고경영자가 스타트업과 글로벌 AL 기업간 협업 등에 대해 간담회를 하고 있다. 2023.06.09 사진공동취재단

세계적으로 인공지능(AI)과 소셜미디어(SNS)를 통해 유포되는 청소년 유해 콘텐츠가 논란의 중심이 되며 빅테크들은 하나둘씩 청소년 보호 서비스를 내놓고 있다. 유튜브도 15일 부모가 어린이, 청소년의 유튜브 쇼츠 시청 시간을 직접 제한하는 등 기능을 담은 ‘아동 및 청소년을 위한 보고기능 신규 업데이트’를 발표하기도 했다.

한편 성적 이미지 제작 유포 논란의 중심인 xAI의 인공지능(AI) ‘그록’은 북미와 유럽에 이어 브라질에서도 제재를 받게 됐다. 20일(현지시간) 로이터에 따르면 브라질 정부와 연방 검찰은 그록의 성적 콘텐츠 유포를 30일 이내에 중단하라고 xAI에 명령했다. 논란에 따라 xAI가 이용자들의 이미지 편집 기능을 제한하겠다고 밝혔지만, 그록은 이후에도 계속해서 문제가 될만한 이미지를 생성하고 있는 것으로 알려졌다.