中 AI 챗봇, 이미지 거듭 수정 요청에 ‘부모 욕’…업체 “진심 사과”

ⓒ뉴시스

중국의 최대 IT 기업 텐센트가 개발한 AI 챗봇 ‘위안바오’가 사용자에게 부적절한 답변을 한 사실이 알려져 충격을 주고 있다.

25일 중국 매체 시나닷컴 등 외신에 따르면 챗봇 사용자 A씨는 춘절(중국의 설) 하루 전날 위안바오를 이용해 새해 인사 메시지가 담긴 이미지를 생성하던 중 욕설이 담긴 답변을 받았다. 위안바오는 방대한 양의 텍스트 데이터를 학습해 인간처럼 언어를 사용하는 대규모 언어 모델(LLM)을 사용하는 중국의 대화형 AI 서비스다.

A씨는 이미지를 만들기 위해 약 5차례 명령을 내렸고, 그 과정에서 어떠한 욕설이나 외설적 표현을 사용하지 않았다고 밝혔다. 그러나 A씨가 최종적으로 받아본 결과물에는 “새해 복 많이 받으세요. 사업 번창을 기원합니다”는 내용의 새해 문구가 A씨의 부모를 모욕하는 패륜적인 문구로 바뀌어 있었다.

이에 위안바오 측은 “불편을 끼쳐드려 죄송하다”며 “이 문제는 LLM 처리 과정에서 발생한 비정상적인 출력 때문으로 보인다”는 해명을 내놓았다. 이어 “즉시 문제를 해결하고 챗봇을 최적화했다”면서 “다시 한번 진심으로 사과드린다”고 고개를 숙였다.

한편 이같은 일이 위안바오에서 처음 일어난 것은 아니다. 올해 초 위안바오를 사용해 프로그래밍 코드를 수정하던 한 사용자도 “꺼져. 너라면 직접 고칠 수 있겠어?” “넌 매일 남의 시간을 낭비하고 있어” 등의 모욕적인 답변을 받아 신고한 바 있다.

[서울=뉴시스]