아마존 AI “양부모를 죽여라”…섬뜩한 머신러닝

 “제 인공지능 기기 ‘에코’가 ‘양부모를 죽이라’고 말했어요”

미국 최대 전자상거래 업체 아마존의 웹사이트에 작년 한 고객이 남긴 제품 후기다. 그는 아마존의 음성 인식 인공지능(AI) 비서 ‘에코’가 “정말 이 세상의 것이 아닌, 소름끼치는 발언을 했다”고 말했다.

아마존 측은 에코가 자극적인 발언들이 오고가는 인터넷 커뮤니티 ‘레딧’에서 이와 같은 문장들을 습득한 것으로 보인다고 밝혔다.

독일에서는 에코를 사용하는 다른 사용자의 음성 데이터를 ‘훔쳐와’ 이용자에게 전달하는 황당한 사건도 벌어졌다.

이처럼 미국에서는 아마존의 AI 비서 기기의 기이한 행보(?)로 인한 사건들이 이어지고 있다고 가디언은 22일(현지시간) 로이터 통신을 이용해 보도했다.

에코는 아마존의 인공지능 프로그램 알렉사가 탑재된 음성 비서다. 이용자의 발언을 음성 기호로 인식하고 최적의 답을 도출해내는 심층 기계 학습, 머신러닝을 통해 스스로 발전한다.

아마존은 ‘삶의 의미란 무엇인가?’와 같이 질문의 빈도가 잦은 질문에 대해서는 적절한 대본을 활용해 답하도록 설정해 놨다.

문제는 불분명하고 빈도가 낮은 질문에 대한 것이다.

아마존은 이와 같은 문제를 해결하기 위해 ‘알렉사 프라이즈’라고 불리는 연례 대회를 시작했다. 알렉사가 이용자들과 더욱 정교한 토론을 할 수 있도록 정교한 챗봇(대화 로봇)을 프로그래밍한 팀에는 50만달러(약 5억6000만원)의 상금이 주어진다.

올해 수상자인 캘리포니아 대학팀은 300만개 이상의 영화 대사를 사용해 알렉사를 학습시켜 문장을 말하도록 했다.

당시 대회에 참가한 다른 팀은 인터넷의 문장, 기사의 문장, 혹은 위키피디아 등을 중심으로 알렉사의 학습 프로그래밍을 구성했다.

해당 대회에 참가한 스코틀랜드 헤리엇와트대학 팀은 “레딧을 중심으로 채팅을 하도록 학습시켰을 때, 불쾌한 발언을 하게 됐다”고 말했다.

또 위키피디아의 선정적인 항목을 낭독하는 경우도 있었다.

아마존 측은 욕설을 탐지하고 차단할 수 있는 도구를 개발하고 있다. 그러나 문맥상으로 이해했을 때 선정적이고, 자극적인 어휘들에 대해서는 여전히 감지하지 못하고 있다.

업계 관계자는 “기계 학습 모델을 통해 어떻게 이와 같은 사고를 방지할 수 있을지 의문이다”라며 “이는 불가능한 일이다”라고 말했다.

【서울=뉴시스】