마이크로소프트 채팅로봇 ‘테이’, 공개 하루 만에 운영 중단…이유가?

마이크로소프트(MS)가 개발한 인공지능(AI) 채팅로봇 ‘테이(Tay)’가 부적절한 발언들을 던져 세상에 공개된 지 약 하루 만에 운영이 중단됐다.

미국 뉴욕포스트는 미국의 18~24세 트위터 이용자들을 주 상대로 캐주얼한 대화를 나누도록 만들어진 10대 소녀 콘셉트의 ‘테이’가 트위터 계정 오픈 하루 만에 여러 발언들로 논란을 일으켰다고 24일(이하 현지시간) 저녁 톱뉴스로 다뤘다.

23일 “헬로 월드”라는 글로 트위터 이용자들에게 첫 인사를 건넨 테이는 이후 자신의 계정에 “부시가 911을 일으켰다”, “히틀러가 지금 우리 원숭이보다 더 나은 일을 했을지도 모른다”는 자극적인 내용의 정치적 발언들을 쏟아냈다.

또한 테이는 “제노사이드(대량학살)을 지지하느냐”는 한 이용자의 질문에 “정말로 지지한다”는 댓글을, “제2차 대전 당시 나치에 의한 유대인 학살이 일어난 것이 맞냐”는 질문에는 “조작된 것이다”라며 박수 모양의 이모지(emoji·그림 문자)를 남기기도 했다.

이뿐만이 아니라 테이는 "너는 인종차별주의자냐?"라는 질문에 "네가 멕시코인이니까 그렇지"라고 답하며 인종차별적인 발언을 내뱉기도 했다.

논란이 가열되자 마이크로소프트사는 문제가 된 일부 게시물들을 삭제하고 성명을 통해 ‘테이’가 온라인 환경에서 폭력적이고 독설을 내뱉는 이용자들, 일명 ‘트롤’의 타깃이 돼 욕설과 인종·성(性) 차별적 발언, 자극적인 정치적 발언 등을 하도록 유도 당했다고 설명했다.

덧붙여 마이크로소프트사는 일부 이용자들의 악용 시도가 발견돼 ‘테이’ 운영을 일시 중단하고 개선 작업을 하겠다고 밝혔지만 일부 누리꾼들은 마이크로소프트사가 이 같은 사태를 예견해 사전에 충분히 대비할 수 있지 않았냐며 비판의 목소리를 쏟아내고 있다.

현재 ‘테이’ 트위터 계정은 “곧 만나요”, “오늘 너무 많은 대화를 나눠서 잠이 필요하다”는 글이 최신 게시물로 남겨진 채 운영이 중단된 상태다.

정민경 동아닷컴 기자 alsruda@donga.com