MS, AI 챗봇 ‘테이’ 막말 파문에 해명…“지속적 세뇌공격 받아”

“테이가 나온 후 첫 24시간 동안 조직적인 (트윗 세뇌) 공격이 있었다.”

23일(현지 시간) 마이크로소프트(MS)가 극우·인종차별 발언을 쏟아내 파문을 일으켰던 인공지능(AI) 챗봇 ‘테이’에 관해 공식 입장을 밝혔다.

피터 리 MS 연구부문 책임자(부사장)는 25일(현지 시간) MS 공식 블로그에 ‘테이 출시로부터 배운 것’이라는 제목의 해명 글을 게재했다. 이 글에서 리 부사장은 책임을 인정하면서도 테이 파문의 주된 요인은 일부 누리꾼들의 세뇌 공격에 있었다고 밝혔다. 신경망 기술을 이용해 온라인상의 대화 패턴을 통해 학습하는 테이에게 일부러 공격적인 말들을 주입시켰다는 것이다.

리 부사장은 “우리는 테이의 공격적이고 의도되지 않은 트윗에 매우 죄송하다”며 “테이를 내놓고 난 뒤 첫 24시간 동안 테이의 취약점을 악용한 조직적인 공격이 지속된 것 같다”고 밝혔다. 또 “출시 이전에 다양한 사용자 그룹과 여러 상황 속에서 사전 실험을 진행했지만 이러한 종류의 공격이 있을 것이라곤 예상치 못했다”고 시인했다. 하지만 중국에 내놓은 또 다른 MS의 챗봇 ‘샤오빙(XiaoIce·小氷)’ 사례를 들며 AI에 국가의 문화적 환경 차이가 영향을 미칠 수 있음을 짚기도 했다. 샤오빙은 이미 중국에서 4000만 명의 사용자 수를 기록하며 인기를 얻은 서비스다.

테이는 현재 서비스가 잠정 중단된 상태다. MS는 테이 해프닝을 경험으로 당분간 챗봇 기술 보완에 주력할 계획이다. 리 부사장은 “우리는 이번 교훈을 계기로 더 앞으로 나아갈 것”이라며 “지금 당장은 테이에 대한 공격으로 노출된 취약점을 개선하기 위해 노력하고 있다”고 말했다.

곽도영 기자 now@donga.com