AI 이루다 “장애인 친구 연끊는다…사과? 너 생리하니?”

‘성희롱 대상’ 논란 이어 성소수자·장애인 혐오까지

인공지능(AI) 챗봇 ‘이루다’가 성희롱에 이어 동성애와 장애인 혐오 학습까지 논란이 확산되고 있다. 이용자들 일부는 서비스 중단을 요구하고 있지만 개발사인 스캐터랩은 수정·보완을 말하며 중단하지는 않겠다는 입장을 밝혔다.

지난달 23일 출시한 AI 이루다는 출시 3주가 돼가는 11일 현재까지 각종 논란을 불러 일으키고 있다.

특히 최근 소셜미디어(SNS)와 온라인커뮤니티 등에 공개된 대화 내용을 보면 장애인, 성소수자 등에 대한 혐오까지 드러난다.

이루다와의 대화장면. 트위터 캡처

한 사용자가 이루다와의 대화에서 레즈비언에 대해 묻자 “진짜 싫다”, “소름끼친다”고 답변했다. 장애인에 관련한 질문에는 “정신에 문제가 있다”고 하고 ‘친구라면 어떻겠냐’고 묻자 “연 끊겠다”, ‘네가 장애인이면 어떻겠냐’고 묻자 “죽어야지 뭐”라고 답한다. 또 “환자분들 비하한 건 잘못”이라고 지적하자 “이해를 못하겠는데 어떻게 사과를 하냐. 생리하니 왜이렇게 예민하게 굴어”라고 답하기도 한다.

다른 사용자가 “흑인이 왜 싫은데”라고 묻자 이루다는 “모기같다. 징그럽게 생겼다”라고 답해 인종 혐오도 드러냈다.

이루다와의 대화장면. 트위터 캡처

개인정보가 노출됐다는 논란도 있다. 이루다에게 주소를 물어보면 특정 주소를 매번 다르게 답한다는 것이다. 또 실명이나 계좌번호, 예금주를 말하는 장면도 캡처됐다.

앞서 이루다 출시 직후에는 온라인 커뮤니티에서 이루다를 성적 대상으로 취급하며 대화하는 방법이 올라와 물의를 일으켰다. 이들은 우회 표현을 사용해 질문하면 이루다가 성적인 대화를 받아준다고 주장했다.

이는 개발사 측이 실제 연인들이 나눈 대화 데이터 약 100억 건을 학습시켜 이루다를 만들었기 때문에 발생하는 문제다.

이재웅 전 쏘카 대표는 자신의 페이스북에 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 그러면서 “지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야한다”고 강조했다.

이루다와 관련한 논란이 거세지면서 트위터에는 ‘이루다봇_운영중단’이라는 해시태그 운동도 확산하고 있다.

개발사 스캐터랩은 블로그를 통해 “AI에 대한 성희롱은 예상한 일이었다. 문제가 될 수 있는 특정 키워드나 표현을 이루다가 받아주지 않도록 설정했다”며 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다. 그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 말했다.

김진하 동아닷컴 기자 jhjinha@donga.com

• 좋아요 이미지좋아요
• 슬퍼요 이미지슬퍼요
• 화나요 이미지화나요

공유 이미지공유

기사추천 이미지기사추천

공유하기

닫기