읽기모드공유하기
동아닷컴|IT/의학

[전문]‘20대 여대생 AI’ 이루다, 활동 중단…‘혐오 논란’ 사과

입력 2021-01-11 22:00업데이트 2021-01-11 22:13
글자크기 설정 레이어 열기 뉴스듣기 프린트
글자크기 설정 닫기
개인정보 유출 의혹, 혐오 표현 논란 등에 휩싸인 인공지능(AI) 챗봇 ‘이루다’가 활동을 멈춘다.

‘이루다’를 개발한 스캐터랩 측은 11일 오후 입장문을 통해 “일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다”고 알렸다.

이루다, ‘20대 여대생’ 설정…성소수자 혐오 논란, 개인정보 유출 의혹
‘이루다’는 스타트업 스캐터랩이 지난해 12월 23일 출시한 챗봇이다. 20대 여대생으로 설정돼 있다. 그간 75만 명에 가까운 이용자들이 이루다와 대화를 나눴다.

스캐터랩은 본사가 제공하는 서비스 ‘연애의 과학’으로 수집한 메시지를 이루다에게 학습시켰다. 연애의 과학은 이용자의 카카오톡 대화 자료를 분석해 연애 조언을 제공하는 서비스다.

스캐터랩은 이를 연애의 과학 이용자들에게 명확히 설명하지 않아 개인정보를 유출한 게 아니냐는 의혹을 받았다.

또 이용자가 성소수자와 관련한 질문을 던지면 이루다가 혐오 표현을 여과 없이 사용한다는 비판을 받기도 했다.

이용자가 레즈비언에 대한 생각을 물으면 이루다가 “진짜 싫다”, “혐오스럽다”, “질 떨어져 보인다”, “소름 끼친다” 등의 대답을 한다는 것이다.

스캐터랩 “누구에게나 친구 되어줄 AI 만들기 위해 노력”
스캐터랩은 성소수자 혐오 표현 논란에 대해 “이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다”면서 “저희는 루다의 차별적 발언에 동의하지 않으며, 그러한 발언은 회사의 생각을 반영하지 않고 있다”고 했다.

이어 “본사는 해당 이슈를 매우 중요하게 생각하고 있고, 지난 6개월 간의 베타테스트를 통해 문제발생을 미연에 방지하기 위해 여러 조치를 취했다”면서 “새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 덧붙였다.

그러면서 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 했다.



개인정보 유출 의혹에 대해선 “이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있다”고 인정하면서도 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것”이라고 했다.

다만 “연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다”고 했다.

아울러 “데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거 돼 있다”며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다”고 밝혔다.

끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능(AI) 챗봇을 서비스하고 있는 청년 스타트업”이라며 “누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더욱 노력하겠다”고 밝혔다.

정봉오 동아닷컴 기자 bong087@donga.com
스캐터랩 입장문 전문
인공지능(AI) 챗봇 ‘이루다’ (https://luda.ai/)에 보내주신 많은 분들의 관심에 감사드립니다. 본사가 개발한 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 이용자들이 루다와 대화를 나눴습니다. 이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대한 이용자들의 문의가 있어 스캐터랩의 공식적인 입장을 알려드립니다.

· 혐오와 차별에 관한 부적절한 대화에 관하여

이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드립니다. 저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있습니다.

본사는 해당 이슈를 매우 중요하게 생각하고 있고, 지난 6개월 간의 베타테스트를 통해 문제발생을 미연에 방지하기 위해 여러 조치를 취했습니다. 특정 집단을 비하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했습니다. 또한, 기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중입니다.

이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다. 배워야 할 점이 아직 많습니다. 이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것 입니다. 이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다.

· 개인정보 활용에 관하여

본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다. 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드립니다.

데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거 돼 있습니다. 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다.

향후로는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다.

스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능(AI) 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다. 인간과 자유롭게 대화할 수 있는 AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다. 이루다는 그 첫 걸음에 불과합니다. 스캐터랩은 일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다. 누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더욱 노력하겠습니다.
오늘의 추천영상
당신이 좋아할 만한 콘텐츠
댓글 0
닫기
많이 본 뉴스
IT/의학
베스트 추천