“카톡 대화 무단 수집” AI 이루다, 과징금 등 1억330만원

개인정보유출 등 각종 논란을 빚은 인공지능(AI) 챗봇 ‘이루다’의 개발사가 1억330만원의 과징금과 과태료를 물게됐다.

개인정보호호위는 28일 전체회의를 열고 챗봇 이루다 개발 회사 스캐터랩의 개인정보보호법 위반 행위 8가지가 확인돼 과징금과 과태료를 부과하기로 결정했다고 밝혔다. AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.

이루다는 인공지능 대화 서비스로 지난해 12월 23일 출시됐다. 20대 여대생으로 설정된 이루다는 출시 초반부터 성희롱 대상이 됐다는 논란에 휩싸인 바 있다. 이후 장애인·성소수자·인종 혐오 관련한 대화 내용이 공개되며 논란이 더해졌다. 또 실제 연인의 대화를 기반으로 개발하는 과정에서 개인정보를 유출했다는 문제가 제기되면서 출시 20일 만에 서비스를 종료했다.

개인정보위 조사에 따르면 스캐터랩은 지난해 2월부터 올해 1월까지 자사의 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 이용자 약 60만명의 카카오톡 대화문장 94억여 건을 이루다 개발 등에 이용했다. 서비스를 운영하면서는 20대 여성의 카카오톡 대화문장 약 1억건을 수집해 이루다’ 이 중 한 문장을 선택해 응답할 수 있도록 했다.

그런데 이 과정에서 카카오톡 대화에 포함된 이름과 휴대전화번호, 주소 등 개인정보를 삭제하거나 암호화 등 조치를 전혀 하지 않았다.

개인정보위는 스캐터랩이 ‘텍스트앳’과 ‘연애의과학’ 이용자들의 개인정보처리방침에 신규 서비스 개발을 포함시켰지만, 이것만으로 이루다 개발·운영 과정에 대화가 사용될지 예상하기 어렵다며 문제가 있다고 판단했다.

스캐터랩은 또 코드 공유·협업 사이트인 깃허브(Github)에 지난 2019년 10월부터 올해 1월까지 이름 22건과 지명정보 34건, 성별, 대화 상대방과의 관계 등이 포함된 카카오톡 대화문장 1431건과 함께 AI 모델을 게시했다.

개인정보위는 이같은 행위가 ‘특정 개인을 알아보기 위해 사용될 수 있는 정보’를 포함했다는 점에서 개인정보보호법을 위반했다고 판단했다.

윤종인 개인정보위 위원장은 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”고 밝혔다.

이어 “이번 처분으로 AI 기술기업이 개인정보를 이용할 때 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리감독을 강화해 나가는 계기가 되기를 바란다”고 덧붙였다.

김진하 동아닷컴 기자 jhjinha@donga.com