당근마켓에 올라온 신생아 판매글, AI도 난생 처음이라고?

매달 1000만 명이 넘는 이용자가 방문하는 중고거래 앱 당근마켓에 신생아를 20만 원에 입양시킨다는 글이 올라와 파장이 일고 있다. 해당 업체는 인공지능(AI)으로 생명, 모조품 등 불법 게시물들을 걸러내고 있다고 주장해왔지만 문제가 된 글은 신고를 받은 뒤에야 조치해 기술적인 허점이 드러났다.

18일 제주 서부경찰서와 당근마켓에 따르면 신생아 사진과 함께 ‘아이 입양합니다 36주되어있어요’라는 제목의 글은 16일 오후 6시 36분 경 게재됐다. 4분 뒤 타 이용자들로부터 해당 글이 당근마켓에 신고 접수됐고, 게시자에게 해당 글이 불법임을 고지했다. 게시자가 해당 글을 삭제하지 않자 오후 6시 44분쯤 강제 미노출 조치했다. 논란이 일자 이용자는 17일 오전 11시경 당근마켓을 스스로 탈퇴했다. 당근마켓은 이날 오후 3시쯤 해당 게시자를 영구 서비스 이용 불가 조치했다.

경찰에 따르면 해당 글 게시자는 도내 한 공공산후조리원에서 14일 아이를 출산한 20대 여성 A 씨로 파악됐다. 조리원에서 몸을 추스르던 중 판매글을 올린 것. 현재 아이와 산모 모두 무사한 것으로 알려졌다. A 씨는 다른 이용자가 해당 글을 게시한 이유에 대해 묻자 ‘아기 아빠가 곁에 없어 키우기 어렵다’고 한 것으로 전해졌다. 경찰은 해당 여성에 아동복지법 위반 혐의가 적용 가능한지 여부를 검토 중인 것으로 알려졌다.

이번 사건은 알고리즘 학습의 한계라는 지적이 나온다. 당근마켓은 불법 게시글에 대해서 AI와 내부 모니터링, 이용자 신고 등 세 가지 방법으로 대응하고 있다. 하지만 이번에는 AI는 물론 모니터링 요원 조차 인지하지 못한 채 이용자들에게 해당 글을 수분 간 방치하고 말았다. 업계에서는 AI가 동물 등 생명체 거래와 관련한 글들은 올라온 사례들이 있어 학습을 통해 걸러내왔지만 이번 사건처럼 실제 아이와 같은 경우 사례가 없어 기계가 학습하지 못했을 것이라는 지적이 나온다.

운영상 한계도 나타났다는 평가다. 해당 글을 곧장 삭제하지 않고 권고를 한 뒤에야 게시글을 지웠고, 사건 발생 하루 뒤에야 해당 이용자를 탈퇴 조치한 것. 경쟁사의 경우 20여 명의 모니터링 요원들이 24시간 대응해 이 같은 글이 올라오면 삭제 및 탈퇴 조치를 시행한다는 설명이다. 반면 당근마켓은 자체 운영 고객센터를 포함해 약 30명 규모의 대응팀이 존재했지만 운영 매뉴얼을 제대로 갖춰놓지 않아 대응이 소극적이었다는 것이다.

업계 관계자는 “아직까지는 AI가 완벽하지 않음을 보여주는 단적인 사례”라면서 “당근마켓 서비스 시작이 몇 년 되지 않았고 최근 급성장해 운영 대응 매뉴얼을 제대로 갖추지 못해 이 같은 논란을 빚은 것 같다”고 말했다.

당근마켓 관계자는 “문제의 심각성이 높은 만큼 해당 이용자가 다시는 서비스를 이용할 수 없도록 재가입 방지 등의 강력한 이용 제재 조치를 취했다”며 “기존 자동 필터링 시스템 외에 더 정교화 되고 강화된 기술을 추가 개발해 근시일 내에 대응 강도를 높일 계획”이라고 설명했다.

신무경 기자 yes@donga.com