페이스북 “혐오발언 90%, 신고 전 미리 감지”

　페이스북이 자사 플랫폼에 올라왔다가 삭제된 혐오 발언 등 불법 게시물 중 약 90%가 이용자들이 신고하기 전 감지해낸 것이라고 13일 밝혔다.

　페이스북은 이날 ‘제5차 커뮤니티 규정 집행 보고서’에서 “작년 10월부터 올해 3월까지 6개월간 혐오 발언 등을 인공지능(AI)으로 감지하는 기술을 통해 선제적으로 대응해왔다”며 “앞으로 선제적 감지 기술을 적용할 수 있는 언어를 지속적으로 확장해 나갈 것”이라고 말했다. 혐오 발언 사전 감지율이 지난해 2∼3분기 대비 8%포인트 개선됐다는 게 페이스북 측의 설명이다.

　인스타그램도 자살 및 자해 콘텐츠를 사전에 파악할 수 있도록 텍스트와 이미지 매칭 기술을 향상시킨 결과, 사전 감지율이 지난해 2∼3분기에 비해 12%포인트 상승했으며 삭제 권고 등 규제 조치가 취해진 콘텐츠 양도 40% 늘었다.


신무경기자 yes@donga.com