페이스북 “혐오발언 90%, 신고 전 미리 감지”

페이스북이 자사 플랫폼에 올라왔다가 삭제된 혐오 발언 게시물 중 약 90%가 이용자들이 신고하기 전 감지해낸 것이라고 13일 밝혔다.

페이스북은 이날 ‘제5차 커뮤니티 규정 집행 보고서’에서 “작년 10월부터 올해 3월까지 6개월간 혐오 발언 등을 인공지능(AI)으로 감지하는 기술을 통해 선제적으로 대응해 왔다”며 “이 같은 감지 기술을 적용할 수 있는 언어를 지속적으로 확장해 나갈 것”이라고 말했다. 혐오 발언 사전 감지율은 지난해 2개 분기(2019년 7∼12월) 대비 8%포인트 개선됐다는 게 페이스북 측의 설명이다.

이 밖에 불법 의약품 관련 콘텐츠를 2019년 4분기(10∼12월) 현재 880만 건 제거하는 등 전 분기(440만 건) 대비 두 배가량의 실적을 올렸다.

인스타그램에서도 자살 및 자해 콘텐츠를 사전에 파악할 수 있도록 텍스트와 이미지 매칭 기술을 향상시켰다. 그 결과 사전 감지율은 지난해 2개 분기(2019년 4∼9월)에 비해 12%포인트 상승했다. 같은 기간 삭제 권고 등 규제 조치가 취해진 콘텐츠 양도 40% 늘었다.

신무경 기자 yes@donga.com