카카오 ‘뉴스 욕설’ 댓글에 ‘♩♪’ 붙이자…‘악플’ 3분의1로 ‘뚝’

카카오 ‘세이프봇’ 운영 성과 공개 (카카오 제공)

카카오가 지난 2년간 뉴스 댓글에 인공지능(AI) 기반 댓글 필터링 기능인 ‘세이프봇’을 적용하자 악성 댓글이 3분의1 수준으로 줄어든 것으로 14일 나타났다. ‘세이프봇’은 지난 2020년 12월 처음 도입됐다.

이날 카카오에 따르면, 세이프봇이 없었던 2020년 하반기와 비교하면 욕설·비속어가 들어간 댓글수가 2021년 53.7%·2022년 63.8% 줄었다.

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다.

‘세이프봇’은 AI 기술로 욕설·비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 자동으로 거르는 역할을 한다.

욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글이 나오지 않도록 가려준다. 또 신고처리까지 자동으로 완료한다.

김종한 카카오 다음사업개발실장은 “카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다”며 “앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술의 고도화에 노력할 것”이라고 말했다.

한편 카카오는 AI 기술을 고도화해 세이프봇의 성능을 더욱 강화하겠다는 방침이다. 지난 8월 증오발언 대응을 위한 ‘코딩북’ 제작에 나선 가운데, 증오발언을 판별하는 학습 데이터를 구축해 내년 상반기에 세이프봇에 적용한다.

(서울=뉴스1)