카카오, UN본부 주관 회의서 ‘디지털 안전 성과’ 발표

카카오는 10일(현지시간) 미국 뉴욕 UN본부에서 열린 ‘UN 대테러사무국-테크 기업 협의 회의’에서 디지털 안전을 위한 정책과 사례들을 발표했다고 11일 밝혔다.

회의는 테러 목적의 ICT 악용의 예방 및 대응을 위한 비구속적 지침서를 마련하고자 UN 안전보장이사회 산하 대테러사무국에서 주관했다. 테크 산업 내 디지털 안전을 위한 기업들의 모범 사례 공유, 지침서 마련과 관련된 의견 수립 및 발전 방향 등이 다뤄졌다.

온라인으로 참여한 카카오는 유해 콘텐츠 유통을 막는 디지털 안전 정책, AI(인공지능) 등 기술을 통한 선제 대응 사례, 혐오표현 대응을 위한 시민사회 협력 모델을 소개했다.

증오발언 대응 정책 실무를 이끌어 온 카카오 정책팀 김수원 박사는 카카오의 디지털 안전 철학을 소개했다. 그는 “카카오는 자유로운 커뮤니케이션의 가치, 표현의 자유를 중요하게 생각하지만 사회 갈등을 심화하고 인권을 침해하며 극단적 폭력으로 이어질 위험이 있는 콘텐츠와 증오발언에는 적극 대응하고 있다”고 말했다.

카카오는 디지털 안전 철학이 AI 기술에 적용된 ‘세이프봇’의 사례도 공유했다. 카카오 서비스 내에서 게시물 운영정책을 위반한 콘텐츠를 AI 기술로 분석해 자동으로 필터링하는 기능이다. 혐오표현 근절을 위한 시민사회와 협력 모델도 소개했다.

김대원 카카오 정책팀장은 “카카오는 앞으로도 IT기업이 갖춰야 할 사회적 책임을 이행해 가며 디지털 생태계의 건강성을 위해 꾸준히 노력할 것”이라고 말했다.

두가온 동아닷컴 기자 gggah@donga.com