틱톡, AI가 만든 콘텐츠 가려내는 ‘라벨’ 부착 도입…“이용자 보호”

콘텐츠 인증 기술을 통해 AI 생성 콘텐츠에 자동으로 ‘AI 생성’ 라벨을 부착하는 과정(틱톡 코리아 제공)

틱톡이 타 플랫폼에서 제작된 인공지능(AI) 생성 콘텐츠에 자동으로 ‘AI 생성’ 라벨을 붙이는 정책을 시행한다.

틱톡은 관련 기술을 갖춘 협의체 ‘콘텐츠 출처 및 진위 확인을 위한 연합’(C2PA)과 파트너십을 체결 후 ‘콘텐츠 인증’을 도입한다고 10일 밝혔다. C2PA는 어도비가 마이크로소프트·트루픽·암·인텔·BBC 등과 손잡고 만든 단체다.

콘텐츠 인증을 쓰면 특정 콘텐츠가 AI 생성인지를 가리는 메타 데이터가 즉각 콘텐츠에 연동된다. 틱톡은 이를 활용해 라벨링을 할 수 있다.

이 기능은 현재 이미지·영상 콘텐츠서 적용됐으며 수주 이내로 오디오 전용 콘텐츠까지 확대된다. 또 수개월 내로 틱톡 콘텐츠에도 연결시켜 콘텐츠를 내려받는다 하더라도 라벨이 따라붙는다.

이 라벨은 C2PA의 검증 툴로 분석 가능하다. 사용자는 AI 생성 콘텐츠가 언제, 어디서, 어떻게 제작·편집됐는지 알 수 있게 된다.

틱톡은 “콘텐츠가 AI로 제작됐다는 사실이 명시하지 않을 경우 시청자를 호도하거나 혼란을 야기할 우려가 있다”며 “콘텐츠 맥락을 정확히 파악하는 데 도움을 주고자 이번 조치를 시행했다”고 설명했다. 이용자 보호가 목적이란 의미다.

앞서 틱톡은 자체적인 AI 생성 표시 라벨 부착 툴을 개발하기도 했다. 지난 1년간 크리에이터에게 이 툴을 사용할 것을 독려한 바 있다.

한편 틱톡은 C2PA와 콘텐츠 투명성을 선도한다는 내용의 파트너십도 체결했다. 또 어도비가 주도하는 콘텐츠 진위 이니셔티브(CAI)에도 참여했다. 전문가 지침을 반영한 미디어 리터러시 교육을 틱톡 사용자층에 제공할 계획이다.

틱톡은 “콘텐츠 인증에는 메타데이터가 필요하기 때문에 초기에는 라벨 부착 작업이 다소 점진적으로 진행될 수 있다”면서도 “다른 플랫폼들이 함께 콘텐츠 인증을 도입하면 더 많은 콘텐츠에 라벨이 부착될 것”이라고 전망했다.

(서울=뉴스1)