“딥페이크 꼼짝 마!”… AI 보안관-디지털 DNA로 잡는다

무단 유포 영상-사칭 계정 추적해 악용되면 플랫폼에 즉각 삭제 요청
외형-표정-목소리 등 DB로 저장해 개인 공식 지식재산권만 사용 추진
디지털 초상권 법제화 필요성 대두

디지털 카메라 100여 대로 사람 외형, 표정, 몸짓 등을 기록해 디지털 데이터로 저장하는 3D 스캐너. 한국디지털디엔에이센터(KDDC)는 이 데이터가 합법적 디지털 초상권 행사의 기반이 될 수 있다고 설명한다. KDDC 제공

블랙핑크 멤버들이 서로를 거칠게 밀치고 때리는 영상이 최근 온라인을 뜨겁게 달궜다. 몸싸움은 양복을 차려입은 남성이 내민 돈봉투 앞에서 끝이 났다. 찰나의 표정부터 근육 움직임까지 실사와 구별하기 어려울 만큼 생생했지만 이는 인공지능(AI)으로 만들어 낸 정교한 가짜였다. 아티스트의 동의는커녕 소속사가 알지도 못한 채 제작된 영상은 기술의 진보가 개인의 존엄을 얼마나 쉽게 무너뜨릴 수 있는지 여실히 보여줬다.

● 진짜보다 더 진짜 같은 가짜의 시대

불과 얼마 전까지 “AI 영상은 어색하다”는 평가가 일반적이었지만 이제는 옛말이다. 전문적인 조명부터 자연스러운 카메라 워킹까지 구현하는 AI 기술은 영상 산업의 지형을 흔들고 있다. 하지만 기술 발전의 이면에는 ‘나보다 더 나 같은’ 복제본이 내 권리를 침해하고 수익을 가로채는 현실이 있다.

한 인스타그램 유저는 할리우드 스타들과 찍은 셀카 영상을 게재해 1억 회가 넘는 조회수를 확보했다. 실제로 스타들은 그와 사진을 찍은 일이 없고 그가 이 영상을 인스타그램에 올리기 전까지 게재 계획조차 알지 못했다. ‘팬 콘텐츠’로 치부해 너그럽게 봐주기에는 제작자가 얻는 이익이 지나치게 크다. 조회수가 곧 수익으로 직결되는 디지털 생태계에서 유명인의 얼굴은 가장 강력한 상업적 도구이기 때문이다.

● 딥페이크 감시부터 수익 창출까지

자신의 초상권이 웹의 사각지대에서 도용 혹은 악용되는 상황을 개인이 일일이 파악하기란 불가능에 가깝다. 이런 불안감을 포착해 비즈니스로 연결한 기업이 미국 소재 로티 AI(LOTI AI)다. 로티 AI는 딥페이크 탐지 및 삭제를 전문으로 하는, 이른바 ‘AI 보안관’ 역할을 자처한다.

로티 AI는 사용자들이 제공한 사진, 영상, 음성 데이터를 기반으로 실시간 웹을 모니터링해 무단 유포된 딥페이크 영상이나 사칭 계정을 추적한다. 악용 사례가 발견되면 자동화된 시스템으로 플랫폼에 즉각 삭제를 요청한다.

한발 더 나아가 디지털 초상권을 적극적인 수익 모델로 전환하려는 움직임도 나타나고 있다. VFX(시각 효과) 전문기업 엠83(M83)의 자회사 KDDC(한국디지털디엔에이센터)는 개인의 ‘디지털 DNA’를 해당 인물의 공식 IP(지식재산권)로 만들어 AI 콘텐츠 제작 시 합법적 재료로 활용하기 위한 준비를 시작했다.

KDDC는 100여 대 카메라가 장착된 3D 스캐너로 인물 외형, 표정, 목소리, 말투까지 정밀하게 스캔해 데이터베이스에 저장한다. 이렇게 등록된 데이터만 합법적 사용을 승인하고 미등록 합성물은 불법으로 식별하는 체계를 만드는 것이 목표다.

정의석 KDDC 대표는 “광고 모델이 꼭 촬영 현장에 있지 않아도 그의 디지털 DNA를 이용해 광고를 제작하고 수익을 정산할 수 있다”고 설명했다. KDDC는 현재 한국연예인매니지먼트협회와 협업해 협회 소속 연예인들의 디지털 DNA를 구축 중이다.

● “디지털 초상권,법-제도 정비 필요”

영화 ‘추격자’ ‘미쓰홍당무’의 투자·제작사인 벤티지홀딩스를 이끌며 영화계 경험을 쌓아 온 정 대표는 AI로 인해 영상 생태계가 근본적으로 재편되는 시점이 4∼5년 내 도래할 것으로 전망한다. 그는 이에 앞서 디지털 초상권에 대한 법적·제도적 기반이 구축돼야만 건강한 영상 산업 생태계가 조성될 수 있다고 강조했다.

현행 법체계에는 디지털 초상권이 명시적으로 규정되어 있지 않다. 기존 초상권은 촬영, 공표 행위를 중심으로 해석돼 왔으며 AI 기술을 통해 합성된 디지털 초상물에 대한 구체적 적용 기준은 없다.

저작권법 측면에서도 법적 공백이 존재한다. 저작권법은 저작물을 ‘인간의 사상 또는 감정을 표현한 창작물’로 정의하고 있어 AI가 생성한 결과물은 원칙적으로 저작물로 인정하지 않는다. 다만 인간 저작자의 실질적인 작업 지시를 통한 창작적 기여가 인정되는 경우에 한해 제한적으로 저작권 보호 대상이 된다.

정 대표는 “AI 기술의 대중화로 누구나 콘텐츠를 생성할 수 있는 시대가 도래했지만 이를 뒷받침할 권리 체계가 부재한 상황에서는 생성 결과물의 법적 소유권이 사후적으로 다툼의 대상이 될 수밖에 없다”며 “개인의 인격권과 재산권을 보호하는 동시에 AI 시대 창작 생태계를 지속 가능하게 만들 법적, 제도적 인프라 구축이 절실하다”고 말했다.



김현지 기자 nuk@donga.com