“엄마, 나야…” 10초면 복제되는 나의 목소리[나는 말하지 않았다]

크게보기

10초. 인공지능(AI)이 한 사람의 목소리를 복제하는 데 걸리는 시간이다. 딸의 울음 섞인 전화, 전문가의 확신에 찬 투자 권유, 특정 인종을 비하하는 상사의 모욕적 발언까지…. ‘딥보이스(Deep Voice)’라 불리는 AI 음성 복제 기술은 현실 속 나를 흉내 내며, 진짜와 가짜의 경계를 무너뜨리고 있다.

딥보이스는 이미 우리 일상 곳곳에 깊숙이 스며들고 있다. 딜로이트는 미국 내 딥페이크로 인한 손실이 2023년 123억 달러(약 17조 원)에서 2027년 400억 달러(약 56조 원)로 급증할 것으로 전망했다.

지난 7월 미국 플로리다주에서는 한 여성이 딸의 울음소리를 듣고 1만5000달러를 송금했다. “교통사고로 체포됐다”는 딸의 음성은 실제 딸이 아닌, AI로 합성된 가짜였다. 국내에서도 AI로 생성된 딸의 목소리를 듣고 돈을 보내려던 60대 여성이 역무원의 신고로 피해를 면했다는 내용이 보도되기도 했다. 미국에선 교장의 가짜 인종차별 발언 음성이 퍼져 학교가 혼란에 빠지기도 했다. 복수심에 찬 직원이 AI로 교장의 목소리를 합성한 것이었다.

딥보이스는 개인의 안전 뿐만 아니라 사회 전체의 신뢰 기반 붕괴로 이어질 수 있다. 정수환 숭실대 AI융합보안학과 교수는 “음성 생성 기술의 빠른 발전 속도를 탐지 기술이 따라잡기에 역부족인 상태”라며 “결국 아무것도 믿을 수 없는 시대가 올 수 있다”고 경고했다.

유럽연합(EU)과 미국은 AI 생성 음성에 워터마크 표시를 의무화하는 등 딥페이크·딥보이스 규제에 나섰지만, 한국의 대응은 아직 걸음마 단계다. 내년 시행되는 ‘AI 기본법’은 AI의 투명성과 안정성을 규정하지만 ‘고영향 AI’의 정의가 모호해 실효성에 의문이 제기된다. 김명주 서울여대 정보보호학과 교수는 “AI로 구현해선 안 되는 분야를 구체적으로 규정한 EU 인공지능법처럼 한국도 세부 기준을 마련해야 한다”고 강조했다.

AI가 10초도 안 되는 목소리 샘플로 당신의 목소리를 복제해 내는 섬뜩한 경험을 생생하게 표현하기 위해 동아일보 디지털랩은 27일 미니 히어로콘텐츠 ＜나는 말하지 않았다＞를 선보인다. 나의 목소리가 더 이상 나만의 것이 아닌 시대의 불안을 인터랙티브 콘텐츠로 직접 체험할 수 있다.

인터랙티브 기사에서는 자신의 목소리뿐만 아니라, ‘명탐정 코난’의 남도일 역으로 잘 알려진 강수진 성우의 목소리가 AI로 복제되는 과정도 살펴볼 수 있다. 포털사이트에서는 이 주소(https://original.donga.com/2025/never_said)를 복사해 인터넷 주소창에 붙여 넣으면 인터랙티브 기사로 연결된다.