“목소리까지 복제된다” 인터폴 경고…AI 보이스피싱 급증, 딥페이크 사기 확산

딥페이크 사기를 의미하는 스마트폰 화면 속 가짜 인물 얼굴과 ‘DEEPFAKE SCAM’ 문구, 동남아시아 지도 위에 연결된 AI 네트워크 그래픽이 표현된 이미지. 제미나이 AI 생성 이미지

동남아시아 범죄 조직들이 생성형 인공지능(AI)을 활용해 보이스피싱과 온라인 사기를 빠르게 고도화하면서 전 세계 피해가 급속히 확산되고 있다. 인터폴은 딥페이크 영상과 음성 복제 기술까지 결합되면서 AI가 범죄의 ‘가성비’를 크게 높이며 사기 산업의 규모와 확산 속도를 동시에 키우고 있다고 경고했다.

9일(현지시간) 블룸버그통신에 따르면 인터폴 고위 관계자들은 동남아시아 스캠센터들이 대형언어모델(LLM)과 음성 합성, 이미지 생성 도구 등을 활용해 더 많은 잠재 피해자를 짧은 시간에 겨냥하고 있으며, 각국 정부의 단속에도 불구하고 사기 산업이 기술을 기반으로 빠르게 진화하고 있다고 밝혔다.

● 왜 AI는 사기 범죄의 ‘효율’을 크게 높이고 있나

인터폴 사이버범죄국의 닐 제튼 국장은 “AI가 스캠센터 운영의 효율성을 크게 높이고 있으며 이미 비교적 쉬운 범죄 사업 모델을 더욱 확장 가능하게 만들고 있다”고 말했다. 그는 음성 복제 기술과 생성형 이미지 도구를 이용하면 실제 인물처럼 보이는 프로필을 빠르게 만들 수 있고, 다양한 언어로 자연스러운 사기 메시지를 작성하는 것도 가능해졌다고 설명했다.

과거에는 온라인 광고나 메시지에 나타나는 어색한 문장이나 문법 오류가 사기를 구별하는 단서가 되는 경우가 많았지만, 이제는 적절한 프롬프트만 입력하면 현실적인 광고와 자연스러운 메시지를 몇 초 만에 생성할 수 있다. 인터폴은 AI가 범죄 조직이 단속을 피해 표적 국가와 활동 거점을 신속하게 이동하는 데에도 활용되고 있다고 밝혔다.

● 단속 강화에도 스캠 산업은 왜 사라지지 않나

스캠센터의 AI 활용은 각국의 단속 강화와 맞물려 나타나고 있다. 캄보디아는 미국과 중국, 태국 등의 압박 속에 최근 스캠센터 단속을 확대했으며, 국제 범죄 조직 수장으로 지목된 인물이 체포되는 등 일부 성과도 나타났다. 그러나 인터폴은 스캠센터가 근절되기보다 기술을 활용해 형태를 바꾸며 확장될 가능성이 더 크다고 보고 있다. AI가 운영 비용을 낮추면서 범죄 조직이 적발 위험을 감수하더라도 규모를 확대하려는 유인이 커졌기 때문이다.

전문가들은 스캠 범죄의 사회적 피해 규모가 이미 상당한 수준에 이르렀다고 평가한다. 미국 평화연구소(USIP)는 국제 범죄 조직이 불법 온라인 도박과 각종 스캠을 통해 전 세계에서 갈취한 자금 규모가 2023년 기준 최소 연간 640억 달러(약 93조 원)에 달하는 것으로 추정했다. 다만 피해 신고가 제대로 이뤄지지 않는 사례가 많아 실제 규모는 더 클 가능성이 높다.

반면, 수사 당국 역시 AI를 활용해 사기꾼을 추적할 잠재력이 있지만, 이는 범죄자의 속도를 따라잡을 수 있을 때만 가능하다. 국제전략문제연구소(CSIS)의 줄리아 딕슨 연구원은 “범죄 산업이 점점 전문화되고 있으며, 사기꾼들이 챗GPT 같은 LLM을 사용해 자신이 유창하지 않은 언어로도 매우 자연스러운 메시지를 작성하고 있다”고 분석했다. 또한 딥페이크 기술로 목소리를 흉내 내거나, 영상 통화에서 남성이 여성의 모습으로 합성된 화면을 이용해 전 세계 사람들을 속이고 있다고 경고했다.

크게보기

가면을 쓴 남성 사기꾼에게 돈을 주는 여성. 사기 개념 일러스트레이션. 게티이미지뱅크

● AI 확산이 바꾸는 범죄 지도

AI 확산은 범죄 지리도 역시 바꾸고 있다. 동남아시아에 집중됐던 스캠 조직 활동이 최근 미주와 아프리카, 중동 등 다른 지역으로도 확산되고 있으며, 일부 지역에서는 현지 조직이 같은 방식의 스캠 센터를 운영하는 사례도 나타나고 있다.

인터폴은 향후 스캠 조직의 인력 구조에도 변화가 나타날 것으로 전망했다. AI 자동화가 확대되면 단순 사기 작업을 수행하던 인력 수요는 줄어드는 반면, 자금 세탁을 담당하는 인력과 시스템 구축 엔지니어, 조직 운영 인력의 중요성은 더욱 커질 가능성이 높다.

전문가들은 수사기관 역시 AI 기반 탐지 기술과 국제 공조 체계를 강화하지 못할 경우 범죄 조직과의 기술 격차가 빠르게 확대될 수 있다고 경고한다. AI가 사기 범죄의 비용을 낮추고 확산 속도를 높이면서 글로벌 사이버 범죄 위험이 새로운 단계에 들어섰다는 평가가 나온다.

■ 팩트필터 | AI 스캠 시대, 피해 예방 3단계 골든룰
보안 전문가들은 다음과 같은 기본 대응 원칙을 권고한다.

의심하고 멈춰라
갑작스러운 금전 요청이나 긴급 상황 메시지는 즉시 대응하지 말고 잠시 확인 절차를 거친다.

직접 채널로 확인하라
메시지가 온 플랫폼이 아닌, 기존에 알고 있던 전화번호 등 다른 연락 수단으로 본인 여부를 재확인한다.

개인정보 노출을 줄여라
SNS 음성·영상 게시물은 음성 복제와 딥페이크 제작에 활용될 수 있어 공개 범위와 게시 내용을 관리하는 것이 필요하다.