기사와 직접적 관련 없는 참고사진. 게티이미지
홍콩의 한 금융사 직원이 딥페이크(생성형 AI를 활용한 가짜 이미지나 영상)로 만들어진 가짜 상사와의 영상통화에 속아 2억 홍콩달러(약 342억 원)를 송금하는 사기를 당했다.
4일(현지시간) 홍콩 사우스차이나모닝포스트(SCMP)와 미국 CNN에 따르면 홍콩 경찰 당국은 지난 2일 브리핑을 통해 최근 이 같은 AI 딥페이크 사기가 기승을 부린다며 각별한 주의를 당부했다.
홍콩 경찰에 따르면 지난달 중순 한 글로벌 금융사의 홍콩 지부에서 일하는 재무직원은 영국 본사의 최고재무책임자(CFO)에게 받은 이메일에서 거액의 돈을 비밀리에 거래할 것을 요구받았다.
직원은 이들의 지시에 따라 홍콩 시중은행 계좌 5곳에 15차례에 걸쳐 총 2억 홍콩달러를 이체했다. 그는 이후 영국 본사에 직접 문의한 끝에 사기당했음을 알고 경찰에 신고했다.
사기꾼 일당은 CFO를 비롯해 화상회의에 참석한 모든 직원의 얼굴을 딥페이크로 재현해 피해 직원을 속인 것으로 드러났다. 홍콩 경찰 당국자는 “여러 명이 참석한 화상회의에서 이 직원이 봤던 모든 사람은 가짜였다”고 말했다.
피의자들은 직원의 의심을 차단하기 위해 그룹 화상회의 외에도 메신저와 이메일, 일대일 화상통화를 병행하는 등 범행 수법을 다양화했다. 입금 지시는 주로 그룹 화상회의를 종료하기 직전에 내렸다.
홍콩 경찰은 최근 적발된 딥페이크를 악용한 사기 행각이 최소 스무 건에 달한다고 밝혔다. 최근 체포된 또 다른 사기 일당은 지난해 7월~9월 분실 신분증 8개를 도용해 만든 딥페이크 이미지로 은행 대출 90건을 받고 계좌 54개를 만들었다.
딥페이크(deepfake)는 AI 기술인 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어다. 인공지능으로 특정 인물의 이미지나 목소리 등을 디지털 콘텐츠에 합성하는 기술이다. 최근 딥페이크 기술을 악용한 허위 정보가 확산하는 사례가 늘고 있다.
미국에서는 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란 이미지가 소셜미디어에 유포돼 팬들의 공분을 일으켰다. 지난달 23일 미 뉴햄프셔주(州) 프라이머리(예비선거)를 앞두고 조 바이든 대통령을 사칭해 현지 민주당 당원들에게 경선 불참을 권유하는 딥페이크 음성이 유포돼 논란이 일기도 했다.
이혜원 동아닷컴 기자 hyewon@donga.com