‘손흥민·침착맨이 추천해서 믿었는데’…AI 딥페이크 광고 주의보

스포츠스타, 유튜버 등 유명인이 직접 추천하는 것처럼 영상을 조작한 사례. 사진제공=한국소비자원

“이 앱은 한국 관광·휴양기관의 정식 라이선스를 받아 운영되기 때문에 믿고 이용하실 수 있습니다. 친구를 초대하지 않아도 돈을 벌 수 있습니다. 모든 당첨금은 단 5분 만에 은행 카드로 입금됩니다. 지금 애플리케이션을 설치하고 보너스를 받아 온라인 카지노를 즐겨보세요 (AI 딥페이크 광고 사례)”

유명인이 직접 추천하는 것처럼 조작된 AI 딥페이크 도박 광고가 SNS 전반으로 확산하며 소비자 피해 우려가 커지고 있다. 광고 영상에는 실제 존재하지 않는 ‘공식 인증’, ‘합법 운영’ 문구가 붙어 있어 온라인 도박이 모두 불법이라는 사실을 모르는 소비자를 노리도록 제작되고 있다.

10일 한국소비자원은 최근 SNS 온라인 도박 광고를 모니터링한 결과, 딥페이크 등 부당한 방식의 허위 광고 사례 38건이 확인됐다고 밝혔다.

한국에서 온라인 도박은 그 자체로 불법이다. 하지만 이들 광고는 유명인이나 언론, 공공기관이 홍보하는 것처럼 조작하여 합법적이라고 소비자를 오인시키고 있다. 무엇보다 AI 기술을 활용한 딥페이크 제작이 쉬워지면서 소비자에게 더욱 심각한 혼란을 야기하고 있다.

소비자원이 확인한 딥페이크 광고는 14건(중복 포함)으로, 이 중 6건은 유명인의 얼굴을 합성해 직접 홍보하는 방식이었고, 8건은 MBC·KBS 등 국내 뉴스 화면을 조작한 가짜 보도 형식이었다.

뉴스 방송에서 소개하는 것처럼 영상을 조작한 사례. 사진제공=한국소비자원

정부 부처나 공공기관을 사칭한 광고도 24건에 달했다. 기획재정부·강원랜드 등의 명칭과 로고를 무단 사용해 마치 국가기관이 운영·승인한 합법 서비스인 것처럼 꾸민 것이다. 일부 광고는 유명 기업의 로고와 캐릭터를 도용해 제휴 사업처럼 소비자를 속이기도 했다. 이 같은 브랜드 도용 사례는 13건으로 파악됐다.

문제는 광고 게시자 정보를 추적하기 어려운 점이다. 대부분의 게시물이 해외 서버를 기반으로 하거나 익명 계정에서 확산되기 때문이다. 소비자원은 조사 결과를 해당 플랫폼 운영사(메타)와 공유하고, 동일·유사한 광고가 게시되지 않도록 협조를 요청했다. 아울러 앞으로도 주요 온라인 플랫폼의 허위·과장 광고 모니터링을 강화하고 특히 딥페이크 영상에 적극적으로 대응할 예정이다.

소비자에게는 ▲온라인 도박은 모두 불법인 점 ▲최근 AI 기술의 발달로 누구나 손쉽게 딥페이크 및 합성 광고 영상을 제작할 수 있는 점 등을 인지해 불법 도박 광고에 현혹되지 않도록 주의를 당부했다.