명문대 전문의라며 약 판 ‘AI 가짜의사’, 최대 5배 배상금

“안 빠지는 똥배 없다… 기미가 싹”
AI로 만든 허위 의사가 과장 광고
정부, AI생성물 표시 의무화 추진… 정보 조작하면 징벌적 손배 엄벌
허위광고는 24시간내 심의해 차단

인공지능(AI)으로 만든 가짜 의사와 전문가를 활용한 식품과 건강기능식품 광고가 소셜네트워크서비스(SNS)를 통해 널리 퍼지고 있다. 정부는 10일 열린 제7회 국가조정회의에서 이 같은 AI 등을 활용한 식·의약품, 화장품 등의 광고로 인한 소비자 피해에 대응하기 위해 AI 생성물 표시제, 징벌적 손해배상제도 등을 도입하기로 했다. 국무총리실 제공

‘S대 출신 소아비만 치료 전문의 최OO 교수’가 “식욕은 줄고 지방은 사라진다”며 비만 치료제를 소개하고 ‘20년 차 피부 전문의’는 청중을 향해 “일주일 만에 기미가 싹 사라진다”며 개발된 화장품을 안내한다. 하지만 이는 모두 인공지능(AI)이 만들어낸 가상의 50, 60대 전문가들을 앞세운 허위 광고들이다. “빠지는 속도가 미쳤다는 지흡(지방 흡입) 패치, 이거 쓰고 안 빠지는 똥배는 없다”며 AI가 생성한 전후 사진 체험기를 가장한 화장품 광고, 축구선수 크리스티아누 호날두나 손흥민의 딥페이크 영상을 활용한 불법 도박사이트 추천 광고도 등장했다.

● 손해 최대 5배 배상 징벌적 손배제도 도입하기로

정부는 이 같은 신종 광고 관행을 근절하기 위해 10일 ‘AI 등을 활용한 시장질서 교란 허위·과장 광고 대응 방안’을 내놨다. AI 생성물을 활용한 허위·과장 광고를 근절하기 위해 AI로 만든 콘텐츠를 명백히 밝히도록 한 ‘표시 의무제’, 허위·조작 정보를 유통한 제작물은 실제 손해액의 5배를 배상할 수 있도록 하는 징벌적 손해배상 등을 내년까지 도입하고 과징금을 대폭 올리는 것이 핵심이다.

이동훈 국무조정실 재정금융정책관이 지난 9일 서울 종로구 정부서울청사에서 AI 등 활용 허위·과장 광고 대응 방안을 발표하고 있다. 2025.12.10 뉴스1

먼저 정부는 온라인 플랫폼에 AI가 만든 콘텐츠를 올리는 모든 게시자에게 해당 게시물이 AI 생성물임을 표시하도록 의무화하는 방안을 추진한다. 내년 1월 시행 예정인 AI 기본법에 따라 ‘AI 개발사업자’ 등에만 표시 의무가 있었지만, 실제로 생성물을 올리는 포털과 플랫폼 사업자까지 책임 범위를 넓히겠다는 것이다. 또 플랫폼 이용자가 AI 표시를 임의로 지우거나 훼손하는 것도 금지해 소비자가 AI로 만든 콘텐츠인지를 직관적으로 알 수 있게 할 예정이다. 유튜버나 스포츠 스타 등의 딥페이크 생성물에 대해서도 반드시 고지하거나 표시하도록 하는 의무도 부과한다. 내년 1월 AI 기본법 시행령 제정과 함께 표시 의무 등을 담은 투명성 확보 가이드라인도 시행하겠다는 방침이다.

정부는 특히 정보통신망을 통한 허위·조작 정보 유통에 대한 제재를 대폭 강화하겠다는 방침도 밝혔다. AI 기술로 가상의 전문가를 생성해 특정 제품의 성능을 허위로 광고하는 행태는 소비자 기만이라는 이유다. AI가 생성한 의사 등 전문가가 식품·화장품·의약품 등을 추천하는 광고는 실제 의사 등 전문가라고 소비자가 믿을 가능성이 높기 때문이다. 이에 따라 적발 시 기존보다 최소 두 배 이상의 과징금을 부과하는 한편 허위임을 알면서도 고의로 허위나 조작 정보를 유통하면 실제 손해액의 최대 5배를 배상하는 징벌적 손해배상제를 도입하겠다고 총리실은 밝혔다. 불법 행위와 관련된 과징금도 현행 매출액의 최대 2%에서 상향하기로 했다. 

이동훈 국무조정실 재정금융정책관이 지난 9일 서울 종로구 정부서울청사에서 AI 등 활용 허위·과장 광고 대응 방안을 발표하고 있다. 2025.12.10 뉴스1

허위·과장 광고의 사후 차단 속도도 대폭 높이기로 했다. 방송·통신 심의 과정에 서면 심의를 도입해, 식품·의약품 등 AI 허위·과장 광고에 대해서는 요청 후 24시간 내 심의를 신속하게 받을 수 있도록 하겠다는 것. 국민의 재산·생명에 대한 피해 발생이 임박한 사안에는 심의 전에 플랫폼 사업자에게 임시 차단과 같은 조치를 취할 수 있는 긴급 절차도 추진한다.

● 김민석 국무총리 “AI 생성 허위·과장 광고, 중대한 범죄 행위”

김 총리는 이날 오전 제7회 국가정책조정회의에서 “허위·과장 광고가 극심하다. 최근엔 소셜네트워크서비스(SNS)를 통해 더욱 급속히 확산하고 있다”며 개선을 주문했다. 그러면서 ‘생성형 AI’ 등 신기술을 악용하는 광고를 거론하며 “시장 질서 교란뿐 아니라 소비자 피해가 심한 중대한 범죄 행위로 판단한다”고 규정했다. 김 총리는 “정부는 AI를 활용한 허위·과장 광고에 대해 사전 유통 예방뿐 아니라 신속한 사후 차단도 추진하고자 한다”며 AI 생성물 표시의무제 도입과 함께 허위 광고 시정에 필요한 심의 속도를 올리겠다고 했다.

신나리 기자 journari@donga.com