AI로 생성된 가짜 영상, AI로 걸러낸다

AI 콘텐츠 범람해 광고업계 비상
신뢰도나 구매욕 떨어져
영상분석 솔루션 등등 속속 등장
원하는 영상 뒤에만 광고하는 기술

도널드 트럼프 미국 대통령이 한국에서 선물받은 금관 모형을 쓰고 춤을 추고 있는 인공지능(AI) 가짜 영상이 소셜네트워크서비스(SNS)에서 인기를 끌고 있다. 최근 이 같은 AI 영상이 난무하며 이를 선별하려는 안전 기술 개발이 활발하게 일어나고 있다. X 캡처

지난달 한국을 찾은 도널드 트럼프 미국 대통령에게 이재명 대통령이 선물한 천마총 금관 모형이 화제가 되며, 유튜브 등 소셜네트워크서비스(SNS)에서는 트럼프 대통령이 금관을 쓴 사진과 영상이 빠르게 퍼지고 있다. 물론 인공지능(AI)으로 생성된 ‘가짜 영상’이다.

최근 AI로 생성된 가짜 영상이나 저품질 영상, 이른바 ‘AI 슬롭(Slop·찌꺼기)’이 폭발적으로 늘고 있다. 원하지 않는 영상에 노출돼 불편함을 호소하는 SNS 사용자가 많아지는 동시에 SNS를 통해 광고를 하는 기업들도 부적절한 영상 뒤에 광고가 붙는 경우가 발생해 불만이 커지고 있다. 이에 정보통신기술(ICT) 업계에서는 원하지 않는 AI 영상을 걸러주는 안전 기술 개발에 대한 관심이 치솟고 있다.

● AI 영상 뒤에 붙는 광고, 신뢰 절반으로 하락

지난해 유튜브가 발표한 ‘AI와 크리에이터: 기술과 창의성의 미래’라는 보고서에 따르면 유튜브 크리에이터의 92%가 생성형 AI 도구를 활용해 영상을 제작하고 있다. ‘달리’ ‘미드저니’ ‘소라’ 등 다양한 동영상 생성 AI가 출시되며 이런 흐름은 더욱 가속화될 것으로 전망된다. AI만으로 제작한 영상 채널도 큰 인기를 끌고 있다. 올해 6월 시장분석기관 튜브필터의 조사 결과 유튜브 인기 채널 50개 중 8개는 AI가 생성한 ‘쇼츠’(짧은 영상) 채널이었다.

하지만 이런 AI 콘텐츠가 범람하며 광고업계에는 비상이 걸렸다. AI로 만든 영상들과 함께 광고가 노출됐을 때 브랜드에 대한 신뢰도나 소비자의 구매욕이 크게 떨어질 수 있기 때문이다.

실제로 광고 조사기관인 랩티브가 올해 7월 발표한 자료에 따르면 시청하는 영상이 AI가 생성한 것으로 의심될 때 시청자의 신뢰도는 약 절반 수준으로 감소했다. 또 광고를 봤을 때 제품에 대한 구매 의사도 14%가량 떨어졌다. 기업이 해당 광고가 노출되는 채널이나 영상 등에 신경을 기울이지 않았다는 인상을 받기 때문이라는 분석이 나온다.

● 하루 2000만 건 이상 영상 분석하는 AI 솔루션

이런 부정적 효과를 막기 위한 광고주들의 수요가 늘면서 원하는 영상 뒤에만 광고가 붙을 수 있도록 솔루션을 제공하는 기업도 많아지고 있다. 국내에서는 파일러 등 스타트업들이 등이 AI 영상 안전 기술을 개발하고 있다.

파일러의 경우 실시간으로 대규모 영상을 분석하는 ‘에이드(AiD)’ 솔루션을 개발해 기업에 제공 중이다. 브랜드 광고가 허위 AI 영상 등 부적절한 콘텐츠 뒤에 붙을 경우 이를 실시간으로 잡아내 차단 조치를 하는 방식이다. 오재호 파일러 대표는 동아일보와의 인터뷰에서 “유튜브에만 하루에 2000만 개 이상의 영상이 올라온다”며 “이걸 사람이 보고 유해 콘텐츠를 걸러낸다는 것은 현실적으로 불가능하고 업무자에게도 엄청난 정신적 피로를 줄 수 있기 때문에 이런 AI 솔루션 기술이 필요하다”고 설명했다. 에이드는 영상, 이미지, 음성, 텍스트 등 여러 종류의 입력 값을 모두 학습한 멀티모달 AI 모델로 여러 데이터를 종합해 부적절한 콘텐츠를 걸러낸다. 

업계 관계자는 “광고 환경이 급변하고 콘텐츠를 생성하는 도구가 다양해지며 브랜드 광고를 관리하는 솔루션 기술이 각광받고 있다”며 “갈수록 다양해지는 유해 콘텐츠를 잘 선별하고 빠르게 대처하는 기업이 승기를 잡을 것”이라고 했다.

최지원 기자 jwchoi@donga.com
김하경 기자 whatsup@donga.com