SNS에 판치는 ‘AI 영상’…가짜 판별하는 방법은?

최근 국내에서 화제가 됐던 AI 영상들. 왼쪽부터 ‘서울 도심 한복판에서 용암 분출’, ‘폭우로 경복궁 침수’, ‘러브버그 천적은 참새’를 영상 제작 AI로 만든 가짜 영상들이다. (출처=유튜브 채널 딸깍디자이너, 골파닭, 자연의분노 캡처)

“러브버그 먹는 참새, 서울 한복판에 용암 분출, 폭우로 경복궁 침수…”

모두 대한민국을 뒤흔든 ‘가짜 영상’들이다. 오픈AI·구글 등 글로벌 빅테크 기업들이 앞다퉈 AI 영상 모델을 선보이며 SNS가 이를 활용한 영상으로 뒤덮이고 있다. 이에따라 AI 제작물을 판별하는 ‘AI 리터러시’가 중요하다는 지적이 이어지고 있다. 

3일(현지 시각) BBC에 따르면, 미국 UC버클리대 컴퓨터공학과 해니 파리드(Hany Farid) 교수는 엉터리 AI 영상(슬롭·Slop)이 SNS를 뒤덮고 있다며 “AI 영상을 구별하려면 해상도, 화질, 그리고 영상의 길이를 반드시 확인해야 한다”고 조언했다.

● 가장 먼저 봐야 할 건 ‘화질’

미국에서 화제가 된 가짜 AI 영상들. 왼쪽부터 ‘재벌들을 경계해야 한다 주장하는 목사’, ‘뉴욕 지하철에서 만난 남녀’를 다룬 AI 영상이다. (출처=틱톡 @guided_in_graces, @bestoftheinternet67 캡처)

AI 영상임을 가장 쉽게 의심할 수 있는 단서는 ‘화질’이다. 형태를 알아보기 어렵거나, 물체가 뭉개지는 등의 현상이 보이면 AI 제작 영상일 가능성이 높다는 것이다.

파리드 교수는 “화질이 거칠고 흐릿한 영상은 AI로 생성됐을 가능성이 크다”며 “화질이 나쁜 영상은 항상 경계해야 한다”고 말했다.

최근 전 세계에서 확산된 AI 영상 대부분이 매우 낮은 화질이었다. 밤에 토끼가 트램펄린 위에서 뛰노는 영상, 뉴욕 지하철에서 남녀가 대화를 나누는 영상, 보수 성향의 목사가 “재벌을 경계하라”고 설교하는 영상 등이 대표적이다.

국내에서도 러브버그를 먹는 참새, 서울 한복판의 용암 분출, 폭우로 침수된 경복궁 영상 등이 화제가 됐지만 모두 질감을 알아보기 힘들 정도로 흐릿한 영상이었다.

● 피부·옷 무늬의 ‘질감’도 확인해야

샘 올트먼의 얼굴을 챗GPT로 재생성한 사진. 왼쪽은 피부 질감 및 머리카락의 디테일이 살아있지만 오른쪽은 모두 매끈하게 처리돼 있다. (출처=뉴스1)

그러나 화질만으로는 완벽히 구별할 수 없다. 미국 드렉셀대 매튜 스탐(Matthew Stamm) 교수는 “저화질 영상이 반드시 가짜는 아니다”라며 “고화질 AI 영상도 이미 존재한다”고 지적했다.

그 다음 확인할 수 있는 것은 ‘질감’이다. 파리드 교수는 “최신형의 생성형 AI 모델이라도 여전히 작은 오류가 존재한다”며 헷갈릴 때는 피부나 옷 무늬 등 질감을 확인해야 한다고 조언했다.

피부가 과도하게 매끄럽거나, 옷의 주름이 미세하게 ‘흐물거리듯’ 움직인다면 AI로 제작된 영상일 가능성이 높다는 것이다. 그는 “이런 세밀한 질감이 잘 드러나지 않는 저화질 영상일수록 더욱 의심해야 한다”고 덧붙였다.

● AI 제작 영상은 ‘길이’가 짧다

구글 비오2로 제작한 영상. 대략 8초 정도의 길이로 피라드 교수는 “이 이상 영상을 늘리면 오류가 급격히 증가한다”고 설명했다. (출처=뉴스1)

영상의 ‘길이’ 또한 중요한 단서다. 현재 상용화된 AI 영상 생성 모델 대부분은 길이가 길어질수록 제작 비용이 상승하고 오류가 많아지기 때문이다.

피라드 교수는 “대부분의 AI 영상은 매우 짧다. 보통 6초, 8초, 10초 정도다”라고 밝혔다. 그러면서 “만일 영상이 10초 이상으로 길다면, 일정 시간마다 컷(편집)이 생기는지를 확인해야 한다”고 조언했다.

● 가장 중요한 것은 ‘출처’

빅테크 SNS 기업 ‘메타’의 최고제품책임자 크리스 콕스가 AI 개발자 컨퍼런스에서 발언하고 있다. (출처=AP/뉴시스)

하지만 기술이 급속히 발전하면서, 이런 문제도 머지않아 AI가 극복할 것이라는 전망이 나온다. 스탐 교수는 “이러한 단서들은 2년 안에 무의미해질 것”이라며 “이미 사진은 육안으로 구별이 불가능한 수준까지 왔다”고 말했다.

전문가들은 결국 ‘출처(Source)’가 핵심이라고 강조했다. 즉, 이미지나 영상의 내용이 아닌 “누가 언제 어디서 촬영한 사진인지, 어떤 상황에서 나온 것인지”가 핵심이라고 했다.

디지털 리터러시 전문가 마이클 콜필드(Michael Caulfield)는 “앞으로 영상은 글과 같아질 것이다. 표현이 아니라 출처가 신뢰의 기준이 되는 시대가 올 것”이라고 말했다.

김영호 기자 rladudgh2349@donga.com