“얼굴에 손가락 3개 대봐”… 딥페이크 탐지 방법 진짜?

기사와 직접적인 관련 없는 AI 생성 이미지. 제미나이 생성

인공지능(AI)을 이용해 타인의 얼굴과 목소리를 흉내 내는 딥페이크 사기가 정교해지면서, 이를 걸러내기 위한 검증 방법이 주목받고 있다. 최근에는 영상 통화 중 “손가락 3개를 얼굴에 갖다대보라” 요구해 가짜임을 밝혀내는 영상이 큰 화제를 모았다.

최근 해외 커뮤니티 레딧에는 딥페이크 사기꾼의 정체가 폭로되는 짧은 영상이 올라와 6만 개의 추천을 받았다. 영상에는 “얼굴 앞에 손가락 3개를 대보라”고 요청하는 촬영자 로니와 이 같은 요구에 당황하는 한 남성의 모습이 담겼다.

처음 남성은 로니의 요구에 “그건 너무 심하다”며 과한 요구를 하지 말라고 방어적인 태도를 취했다.

이어 못 이기는 듯 얼굴에서 조금 떨어진 곳에서 손가락 3개를 들어올린 남성은 “얼굴 앞에 제대로 대달라”는 거듭된 요구에 영상 통화를 일방적으로 종료했다.

레딧 이용자들은 손가락 검증법으로 딥페이크 사기꾼을 검증해냈다며 박수를 보내고 영상 속 남성을 자세히 보면 얼굴에 어색함이 있었다고 지적했다.

이러한 검증법이 등장한 이유는 현재 대중적인 딥페이크 모델들이 물체가 다른 물체에 의해 가려진 부분을 처리하는 데 취약한 것으로 알려져 있기 때문이다.

다만 보안 전문가들은 이런 검증법이 근본적인 해결책이 될 수 없다고 지적한다.

딥페이크 탐지 전문 기업 리얼리티 디펜더 CEO 벤 콜먼은 사이버뉴스에 “현재 딥페이크 모델, 특히 실시간 모델은 매우 정교해져서 세 손가락 트릭으로 진짜 사용자가 드러나는 일이 없다”고 밝혔다.

디지털 미디어 검증 소프트웨어 플랫폼 오픈오리진스 CEO 매니 아흐메드 역시 인터뷰를 통해 “이러한 검증법은 사람들에게 잘못된 자신감을 심어주는데, 오히려 아무런 검증을 안 하는 것보다 더 안 좋을 수 있다”고 우려했다.

일부 전문가가 제시하는 더 확실한 검증법은 다음과 같다.

AI가 얼굴 정면 위주로 학습된 한계를 이용해 상대에게 고개를 90도 돌리게 하거나, 조명 앞에서 손을 움직여 그림자의 자연스러움을 확인하는 방법이 제시된다. 또 배경 처리의 취약점을 겨냥해 뒤에 있는 사물에 대해 질문하거나, 배경 앞에서 움직이게 해 경계선 왜곡 여부를 살피는 방식도 활용된다.

다만 아흐메드는 고품질 딥페이크의 경우 육안으로는 구별이 사실상 불가능한 단계에 접어들었다며, 영상 지연이나 어긋난 오디오 싱크 같은 간접적인 신호까지 종합적으로 의심해야 한다고 강조했다.