딥페이크 탐지 도구 ‘트루미디어’직접 써보니

비영리단체 트루미디어가 2일 공개한 도널드 트럼프 전 미국 대통령의 딥페이크 사진. 탐지도구에 이미지를 업로드하자 “매우 의심스럽다”고 판단했다. 사진 출처 트루미디어 홈페이지

“초기 탐지결과: 매우 의심스러움”

4일 비영리단체 ’트루미디어‘의 웹사이트에 도널드 트럼프 전 미국 대통령이 흑인 청년들에게 둘러싸인 채 미소짓는 이미지를 업로드하자 3초 만에 선명한 붉은색 테두리에 경고문구가 떴다. 이 사진이 생성형 인공지능(AI) 도구로 만들어졌을 가능성이 농후하다는 의미다.
약 50초 뒤에는 “매우 의심스러움”이라는 최종 결과와 함께 8가지 평가 근거가 제시됐다. ’미드저니‘ 등 이미지 생성 도구 활용 가능성‘에는 “100% 확실”, ’명도나 색상 테스트‘에는 “88% 확실”과 같은 부연설명이 붙었다.

미국 대선을 약 7개월 앞둔 2일(현지시간) 트루미디어는 AI 딥페이크 이미지와 영상을 탐지해낼 수 있는 서비스를 웹사이트에 공개했다. 전 세계 언론과 비영리단체, 정부기관 등에 자체 승인을 거쳐 무료로 제공하는 서비스다. 직접 콘텐츠를 업로드하거나 소셜미디어의 URL을 입력하는 것만으로도 몇 분 만에 딥페이크 조작 가능성을 판단할 수 있다. 트루미디어는 “최고 수준의 기술기업과 학술기관 등과 협력해 만들어진 전례없는 탐지 도구”라고 소개했다.

이 단체를 이끄는 인물은 미국 AI 연구의 선구자로 꼽히는 앨런AI연구소의 창립자이자 워싱턴대 교수인 오렌 에치오니 박사다. 그는 “언론사의 인력은 줄고 제작 시간은 점점 촉박해지고 있는데 가짜뉴스는 기하급수적으로 증가하고 있다”라며 “크고 작은 언론사들이 딥페이크의 확산을 식별하고 중단하는 데 도움을 주고 싶다”고 개발 이유를 설명했다.

동아일보 기자가 이 웹사이트에 사용승인을 받아 직접 시험해본 결과, AI로 만들어진 사진은 물론 영상에 대해서도 상당한 분석력을 보였다. 인물의 인종이나 언어도 큰 영향을 미치지 않았다. 평가 기준은 콘텐츠에 따라 7가지 안팎이었다.

트루미디어는 인종과 언어에 관계없이 높은 정확도를 보였다. 윤석열 대통령의 공식 인스타그램 계정에 2일 올라온 충남 공주시 공주의료원 방문 사진에는 “AI 조작 가능성 희박”이라는 판단이 나왔고(위 사진), 윤 대통령이 국민의힘 대선 후보 시절이었던 2022년 제작된 ‘AI 윤석열’ 영상에는 “매우 의심스러움”이라는 결과가 나왔다. (아래 사진) 사진출처 트루미디어 홈페이지

2022년 대통령선거를 앞두고 국민의힘이 홍보용으로 제작한 ’AI 윤석열‘ 영상을 업로드하자 3초 만에 “매우 의심스러움”이라는 초기 탐지결과를 내렸다. ‘고급 음성합성’ 항목에선 93%, ‘얼굴 합성’ 항목에선 79%의 신뢰도로 조작된 영상이라고 판단한 것이다. 미 워털루대가 최근 연구에 사용했던 중년 남성의 AI 생성 이미지에 대해서도 1초 만에 ‘매우 의심’이라는 판정을 내놨다.

반면 윤 대통령의 공식 인스타그램 계정에 2일 게시된 충남 공주시 공주의료원 방문 사진에 대해서는 연두색 테두리와 함께 “AI 조작 가능성 희박”이라는 결과를 내놨다. ‘조작 이미지 빅데이터로 학습한 AI 탐지’ 항목에서는 32% 확률로 ‘불분명’이라는 판단이 나왔지만, 나머지 항목에서는 모두 ‘조작증거 없음’이라는 결과가 나왔다. 지난달 노스캐롤라이나주에서 촬영된 조 바이든 미국 대통령과 카멀라 해리스 부통령의 유세 사진에 대해서도 같은 결과가 나왔다.

반면 트루미디어는 영국 케이트 미들턴 왕세자빈의 포토샵 조작 사진은 “AI 조작 가능성 희박”이란 결과를 내놨다. 사진출처 트루미디어 홈페이지

트루미디어는 이 서비스의 정확도를 90%라고 주장했지만, 일부 한계도 발견됐다. 생성형 AI 도구로 제작한 콘텐츠가 아닌, 실제 촬영 사진을 편집 프로그램으로 조작한 경우는 잘 잡아내지 못했다. 기자가 포토샵으로 색감을 보정한 개인 사진을 올리자 27초 뒤 노란색 테두리와 함께 “불분명: 원본일 수도, 조작됐을 수도”라는 결과가 나타났다. 포토샵으로 조작한 것이 드러나면서 전세계적으로 논란을 일으켰던 영국 케이트 미들턴 왕세자빈의 사진에 대해선 “AI 조작 가능성 희박”이라는 잘못된 결과가 나왔다.

에치오니 교수는 2일 미 뉴욕타임스(NYT) 인터뷰에서 한계를 인정하면서도 “아무리 최고의 도구라도 100% 확실하게 답할 수는 없다”라고 말했다. 그는 “선거를 앞두고 잘못된 정보의 쓰나미를 보게 될 가능성이 매우 높아 겁이 난다”며 “궁극적으로는 정부 규제 기관이 AI와 소셜미디어, 웹브라우저 등을 통제하는 거대 기술 기업들과 광범위하게 협력해야 한다”고 강조했다.

홍정수 기자 hong@donga.com