[오늘과 내일/강유현]불신의 시대, 불안한 AI 기본법

강유현 디지털랩장

미군이 니콜라스 마두로 베네수엘라 대통령을 체포한 3일(현지 시간), 소셜네트워크서비스(SNS)에서는 관련 사진이 빠르게 퍼져 나갔다. 특히 짙은 회색 정장을 입은 마두로 대통령이 미군에 호송되는 사진이 국내외 언론의 주목을 받았다. 이 사진은 인공지능(AI)이 만든 가짜 사진, 딥페이크 이미지로 판명 났다.

당시 본보 디지털랩도 해당 사진을 가짜로 보고 사용하지 않았다. 판단 근거는 업로드된 계정의 출처가 불분명하다는 점, 도널드 트럼프 미국 대통령과 백악관이 공식 SNS에 올린 사진 및 영상과 비교했을 때 복장과 외형이 다르다는 점 등이었다. 하지만 실제라고 해도 믿을 만큼 꽤 정교했다. 뉴욕타임스는 해당 사진을 가짜라고 하면서도 “여러 AI 탐지 사이트에서 해당 이미지가 AI에 의해 생성됐다는 명확한 증거를 찾지 못했다”고 했다.

싸고 쉬워진 딥페이크 기술

국내외 속보들을 실시간으로 다루는 디지털랩 특성상 엑스(X·옛 트위터)에서 사진이나 영상을 검색할 때가 많다. 지난해 9월 미국 보수 운동가 찰리 커크가 사망했을 때에도 X엔 각종 사진과 영상들이 넘쳐났다. 어떻게 가짜를 걸러낼 것인가. X에서 찰리 커크를 검색하면서 피격 장소의 위도, 경도를 함께 입력한다. 그리고 이곳으로부터 반경 10km 안에서 올라온 게시글만 찾는 조건을 걸어 검색한다. 그나마 현장과 가까운 곳에서 올라온 사진이라면 200km 떨어진 곳에서 게시된 사진보다는 진짜일 가능성이 높다고 보는 것이다.

AI 기술이 발전하며 누구나 싸고 쉽게 딥페이크 제작자가 될 수 있는 시대는 이미 왔다. 딥페이크는 보이스피싱, 성폭력, 학교폭력 등 각종 범죄에 사용되고 있다. 6·3 지방선거가 다가오면서 정치적으로 악용될 가능성도 커졌다. 지난 미국 대통령 선거에서 트럼프 당시 대선 후보의 지지자들은 흑인 유권자들을 공략하려고 트럼프 후보가 흑인들과 함께 웃고 있는 사진을, 반대파들은 트럼프 후보가 체포되거나 재판을 받는 가짜 사진을 만들어 유포했다.

이런 상황에서 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 시행됐다. 내용의 상당 부분을 참조한 유럽연합(EU)이 산업 발전 저해를 우려해 ‘AI법(AI Act)’ 시행을 연기한 가운데 시행된 법이다. 하지만 딥페이크를 어떻게 걸러낼 것이냐에 대한 해답은 역시 찾을 수 없었다.

AI의 안전한 사용에 해당하는 내용만 뜯어보면 ‘워터마크 삽입’과 ‘고영향 AI’ 등 두 가지로 요약된다. 워터마크는 AI로 생성한 제작물에 대해 일종의 커밍아웃 표시를 하라는 것이다. 그런데 어느 범죄자가 일부러 워터마크를 남겨놓겠나. 특히 이 법은 제작물을 만드는 사람은 빼놓고 AI 사업자에게만 의무를 지우고 있어 규제의 현실성이 떨어져 보인다. 또 AI 기본법은 사람의 생명, 안전, 기본권에 중대한 영향을 미치는 AI를 고영향 AI로 규정하고 사업자에게 관리 체계를 갖추라고 했다. 하지만 개념과 범위 등이 명확하지 않아 혼란만 가중된 상황이다.

‘AI 잡는 AI’ 고도화해야

딥페이크에 대한 대응은 법만으론 되지 않는다. 가장 시급한 것은 AI 흔적을 탐지해내는 기술이다. 오늘 개발한 탐지 기술이 내일은 무용지물이 될 정도로 AI 생성 기술은 빅테크 위주로 빠르게 발전하고 있다. 반대로 ‘돈이 안 되는’ 탐지 기술은 스타트업이나 대학 연구소를 중심으로 개발되며 속도와 ‘쩐’의 전쟁에서 이미 밀렸다. 정부가 자금을 투입해서라도 기술을 끌어올려야 하는 이유다.

탐지 기술을 개발한 뒤 일반인들이 쉽게 사용하도록 접근 문턱을 낮추는 것도 고려해 볼 만하다. 적어도 사람들이 ‘지금 보고 있는 사진이 가짜일 수 있다’는 생각을 갖도록 유도하는 효과로 이어질 수 있기 때문이다.


강유현 디지털랩장 yhkang@donga.com