AI 김동연, AI 윤석열…“정치적 목적 딥페이크 신중해야”

‘AI윤석열’, ‘윈디’ 등 대선 후보가 선거운동에 접목시킨 인공지능(AI) 기술을 두고 부작용을 우려하는 목소리가 나오고 있다.

김 후보는 7일 국회 소통관에서 기자회견을 통해 “우리는 선거 캠페인도 과학기술에 기반한 획기적 변화를 시도한다”며 AI대변인 ‘에이디’와 김 후보 모습을 재현한 AI아바타 ‘윈디’를 소개했다.

이어 그는 “거대 양당은 선거 때마다 1000억이라는 엄청난 비용을 쓰고 있다. 국민의 혈세를 낭비하는 소모적 선거운동 대신 새 시대에 맞는 방법으로 국민의 곁에 찾아갈 것”이라며 “AI대변인은 거대 기업이 만든 게 아니라 신생 스타트업이 개발했다. 지금은 다소 부족할 수 있지만 나날이 성장을 거듭할 것”이라고 설명했다.

이날 김 후보 유튜브를 통해 공개된 윈디는 “윈디는 김 후보의 철학과 비전을 공유해 바람을 일으켜 새로운 물결이 파도가 되고 쓰나미가 돼서 아래로부터의 반란을 일으키겠댜”며 “앞으로 많은 활약 기대해주시기 바란다”고 전했다.

6일 오후 서울 송파 KSPO돔에서 열린 국민의힘 선대위 출범식에서 등장한 AI윤석열 (영상 캡쳐) ⓒ 뉴스1

앞서 6일에는 국민의힘이 윤 후보의 말투와 외양을 AI가 학습해 탄생한 AI윤석열을 공개했다. AI윤석열은 “윤석열 후보와 너무 닮아 놀라셨나”라며 “정치권 최초로 만들어진 AI윤석열은 윤 후보가 열어갈 대한민국의 새로운 미래와 도전을 상징한다”고 말하기도 했다.

두 후보가 공개한 AI들은 후보가 직접 찾아가기 어려운 지역 유세에 활용되거나 사회관계망서비스(SNS)를 통해 국민들과 만날 예정이다.

하지만 박근혜 정부와 문재인 정부에 걸쳐 방송통신위원회 상임위원을 지낸 고삼석 동국대 석좌 교수는 “딥페이크 사용에 대한 사회적인 합의조차 마련되지 않은 상황에서 유력 대권 후보가 나서 이를 대중적으로 사용한다는 것에 우려를 표한다”고 밝혔다.

딥페이크는 딥러닝(Deep learning)과 페이크(Fake)의 합성어로 AI가 특정 사람의 모습과 목소리를 학습해 만들어진 가짜 사진이나 동영상을 말한다.

그는 자신의 페이스북을 통해 “미국을 비롯한 유럽 국가에서는 정치적 목적의 AI 혹은 딥페이크 기술 사용을 엄격하게 제한하고 있다”며 “한국 선관위도 AI와 딥페이크 기술의 정치적 이용에 대한 가이드라인을 만들어야 한다”고 강조했다.

두가온 동아닷컴 기자 gggah@donga.com