[광화문에서/김유영]진짜보다 진짜 같은 뉴스 ‘진실의 종말’ 시대 오나

김유영 디지털뉴스팀 차장

‘과학자들이 안데스산맥에서 유니콘 한 무리를 발견했다. 이 유니콘은 영어를 완벽하게 구사하고 있었다.’

황당무계한 이 문장을 글짓기 인공지능(AI)에 입력하니 AI는 천연덕스럽게 생물학자인 조지 퍼레즈 박사라는 특정인을 거론하며 그가 유니콘을 발견하기까지의 과정과 유니콘이 영어를 구사하게 된 연유 등을 술술 풀어냈다. ‘재활용은 환경에 좋지 않다’는 상식을 뒤집는 문장에는 ‘쓰레기 줄이기가 더 중요하다’는 논리를 펼쳤고 일부 기사에는 사진 설명까지 스스로 써냈다.

미국 비영리 연구기업인 ‘오픈AI’가 최근 공개한 AI(GPT-2)의 얘기다. 이 AI는 인터넷 페이지 80만 쪽에 담긴 단어 15억 개를 학습해 한두 문장만 입력받으면 나머지 글을 스스로 완성할 수 있게 개발됐다. 연구진은 AI의 작문 실력에 마냥 기뻐할 수 없었다. 그동안 인류에 기여하겠다는 취지로 모든 연구 결과를 공개했지만 이번엔 가짜뉴스 등에 악용될 우려가 있기에 핵심 기술을 예외적으로 비공개했다.

실제로 이 AI는 “핵 물질을 실은 열차가 신시내티에서 탈취됐다”라는 문장에 사고 발생 구간과 핵 물질 개발 장소를 담는 등 간담을 서늘케 하는 기사를 바로 만들어냈다. 또 “도널드 트럼프 미국 대통령이 실수로 미사일을 발사했다. 러시아는 즉각적으로 미국에 전쟁을 선포했다”는 문장을 받아들자 백악관이 러시아가 관련 국제조약을 위반했다고 비난하는 등의 속보를 자동 생성했다.

이런 AI가 동영상을 조작하는 딥페이크(deep fake) 같은 기술과 결합되면 위력이 더 커질 수 있다. 딥페이크는 딥러닝(심층기계학습)으로 얼굴이 나온 동영상을 프레임 단위로 조작할 수 있다. 지난해 버락 오바마 전 미국 대통령이 트럼프를 비난하며 ‘정신 똑바로 차려. ××들아(stay woke, bit××es)’란 욕설 영상이 공개돼 파장이 일었다. 딥페이크에 경각심을 주려고 오바마 얼굴에 다른 사람의 음성을 덧입혀 제작됐지만, 대부분 깜빡 속을 수밖에 없었다.

이쯤 되면 ‘보는 것이 믿는 것이다’라는, 우리가 오랫동안 믿어왔던 명제조차 무력해진다. 미국 비영리 언론재단인 나이트재단은 최근 발간한 ‘민주주의의 위기’라는 보고서에서 뉴미디어 신기술이 팩트와 거짓의 구분을 더 어렵게 할 수 있다고 지적했다. 진실보다 감정이 여론을 주도하는 탈진실(post-truth)을 넘어서, 진실과 조작의 경계가 희미해지며 진실의 종말(the end of truth) 시대가 올 것이라는 암울한 전망도 나온다.

정치적으로 민감한 시기에 이런 기술이 특정인 음해, 소수 집단 차별, 테러 집단의 선동 등에 악용될 경우 악의를 품고 조작된 뉴스가 소셜미디어 등을 타고 들불처럼 확산될 수 있다. 최근 중국에서 뉴스를 진행하는 ‘AI 앵커’까지 등장한 점을 감안하면 근거 없는 뉴스를 영상으로 제작·방송하는 시나리오도 배제할 수 없다.

곧 다가올 미래를 ‘묵시록’으로 만들지 않으려면 ‘보이는 게 전부가 아니다’는 사실을 먼저 인정해야 한다. 뉴스에 즉각 반응하기에 앞서 사실인지 명료하게 확인하고 뉴스 배경·맥락을 살펴보려는 의지를 우리는 발휘할 수 있다. 민주주의와 자유주의를 위협하는 가짜뉴스를 만드는 집단과 이를 유통하는 플랫폼에 책임을 묻고 AI가 윤리적이고 편견이 없는 양질(良質)의 글과 영상 등을 학습하고 있는지 우리는 되물어야 한다. 사실과 진실을 추구하는 저널리즘적인 가치가 중요해짐은 물론이다. 기술은 계속 개발될 것이기에 그 부작용에 맞서려는 인간의 의지도 꺾이지 말아야 한다.

김유영 디지털뉴스팀 차장 abc@donga.com