“펜타곤 대형 폭발” AI가 만든 딥페이크 사진 퍼지자…美증시 출렁

크게보기

미 국방부 청사인 펜타곤 영내에서 폭발이 일어났다는 이른바 ‘가짜 사진’이 온라인에 확산돼 파문이 일고있다. 특히 이 사진이 트위터 등 소셜미디어(SNS)를 타고 빠르게 확산하면서 스탠더드앤푸어스(S&P)500 지수가 한때 0.3% 하락하는등 금융시장에도 일시 혼란이 일었다. 지난 22일(현지시간) AP통신, CNN 등 주요언론은 이날 오전 9시 30분 경 미 증시 개장 직후부터 버지니아주 알링턴카운티에 있는 펜타곤 인근에서 폭발이 있었다는 주장과 함께 가짜 사진이 확산했다고 보도했다. CNN캡쳐

인공지능(AI)이 만들어낸 미국 국방부 청사(펜타곤)와 백악관의 화재 사진이 온라인에 빠르게 퍼지며 미 주식시장이 출렁이는 등 큰 소동이 일었다. 최근 AI를 이용한 거짓정보 확산이 민주주의를 위협할 수 있다는 우려가 커지는 가운데 AI가 생성한 가짜 이미지가 시장에까지 영향을 미친 첫 사례다. 미 국방부가 “사진이 조작된 것”이라며 진화에 나서 가까스로 봉합되긴 했지만 AI의 부작용이 언제든 현실화될 수 있음을 확인시켜준 사건이었다.

● 가짜 펜타곤 화재 사진에 美증시 출렁

블룸버그통신 등에 따르면 22일(현지 시간) 오전 9시를 전후로 미 워싱턴DC에 있는 펜타곤으로 보이는 건물에서 검은 연기가 피어오르는 사진이 트위터를 통해 국내외로 빠르게 확산했다. 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습은 2002 발생한 9·11 테러 당시 공격을 받은 펜타곤의 모습을 떠올리게 했다.

미 NBC 뉴스에 따르면 이 사진은 트위터 유료 계정에서 이날 오전 8시42분경 처음 게시됐다. 이후 트럼프 지지 성향의 극우 음모론 단체인 큐어넌과 연관된 페이스북 계정에서도 같은 사진이 올라왔다.

얼마 뒤인 10시 3분경 팔로워가 310만 명인 러시아의 해외 선전매체 RT의 트위터 계정에 “펜타곤 근처에서 폭발이 있었다”는 게시물이 올라왔다. 3분 후에는 블룸버그뉴스를 사칭한 블룸버그피드(bloombergfeed) 트위터 계정에서 “펜타곤 근처에서 큰 폭발”이란 제목으로 해당 사진을 유포했다. 160만이 팔로우하는 금융뉴스 사이트 제로헤지도 이 가짜 사진을 공유했다. 이들 계정들에는 공식 계정임을 확인해주는 트위터 인증마크인 ‘파란 딱지’까지 달려 있었다. 급기야 인도의 방송사인 리퍼블릭 TV가 RT를 인용해 펜타곤 근처에서 폭발이 일어났다고 보도했다.

펜타곤 있는 버지니아주 알링턴 소방서가 “펜타곤이나 근처에서 폭발이나 사고는 없었다”고 알린 뒤에야 소란은 진정됐다. 해니 페어리드 캘리포니아 버클리대 교수는 “(문제의 사진은) AI가 합성한 전형적 특징을 보여준다. 건물과 펜스에 구조적 오류가 있고 누군가 기존 사진에 연기를 덧붙인 것”이고 트위터를 통해 지적했다.

가짜사진 소동이 벌어지는 동안 미 주식시장은 출렁였다. CNN에 따르면 다우존스 30 산업평균지수는 오전 10시 6분~10분 약 80포인트 하락했다가 3분 후 회복했다. 스탠다드앤드푸어스(S&P) 500지수도 10시 9분에 0.15% 하락으로 반전했다가 2분 뒤 오름세를 되찾았다. 금·국채 등 가격도 한때 크게 움직였다.

가짜 펜타곤 화재 사진이 퍼진 뒤 온라인에는 이를 모방해 백악관이 불타는 이미지도 퍼졌다. 다만 이미지가 조악해 펜타곤 사진 만큼의 파급력은 없었다.

● AI 가짜뉴스로 인한 민주주의 위협 현실화

펜타곤과 백악관 화재 사진이 가짜임이 밝혀지자 이 사진들을 퍼뜨린 RT 등 트위터 계정들은 뒤늦게 게시물을 삭제하거나 정정했다. 하지만 이미 수백 건이 공유된 상태였다. 가짜 펜타곤 사진을 게시한 트위터의 유료 계정인 블룸버그피드는 이날 운영이 중단됐다. 인도 리퍼블릭 TV는 사과방송을 했다.

AI가 만든 가짜 뉴스가 논란이 된 건 이번이 처음이 아니다. 3월엔 도널드 트럼프 전 미국 대통령이 수갑을 차고 연행되는 ‘가짜 사진’이 퍼져나가 논란을 빚었다. 아일랜드 매체인 ‘아이리시 타임스’는 11일 AI가 쓴 가짜 기고문을 걸러내지 못하고 게재했다가 공개 사과했다.

내년 미 대선 등을 앞두고 AI를 악용한 가짜 뉴스나 이미지가 민주주의에 심각한 위협이 될 것이란 목소리가 높다. 샘 올트먼 오픈 AI CEO는 16일 미 의회 청문회에서 “AI가 거짓 정보를 제공해 여론을 조작하거나 움직일 수 있다는 점이 심각하게 우려된다”며 AI 규제 기구 설립을 강조했다.


윤다빈 기자 empty@donga.com