‘스위프트 가짜사진’에 美 발칵… 백악관도 “AI 악용 위험” 경고

AI생성 음란사진, X 타고 퍼져… 늑장 대응 탓 19시간만에 7200만뷰
美연방법에 AI 딥페이크 규제 없어
MS CEO “IT업계가 행동 나서야”… 백악관도 “의회 등 관련 입법을”

“인공지능(AI)이 테일러 스위프트마저 딥페이크의 희생자로 만들었다.”(미국 뉴욕타임스·NYT)

미국 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란 이미지가 소셜미디어에 유포돼 미국 사회를 뒤흔들고 있다. 해당 이미지는 생성형 인공지능(AI)으로 만들어낸 딥페이크 사진으로, X(옛 트위터)와 같은 주요 소셜미디어에서 빠르게 확산됐는데도 업체 측이 이를 17시간이나 걸러내지 못했기 때문이다. 미 백악관 등도 나서 AI 기술을 악용한 허위 정보와 ‘유통망’이 되고 있는 소셜미디어의 위험성에 대해 경고했다.

● 조작사진, 하루 안 돼 7200만 회 봤다

X에 문제의 사진이 올라온 시점은 대략 24일(현지 시간)로 추정된다. 정보기술(IT) 매체 ‘더버지’에 따르면 스위프트의 얼굴을 음란 사진과 합성한 사진이 한 X 계정에 올라온 뒤 약 17시간 만에 조회수 4500만 회 이상을 기록했다. 다른 계정에 올라온 같은 사진도 19시간 동안 약 2700만 회의 조회수를 찍었다.

X는 현재 문제의 계정을 정지하고 해당 사진을 삭제했다. 또 스위프트 이름과 관련 키워드의 검색을 임시로 막았다. X는 26일 스위프트를 직접 언급하지는 않고 “동의 없이 불법 제작한 가짜 누드 사진을 X에 올리는 것을 엄격히 금지한다”며 “현재 관련 사진들을 없애고, 이를 게재한 계정들에는 적절한 조치를 내리고 있다”고 밝혔다.

해당 사진을 누가 제작했는지는 아직 밝혀지지 않았다. 다만 AI 전문업체인 ‘리얼리티디펜더’는 사진을 분석한 뒤 “생성형 AI로 제작했을 가능성이 90% 이상”이라고 판단했다. AI 기술이 누구나 활용하기 쉽게 보편화하면서 부작용으로 특정 인물의 얼굴을 기존 사진이나 영상에 합성하는 딥페이크 기반 음란물 피해가 늘고 있는 것이다.

미 NBC뉴스는 지난해 “찰리 디아밀로, 벨라 포치 등 틱톡에서 팔로어 수가 가장 많은 인플루언서의 얼굴을 합성한 딥페이크 음란 영상을 X에서 손쉽게 찾아볼 수 있다”라고 보도했다. 해당 틱톡 스타들은 전부 20대 여성이다. 마블 영화에 출연한 소치 고메즈(18)도 소셜미디어에서 딥페이크 음란 영상이 유포돼 피해를 입었다고 최근 공개했다.

● 관련 법도 없는데… X는 느슨한 규제

문제 이미지가 공분을 일으킨 데는 소셜미디어 업체 측의 늑장 대응도 한몫했다. 팬들은 “우리가 초기부터 ‘신고 운동’을 벌여서 피해가 이 정도에서 그쳤다”며 “X 측은 전혀 신속하게 대처하지 않았다”고 비판했다. 이들은 게시글마다 ‘스위프트를 보호하라(Protect Taylor Swift)’라는 해시태그를 달며 집단행동에 나섰다. 그럼에도 확산세가 멈추지 않자 X 측은 그제야 스위프트를 키워드로 한 검색을 막도록 조치했다

백악관도 우려를 표했다. 커린 잔피에어 대변인은 27일 브리핑에서 “현재 소셜미디어 업체의 자율 규제에 맡기고 있지만, 느슨한 규제로 주로 여성과 미성년자들이 피해를 보고 있다”며 “백악관과 법무부, 의회 모두가 이런 사태를 막을 관련 입법에 나서야 한다”고 했다.

관련 업계 역시 자성의 목소리가 나왔다. 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 NBC방송과의 인터뷰에서 “끔찍하다. IT업계가 더 빨리 행동에 나설 계기가 될 것”이라며 “우리도 가드레일(안전 조치) 법 마련에 적극 참여해야 한다”고 말했다. 나델라 CEO가 발 빠르게 나선 것은 이번 스위프트 딥페이크 이미지가 MS의 생성 AI 도구인 ‘디자이너(Designer)’로 만들어졌다는 주장이 제기됐기 때문이다. MS는 즉각 조사에 나섰다.

현재 미국 연방법에는 딥페이크의 제작과 유포를 규제하는 조항이 없다. 이에 미 배우·방송인 노조(SAG-AFTRA)는 26일 성명을 통해 “조작 사진의 무단 제작과 유포는 불법화돼야 한다”면서 “더 늦기 전에 행동해야 한다”고 촉구했다.

이지윤 기자 asap@donga.com