[특파원칼럼/문병기]美서 쏟아지는 ‘AI 디스토피아론’의 이면

“AI 무기화, 세계대전 촉발할 수도”
미중 상호불신 속 AI 군비경쟁 우려

문병기 워싱턴 특파원

최근 미국에서는 생성형 인공지능(AI) 규제 논의가 한창이다. 조 바이든 미국 대통령과 카멀라 해리스 부통령은 5일(현지 시간) 백악관에서 순다르 피차이 구글 최고경영자(CEO)와 사티아 나델라 마이크로소프트 CEO, ‘챗GPT 아버지’로 불리는 샘 올트먼 오픈 AI CEO 등을 불러 AI 규제 회의를 갖기도 했다. 지난해 10월 첨단 반도체 장비 규제를 내놓으며 ‘반도체 독트린’을 발표한 백악관의 주관심사가 이제 AI로 넘어가는 것 아니냐는 관측도 나온다.

미 의회도 최근 석 달간 7차례에 걸쳐 AI 규제에 대한 청문회를 열 정도로 AI 규제에 속도를 내고 있다. 척 슈머 상원 민주당 원내대표는 18일 “더 이상 낭비할 시간이 없다. 신속히 움직여야 한다”며 AI 규제 입법화에 조속히 나서겠다고 밝혔다.

미국이 AI 규제에 팔을 걷어붙인 것은 AI 위협이 더 이상 먼 미래 일이 아니라는 자각에 따른 것이다. 사용자 요구에 따라 각종 ‘창작물’을 척척 내놓는 생성형 AI 챗GPT 상용화와 딥페이크(deep fake) 영상이 확산되면서 2024년 미 대선이 극단주의자와 중국 러시아 같은 외국 정보원들이 생성하는 허위 정보에 오염되는 최악의 선거가 될 수 있다는 우려 때문이다. 이미 미 민주당과 공화당 지지자들이 AI로 만든 영상과 거짓 정보가 소셜미디어에 넘쳐나고 있다. 미 조야(朝野)에선 이를 방치하면 유권자들이 진실을 판단하려는 시도를 포기하는 민주주의의 근본적 위기가 닥칠 수 있다는 위기감이 크다.

AI 규제 논의의 또 다른 축은 AI 무기화, 즉 자율살상무기(LAWS) 규제다. 미국은 국방부 지령에 따라 자동화 무기를 포함한 모든 무기에 인간 판단이 개입되도록 하고 있다. 반면 중국은 AI 규제에 명확한 입장을 밝히지 않는 ‘전략적 모호성’을 유지하고 있다.

이 때문에 AI 무기화를 방치할 경우 세계가 제3차 세계대전이라는 재앙을 맞게 될 것이라는 디스토피아적 경고도 나온다. 에릭 슈밋 전 구글 CEO는 17일 미 하원 청문회에서 “중국이 AI를 활용해 자동화 무기 시스템을 개발한다면 미국인의 규칙을 따르지 않을 것”이라며 “기계가 스스로 삶과 죽음의 결정을 내리게 된다면 언제든 세계전쟁으로 이어질 공격 판단을 내릴 위험이 있다”고 주장했다. AI 무기가 보편화되면 존 F 케네디 전 미 대통령과 니키타 흐루쇼프 옛 소련 서기장의 핫라인 소통으로 핵전쟁을 막은 ‘쿠바 미사일 사태’ 같은 위기가 언제든 인류 대재앙으로 바뀔 수 있다는 우려다.

미국은 일본 히로시마에서 열린 주요 7개국(G7) 정상회의에서 처음으로 AI 논의를 이끌며 AI에 대한 국제적 규제 움직임에 시동을 걸었다. 헨리 키신저 전 미 국무장관 등은 ‘AI 디스토피아’를 막기 위해 미중이 AI 군축 협상을 벌여야 한다고도 주장한다.

하지만 미국에선 미국도 AI 무기 투자에 속도를 내야 한다는 목소리가 함께 나온다. 냉전 초기 핵 디스토피아로 향할 수 있다는 우려에도 미국과 소련이 핵 군비 경쟁을 통해 ‘공포의 균형’으로 나아갔던 것처럼 AI 무기 규제 논의 이면에도 패권 경쟁에 나선 미중 간 뿌리 깊은 불신이 깔려 있다.

AI 무기화로 인한 재앙을 막을 수 있을까. 이 물음에 대한 챗GPT의 대답은 이렇다. “국제사회는 AI 무기화에 대한 국제적인 규제와 협력을 강화해야 합니다. 또 미중은 긴장을 완화하고 분쟁과 불신을 해소하기 위해 공식, 비공식 대화를 지속적으로 추진해야 합니다. 하지만 이는 복잡하고 어려운 과정입니다.”



문병기 워싱턴 특파원 weappon@donga.com