하라리 “AI가 인류 장악 못하게 도입 속도 조절을”

“언어 습득한 AI ‘마스터키’ 얻은셈
문명 전반을 해킹할 위험성 있어”

“인공지능(AI)이 인류를 장악하고 통제하는 것을 막기 위해 AI 도입 속도를 조절해야 한다.”

세계적 베스트셀러 ‘사피엔스’를 쓴 이스라엘 역사학자 유발 하라리(47·사진)가 24일(현지 시간) 뉴욕타임스(NYT) 기고문을 통해 AI 수용 속도를 대형 정보기술(IT) 기업 간 경쟁에 맡기지 말고 인류가 AI를 잘 다루고 대응할 수 있는 능력을 갖출 수 있도록 충분한 시간을 가져야 한다고 강조했다.

하라리는 이날 미국 IT 전문 비영리단체 ‘인도적 기술센터’의 트리스탄 해리스, 아자 래스킨 공동 창업자와 함께 쓴 기고문을 통해 ‘GPT-4’ 같은 ‘언어 모델 AI’의 등장으로 인류가 AI로 인한 실질적 위협에 직면했다고 진단했다. AI가 인간의 언어까지 습득한 것은 인류 문명의 ‘마스터키’를 손에 넣은 것이나 다름없다는 이유에서다. 현재도 인간이 체스 게임 등에서 컴퓨터를 이기지 못하는데 언어 능력까지 습득한 AI가 일반화하면 인간의 문명 체계 전반을 해킹하고 조작할 위험성이 상존한다고 우려했다.

그는 소셜미디어에 사용된 원시적 AI만으로도 양극화 심화, 민주주의 혼란 등이 나타났다며 이보다 훨씬 강력한 ‘언어모델 AI’가 심각한 부작용을 낳을 수 있다고 내다봤다. AI가 수천 년 역사의 인류 문화를 빠르게 먹어 치우고 소화해 새 문화를 만들어낼 수 있다며 “2028년 미국 대선 또한 사람이 주도하지 않는 선거가 될 수 있다”고 지적했다.

그는 AI가 암 퇴치, 신약 발견, 기후 및 에너지 위기 해법 등에 도움을 줄 잠재력이 있지만 문명의 기반이 무너진다면 AI의 혜택이 아무리 커도 소용이 없다며 “언어 체계가 해킹당하면 민주주의가 유지될 수 없다”고 했다. 인간의 정치, 경제, 일상생활 전반이 AI에 완전히 의존하지 않는 지금이야말로 AI의 도입 속도에 관해 고민해야 할 때라고 했다.

윤다빈 기자 empty@donga.com