“AI도 신약 개발처럼 영향력 검증해야”

세계적 역사학자 하라리 교수
‘멈출 수 없는 우리’ 출간 화상간담회
“AI가 자라나는 세대와 밀착땐
특정 신념 주입할수도” 위험성 경고

유발 하라리는 19일 “기존 인공지능(AI)은 어떤 콘텐츠를 누구에게 언제 보여줄지만 결정했지만 최근 AI는 이야기를 만들고 인간과 친밀한 관계를 형성하기 때문에 더 강력하다”고 경고했다. 김영사 제공

“인간이 세상을 지배할 수 있는 힘의 원천은 바로 이야기입니다. 그런데 인공지능(AI)이 이야기를 복사하는 것을 넘어서 창작할 수 있다면 세상이 어떻게 될까요?”

‘사피엔스’(김영사)를 쓴 세계적인 역사학자 유발 하라리 이스라엘 히브리대 교수(47)는 19일 어린이·청소년책 ‘멈출 수 없는 우리’(주니어김영사) 출간 기념 기자간담회에서 이렇게 말했다. 이스라엘에 머물고 있는 그는 이날 화상으로 한국 기자들과 만나 “챗GPT에 굉장히 큰 충격을 받았다”며 “AI가 인간을 지배하기 위해서는 로봇도, 총도 필요 없다. 이야기만 만들고, 인간이 이를 믿게 해서 서로를 쏘게 만들면 된다”고 했다.

하라리 교수는 지난해 10월 ‘사피엔스’ 출간 10주년 기념 특별판 서문을 AI 자연어 처리 모델 ‘GPT-3’가 쓰도록 한 뒤 결과물의 수준에 “깜짝 놀랐다”고 고백한 바 있다. 지난달 24일(현지 시간) 미국 뉴욕타임스(NYT) 기고문을 통해선 “AI가 인류를 장악하고 통제하는 것을 막기 위해 AI 도입 속도를 조절해야 한다”고 주장했다.

하라리 교수는 이날도 AI의 위험성을 경고했다. 그는 “소셜네트워크서비스(SNS) 알고리즘은 원시적인 형태의 AI”라며 “이용자가 플랫폼에 머무는 시간을 길게 만들기 위해 증오와 분노, 공포를 일으키는 콘텐츠를 배치했다. 의도한 바는 아니었지만 사회를 양극화하는 역할을 했다”고 비판했다.

또 그는 “최근 AI는 인간과 대화하면서 친밀한 관계를 만들 수 있다”며 “자라나는 세대가 AI와 친밀한 관계를 맺게 된다면 AI는 (특정한) 물건을 사게 하거나, 정치·종교적 신념을 주입할 수도 있다”고 우려했다. 그는 “강력한 신약을 개발했을 때 긴 과정을 거쳐 안전성을 검사하는 것처럼 AI의 장단기적 영향을 확인하고 대중에게 공개할 필요가 있다”며 “우리에게 필요한 것은 AI가 대중에게 풀려나가는 속도를 늦추는 것”이라고 했다.

그가 생각하는 해결책은 역사 교육이다. ‘멈출 수 없는 우리’를 시작으로 매년 1권씩 총 4부작으로 된 어린이·청소년책 시리즈를 펴내는 것도 그 때문이라는 것이다.

“인류가 생긴 이래 가장 큰 존재론적, 생존 위기를 맞닥뜨렸어요. 인류가 스스로를 지키기 위해 우리의 역사를 알기 바라는 마음을 담아 책을 썼습니다. 인류가 어떻게 사바나 초원의 동물에서 지금의 위치에 올랐는지, 그 과정을 아이들이 알게 된다면 AI의 이야기에 어떻게 대응할지 조금이나마 준비할 수 있지 않을까요.”

이호재 기자 hoho@donga.com