[책의 향기]인간의 마지막 발명품 AI가 초래할 재앙은…

◇파이널 인벤션/제임스 배럿 지음/정지훈 옮김/448쪽·1만8000원/동아시아

어설프게 공대를 졸업했지만 수학과 컴퓨터 프로그래밍에는 그다지 능숙하지 못했다. 그런 독자여서일까. 후반부로 넘어갈수록 저자가 무슨 이야기를 하고 있는 건지 이해하기 어려웠다. 컴퓨터 천재나 수학 천재 서너 명이 모여앉아 그들만 알아들을 수 있는 용어를 공놀이하듯 던지고 받으며 즐겁게 논쟁하는 광경을 멀거니 구경하는 기분이었다.

꾸역꾸역 어느 정도 이해했다고 여겨지는 전반부 얘기만 놓고 보면, 지은이는 “인간이 인공지능과의 공존 협상 테이블에서 그리 좋은 위치에 있지 않다”는 요지를 여러 사례와 비유를 통해 역설하고 있다.

“인간이 스포츠 상해에 관한 연구를 위해 실험실 원숭이의 뇌에 충격을 주기 전에 원숭이에게 의견을 묻는가? 인간은 쥐나 원숭이를 미워하지 않지만 그들을 잔인하게 다룬다. 슈퍼인공지능(ASI·artificial super intelligence)이 인간을 파괴할 상황이 벌어질 때, 그것이 인간을 미워하리라는 법은 없다.”

영화 ‘터미네이터’에서처럼 슈퍼인공지능을 의인화하는 것이 인공지능에 대한 가장 흔하고 중대한 오해라는 지적은 적절하다. 인간의 지능보다 뛰어난 인공지능에 의한 재앙은 한 번 벌어지면 회복할 수 없을 가능성이 크다. 그럼에도 인류는 시행착오 경험에 의한 학습을 점진적 결함 개선의 거의 유일한 방법으로 사용해 왔으며, 앞으로도 그럴 거다.

천재들의 잡담을 알아들을 수 없는 독자는 강대국들의 ASI 개발 레이스를 지켜보며 무엇을 해야 할까. 할 수 있는 게 있을까. 영화 ‘매트릭스’ 속 배신자 사이퍼의 말처럼 “모르는 게 행복”일지도.

손택균 기자 sohn@donga.com