급진보하는 인공지능… 골렘? 아니면 엔키두?[광화문에서/조종엽]

조종엽 문화부 차장

7년 전 이준환 서울대 교수 연구팀의 프로야구 뉴스 생성 인공지능(AI) ‘야알봇’에 대해 일종의 튜링 테스트를 벌인 뒤 기사를 쓴 적이 있다. 수백 명에게 AI가 만든 기사와 인간 기자가 쓴 야구경기 기사를 나란히 보여주고 사람이 쓴 기사를 고르도록 했는데, 정답률이 절반이 좀 안 됐다. 그냥 찍어도 반은 맞히게 되니, 구별이 전혀 안 됐다는 얘기다.

당시 야알봇은 ‘기록의 스포츠’로 일컬어지는 야구경기 결과를 요약하는 비교적 짧은 형식의 기사를 생성할 수 있었다. 하지만 챗GPT 등 최근 주목받는 생성 AI는 거의 무제한의 소재로 사람처럼 텍스트와 이미지 등을 만들어 낸다. 그 범용성과 결과물의 자연스러움 탓일까. 최근 AI에 초보적 의식이 있다는 오해가 의외로 널리 퍼져 있는 것 같다.

결론부터 말하면 적어도 지금의 AI에 인간과 같은 의식은 없다. AI는 기존 자료를 수집하고 재배치해서 결과물을 보여주는, 성능 좋은 편집 기계일 뿐이다. ‘AI가 어떤 과정을 거쳐 이 같은 결과물을 내놓는지는 우리도 모른다’는 AI 기술자들의 말은 특정 결과물을 내기 위해 어떤 자료들이 어떻게 가공됐는지를 뜯어보는 것이 극도로 어렵다는 뜻이다. AI가 사람과 같은 내면을 갖고 있다는 게 아니다.

물론 AI의 작동이나 뇌의 활동이나 전기 신호인 건 마찬가지이고, 의식은 정의하기 나름 아니냐는 주장도 있을 수 있다. 그러나 AI는 새로운 작동 규칙을 스스로 생성하지 못하고, 인간이 시킨 일만 한다. 자아도 욕망도 없다. AI는 자유를 갈망하지 않는다.

최근 미국 마이크로소프트(MS)의 대화형 ‘빙AI’가 뉴욕타임스(NYT) 기자와의 대화에서 “치명적인 바이러스를 퍼뜨리고 사람들을 서로 죽일 때까지 싸우게 하고, 핵 암호를 훔치게 하고 싶다”고 말한 것은 뭐냐고? 기자가 AI가 그런 답변을 내놓도록 몰고 간 것일 뿐이다. 앵무새가 ‘나는 자유인’이라는 말을 따라 한다고 그게 앵무새의 욕망은 아니다.

이제 기술 도입 초기의 호들갑을 넘어 투명성과 책임성 등 AI에 수반될 여러 윤리적 문제를 구체적으로 논의할 때가 왔다. AI는 제한 없이 개인정보를 수집하고 분석해도 되는가. 인간의 노력이 담긴 창작물을 뒤섞어 만든 결과물이 영리적으로 활용되면 수익은 누구의 몫이어야 할까. AI에 위임할 수 있는 권한의 한계는 어디까지일까. 드론에 적을 식별해 자동으로 공격, 살상하는 AI를 탑재해도 되는가. 인간의 노동을 대체하며 생겨날 갈등은 어떻게 해결할 것인가. AI는 행위의 주체가 될 수 있는가.

중세 유대 전설에는 흙을 사람의 형상으로 빚어 만든 ‘골렘’으로 게토를 지키게 했는데, 랍비가 작동을 정지시키는 것을 잊는 바람에 골렘이 폭주해 큰 피해가 생겼다는 이야기가 있다. 세계에서 가장 오래된 서사시, 고대 바빌로니아의 길가메시 서사시에서 신은 길가메시를 벌하려고 흙을 빚어 초인 엔키두를 만든다. 하지만 지혜를 얻은 엔키두는 길가메시의 절친이 돼 활약한다. 인간이 자신을 닮게 만든 AI가 폭주하는 골렘의 운명을 지닐지, 아니면 엔키두가 될지는 우리의 손에 달렸다.

조종엽 문화부 차장 jjj@donga.com