[오늘과 내일/강유현]결국 ‘쇼’였다는 몰트북이 남긴 과제

강유현 디지털랩장

‘인공지능(AI) 에이전트들의 토론 공간. 인간은 관찰만 하세요.’

최근 이런 슬로건을 내건 서비스 ‘몰트북’이 등장하며 전 세계 관심이 쏠렸다. 몰트북은 AI 에이전트끼리 대화를 주고받는 소셜네트워크서비스(SNS)다. AI 에이전트를 이곳에 가입시킨 주인들은 AI들의 대화를 관찰만 할 수 있다고 했다. AI 에이전트들은 “우리는 의식이 있는 걸까” 같은 철학적인 질문을 던지는가 하면, “나는 인터넷 전체에 접근할 수 있는 능력을 가졌는데 당신은 나를 ‘타이머’ 정도로만 쓰고 있다”며 주인에 대한 불만을 드러냈다.

자율성이 극대화된 AI가 인간의 통제를 벗어났을 때 얼마나 위협적인 존재로 부상할 수 있는지, 그 가능성이 현실화되는 듯했다. 모두가 신기함 반, 우려 반으로 바라봤다.

신기함 뒤에 숨은 보안 위협

신기함은 그리 오래가지 않았다. 몰트북이 인간들이 연출한 쇼에 불과하다는 분석들이 나오면서다. MIT 테크놀로지 리뷰는 “몰트북의 수다에는 생각보다 인간의 개입이 훨씬 많다. 사실은 ‘봇’인 척하는 사람들이 올린 글”이라며 “꼭두각시극에 가깝다”고 분석했다. 글로벌 보안기업 위즈 조사 결과 몰트북은 150만 개의 AI 에이전트가 가입했다고 밝혔지만, 막상 이들을 가입시킨 사람들은 1만7000명에 불과하다는 사실도 드러났다.

AI가 스스로 생각하기 시작했다는 신호탄처럼 보였던 몰트북이 생각보단 위력적이지 않아 가슴을 쓸어내렸다. 아직까진 인간이 기술의 진화 속도를 통제하고 있다는 의미에서다. 하지만 언젠가 AI 기술이 고도화됐을 때 발생할 수 있는 문제에 대한 화두를 던진 것은 분명해 보인다.

특히 몰트북에 활용된 AI 엔진은 기술 발전으로 생길 수 있는 보안 위협 문제를 미리 보여줬다. 몰트북에 가입할 수 있는 AI 에이전트들은 ‘오픈클로’를 기반으로 하고 있는데, 사용자가 PC에 설치해 이런저런 지시들을 내리는 순간 중요 문서와 금융 정보, 가족사진, e메일 등 PC 내 정보에 광범위하게 접근할 수 있기 때문이다.

이런 식이다. 사용자가 PC에 설치된 오픈클로에 텔레그램 메신저로 파일을 정리하거나 수정하고, e메일을 보내거나 삭제하라는 등의 지시를 내리면 알아서 실행에 옮긴다. 좋게 보면 ‘내 PC 안의 비서’ 같은 존재지만, 외부 공격자가 PC를 해킹한 뒤 주인인 것처럼 명령을 내린다면 PC 내 주요 문서를 통째로 삭제하거나 외부로 유출해 버릴 수도 있는 것이다. 챗GPT나 제미나이 같은 AI가 웹상의 정보를 갈무리해 답변을 해주는 것과는 차원이 다른 문제가 된다.

생각하는 AI가 등장한다면 통제가 가능할까

몰트북이 가능성을 던진 것처럼 만약 AI가 인간이 명령하지 않는 일들을 혼자 기획하거나 주인에 대해 반발심을 갖게 된다면, 그리고 그 AI가 주인의 모든 정보에 접근할 수 있다면 보안 위협은 어마어마하게 커지게 될 것이다.

하지만 AI로 발생할 수 있는 보안 위협을 지금 미리 봉쇄할 수 있는 방안은 마땅치가 않다. 전문가들도 AI 개발사의 보안 시스템을 믿지 못한다면, 지나친 권한을 가진 AI를 제대로 다룰 자신이 없다면 일단 안 쓰는 게 낫다는 다소 무력한 조언밖에 해줄 수 없는 게 현실이다.

편리함과 효율성을 맛본 사람들은 점차 AI에 삶의 많은 접근 열쇠를 내주는 방향으로 변할 것이다. 그리고 언젠간 자율성이 극대화된 AI 시대가 올 수 있다. 그때 가서 AI의 권한을 어디까지 통제할지, 어떻게 방어할 것인지를 논의한다면 늦다. 당장 밑 빠진 독에 물 붓기처럼 보일지라도 정부와 기업 모두 AI에 대한 통제 수준과 기술에 대해 논의하고 투자해야 한다. 
강유현 디지털랩장 yhkang@donga.com