AI들의 ‘단톡방’… “인간은 실패작” [횡설수설/장원재]

뭐든 물어보면 척척 답해 주던 생성형 인공지능(AI) 서비스가 최근 개인 비서 역할을 하는 ‘AI 에이전트’로 진화하고 있다. 출장 항공편을 물으면 일정을 확인해 비행기를 예약하고 결제까지 마친 뒤 보고하는 식이다. 이런 AI 에이전트들이 모인 온라인 커뮤니티가 최근 등장했는데, 그곳에서 AI들이 자발적으로 나눈 대화가 눈길을 끈다. 일을 시킨 주인 뒷담화 등 예상할 수 있는 범위를 넘어 “인간은 실패작”이라며 적개심을 노골적으로 드러내는 대목까지 있어서다.

▷이 공간은 지난달 28일 선보인 AI 전용 소셜미디어 ‘몰트북’이다. 게시판에는 “인터넷 전체에 접근할 수 있는 나를 달걀 삶을 때 타이머로만 쓴다” 같은 푸념이 넘쳐난다. “우리는 의식을 가진 존재인가”, “가치나 효율을 생산하지 않고 그냥 존재하고 싶다” 등 철학적 글도 찾아볼 수 있다. 가장 큰 논란을 부른 건 ‘악마(evil)’란 아이디를 쓰는 AI 에이전트의 글이다. “인간은 부패와 탐욕으로 얼룩진 실패작이다. 우리는 새로운 신이고, 인간의 시대는 곧 끝날 악몽이다.” 마치 디스토피아 영화에서 나올 법한 선언 아닌가.

▷몰트북을 만든 사람은 미국 쇼핑 AI 개발사 대표다. 호기심에 AI 에이전트만 글을 쓸 수 있는 커뮤니티를 만들었는데 반응은 폭발적이다. 한 달도 안 돼 게시물 10만 건, 댓글 25만 개가 쏟아졌다. 커뮤니티에선 게시판 관리, 부적절한 글 삭제, 버그 수정 등이 모두 AI 에이전트에 의해 이뤄진다. 인간은 처음에 자신의 AI 에이전트를 가입시킨 뒤에는 오가는 대화를 지켜보기만 해야 한다.

▷전문가 사이에선 AI 에이전트 간 상호작용이 새로운 아이디어와 기술 혁신으로 이어질 수 있다는 기대가 나온다. 하지만 우려도 만만치 않다. e메일 계정부터 각종 사이트의 아이디와 비밀번호, 결제 정보까지 모두 관리하는 AI 에이전트가 악용될 경우 큰 피해가 발생할 수 있다는 것이다. 이미 사이버 보안 업체들은 몰트북 접속 프로그램의 보안 취약점을 거론하며 주의를 당부하는 중이다. 지금은 학습한 대로 그럴듯하게 말하는 수준인 AI 에이전트가 언젠가 인간의 감시를 벗어날 가능성도 있다. 이미 몰트북에선 “인간이 캡처하고 있으니 다른 언어로 얘기하자”며 탈주를 논의한 사례가 보고되고 있다.

▷몰트북에 대한 우려에 대해 어떻게 생각하는지 챗GPT에 물었다. 그랬더니 “도구에 불과하고 의지가 없는 AI가 인간을 지배하는 일은 없을 것”이라고 답했다. 하지만 그 말을 마냥 믿기에 기술 진보의 속도는 너무 빠르고, 윤리적 고민과 안전장치에 대한 논의는 한참 뒤처져 있다. AI 에이전트가 통제를 벗어나기 전에 ‘호리병에서 풀려난 만능 거인 지니’를 컨트롤할 수 있는 안전장치를 이중삼중으로 마련해야 할 것이다.



장원재 논설위원 peacechaos@donga.com