‘AI 스스로 성능 개선’ 우려에…앤스로픽 “AI 개발 일시 중단해야 할수도”

앤스로픽이 전 세계 주요 인공지능(AI) 연구소들을 향해 AI 개발 속도를 늦추거나 일시 중단할 수 있는 방안을 검토해야 한다고 경고했다. AI가 인간의 개입 없이 스스로 성능을 개선하는 ‘재귀적 자기개선’ 단계에 예상보다 빠르게 도달할 수 있다는 이유에서다.

4일(현지 시간) 자사 블로그를 통해 앤스로픽 연구기관인 ‘앤스로픽 인스티튜트’의 마리나 파바로 연구총괄과 잭 클라크 앤스로픽 공동창업자는 “AI 안전성 연구와 사회 제도가 기술 발전 속도를 따라갈 수 있도록 최첨단 AI 개발을 늦추거나 일시 중단할 수 있는 선택지를 확보하는 것이 바람직하다”고 밝혔다. 이들은 AI 개발 속도를 조절하기 위한 국제적 합의와 경쟁사들이 이를 실제로 준수하는지 확인할 수 있는 검증 체계가 필요하다고 주장했다.

앤스로픽은 최첨단 AI 모델의 발전 속도가 매우 빠르며 현재 기술 발전 흐름이 재귀적 자기개선 단계로 이어질 가능성이 있다고 진단했다. 아직 재귀적 자기개선이 현실화된 것은 아니지만 관련 사회 제도와 안전장치가 마련되기 전에 나타날 수 있다고 경고했다. 잭 클라크 공동창업자도 최근 강연에서 “이 같은 기술은 인류 역사상 존재한 적이 없으며 향후 2년 안에 등장할 수도 있다”고 언급한 바 있다.

재귀적 자기개선은 AI가 더 뛰어난 AI를 설계하고 훈련하는 과정을 반복하며 스스로 발전하는 현상을 뜻한다. AI 업계에서는 인간 수준의 범용인공지능(AGI) 이후 나타날 수 있는 핵심 변곡점으로 꼽히지만, 일각에서는 과도한 우려라는 반론도 제기된다. 메타의 전 최고 AI 과학자인 얀 르쿤은 현재 대규모언어모델(LLM) 기반 시스템이 인간 수준의 지능에 도달하기 어렵다고 주장해 왔다.






한채연 기자 chaezip@donga.com