“가짜 계정 2만5000개 동원”…앤스로픽, 알리바바 ‘AI 무단 사용’ 주장

미국 AI 스타트업 앤스로픽의 다리오 아모데이 최고경영자(CEO). 앤스로픽은 최근 알리바바가 수만 개의 가짜 계정을 이용해 자사 AI 모델 ‘클로드’에 무단 접근했다고 주장했다. 사진=게티이미지코리아

미국 인공지능(AI) 스타트업 앤스로픽이 중국 알리바바가 자사 AI 모델 ‘클로드(Claude)’를 무단으로 활용해 경쟁 모델 개발에 이용했다고 주장하면서 미·중 AI 패권 경쟁이 새로운 국면을 맞고 있다.

24일(현지 시간) 블룸버그통신에 따르면 앤스로픽은 최근 미국 상원의원들과 백악관 관계자들에게 보낸 서한에서 알리바바 산하 AI 연구조직 ‘큐원(Qwen) 연구소’와 연계된 운영자들이 수천 개의 가짜 계정을 이용해 클로드의 핵심 기능에 접근했다고 주장했다.

앤스로픽은 이들이 지난 4~6월 약 2만5000개의 허위 계정을 통해 클로드와 총 2880만 건의 상호작용을 시도했다고 밝혔다. 특히 소프트웨어 엔지니어링과 AI 에이전트 추론 등 클로드의 핵심 기능이 집중적으로 표적이 됐다고 주장했다.

앤스로픽은 이를 중국 기업이 미국 AI 기업의 기술을 대규모로 활용하려 한 사례 가운데 가장 큰 규모라고 평가했다.

이번 논란의 핵심은 ‘증류(distillation)’로 불리는 AI 개발 방식이다. 증류는 기존 대형 AI 모델의 응답 결과를 학습 데이터로 활용해 유사한 성능의 모델을 훨씬 적은 비용으로 개발하는 기법이다. 일반적으로 소형 모델 개발에는 널리 활용되지만, 선도 AI 기업들은 자사 최신 모델을 무단 복제하는 데 활용될 경우 서비스 약관 위반이라고 주장하고 있다.

앤스로픽은 알리바바를 비롯한 일부 중국 AI 기업들이 미국 AI 모델 결과물을 체계적으로 활용해 경쟁 챗봇을 개발하고 있다고 주장하며 미국 정부에 규제 강화를 촉구했다.

회사 측은 서한에서 “이 같은 증류 공격은 미국 최첨단 AI 연구소들의 역량을 산업 규모로 수집해 자체 기술인 것처럼 재포장하는 행위”라고 주장했다.

알리바바는 관련 의혹에 대해 논평을 거부했다.

이번 논란은 미국 AI 업계가 중국 기업들의 AI 기술 추격을 견제하는 움직임이 본격화되는 가운데 나왔다. 앤스로픽과 오픈AI, 구글은 최근 서비스 약관을 위반한 AI 증류 시도에 대응하기 위해 관련 정보를 공유하고 있는 것으로 알려졌다.

미국 의회도 움직이고 있다. 미 상원에서는 중국 기업이 미국 AI 모델 결과물을 부적절하게 활용해 경쟁 모델을 훈련한 것으로 확인될 경우 제재하거나 블랙리스트에 올릴 수 있도록 하는 법안 개정안이 추진되고 있다.

한편 블룸버그는 이번 소식이 전해진 뒤 뉴욕증시에서 알리바바 주가가 장중 한때 3% 이상 하락했다고 전했다.

최현정 기자 phoebe@donga.com