경쟁하던 美 AI 거인들, 손잡았다…中 모델 ‘빼가기’ 대응

중국을 포함한 해외 AI 기업의 모델 ‘빼가기’ 의혹이 확산되자 오픈AI·구글·앤스로픽이 공동 대응에 나섰다. 챗GPT 생성 이미지

중국을 포함한 해외에서 인공지능(AI) 모델 결과를 활용해 성능을 모방하는 시도가 확산되자, 미국 주요 AI 기업들이 공동 대응에 나섰다. 경쟁 관계였던 기업들이 정보를 공유하며 협력에 나선 것은 이례적인 움직임으로 평가된다.

6일(현지시간) 블룸버그통신에 따르면 오픈AI, 구글, 앤스로픽 등은 비영리 협의체 ‘프런티어 모델 포럼’을 통해 AI 모델 결과를 무단으로 활용하는 시도를 탐지하기 위한 정보를 공유하고 있다. 이 포럼은 2023년 이들 기업과 마이크로소프트가 공동 설립했다.

이들이 대응하려는 방식은 ‘적대적 증류(adversarial distillation)’로 불린다. 기존 AI 모델의 출력값을 활용해 새로운 모델을 학습시키는 기술로, 비용을 크게 줄일 수 있다는 장점이 있지만 제3자가 무단으로 활용할 경우 지적재산권 침해 논란이 발생한다.

미국 AI 기업들은 특히 중국을 포함한 해외에서 자사 모델을 모방한 제품이 등장하고 있는 것으로 보고 있다. 이러한 모델은 가격 경쟁력을 앞세워 시장을 잠식할 가능성이 있으며, 안전 장치가 제거된 상태로 활용될 경우 안보 위험으로 이어질 수 있다는 우려도 제기된다.

미 정부는 이 같은 무단 증류로 인해 실리콘밸리 기업들이 연간 수십억 달러 규모의 손실을 입고 있는 것으로 추산하고 있다.

● 딥시크 등장 이후 커진 ‘모델 추출’ 논란, 왜 문제인가

논란은 중국 AI 기업 딥시크가 2025년 초 공개한 추론 모델 ‘R1’ 이후 본격화됐다. 해당 모델은 상대적으로 낮은 비용으로 고성능을 구현하며 시장에 충격을 줬다.

이후 마이크로소프트와 오픈AI는 해당 기업이 자사 모델 데이터를 활용했는지 여부를 조사한 바 있다. 오픈AI는 미 의회에 제출한 자료에서 딥시크가 자사 모델 성능을 활용했을 가능성을 제기하기도 했다.

딥시크 논란이 커진 배경에는 ‘증류’ 기술의 특성이 있다. 기존 AI 모델에 대량의 질문을 반복적으로 입력해 답변을 축적하면, 이를 학습 데이터로 활용해 유사한 성능의 모델을 구축할 수 있기 때문이다.

업계에서는 특히 특정 모델이 짧은 기간 내 유사한 성능을 보이거나, 대규모 데이터 요청이 집중되는 경우 이러한 방식이 활용됐을 가능성을 의심하는 것으로 알려졌다. 다만 개별 모델의 학습 과정에 어떤 데이터가 사용됐는지는 외부에서 입증하기 어렵다는 한계도 있다.

기업 간 정보 공유는 사이버보안 분야에서는 일반적인 대응 방식이지만, 경쟁이 치열한 AI 산업에서는 이례적인 사례다. 업계에서는 기술 개발 경쟁과 함께 이를 보호하려는 움직임이 이어지고 있다는 평가가 나온다.

다만 기업 간 협력은 경쟁 관계와 규제 환경을 고려할 때 제한적으로 이뤄질 가능성이 크다는 관측도 있다.

최현정 기자 phoebe@donga.com