앤스로픽 창업자 남매
9일(현지 시간) 로이터는 앤스로픽이 자체 AI 칩 설계를 검토하고 있다고 보도했다. 아직 검토 초기 단계로 구체적인 설계안이 마련되거나 전담 팀 구성은 이뤄지지 않은 상태로 전해졌다. 앤스로픽은 최근 자사 AI 모델 ‘클로드’ 수요가 급증하면서 올해 매출이 약 300억 달러(약 44조 4000억 원)를 넘어설 것이라고 밝혔다. 전년 매출은 약 90억 달러 수준으로 약 3배 이상으로 늘었다. 현재 앤스로픽은 엔비디아의 그래픽처리장치(GPU)와 구글이 개발한 AI 칩 텐서처리장치(TPU)를 모두 활용하고 있다.
아마존 트레이니엄3
광고 로드중
인공지능(AI) 모델의 주간 토큰 사용량 얼마나 급증했나
구글, 마이크로소프트, 메타 등 주요 빅테크들이 자체 AI 칩 설계에 나서는 것은 엔비디아에 대한 의존도를 줄이고, 기하급수적으로 늘어나는 토큰의 경제성을 확보하기 위해서다. 토큰은 AI가 답변을 생성하는 기본 단위로, 문장에 비유하면 하나의 ‘단어’를 의미한다. 토큰의 사용량을 보면 AI가 얼마나 많은 답변을 내뱉었는가를 알 수 있기 때문에 빅테크의 AI 사용량은 대체로 토큰 사용량을 기준으로 집계된다. 최근 답변을 내놓는데서 그치지 않고 실행까지 옮기는 ‘AI 에이전트’로 AI 개발 흐름이 넘어가면서 토큰 사용량이 기하급수적으로 늘어나고 있다. 이제는 토큰의 효율화가 빅테크들의 큰 과제가 된 것.
자체 AI 칩 개발은 토큰 경제성을 확보하기 위한 수단 중 하나인 셈이다. 마이크소프트는 올해 1월 자체 개발 AI 칩 ‘마이아 200’을 공개하면서 “대규모 AI 토큰 생성의 경제성을 획기적으로 개선하기 위해 설계된 추론 가속기”라고 설명하기도 했다. 메타 역시 올해 상반기(1~6월) 차세대 AI 칩 ‘MTIA v3’를 출시할 계획이다.
빅테크들의 ‘탈 엔비디아’ 흐름이 가속화되며 AI 칩 시장도 다변화될 것이라는 관측이 나온다. 빅테크들의 경쟁도 고성능 AI 개발에서 AI 칩까지 확전되는 모양새다. 업계 관계자는 “AI 사이즈가 비대해지며 AI 성능을 결정하는 데 AI 인프라가 결정적인 역할을 하는 시대가 됐다”며 “단순히 많은 연산이 가능한 칩이 아니라 이제는 효율적이고 속도도 더 빠른 칩이 필요하다”고 했다.
최지원 기자 jwchoi@donga.com