‘AI칩’ 살 돈 없어… 구형 게임칩으로 연구하는 대학들

인공지능(AI) 연구의 한 축을 담당하는 국내 대학들이 최신 칩을 구하지 못해 대형언어모델(LLM)을 기반으로 한 생성형 AI 연구를 제대로 하지 못하는 것으로 드러났다. 서울대 KAIST 등 주요 대학들조차 정부 지원 사업에 선정되더라도 배정 예산이 적어 AI 칩을 충분히 구할 수 없었다. 칩을 확보하더라도 전력 부족으로 대학 시설에서 구동할 수 없는 상황이다.

KAIST의 A 교수는 2일 “오픈AI의 ‘소라’ 같은 생성형 AI 모델을 만들려면 엔비디아 최신 그래픽처리장치(GPU) 수백 개가 필요하다”며 “정부 사업을 수주하더라도 엔비디아의 GPU를 여럿 구매하기는 불가능해 구형 게임용 GPU로 연구하고 있다”고 말했다.

‘소라’는 동영상 생성 AI 서비스다. 이 서비스를 만들려면 여러 개의 연산을 동시 수행할 수 있는 GPU와 같은 ‘AI 가속기(학습, 추론에 특화된 AI 반도체)’가 필요하다. GPU는 엔비디아가 전 세계 80%를 차지하며 부르는 게 값인 상황이다. 특히 엔비디아의 최신 GPU인 H100 가격은 개당 5000만 원 정도인 것으로 알려져 있다. A 교수는 “우리가 가진 구형 게임용 GPU로 소라와 유사한 서비스를 만들려면 148년 걸리는 것으로 분석됐다”고 말했다.

어렵게 칩을 구해도 전력 문제를 해결해야 한다. 서울대 김건희 컴퓨터공학부 교수는 “GPU를 추가로 가동하고 싶지만 학교 측에서 전력 추가 공급이 불가능하다는 답변이 왔다”면서 “교수들이 직접 전력이 남는 건물을 찾아다녀야 하는 실정”이라고 말했다.

예산을 확보했더라도 장비 구매에 따르는 심의를 거쳐야 한다. 국가 연구개발(R&D) 사업에서 연구 장비가 1억 원이 넘으면 국가연구시설장비센터(NFEC)의 심의를 받아야 하고, 결과가 나오는 데 통상 3개월 이상 걸린다. 김종원 광주과학기술원(GIST) AI 대학원장은 “일반적으로 AI 연구에 엔비디아 GPU가 최소 8개 필요하다”면서 “GPU 8개와 서버 구매 가격만 대략 5억 원이다. 그 예산을 확보해도 심의를 거치면 실제 연구하기까지 계속 시간이 지연된다”고 말했다. 김 원장은 “대학들이 AI 칩을 공동으로 사용하는 연구센터를 만드는 등의 대안이 필요하다”고 조언했다


전남혁 기자 forward@donga.com