Go to contents

没钱买“AI芯片”,用老式游戏芯片进行研究的大学

没钱买“AI芯片”,用老式游戏芯片进行研究的大学

Posted May. 03, 2024 07:58   

Updated May. 03, 2024 07:58

한국어

据悉,负责人工智能(AI)研究轴心的国内大学因找不到最新芯片,无法正常进行以大型语言模型(LLM)为基础的生成型AI研究。就连首尔大学、KAIST等主要大学,即使被选定为政府支援事业,但由于分配预算少,也无法充分获得AI芯片。即使确保芯片,由于电力不足,大学设施也无法启动。

KAIST的A教授2日表示:“要想制造像OpenAI的‘Sora’一样的生成型AI模型,需要数百个NVIDIA(英伟达)最新的图像处理装置(GPU)”,“即使承揽政府事业,也不能购买多个英伟达的GPU,因此正在研究旧款游戏用GPU。”

“Sora”是视频生成AI服务。要想制造该服务,需要可以同时执行多个运算的GPU等“AI加速器(学习、推论专业化的AI半导体)”。在GPU方面,英伟达占全世界80%,漫天要价。据悉,特别是英伟达的最新GPU“H100”的价格为每个5000万韩元左右。A教授表示:“据分析,要想用我们拥有的旧款游戏用GPU制造出类似Sora的服务,需要148年的时间。”

即使好不容易找到芯片,也要解决电力问题。首尔大学计算机工学部教授金建熙(人名音译下同)表示:“虽然想追加启动GPU,但校方回答说不能追加供应电力,教授们必须亲自前往电力过剩的建筑。”

即使确保了预算,也要经过购买装备的审议。在国家研究开发(R&D)事业中,如果研究装备超过1亿韩元,就要接受国家研究设施装备中心(NFEC)的审议,结果出来通常需要3个月以上。光州科学技术院(GIST)AI研究生院院长金钟元表示:“一般来说,AI研究至少需要8个英伟达GPU”,“仅8个GPU和服务器的购买价格就约为5亿韩元。即使确保了这一预算,经过审议,到实际研究为止,时间也会一直被推迟。”金院长建议道:“大学有必要建立共同使用AI芯片的研究中心等对策。”


田南赫记者 forward@donga.com