Go to contents

沒錢買“AI芯片”,用老式遊戲芯片進行研究的大學

沒錢買“AI芯片”,用老式遊戲芯片進行研究的大學

Posted May. 03, 2024 08:00   

Updated May. 03, 2024 08:00

한국어

據悉,負責人工智能(AI)研究軸心的國內大學因找不到最新芯片,無法正常進行以大型語言模型(LLM)為基礎的生成型AI研究。就連首爾大學、KAIST等主要大學,即使被選定為政府支援事業,但由於分配預算少,也無法充分獲得AI芯片。即使確保芯片,由於電力不足,大學設施也無法啟動。

KAIST的A教授2日表示:“要想制造像OpenAI的‘Sora’壹樣的生成型AI模型,需要數百個NVIDIA(英偉達)最新的圖像處理裝置(GPU)”,“即使承攬政府事業,也不能購買多個英偉達的GPU,因此正在研究舊款遊戲用GPU。”

“Sora”是視頻生成AI服務。要想制造該服務,需要可以同時執行多個運算的GPU等“AI加速器(學習、推論專業化的AI半導體)”。在GPU方面,英偉達占全世界80%,漫天要價。據悉,特別是英偉達的最新GPU“H100”的價格為每個5000萬韓元左右。A教授表示:“據分析,要想用我們擁有的舊款遊戲用GPU制造出類似Sora的服務,需要148年的時間。”

即使好不容易找到芯片,也要解決電力問題。首爾大學計算機工學部教授金建熙(人名音譯下同)表示:“雖然想追加啟動GPU,但校方回答說不能追加供應電力,教授們必須親自前往電力過剩的建築。”

即使確保了預算,也要經過購買裝備的審議。在國家研究開發(R&D)事業中,如果研究裝備超過1億韓元,就要接受國家研究設施裝備中心(NFEC)的審議,結果出來通常需要3個月以上。光州科學技術院(GIST)AI研究生院院長金鐘元表示:“壹般來說,AI研究至少需要8個英偉達GPU”,“僅8個GPU和服務器的購買價格就約為5億韓元。即使確保了這壹預算,經過審議,到實際研究為止,時間也會壹直被推遲。”金院長建議道:“大學有必要建立共同使用AI芯片的研究中心等對策。”


田南赫記者 forward@donga.com