하이퍼비주얼AI, 차세대 온디바이스AI GPNPU 아키텍처 개발

개발 편의성·호환성 확보한 차세대 프로세서 HW·SW 아키텍처 완성 성과

 ㈜하이퍼비주얼에이아이(대표 정삼윤)는 GPU (Graphic Processing Unit)의 고성능 연산 능력과 NPU(Neural Processing Unit)의 저전력 효율성을 결합한 차세대 프로세서 GPNPU (General-Purpose Neural Processing Unit)의 HW 및 SW 기본 아키텍처(Architecture)를 완성하고 IP (Intellectual Property, 설계자산)화를 위한 고도화를 진행 중이라고 밝혔다.

이미지 제공=HyperVisual AI

 GPNPU 아키텍처의 핵심 특징은 바로 개발 편의성과 광범위한 호환성이다. 하이퍼비주얼에이아이가  개발 중인 GPNPU는 NVIDIA CUDA 환경의 주요 함수 라이브러리인 cuDNN(CUDA Deep Neural Network) 및 cuBLAS(CUDA Basic Linear Algebra Subprograms)와 동일한 기능을 지원하여, 기존 CUDA 환경에서 파이토치(Pytorch)를 이용해 개발된 AI 모델을 동사가 제공하는 라이브러리 코드를 추가하는 것만으로 GPNPU로 쉽게 포팅(Porting)할 수 있는 장점이 있다.

 또 GPU와 NPU를 동일 환경에서 코딩할 수 있는 통합 컴파일러(Compiler)를 제공하여, 복잡한 모델 포팅 과정을 단순화했다고 밝혔다. 이는 개발자들이 기존 NPU 환경에서 모델 포팅을 위해 투자한 시간과 노력을 줄여줄 것으로 기대된다.

 개발자는 고성능 NVIDIA GPU 서버에서 모델 학습을 진행하고 최적화하여, 해당 모델을 엣지 디바이스의 GPNPU 프로세서에 손쉽게 이식하여 온디바이스 AI를 즉각적으로 구현할 수 있게 된다.

 하이퍼비주얼에이아이는 GPNPU의 성능을 한 단계 끌어올릴 핵심 기능도 개발하고 있다. 현재 GPU와 NPU 프로세서의 연산 부하를 실시간 모니터링하고, Workload를 자동으로 분배하는 기능을 개발 중이며 이 기능이 완성되면 GPNPU는 작업 부하에 따라 가장 효율적인 프로세서에 연산을 할당하여 성능과 전력 효율을 높일 수 있게 된다.

 GPNPU는 최근 급속도로 발전하는 인공지능 모델의 다양한 연산 방식에 대한 유연한 대응이 가능하여 디바이스 출시 후에도 펌웨어 또는 소프트웨어 업데이트를 통해 지속적인 인공지능 모델 업그레이드를 지원함으로써 인공지능 디바이스의 수명과 가치를 높여줄 것으로 기대된다. 하이퍼비주얼에이아이는 현재 비전 AI 모델인 ViT (Vision Transformer) 및 YOLO V.13 모델의 구동 데모를 구현했으며, 연말까지 GPNPU IP화 작업을 마무리할 계획이다.

 정삼윤 하이퍼비주얼에이아이 대표는 “신규 프로세서 채용을 위해서는 기존 인공지능 모델 개발 환경과의 호환성 확보가 관건으로, 컴파일러 및 AI Stack의 확장성이 주요 경쟁 요소”라면서 “우리 회사는 향후 Pytorch외에도, ONNX(Open Neural Network Exchange), TensorFlow 등 다른 DNN 프레임워크에서 만들어진 모델들을 서로 호환 가능하도록 개발 환경을 제공하고, GPNPU HW와 도메인별 인공지능 모델 최적화, 컴파일러, 라이브러리 및 AI stack 등 온디바이스 AI 풀스택을 지원을 통해 온디바이스AI 개발자들에게 전례 없는 자유도와 효율성을 제공할 것”이라고 포부를 밝혔다.

 한편,  하이퍼비주얼에이아이(HyperVisual AI)는 지난 7월 딥테크 기술사업화 전문 VC인 케이그라운드벤처스(대표 조남훈)가 이끄는 AI융복합·피지컬AI 얼라이언스에 참여해 티라로보틱스(대표 김동경), 윔(대표 전우진)과 함께 자율주행로봇인 AMR(Autonomous Mobile Robot)용 IP공동개발을 위한 협약을 체결하고 개발을 추진 중이다.

최용석 기자 duck8@donga.com