삼성SDS, B300 GPU 앞세워 기업용 AI 추론 시장 공략

삼성SDS가 자사 클라우드를 통해 엔비디아의 최신 그래픽처리장치(GPU)인 ‘블랙웰 울트라’ 기반 컴퓨팅 구독 서비스를 선보인다.

삼성SDS는 23일 ‘삼성 클라우드 플랫폼(SCP)’을 통해 블랙웰 울트라(B300)기반 GPU 구독형 서비스를 국내 최초로 선보였다고 23일 밝혔다. 기업들이 AI 모델을 실제 서비스에 적용하는 ‘AI 추론’ 단계로 진입함에 따라 늘어나는 고성능 컴퓨팅 수요에 대응하기 위한 조치다.

B300 GPU는 12단 고대역폭메모리(HBM3E)를 탑재해 GPU당 288GB(기가바이트)의 메모리 용량과 초당 8TB(테라바이트)의 대역폭을 제공한다. 기존 호퍼의 H100 대비 메모리 용량은 3.6배, 대역폭은 2.4배로 성능이 향상됐다. 이로 인해 대규모 언어모델(LLM) 구동 시 발생하는 데이터 병목 현상이 크게 개선됐다는 게 삼성SDS의 설명이다.

삼성SDS는 “AI 에이전트나 이미지·영상·코드 생성·분석 등 높은 연산 성능이 요구되는 서비스에서 응답 속도를 안정적으로 유지할 수 있을 것”이라며 “필요한 만큼만 사용하고 비용을 지불하는 구독형 모델을 통해 초기 인프라 구축에 따른 투자 부담을 줄이고 비용 효율성을 높일 수 있다”고 밝혔다.


한채연 기자 chaezip@donga.com