[K-TECH 글로벌 리더스] 〈삼성전자②〉AI 핵심 플레이어로 돌아온 삼성전자… ‘기술 초격차’ 재현할까

삼성전자는 2025년 4분기 반도체 사업에서 영업이익 16조4000억 원을 기록했습니다. 이 부문 연간 20조 원 시대를 한국 기업 최초로 열었습니다. 특히 인공지능(AI) 핵심 반도체인 고대역폭메모리(HBM)가 실적 반등의 중심축으로 자리 잡으며 매출(333조6000억 원)도 사상 최대치를 경신했습니다. 이는 AI 전환기 속에서 K-테크의 기술 경쟁력과 전략적 방향성을 가늠하는 상징적 이정표로 평가됩니다. 삼성전자의 반도체, AI, 글로벌 기술 패권, 산업 생태계 등 네 가지 축을 중심으로 K-테크 다음 행보를 입체적으로 짚어 봤습니다. 

삼성전자가 고대역폭메모리(HBM) 시장에서 기술 역량을 본격적으로 입증하며 엔비디아 등 거대 글로벌 고객에 공급을 확대하고 있습니다. 한때 이 분야에서 뒤처졌던 삼성이 차세대 HBM4에서 엔비디아의 최고 평가를 받으며 기술 반전을 이룬 것입니다. 2026년 HBM 매출이 3배 이상 급증할 것으로 예상되는 가운데, 삼성이 반도체에서의 기술 초격차 전략을 HBM과 맞춤형 AI칩 시장에서 재현할 수 있을지 주목됩니다.

HBM의 등장과 AI 시대의 필연성

생성형 AI의 급속한 확산에 따라 데이터센터 서버의 구조가 급격히 변화하고 있습니다. 기존의 범용 프로세서 중심에서 GPU(그래픽처리장치)와 고대역폭메모리(HBM)의 조합으로 전환되는 것입니다. HBM은 일반적인 D램을 건축물처럼 수직으로 여러 층 쌓아 올려 제조되는 첨단 메모리 기술입니다.

HBM의 핵심기술은 TSV(Through Silicon Via)로 불리는 기술로, 반도체 내부에 수직 통로를 뚫어 데이터를 빠르게 전송하는 방식입니다. 일반적인 D램이 횡단으로만 데이터를 주고받는다면, HBM은 종단까지 3차원적으로 연결되어 있어 데이터 전송 속도(대역폭)가 획기적으로 높아집니다. 이는 AI 모델 학습과 추론 과정에서 대량의 데이터를 빠르게 처리해야 하는 요구를 충족시키는 핵심 요소입니다.

HBM 제품은 세대별로 구분됩니다. 4세대의 HBM3(2021년), 5세대의 HBM3E(2023년), 그리고 최신의 6세대가 HBM4입니다. 엔비디아의 GPU는 여러 개의 HBM을 함께 탑재하여 초고속 AI 연산을 수행합니다. 예를 들어 엔비디아의 차세대 AI 가속기 루빈(2026년 하반기 출시)은 고성능 HBM4를 다수 탑재하여 초고속 AI 연산을 수행하게 됩니다.

삼성의 HBM 개발 실패와 교훈

흥미롭게도 삼성전자는 HBM 기술을 먼저 개발한 기업 중 하나였습니다. 하지만 2019년 당시 삼성 반도체 부문 경영진은 HBM 시장이 충분히 크지 않을 것이라 보고 HBM 전담팀을 축소하는 결정을 내렸습니다. 후발주자인 SK하이닉스가 작은 시장이라도 생존을 위해 HBM 개발에 집중한 것과 대조적이었습니다.

당시 경영진의 논리는 “성능이 뛰어나지만 매우 비싼 메모리”라는 특수성 때문에 대중적 수요를 기대하기 어렵다는 판단이었습니다. 이는 ‘수익성 보장’ 사업에 집중하는 삼성의 조직 문화를 반영한 것이었습니다. 불확실한 미래 기술 개발보다는 현재의 이익이 확실한 사업 부문에 인력과 자원을 배분하는 구조가 고착된 탓일 겁니다.

그 결과는 참담했습니다. 2023년 생성형 AI가 폭발적으로 확산되면서 HBM 수요는 예상을 크게 상회했습니다. SK하이닉스의 HBM은 2025년도 생산분까지 완판되는 상황이 발생했고, 경쟁사도 공급 부족 상태에 빠졌습니다. 삼성이 시장의 잠재력을 읽지 못한 것도 문제였지만, 시장이 확인된 이후에도 품질 개선에 1년 이상의 긴 시간이 걸렸다는 점이 더욱 심각하게 평가됐습니다.

당시 삼성의 HBM이 엔비디아의 품질 요구를 충족시키지 못했던 이유는 패키징 기술 문제라는 설이 있었습니다. 업계 전문가들은 D램 설계 자체의 근본적 문제일 가능성을 지적했습니다. 발열 및 전력 소비 문제로 인한 성능 저하가 엔비디아의 까다로운 테스트를 통과하지 못한 원인으로 추정되고 있습니다.

2025년, 기술 반전의 신호 포착

그러나 삼성은 위기를 전환점으로 삼았습니다. 집중적인 기술 개발과 생산 능력 강화를 통해 2025년 2분기 17%에서 3분기에 점유율이 크게 상승하며 미국의 마이크론을 제치고 2위 자리를 되찾았습니다. SK하이닉스가 1위(57~64% 점유율)를 유지하는 가운데, 삼성의 추격이 시작된 것입니다.

주목할 점은 삼성의 차세대 제품 HBM4가 엔비디아의 엄격한 품질 평가에서 최고 점수를 받았다는 것입니다. 2025년 12월 엔비디아는 삼성의 HBM4 12단 제품을 핀당 전송속도 11Gbps(초당 기가비트)를 달성한 것으로 평가했습니다. 이는 국제 표준(JEDEC) 8Gbps를 훨씬 뛰어넘으며, 엔비디아가 루빈용으로 요구한 고사양을 충족시키는 수치였습니다.

삼성전자가 업계 최초로 개발한 ‘24Gb GDDR7 D램’

삼성의 HBM4 성능 우위가 입증되자 엔비디아는 삼성에 당초 예상보다 훨씬 많은 물량을 요청했습니다. 이는 엔비디아가 멀티소싱 전략을 추진하며 공급처를 다변화하려는 흐름과도 맞아떨어진 것으로 보입니다. 삼성은 2026년 상반기부터 엔비디아에 HBM4 모듈 공급을 시작할 예정이며, 반도체 업계에서는 2분기부터 본격 공급이 이루어질 것으로 전망하고 있습니다.

2026년 HBM 매출, 3배 폭증의 실상

증권가 전망에 따르면 삼성전자의 2026년 HBM 매출은 2025년 수준에서 약 3배 급증하여 26조 원에 이를 것으로 예상됩니다. HBM 출하량도 112억 Gb로 전년 대비 3배 증가할 것으로 보이며, 이 중 차세대 HBM4가 전체 출하량의 절반 수준을 차지할 것으로 전망됩니다.

더욱 놀라운 것은 이 정도 전망이 이전 침체기에서의 단순 회복 수준이 아니라는 점입니다. KB증권의 분석에 따르면 삼성전자의 2026년 영업이익이 100조 원에 근접하여 2025년 대비 129% 증가할 것으로 전망되는데, 이 성장의 핵심 동력이 D램 가격 상승과 HBM 출하 확대라는 것입니다. 2025년 4분기에만 영업이익 20조 원을 기록한 삼성이 메모리 슈퍼사이클의 정점을 향해 나아가고 있다는 의미입니다.

HBM 점유율 확대 전망도 놀랍습니다. 2025년 2분기 17%에서 2026년 35% 수준으로 급상승할 것으로 추정되며, 일부 기관은 30% 이상을 예측하고 있습니다. 이렇게 점유율이 확대될 경우 삼성은 2위에서 탈피하여 SK하이닉스와 본격적인 경쟁 구도를 형성하게 될 것으로 보입니다. SK하이닉스가 현재 50% 이상의 과점적 지위를 유지하고 있는 만큼, 삼성의 30% 점유율은 ‘투톱 경쟁’이 벌어질 수 있는 임계점으로 평가됩니다.

중요한 건 삼성의 HBM4 기술력이 지속적으로 강화될 것이라는 점입니다. 현재 HBM4는 2026년 상반기 본격 양산 체제를 갖추고 있으며, 2026년 4월경 대량생산을 위한 수율 70% 목표를 달성할 것으로 예상됩니다. HBM5, HBM6 등 차세대 기술 개발도 병행되고 있어, 기술 격차가 완전히 해소될 가능성도 있다는 업계 분석입니다.

전영현 삼성전자 반도체 사업(DS 부문) 수장

기술 초격차의 재현 가능성

삼성전자가 AI 시대의 핵심 메모리인 HBM에서 기술 초격차를 재현할 수 있을지 여부는 이제 기술 전개의 문제가 아니라 조직의 의지와 실행력의 문제로 보입니다. 현재 삼성의 HBM4 성능은 이미 경쟁사를 능가하는 수준에 도달했으며, 설계·제조·패키징의 통합 역량도 세계 최고 수준입니다. 문제는 이러한 기술적 우위를 얼마나 빠르게 상업화하고, 고객을 만족시킬 수 있는 공급 안정성으로 전환할 수 있을지 여부입니다.

2026년은 이러한 변화가 본격화하는 전환점이 될 것으로 예상됩니다. 삼성의 HBM 매출 3배 증가, 점유율 30% 이상 달성, 그리고 ASIC 시장에서의 고객 확보 성공 여부가 앞으로의 10년을 결정할 것으로 보입니다. 반도체 업계에서 “2년 준비, 10년 성장”이라는 말이 있듯이, 현재의 기술 진전이 진정한 기술 초격차로 발전할지는 향후 몇 년의 실행력에 달려있습니다.

‘Q&A’ HBM과 삼성의 기술 반전을 쉽게 이해하기

Q. HBM(고대역폭메모리)이 정확히 뭔가요?

A. HBM은 D램(일반적인 메모리)을 건축물처럼 수직으로 여러 층 쌓아올린 첨단 메모리입니다. 일반 메모리는 옆으로만 데이터를 주고받지만, HBM은 위아래로도 연결되어 있어 데이터를 훨씬 빠르게 전송할 수 있습니다. AI 학습과 연산에는 엄청난 양의 데이터를 빠르게 처리해야 하는데, HBM이 바로 그걸 가능하게 하는 핵심 부품입니다.

Q. TSV 기술이란 무엇이며, 왜 중요한가요?

A. TSV(Through Silicon Via)는 반도체 칩 내부에 수직으로 미세한 통로를 뚫어서 데이터를 전송하는 기술입니다. 일반적으로 신호는 칩의 표면을 통해 가로세로로만 이동하는데, TSV를 이용하면 칩을 관통하는 ‘3차원 통로’를 만들 수 있습니다. 덕분에 훨씬 빠른 속도로 더 많은 데이터를 전송할 수 있으며, 이것이 HBM을 특별하게 만드는 ‘핵심기술’입니다.

Q. HBM3, HBM4는 뭐가 다른가요?

A. HBM3은 2021년에 나온 제품이고, HBM3E는 2023년, HBM4는 가장 최신(6세대) 제품입니다. 세대가 올라갈수록 데이터 전송 속도가 빨라집니다. 예를 들어 HBM4는 핀당(데이터 연결 지점마다) 초당 11기가비트의 속도를 달성했는데, 이는 국제 표준인 8기가비트를 훨씬 능가하는 성능입니다.

Q. 엔비디아의 품질 요구가 왜 그렇게 까다로운가요?

A. 엔비디아는 전 세계에서 가장 강력한 AI 칩(GPU)을 만드는 회사입니다. 자신들의 최신 AI 가속기(루빈)에 들어갈 HBM은 성능, 안정성, 발열 관리 등 모든 조건을 최고 수준으로 충족해야 합니다. 만약 HBM의 성능이 떨어지거나 발열이 심하면 전체 시스템의 성능이 저하됩니다. 따라서 엔비디아는 매우 엄격한 테스트를 거쳐 최고 품질의 제품만 선택합니다.

Q. ‘메모리 슈퍼사이클’이 뭐죠?

A. 메모리 칩 시장에서 수요와 가격이 동시에 크게 상승하는 시기를 ‘슈퍼사이클’이라고 부릅니다. 2023년부터 시작된 AI 열풍으로 HBM과 D램 수요가 폭증하면서 가격도 올랐습니다. 이 기간 동안 메모리 칩 제조업체들의 수익이 급증합니다. 삼성이 현재 이 슈퍼사이클의 정점을 향해 나아가고 있다는 의미입니다.

Q. 2026년 4월 ‘수율 70% 목표’가 뭐죠?

A. ‘수율’은 생산한 제품 중에서 결함 없이 정상적으로 나온 제품의 비율입니다. 예를 들어 100개를 만들어서 70개가 합격이면 수율 70%입니다. HBM4는 최첨단 기술이라 초반에는 완벽하지 않은 제품이 많이 나올 수 있습니다. 2026년 4월까지 수율을 70% 수준으로 올린다는 것은 대량생산이 본격화될 준비가 된다는 의미입니다. 수율이 높을수록 원가가 낮아져서 수익성도 높아집니다.

Q. 기사에서 ‘2년 준비, 10년 성장’이라는 말이 뭔가요?

A. 반도체 업계에서 하는 말입니다. 새로운 기술을 완벽하게 개발하고 준비하는 데 2년이 걸리면, 그 기술로 10년 동안 꾸준히 수익을 올릴 수 있다는 뜻입니다. 삼성의 현재 HBM 기술 개발(2~3년)이 앞으로 10년의 성장으로 이어질 수 있다는 의미이며, 2026년의 실행력이 얼마나 중요한지를 강조하는 표현입니다.

Q. 왜 삼성이 기술 초격차를 ‘재현’할 수 있다고 표현했나요?

A. 삼성은 과거 스마트폰 메모리 칩, D램, 낸드플래시 등에서 기술적으로 경쟁사보다 훨씬 앞서나가며 ‘초격차’를 만든 경험이 있습니다. 현재 HBM에서도 비슷한 상황이 만들어지고 있다는 뜻입니다. HBM4 성능이 경쟁사를 능가하고, 설계·제조·패키징 능력도 세계 최고 수준이기 때문입니다. 다만 기술만으로는 부족하고, 얼마나 빠르게 상용화하고 공급을 안정적으로 할 수 있는가가 중요합니다.

김상준 기자 ksj@donga.com