트렌드포스 “삼성, 엔비디아에 HBM3E 8단 출하 시작”
품질 이슈 털어낸 삼성, 글로벌 HBM 시장 공략 본격화
‘블랙웰’ 양산 소식도 호재…삼성 HBM3E 12단 경쟁력↑
삼성, ‘HBM 1등’ SK하이닉스 따라 잡을지 ‘관심 집중’

이재용 삼성전자 회장(오른쪽에서 두번째)이 삼성전자 천안캠퍼스에서 반도체 제품을 살펴보고 있다. <사진=삼성전자>

삼성전자가 최근 5세대 HBM ‘HBM3E’에 대한 엔비디아의 품질 테스트를 마치고 본격적인 공급에 돌입했다는 주장이 제기됐다. 이로써 SK하이닉스에 이어 삼성도 AI 반도체 공룡인 엔비디아를 고객사로 맞이하게 됐다.

삼성은 이에 대해 확인해줄 수 없다는 입장이지만, 엔비디아에 대한 삼성 HBM3E 납품이 초읽기에 돌입 했다는 평가가 지배적이다. SK하이닉스에 이어 삼성전자도 차세대 AI 메모리로 부상하고 있는 HBM3E를 엔비디아에 공급하게 되면서, 글로벌 HBM 시장을 둘러싼 패권 다툼은 한층 치열해질 전망이다. 특히 SK하이닉스에 ‘HBM 1등’ 자리를 내준 삼성전자가 선두 자리를 탈환하고, 자존심을 회복할 수 있을지 주목된다.

4일 시장조사기관 트렌드포스는 “삼성전자는 (SK하이닉스, 마이크론에 비해) HBM 시장에 다소 늦게 뛰어 들었다”면서도 “그러나 최근 엔비디아로부터 HBM3E 품질 검증을 완료하고 ‘H200’용 HBM3E 8단 제품의 출하를 시작했다”고 밝혔다.

이에 삼성은 지난달 초 HBM3E에 대한 엔디비아의 품질 테스트를 통과한 이후 약 한달 만에 제품 공급을 본격화하게 됐다.

앞서 지난달 7일 로이터 통신은 복수의 소식통을 인용해 “삼성전자가 엔비디아에 HBM3E 8단 제품을 납품하기 위한 품질 테스트를 통과했다”고 보도했다. 당시 로이터는 “삼성전자와 엔비디아가 조만간 공급 계약을 체결할 전망이다”며 “올 4분기부터 HBM3E 납품이 시작될 것으로 예상된다”고 전했다. 

눈여겨볼 점은 실제 삼성이 로이터 보도에 따른 납품 시점보다도 한달 가량 일찍 HBM을 공급하기 시작했다는 것이다. 이는 삼성전자가 업계의 예상을 뒤엎고, HBM 품질 이슈를 말끔히 털어냈다는 방증이라 할 수 있다.

삼성전자 36GB HBM3E 12H. <사진=삼성전자>

삼성전자는 올 상반기까지만 해도 엔비디아의 품질 테스트에 어려움을 겪고 있다는 소식으로 홍역을 치렀다. 앞서 지난 5월 로이터는 복수의 소식통을 인용해 “삼성전자의 HBM3E 8단·12단 제품이 발열 등 문제로 인해 엔비디아의 품질 테스트를 통과하지 못했다”고 보도했다. 이에 삼성은 즉각 입장문을 내고 “다양한 글로벌 파트너들과 HBM 공급을 위한 테스트를 순조롭게 진행 중이다”며 반박했다.

삼성은 1분기 D램을 8단으로 적층한 HBM3E 8단 제품의 양산 램프업(생산량 확대)에 힘써 왔다. 그 결과, 삼성전자는 올 7월 열린 2분기 실적 콘퍼런스콜에서 3분기 중 HBM3E 양산에 나서 고객사에 본격 공급한다는 계획을 제시할 수 있었다.

이같은 상황에서 삼성의 HBM3E 8단 제품이 엔비디아에 납품되고 있다는 주장이 나오면서 삼성전자의 글로벌 HBM 시장 공략은 더욱 탄력이 붙을 전망이다.

삼성전자가 공급하는 HBM3E는 엔비디아의 H200에 탑재될 것으로 알려졌다. H200은 HBM3E 8단을 탑재한 엔비디아의 최신 GPU(그래픽처리장치)다. 생성형 AI 모델의 기반이 되는 LLM(거대언어모델)을 가속화하도록 설계된 것이 특징이다.

트렌드포스는 이와 관련해 “올해 엔비디아의 제품 라인업 가운데 H200은 HBM3E 8단 제품을 장착한 최초의 GPU로, 전 세계에 큰 파장을 일으킬 예정이다”며 “H200의 출하로 올해 HBM3E 소비 점유율은 60% 이상으로 높아질 것이다”고 전망했다.

그러면서 “최근 H200에 대한 데이터센터 및 빅테크 수요가 급증하는 추세다”며 “H200은 올 3분기 이후부터 엔비디아의 주요 출하 동력이 될 것이다”고 덧붙였다.

미국 엔비디아 보이저사옥. <사진=엔비디아>

차세대 AI 칩인 ‘블랙웰’에도 HBM3E가 채택될 것으로 점쳐진다.

지난달 28일 엔비디아는 올해 말 차세대 AI 반도체 양산을 본격화한다고 공언했다. 황 CEO는 “올 3월 공개한 차세대 AI 칩 블랙웰을 2025 회계연도 4분기(올 11월~내년 1월)부터 양산에 돌입한다”고 말했다.

앞서 올 3월 엔비디아는 미국 캘리포니아주 새너제이 SAP 센터에서 개발자 콘퍼런스 ‘GTC 2024’를 열고, 차세대 AI 반도체 ‘B100’과 ‘B200’을 선보인 바 있다. B100, B200은 엔비디아 호퍼 아키텍처 기반의 ‘H100’의 성능을 뛰어 넘는 차세대 AI 반도체다. 호퍼 아키텍처가 아닌 새로운 플랫폼 블랙웰을 기반으로 제조돼 H100 대비 최대 30배 뛰어난 성능을 자랑한다. 반면 에너지 소비는 25분의 1 수준에 불과하다.

엔비디아의 차세대 AI 칩 양산이 본격화한다는 소식은 삼성전자에 호재가 되고 있다. 트렌드포스에 따르면 엔비디아가 향후 선보일 블랙웰에 8개의 HBM3E 12단 제품이 탑재될 것이란 관측이다.

HBM3E 12단 제품에서 경쟁 우위를 점하고 있는 삼성이 유리한 고지를 선점했다는 평가도 나오고 있다. 

삼성전자는 지난 4월 24Gb D램 칩을 TSV(실리콘관통전극) 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 구현했다. TSV는 수천개의 미세 구멍을 뚫은 D램 칩을 수직으로 쌓아 적층된 칩 사이를 전극으로 연결하는 기술이다. 삼성은 이 기술을 기반으로 3GB 용량인 24Gb D램 12개를 수직으로 쌓아 현존 최대 용량을 구현하는 데 성공했다.

삼성의 HBM3E 12H는 AI 서비스 고도화로 데이터 처리량이 급증하는 최근 추세 속에서 최고의 솔루션이 될 것으로 기대를 모으고 있다. 해당 제품을 활용할 경우 GPU 사용량이 줄어 총 소유 비용(TCO)을 절감할 수 있다는 게 삼성전자의 설명이다.

서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때보다 AI 학습 훈련 속도를 평균 34% 개선할 수 있다. 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능하다.

HBM3E 12단 제품을 엔비디아에 납품하게 될 경우, 삼성전자는 HBM 패권 다툼에서 경쟁 우위를 점할 수 있다. HBM3E 12단 제품은 아직 엔비디아에 공급된 사례가 없다. 삼성은 HBM3E 12H의 품질 테스트를 올 4분기 내 완료하는 것을 목표로 하고 있다.

삼성은 업계 최초로 개발한 HBM3E 12단 제품을 고객사 일정에 맞춰 올 하반기에 본격 공급한다는 구상이다.

김재준 삼성전자 메모리사업부 전략마케팅실장 부사장은 2분기 실적 콘퍼런스콜에서 “올 상반기 HBM3 내 12단 판매 비중이 3분의 2 수준을 기록한 만큼 HBM3E에서도 성숙 수준의 패키징을 구현했다”며 “이를 기반으로 HBM 사업 내 HBM3E의 매출 비중은 3분기에 10% 중반을 넘어설 것으로 예상되고, 4분기에는 60% 수준까지 빠르게 확대될 것이다”고 내다 봤다.

다만, 삼성전자 HBM3E 12단 제품에 대한 품질 테스트는 아직 진행 중인 것으로 전해졌다. 이와 관련해 엔비디아는 로이터의 논평 요청에 답변을 내놓지 않았다.

삼성전자측은 “고객사 관련 사안은 확인해줄 수 없다”며 “주요 고객사와 테스트를 진행 중이다”고 유보적인 입장을 제시했다.

엔비디아에 삼성의 HBM3E 출하가 본격화하면서 글로벌 HBM 시장에서 지각 변동이 불가피해 보인다. 특히 삼성전자가 SK하이닉스에 내준 HBM 시장 1위 자리를 탈환하고, 차세대 HBM 역량을 토대로 시장 선도적 지위를 구축할 수 있을지 업계의 이목이 초집중되고 있다.

반도체 업계 관계자는 “HBM 수요가 폭발적으로 늘고 있는 가운데 앞으로 얼마나 많은 물량을 고객사에 납품할 수 있는지가 글로벌 시장의 화두로 떠오를 것”이라며 “삼성전자의 생산 능력이 SK하이닉스보다 더 큰 만큼 삼성의 엔비디아 공급이 본격화하게 되면 전 세계 HBM 시장에서 판도가 달라질 수도 있다”고 전망했다.

[CEO스코어데일리 / 오창영 기자 / dongl@ceoscore.co.kr]