숨쉬는 Data 살아있는 Fact

엔비디아, 차세대 AI 반도체 ‘B200’ 공개
GPU 구동위한 HBM3E 공급사로 SK하이닉스 낙점
올 생산량 이미 ‘솔드아웃’…대부분 엔비디아에 공급
추격 나선 삼성도 올 상반기 HBM3E 양산 전망

글로벌 HBM(고대역폭메모리) 시장을 선도하고 있는 K-반도체가 AI(인공지능) 시대 또 큰 호재를 만났다. AI 반도체 시장의 최대어인 엔비디아가 강력한 성능을 자랑하는 차세대 AI 칩을 공개했기 때문이다. 특히 엔비디아가 최신 GPU(그래픽처리장치) 구동을 위해 꼭 필요한 HBM 공급 파트너로 SK하이닉스를 낙점하면서, 글로벌 HBM 시장에서 K-반도체의 위상이 한단계 상향될 전망이다.

특히 SK하이닉스에 이어 삼성전자도 차세대 HBM 실물을 공개하고 올 상반기 중으로 양산에 돌입하겠다는 뜻을 내비치면서, AI 시대를 맞아 차세대 메모리 시장에서 국내 업체들의 독주가 이어질 것으로 보인다.

엔비디아는 현지시간으로 18일 미국 캘리포니아주 새너제이 SAP 센터에서 개발자 콘퍼런스 ‘GTC 2024’를 열고, 차세대 AI 반도체 ‘B200’을 선보였다. 이번에 공개된 B200은 엔비디아 호퍼 아키텍처 기반 ‘H100’의 성능을 뛰어 넘는 차세대 AI 반도체다. B200은 새로운 플랫폼 ‘블랙웰’을 기반으로 제조됐다.

블랙웰은 엔비디아가 2년 전 출시한 호퍼 아키텍처의 후속 기술이다. 블랙웰이라는 명칭은 게임 이론과 통계학을 전공한 수학자이자 흑인 최초로 미국국립과학원에 입회한 데이비드 헤롤드 블랙웰에서 따 왔다.

블랙웰 플랫폼은 최대 10조개의 파라미터로 확장되는 모델에 대한 AI 훈련과 실시간 LLM(거대언어모델) 추론을 지원한다. 신규 아키텍처의 강력한 지원을 받는 블랙웰 B200은 2080억개의 트랜지스터가 집약된 제품으로, 역대 GPU 중 가장 크다.

젠슨 황 엔비디아 CEO(최고경영자)는 이날 행사에서 “생성형 AI는 우리 시대를 정의하는 기술이다”며 “이 기술을 구현하기 위한 블랙웰 GPU는 새로운 산업 혁명을 구동하는 엔진이다”고 소개했다.

18일 미국 캘리포니아주 새너제이 SAP 센터에서 열린 개발자 콘퍼런스 ‘GTC 2024’에서 차세대 AI 반도체 ‘B200’을 소개하는 젠슨 황 엔비디아 CEO. <사진=연합뉴스>

엔비디아는 대규모 슈퍼칩도 공개했다. ‘GB200 그레이스 블랙웰 슈퍼칩’은 두개의 B200를 그레이스 CPU(중앙처리장치)에 연결한 반도체다. 36개의 GB200를 합쳐 총 72개의 GPU를 탑재한 ‘GB200 NVL72'도 이날 함께 소개했다.

엔비디아의 차세대 AI 반도체에 전 세계 IT 업계의 이목이 집중된 가운데 블랙웰 GPU에 탑재된 메모리 반도체가 무엇인지에 대해서도 관심이 쏠렸다. 특히 엔비디아의 최신 AI 칩에 SK하이닉스의 차세대 HBM인 ‘HBM3E’가 탑재된 것으로 전해지면서 현지에서도 조명을 받았다. HBM3E는 현존 최고 사양 의 D램인 ‘HBM3’의 다음 세대인 5세대 고성능 메모리 반도체다.

실제 이날 SK하이닉스는 초고성능 AI용 메모리 신제품인 HBM3E를 세계 최초로 양산, 이달 말부터 제품 공급을 시작한다고 공식 발표했다. 이는 SK하이닉스가 지난해 8월 HBM3E 개발을 알린 지 7개월 만이다.

앞서 지난달 26일 마이크론은 엔디비아에 공급하기 위한 HBM3E 양산을 시작했다고 발표한 바 있다. 그러나 막상 뚜껑을 열어보니 엔비디아에 HBM3E를 최초 납품하는 업체는 SK하이닉스인 것으로 밝혀졌다.

SK하이닉스 관계자는 “HBM3에 이어 HBM3E 역시 가장 먼저 고객사에 공급하게 됐다”며 “HBM3E 양산도 성공적으로 진행해 AI 메모리 시장에서의 경쟁 우위를 이어 가겠다”고 강조했다.

SK하이닉스가 엔비디아에 세계 최초로 양산, 공급하는 HBM3E는 초당 최대 1.18TB의 데이터를 처리하는 차세대 메모리다. 이는 풀HD급 영화(5GB) 230편에 달하는 데이터를 1초 만에 처리하는 수준이다. 특히 효과적으로 발열을 제어하기 위해 어드밴스드 MR(매스 리플로우)-MUF(몰디드 언더필) 공정이 적용됐다. 이에 열 방출 성능은 이전 세대 대비 10% 향상됐다.

SK하이닉스의 MR-MUF는 적층한 칩 사이에 보호재를 넣은 후 전체를 한 번에 굳히는 공정이다. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 기존 NCF(비전도성 접착 필름) 방식과 비교해 공정이 효율적이고 열 방출에도 효과적인 것으로 평가된다.

SK하이닉스 HBM3E. <사진=SK하이닉스>

이처럼 강력한 성능을 자랑하는 SK의 HBM3E는 AI 반도체가 필요로 하는 기술 수준을 충족시켜줄 현존 최적의 제품으로 각광받고 있다.

류성수 SK하이닉스 HBM 사업담당 부사장은 “세계 최초로 HBM3E 양산을 통해 AI 메모리 업계를 선도하는 제품 라인업을 한층 강화했다”며 “그동안 축적해 온 성공적인 HBM 비즈니스 경험을 토대로 고객 관계를 탄탄히 하면서 ‘토털 AI 메모리 프로바이더’로서의 위상을 굳혀 나가겠다”고 말했다.

SK하이닉스는 올해 HBM3E 생산량 대부분을 엔비디아에 공급할 것으로 전망된다. SK하이닉스 관계자는 지난해 3분기 실적 콘퍼런스콜에서 “HBM3 뿐만 아니라 HBM3E까지 2024년도 생산 능력이 솔드아웃(매진)된 상황이다”며 “2025년까지도 고객사, 파트너들과 기술 협업 및 생산 능력 확대에 대해 논의하는 중이다”고 밝힌 바 있다.

엔비디아의 핵심 파트너로 부상한 SK하이닉스는 HBM3E를 앞세워 글로벌 HBM 시장에서 입지를 더욱 공고히 할 것으로 관측된다. 현재 SK는 전 세계 HBM 시장에서 선두를 달리고 있다. 시장조사업체 트렌드포스에 따르면 지난해 SK하이닉스의 글로벌 HBM 시장 점유율은 53%로, 과반을 넘긴 것으로 나타났다.

SK하이닉스가 세계 HBM 시장에서 약진하고 있는 가운데 발등에 삼성전자도 HBM3E 실물 제품을 공개하며 추격의 고삐를 더욱 죄고 있다.

삼성전자는 GTC 2024에서 업계 최초로 D램 칩을 12단까지 쌓은 HBM3E 12H 실물을 선뵀다. 그동안 HBM 경쟁에서 SK에 밀렸다는 평가를 받아 온 삼성전자는 지난달 27일 24Gb D램 칩을 실리콘 관통 전극(TSV) 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 구현했다고 밝힌 바 있다.

TSV는 수천개의 미세 구멍을 뚫은 D램 칩을 수직으로 쌓아 적층된 칩 사이를 전극으로 연결하는 기술이다. 삼성은 이 기술을 기반으로 3GB 용량인 24Gb D램 12개를 수직으로 쌓아 현존 최대 용량을 구현하는 데 성공했다.

삼성의 HBM3E 12H는 성능과 용량 모두 전작인 ‘HBM3’ 8H 대비 50% 이상 개선됐다. 특히 초당 최대 1280GB를 처리할 수 있다. 이는 1초에 30GB 용량의 UHD 영화 40여 편을 업로드 또는 다운로드할 수 있는 속도다.

삼성전자 36GB HBM3E 12H. <사진=삼성전자>

칩 두께를 최소화하는 데에도 힘썼다. 삼성은 TC NCF(첨단 열압착 비전도성 접착 필름) 기술로 12단 적층 제품을 8단 적층 제품과 동일한 높이로 구현했다. 첨단 TC NCF 기술을 적용하면 HBM 적층 수를 늘리면서도, 얇은 칩 두께로 인해 발생할 수 있는 휘어짐 현상을 크게 줄여준다.

뿐만 아니라 NCF 소재 두께도 낮춰 업계 최소 칩 간 간격인 7마이크로미터(1㎛는 100만분의 1m)를 구현했다. 이를 통해 전작인 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현했다.

삼성전자는 HBM3E 12H의 샘플을 고객사에 제공한 상태다. 이에 따라, 삼성도 고객사와의 협업을 통해 올 상반기 중 HBM3E를 양산한다는 계획이다.

배용철 삼성전자 메모리사업부 상품기획실장 부사장은 “삼성전자는 AI 서비스를 제공하는 고객사의 고용량 솔루션 니즈에 부합하는 혁신 제품 개발에 힘쓰고 있다”며 “앞으로 HBM 고단 적층을 위한 기술 개발에 주력하는 등 고용량 HBM 시장을 선도하고 개척해 나가겠다”고 밝혔다.

[CEO스코어데일리 / 오창영 기자 / dongl@ceoscore.co.kr]