올해 글로벌 AI 서버 출하량 28% 증가 전망
구글·메타 등 빅테크, AI 서버 출하 확대 주도
AI 데이터센터 투자·자체 ASIC 개발 등 영향
서버용 AI 칩 수요 증가에 HBM 공급 부족↑
‘차세대 HBM 역량 제고’ 삼성·SK, 최대 수혜

전 세계를 휩쓴 AI(인공지능) 열풍에 힘입어 올해 AI 서버 출하량이 역대 최고치를 기록할 것으로 보인다. 이에 AI 서버의 핵심 부품인 AI 칩 수요가 가파르게 치솟으면서, 반도체 공급난이 최고조에 이를 전망이다.

특히 AI 메모리인 HBM(고대역폭메모리)의 수요가 폭발적으로 늘 것이란 관측에 ‘HBM 투톱’ 삼성전자와 SK하이닉스가 ’빅테크발(發) 특수’의 최대 수혜주로 꼽히고 있다.

21일 시장조사업체 트렌드포스에 따르면 올해 전 세계 AI 서버 출하량은 지난해 대비 무려 28% 증가할 것으로 나타났다.

이와 관련, 트렌드포스는 “AI 추론 서비스의 빠른 확산과 범용 서버의 증설 수요 증가, 북미 빅테크의 자체 ASIC(주문형 반도체) 투자 확대 등이 맞물린 결과”라고 분석했다.

특히 AI 인프라 투자에 공격적으로 나서고 있는 구글, 메타, MS(마이크로소프트), AWS(아마존웹서비스), 오라클 등 북미 CSP(클라우드서비스제공업체)가 AI 서버 확대를 주도하고 있다.

실제 이들 빅테크들은 폭증하는 AI 연산 수요를 감당하기 위해 AI 데이터센터 투자를 공격적으로 늘리고 있다. 트렌드포스에 따르면 올해 북미 CSP 5개사의 자본 지출 합산액은 지난해 대비 40% 증가할 전망이다.

천문학적인 자금이 투입된 AI 데이터센터를 가동하기 위해선 대규모의 AI 서버가 절대적으로 필요하다. 이에 AI 서버 수요는 가파르게 치솟고 있다.

SK하이닉스 HBM4 16단 48GB. <사진=SK하이닉스>

이와 함께, 주요 빅테크들이 자체적으로 만든 ASIC를 탑재한 AI 서버가 본격 공급되는 점도 AI 서버 출하 확대에 적잖은 영향을 미치고 있다. 트렌드포스 역시 “올해 AI 서버 출하 성장세는 주로 북미 CSP의 자체 ASIC 개발 및 엣지 AI 추론 솔루션 확대에서 나올 것으로 예상된다”고 밝혔다.

ASIC 기반 AI 서버 개발에 가장 앞서 가고 있는 곳은 구글이다. 구글은 지난해 11월 AI 모델 ‘제미나이 3.0’을 출시했다. 제미나이 3.0은 AI 챗봇 평가 사이트 ‘LM아레나’에서 멀티모달 처리 속도와 정확성 등이 오픈AI ‘챗GPT’ 등 기존 AI 모델들을 크게 뛰어 넘는다는 평가를 받았다.

구글이 압도적인 성능을 갖춘 AI 모델을 내놓을 수 있었던 비결은 자체 개발에 성공한 AI 반도체 TPU(텐서처리장치) 덕분이다. TPU는 구글이 AI 모델 연구에 속도를 내던 상황에서, 기존 CPU와 GPU만으로 AI 서비스 확산에 대응할 수 없다는 위기감 속에 만든 AI 전용 칩이다. 딥러닝 학습과 추론에서 반복되는 행렬 연산에 특화된 AI 반도체로, 그래픽 처리나 범용 연산을 위한 불필요한 회로가 제거돼 전력 효율성이 높다. 가격도 엔비디아 AI 칩 대비 절반 수준이어서 압도적인 비용 효율성을 자랑한다.

메타도 자체 AI 칩 ‘MTIA’를 개발 중인 것으로 파악됐다. 이를 통해 AI 모델 ‘라마’에 최적화된 ASIC 기반 AI 서버를 만든다는 게 메타의 전략이다.

이렇듯 주요 빅테크들이 AI 데이터센터 대규모 투자, 자체 ASIC 개발 등에 박차를 가하면서 올해 AI 서버 출하량은 큰 폭으로 늘어날 전망이다. 엔비디아의 GPU(그래픽처리장치) ‘블랙웰’ 등 첨단 AI 칩을 장착한 데이터센터용 AI 서버, 빅테크의 자체 ASIC를 적용한 AI 서버 등 빅테크 간 AI 서버 확보 경쟁이 뜨겁게 전개되고 있다.

2025년 10월 서울 강남구 코엑스에서 열린 ‘SEDEX 2025’에서 공개된 SK하이닉스 HBM4 실물 제품. <사진=오창영 기자>

빅테크발  AI 특수로 AI 서버의 핵심 부품인 AI 반도체 수요가 큰 폭으로 증가할 것이란 관측이 제기되고 있다. 이중에서도 HBM 시장을 선도하고 있는 K-반도체가 가장 큰 수혜를 입을 수 있다는 분석이다. 고도의 작업을 빠르게 해내는 고성능 AI 칩을 구동하기 위해선 HBM과 같은 AI 메모리가 반드시 필요하기 때문이다. 

시장조사업체 카운터포인트리서치에 따르면 매출액 기준 지난해 3분기 SK하이닉스의 HBM 시장 점유율은 무려 57%에 이르렀다. 삼성전자는 22%를 기록했다. 이로써 K-반도체의 시장 점유율은 무려 79%나 됐다. 

전 세계 시장을 주름 잡고 있는 삼성·SK는 차세대 HBM 역량을 서둘러 제고해 AI 서버 출하 확대 흐름에 올라탄다는 방침이다. 주요 빅테크의 첨단 AI 칩에는 6세대 HBM ‘HBM4’가 탑재될 예정이다. 이에 K-반도체는 HBM4 경쟁력을 강화하며 시장 지배적 지위를 공고히 하는 데 힘을 쏟고 있다.

HBM4 경쟁에서 가장 앞서 있는 곳은 단연 SK하이닉스다. SK하이닉스는 지난해 하반기 HBM4 12단 제품 본격 양산하겠다는 목표 아래, 같은해 3월 세계 최초로 주요 고객사에 HBM4 12단 샘플 공급을 완료했다.

SK HBM4는 핵심 파트너인 엔비디아가 요구하는 성능을 구현한 것으로 평가된다. SK하이닉스 관계자는 “세계 최고 수준의 데이터 처리 속도와 전력 효율을 실현했다”고 강조했다.

젠슨 황 엔비디아 CEO가 2025년 5월 대만 타이베이에서 열린 ‘컴퓨텍스 2025’에 마련된 SK하이닉스 전시 부스를 찾아 SK HBM4·HBM3E에 남긴 메시지와 친필 사인. <사진=연합뉴스>

지난해 4분기에는 HBM4를 출하한다고 공식 발표하기도 했다. SK하이닉스 관계자는 지난해 3분기 실적 콘퍼런스콜에서 “6세대 HBM인 HBM4 양산 체제를 구축하고, 이를 4분기부터 출하할 예정”이라며 “2026년부터 본격적으로 판매를 확대해 나갈 계획이다”고 전했다.

그러면서 “SK하이닉스는 HBM 1등 기술력을 통해 고객사가 요구하는 최상의 스펙을 갖추며 적극 대응해 왔다”며 “업계에서 가장 빠르게 고객사 요구에 맞춘 HBM4 샘플을 제작했고, 대량 공급을 위한 생산도 시작했다”고 강조했다.

SK의 기술 초격차 전략은 더욱 가속화하고 있다. SK하이닉스는 최근 미국 라스베이거스에서 열린 ‘CES 2026’에서 가장 주목 받는 메모리 반도체 업체로 부상했다. 경쟁사보다 앞서 HBM4 16단 48GB를 최초로 공개했기 때문이다.

해당 HBM 제품은 업계 최고 속도인 11.7Gbps를 구현한 HBM4 12단 36GB의 후속 모델로, 고객사 일정에 맞춰 개발이 순조롭게 진행되고 있는 것으로 전해졌다.

SK HBM4에 대한 앞날은 매우 밝다. 스위스 금융사 UBS는 SK하이닉스가 올해 HBM4 시장에서 약 70%의 점유율을 달성할 것으로 예상했다.

2025년 10월 서울 강남구 코엑스에서 열린 ‘SEDEX 2025’에서 공개된 삼성전자 HBM4 실물 제품. <사진=오창영 기자>

세계 HBM 시장 2위 자리 탈환에 성공한 삼성은 SK를 빠르게 추격하고 있다. 최근엔 HBM4과 관련해 큰 호평을 받은 것으로 나타났다.

엔비디아 관계자는 지난해 말 삼성전자를 방문해 HBM4에 대한 SIP(시스템인패키지) 테스트 진행 상황을 공유했다. 이 자리에서 엔비디아는 삼성 HBM4가 구동 속도와 전력 효율 측면에서 메모리 업체 가운데 가장 우수한 성과를 냈다는 결과를 전달한 것으로 알려졌다.

SiP는 여러 개의 칩, 컴포넌트 등을 하나의 시스템 반도체로 집적하는 첨단 기술이다. 이에 SIP 테스트는 속도, 전력 효율, 발열, 신호, 안정성 등 반도체 성능을 종합적으로 검증하는 최종 단계로 평가된다.

올해 루빈을 출시하겠다고 예고한 엔비디아는 차세대 AI 반도체에 최적화된 HBM4를 물색하기 위해 강도 높은 품질 테스트를 실시해 왔다. 그리고 주요 메모리 업체들의 제품을 상대로 SIP 테스트를 시행했다.

엔비디아는 HBM4를 로직 칩과 함께 패키지로 구성해 전기적, 물리적, 기능적 특성을 테스트 한 결과, 삼성전자의 샘플 제품이 구동 속도와 전력 효율 측면에서 가장 좋은 결과를 얻었다고 확인했다.

AI 반도체 공룡 엔비디아로부터 삼성 HBM4의 성능이 경쟁사 제품보다 매우 우수하다고 호평 받을 수 있었던 것은 차별화된 혁신 기술 덕분이다.

삼성전자는 업계 최초로 HBM4에 1c(10나노급 6세대) D램을 도입했다. 가장 미세화된 1c 기술은 메모리 성능을 높이고 전력 소비를 줄이는 첨단 선행 기술로, HPC와 AI 반도체의 진보에 있어 필수 기술로 여겨진다.

핵심 기술이 적용된 HBM4 샘플은 이미 고객사에 전달됐다. 삼성전자 관계자는 “HBM4는 고객사 일정에 맞춰 기존 계획대로 개발 중이다”며 “1c 기반 HBM4 개발을 완료해 주요 고객사에 샘플을 이미 출하했다”고 밝혔다.

아울러 삼성은 HBM4에 대한 자체 성능 테스트(PRA)를 완료하고, 양산 준비도 마친 것으로 전해졌다. PRA는 제품 출하 직전 단계로, 이를 완료했다는 것은 수율과 성능을 충족했음을 의미한다.

이재용 삼성전자 회장(가운데)이 2025년 12월 삼성전자 기흥캠퍼스 내 ‘NRD-K’ 클린룸 시설을 살펴보고 있다. <사진=삼성전자>

아직 HBM4 시대가 개화하지 않은 상황에서, HBM 주도권 확보에 온 힘을 쏟고 있는 K-반도체가 전 세계 시장을 선점하는 데 큰 무리가 없을 것이란 시각이다. 이는 AI 서버 시장의 성장세 속 ‘HBM 투톱’ 삼성·SK의 글로벌 위상을 드높이는 동력이 될 것으로 기대를 모은다.

반도체 업계 관계자는 “HBM 리더십을 발판 삼아 HBM4 분야를 주도하고 있는 삼성·SK는 전 세계 HBM 시장의 선두 주자로 자리매김할 것이다”고 말했다.

[CEO스코어데일리 / 오창영 기자 / dongl@ceoscore.co.kr]