25~27일 서울 코엑스서 ‘제26회 반도체대전’ 개최
‘AI 반도체와 최첨단 패키지 기술의 융합’ 주제로 열려
HBM에 관심 집중…CXL 기반 차세대 메모리 기술대결 주목

23~25일 사흘 간 서울 강남구 코엑스에서 열리는 ‘SEDEX(반도체대전) 2024’에 마련된 삼성전자 전시 부스. <사진=오창영 기자>

국내 최대 반도체 전문 전시회 ‘SEDEX(반도체대전) 2024’이 막을 올렸다. 삼성전자, SK하이닉스 등 굴지의 반도체 업체들이 참가한 이번 전시회에선 세계적인 화두로 떠오른 AI(인공지능) 반도체 등 최첨단 제품과 솔루션을 대거 공개했다. 

한국반도체산업협회는 23일부터 25일까지 사흘 간 서울 강남구 코엑스에서 ‘제26회 반도체대전’을 개막했다.

‘AI 반도체와 최첨단 패키지 기술의 융합’이라는 주제로 열린 올해 전시회에는 280개사가 참가해 700개의 전시 부스를 꾸렸다.

김정회 반도체산업협회 부회장은 “반도체 산업 전반의 트렌드와 기술 발전을 한눈에 확인할 수 있는 자리가 될 것이다”고 말했다.

◇삼성전자, HBM3E·CMM-D 등 차세대 메모리 공개…‘나노 리소그래피’ 초미세 공정 기술 ‘눈길’

이번 전시회에서 가장 큰 전시 부스를 꾸린 삼성전자는 ‘코어 테크놀로지(Core Technologies)존’을 마련하고, 차세대 반도체 제품과 첨단 기술을 선보였다.

관람객들의 이목을 집중시킨 제품은 AI 시대 핵심 메모리 반도체인 HBM(고대역폭메모리)이다. 삼성은 핵심 AI 메모리로 자리매김한 5세대 HBM ‘HBM3E’의 실물과 성능 등을 대형 디스플레이를 통해 소개했다.

데이터 입출력 핀 1개당 최대 9.8Gbps의 고성능을 갖춘 삼성의 HBM은 초당 최대 1.2TB 이상의 데이터를 처리한다. 이는 30GB 용량의 UHD 영화 40편을 1초 만에 처리할 수 있는 속도다.

이전 제품인 4세대 HBM ‘HBM3’와 비교해 전력 효율은 10% 더 향상됐다. 열전도 또한 극대화해 열 특성을 개선한 것도 특징이다.

23~25일 사흘 간 서울 강남구 코엑스에서 열리는 ‘SEDEX(반도체대전) 2024’에 마련된 삼성전자 전시 부스 내 코어 테크놀로지존. <사진=오창영 기자>

특히 삼성전자는 HBM3E 12단 제품을 업계 최초로 개발하는 데 성공하며 글로벌 HBM 시장에서 유리한 고지를 선점했다.

삼성은 지난 2월 24Gb D램 칩을 TSV(실리콘관통전극) 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 구현했다. TSV는 수천개의 미세 구멍을 뚫은 D램 칩을 수직으로 쌓아 적층된 칩 사이를 전극으로 연결하는 기술이다. 삼성은 이 기술을 기반으로 3GB 용량인 24Gb D램 12개를 수직으로 쌓아 현존 최대 용량을 구현하는 데 성공했다.

삼성의 HBM3E 12H는 AI 서비스 고도화로 데이터 처리량이 급증하는 최근 추세 속에서 최고의 솔루션이 될 것으로 기대를 모으고 있다. 해당 제품을 활용할 경우 GPU(그래픽처리장치) 사용량이 줄어 총 소유 비용(TCO)을 절감할 수 있다는 게 삼성전자의 설명이다.

서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때보다 AI 학습 훈련 속도를 평균 34% 개선할 수 있다. 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능하다.

삼성은 업계 최초로 개발한 HBM3E 12단 제품을 고객사 일정에 맞춰 올 하반기 내에 본격 공급한다는 구상이다.

김재준 삼성전자 메모리사업부 전략마케팅실장 부사장은 2분기 실적 콘퍼런스콜에서 “올 상반기 HBM3 내 12단 판매 비중이 3분의 2 수준을 기록한 만큼 HBM3E에서도 성숙 수준의 패키징을 구현했다”며 “이를 기반으로 HBM 사업 내 HBM3E의 매출 비중은 3분기에 10% 중반을 넘어설 것으로 예상되고, 4분기에는 60% 수준까지 빠르게 확대될 것이다”고 내다 봤다.

다만 삼성전자 HBM3E 12단 제품에 대한 고객사의 품질 테스트는 아직 진행 중인 것으로 전해졌다. 

삼성전자측은 “고객사 관련 사안은 확인해줄 수 없다”며 “주요 고객사와 테스트를 진행 중이다”고 유보적인 입장만 내놓은 상태다.

23~25일 사흘 간 서울 강남구 코엑스에서 열리는 ‘SEDEX(반도체대전) 2024’에 마련된 삼성전자 전시 부스 내 마이크로 미라클존. <사진=오창영 기자>

미래 핵심 기술 ‘CXL(컴퓨트익스프레스링크)’를 적용한 첨단 메모리 제품도 관람객들의 눈길을 끌었다.

CXL은 ‘빠르게 연결해서 연산한다’는 의미로, CPU(중앙처리장치), GPU, 스토리지 등 다양한 장치를 효율적으로 연결해 보다 빠른 연산 처리를 가능하게 하는 차세대 인터페이스다.

이에 기반을 둔 D램이 바로 CMM-D(CXL메모리모듈-D램)다. CMM-D는 다양한 종류의 프로세서를 하나의 시스템으로 연결해 대용량의 데이터를 효율적으로 처리할 수 있도록 해준다.

특히 해당 제품은 D램의 용량 및 성능 확장 한계를 개선할 수 있어 AI 시대, 차세대 솔루션으로 주목 받고 있다. 기존 D램과 공존하며 시스템 내 대역폭과 용량을 확장할 수 있는 CMM-D는 폭발적인 데이터 처리가 요구되는 HPC 시장에서 핵심 메모리로 부상할 전망이다.

그간 삼성전자는 CXL 기반 D램 개발에 박차를 가해 왔다. 2021년 5월 업계 최초로 CMM-D 개발을 시작한 삼성은 업계 최고 용량 512GB CMM-D 개발, 업계 최초 CMM-D 2.0 개발 등에 잇따라 성공하며 글로벌 메모리 업계를 이끌었다.

올 2분기엔 CXL 2.0을 지원하는 256GB CMM-D를 출시하고, 주요 고객사들과 검증을 진행 중이다.

이뿐만 아니라 D램과 낸드플래시를 함께 사용하는 CMM-H(Hybrid), 메모리 풀링 솔루션 CMM-B(Box) 등 다양한 CXL 기반 솔루션도 함께 전시됐다.

업계 최소 두께 12나노급 LPDDR5X, 차량용 LPDDR5X D램 등 고성능·저전력 D램 제품도 주목 받았다.

또한 2022년 6월 세계 최초로 GAA(게이트올어라운드) 기술을 적용한 3나노 반도체를 양산하면서 경쟁 우위를 확보한 최선단 파운드리(반도체 위탁 생산) 공정, 어드밴스드 패키지 기술 등도 소개됐다.

특히 반도체 공정에 사용되는 ‘나노 리소그래피’ 기술을 활용해 만든 마이크로 미라클 조각품들은 관람객들의 탄성을 자아내기도 했다. 실제 인공위성의 2만2000분의 1 크기의 조각품을 비롯해 머리카락 두께보다 가는 다양한 조각품들은 삼성 반도체 미세 공정 기술이 최고 수준에 다다랐다는 것을 여실히 드러냈다.

23~25일 사흘 간 서울 강남구 코엑스에서 열리는 ‘SEDEX(반도체대전) 2024’에 마련된 SK하이닉스 전시 부스. <사진=오창영 기자>

◇‘HBM 1등’ SK하이닉스, HBM3E 12단 제품 연내 공급…‘SK의 미래’ 용인 반도체 클러스터 집중 조명

올해로 창사 41주년을 맞은 SK하이닉스는 세계 최고 수준의 AI 메모리 제품과 기술을 선보였다.

SK 전시 부스에서도 가장 주목 받은 반도체는 초고성능 HBM인 HBM3E였다. HBM존은 AI 반도체 공룡 엔비디아에 납품되고 있는 SK하이닉스 HBM3E의 실물을 보기 위해 모인 관람객들로 북적였다.

SK하이닉스의 HBM3E는 AI 메모리에 필수적인 속도는 물론, 발열 제어, 고객 사용 편의성 등 모든 측면에서 세계 최고 수준을 충족시켰다는 평가를 받는다.

글로벌 HBM 시장에서 입지를 공고히 다진 SK하이닉스는 AI 반도체 강자인 엔비디아의 핵심 파트너로서 자리매김한 상태다. 지난 3월 세계 최초로 HBM3E 8단 제품을 엔비디아에 납품하기 시작한 SK는 지난달 말 현존 HBM 최대 용량인 36GB를 구현한 HBM3E 12단 제품 양산에 돌입하며 ‘HBM 1등 굳히기’에 들어갔다.

특히 36GB HBM3E 12H를 최초 개발했던 삼성전자보다 먼저 동일 용량의 HBM3E 12단 제품을 양산하기 시작하면서 삼성이 지켜 왔던 ‘메모리 최강자’ 자리마저 위협하고 있다.

SK하이닉스는 연내 엔비디아에 HBM3E 12단 제품을 공급한다는 방침이다. 시기적으로 볼 때 SK의 HBM 신제품은 엔비디아의 차세대 AI 반도체 ‘블랙웰’에 탑재될 것으로 보인다.

23~25일 사흘 간 서울 강남구 코엑스에서 열리는 ‘SEDEX(반도체대전) 2024’에 마련된 SK하이닉스 전시 부스 내 HBM존. <사진=오창영 기자>

신제품의 동작 속도는 현존 메모리 최고 속도인 9.6Gbps를 자랑한다. 이는 해당 제품 4개를 탑재한 단일 GPU를 통해 메타의 오픈 소스 LLM(거대언어모델)인 ‘라마3 70B’를 구동할 경우, 700억개의 전체 파라미터를 초당 35번 읽어낼 수 있는 수준이다.

또한 기존 8단 제품과 동일한 두께로 3GB D램 칩 12개를 적층해 용량을 50% 늘렸다. 이를 위해 D램 단품 칩을 기존보다 40% 얇게 만들고, TSV 기술을 활용해 수직으로 쌓았다.

얇아진 칩을 더 높이 쌓을 때 생기는 구조적 문제도 해결했다. SK는 자사 핵심 기술인 어드밴스드 MR-MUF(매스리플로우-몰디드언더필) 공정을 적용해 전 세대보다 방열 성능을 10% 높였다. 휨 현상 제어를 강화해 제품의 안정성과 신뢰성도 확보했다.

CXL 기반 차세대 메모리 제품도 선보였다. CXL 메모리 컨트롤러를 장착해 기존 시스템보다 대역폭과 용량을 각각 50%, 100% 확장한 ‘CMM-DDR5’가 그 주인공. SK가 자체 개발한 지원 소프트웨어 ‘HMSDK’가 적용된 CMM-DDR5는 데이터 사용 빈도에 따라 적합한 메모리 장치로 데이터를 재배치해 시스템 성능을 더욱 끌어올린다.

업계 최초로 CXL에 연산 기능을 통합한 메모리 솔루션 CMS(Computational Memory Solution)의 신제품은 이번 전시회에서 ‘CMM-Ax’라는 새로운 이름으로 소개됐다. CMM-Ax는 고용량 메모리를 확장할 수 있는 CXL의 장점에 머신러닝과 데이터 필터링 연산 기능을 함께 제공한다. 차세대 서버 플랫폼에 탑재돼 시스템의 성능과 에너지 효율 향상에 기여할 것으로 기대를 모은다.

또 PIM(Processing In Memory) 기반 AI 가속기 카드 ‘AiMX’도 공개됐다. AiMX는 GDDR6-AiM 칩을 사용해 LLM에 특화된 제품으로, 대량의 데이터를 다루면서도 최신 가속기 대비 고성능, 저전력 등 뛰어난 성능을 갖췄다.

SK하이닉스 HBM3E 12단 제품. <사진=오창영 기자>

SK하이닉스 역사상 가장 전략적으로 추진되고 있는 용인 반도체 클러스터에 대해 조명하는 공간도 마련됐다.

경기 용인시 원삼면 일대 415만㎡(약 125만5375평) 규모 부지에 조성되는 용인 클러스터는 현재 부지 정지 및 인프라 구축 작업이 진행 중이다. SK하이닉스는 이곳에 차세대 반도체를 생산할 최첨단 팹 4개를 짓고, 국내외 50여 개 소재·부품·장비(소부장) 업체들과 함께 반도체 협력 단지를 구축할 예정이다.

SK하이닉스는 가장 먼저 완공되는 첫 번째 팹에서 대표적인 AI 메모리인 HBM을 비롯해 차세대 D램을 생산한다는 구상이다.

최태원 SK그룹 회장은 지난해 9월 용인 클러스터 현장을 찾아 “우리는 지금까지 해 오던 대로 하는 것 이상의 도전이 필요한 상황이다”며 “앞으로도 ‘AI 메모리 최장자’ 자리를 계속 유지하려면 어떤 것을 미리 생각하고 반영하느냐가 과제이며, 이 부분이 미래 SK하이닉스의 경쟁력 척도가 될 것이다”고 강조했다.

[CEO스코어데일리 / 오창영 기자 / dongl@ceoscore.co.kr]