숨쉬는 Data 살아있는 Fact

“반도체, 이제는 ‘미래 산업 쌀’”…AI 칩 시장 급부상
엔비디아, AI칩 독주체제에 빅테크들 자체 칩 선보여
성능·전력효율·가격 놓고 경쟁 심화…AI 패권 다툼 격화

‘챗GPT’가 쏘아올린 AI(인공지능) 열풍으로 글로벌 반도체 시장이 요동치고 있다. 생성형 AI 구동에 필수인 AI 반도체 수요가 폭발적으로 늘면서 AI 칩 시장에서 선도적 지위를 확보하려는 빅테크 간 경쟁이 날로 격화되고 있다. 세계 AI 반도체 시장을 선도하고 있는 엔비디아에 맞서 인텔, 구글, AMD, 삼성, SK 등 주요 빅테크들이  차세대 AI 반도체를 잇따라 공개하며 추격의 고삐를 더욱 죄는 모습이다. CEO스코어데일리는 최근 날로 격화하는 AI 반도체 시장의 현 주소와 함께, 삼성·SK 등 K-반도체 진영의 경쟁력도 조명해 보고자 한다. <편집자주>

AI(인공지능) 시대를 맞아 반도체가 ‘미래 산업의 쌀’로 한 단계 진보하고 있다. 전 세계를 휩쓴 AI 열풍에 힘입어 AI 반도체 수요가 봇물 터진 듯 급속도로 확대되고 있다. 올 초 ‘갤럭시S24’  출시로 ‘AI 스마트폰 시대’가 처음 개화한 이후 AI TV, AI 가전 등 우리 일상 속에도 AI 서비스가 빠른 속도로 확산되면서 AI 반도체의 중요성은 어느 때보다도 높아졌다.

AI 반도체가 미래 디지털경제의 중심축으로 급부상하면서, AI 칩 시장을 사실상 독과점 하고 있는 엔비디아에 맞서 인텔, 구글, AMD, 삼성전자 등 빅테크들이 경쟁적으로 AI 칩 신제품을 선보이며 주도권 다툼을 예고하고 있다.

◇엔비디아, 글로벌 점유율 92% 독과점…블랙웰 기반 첨단 AI 칩 앞세워 선두 수성

국제반도체장비재료협회(SEMI)에 따르면 올해 전 세계 반도체 생산 능력(200mm 웨이퍼 환산 기준)은 지난해 대비 6.4% 증가한 월 3000만장을 돌파할 것으로 관측됐다.

지난해에는 글로벌 경기 침체에 따른 수요 감소와 반도체 재고 조정 등의 여파로 생산 시설 투자가 크게 위축됐다. 이에 생산 능력 확장도 제한적이었다. 그러나 올해는 생성형 AI 및 HPC(고성능 컴퓨팅) 시장 확대로 첨단 반도체 수요가 급증하면서 전 세계적으로 반도체 시장이 크게 성장할 것으로 예상된다.

아짓 마노차 SEMI CEO(최고경영자)는 “AI 열풍으로 인해 전 세계적으로 반도체 시장 수요가 크게 확대될 것이다”고 전망했다.

올해 글로벌 반도체 시장은 AI 반도체가 이끌 전망이다. 특히 AI 칩 시장에서 강력한 영향력을 행사하고 있는 엔비디아가 주도할 것이란 분석이 많다. 시장조사업체 IOT애널리틱스에 따르면 엔비디아의 글로벌 AI 반도체 시장 점유율은 92%에 달한다.

이같은 추세는 당분간 지속될 것으로 점쳐진다. 투자 전문지 팁랭크스는 미즈호증권 보고서를 인용해 “엔비디아가 AI 분야에서 확실한 선두 지위를 차지하고 있다는 데 의심의 여지가 없다”며 “앞으로 5년 간 75~90% 수준의 시장 점유율을 유지할 것이다”고 내다 봤다. 미국 월스트리트저널(WSJ) 역시 “이미 대부분의 AI 소프트웨어가 엔비디아의 AI 반도체를 기반으로 개발됐기 때문에 이른 시일에 이같은 시장 판도를 바꾸기는 쉽지 않을 것이다”고 말했다.

업계의 분석을 증명이라도 하듯, 최근 엔비디아는 강력한 AI 칩을 공개하며 글로벌 시장에서 선두 자리 수성을 선언했다.

지난달 18일 엔비디아는 미국 캘리포니아주 새너제이 SAP 센터에서 개발자 콘퍼런스 ‘GTC 2024’를 열고, 차세대 AI 반도체 ‘B100’과 ‘B200’을 선보였다.

이번에 공개된 B100, B200은 엔비디아 호퍼 아키텍처 기반의 ‘H100’의 성능을 뛰어 넘는 차세대 AI 반도체다. 호퍼 아키텍처가 아닌 새로운 플랫폼 ‘블랙웰’을 기반으로 제조 돼 H100 대비 최대 30배 뛰어난 성능을 자랑한다. 반면 에너지 소비는 25분의 1 수준에 불과하다.

블랙웰은 2년 전 출시된 호퍼 아키텍처의 후속 기술이다. 최대 10조개의 파라미터로 확장되는 모델에 대한 AI 훈련과 실시간 LLM(거대언어모델) 추론을 지원한다. 블랙웰이라는 명칭은 게임 이론과 통계학을 전공한 수학자이자 흑인 최초로 미국국립과학원에 입회한 데이비드 헤롤드 블랙웰에서 따 왔다.

새 아키텍처의 강력한 지원을 받는 신형 AI 칩은 최대 2080억개의 트랜지스터를 탑재한 세계에서 가장 강력한 칩이라는 게 엔비디아의 설명이다.

젠슨 황 엔비디아 CEO는 “엔비디아는 지난 30년 동안 딥러닝, AI와 같은 혁신을 실현하기 위해 가속 컴퓨팅을 추구해 왔다”며 “생성형 AI는 우리 시대를 정의하는 기술이다”고 말했다. 그는 이어 “블랙웰 GPU는 새로운 산업 혁명을 구동하는 엔진이다”며 “세계에서 가장 역동적인 기업들과의 협력을 통해 모든 산업에서 AI의 가능성을 실현할 것이다”고 자신했다.

◇인텔·구글·AMD 등 빅테크, 자체 AI 반도체 공개…엔비디아 맹추격

엔비디아가 글로벌 AI 반도체 1위 자리 수성에 나선 가운데, 인텔, 구글, AMD 등 주요 빅테크들도 AI 칩 신제품을 공개하며 추격에 나섰다. 

인텔은 지난 9일 미국 애리조나주 피닉스에서 열린 ‘인텔 비전 2024’ 행사에서 최신 AI 전용 칩 ‘가우디3’를 공개했다. 지난해 12월 뉴욕에서 개최한 신제품 출시 행사에서 가우디3 시제품을 선보인 지 4개월 만이다.

인텔은 가우디3가 엔비디아의 H100보다 전력 효율이 2배 이상 높고, AI 모델을 1.5배 더 빠르게 실행할 수 있다고 강조했다. 데이터센터에 주로 탑재되는 AI 반도체의 특성상 전력 소비가 큰 만큼 가우디3가 경쟁사 제품 대비 비용을 크게 절감할 수 있을 뿐만 아니라 작업 수행 능력도 더 뛰어나다는 것이다.

이미 메타의 LLM인 ‘라마(LLAMA)’ 등을 통해 검증을 마친 것으로 나타났다. 미 서버 업체인 델과 HP, 슈퍼마이크로 등은 가우디3를 이용해 시스템을 구축할 것이라는 소식도 전해졌다.

인텔은 가우디3의 가격을 밝히지 않았다. 다만 “경쟁력 있는 가격이다”고 강조했다. 다스 캄하우트 인텔 소프트웨어 부사장은 “우리는 (가우디3가) 엔비디아의 최신 칩과 비교해 매우 경쟁력이 있을 것으로 기대한다”고 밝혔다.

특히 인텔은 네이버를 주요 파트너사 소개하기도 했다. 하정우 네이버클라우드 AI이노베이션센터장은 직접 무대에 올라 “네이버·인텔 공동 연구소를 만들었다”고 발표했다. 그러면서 “가우디3가 하드웨어적인 측면에서 엔비디아 AI 반도체를 앞선다”며 “조금만 더 AI 소프트웨어 스택이 좋아지면 충분히 경쟁력을 가질 수 있다”고 말했다.

인텔이 자체 개발한 AI 반도체를 선보인 날 구글 역시 신형 AI 칩을 공개했다. 9일 구글은 미국 라스베이거스에서 연례 개발자 콘퍼런스인 ‘넥스트 2024’를 개최하고, AI 전용 칩 TPU(텐서처리장치) ‘v5p’를 정식 출시했다.

v5p는 구글의 생성형 AI 모델인 ‘제미나이’를 훈련하기 위해 만들어진 AI 반도체다. 지난해 8월 선보인 TPU ‘v5e’보다 2배가량 성능이 개선됐다. 또한 LLM 학습 속도는 이전 제품 대비 3배 증가했다.

구글은 해당 제품을 기반으로 ‘AI 하이퍼 컴퓨터’를 구성하고, 제미나이를 고도화 하겠다는 뜻도 내비쳤다.

구글 관계자는 “v5p는 현존하는 가장 강력한 제품이다”며 “스케일이 가장 큰 AI 모델을 훈련시킬 수 있을 것으로 기대한다”고 설명했다.

토마스 쿠리안 구글 클라우드 CEO는 “구글의 목표는 모든 사람에게 도움이 되는 AI를 제공해 가능한 많은 사람의 삶을 개선하는 것이다”며 “구글 고객들의 열정과 도전 정신이 생성형 AI 발전을 앞당기고 있다”고 말했다.

엔비디아의 대항마를 자처한 AMD는 앞서 지난해 12월 미 캘리포니아주 산호세에서 열린 투자자 행사에서 AI 칩 ‘MI300X’를 전격 출시했다. MI300X는 엔비디아의 H100과 경쟁하기 위해 AMD가 지난해 6월 공개한 AI 반도체다.

AMD에 따르면 MI300X는 H100 대비 메모리 용량이 2.4배 증가했고, 1.6배 이상의 대역폭을 제공한다. 리사 수 AMD CEO는 당시 행사에서 엔비디아를 따라잡을 수 있다고 도전장을 내밀었다. 수 CEO는 “요즘 클라우드 시장은 첨단 서버와 막강한 그래픽 성능을 요구하는 추세다”며 “AI 칩의 성능은 더 나은 사용자 경험과 직결된다”고 강조했다.

그는 M1300X 가격을 언급하지 않았다. 다만 “고객들이 구매하도록 하기 위해서는 엔비디아보다 비용이 더 적게 들어야 할 것이다”며 경쟁사 대비 우수한 가격 경쟁력을 갖출 것이라는 점을 시사했다.

◇AI 칩 후발 주자 삼성, 차별화 꾀한다…추론용 AI 반도체 ‘마하-1’ 앞세워 글로벌 공략

글로벌 빅테크가 AI 반도체 개발에 속도를 올리고 있는 동안, K-반도체중에서는 삼성전자가 첨단 AI 칩 양산을 공식화하고, 시장에 가세했다. 

삼성은 세계 AI 칩 시장 내 경쟁력을 확보하기 위해 차별화 전략을 택했다. 추론에 특화된 AI 반도체인 ‘마하-1’을 개발키로 한 것이다. 추론은 AI가 이미 학습한 수많은 정보를 토대로 새로운 명제를 도출하는 것을 뜻한다.

마하-1은 GPU(그래픽처리장치)와 HBM(고대역폭메모리)이 데이터를 주고받는 속도와 전력 효율을 높인 것이 특징이다.

특히 HBM 대신 저렴하고 가벼운 저전력 D램을 사용해도 LLM 추론이 가능한 것으로 알려졌다. 이 경우 전력 효율을 최대 8배 높일 수 있다는 게 삼성전자의 설명이다. 또 GPU와 메모리 사이 병목 현상이 8분의 1 수준으로 줄어들 것이라고 자신했다.

올 4분기부터 본격 생산될 예정인 마하-1의 최대 장점은 가격 경쟁력이다.

AI 반도체는 크게 학습용과 추론용으로 나뉜다. 최근 들어 AI 칩 시장은 학습용에서 추론용으로 중요도가 변하는 추세다. AI 서비스 대중화로 전력 소모나 비용을 줄인 추론용 수요가 높아지고 있다. 시장조사업체 옴디아에 따르면 전 세계 추론용 반도체 시장 규모는 지난해 60억달러(약 8조2860억원)에서 2030년 1430억달러(약 197조4830억원)로 가파른 성장세를 기록할 전망이다.

다만 아직 글로벌 시장에는 추론에 특화된 AI 칩이 없다. 이에 엔비디아의 AI 반도체가 학습과 추론에 모두 사용되고 있다. 문제는 엔비디아 AI 칩 가격이 워낙 비싸 구입하기가 부담스럽다는 점이다.

삼성전자 마하-1이 엔비디아의 대체 AI 반도체가 될 것이라고 강조하고 있다. 마하-1의 판매 가격은 500만원 수준으로 추정되고 있다. 엔비디아 H100의 가격이 4만달러(약 5526만원)임을 감안할 때 마하-1은 10분의 1 수준의 적은 금액으로 구입할 수 있다는 것이다.

김동원 KB증권 연구원은 “데이터센터 업체들은 충분한 연산 자원 확보를 위해 AI 가속기용으로 GPU뿐 아니라 추론용 AI 반도체를 함께 쓰는 것이 유리하다”며 “최근 전력과 가격 대비 높은 성능을 가진 추론용 AI 칩 수요가 급증세를 보이고 있다”고 설명했다.

삼성전자는 두 번째 추론 칩인 ‘마하-2’ 개발에도 착수한 것으로 파악됐다. 경계현 삼성전자 대표이사 사장은 최근 자신의 SNS를 통해 “일부 고객들은 1조개 파라미터 이상의 큰 애플리케이션에 마하 칩을 쓰고 싶어 한다”며 “생각보다 더 빠르게 마하-2 개발이 필요한 이유가 생겼다”고 밝혔다.

[CEO스코어데일리 / 오창영 기자 / dongl@ceoscore.co.kr]