엔비디아 추론 전용 AI 칩, 양산 단계 진입
AI 클라우드 업체 네비우스, 고객사로 확보
‘그록3 LPX 전량 생산’ 삼성 파운드리 호재
전 세계 파운드리 가격 인상 추세도 호영향
‘만년 적자’ 오명 벗고 올해 흑자전환 기대감↑

삼성전자 평택캠퍼스 반도체 생산라인. <사진=삼성전자>

엔비디아의 추론 전용 인공지능(AI) 반도체가 삼성의 파운드리(위탁 생산) 라인에서 본격 양산된다. 이와 동시에 엔비디아가 해당 칩의 고객사를 확보했다고 공식화하면서, 삼성전자의 파운드리 사업에 힘을 실어주고 있다.

엔비디아는 AI 에이전트 구동을 위해 추론 속도를 높인 ‘그록(Groq)3 LPX’ 양산에 들어갔다. 

그록3 LPX는 추론 전용 AI 반도체인 언어처리장치(LPU) 256개를 묶어 캐비닛 크기의 랙으로 구성한 시스템이다. 그록 LPU는 지난해 말 엔비디아가 우회 인수를 통해 라이선스를 획득한 칩으로, D램 대신 S램을 채택한 것이 특징이다.

S램은 전원이 공급되는 동안 저장된 데이터가 유지되는 휘발성 메모리다. D램과 달리 리프레시가 필요 없어 접근 지연이 적고, 속도도 빠르다.

그러나 셀 구조가 복잡하고 집적도가 낮아 대용량화 하기 어렵다는 단점이 있다. 이같은 이유로 AI 학습용으로는 다소 부적합하다. 이에 S램은 AI 가속기 내부의 소용량·고성능 메모리로 주로 활용된다.

엔비디아 그록3 LPX. <사진=엔비디아>

S램을 탑재한 그록 LPU는 코딩 등 AI 에이전트 기반 작업을 단 몇 분 만에 처리할 수 있는 것으로 알려졌다. 몇 시간 동안 작업해야 했던 기존 칩 대비 워크로드 시간을 대폭 단축시킨 셈이다.

이같은 성능에 힘입어 그록3 LPX는 AI 추론의 한계를 뛰어 넘고 있다는 평가를 받는다. 해당 칩은 구글의 오픈 소스 AI 에이전트 모델인 젬마(Gemma) 4 31B를 사용한 인공 분석 벤치마킹에서 초당 3400개의 출력 토큰을 처리하는 기록을 달성했다. 이는 AI 에이전트 시스템에 필수적인 10만개 토큰 규모의 컨텍스트를 사용한 것으로, 젬마에서 기록된 최고 성능이다.

엔비디아는 그록3 LPX 양산에 맞춰 고객사도 유치했다. AI 클라우드 운영 업체 네비우스가 그록3 LPX의 첫 고객사다.

네비우스는 자사의 프로덕션 추론 플랫폼인 ‘네비우스토큰팩토리’ 에 그록3 LPX를 도입할 계획이다. 이를 통해 개발자들이 에이전트형 AI 애플리케이션을 위한 토큰 생성 속도를 극대화할 수 있도록 지원한다는 구상이다.

젠슨 황 엔비디아 최고경영자(CEO)는 그록3 LPX 양산과 관련해 “추론은 AI 성장의 원동력이다”며 “세계적으로 AI 연산 수요가 확대되는 시점에 맞춰 AI 처리량·효율성·반응성에서 다시 한번 거대한 도약을 가져올 것이다”고 강조했다.

삼성전자가 엔비디아의 그록3 LPX를 양산하게 되면서, 그동안 실적부진으로 어려움을 겪던 삼성의 파운드리 사업이 다시 주목받고 있다.

삼성전자는 엔비디아 그록3 LPX 위탁 생산을 계기로 파운드리사업부의 실적을 빠르게 개선할 수 있을 것으로 기대하고 있다. 전 세계적으로 AI 칩 수요가 나날이 확대되고 있기 때문이다. 시장조사기관인 가트너에 따르면 글로벌 AI 반도체 시장 규모는 2024년 818억달러에서 2029년 3902억달러로, 연평균 33% 성장할 것으로 전망됐다.

게다가 첨단 AI 칩을 위탁 생산해 달라는 주요 빅테크 요구가 빗발치면서 파운드리 가격이 크게 오르고 있다는 점도 호재다. 로이터 통신은 지난 19일 복수의 소식통을 인용해 “삼성전자가 지난달 4나노 파운드리 공정으로 양산되는 반도체 가격을 인상했다”고 보도한 바 있다.

아울러 5나노 공정에서 생산되는 웨이퍼 가격은 10~15% 확대됐고, 레거시(구형) 공정인 8나노 기반 웨이퍼 가격 또한 10% 가까이 올랐다고 전했다.

삼성전자가 파운드리 가격을 대폭 인상한 가운데, 엔비디아 그록3 LPX 파운드리 수요도 전량 확보하면서, 그동안 만년 적자 상태에 있던 파운드리사업부 실적이 흑자로 돌아설 수 있다는 낙관론도 확산하고 있다.

강석채 삼성전자 파운드리사업부 부사장은 2분기 실적 콘퍼런스콜에서 “(파운드리 공장) 가동률 및 수율 개선, 가격 인상 효과에 더해 엔비디아 등 주요 고객사의 파운드리 수요까지 복합적으로 작용하면서 올해 큰 폭의 수익성 개선과 실적 회복이 본격화할 것으로 전망한다”며 “흑자전환 시기를 정확히 말하기는 어렵지만 가까운 시일 내에 가능할 것이다”고 밝혔다.

[CEO스코어데일리 / 오창영 기자 / dongl@ceoscore.co.kr]