SKT, Arm·리벨리온과 ‘AI 추론 서버’ 개발…“AI 데이터센터 주도권 잡는다”

차세대 AI 인프라 혁신 위한 3사 간 전략적 파트너십 체결
Arm AGI CPU와 리벨리온 ‘리벨카드’ 결합…저전력·고효율 AI 추론 특화
SKT 자사 AI DC서 실증 돌입…독자 파운데이션 모델 ‘A.X K1’ 운영 검토

SK브로드밴드 가산 AI DC에 구축된 B200 클러스터 ‘해인’의 모습. <출처=SKT>

SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 손잡고 차세대 AI 데이터센터(AI DC) 시장의 주도권 확보에 나선다. AI 산업의 무게중심이 ‘학습’에서 ‘추론’으로 이동하는 패러다임 변화에 발맞춰, 전력 효율과 비용 경쟁력을 극대화한 전용 인프라를 구축하겠다는 포석이다.

SKT는 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 밝혔다.

이번 협약의 핵심은 AI 추론 성능을 극대화할 수 있는 ‘CPU+NPU’ 결합 서버 솔루션의 공동 개발이다. 3사는 Arm이 35년 역사상 처음으로 직접 생산하는 데이터센터용 프로세서 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시를 앞둔 대규모 AI 추론 특화 신경망처리장치(NPU) ‘리벨카드(RebelCard™)’를 하나의 서버에 탑재할 계획이다.

<출처=SKT>

최근 AI 인프라 시장의 핵심 과제는 ‘전력 효율’이다. 365일 실시간으로 가벼운 연산을 반복 처리해야 하는 AI 추론 특성상, 막대한 전력을 소모하는 기존 GPU 중심의 아키텍처는 비용 부담이 크기 때문이다.

3사가 주목한 ‘이종 컴퓨팅(Heterogeneous Computing)’ 구조는 이러한 한계를 극복할 대안으로 평가받는다. 시스템의 ‘관제탑’ 역할을 하는 CPU가 데이터 입출력, 네트워크 통신, 메모리 관리 등 범용 처리를 총괄하고, NPU가 AI 추론 연산만을 전담함으로써 서버의 효율을 비약적으로 끌어올리는 방식이다.

앞서 Arm과 리벨리온은 지난 3월 열린 ‘Arm 에브리웨어(Arm Everywhere)’ 행사에서 양사의 칩을 결합해 오픈 AI의 대형언어모델(GPT OSS 120B) 기반 에이전틱 AI 서비스를 실시간으로 시연하며, 대규모 데이터센터에서의 상용화 가능성을 입증한 바 있다.

SKT는 공동 개발한 솔루션이 적용된 서버를 자사 AI 데이터센터에 선제적으로 도입해 성능과 안정성을 검증할 예정이다. 특히 해당 서버를 기반으로 SKT의 독자 AI 파운데이션 모델인 ‘에이닷엑스 케이원(A.X K1)’을 운영하는 방안도 검토 중이다. 저전력·고효율 인프라를 통해 서비스 운영 비용을 낮추고, AI DC 사업의 글로벌 경쟁력을 한층 끌어올리겠다는 구상이다.

이재신 SKT AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]

심층분석

CEO's PICK