The Power of Data

AI DC·GPUaaS·에지 AI 3대 핵심 축으로 AI 인프라 완성
지역 거점에 기가와트급 AI DC 구축…다음달 판교에 테스트베드 오픈
미국 람다와 다음달 GPUaaS 론칭, 전국 통신망 기반 ‘에지 AI’도 구축

유영상 SKT 대표가 ‘SK AI 서밋 2024’에 참석해 키노트 연설을 하고 있다. <출처=SKT>

SK텔레콤이 2030년까지 아시아 태평양 지역에서 ‘넘버원 AI 인프라’ 기업으로 거듭나겠다고 선언했다. 이를 위해, SKT는 AI 데이터센터·서비스형 GPU·에지 AI로 구성된 ‘AI 인프라 슈퍼 하이웨이’ 전략을 추진한다.

4일 유영상 SKT 대표는 ‘SK AI 서밋 2024’ 키노트 연설을 통해 ‘AI 인프라 슈퍼 하이웨이’ 구축 계획을 전격 공개하고, AI 인프라 기반의 강력한 변화를 이끌어 나가겠다고 밝혔다.

유 대표는 이날 키노트에서 “‘AI 인프라 슈퍼 하이웨이’를 구축해, 한국이 AI G3로 도약할 수 있도록 앞장설 계획”이라며 “2030년까지 아태 지역 ‘AI DC 허브’로 올라서겠다”고 말했다.

SKT는 △AI데이터센터(AI DC) △GPU 클라우드 서비스(GPUaaS) △에지AI(Edge AI) 등 세가지 축을 중심으로 전국의 AI 인프라를 구축하고, 이를 기반으로 국내외 파트너들과 함께 글로벌 시장에도 진출할 계획이다.

먼저, SKT는 국내 지역 거점에100MW(메가와트) 이상의 전력이 필요한 하이퍼 스케일 AI DC를 시작으로, 향후 그 규모를 GW(기가와트)급 이상으로 확장하여 아시아태평양 지역의 ‘AI DC 허브’로 도약한다는 구상이다.

AI DC를 지역 거점에 구축하면 수소, 태양광, 풍력 등 지역의 신재생에너지를 활용할 수 있고, 해저케이블을 통한 글로벌 확장도 용이하다. SKT는 SK가 보유하고 있는 고효율의 차세대 반도체와 액침냉각 등 에너지 솔루션, AI 클러스터 운영 역량을 결합할 경우 보다 저렴한 비용으로 효율적인 AI DC를 구축할 수 있다고 설명했다.

이에 앞서, SKT는 SK그룹의 역량과 파트너사가 보유한 다양한 솔루션이 결집된 AI DC 테스트베드를 오는 12월 판교에 오픈할 계획이다. 이 곳은 엔비디아 최신칩과 하이닉스 HBM 등 첨단 AI반도체와 차세대 액체 냉각 솔루션 3종을 비롯해 GPU 가상화 솔루션, AI 에너지 최적화 기술 등이 모두 구현된 국내 유일의 테스트베드로 미래형 AI DC의 모습을 미리 확인해볼 수 있다.

SKT는 중장기적으로 GW급 AI DC를 통해 △50조원 이상의 신규 투자 유치 △55만명 이상의 고용 창출 △175조원 이상의 경제 효과 △지역에서의 AI 첨단산업 육성이 기대된다고 강조했다.

<출처=‘SK AI 서밋 2024’ 라이브 영상 갈무리>

두번째로, SKT는 국내 GPU 공급 부족을 빠르게 해소하기 위해 수도권에 위치한 가산 데이터센터를 AI DC로 전환해 클라우드 형태로 GPU를 제공하는 GPUaaS(서비스형 GPU)를 출시할 계획이다.

SKT는 미국 람다와 협력을 통해 오는 12월 H100 기반의 GPUaaS를 시작으로, 내년 3월에는 국내 최초로 최신 GPU H200을 도입하며 고객사 수요에 맞춰 물량을 단계적으로 확대해 나갈 방침이다. 이를 통해 SKT는 더 많은 기업들이 GPU를 직접 구매하지 않고도 낮은 비용으로 쉽게 AI 서비스를 개발할 수 있도록 한다는 계획이다.

동시에 K-AI 반도체를 중심으로 ‘한국형 소버린 AI’도 구현한다. SKT는 2025년부터 총 1000억원을 투자해 리벨리온의 NPU(신경망처리장치), SK하이닉스의 HBM, SKT와 파트너사들이 보유한 다양한 AI DC 솔루션을 결합한 ‘한국형 소버린 AI’를 구현할 예정이다.

국내 최대 규모의 NPU 팜을 구축하고, 정부와 협력해 데이터 주권이 중요한 공공 영역 뿐만 아니라 국내 주요 기업 및 클라우드 사업자, K-AI 스타트업과 협력하여 AI 기술 자립 및 생태계 확산을 주도할 계획이다.

<출처=‘SK AI 서밋 2024’ 라이브 영상 갈무리>

마지막으로, 전국에 연결된 통신 인프라를 활용하여 AI DC와 ‘온디바이스AI’ 사이의 간극을 메꿀 수 있는 ‘에지 AI(Edge AI)’를 도입할 예정이다.

‘에지AI’는 이동통신 네트워크와AI 컴퓨팅을 결합한 인프라로, 대규모 AI DC 대비 저지연, 보안 및 개인정보 보호 강화 측면에서 유리할 뿐만 아니라, ‘온디바이스AI’ 대비 대규모 AI 연산이 가능해 기존 AI 인프라와 상호 보완적인 기능이 가능할 것으로 주목 받고 있다.

현재 SKT는 선행 기술에 대한 연구와 함께 글로벌 파트너사들과 공동으로 통신 인프라를 활용한 AI DC 구축 및 맞춤형 서버 개발을 진행하고 있다. 또한 국내외 여러 기업들과 협력을 통해 헬스케어, AI로봇, AI CCTV 등 6개 영역에서 에지AI 특화 서비스 발굴을 위해 다양한 PoC(실증사업)를 추진 중이다.

유영상 대표는 “지금까지 통신 인프라는 커넥티비티 경쟁, 즉 속도와 용량 싸움이었으나, 이제는 네트워크 진화의 패러다임이 변화해야 한다”고 강조하며 “향후 6G는 통신과 AI가 융합된 차세대 AI 인프라로 진화할 것”이라고 자신했다. 그러면서 그는 “SKT는 ‘대한민국의 AI G3 도약’이라는 사명 아래 AI 인프라 슈퍼하이웨이를 구축 중이다. 새로운 미래를 정부와 지자체, 기업이 함께 만들어 갈 수 있도록 힘을 모으자”고 제안했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]