기술 실증 허브 ‘AI 이노베이션 센터’ 개소
엔비디아 B200·자체 개발 D2C 수냉 시스템 완비
“공랭으론 감당 안돼”…액체 냉각·무인화 운영에 사활
2030년까지 320mW 추가 확보…인력 1/3 감축 목표

허영만 KT클라우드 데이센터본부장(전무)이 11일 오전 서울 목동 'AI 이노베이션 센터' 개소식에서 환영사를 하고 있다. <출처=KT클라우드>

KT클라우드가 AI 데이터센터의 핵심 기술인 ‘액체 냉각’과 ‘고밀도 인프라’를 내재화하고, 2030년까지 데이터센터 용량을 현재의 3배 수준으로 확장하는 청사진을 제시했다.

KT클라우드는 11일 차세대 데이터센터 기술을 집약한 국내 유일의 기술 실증 허브 ‘AI 이노베이션 센터’를 개소했다고 밝혔다. 이날 공개한 AI이노베이션 센터는 단순한 쇼룸을 넘어 실제 엔비디아 최신 B200 GPU와 자체 개발한 냉각 시스템을 가동하며 기술 안정성을 검증하는 ‘라이브 테스트베드’다.

◇ “공기로는 식힐 수 없다”…D2C 액체 냉각 기술 자체 개발

이날 공개된 센터의 핵심은 ‘냉각 기술’이다. AI 칩의 고성능화로 발열량이 급증함에 따라 기존 공랭식(에어 쿨링)의 한계를 극복할 수냉식(리퀴드 쿨링) 기술이 필수적으로 떠올랐기 때문이다.

KT클라우드에 따르면, IT 전력량이 40kW를 초과할 경우 기존 공랭식으로는 감당이 어려워지며, GPU 칩 운용 온도를 안정적으로 유지하기 위해 수냉식 전환이 불가피하다. 이에 KT클라우드는 글로벌 표준으로 부상한 D2C(Direct-to-Chip·칩에 냉각관을 직접 연결하는 방식) 시스템을 주력으로 내세웠다.

특히 주목할 점은 ‘기술의 내재화’다. KT클라우드는 1kW급 모듈 8개로 구성된 ‘서버형(8kW)’ 부하기와 NVL72 수준의 대형 ‘랙형(140kW)’ 수냉 부하기를 자체 개발했다. 이를 통해 데이터센터 인프라의 압력, 온도, 유량 성능을 랙(Rack) 단위와 서버 단위에서 정밀하게 검증할 수 있는 체계를 갖췄다.

허영만 KT클라우드 데이터센터 본부장은 “랙당 전력 소모가 100~200kW를 넘어가면 에어 쿨링은 불가능하다”며 “향후 신규 데이터센터(부천, 가산, 안산 등)는 기본적으로 리퀴드 쿨링을 수용할 수 있는 구조로 설계 중”이라고 밝혔다.

KT클라우드 AI 이노베이션 센터에 구현된 AI 인프라 랩. <출처=KT클라우드>

◇ 고비용 ‘인피니밴드’ 대신 ‘이더넷’ 선택…비용 효율성 극대화

데이터 전송의 효율성을 높이기 위한 네트워크 전략도 공개됐다. KT클라우드는 고비용의 폐쇄형 생태계인 ‘인피니밴드(InfiniBand)’ 대신, 호환성과 비용 효율이 높은 ‘RoCEv2(RDMA over Converged Ethernet v2)’ 기반의 AI 전용 네트워크를 채택했다.

RoCEv2는 표준 이더넷 인프라를 활용해 구축 비용(CAPEX)이 상대적으로 저렴하고 확장이 용이하다는 장점이 있다. 이는 AI 학습 및 대규모 GPU 클러스터 운용에 적합한 기술로, 투자 비용 절감을 통해 고객에게 경쟁력 있는 가격을 제시하겠다는 전략으로 풀이된다.

또한 전력 공급 측면에서도 글로벌 OCP(Open Compute Project) 표준을 준수하는 고밀도 전력 플랫폼을 도입, 버스바(Busbar)와 파워쉘프(Power Shelf)를 통합해 20kW 이상의 고출력 서버를 안정적으로 지원한다.

<출처=KT클라우드>

◇ “로봇이 24시간 관제”... AI·로봇으로 운영인력 3분의 1 감축

센터 내부에서는 자율주행 점검 로봇이 분주하게 움직였다. 이 로봇은 시각, 청각, 후각 센서는 물론 열화상 카메라까지 탑재해 인간의 오감을 뛰어넘는 정밀 점검을 수행한다.

로봇은 서버의 LED 상태와 각종 게이지를 인식하고(AI 카메라), 팬(Fan)과 서버의 이상 소음을 감지하며(소음 센서), 심지어 가스 누출이나 전기 아크 발생까지 실시간으로 파악한다. KT클라우드는 이러한 AI 자동화 시스템과 관제 시스템 연동을 통해, 향후 데이터센터 운영 인력을 현재의 3분의 1 수준으로 줄여 운영 효율을 극대화한다는 계획이다.

KT클라우드는 이번 기술 실증 허브 오픈을 발판으로 공격적인 인프라 확장에 나선다. 현재 약 150메가와트(mW) 수준인 IT 용량을 2030년까지 320mW 추가 확보해 총 500mW 규모로 키우겠다는 목표다.

허 본부장은 “AI 기반 서비스 수요의 대부분이 리퀴드 쿨링을 요구하고 있다”며 “기술 검증(PoC)과 고객 제공을 경쟁사보다 발 빠르게 진행해 시장을 선점하겠다”고 강조했다. 아울러 차세대 전력원으로 꼽히는 소형모듈원자로(SMR) 도입에 대해서도 “기술적 측면에서 준비 단계에 있다”고 덧붙였다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]