이달 30일 기업용 AI 플랫폼 출시…11월 모델 500종 이상 확대
AI 모델 자동 선택·프롬프트 압축으로 비용 최적화
토큰 직접 생산·유통으로 수익화…내년 3월에는 B2C 시장 진출

박상원 KT AX사업부문장(전무)이 27일 열린 기자간담회에서 KT의 AX 사업 전략을 소개하고 있다. <출처=KT>

KT가 인공지능(AI) 모델을 연결하고 이용량에 따라 요금을 정산하는 ‘토큰 경제’에 본격 뛰어든다. 자체 인프라에서 AI 토큰을 직접 생산하는 동시에 글로벌 AI 모델을 유통하고, 통신사업에서 쌓아온 과금·네트워크 역량을 결합해 새로운 수익원을 확보 하겠다는 전략이다.

KT는 27일 서울 광화문 사옥에서 AI 플랫폼 ‘KT 토큰팩토리’를 공개하고 오는 30일 기업 고객을 대상으로 서비스를 시작한다고 밝혔다. 

출시 초기에는 AI 모델 73종을 제공하고, 11월 중순 글로벌 AI 모델 유통 플랫폼 오픈라우터와 연동해 500종 이상으로 확대할 계획이다.

토큰팩토리의 핵심은 ‘하나의 API’다. 기업이 모델마다 별도로 계약하거나 연결할 필요 없이 번역·요약·코딩·추론 등 업무에 맞는 AI를 선택하고 사용량과 비용을 통합 관리한다. 또한 부서나 API 키별로 이용 한도를 설정하고, 장애 발생 시 다른 모델로 전환하는 기능도 제공한다.

이진형 KT AX사업본부장은 기업의 주요 고민으로 AI 모델 선택과 비용 관리를 꼽았다. 그는 “내 업무에 얼마만큼 적합하고 비용 효율적인 모델이 뭘까”가 기업의 핵심 관심사라며, 고성능 모델을 합리적으로 이용하고 부서별 AI 비용을 관리하려는 수요가 커지고 있다고 설명했다.

이를 해결하기 위해 KT는 자체 개발한 ‘오토 모델 라우터’를 적용했다. 질문의 유형과 난도, 목표 품질 및 비용을 분석해 적합한 모델을 자동으로 선택하는 기술이다. 단순 요약이나 번역에는 저렴한 경량 모델을, 복잡한 추론에는 고성능 모델을 활용하는 식이다. 이 기술은 글로벌 모델 선택 성능 평가인 ‘라우터아레나(RouterArena)’에서 종합 1위를 기록했다.

KT는 프롬프트 압축 기술도 적용해 AI 이용 비용을 최대 25% 절감할 수 있다고 밝혔다. 프롬프트 압축으로 약 20%, 모델 라우팅으로 약 5%다. 모델 성능 저하를 5% 미만으로 억제하면서 크기를 최대 70% 줄이는 경량화 기술도 적용한다.

원만호 KT AX플랫폼본부장은 시연을 통해, 기업이 품질과 비용에 대한 가중치를 설정하면 해당 조건에 맞는 모델을 자동으로 선택하는 과정을 공개했다. 또한 모델별 응답 품질과 단가를 비교하고 API별 이용량 및 비용을 확인하는 기능을 소개했다. 기업이 AI 모델 활용 현황과 비용을 직접 통제할 수 있도록 한다는 취지다.

이진형 KT AX사업본부장(상무)이 KT 토큰팩토리에 대해 설명하고 있다. <사진=김동일 기자>

토큰팩토리의 또 다른 경쟁력은 국내 데이터센터에서 직접 AI 추론 서비스를 제공한다는 점이다.

출시 초기 73종 가운데 7종은 KT 자체 인프라에서 운영하는 모델이다. KT의 ‘믿:음’과 업스테이지·모티프 모델, 선별된 오픈웨이트 모델 등이 포함된다. 이들 모델은 국내에서 데이터를 처리하고 고객 데이터의 비저장·비학습을 원칙으로 한다. 개인정보와 유해 표현 등을 차단하는 자체 가드레일도 적용했다.

다만 플랫폼에서 제공하는 모든 AI가 ‘소버린 AI’인 것은 아니다. 오픈라우터를 통해 추가될 해외 모델은 각 제공사의 서버 위치에 따라 데이터 처리 지역이 달라진다. 이 본부장은 “대부분 모델들은 생성하는 지역이 한국이 아닐 가능성이 크다”며 모델 제공자와 처리 지역 정보를 공개하겠다고 밝혔다. 국내에서 직접 추론하는 모델은 단계적으로 늘려갈 계획이다.

요금제는 ‘스탠다드’와 ‘엔터프라이즈’ 두 가지다. 스탠다드는 사용량에 따라 요금을 정산하는 방식으로 후불제와 선불 크레딧을 지원한다. 엔터프라이즈는 이용량과 계약 기간에 따라 할인을 제공하고, 전용망과 서비스수준협약(SLA) 등 기업 맞춤형 기능을 결합한다.

통신 과금 체계를 응용한 ‘토큰 상세 기록(TDR)’으로 사용량을 추적하고, 기존 통신요금과 통합 청구할 수 있도록 했다. 특히 직접 운영하는 국내 모델 7종은 개별 이용때 보다 저렴하게 공급할 방침이다.

수익모델 역시 단순 중개 수수료보다 직접 생산한 토큰의 판매 마진과 기존 사업 결합에 무게를 뒀다. 이 본부장은 “KT 자체적으로 가지고 있는 DC 안에 있는 GPU를 가지고 직접 모델을 가지고 토큰을 생산한다”며 “여기서의 마진율이 비즈니스 수익화 모델”이라고 말했다.

KT는 자체 데이터센터에서 생산한 토큰 판매로 수익을 확보하는 동시에 글로벌 모델 유통 서비스를 전용회선, 프라이빗 클라우드, 통신 부가서비스와 결합할 계획이다. 또한 기존 기업용 AI 에이전트 구축과 클라우드 전환 사업에도 토큰팩토리를 연계한다. 단순히 AI 모델을 재판매하는 사업자와 차별화하겠다는 구상이다.

김준석 KT 에이전틱 AI 랩장(왼쪽부터), 이진형 AX사업본부장, 원만호 AX플랫폼본부장이 질의응답을 하고 있다. <출처=KT>

금융·공공시장 진출도 추진한다. 금융권에는 국내 데이터센터에서 추론하는 AI 모델을 중심으로 공급하고, 공공부문에는 KT클라우드의 공공 전용 환경에 토큰팩토리를 적용해 보안과 규제 요건에 대응할 예정이다.

해외 사업은 오픈라우터와의 양방향 협력을 통해 확대한다. 글로벌 AI 모델 500종 이상을 국내에 공급하는 동시에 KT가 국내에서 운영하는 AI 모델과 한국 스타트업의 모델을 오픈라우터에 등록해 해외에 판매한다는 전략이다. 유라클·CAST AI·타임리·업스테이지 등과도 협력해 AI 에이전트와 코딩 분야의 생태계를 확대할 방침이다.

또한 KT는 12월 말 기능을 고도화하고 내년 3월에는 개인 개발자·일반 이용자로 대상을 확대하면서 구독형 요금제를 선보일 예정이다. 기업 중심의 종량제 사업을 소비자 시장으로 확장하는 수순이다.

다만 구체적인 매출 전망은 아직 제시하지 않았다. KT는 2028년 매출 목표를 공개하지 않았으며, 출시 전 일부 기업과 비공개로 서비스를 준비하고 있다. 계약 기업 등 사업 성과는 연말까지 서비스 이용 현황을 확인한 뒤 공개할 방침이다.

박상원 KT AX사업부문장 전무는 “AI 시장은 이제 누가 더 좋은 모델을 만드느냐 보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다”며 “KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]