A.X K2·AI 인프라·에이닷 1000만 이용자 기반 ‘풀스택 AI’ 강조
금융·모빌리티·교육·의료 등 20여개사 연합…실행형 AI 생태계 확대
유경상 AI CIC장 “국민 모두가 가장 편하게 쓸 수 있는 ‘일상의 AI’ 만들 것”

<출처=SK텔레콤 뉴스룸>

SK텔레콤이 독자 인공지능(AI) 파운데이션 모델의 기술 경쟁을 넘어 국민이 일상에서 사용하는 대규모 AI 서비스로 사업 영역을 확대한다. 자체 AI 모델 ‘A.X K2’와 AI 인프라, 월간활성이용자수(MAU) 1000만명을 넘어선 ‘에이닷(A.)’ 운영 경험을 하나로 연결해 ‘모두의 AI’를 구현하겠다는 구상이다.

유경상 SKT AI CIC장은 24일 칼럼을 통해 AI 경쟁의 무게중심이 모델의 절대 성능에서 실제 서비스 적용과 지속적인 개선 능력으로 확장되고 있다고 밝혔다.

유 CIC장은 “앞으로의 AI 경쟁력은 단순한 모델의 성능만으로 설명하기 어려울 것”이라며 “모델의 지능, 추론의 경제성, 서비스의 완성도, 현실 데이터를 기반으로 한 재학습과 개선 속도, 그리고 신뢰가 하나의 시스템으로 결합되어야 한다”고 강조했다.

SKT는 최근 6880억개 매개변수 규모의 독자 AI 모델 A.X K2를 공개하고 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트 3차 단계에 진출했다. 회사는 자체 대형 모델 개발을 지속하면서도 실제 산업과 서비스에서 활용할 수 있도록 추론 비용과 속도를 최적화하는 데 무게를 두고 있다.

특히 수백만명이 동시에 AI를 사용하는 환경에서는 모든 요청을 대형 모델로 처리하는 방식으로는 경제성을 확보하기 어렵다고 보고 있다. 이에 질문 난이도에 따라 모델과 추론 깊이를 달리하고, 간단한 질의는 경량 모델이 처리하는 한편 복잡한 과업은 대형 모델에 배분하는 구조를 구축한다는 계획이다. MoE(Mixture of Experts)와 모델 경량화·가속 기술을 활용해 추론 비용도 낮춘다.

AI 인프라를 직접 설계·운영하는 역량도 차별점으로 제시했다. 모델 최적화를 넘어 메모리 계층 관리와 연산 자원 배치, 반도체 수준까지 추론 환경을 최적화함으로써 대규모 AI 서비스의 비용과 지연시간을 동시에 줄인다는 것이다.

유경상 SKT AI CIC장. <출처=SK텔레콤>

SKT는 이 같은 인프라·모델·서비스의 수직계열화가 빠른 ‘지능의 개선 루프’를 만드는 기반이라고 설명했다. 실제 서비스에서 발견된 오류와 이용자 피드백을 다시 모델 학습과 시스템 개선에 반영하고, 이를 재배포하는 주기를 단축할수록 AI 경쟁력이 높아진다는 판단이다.

유 CIC장은 “결국 미래의 AI 경쟁은 가장 좋은 모델을 한 번 만들어내는 경쟁이 아니라, 가장 빠른 ‘지능의 개선 루프’를 구축하는 경쟁이 될 것”이라고 말했다.

SKT는 이를 대국민 서비스인 ‘모두의 AI’로 확장할 방침이다. 단순히 질문에 답하는 챗봇을 넘어 이용자의 요구를 분석하고 실제 업무를 수행하는 ‘실행형 AI’를 지향한다. 서비스 성과 역시 대화량보다 실제 완료된 업무의 수와 종단간(End-to-end) 성공률을 중심으로 평가한다는 구상이다.

이를 위해 금융·모빌리티·미디어·교육·의료·공공·세무·돌봄 등 분야별 전문기업과 협력한다. 현재 SKT를 포함한 20여개 기업·기관·단체가 컨소시엄에 참여하고 있으며 하나은행, NH농협은행, 버킷플레이스, 티머니모빌리티 등 11개 기업과 추가 협력을 위한 업무협약(MOU)도 맺었다.

SKT는 컨소시엄에서 모든 서비스를 직접 개발하기보다 이용자 요청에 맞춰 가장 적합한 AI 모델과 기술, 전문 서비스를 연결하는 ‘오케스트레이터’ 역할을 맡는다. 금융·모빌리티·미디어·교육·건강 등 일상 영역에서 시작해 청년·소상공인·시니어를 위한 세무·행정·돌봄 등으로 서비스 범위를 넓힐 계획이다.

AI 서비스의 신뢰성 확보도 핵심 과제로 꼽았다. SKT는 AI 모델에 대한 객관적 평가와 상시 레드티밍, 실시간 안전 모니터링 및 가드레일을 적용하고 개인정보와 민감정보를 보호하는 보안 체계를 구축한다는 방침이다.

유 CIC장은 “‘모두의 AI’는 국민의 일상에서 AI의 선순환을 시작하는 도구이자, 선순환의 가치를 국민 모두가 체감할 수 있도록 만드는 첫 번째 무대”라며 “A.X K2의 기술력과 AI 인프라, 에이닷 1000만 사용자 운영 경험, 분야별 파트너의 전문성을 연결해 국민 모두가 가장 편하게 쓸 수 있는 ‘일상의 AI’를 만들겠다”고 밝혔다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]