SKT, ‘텔코 LLM’으로 업무 효율성 극대화…“AI로 고객상담·마케팅 업무 혁신”

SKT, 텔코 LLM 도입으로 상담 효율성 극대화
내년부터 고객센터에 전면 확대 적용

에릭 데이비스 SKT AI Tech Collaboration담당(왼쪽)과 정민영 SKT AI플랫폼 담당이 텔코 LLM 기자설명회에서 질문에 답하고 있다. <출처= SKT>

SK텔레콤이 AI(인공지능)를 고객 상담과 마케팅 업무를 비롯한 다양한 사내 업무 분야에 적용하고 있다. 특히 자체 개발한 AI 텔코 LLM(거대언어모델)을 통해 업무 효율성을 높이고 맞춤형 정보 제공으로 고객 만족도를 높인다는 계획이다.

20일 업계에 따르면, SKT는 지난 10월부터 텔코 LLM을 기반으로 한 ‘AI 상담 업무 지원 시스템’을 고객센터에 도입했다.

한 달간의 시범 운영을 성공적으로 마친 SKT는 내년부터 해당 시스템을 모든 고객 상담 업무에 적용할 계획이다. 이를 통해 상담 효율성을 높이고 고객 응대 품질을 강화한다는 구상이다.

텔코 LLM은 SKT가 통신업에 특화해 자체 개발한 대규모 언어 모델로, 오픈AI의 ‘GPT’와 앤트로픽의 ‘클로드’ 등 글로벌 LLM 업체들과 협력해 탄생했다. 통신사의 서비스·상품·고객 상담 패턴 등 방대한 데이터를 학습해 상담사가 필요한 정보를 신속하게 제공하는 데 중점을 두고 있다.

이 시스템을 활용하면 상담사는 자연어로 질문을 입력하기만 하면 된다. 텔코 LLM이 지식정보시스템에서 관련 정보를 자동으로 검색·정리해 제공하기 때문에 기존에 상담사가 직접 정보를 찾는 데 소요되던 시간이 크게 단축된다. SKT는 이로 인해 상담사들의 정보 탐색 부담이 줄어들고, 고객 응대 품질이 향상될 것으로 기대하고 있다.

SKT의 텔코 LLM 개념도 사진. <출처=SKT>

SKT는 오는 12월에 텔코 LLM을 활용한 상담 후속 업무 자동화 시스템도 도입한다. 이 시스템은 고객 상담 내용을 자동으로 분류·요약해 후속 업무를 처리함으로써, 상담사의 역량이나 경력에 상관없이 일관된 고품질의 상담 서비스를 제공할 수 있도록 돕는다.

AI 상담 시스템 도입으로 SKT의 고객 응대 시간은 획기적으로 줄어들 전망이다. SK텔레콤측은 “현재 전화 상담 한 건을 처리하는 데 평균 3분 30초가 걸리지만 텔코 LLM이 실시간으로 해결책을 제공함으로써 상담 시간을 크게 단축할 수 있을 것”이라고 전했다.

텔코 LLM은 고객 상담 뿐만 아니라 마케팅 업무를 비롯한 사내 다양한 업무 영역에도 적용되고 있다. 우선, 사내 구성원 대상으로 마케팅 업무를 지원하는 ‘MNO AI 마케팅 프레임워크(마케팅 지원 플랫폼)’에 텔코 LLM을 도입해 마케팅 업무를 효율화 하고 있다. 또한 고객 대상 모바일 T월드에도 AI 챗봇 기반의 클로즈베타 서비스를 진행 중이다.

SKT의 텔코 LLM은 ‘멀티 LLM’ 전략을 통해 세부 업무에 따라 가장 적합한 LLM을 활용해 최적화할 수 있다는 장점이 있다. 멀티 LLM은 단일 AI 모델에 의존하지 않고, 통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 방식이다. 각 업무에 최적화된 모델을 활용하면서 최적의 결과를 제공할 수 있으며 지속적인 재훈련과 업데이트를 통해 최신 기술과 지식을 반영해 경쟁력을 유지한다.

정민영 SKT AI플랫폼 담당은 “고객센터, 네트워크 인프라는 물론 마케팅, 유통망, 법무, HR 등 다양한 영역에서 텔코 LLM이 업무 효율성을 높일 것”이라며 “앞으로도 텔코 LLM을 활용한 유즈케이스를 지속적으로 확대할 계획”이라고 밝혔다.

[CEO스코어데일리 / 진채연 기자 / cyeon1019@ceoscore.co.kr]

심층분석

CEO's PICK