마스터·서브 에이전트 협업 및 멀티 LLM 도입… 맥락 이해하고 환각 줄여
단순 명령 넘어 ‘멀티 턴’ 대화 가능… 장기 기억 기술로 사용자 취향 분석

<출처=KT>

KT 지니 TV AI 에이전트가 단순 명령형 제어를 넘어, 일상적인 질문과 대화를 주고받는 ‘자유 대화형’으로 진화하고 있다.

지니 TV AI 에이전트는 기가지니를 통해 축적된 AI∙빅데이터 기술력에 LLM 최적화 역량이 더해져 자연스러운 언어 이해와 응답을 제공한다. 이제 사용자는 대화형 UX(Conversational UX)를 활용해 음성으로 △정보 검색 △콘텐츠 추천 △기기 제어 △일상대화 기능을 이용할 수 있다.

지니 TV는 마스터 에이전트와 서브 에이전트의 협업 구조로 설계된 ‘미디어 에이전트’ 기술이 적용됐다.

마스터 에이전트는 지니TV 대화 시스템의 중앙 제어 허브로, 사용자의 발화를 분석하고 대화의 맥락을 이해한 뒤 가장 적합한 서브 에이전트를 선택해 결과를 통합한다. 이렇게 호출된 서브 에이전트는 역할에 맞는 동작을 수행하며 최적의 응답을 생성한다.

서브 에이전트는 여러 분야별로 역할이 특화된 전문 모듈형 AI이다. 각 서브 에이전트는 모델이 해석 가능한 형태로 자연어를 정규화하고, 사고의 구조를 설정하며, 실제 동작을 수행하는 3단계 절차적 사고를 따른다. 이를 통해 불필요한 추론이나 환각을 최소화하고, 보다 정확하고 자연스러운 대화 경험을 제공한다.

이제 사용자는 줄거리나 간단한 설명만으로도 콘텐츠를 찾을 수 있다. “꽉 막힌 고가도로에서 사람들이 차에서 내려 춤추는 영화는?”과 같이 컨텐츠 내용의 일부 상황 묘사만으로도 영화 제목을 알아낼 수 있다. “학교를 주제로 한 영화를 찾아줘”라고 질문하면 지니 TV는 학교 관련 소재나 사물이 포함된 작품을 탐색해 정보를 제공한다.

<출처=KT>

또한, 지니 TV AI 에이전트는 단방향이나 일회성 음성 명령을 넘어 ‘멀티 턴(Multi-turn) 대화’ 서비스를 제공해 사람과 자연스럽게 이어지는 대화 경험을 제공한다. 음성 인식률도 95% 이상으로 크게 개선돼 보다 자연스럽고 인간에 가까운 대화가 가능하다.

지니 TV AI 에이전트는 개인의 취향도 반영해준다. STM(Short-Term Memory)가 최근 대화 내용을 저장하면, LTM(Long-Term Memory)를 통해 장기적으로 의미 있는 정보를 추출해 기억한다.

LTM은 STM에 저장된 사용자의 발화 중 “안녕” 같은 즉흥적이거나 부정확한 내용은 제외하고 기억할 가치가 있는 정보만 남긴다. “나는 요즘 다큐멘터리를 자주 봐.”에서 “다큐멘터리 선호”와 같이 명시적으로 표현된 사실만을 저장하면, 기존 LTM와 비교해 정보를 정제한다. 이후 사용자의 프로필 정보와 행동 이력을 분리해 관리하며 개인화 응답에 활용한다.

여기에 멀티 LLM 전략을 통해 사용자의 질문 의도에 맞는 가장 적합한 모델을 자동 호출하며 대화의 품질을 유지한다.

지니 TV AI 에이전트는 멀티 LLM 전략의 일환으로 △마이크로소프트와 협력해 도입한 애저 오픈AI 서비스(Azure OpenAI Service) △GPT-4o 기반 한국적 AI 모델 SOTA K(Sota K built on GPT-4o) 등을 활용한다. KT는 한국 가정 댁내 최적화된 환경 제공을 위해 멀티 LLM 연동을 확장하고 멀티모달 모델 확보를 계속 추진할 계획이다.

KT는 “앞으로도 KT는 지니TV의 AI 에이전트를 발전시켜 미디어 서비스를 넘어 사용자 삶 속에 더욱 깊이 스며드는 대화형 AI 플랫폼으로 발전시킬 계획”이라고 밝혔다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]