A.X K2 수학 연구에 활용…서울대·KAIST 등과 협력
정답 도출 넘어 새로운 해법 탐색·오류 검증까지
스스로 판단·작업 수행하는 AI 에이전트 개발 포석

SK텔레콤이 수학 난제 연구를 통해 독자 인공지능(AI) 모델의 추론·검증 능력 고도화에 나선다. 단순히 주어진 문제의 정답을 찾는 수준을 넘어 새로운 해법을 도출하고, 해당 과정의 오류까지 스스로 검증하는 AI를 개발하겠다는 구상이다. 궁극적으로는 복잡한 업무를 자율적으로 수행하고 스스로 성능까지 개선하는 AI 에이전트 구현을 목표로 하고 있다.

SKT는 22일 서울 을지로 본사에서 서울대·한국과학기술원(KAIST) 연구진과 기술 교류회를 열고 독자 AI 모델 ‘A.X K2’를 활용한 수학 난제 연구와 모델 고도화 방안을 논의했다고 밝혔다. 이번 협력에는 서울대와 KAIST뿐 아니라 고등과학원 소속 수학자들도 참여한다.

SKT가 수학 난제 연구에 주목하는 이유는 AI의 추론 능력을 한층 높은 수준으로 끌어올릴 수 있기 때문이다. 

수학은 복잡한 문제를 여러 단계로 나눠 해결해야 할 뿐 아니라 각 단계의 논리적 타당성을 검증해야 하는 분야다. 단순히 학습한 지식을 바탕으로 답을 생성하는 능력과 달리 스스로 가설을 세우고, 풀이 과정에서 발생한 오류를 수정하며, 최종 결론의 타당성까지 판단하는 역량이 요구된다.

글로벌 AI 기업들도 수학 연구를 차세대 모델 경쟁력 확보를 위한 핵심 분야로 삼고 있다. AI 기업인 오픈AI는 이달 6일 내부 AI 모델이 도출한 새로운 수학 연구 결과를 공개했으며, 앤트로픽 역시 지난 8월 자사 모델 클로드가 리만 가설과 관련된 문제에서 기존 연구 성과를 개선했다고 발표했다.

앞서 A.X K2는 수학 문제 해결 능력을 평가하는 주요 벤치마크에서 성과를 거뒀다. 지난 8월 공개된 평가 결과에 따르면 A.X K2는 올해 국제수학올림피아드(IMO) 문제를 대상으로 한 평가에서 42점 만점에 29점을 기록했다. 올해 대회 금메달 기준에 해당하는 점수다. 고난도 수학 추론 능력을 측정하는 ‘MathArena AIME 2026’에서도 정확도 97.1%로 공동 최고점을 달성했다.

다만 이러한 성적이 곧바로 실제 수학 난제 해결 능력을 의미하는 것은 아니다. 기존 벤치마크가 정해진 문제에 대한 정답 도출 능력을 평가했다면, 이번 연구는 AI가 새로운 해법을 제시하고 그 타당성까지 검증할 수 있는지를 확인하는 과정이다. SKT는 수학자들의 전문지식을 A.X K2에 접목해 기존 모델이 충분히 다루지 못했던 고난도 추론 역량을 강화하고, 이를 실제 난제 연구에 적용한다는 계획이다.

서인석 서울대 수리과학부 교수가 22일 오전 서울 을지로 본사에서 열린 기술 교류회에서 발표하고 있다. <출처=SKT>

SKT가 AI 추론 역량 고도화를 통해 궁극적으로 노리는 건 ‘에이전틱 AI’다. 

사용자의 질문에 답하는 데 그치지 않고, 목표를 설정한 뒤 스스로 작업을 계획·수행하는 AI 에이전트를 상용화하겠다는 것이다. 특히 제조 공정 분석이나 복잡한 업무 자동화처럼 여러 단계를 거쳐야 하는 작업에서 이러한 능력은 필수라는 판단이다.

장기적으로는 AI가 자신의 능력을 스스로 개선하고, 향상된 성능을 다시 다음 단계의 발전에 활용하는 ‘재귀적 자기개선(RSI·Recursive Self-Improvement)’ 연구로까지 연결한다는 구상이다.

이러한 행보는 정부의 독자 AI 파운데이션 모델 구축 사업에서 치열해지고 있는 성능 경쟁과도 맞닿아 있다. 

SKT는 지난 7월 매개변수 6880억개 규모의 A.X K2를 공개했으며, 8월 2차 평가를 통과해 LG AI연구원·업스테이지와 함께 다음 단계에 진출했다. 글로벌 선도 모델을 따라잡으려면 모델 크기뿐 아니라 추론의 깊이와 실사용 신뢰성에서도 경쟁력을 확보해야 하는 상황이다.

김태윤 SKT 파운데이션 모델 담당은 “독자 파운데이션 모델의 실제 문제 해결 능력을 높이기 위해 수학 분야 산학협력을 활발하게 추진하고 있다”며 “전문 연구자들과의 공동 연구를 통해 에이전틱 AI 역량을 고도화해 나가겠다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]