SK텔레콤, 서울대 수학자와 AI 모델 A.X K2 실력 높인다

SK텔레콤이 국내 수학 연구진과 손잡고 자체 AI 모델 A.X K2의 수학 문제 해결 능력을 높인다. 회사는 10월 22일 수학자의 전문지식을 모델 학습에 반영하고, 개선한 모델로 수학 난제 풀이에 도전한다고 밝혔다. 연구 성과는 스스로 일을 처리하는 AI(에이전트)가 자기 판단과 결과를 점검하는 능력을 높이는 데 쓸 계획이다.

SK텔레콤은 이날 서울 을지로 본사에서 서울대와 KAIST 연구진이 참여하는 기술 교류회를 열고 협력 방안을 논의한다. 서울대 수리과학부 서인석, 변성수, 홍영준 교수와 KAIST 전산학부 박노성 교수, 학생 연구원들이 참석한다. 논의 주제는 A.X K2를 수학 연구에 활용하는 방법과 모델 성능 개선이다.

수학자의 지식을 AI에 어떻게 담나

이번 협력은 수학의 세부 분야를 깊이 학습시키는 데 초점을 맞춘다. SK텔레콤은 기존 모델이 충분히 다루지 못한 전문지식과 논리적으로 답을 찾는 능력을 보완하겠다고 설명했다. 수학 문제를 풀 때 필요한 지식을 모델에 더하고, 이를 실제 연구 문제에 적용하는 방식이다.

프로젝트에는 고등과학원 연구진도 참여한다. 서울대 서인석 교수는 확률론과 통계물리, 고등과학원 이준경 교수는 이산수학과 그래프 이론 분야에서 협력한다. 고등과학원 김상현 교수는 저차원 위상수학과 기하적 군론 분야의 연구 역량을 보탠다. 연구진은 각자의 전공을 바탕으로 분야별 난제 풀이에 도전할 예정이다.

AI를 수학 연구에 쓰는 방법도 함께 연구한다. 서울대 홍영준, 이다빈, 오병권, 변성수 교수와 KAIST 박노성 교수가 이 작업에 참여한다. 수학자의 전문지식을 모델에 학습시키는 한편, 학습한 모델을 실제 수학 연구에 활용할 방법을 찾는 것이 과제다.

스스로 일하는 AI에 왜 수학이 필요한가

SK텔레콤이 수학 연구와 업무용 AI를 잇는 지점은 판단과 검증이다. 회사는 AI가 복잡한 문제의 해결 계획을 세우고 여러 단계의 작업을 할 때, 그 과정과 결과가 타당한지 점검하는 능력을 높이겠다고 밝혔다. 일을 처리하면서 자기 판단도 함께 살피는 AI를 만들겠다는 것이다.

이 능력은 AI가 스스로 성능을 개선하는 연구에도 쓸 예정이다. SK텔레콤은 AI가 능력을 끌어올린 뒤 그 성과를 다음 개선에 다시 활용하는 연구와 이번 협력을 연결했다. AI가 내놓은 답뿐 아니라 스스로 설계한 실험과 검증 방법까지 수학적으로 타당한지 판단하는 능력이 중요하다고 설명했다.

김태윤 SK텔레콤 파운데이션 모델 담당은 “독자 파운데이션 모델의 실제 문제 해결 능력을 높이기 위해 수학 분야 산학협력을 활발하게 추진하고 있다”고 밝혔다. 회사는 필요한 지식을 스스로 학습하며 발전하는 AI 에이전트를 장기 목표로 제시했다.

앞으로 지켜볼 대목은 세부 분야 학습이 실제 난제 연구에서 어떤 성과로 이어지는지다. 업무를 처리하는 AI의 판단과 검증 능력에도 개선 효과가 나타나는지가 이번 연구의 가치를 가를 전망이다.