SK텔레콤과 업스테이지, 해킹 대응 AI 함께 키운다

SK텔레콤과 업스테이지가 보안 업무를 돕는 AI를 함께 키운다. 소프트웨어의 약점을 찾아 고치고 해킹 사고에 대응하는 일이다. SK텔레콤은 10월 8일 ‘독자 AI 사이버보안 협의체’를 출범하고 기술 협력 업무협약을 맺었다고 밝혔다. 협약식은 전날 오후 SKT타워에서 열렸다.

참여 기관은 두 회사와 보안기업 6곳, 대학 3곳 등 모두 11곳이다. SK쉴더스, 시큐아이, 안랩, 라온시큐어, 지니언스, 파이오링크가 현장 데이터와 기술을 보탠다. 고려대, 숭실대, 부산대는 모델의 성능과 안전성을 평가한다.

보안 현장 데이터로 무엇을 배우나

협력 대상은 SK텔레콤의 A.X K 시리즈와 업스테이지의 Solar다. 두 모델은 정부의 ‘독자 AI 파운데이션 모델 프로젝트’에서 3단계에 올랐다. 협의체는 이 두 모델을 사이버보안 업무까지 쓸 수 있게 넓힐 계획이다. 보안기업의 데이터로 학습한 뒤 대학의 검증을 거치고, 참여사의 제품과 서비스에서 효과를 확인한다.

학습은 두 단계로 나뉜다. 먼저 기초 지식을 쌓고, 다음으로 실제 업무 능력을 끌어올린다. 차기 모델 A.X K3에는 보안 지식과 ‘모두의 AI’ 서비스를 안전하게 운영하기 위한 데이터를 보강한다. 차기 Solar는 많은 코드와 오랜 기간의 작업 기록을 한 번에 분석할 수 있다. 업스테이지는 여기에 취약점을 찾아내는 데이터를 집중 학습시킨다. 이어 소프트웨어의 약점을 찾아 고치고, 보안관제센터에서 사고에 대응하는 업무를 학습한다.

쌓여 있는 현장 데이터의 양도 이번 협력의 바탕이다. SK텔레콤에 따르면 SK쉴더스는 ‘시큐디움’으로 하루 170억 건의 위협 신호를 실시간 분석한다. 안랩은 2.5페타바이트(PB)가 넘는 보안 데이터를 갖고 있다. 협의체는 현장에 계속 쌓이는 위협 정보를 학습에 반영해 새로운 공격에도 대응력을 높일 수 있을 것으로 기대했다.

서로 공격하게 해서 약점 찾는다

안전성 검증에는 두 모델이 서로를 공격하고 평가하는 방식을 쓴다. 이 과정에서 드러난 취약 사례는 양쪽 모델의 학습에 다시 반영한다. SK텔레콤은 앞서 A.X K2를 개발하며 자동화된 공격 시험으로 약 1만 5천 건의 공격 대응 데이터를 만들어 학습시켰다. 이번에는 그 방식을 두 모델의 상호 평가로 넓힌다. 업스테이지는 갖고 있는 고난도 및 안전성 데이터 21만 건과 위험한 요청을 거절하게 만드는 학습 체계를 함께 쓴다.

대학은 개발 기업과 별도로 공격 시험을 설계하고 결과를 평가한다. 고려대는 실행 파일을 분석하는 능력과 공격 방어력을 살핀다. 숭실대는 보안 성능 평가 기준을 세우고, AI의 안전장치를 우회하는 공격에 얼마나 버티는지 확인한다. 부산대는 차기 모델과 크기가 작은 모델의 성능과 안전성을 검증한다.

실제 보안 제품에 어떻게 쓰나

적용 대상은 참여 기업의 보안 제품과 서비스다. 기업들은 아직 수정 프로그램이 나오지 않은 취약점을 분석하거나 실시간으로 위협을 감시하는 업무에 두 모델을 쓸 계획이다. 실제 운영 환경에서 성능과 안전성을 확인하고, 그때 얻은 분석과 대응 경험을 다시 학습에 반영한다.

이번 협력은 국내 보안 현장의 경험을 AI 학습과 제품 적용으로 잇는 시도다. 보안 담당자의 취약점 분석과 사고 대응을 AI가 얼마나 도울 수 있는지가 관건이다. 앞으로 공동 실증에서 확인할 업무 수행 능력과 대학의 독립적인 안전성 평가 결과가 실제 효과를 가를 것으로 보인다.