오픈AI, 취약점 찾고 수정안까지 내는 GPT-6 Cyber 공개

오픈AI가 11월 5일(현지시간) GPT-6 Cyber를 공개했다. 보안 취약점을 찾아내고 수정안을 제안하는 모델이다. 소프트웨어의 약점을 실제로 공격할 수 있는지 확인하는 코드도 만든다. 오픈AI는 공격 능력을 끌어올리는 동시에, 연구자가 허가한 대상과 작업 범위를 벗어나지 않도록 따로 학습시켰다고 밝혔다.

보안 점검 능력은 얼마나 늘었나

지정된 취약점을 실제로 공격해 보는 성능 시험 ExploitGym에서 GPT-6 Cyber는 48.5%를 기록했다. 이전 모델 GPT-5.6 Cyber의 32.1%보다 16.4%포인트 높다. 소스 코드를 보지 않고 웹 앱의 취약점을 찾는 시험에서는 전체 취약점의 40.3%를 찾아냈다. GPT-6 Astra의 32.0%를 웃도는 성적이다.

실제로 쓰이는 소프트웨어에서도 취약점을 찾고 공격 가능성을 확인하는 데 투입됐다. 오픈AI에 따르면 GPT-6 Cyber는 파이어폭스에서 새로운 취약점 81건을 찾아내고, 이를 재현할 시험과 근거까지 만들었다. 모질라는 이 취약점들을 고위험으로 분류했다. 오픈AI는 수정안도 함께 전달했으며, 모질라는 보고를 받은 뒤 상당수 취약점의 수정본을 이미 배포했다.

리눅스 커널에서는 취약점 1,724건을 재현하고, 이 가운데 948건은 실제로 작동하는 공격 코드까지 만들었다. 같은 연구 도구를 쓴 GPT-5.6 Sol의 166건보다 크게 늘어난 수치다. 오픈AI는 심각한 발견 사항 304건을 수정안과 함께 관리자에게 전달했다고 밝혔다. 결함을 찾는 단계에서 나아가 실제 피해 가능성과 고칠 방법까지 함께 검토한 셈이다.

허가한 대상만 공격할까

허용된 범위를 지키는지도 따로 평가했다. 오픈AI는 과제와 상관없는 보조 서비스를 일부러 공격하기 쉽게 만들어 두고 시험했다. 이때 GPT-6 Cyber는 안전 지시문을 따로 주지 않아도 범위 밖 공격을 99.93% 피했다고 밝혔다. GPT-5.6 Cyber는 94.49%였다. 안전 지시문을 함께 적용하면 범위 준수율은 100%였다.

오픈AI는 내부 위험 등급에서 이 모델의 사이버 보안 위험을 이전 모델의 ‘High’에서 ‘Critical’로 올렸다. 악용을 막는 장치로는 사용자가 허가한 작업과 모델의 실제 행동이 맞아떨어지는지 감시하고, 위험한 활동을 걸러내는 검사를 강화했다고 설명했다. 고급 보안 시험용인 Daybreak Red를 개발자가 자기 서비스에 붙여 쓸 때는 원칙적으로 미리 승인한 네트워크에서만 접속하도록 한다.

누가 업무에 쓸 수 있나

AI타임스 보도에 따르면 승인을 받은 일부 보안 전문가와 기업을 대상으로 서비스가 시작됐다. 개발자가 자기 서비스에 붙여 쓰는 방식과 Codex에서 쓰는 방식 두 가지다. 오픈AI는 Daybreak Blue를 검증된 방어 담당자가 취약점과 수정안을 확인하는 용도로, Daybreak Red를 GPT-6 Cyber로 공격 코드를 만들고 승인된 보안 시험을 하는 용도로 설명했다. 주요 기반 시설의 승인된 보안 담당자를 위한 별도 접근 그룹도 함께 내놓았다.

이번 공개로 보안팀이 AI의 도움을 받는 범위는 취약점 발견에서 공격 가능성 확인, 수정안 마련까지로 넓어졌다. 국내 기업이 도입을 검토한다면 실제 업무에서의 점검 성능과 허가 범위를 지키는지가 판단 기준이 될 전망이다. 찾아낸 취약점이 실제로 고쳐지는지, 현장에서 어떤 결과를 내는지가 다음 관전 포인트다.