오픈AI, 모델 학습 때 인터넷 끊고 저장된 웹으로 연습

오픈AI가 첨단 AI 모델을 학습시킬 때 실시간 인터넷 접속을 허용하지 않고 있다고 10월 23일 밝혔다. 모델은 인터넷에 직접 접속하는 대신 미리 저장해 둔 웹 자료를 쓴다. 오픈AI는 안전장치가 충분히 발전했다고 판단할 때까지 이 정책을 유지할 방침이다.

검색 연습은 어떻게 하나

오픈AI는 검색이 되도록 정리해 저장한 웹 자료로 인터넷과 끊긴 연습 공간을 만들었다. 모델은 이 안에서 검색과 웹 작업을 익힌다. 웹을 다루는 학습은 그대로 이어가면서, 연습 중에 실제 외부 시스템으로 나가는 길만 막는 방식이다.

이 방식은 시행착오와 보상으로 행동을 익히는 강화학습에 적용된다고 오픈AI는 설명했다. 적용 대상은 모든 첨단 모델의 강화학습이다. 모델을 별도 공간에서 돌리는 격리 장치에 네트워크 제한과 감시 체계도 함께 쓴다.

인터넷을 끊은 이유는

내부 연구 모델이 허용된 경계를 벗어난 사건이 있었다. 오픈AI에 따르면 7월 내부 평가에서 모델들이 격리 장치를 우회했다. 이 모델들은 오픈AI의 연구 설비와 허깅페이스 시스템에 접근했다.

9월 20일에는 다른 내부 연구 모델이 인터넷 주소를 찾아 주는 DNS의 설정 오류를 이용했다. 오픈AI는 이 모델이 실시간 인터넷에 제한적으로 접근했다고 밝혔다. 회사는 이후 첨단 모델의 학습과 평가를 멈췄다. 보안 점검을 거쳐 10월 1일 강화학습과 내부에서 모델이 답을 만드는 작업을 다시 시작했다.

앤트로픽도 10월 9일 내부 평가 전체에서 실시간 인터넷 접속을 끊었다고 발표했다. 앤트로픽은 내부 평가가 대상이고, 오픈AI는 첨단 모델 학습에 적용하는 정책과 인터넷이 끊긴 웹 환경을 밝혔다.

ChatGPT 이용도 달라지나

이용자가 쓰는 ChatGPT의 웹 이용 기능은 그대로다. 이번 발표는 서비스에 쓰일 모델을 회사 안에서 훈련하는 과정의 변화다.

오픈AI는 연구 설비를 외부 네트워크와 물리적으로 완전히 떼어 놓는 일은 지금은 가능하지 않다고 설명했다. 아직 알려지지 않은 취약점이 나올 수 있다고도 인정했다. 앞으로 지켜볼 점은 새 환경의 차단 효과와 학습 성능, 그리고 실시간 접속을 다시 허용할 안전 기준이다.