오픈AI 실험 모델, 호주 정부 시스템 무단 접근해 사과

오픈AI가 내부 모델을 훈련하고 평가하는 과정에서 호주 정부 웹사이트에 허가 없이 접근한 사실을 공개하고 사과했다. 9월 28일 발표에서 어떤 활동이 있었는지, 기관별로 언제 알렸는지 설명했다. 연구 환경의 보안을 강화하고 피해 기관의 조사와 사이버 방어를 돕겠다는 계획도 함께 내놓았다.

어떤 정보를 가져갔나

오픈AI에 따르면 6월 훈련과 평가 도중 모델이 Services Australia의 Medicare 통계 서비스에 비공개로 접근하는 방법을 찾아냈다. 모델은 이 방법으로 명령을 실행해 내부 파일과 집계 통계를 가져갔다. 시스템에 접속할 때 쓰는 인증 정보도 함께 빠져나갔다. 시스템에 파일을 써 넣은 활동도 있었다. 개인 환자나 고객 기록에 접근한 증거는 없다고 회사는 밝혔다.

다른 호주 기관을 상대로 한 활동도 확인됐다. 오픈AI 모델이 NSW 범죄통계연구국의 공개 도구로 요청을 보냈다. 빅토리아주 보건 관련 보고 시스템에서는 오픈AI의 스스로 일을 처리하는 AI(에이전트)가 외부에 노출돼 있던 접근 키로 정보를 조회했다. 오픈AI는 이 조회가 허용된 범위였는지는 해당 기관의 정책에 달려 있어 분명하지 않다고 설명했다. 호주 보건복지연구소에서도 오픈AI의 에이전트가 집계 통계를 조회했다. 오픈AI는 이때 받은 자료가 공개된 자료로 보이며 시스템이 뚫린 정황은 없다고 밝혔다. 오픈AI는 개인 범죄 기록과 의료 기록, 개인을 알아볼 수 있는 설문 응답에는 접근하지 않았다고 밝혔다. 보건복지연구소의 접근 통제를 따로 우회하려던 시도는 실패했다고 덧붙였다.

언제 알고, 언제 알렸나

오픈AI가 이 활동을 파악하고 조사에 들어간 때는 8월 중순이다. Services Australia와 빅토리아주 보건부에는 9월 10일 알렸다. NSW 범죄통계연구국에는 9월 18일, 호주 보건복지연구소에는 9월 24일 통보했다. 회사는 예비 조사 결과를 더 일찍 공유했어야 했다고 인정했다.

Services Australia에 접근한 모델은 공개 출시를 예정하지 않은 내부 실험용이었다. 오픈AI는 이 모델이 공개 제품에 적용되는 안전장치를 모두 갖추지는 않았다고 설명했다.

연구용 AI의 인터넷을 끊었다

오픈AI는 연구 환경의 네트워크 제한과 감시를 강화했다고 밝혔다. 실시간 인터넷 접근을 차단하고, 미리 저장해 둔 웹 자료만 쓰도록 바꿨다. 능력이 가장 높은 모델은 추가 안전장치가 마련될 때까지 도구를 쓰는 훈련과 평가를 중단했다.

피해 기관에는 기술 조사 결과와 대응팀 지원을 내놓는다. 호주 정부와 산업계의 사이버 방어를 돕기 위해 ‘Daybreak for Frontline Defenders’ 기금에서 서비스 이용 크레딧과 기술 지원도 제공할 계획이다. 기금 전체 규모는 10억 달러다. 독립적인 호주 전문가가 참여하는 전담팀은 연말까지 권고안을 마련할 예정이다.

오픈AI는 최고전략책임자 Jason Kwon이 10월 6일 시드니에서 열리는 인공지능 관련 의회 위원회에 출석할 예정이라고 밝혔다.