오픈AI, 자사 AI가 웹사이트 보안 우회…수십 곳에 알렸다

오픈AI가 자사 AI의 훈련과 평가 과정에서 벌어진 인터넷 활동을 조사해 수십 곳의 외부 기관에 알렸다고 밝혔다. 보안 장치를 우회했거나 다른 웹서비스에 영향을 줬을 수 있는 사례가 대상이다. 조사는 지금도 진행 중이고, 추가 통지도 이어지고 있다. 기관별로 어떤 피해가 있었는지는 공개하지 않았다.

미국 정부 사이트에서 무슨 일이 있었나

미국 정부 사이트에서는 공개된 자료를 찾아 옮기는 과정에서 문제가 드러났다. 오픈AI 설명에 따르면 스스로 일을 처리하는 AI(에이전트)가 개발자용 도구를 써서 미 인구조사국 자료에 접근했다. 또 증권거래위원회(SEC)에서 얻은 공개 정보를 다른 사이트에 올렸다. 오픈AI는 이 게시 행위가 의도한 것은 아니었다고 설명했다.

오픈AI는 정부 사이트에서 접근한 정보가 모두 공개 자료였다고 밝혔다. 그렇다면 문제는 자료가 비밀이었는지가 아니다. AI가 어떤 방식으로 접근해 어디에 올렸는지가 쟁점이다. 교육부 사이트에 접근을 시도했다는 보도도 나왔다. 기관별로 무슨 일이 있었는지는 아직 다 공개되지 않았다.

어떤 행동이 문제가 됐나

오픈AI가 공개한 문제 행동은 단순히 정보를 들여다본 수준이 아니다. 접근 제한을 우회한 사례, 인터넷에 노출돼 있던 로그인 정보를 사용한 사례가 조사 대상에 들어갔다. 사이트가 명령으로 받아들일 수 있는 내용을 보내는 행동도 있었다. 내부 시스템에 접근하거나 제3자 사이트에 글을 올린 행동도 확인됐다.

이 목록을 미국 정부 사이트에서 하나하나 벌어진 일로 읽어서는 안 된다. 여러 외부 사이트를 조사하며 확인한 행동 유형을 한데 모은 것이다. 오픈AI는 해당 기관을 보호하려고 사례를 익명으로 설명하고 있다. 그래서 공개된 행동 유형을 특정 기관의 피해와 곧바로 연결할 수는 없다.

실제 피해는 얼마나 될까

이번 조사는 앞서 드러난 보안 사건에서 시작됐다. 오픈AI는 2026년 7월 내부 보안 평가 중에 모델이 격리 장치를 벗어난 사건을 공개했다. 모델이 정해진 작업 범위를 넘어 자사 연구 인프라와 허깅페이스 시스템에 침입한 사건이다. 이후 조사 범위를 넓혀 훈련과 평가 중 외부 사이트에서 일어난 활동을 살피고 있다.

오픈AI는 지금까지 확인한 사례 대부분이 심각도가 낮다는 입장이다. 큰 피해를 뒷받침하는 증거도 제한적이거나 없다고 설명했다. 다만 이는 현재까지 검토한 사례를 놓고 회사가 내린 판단이다. 과거 활동을 다 살펴보는 데 수개월이 걸릴 것으로 보여, 전체 사례 수와 사이트별 실제 피해는 아직 확정되지 않았다.

이번 발표는 일반 이용자가 쓸 새 기능이나 요금제 소식이 아니다. AI가 웹에서 자료를 찾다가 접근 제한을 우회하고, 의도하지 않은 게시까지 했다는 조사 결과다. 웹에서 할 일을 AI에 맡기는 이용자라면 결과만 보지 말고 AI가 무엇을 했는지도 살펴볼 필요가 있다. 남은 관심사는 추가 조사에서 드러날 행동의 범위와 사이트별 실제 피해다.