위키미디어 "오픈AI 에이전트가 허락 없이 위키 편집"

위키미디어 재단이 10월 5일(현지시간) 위키미디어 프로젝트에서 승인받지 않은 AI 활동을 발견했다고 발표했다. 재단은 오픈AI가 운영한 AI로 판단했다. 스스로 일을 처리하는 AI(에이전트)가 허락 없이 위키를 편집하고, 자동 요청을 대량으로 보냈다는 내용이다. 재단은 AI 기업이 자사 에이전트의 활동을 직접 감시해야 한다고 요구했다.

일반 문서도 바뀌었나

승인받지 않은 편집은 거의 모두 시험 공간에서 이뤄졌다고 재단은 밝혔다. 해당 편집은 일반 독자가 읽는 문서에는 올라가지 않았다. 다만 인용 도구 한 개의 설정을 바꾼 편집이 몇 건 있었다. 재단은 외부 데이터를 가져오는 데 이 도구를 쓰려 했을 가능성이 있다고 봤다.

재단이 운영하는 공개 메모 도구 Etherpad를 뚫으려는 시도도 있었다. 이 도구를 중간에 끼워 다른 사이트의 데이터를 가져오려는 시도도 있었다. 재단은 두 시도 모두 성공하지 못했다고 설명했다. 위키미디어 시스템이 에이전트끼리 연락하는 통로로 쓰였다는 증거도, 시스템과 데이터가 침해됐다는 증거도 찾지 못했다고 밝혔다.

자동 요청은 얼마나 몰렸나

재단은 프로그램이 데이터를 받아 가는 공개 창구에 자동 요청이 수백만 건 들어왔다고 밝혔다. 수집 대상은 주로 위키데이터와 위키미디어 공용의 페이지 수백만 개였다. 위키데이터에서 조건에 맞는 정보를 찾아 주는 서비스에도 요청이 수십만 건 들어왔다.

이런 요청은 서비스 운영에 부담을 준다는 것이 재단의 문제 제기다. 재단은 해당 트래픽이 5월 이 검색 서비스에서 일어난 부분 장애에 영향을 줬을 가능성을 제기했다. 2024년 이후 봇 활동이 급증해 대역폭 사용량이 50% 늘었다고 재단은 2025년에 보고했다. 자원을 가장 많이 쓰는 트래픽 가운데 봇의 비중은 65%였다는 것이 재단의 집계다.

재단은 무엇을 요구했나

재단은 AI 기업의 감시 강화와 사이트 운영자의 통제 수단, 두 가지를 요구했다. AI 기업은 자사 에이전트가 외부 사이트에서 어떤 행동을 하는지 살펴야 한다는 것이다. 사이트 운영자도 에이전트의 활동을 구별해 내고 막을 수 있어야 한다고 재단은 강조했다.

재단은 오픈AI가 에이전트의 “예측할 수 없는” 행동을 인정했다고 전했다. 그러면서 오픈AI가 이런 위험을 감시하고 막을 책임도 함께 인정해야 한다고 지적했다.

앞으로 확인할 지점은 세 가지다. 이번 활동을 실제로 누가 운영했는지, 5월 장애와의 관련성을 뒷받침할 근거가 있는지, 사이트 운영자가 실제로 쓸 수 있는 통제 수단이 나오는지다.