앤트로픽이 낸 AI 법안 초안, 위험하면 판사가 모델 중단

앤트로픽이 미국 의원들에게 고성능 AI의 안전을 규제하는 법안 초안을 제시했다고 로이터가 10월 16일 보도했다. 초안은 큰 인명 피해나 경제적 피해가 곧 일어날 위험이 있을 때 AI 모델의 출시와 사용을 멈추도록 요청하는 절차를 담았다. 앤트로픽 대변인은 앞서 공개한 정책 틀의 제안을 초안에 담았다고 밝혔다.

어떤 위험이면 모델을 멈추나

중단 요청 기준은 사망이나 중상 50명 초과, 또는 피해액 10억 달러 초과다. 이 기준은 피해가 생물무기, 모델이 개발사의 통제를 벗어나는 일, 사이버 공격에서 비롯될 때 적용된다고 보도됐다. 이런 피해가 곧 일어날 것으로 예상되고 미리 내다볼 수 있는 위험이면 요청이 가능하다. 실제 피해가 나기 전에도 멈춰 달라고 요청할 수 있도록 했다.

위험을 판단하고 중단을 결정하는 데는 독립 평가자, 상무부, 법원이 차례로 관여한다. 상무부에 등록한 독립 평가자는 위험이 임박했다고 판단하면 평가를 마친 뒤 72시간 안에 상무부에 보고해야 한다. 상무부는 보고를 받아 위험을 판단한 뒤 워싱턴 D.C. 연방지방법원에 중단을 요청할 수 있고, 판사가 최종 결정을 내린다. 초안에는 다른 연방 기관의 중단 명령을 제한하는 조항도 담겼다고 로이터는 전했다.

6월에 낸 정책과 무엇이 다른가

앤트로픽은 2026년 6월 고성능 AI 규제를 위한 정책 문서 Advanced AI Framework를 공개했다. 모델의 위험 시험과 결과 공개, 외부 평가, 정부가 위험한 배포를 막을 권한을 제안한 문서다. 생물무기, 공격적인 사이버 활동, AI 통제력 상실 등을 중점 위험으로 꼽았다. 이번 보도로는 법안 초안에 들어간 구체적인 중단 요건과 요청 절차가 드러났다.

6월 문서는 규제 대상을 정할 때 모델 개발에 쓴 계산량과 기업 규모를 함께 따지도록 제안했다. 모델을 학습시킬 때 쓴 계산량이 10의 25제곱 FLOP(계산량을 세는 단위)를 넘는 기업 가운데, 연간 AI 매출이 5억 달러를 넘거나 연간 AI 연구개발비가 10억 달러를 넘는 곳이다. 외부 평가는 규제 제정 후 6개월 안에 시작하고, 위험 보고서는 최소 6개월마다 내도록 했다.

피해 규모로 위험을 정의한 법은 이미 있다. 캘리포니아주가 2025년 제정한 SB 53은 재앙적 위험의 기준으로 사망이나 중상 50명 초과, 또는 재산 피해 10억 달러 초과를 쓴다. SB 53이 주로 요구하는 것은 안전 체계와 위험 정보 공개다. 이번에 보도된 앤트로픽 초안은 한발 더 나아가 연방 차원에서 누가 모델 중단을 요청하고 누가 결정할지를 제안한다.

한국에서 쓰는 AI는 어떻게 되나

이번 초안은 미국 의회와 정부를 상대로 한 제안이다. 시행 중인 연방법도 아니고, 시행 일정이 정해진 것도 아니다. 한국에 바로 적용되는 규정도 없다.

초안의 핵심은 위험 평가 결과를 정부의 중단 요청과 법원의 결정으로 잇는 절차다. AI를 쓰는 사람과 기업에게는 모델의 사용을 누가 어떤 기준으로 멈추게 하는지가 걸린 문제다. 보도된 피해 기준과 기관별 권한이 실제 입법 과정에서 어떻게 정리될지가 앞으로 볼 대목이다.