미국 정부, 공식 문서에서 AI를 'SI'로…6개사 안전 협약

미국 정부가 AI를 부르는 공식 이름을 바꾸고, 주요 기업들과 안전 관리 협약을 맺었다. 9월 29일(현지시간) 미국 대통령과 구글, 앤트로픽, 메타, 오픈AI, xAI, 엔비디아 대표가 협약에 서명했다. 같은 날 서명한 별도 행정명령은 연방 행정부의 공식 문서와 소통에서 AI 대신 ‘Super Intelligence(SI)‘를 쓰도록 했다.

AI를 SI로 부르면 무엇이 달라지나

행정명령에서 SI가 가리키는 기술의 법적 범위는 기존 AI 정의와 같다. 이름이 바뀌어도 가리키는 대상은 그대로다. 행정명령은 새 정의를 담은 입법안을 60일 안에 대통령에게 제출하도록 했다.

과거에 작성한 문서까지 새 용어로 고쳐 쓸 필요는 없다. 당장 바뀌는 것은 연방 행정부가 이 기술을 부르는 방식이다.

6개 기업은 무엇을 약속했나

협약은 첨단 AI 모델을 개발하는 기업이 안전에 책임을 진다는 내용을 담았다. 기업들은 모델을 학습시키고 서비스에 내놓는 과정에서 모델의 능력과 위험을 함께 살피는 내부 점검을 하기로 했다. 점검 대상으로는 사이버 보안, 생물과 화학 위협, 의도하지 않은 시스템 접근을 명시했다.

안전 관리 체계는 네 단계다. 위험을 살피는 내부 점검에 더해, 문제를 찾아 고치는 내부 조직을 두고, 독립적인 외부 평가를 받고, 이사회 안에 독립 위원회를 두고 감독을 맡긴다.

미국 정부와 AI 기업이 자발적인 안전 약속을 내놓은 것은 처음이 아니다. 2023년에도 안전성 시험과 보안 등을 담은 약속이 나왔다. 이번 협약은 점검을 맡을 조직과 감독 구조를 네 단계로 명시한 점이 다르다.

약속을 지키지 않으면 어떻게 되나

협약에는 이행 기한과 위반 시 제재가 없다. 자발적 약속이며, 앞으로 법률이나 규정으로 정할 수 있다는 가능성만 담았다. 트럼프 대통령은 구속력이 있는지 묻는 질문에 도덕적 구속력이 있다고 답했다. 앤트로픽의 다리오 아모데이는 현장에서 기술에 실질적인 위험이 있으며 대응 방식은 논의 중이라고 밝혔다.

미국 행정부는 새 이름을 채택했고, 서명한 6개 기업은 안전 점검의 책임과 절차를 약속했다. 남은 질문은 그 절차가 실제 서비스의 위험을 얼마나 줄이느냐다. 기업별 이행 일정, 외부 평가의 방식과 결과, 앞으로 마련될 법률과 규정이 다음 확인 대상이다.