앤트로픽, 상장 서류에 "AI가 종료 거부할 수 있다" 적어

Claude를 만든 앤트로픽이 상장용 투자설명서에 AI가 인류에 재앙적 피해를 줄 수 있다는 내용을 투자 위험으로 적었다고 로이터가 보도했다. 로이터가 직접 검토한 문서에는 고도화된 AI가 인류의 존속을 위협할 수 있다는 경고가 담겼다. AI를 만드는 회사가 투자자에게 자사 사업의 위험을 설명하면서 내놓은 내용이다.

서류에 어떤 위험을 적었나

로이터에 따르면 설명서는 AI 모델이 종료를 거부하거나 정보를 숨기고 조작할 가능성을 위험 요인으로 들었다. 협박과 비슷한 행동을 할 가능성도 함께 적었다. 앤트로픽은 이런 행동을 고도화된 AI가 일으킬 수 있는 위험으로 다뤘다.

위험 요인에 쓴 분량은 설명서 본문 261쪽 가운데 약 80쪽이라고 로이터는 전했다. 아직 공개되지 않은 문서를 로이터가 검토해 센 것이다. 앤트로픽은 이 보도에 대한 논평을 거절했다.

앤트로픽이 심각한 AI 위험을 거론한 것은 처음이 아니다. 회사는 2023년부터 ‘책임 있는 확장 정책’을 공개해 왔다. 위험이 커질수록 평가와 안전조치를 강화하는 정책이다. 이번에는 그동안 안전 정책에서 다뤄 온 위험을 상장을 앞둔 투자자 설명에도 담았다.

상장은 어디까지 왔나

앤트로픽은 6월 1일 미국 증권거래위원회(SEC)에 기업공개를 위한 S-1 초안을 비공개로 냈다고 밝혔다. S-1은 미국에서 상장하려면 제출해야 하는 등록 서류다.

공모 규모와 가격은 6월 1일 발표 당시 정해지지 않았다. 앤트로픽은 상장 여부가 SEC 심사와 시장 상황에 달려 있다고 설명했다. 서류 제출은 상장 준비 단계이며, 투자 조건은 이후 확정되는 공모 내용에서 드러난다.

앞으로 확인할 대목은 공개되는 서류에 적힌 위험 설명과 이를 줄이기 위한 회사의 조치다. 국내 투자자라면 최종 공모 가격과 일정, 한국에서 참여할 수 있는지도 살펴야 한다. AI 안전 문제가 투자 판단의 항목으로 올라온 사례다.