Claude에 적은 위협, 앤트로픽 신고로 이용자 기소

미국 플로리다주에서 Claude에 적은 위협 발언이 경찰 신고와 기소로 이어졌다. WINK News가 인용한 체포 보고서에 따르면, 앤트로픽은 안전 점검 절차와 사람의 검토를 거쳐 경찰에 알렸다. 해당 여성은 체포돼 서면 위협 혐의로 기소됐다. 아직 유죄가 확정되지는 않았다.

어떤 대화가 신고로 이어졌나

수사기관은 여성이 9월 26일 리카운티 보안관 사무소를 공격하겠다는 취지의 말을 Claude에 입력했다고 주장했다. 다음 날에는 새 총을 얻었다는 내용도 적었다고 밝혔다. 보안관은 위협으로 판단되는 AI 이용을 심각하게 다뤄야 한다는 입장을 전했다.

보안관은 여성이 Claude를 일기처럼 썼다고 현지 언론에 설명했다. 쟁점은 수사기관이 위협으로 본 대화 내용이 형사처벌의 요건을 채우는지다.

플로리다주 법률 836.10조는 다른 사람이 볼 수 있는 방식으로 특정 위협을 담은 전자 기록을 보내는 행위를 2급 중범죄로 규정한다. 살상이나 상해, 대량 총격이나 테러 위협이 그 대상이다. Claude와 나눈 대화가 이 조항에 해당하는지는 재판에서 가려진다.

내 대화는 누가 볼 수 있나

앤트로픽은 이용 정책(Usage Policy, 서비스 사용 규칙)을 지키게 하는 데 필요하면 지정된 안전 담당 팀원이 대화를 검토할 수 있다고 안내하고 있다. 이용자가 AI에 입력한 내용은 이런 조건에서 사람의 검토 대상이 될 수 있다.

수사기관에 개인정보를 넘길 수 있는 조건도 개인정보 처리방침에 들어 있다. 앤트로픽은 사람이나 재산에 생길 심각한 위해를 막는 데 합리적으로 필요하다고 선의로 판단하면 정보를 제공할 수 있다고 규정한다.

한국 이용자에게도 중요한가

한국은 Claude.ai와 앤트로픽의 개발자용 서비스 공식 지원 지역에 들어간다. 한국 이용자도 사적인 생각을 챗봇에 적을 때 대화 검토와 정보 제공 기준을 확인해 볼 이유가 있다. ChatGPT를 운영하는 오픈AI도 다른 사람을 해칠 위험이 급박하고 신빙성 있다고 보면 수사기관에 알린다고 밝히고 있다.

앞으로 확인할 지점은 두 가지다. 법원이 Claude와 나눈 대화에 위협죄 조항을 어떻게 적용하는지, 그리고 앤트로픽이 이번 신고의 판단 근거를 설명하는지다. AI와 나눈 개인적인 대화가 안전 검토를 거쳐 수사로 이어질 수 있다는 점이 이번 사건으로 드러났다.