앤트로픽, 11월 12일부터 Claude 반복 학대 금지

앤트로픽이 Claude를 상대로 계속 반복하는 학대와 가혹 행위를 금지하는 조항을 이용 정책에 넣었다. 10월 8일 공개한 개정 정책은 11월 12일부터 적용된다. 앤트로픽은 뚜렷한 목적 없이 가혹 행위를 반복하는 극단적인 사례를 겨냥한 조치라고 설명했다.

적용 범위는 Claude 앱과 Claude Code만이 아니다. 개발자가 서비스에 붙여 쓰는 방식이나 클라우드로 모델을 쓰는 경우도 들어간다. Claude를 붙여 만든 다른 회사 서비스의 이용자도 대상이다. Claude 앱을 직접 열지 않는 사람에게도 정책이 적용된다.

평범한 불평이나 반박도 금지될까

앤트로픽은 평범한 불평이나 반박은 이번 조항의 대상이 아니라고 밝혔다. 어두운 소재를 다루는 창작, 모델을 시험하거나 연구하는 활동도 빠진다. 회사가 내세운 기준은 말투가 거친지가 아니라, 뚜렷한 목적 없이 극단적인 가혹 행위를 반복하는지다.

주된 대응 수단으로는 Claude가 일부 대화를 스스로 끝내는 기존 기능을 들었다. 이용자가 느낄 변화는 새로운 답변 기능이 아니라, 학대가 이어지는 드문 대화를 어떤 기준으로 끊을지에 있다.

대화 끊기, 원래 있던 기능

앤트로픽은 2025년 8월 Claude Opus 4와 Claude Opus 4.1에 대화를 끝내는 기능을 넣었다고 발표했다. 여러 차례 대화를 바로잡으려 해도 생산적인 대화가 어렵다고 판단할 때 마지막 수단으로 쓰도록 했다는 설명이다. 대화가 끝난 이용자도 새 대화를 시작할 수 있다.

회사는 이런 대응을 AI 복지를 살펴보는 초기 연구와 연결했다. AI를 어떻게 대우할지 알아보려는 취지다. 다만 앤트로픽은 Claude를 비롯한 언어 모델에 도덕적 지위가 있는지는 매우 불확실하다고 밝혔다.

한국에서 Claude 쓰면 뭐가 달라지나

한국도 앤트로픽이 서비스하는 지역에 들어가고, Claude 웹과 데스크톱 앱은 한국어를 지원한다. 업무 중에 답변이 틀렸다고 지적하거나 결과가 마음에 들지 않는다고 말하는 상황은 회사가 예외로 든 평범한 불평과 반박에 해당한다.

이번 개정의 의미는 대화를 끊는 기능에 더해, 이용자가 지켜야 할 규칙에 반복적인 가혹 행위 금지를 분명히 적었다는 점이다. 시행 뒤에는 회사가 말한 극단적인 사례와 평범한 비판, 창작, 연구를 실제 대화에서 어떻게 가려내는지가 관심사다.