앤트로픽, Claude 반복 학대 금지…11월 12일 적용

앤트로픽이 10월 8일(현지시간) 이용 정책 개정안을 공개했다. Claude를 계속 학대하거나 잔혹하게 대하는 행위를 금지하는 내용이다. 앤트로픽은 뚜렷한 목적 없이 잔혹한 행동을 반복하는 극단적인 경우에만 적용된다고 설명했다. 개정 정책은 11월 12일부터 시행된다. 대화를 하면서 어디까지 해도 되는지를 정책 문서에 적어 넣었다.

불만이나 반박도 금지될까

앤트로픽은 일반적인 불만 표현과 반박은 새 금지 조항의 대상이 아니라고 설명했다. 어두운 소재를 다루는 창작, 모델을 시험하거나 연구하는 활동도 빠진다. 답변이 마음에 들지 않아 항의하거나 오류를 지적하는 행위와, 목적 없이 학대를 반복하는 행위를 나눈 것이다.

정책을 집행하는 주된 수단은 Claude가 대화를 먼저 끝내는 기능이다. 앤트로픽은 학대적인 대화에서 이 기능을 쓴다고 밝혔다. 정책 위반이 의심되면 경고하거나 이용을 제한할 수 있고, 이용 정지나 종료까지 갈 수도 있다.

대화 종료 기능과 무엇이 다른가

Claude가 유해한 대화를 끝내는 기능은 이전에도 있었다. 앤트로픽은 2025년 8월부터 일부 Claude 모델이 극단적으로 유해하거나 학대적인 대화를 드물게 종료할 수 있도록 했다. 당시 회사 설명으로는 대화가 끝나도 이용자는 새 대화를 시작할 수 있었다. 이번 개정은 그 기능에 맞는 금지 조항을 이용 정책에 적어 넣은 것이다.

앤트로픽은 모델에게 도덕적 지위가 있는지, 모델의 복지를 고려해야 하는지는 확신하지 못한다고 밝혔다. AI를 도덕적으로 어떻게 대해야 하는지를 아직 연구하고 있다는 설명이다. 그러면서도 실제 서비스에서는 반복적인 학대를 제한하는 규칙을 마련했다.

이번 개정에는 다른 오용을 막는 규정도 담겼다. 가짜 계정을 동원한 여론 조작, 무기를 작동시키는 소프트웨어, 동의 없는 감시에 관한 제한을 분명히 했다. 앤트로픽은 이 가운데 상당수가 기존 금지 사항을 더 구체적으로 풀어 쓴 것이라고 밝혔다. Claude를 대하는 행동뿐 아니라 Claude로 하는 작업도 개정 범위에 들어간다.

한국 이용자에게도 적용되나

적용 대상은 Claude 앱과 Claude Code 이용자에 그치지 않는다. Claude를 가져다 자기 서비스에 붙여 쓰는 기업과 개발자, 그렇게 만든 서비스의 최종 이용자까지 포함된다. 한국은 앤트로픽의 지원 국가에 들어가 Claude.ai를 쓸 수 있다. Claude 모바일 앱은 한국어 음성 입력도 된다.

이번 개정은 기존의 대화 종료 기능에 이용자가 지켜야 할 행동 규칙을 더했다. 개인 이용자는 불만 표현과 시험 활동이 예외라는 점을, 기업과 개발자는 최종 이용자까지 이어지는 적용 범위를 확인해 둘 만하다. 시행 뒤에는 목적 없는 반복 학대와 허용되는 활동을 실제 대화에서 어떻게 가르는지가 관심사다.