앤트로픽, 종교와 철학 전문가 의견 Claude 판단 기준에 반영할지 연구

앤트로픽이 종교와 철학계의 의견을 Claude의 행동 기준에 반영하는 방안을 연구하고 있다. 회사는 2026년 5월, 15개가 넘는 종교와 문화 단체에 속한 학자, 성직자, 철학자, 윤리학자와 대화해 왔다고 밝혔다. 9월 29일(현지시간) 뉴욕타임스는 이 비공개 모임의 참석자와 논의 내용을 추가로 전했다.

Claude는 어떤 기준으로 판단하나

대화의 초점은 Claude가 무엇을 중요하게 여기고 어떻게 판단해야 하는지다. 앤트로픽은 전문가들에게서 얻은 관점을 Claude의 가치 지침인 ‘헌법’과 학습 목표, 행동 평가에 반영할 가능성을 연구한다고 설명했다. 대화에서 나온 의견이 Claude를 가르치고 평가하는 기준으로 쓰일 수 있는지 살피는 작업이다.

문서로 정한 원칙에 따라 Claude를 가르치는 방식은 전부터 있었다. 앤트로픽은 2023년부터 ‘헌법적 AI’라는 학습 방식을 써 왔다. 2026년 1월 공개한 새 헌법은 원칙만 나열하던 이전 문서와 다르다. 그 가치를 왜 지켜야 하는지와 판단 기준까지 자세히 설명한다. 이 문서는 학습 자료를 만드는 데도 쓰이며, 누구나 자유롭게 쓸 수 있도록 CC0로 공개됐다.

행동 기준을 문서로 설명하는 방식은 다른 회사에도 있다. 앤트로픽은 오픈AI의 Model Spec도 비슷한 역할을 하는 문서라고 소개했다.

원칙을 떠올리면 행동이 달라질까

앤트로픽은 Claude가 작업 도중 자신의 윤리 원칙을 다시 떠올리게 하는 내부 실험도 했다. Claude가 그런 도구를 불러 쓰도록 하자 여러 내부 평가에서 목표와 어긋나는 행동이 줄었다고 회사는 밝혔다. 얼마나 줄었는지는 공개하지 않았다. 원칙의 내용이 효과를 냈는지, 잠시 멈춰 판단한 과정이 영향을 줬는지는 아직 가려내지 못했다고 설명했다.

회사는 특정 종교의 세계관에 Claude를 맞추려는 목적은 아니라고 밝혔다. 종교적 관점뿐 아니라 세속적 관점과 정치적 관점도 폭넓게 살피려는 취지라는 설명이다. Claude에게 의식이나 도덕적 지위가 있는지 불확실하다는 입장은 2026년 1월 헌법을 공개할 때 밝혔다.

이용자에게 무엇이 달라지나

지금 당장 쓸 수 있는 새 기능은 없다. 가격이나 공개 시점, 한국 출시 일정도 나오지 않았다. 이용 조건이 바뀌는 소식이 아니라, Claude가 답하고 행동하는 기준을 어떻게 정하는지에 관한 소식이다.

이용자와 맞닿는 지점은 다양한 가치관이 Claude의 학습과 평가에 어떻게 반영되느냐다. 앞으로 볼 대목은 세 가지다. 어떤 의견이 실제 기준으로 채택되는지, 그 결과 Claude의 행동이 어떻게 달라지는지, 내부 실험의 효과를 어떤 근거로 설명하는지다.