오픈AI, AI 행동 지침 개정…다섯 가치로 다시 짰다

오픈AI가 10월 29일(현지시간) AI 모델의 행동 기준을 담은 공개 문서 ‘Model Spec’ 개정판을 내놓았다. Model Spec은 오픈AI의 AI가 어떻게 판단하고 답해야 하는지를 정리한 문서다. 개정판은 다섯 가치를 지침의 중심에 놓았다. 인간의 의도에 충실하기, 피해 최소화, 정직성과 투명성, 사용자가 스스로 이해하고 선택하고 행동하도록 돕기, 배려다.

AI는 내 뜻을 어떻게 파악하나

개정판은 대화의 흐름과 기억까지 함께 살피도록 기준을 다듬었다. 요청 한 줄만 보지 말고, 앞선 대화와 기억해 둔 내용을 함께 고려하라는 것이다. 지시가 서로 충돌할 때 무엇을 먼저 따를지 정하는 기준도 보완했다.

사용자의 주체성과 사회적 규범에 관한 기본 지침은 새로 담았다. 사용자가 스스로 판단하고 선택하는 일을 AI가 어떻게 도울지 행동 기준에 담았다. 정직성과 투명성, 배려도 같은 틀에 넣었다. 사용자와의 관계에서 지켜야 할 가치를 문서 중심에 둔 구성이다.

요청을 처리하다 함께 생기는 영향을 관리하고 알리는 지침도 보강했다. 이용자에게는 요청의 결과뿐 아니라 그 과정에서 무엇이 함께 벌어지는지도 중요하다. 개정판은 그런 영향을 관리하는 일과 사용자에게 알리는 일을 모두 지침에 넣었다.

사용자가 바꿀 수 있는 기준은 어디까지인가

사람과 사회를 보호하는 데 필요한 확고한 경계는 둔다. 오픈AI는 그 밖의 지침은 대체로 사용자나 개발자가 바꿀 수 있는 기본값이라고 설명했다. 사용자가 원하는 방식이나 개발자가 정한 서비스 목적에 맞춰 조정할 여지를 둔 것이다.

세세한 문체 지침은 대부분 없앴다. 문서 구성도 다섯 가치를 축으로 다시 짰다. 답변의 표현을 일일이 정하는 규칙보다, 사용자의 뜻과 안전, 사용자의 판단을 고려하는 행동 기준에 무게를 옮긴 셈이다.

지금 쓰는 모델에도 반영됐나

오픈AI는 현재 모델의 행동이 개정판의 목표를 아직 완전히 구현하지는 못했다고 밝혔다. Model Spec은 모델이 지향해야 할 행동을 설명하는 문서이기 때문이다.

결국 실제 이용에서 확인할 지점은 두 가지다. AI가 대화 맥락을 얼마나 잘 살피는지, 그리고 자기 행동이 낳는 영향을 얼마나 충실히 알려 주는지다.