오픈AI, 안전 연구원 3명 해고 유지…외부 점검 범위가 쟁점

오픈AI가 안전 연구원 3명의 해고 결정을 유지한다고 10월 9일 밝혔다. 전날 당사자들이 공개서한을 내자 회사가 공식 계정으로 답한 것이다. 해고 이유를 두고 양측 설명이 엇갈리는 가운데, 외부 연구자가 AI의 안전성을 어디까지 살펴볼 수 있느냐가 쟁점으로 떠올랐다.

연구원 3명은 왜 해고됐나

해고된 연구원은 재스민 왕, 토메크 코르바크, 미키타 발레스니다. 세 사람은 AI가 의도대로 안전하게 움직이게 하는 연구를 맡았고, 지난주 오픈AI와 고용 관계가 끝났다. 오픈AI는 내부 조사에서 민감한 정보 취급 규정 위반과 중대한 신뢰 훼손을 확인했다고 주장했다. 안전 문제를 제기하거나 공개적으로 발언한 탓에 해고한 것은 아니라고도 했다.

연구원들은 당시 업무 관행과 자신들에게 주어진 권한 안에서 행동했다고 반박했다. 이번 일이 외부 기관과의 협력이나 내부 비판을 위축시킬 수 있다고도 우려했다. 오픈AI는 공개서한에 담긴 내용 외에도 문제가 있었다고 밝혔지만, 조사 자료나 구체적인 위반 행위는 공개하지 않았다.

외부 연구자는 어디까지 볼 수 있나

연구원들의 요구는 외부에서 안전성을 점검할 여건을 보장해 달라는 데 모였다. 외부 안전 평가자가 모델에 접근할 수 있게 하고, 협력 절차를 명확히 하라는 것이다. AI가 답을 만드는 과정을 들여다볼 수 있는 상태를 유지해야 한다는 요구도 담았다.

오픈AI는 앞서 외부 기관의 독립 평가를 지원하겠다는 원칙을 발표했다. 외부 기관이 모델의 학습부터 평가, 배포까지 깊이 들여다보는 방식이다. 이번 입장에서도 외부 안전 평가자와 계약을 마무리하고 있으며, 몇 주 안에 세부 사항을 발표하겠다고 밝혔다. 앞서 내놓은 평가 원칙이 실제 계약과 절차로 옮겨지는지가 다음 확인 지점이다.

AI가 답을 만든 기록, 왜 중요한가

AI가 답을 만들기까지 남기는 기록은 안전 문제를 찾는 단서가 된다. 연구자들은 이 기록을 살펴 부적절한 행동의 징후를 찾는다. 오픈AI도 이런 감시 방식이 유용하다고 설명해 왔다. 다만 학습 방식에 따라 그 과정을 살펴보기 어려워질 수 있다고 덧붙였다. 연구원들이 감시 가능성을 유지하라고 요구한 것도 이 대목과 맞물린다.

AI를 쓰는 사람 입장에서 걸리는 문제는 하나다. 자신이 쓰는 모델의 안전성을 외부 기관이 어디까지 점검할 수 있느냐다. 연구원들이 요구한 접근 보장과 오픈AI가 예고한 외부 평가 계약은 모두 이 점검 여건을 다룬다. 오픈AI의 후속 발표에서 평가자의 접근 범위와 협력 절차가 어떻게 정해질지가 관건이다. 해고의 타당성을 가리려면 회사가 주장하는 규정 위반과 연구원들이 말하는 업무 권한을 맞춰 볼 근거가 더 나와야 한다.