일마다 다른 Codex 모델 쓰니 하루 비용 65% 줄었다

오픈AI가 10월 8일(현지시간) LegalOn Technologies의 Codex 운영 사례를 공개했다. LegalOn은 개발자들이 쓰는 AI 모델을 일의 종류에 따라 다르게 정하고, 부서와 개인별 사용 예산도 손봤다. 오픈AI는 이렇게 바꾼 뒤 GPT-5.5를 쓸 때보다 하루 비용이 약 65% 줄었고, 개발 속도와 품질은 그대로였다고 밝혔다.

어떤 일에 어떤 모델을 쓸까

맡길 일의 종류가 모델을 고르는 기준이다. 요건이 분명한 코드 작성과 간단한 작업, 자동화는 GPT-6 Luna에 맡긴다. 일반적인 설계와 분석, 문서 작성에는 GPT-6.1 Sol을 쓴다. 복잡한 분석과 소프트웨어 구조 설계는 GPT-6 Astra가 담당한다. 스스로 일을 처리하는 AI(에이전트) 여러 개를 조율하는 일도 Astra가 맡는다.

처음에는 이런 구분이 없었다. 개발자들이 GPT-5.5의 Fast 모드를 제한 없이 쓰도록 했다. 이후에는 가벼운 모델로 일을 시작하고, 일이 복잡해지면 상위 모델로 바꾸는 방식을 들였다. Fast 모드는 기본적으로 막고, 필요하면 개별로 요청해 쓰도록 바꿨다.

예산은 어떻게 나눴나

사용 한도를 조직과 개인 두 단위로 관리했다. 부서, 그룹, 개인별로 예산 상한을 정하고, 부서와 개인에게는 월간 사용 한도도 뒀다. 한도는 필요에 따라 조정한다. 모델을 고르는 기준에 사용량을 조절하는 장치까지 함께 붙인 셈이다.

사업 단계에 따라 배분도 달랐다. 기존 사업 부문에는 최대 약 20%의 비용 효율 개선을 요구했다. 반면 출시 초기 신규 사업에는 AI를 더 쓰도록 비교적 넉넉한 예산을 줬다. 같은 회사 안에서도 비용을 줄일 부문과 AI 사용을 늘릴 부문에 서로 다른 기준을 적용한 것이다.

65% 절감, 어떻게 나온 숫자일까

약 65%는 모델 선택, Fast 모드 제한, 예산 배분을 한꺼번에 적용한 결과다. 오픈AI는 GPT-5.5를 쓸 때와 비교한 하루 비용 추정치라고 설명했다. 개발 속도와 품질도 유지됐다고 밝혔지만, 이를 뒷받침하는 성능 시험 점수는 내놓지 않았다.

국내에서 개발 업무에 AI를 쓰는 조직이 참고할 대목은 기준을 잘게 쪼갠 방식이다. 간단한 코드 작성, 문서 작성, 복잡한 설계에 각각 다른 모델을 배정하고, 사용 한도는 부문의 사업 단계에 맞춰 조정했다.

LegalOn은 비용 절감에서 한 걸음 더 나아가려 한다. 기능 하나를 출시하는 데 들어간 AI 비용과 그 기능이 고객에게 준 가치를 연결해 측정하는 체계를 만들고 있다. 이 체계는 아직 완성되지 않았다. 줄어든 하루 비용만큼이나, 기능을 만드는 데 쓴 돈이 어떤 고객 가치로 돌아오는지가 다음 관심사다.