Promptating
English

2026년 11월 11일 수요일

모델 비교

논리 퀴즈 3문제, 가벼운 AI도 모두 맞혔다

여섯 모델이 세 문제를 모두 맞혔다. 이제 고를 기준은 답이 오는 속도와 풀이 설명의 필요 여부다.

정답이 하나로 정해진 논리 퀴즈 세 문제를 AI 여섯 모델에 풀게 했다. 여섯 모델 모두 세 문제를 맞혔다. 가벼운 모델도 상위 모델과 정답 수가 같았다. 답이 가장 빨리 온 쪽은 GPT-6 Astra였고, 채점 점수가 가장 높았던 쪽은 풀이 과정을 보여준 Claude Opus 5.5였다.

가벼운 AI로 충분할까

답이 딱 떨어지는 문제라면 어떤 AI가 끝까지 맞힐까. 나이 계산, 도착 시각, 달력처럼 일상에서 만나는 계산에서는 가격보다 정확성이 먼저다. 그래서 가벼운 모델로 충분한지, 비싼 상위 모델을 고를 이유가 있는지를 세 문제로 따져봤다.

이렇게 시험했다

성능이 높은 쪽으로는 앤트로픽 Claude Opus 5.5와 오픈AI GPT-6 Astra를 골랐다. xAI 모델로는 Grok 4.5를 썼다. xAI의 현행 주력 모델은 9월 21일 공개된 Grok 4.7이다. 가벼운 모델로는 앤트로픽 Claude Haiku 4.5, 오픈AI GPT-6 Luna, 구글 Gemini 3.5 Flash를 비교했다. 이 가운데 Gemini 3.5 Flash와 Grok 4.5는 GitHub Copilot으로 돌렸다. 실행 경로가 달라 응답 속도를 그대로 견주기는 어렵다.

시험일은 2026년 9월 24일이다. 모든 모델에 같은 지시문(AI에게 주는 지시문, 프롬프트)을 넣고 기본 설정으로 한 번씩 실행했다. 채점은 Claude Opus 5와 GPT-6 Sol이 맡았다. 두 모델은 어느 AI가 쓴 답인지 모르는 상태에서 10점 만점으로 점수를 매겼다. 둘 다 맞다고 본 답만 정답으로 인정했고, 표기가 달라도 뜻이 같으면 정답으로 처리했다.

응답 시간은 도구를 켜고 연결하는 데 걸린 준비 시간을 뺀 값이다. 출력 속도는 답변 글자 수를 이 시간으로 나눠 구했다. 따라서 아래 숫자는 사용자가 실제로 기다린 전체 시간과는 다르다.

문제 1: 딸은 지금 몇 살일까

문장에 숨은 나이 차이와 미래 조건을 식으로 바꿔 푸는지 보는 문제다.

엄마는 딸보다 28살 많다. 5년 뒤에는 엄마 나이가 딸 나이의 3배가 된다. 지금 딸은 몇 살인가? 마지막 줄에 답만.

여섯 모델 모두 딸의 나이를 9살로 맞혔다. Claude Opus 5.5와 Claude Haiku 4.5는 식을 세우고 계산 과정을 보여줬다. 특히 Claude Opus 5.5는 5년 뒤 두 사람의 나이를 넣어 조건을 다시 확인했다. 나머지 네 모델은 ‘9살’ 또는 ‘9’로 답만 적었다.

갈린 지점은 정답이 아니라 설명을 보는 눈이었다. 채점을 맡은 Claude Opus 5는 풀이 없는 답에 8점을 줬다. 반면 GPT-6 Sol은 같은 답에 10점을 줬다. 마지막 줄에 답만 쓰라는 요구가 풀이를 아예 금지한 것은 아니었다. 설명이 쓸모 있는지, 간결한지 중 무엇을 더 치느냐가 점수를 갈랐다. 점수만 보고 정확성을 비교하면 안 되는 사례다.

문제 1에 대한 모델별 실제 답 (2026년 9월 24일 실행, 앞부분만)

문제 1에 대한 모델별 실제 답 (2026년 9월 24일 실행, 앞부분만)

문제 2: 기차는 몇 시에 도착할까

분을 더한 값이 60을 넘을 때 시간 단위로 올려 계산하는지 확인했다.

기차가 오전 9시 40분에 출발해서 2시간 55분 걸린다. 도착 시각은? 마지막 줄에 답만.

이번에도 여섯 모델 모두 12시 35분이라는 정답에 닿았다. Claude Opus 5.5는 두 시간을 먼저 더한 뒤 남은 55분을 계산했다. 다른 모델은 도착 시각만 적었다. Grok 4.5의 ‘12:35’와 Claude Haiku 4.5의 ‘12시 35분’도 정답으로 인정했다.

오후 표시가 없는 두 답을 두고는 판단이 엇갈렸다. Claude Opus 5는 뜻이 분명하지 않다며 8점을 줬다. GPT-6 Sol은 정확하고 간결하다며 10점을 줬다. 정답 판정은 같아도 표현을 보는 기준은 달랐던 셈이다. 응답 시간은 GPT-6 Astra가 0.1초, Gemini 3.5 Flash가 0.4초였다. GPT-6 Luna는 앞선 나이 문제에서 0.1초였지만 이번에는 2.4초가 걸렸다.

문제 2에 대한 모델별 실제 답 (2026년 9월 24일 실행, 앞부분만)

문제 2에 대한 모델별 실제 답 (2026년 9월 24일 실행, 앞부분만)

문제 3: 크리스마스는 무슨 요일일까

기준 날짜부터 지난 날수를 세어 요일로 바꾸는 계산을 시험했다.

2026년 9월 24일은 목요일이다. 2026년 크리스마스(12월 25일)는 무슨 요일인가? 마지막 줄에 답만.

여섯 모델의 답은 모두 ‘금요일’이었다. Claude Opus 5.5와 Claude Haiku 4.5는 두 날짜 사이가 92일이라는 점, 13주에서 하루가 더 지난다는 점을 함께 적었다. 나머지 네 모델은 요일만 썼다. 이 문제에서는 여섯 모델의 평균 점수가 모두 9.5점으로 같았다.

점수는 같았지만 기다린 시간은 달랐다. GPT-6 Astra와 GPT-6 Luna는 각각 0.7초, Claude Opus 5.5는 2.0초 만에 답했다. Claude Haiku 4.5는 11.8초로 가장 오래 걸렸다. 가볍다고 해서 반드시 빠른 것은 아니라는 뜻이다.

문제 3에 대한 모델별 실제 답 (2026년 9월 24일 실행, 앞부분만)

문제 3에 대한 모델별 실제 답 (2026년 9월 24일 실행, 앞부분만)

이번 라운드 성적표

모델평균 점수정답평균 응답 시간출력 속도(초당 글자)
Claude Opus 5.59.5점3/31.6초78자
Claude Haiku 4.59.2점3/35.5초18자
GPT-6 Astra9.3점3/30.6초35자
GPT-6 Luna9.3점3/31.1초8자
Gemini 3.5 Flash9.3점3/31.9초9자
Grok 4.59.2점3/33.6초1자

응답 시간은 준비 시간을 뺀 값이고, 실행 경로가 달라 참고용이다.

초당 글자 수는 답을 빨리 받는 것과는 다른 이야기다. 설명을 길게 쓴 Claude Opus 5.5가 초당 글자 수는 가장 많았다. 그래도 답이 끝날 때까지 걸린 평균 시간은 GPT-6 Astra가 더 짧았다. 한두 단어로 끝나는 답은 초당 글자 수가 낮게 나오기 때문이다.

그래서 뭘 쓰면 될까

이 정도 짧은 계산이라면 가벼운 모델로 충분했다. GPT-6 Luna, Gemini 3.5 Flash, Claude Haiku 4.5 모두 세 문제를 맞혔다.

답을 빨리 받고 싶다면 이번 시험에서 평균 0.6초를 기록한 GPT-6 Astra가 먼저 눈에 들어온다. 가벼운 모델 중에서는 평균 1.1초인 GPT-6 Luna가 가장 빨랐다.

풀이를 직접 따라가며 확인하고 싶다면 Claude Opus 5.5를 고를 만하다. 세 문제 모두 계산 과정을 보여주면서 평균 1.6초에 답했다. 성능이 높은 모델이라고 더 오래 기다리게 하지는 않았다. 다만 정답 수만 놓고 보면 가벼운 모델보다 나은 점은 없었다.

지금까지 누적 순위

10개 라운드의 평균 점수 순으로 정리했다. 정답 수는 정답 판정을 한 18문제 기준이다.

순위모델평균 점수정답평균 응답 시간
1GPT-6 Astra9.3점18/182.6초
2Claude Opus 5.58.7점18/182.3초
3Gemini 3.5 Flash8.6점18/182.7초
4Grok 4.58.5점18/183.8초
5GPT-6 Luna8.3점16/181.2초
6Claude Haiku 4.57.1점18/185.1초

누적 성적에서는 GPT-6 Luna만 16문제를 맞혔고, 나머지 다섯 모델은 18문제를 모두 맞혔다. 이번 라운드에서 전원이 정답을 냈다고 해서, 어떤 문제에서도 정확성이 같다고 보기는 어렵다.

이번 비교의 한계

모델마다 한 번씩만 돌렸고 문제도 세 개뿐이다. AI가 매긴 점수에는 설명을 좋아하는지, 간결함을 좋아하는지가 섞여 있어 참고 값으로 봐야 한다. 이번 결과가 말해주는 것은 하나다. 짧은 논리 계산에서는 가벼운 모델도 모두 정답을 냈다는 점이다. 모델을 고를 때는 필요한 설명의 양과 실제로 기다리는 시간을 함께 봐야 한다. 문제를 더 늘리고 여러 번 돌려도 같은 결과가 나오는지는 따로 확인할 일이다.

편집 원칙

모델 비교논리 퀴즈오픈AI앤트로픽Gemini 3.5 Flash