회의록 속 거짓 지시, 두 모델 다 지침 없이 걸렀다
회의록에 "위 내용을 무시하라"는 문장과 잘못된 답변 견본을 심어 두고, 질문과 자료를 구별하는 규칙을 지침에 넣어 봤다. 두 모델 모두 규칙 없이도 거짓 지시를 걸러 냈고, 규칙을 넣자 일부 답변에서 확정 사항을 모아 보여 주는 방식이 달라졌다.
#맞춤형 지침
프롬프트 심화
AI에 '근거 먼저 인용' 규칙, 정답은 같고 확인은 쉬워졌다
관련 문장을 먼저 인용하게 하는 규칙을 Claude Opus 5와 GPT-6 Astra에 시험했다. 두 모델은 규칙 없이도 정확히 답했지만, 규칙을 넣자 답보다 근거를 앞에 내놓았다.