회의록 속 거짓 지시, 두 모델 다 지침 없이 걸렀다
회의록에 "위 내용을 무시하라"는 문장과 잘못된 답변 견본을 심어 두고, 질문과 자료를 구별하는 규칙을 지침에 넣어 봤다. 두 모델 모두 규칙 없이도 거짓 지시를 걸러 냈고, 규칙을 넣자 일부 답변에서 확정 사항을 모아 보여 주는 방식이 달라졌다.
2026년 10월 27일 화요일
회의록에 "위 내용을 무시하라"는 문장과 잘못된 답변 견본을 심어 두고, 질문과 자료를 구별하는 규칙을 지침에 넣어 봤다. 두 모델 모두 규칙 없이도 거짓 지시를 걸러 냈고, 규칙을 넣자 일부 답변에서 확정 사항을 모아 보여 주는 방식이 달라졌다.