llama.cpp b11729 공개, Qwen3 변환 때 설정 자동 인식

ggml-org가 10월 19일 llama.cpp 새 버전 b11729를 공개했다. llama.cpp는 개인 컴퓨터에서 AI 모델을 직접 돌릴 때 쓰는 프로그램이다. 이번 버전은 Qwen3 계열 모델을 다루는 방식을 손봤다. 문장을 앞뒤 양쪽에서 함께 보는 방식(양방향 어텐션)과 dense_2 출력 투영 지원이 반영됐다. 모델을 llama.cpp에서 쓸 수 있는 형식으로 바꿀 때, 이 양방향 방식을 쓰는지 설정을 읽어 오도록 하는 수정도 함께 들어갔다.

변경 기록에는 모델 변환 코드 업데이트가 같이 올라왔다. 개발 보조에는 Grok, 공동 작성자에는 Sigbjørn Skjæret가 기재됐다. 배포 항목에는 애플 실리콘과 인텔 기반 macOS용, iOS용 파일이 나열됐다. 애플 실리콘용 가운데 KleidiAI를 켠 구성은 비활성화로 표시됐다.

커뮤니티에는 별개 작업인 qwen3-4b-deslop-v4도 소개됐다. 공개자는 Qwen3-4B를 MacBook Air에서 답변 161개로 추가 학습했다고 설명했다. 따로 지시문을 주지 않아도 AI 특유의 문체가 줄어든다고 밝혔다. Ollama를 쓰면 자신의 기기에서 실행할 수 있다고 덧붙였다.

이용자가 확인할 점은 두 가지다. 자신이 쓰는 모델에 이번 수정이 필요한지, 그리고 문체를 손본 모델이 원하는 글을 쓰는 데 실제로 도움이 되는지다.