更新于 2026/07/13 09:06
llama.cpp b9986 修复推理标签泄漏与 Nemotron 回归
llama.cpp 发布 b9986 版本,主要修复 chat 模块中推理标签(reasoning tag)泄漏问题。当历史轮次推断的 <think> 标签携带尾部空白(如 <think> )而 force-open 模板预填充裸 <think> 时,前缀分割逻辑未能正确匹配,导致推理内容泄漏到用户可见输出中。
本次提交同时修复了 Nemotron Nano v2 的回归问题。修复方案通过修剪用于前缀分割的标签,使裸预填充能被正确匹配,避免被吞入普通内容。该问题影响所有使用 <think> 模板的推理模型。
速读
llama.cpp 修复推理标签因空白字符导致的内容泄漏
相关源 (1)
- llama.cpp Releases · 2026/7/13 09:06:33https://github.com/ggml-org/llama.cpp/releases/tag/b9986