← 返回信息流
更新于 2026/07/13 09:06

llama.cpp b9986 修复推理标签泄漏与 Nemotron 回归

llama.cpp 发布 b9986 版本,主要修复 chat 模块中推理标签(reasoning tag)泄漏问题。当历史轮次推断的 <think> 标签携带尾部空白(如 <think> )而 force-open 模板预填充裸 <think> 时,前缀分割逻辑未能正确匹配,导致推理内容泄漏到用户可见输出中。

本次提交同时修复了 Nemotron Nano v2 的回归问题。修复方案通过修剪用于前缀分割的标签,使裸预填充能被正确匹配,避免被吞入普通内容。该问题影响所有使用 <think> 模板的推理模型。

速读

llama.cpp 修复推理标签因空白字符导致的内容泄漏

相关源 (1)