← 返回信息流
更新于 2026/05/21 16:32

llama.cpp b9266 修复 SWA 模型空缓冲区崩溃

llama.cpp 发布 b9266 版本,修复了 llm_graph_input_attn_kv_iswa 在纯 SWA(Sliding Window Attention)模型上的空缓冲区崩溃。当模型不含非 SWA 层时,base KV cache 无张量分配,后续 set_input 调用触发 GGML_ASSERT 断言失败。

修复方案是在 base 和 SWA 两侧的 set_input 调用前增加空指针与 buffer 有效性检查,复用已有模式。同时修复 can_reuse() 中对未分配张量的 ne[0] 和 kq_mask 检查导致的空指针解引用。该补丁对 llama.cpp 的混合注意力(Hybrid SWA + Full Attention)推理路径的鲁棒性有直接提升。

速读

llama.cpp b9266 修复 SWA 模型空缓冲区崩溃

相关源 (1)