更新于 2026/05/21 16:32
llama.cpp b9266 修复 SWA 模型空缓冲区崩溃
llama.cpp 发布 b9266 版本,修复了 llm_graph_input_attn_kv_iswa 在纯 SWA(Sliding Window Attention)模型上的空缓冲区崩溃。当模型不含非 SWA 层时,base KV cache 无张量分配,后续 set_input 调用触发 GGML_ASSERT 断言失败。
修复方案是在 base 和 SWA 两侧的 set_input 调用前增加空指针与 buffer 有效性检查,复用已有模式。同时修复 can_reuse() 中对未分配张量的 ne[0] 和 kq_mask 检查导致的空指针解引用。该补丁对 llama.cpp 的混合注意力(Hybrid SWA + Full Attention)推理路径的鲁棒性有直接提升。
速读
llama.cpp b9266 修复 SWA 模型空缓冲区崩溃
相关源 (1)
- llama.cpp Releases · 2026/5/21 16:32:38https://github.com/ggml-org/llama.cpp/releases/tag/b9266