更新于 2026/05/18 17:47
llama.cpp b9213 发布,新增预归一化嵌入掩码标志位
llama.cpp 发布 b9213 版本,核心变更为初始化预归一化(pre-norm)嵌入掩码标志位(PR #23256)。该标志位用于控制 embedding 层在 pre-norm 架构下的 mask 行为,影响模型推理时对输入序列的掩码处理逻辑。
本次为小版本迭代,无破坏性变更,同步更新了 macOS(含 KleidiAI 加速版)、Linux(CPU/Vulkan/ROCm/OpenVINO/SYCL)、Windows、Android 及 iOS XCFramework 等多平台二进制。
速读
llama.cpp b9213 新增 pre-norm embedding mask 标志位
相关源 (1)
- llama.cpp Releases · 2026/5/18 17:47:28https://github.com/ggml-org/llama.cpp/releases/tag/b9213