← 返回信息流
更新于 2026/05/22 20:54

llama.cpp b9286 发布,ZenDNN 后端新增 Q8_0 量化支持

llama.cpp 发布 b9286 版本,核心变化是 ggml-zendnn 后端新增 Q8_0 量化支持,并同步了最新 ZenDNN 库。Q8_0 是 8-bit 块级量化格式,在 AMD CPU 上通过 ZenDNN 库获得硬件加速,可降低推理内存占用并提升吞吐。

该版本同时提供了 macOS、Linux(含 Vulkan/ROCm/OpenVINO/SYCL)、Android 等多平台二进制包,延续了 llama.cpp 广泛硬件适配的风格。

速读

llama.cpp b9286 为 ZenDNN 后端加入 Q8_0 量化支持

相关源 (1)