← 返回信息流
更新于 2026/05/23 01:49

llama.cpp b9294 发布,Adreno GPU MoE 内核泛化至 M 系列

llama.cpp 发布 b9294 版本,核心变更是将 Adreno GPU 上的 MoE 内核从特定设备泛化到 M 系列芯片,提升跨平台兼容性。该版本延续多后端分发策略,提供 macOS(含 KleidiAI 加速版)、Linux(CPU/Vulkan/ROCm/OpenVINO/SYCL)、Windows、Android 及 iOS XCFramework 等多种构建产物。

对在移动端和边缘设备上运行 MoE 架构大模型的开发者而言,Adreno 内核泛化意味着更广的硬件覆盖和更一致的推理体验,无需为不同 Adreno 代际单独适配。

速读

llama.cpp b9294 将 Adreno MoE 内核泛化至 M 系列 GPU

相关源 (1)