摘要

llama.cpp 在 GitHub Releases 发布了 b10066 版本。发布说明称,OpenCL 现在可从二进制内核库加载并使用 kernel_gemm_moe_q6_k_f32_ns

该版本列出了适用于 macOS Apple Silicon、macOS Intel、iOS XCFramework,以及 Ubuntu x64、arm64、s390x、Vulkan、ROCm 和 OpenVINO 等目标的预编译构建。

这一更新与使用 OpenCL 后端及相关 MoE/GEMM 内核的 llama.cpp 用户有关;其他具体性能或兼容性影响未在所给资料中说明。

原始来源:GitHub Releases