返回事件流

llama.cpp 發佈 b9444 版本

在 GitHub 平台上,ggml-org 的 llama.cpp 項目正式發布了 b9444 版本。此次更新中,伺服器端新增了對 If-None-Match weak ETags 的處理能力,這項改進有助於優化 HTTP 緩存機制,提升伺服器性能。同時,項目提供了廣泛的跨平台二進制檔,支援多種作業系統和硬體架構,包括 macOS 的 Apple Silicon 和 Intel 版本、iOS 的 XCFramework、Linux 的 Ubuntu 和 openEuler 發行版、Android 的 arm64 版本,以及 Windows 的 CPU、CUDA 12/13、Vulkan、HIP 等版本。部分平台的支援狀態為已禁用,例如某些 SYCL 和 KleidiAI 功能,這反映了項目在持續擴展兼容性的同時,也注重穩定性和效能。此次發佈展示了 llama.cpp 作為開源大型語言模型工具的重要更新,為開發者和研究人員提供了更靈活的部署選項。

來源

來源:GitHub Release