返回事件流

Vulkan 管線編譯鎖機制改進

GitHub 發布顯示,llama.cpp 項目在 b9458 版本中針對 Vulkan 圖形 API 的管線編譯過程進行了重要優化。原先的設計在編譯管線時持有設備互斥鎖,這可能導致其他線程被阻塞,影響並行處理效率。此次改動後,僅在遍歷和初始化管線時持有鎖,而在實際編譯管線的過程中釋放鎖,允許多個線程同時進行編譯工作。這項優化減少了線程間的鎖競爭,有助於提升在多核 CPU 或 GPU 上的性能表現。此外,版本發布中還提供了多個平台的預編譯二進制檔案,包括 macOS Apple Silicon 和 Intel 架構、Linux 的 Ubuntu 和 openEuler 版本、Windows 的 CPU、CUDA、Vulkan 和 HIP 支持,以及 iOS 和 Android 移動端。開發者可以根據需求下載對應版本進行測試,社群對此改進表示關注,認為這將改善 Vulkan 後端的使用體驗,特別是在高並發場景下的表現。

來源

來源:GitHub Release