GitHub AI 開源專案地圖

專為 Apple Silicon 設計的 LLM 推理伺服器，支援連續批次處理和 SSD 緩存，可透過 macOS 選單列輕鬆管理。

一套生產就緒的 SDK，讓開發者能在 iOS、Android、Web 等平台上本地運行 LLM、語音和圖像生成 AI。

MNN 為阿里巴巴推出的輕量級推理引擎，專為邊緣裝置提供高效能的 LLM 推理與 AI 應用支援。