華為雲、螞蟻數科等企業參與中國信通院Token服務攀登計劃

媒體報導指出，中國信息通信研究院（中國信通院）近日聯合華為雲、螞蟻數科等10家企業，共同啟動了「Token 服務能力攀登計劃」。該計劃旨在推動企業級Token服務的性能提升和標準化，以適應當前大語言模型應用快速發展的需求。Token服務是AI模型處理輸入和輸出的基本單元，其效率直接影響到用戶體驗和服務成本。根據報導，首批參與企業均已達到計劃設定的性能基線，具體指標包括每秒輸出Token數不低於55 Token/s，首Token時延不超過0.9秒，以及調用成功率達到99.9%。這些標準的制定，不僅為企業提供了明確的優化方向，也有助於形成行業共識，促進Token服務技術的整體進步。此舉被視為中國在AI基礎設施建設上的關鍵一步，通過企業合作和標準化，有望加速大模型技術的商業化應用，並推動國內AI生態系統的健康發展。計劃的啟動展示了中國科技界在應對AI時代挑戰時的積極態度和協作精神。