MoneyDJ新聞 2026-10-27 10:50:17 新聞中心 發佈
綜合陸媒報導，中國信息通信研究院(中國信通院)近日發布《大模型詞元(Token)服務性能監測報告(2026年)》顯示，隨著大模型技術的迅速更迭，Token服務成為從技術走向應用的關鍵點，中國日均詞元調用量持續攀升，今(2026)年6月中國國內詞元日均消耗量約500兆，為去年12月的近4倍。
報告指出，產業中越來越多的MaaS(Model as a Service，模型即服務)平台廠商透過公有雲API方式供給大模型詞元服務；為有效衡量服務性能，報告基於今年1-8月的監測數據，圍繞各平台詞元服務調用成功率、吞吐速度等方面展開分析，對比原廠大模型官方平台，以及DeepSeek、Qwen、GLM、Kimi四款開源模型在第三方平台上的性能差異，進一步分析影響詞元服務性能的關鍵因素。
分析指出，中國國內詞元服務每秒輸送量較去年翻倍，仍低於海外；詞元服務時延有所增加，中國國內外趨勢一致；今年詞元服務價格明顯回升；模型上下文長度不斷向百萬級長度擴展；開源模型詞元服務性能提升顯著，同一模型在不同平台性能波動較大。
整體來看，中國原廠模型在調用成功率、輸出速度與回應時延等關鍵性能指標上表現穩健，且呈現出螺旋上升趨勢。隨著模型參數量、上下文長度的增加，模型時延有較明顯的提升，但各平台透過優化推理架構與調度策略，吞吐的提升有效緩解了性能壓力。
開源模型在第三方MaaS平台上的性能優化尤為明顯，部分平台的性能已超過官方。然而，開源模型在不同平台的性能差異亦反映出平台服務能力與資源配置的不均衡，行業整體大模型服務性能仍有較大提升空間。
