MoneyDJ新聞 2026-10-21 11:29:19 新聞中心 發佈
綜合陸媒報導，DeepSeek昨(20)日宣布，在先前開源一系列大模型、TileLang編譯工具及推理算子庫的基礎上，決定進一步將內部推理框架DeepInfer全面開源。DeepSeek官方表示，大模型的能力邊界由模型本身劃定，但如何以合理成本提供超大規模的模型服務，還取決於一個長期未被公眾瞭解的中間層，即推理框架。
DeepSeek表示，訓練使模型學有所成，推理則讓模型為人所用，面對如今海量的用戶調用，推理框架負責統籌調度龐大的算力集群，其效率直接決定了AI服務的算力成本與電力消耗。DeepSeek希望通過分享內部的部署經驗，說明開發者與企業組織優化大規模推理的吞吐與延遲，從而高效建構私有化及公有雲部署，降低算力成本、減少能源消耗，讓智慧以更低的價格觸達更廣泛的人群，實現真正的大模型普惠。
DeepSeek指出，基於DeepInfer，已實現DeepSeek V4.1 Flash高吞吐、低延遲的大規模推理服務。未來，DeepSeek新模型的推理代碼及後續優化也將持續更新。華創證券表示，開源模型與Agent工具鏈的持續完善，有望降低應用開發成本，推動AI Coding向遊戲開發、3D內容製作、企業軟體及自動化工作流等場景擴展，具備開發者入口和應用生態的平台有望優先受益。
