MoneyDJ新聞 2026-07-17 09:43:40 張以忠 發佈
過去企業導入AI時,市場關注焦點多半放在模型規模與GPU算力,認為只要擁有更強大的硬體,就能獲得更好的AI效能。然而,隨著大型語言模型逐漸成熟,AI應用真正的瓶頸已從硬體規格,轉向如何有效管理運算資源。供應鏈指出,未來企業競爭的關鍵,不再只是比拼算力,而是如何透過智慧化的Router機制,決定哪些工作交由地端AI處理、哪些任務再送往雲端大型模型執行,在效能、成本與資料安全之間取得最佳平衡。
PC業者指出,大型語言模型雖然能力強大,但企業若所有工作都仰賴雲端運算,不僅需要持續支付Token費用,還可能面臨資料隱私與法規遵循等問題。尤其金融、醫療、製造及政府等產業,許多敏感資料並不適合直接上傳至公有雲,因此「雲地混合」逐漸成為企業導入AI的主流架構。
在這樣的趨勢下,地端AI PC的重要性正快速提升。供應鏈表示,新一代AI PC已不只是搭載NPU的個人電腦,而是能夠在本機執行小型語言模型、執行Agent AI等推論工作,將大量日常AI任務留在地端完成,再把真正需要大量算力的複雜推論交由雲端大型模型負責,形成分工合作的模式。
而串聯兩者的核心,就是Router機制。供應鏈表示,Router就像AI系統的交通指揮中心,能夠依照工作內容、模型能力、資料敏感程度及延遲需求,自動判斷任務應由地端或雲端處理。例如企業內部文件搜尋、會議紀錄整理、程式碼輔助等工作,可優先交由地端AI完成;涉及跨領域知識、複雜推理或大型模型能力時,再切換至雲端服務。Router設計愈成熟,企業就愈能降低雲端Token支出,同時兼顧回應速度與資料安全。
PC供應鏈表示,未來AI PC的價值,將不再只是CPU、GPU或NPU的規格競賽,而是能否在本地完成大部分日常推論,再與雲端大型模型協同運作,不僅減輕資料中心負擔,也讓AI使用成本更具經濟效益。
就輝達RTX Spark平台而言,首波合作品牌包括微星(2377)、華碩(2357)、戴爾、惠普、聯想及微軟,後續包括宏碁(2353)、技嘉(2376)等也將加入供應行列。