MoneyDJ新聞 2026-09-24 11:02:57 周佩宇 發佈
Meta近期推出Agentic AI產品Muse,再度推升市場對AI Agent的關注。隨AI從過去單次問答的生成式AI,進一步朝可自主執行多步驟任務的Agentic AI發展,記憶體需求也從GPU端的HBM向伺服器系統端擴散。市調機構預估,2026年至2028年AI伺服器DRAM(含SOCAMM)位元需求年複合成長率(CAGR)達92%,甚至高於HBM的63%,非HBM伺服器DRAM亦達37%,相較PC、手機DRAM同期需求下滑3%,成長動能明顯分化。 台廠包括南亞科(2408)、華邦電(2344)、群聯(8299)等業者,及記憶體模組廠,後續伺服器相關需求變化值得關注。
業界指出,過去生成式AI記憶體需求焦點多集中於GPU及HBM,但Agentic AI的運作方式有所不同。傳統聊天機器人主要依照使用者指令進行單次或數輪推理,AI Agent則需要持續拆解任務、呼叫不同工具及執行多步驟工作流,過程中除了GPU推理,也會增加CPU運算、系統記憶體及資料存取需求。
透過雲端虛擬環境讓AI Agent執行實際任務,使市場開始關注,當Agent從單純生成內容走向長時間工作,伺服器對一般DRAM的需求增量可能同步擴大。換言之,AI基礎建設擴張帶來的記憶體需求,已不僅集中在AI加速器旁的高頻寬記憶體,CPU及系統端所使用的DRAM同樣進入快速成長期。
需求增加之際,DRAM供給端仍面臨HBM持續排擠產能的情況。對一般伺服器DRAM而言,一方面,AI伺服器數量增加,加上Agentic AI帶動CPU及系統端記憶體需求提升;另一方面,記憶體原廠為滿足HBM需求,持續將新增晶圓產能向HBM傾斜,使一般DRAM可取得的產能增量受到限制。法人預估,HBM位元需求占整體DRAM比重將由2025年的4%一路提高至2028年的12%,也將持續牽動DRAM產能配置。
市場人士認為,Agentic AI若逐步由少數應用擴展至企業端及一般使用者,記憶體產業觀察重點也將從過去「單顆AI晶片搭載多少HBM」,進一步擴大至整台AI伺服器所需的系統記憶體容量。尤其AI Server DRAM需求增速已高於HBM,在HBM持續吸收晶圓產能下,Server DRAM供需及產品組合變化,將成為下一階段AI記憶體市場的重要觀察指標。
不只DRAM端,群聯今年也持續強調,Agentic AI需要更大的模型、更長時間的工作階段及持續保存工作狀態,若全部仰賴DRAM或GPU記憶體,硬體成本將快速提高,因此公司透過aiDAPTIV+技術,將NAND Flash納入AI記憶體架構,在GPU記憶體、系統DRAM之外增加容量更大、成本較低的Flash層。
群聯透過NAND作為DRAM的延伸空間,將暫時不需運算的模型資料移至SSD,需要時再快速載入,藉此降低對高成本DRAM容量的依賴。針對Agentic AI長時間工作所累積的KV Cache,亦可將暫時用不到的tokens保存至NAND,待後續prompt需要時重新調用,減少重複運算,測試推論速度最高可提升10倍。