MoneyDJ新聞 2026-08-11 11:46:39 黃立安 發佈
輝達NVIDIA網路事業資深副總裁Gilad Shainer今(11)日在2026年開放運算計畫亞太峰會(2026 OCP APAC Summit)表示，隨AI Factory持續擴大，Scale-out網路的功耗占比已逐步逼近運算功耗的10%，因此NVIDIA正導入CPO架構，CPO目前已進入量產，並與包括台灣在內的生態系夥伴共同推進中。
Shainer指出，AI Factory本質上就是一座為分散式運算打造的超級電腦，網路基礎設施將直接決定整座AI Factory的運算效率。隨著AI系統規模持續擴張，單一網路已無法滿足需求，必須同時整合Scale-up、Scale-out及跨資料中心Scale-across等不同網路架構。
在Scale-up部分，NVIDIA透過NVLink將大量Compute ASIC連接在一起，使整個機櫃可以如同一顆大型GPU運作。Shainer強調，NVLink不只是單純的網路，而是一套Computing Infrastructure，不僅提供高頻寬與極低延遲，也具備運算能力，並隨GPU世代演進持續更新，以支援新的AI工作負載。
完成Rack-scale GPU後，AI系統還必須進一步Scale-out，將數十萬顆GPU連接起來共同運作。NVIDIA為此導入Spectrum-X Ethernet，結合NIC、交換器及軟體，降低網路中的Jitter(時脈抖動)，並提升大規模AI工作負載的效能一致性。
Shainer指出，目前Scale-out網路的功耗已逐漸逼近運算功耗的10%，也因此NVIDIA正轉向CPO，透過將光引擎與網路設備整合，降低Scale-out網路功耗，進一步提升AI Factory的運算效率。
Shainer表示，NVIDIA CPO已進入量產階段，相關架構可減少零組件數量，使基礎設施功耗最高降低5倍，同時將AI Factory的可靠性提升10倍。
Shainer在談及CPO開發時也提到，NVIDIA與龐大的生態系合作夥伴共同推進相關技術，其中許多合作夥伴就位於台灣，合作涵蓋封裝、光引擎、雷射光源及光纖等環節。他並指出，透過高功率雷射光源，可進一步減少系統所需的雷射數量，NVIDIA也將持續與生態系夥伴共同推進。
