MoneyDJ新聞 2026-08-27 11:07:23 新聞中心 發佈
AMD指出，AI運算需求正快速成長，對資料中心基礎設施的要求也隨之提升。要滿足此需求，必須全方位進行創新：CPU、GPU、網路技術、軟體、電力與散熱技術皆需在機櫃與資料中心層級高效協同運作，同時提升能源效率有助於在不增加功耗的前提下，提供更強大的AI效能、改善整體擁有成本(TCO)，協助客戶加速擴展規模。
AMD資深副總裁暨院士Sam Naffziger表示：「下一波AI效率的提升，將取決於運算晶片、記憶體、互連技術、軟體與機櫃級系統設計之間更緊密的協同最佳化。我們預估截至2026年實現4倍的效率提升，充分展現我們整體策略的成效，以及AMD在全系統層級所取得的卓越進展，使我們的進度大幅超前，加速邁向2030年目標。」
根據具代表性的AI訓練工作負載，AMD所預估的機櫃級能源效率提升，預計將在2030年前帶來以下兩大相關效益之一。其一為相同的運算能力，消耗更少資源，預計約2座2030年的AMD機櫃，即可提供相當於570座2024年機櫃的運算能力，使用階段的用電量降低20倍，碳排放強度降低28倍；其二，相同的能源消耗，提供更多運算能力，或者在消耗相同能源的條件下，以每瓦每秒浮點運算次數(FLOPs/watt)計算，效率提升預計可帶來20倍的運算能力提升。
AMD表示，隨著AI基礎設施從單一節點擴展至完整機櫃，效率越來越取決於CPU、GPU、記憶體、網路技術、儲存與軟體之間的協同運作能力。AMD正採用系統級協同設計，透過跨產品線團隊的合作，協助降低效能瓶頸、提升資料傳輸效率，並改善全平台的每瓦效能。
除了軟體最佳化之外，推動AI系統效能的三大核心要素為：運算能力、記憶體頻寬與互連頻寬。先進製程技術與架構改進有助於提升每瓦浮點運算效能；先進架構與記憶體整合技術可提升頻寬；而高速互連技術與更緊密的整合則能提升網路頻寬。結合這些創新技術，AMD預期至2030年，每瓦AI效能將相較於2024年提升20倍。
現代AI工作負載仰賴大量資料的高效傳輸。AMD指出，提升記憶體頻寬、頻寬密度與每瓦頻寬，有助於為運算引擎持續提供資料，同時減少電力浪費。高頻寬記憶體、更大容量的快取記憶體，以及記憶體與運算單元之間更緊密的整合，皆能減少不必要的資料傳輸，進而降低能源消耗。隨著大型模型與工作負載日益仰賴GPU、CPU及其他系統元件之間的高效協作，互連技術也已成為打造高效AI基礎設施的重要一環。高速擴展型(scale-up)互連技術能協助大型系統降低效能瓶頸，並更有效率地共享資料。
另外，AMD ROCm軟體堆疊、開放標準以及與客戶的緊密合作，協助開發人員與企業在AMD平台上更有效率地部署AI工作負載。這些最佳化成果能同時提升大規模AI訓練與推論工作負載的表現。隨著AI應用規模持續擴展，提升吞吐量並降低每個生成Token所消耗的能源，變得日益關鍵。
AMD所提出的機櫃級效率提升預測，可協助AI及HPC客戶在資料中心層級的功耗與散熱基礎設施方面實現效率提升，而這些往往是限制運算效能提升的因素。更高的能源效率，將有助於降低營運電耗、改善整體擁有成本，並支援更具永續性的AI及HPC成長。
