亞馬遜升級自研AI晶片Trainium2、AWS導入H200

2023/11/29 08:11

MoneyDJ新聞 2023-11-29 08:11:53 記者 李彥瑾 報導

全球科技巨擘掀起一波自研人工智慧(AI)晶片風潮,亞馬遜(Amazon)28日發表新一代AI晶片Trainium2,專為訓練和推論AI模型而設計,運算速度達前代的四倍,試圖追趕微軟(Microsoft)在生成式AI領域的主導地位。

CNBC、路透社等外媒報導,11月28日,亞馬遜在拉斯維加斯舉辦年度雲端科技發表會re:Invent 2023,亮相多款全新產品,包括第二代AI加速器Trainium2,能讓客戶以更低成本、更高能源效率加速訓練ML模型,AI新創公司Databricks與亞馬遜重金投資的OpenAI競爭者Anthropic已決定採用。

亞馬遜同時發表基於ARM核心的第四代自研雲端運算CPU「Graviton4」,強調運算效能比前一代高出30%、核心數量增加50%、記憶體頻寬(memory bandwidth)提升75%。

AI服務的營運成本相當高昂,比傳統搜尋引擎高出十倍,促使各大科技巨頭轉向自主開發AI晶片,減少依賴NVIDIA GPU。今年8月,Alphabet發表第五代張量處理器(TPU)「Cloud TPU v5e」,兩週前,微軟也揭曉最新自研AI晶片「Maia 100」,以及首款自研雲端運算CPU「Cobalt 100」。

另方面,亞馬遜宣佈與NVIDIA加強合作,旗下雲端服務AWS將託管NVIDIA DGX Cloud,並導入NVIDIA最強AI晶片H200 Tensor核心GPU,大幅強化生成式AI和高效能運算(HPC)所需的工作負載能力。

MoneyDJ XQ全球贏家系統報價顯示,11月28日,亞馬遜(AMZN.US)股價下跌0.47%,NVIDIA(NVDA.US)股價下跌0.87%。

(圖片來源:亞馬遜)

*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。

個股K線圖-
熱門推薦