超微AI晶片快追上輝達 MI250效率約A100近8成

2023/07/03 09:19

MoneyDJ新聞 2023-07-03 09:19:29 記者 郭妍希 報導

根據人工智慧(AI)軟體新創商MosaicML評測,超微(AMD)旗下AI晶片的運算效率目前約為輝達(Nvidia Corp.)同類型晶片的80%,表現追上指日可待。

路透社、Forbes報導,剛獲DataBricks以13億美元收購的MosaicML 30日發布評測顯示,運用超微「MI250」GPU訓練大型語言模型(LLMs)的速率,約輝達「A100」GPU的接近80%,主要是拜超微去(2022)年底新釋出的軟體及Meta Platforms今年3月發布的新版開源軟體「PyTorch」之賜。

MosaicML科技長Hanlin Tang指出,超微正在開發的軟體更新,應該能讓MI250運算效能媲美A100。他說,MosaicML運用旗下工具、PyTorch及超微軟體直接訓練LLMs,完全不需修改編碼基礎。若開發商能以合適價格找到需要的超微晶片,現在就可直接替換掉輝達晶片,兩者基本上是可以互相取代的。

MosaicML販售的軟體讓企業可在內部資料中心直接打造AI系統,不再需要向ChatGPT開發商OpenAI等業者付費取得相關服務。

相較之下,輝達最先進的「H100」Tensor核心GPU最近經開放工程聯盟(MLCommons)評測後,跑出史上最佳紀錄。

許多通路網站顯示,輝達定價高昂的高階晶片仍舊處於缺貨狀態。根據信息技術產品和服務供應商CDW網站,H100報價高達30,602.99美元、須等待長達4~6週才能到貨。

超微6月召開眾所矚目的晶片大會,聲稱最新MI300X加速器配備192GB記憶體,預定第四季擴產。超微執行長蘇姿丰(Lisa Su、見圖)6月13日在舊金山大會上指出,MI300X的記憶體比競爭對手輝達任何晶片都還多,將在第三季送樣、接近年底時擴產。她並揭露一款內建8顆MI300X的電腦、與輝達類似產品一較高下。

(圖片來源:蘇姿丰推特)

*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。

個股K線圖-
熱門推薦