MoneyDJ新聞 2023-06-28 13:24:30 記者 郭妍希 報導
輝達(Nvidia Corp.)最先進的「H100」Tensor核心GPU經開放工程聯盟(MLCommons)評測後,跑出史上最佳紀錄。
Seeking Alpha、Forbes報導,MLCommons 27日發布的MLPerf 3.0最新評測結果顯示,輝達H100在訓練大型語言模型(LLMs)的系統測試中,完成AI任務的運算速度最快。根據評測,H100稱霸幾乎每一種類別,也是這份最新LLM標竿測試中,唯一一款GPU。
輝達及英特爾(Intel Corp.)旗下的Habana Labs,是唯二交出測試結果的晶片商,其他遞交結果的業者包括戴爾(Dell)、聯想集團(Lenovo)及伺服器及儲存技術大廠美超微電腦(Super Micro Computer)。
本次MLPerf 3.0系統評比是基於訓練OpenAI旗下ChatGPT的AI模型「GPT-3」。
OpenAI曾於3月14日宣布推出GPT-4,聲稱這款最新AI模型能在美國大學的入學SAT測驗擊敗90%人類、並在律師資格考試(Bar examination)擊敗90%受試者。
許多通路網站顯示,輝達定價高昂的高階晶片仍舊處於缺貨狀態。根據信息技術產品和服務供應商CDW網站,H100報價高達30,602.99美元、須等待長達4~6週才能到貨。
(圖片來源:輝達)
*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。