MoneyDJ新聞 2023-11-14 11:03:20 記者 郭妍希 報導
輝達(Nvidia Corp.)首次揭露,2024年推出的次世代Blackwell架構「B100」繪圖處理器(GPU),AI表現效能將是Hopper架構的「H200」GPU兩倍以上。
Wccftech 13日報導,輝達高層在「2023年超級運算大會」(Supercomputing 2023、SC23)指出,繼H200推出的次世代B100,在GPT-3 175B推論效能標竿方面遠遠擊敗A100、H100及H200。
根據輝達秀出的圖表(見左圖),H100的GPT-3 175B推論效能表現比A100高11倍、H200則可高18倍。圖表並顯示,B100擁有極大的AI運算潛力。
過去兩年來,輝達靠著Hopper、Ampere架構GPU滿足全球AI及高效能運算(HPC)客戶的需求,但隨著Blackwell架構到來,2024年一切將改觀。次世代產品線預計將於2024年GPU技術大會(GTC)首次亮相,2024年稍晚上市。
報導指出,市場傳聞估計,輝達將委託台積電(2330)以3奈米製程代工Blackwell GPU,客戶訂購的首批GPU有望於2024年第四季到貨。傳聞顯示,輝達準備將生產時間點提前至2024年Q2,跟H200上市的時間點差不多。三星電子據傳是次代Blackwell GPU的重要記憶體供應商。
Blackwell GPU也會是輝達第一款運用小晶片(chiplet)設計的HPC/AI加速器,競爭產品為超微(AMD)的Instinct MI300加速器。
輝達13日推出最新高階AI GPU「H200」,以臉書(Facebook)母公司Meta Platforms, Inc.的開源軟體AI模型「Llama 2」測試後,發現H200協助推論的速度幾乎是H100兩倍快。另外,H200將與H100相容,意味著已開始運用H100訓練先前AI模型的業者,不需要變更伺服器系統或軟體規格,就可直接使用H200。
(圖片來源:輝達官方影片截圖)
*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。