戴爾推生成式AI開放生態系統 支援AMD新加速器

2023/12/08 13:01

MoneyDJ新聞 2023-12-08 13:01:19 記者 新聞中心 報導

生成式AI是近十年最受矚目的創新加速器,78%的IT決策者表示期待生成式AI在企業中發揮潛力,將其視為提高生產力、簡化流程及節省成本的方式。戴爾科技集團表示,善用此技術對於身處數位時代的企業來說非常重要,有助於在競爭激烈的環境中佔有一席之地。

戴爾攜手AMD擴大Dell生成式AI解決方案產品組合,持續加速推動進階工作負載,為企業提供更豐富的選擇,並推進生成式AI進程。此新技術展現了開放生態系統和矽多樣性的關鍵角色,為客戶提供簡單、可信任的客製化解決方案,將AI導入數據中;然而,因應激增的資料量及善用資料,為現今AI領域的核心問題。

戴爾指出,Dell PowerEdge XE9680為公司至今增長速度最快的解決方案,支援即將推出的AMD Instinct MI300X加速器,提供客戶更多AI效能相關選擇。其搭載AMD Instinct MI300X,透過高效能解鎖企業數據價值,並運用客製化大語言模型(LLM)於產業中脫穎而出。搭載8個MI300X GPU,每個GPU皆配備192GB的5.3 TB/s高頻寬記憶體(HBM3),每個伺服器都有一致的HBM3容量達1.5 TB,以及逾21 petaflops的FP16算力峰值,讓生成式AI被企業普及使用,協助訓練更大的模型、減少數據中心佔地面積、降低總體擁有成本,並獲得競爭優勢。

戴爾並指出,Dell PowerEdge XE9680不僅效能強大,其安全與簡易性更為同級中最出色。藉由Dell Open Manage Enterprise軟體簡化和加速生成式AI基礎架構的部署,並透過CloudIQ軟體達到智慧自動化,其更整合網路復原功能和一系列Zero Trust提升安全性。

Dell PowerEdge XE9680係藉由以8個AMD Instinct MI300X加速器運作的AMD Instinct Infinity平台,實現近線性的規模擴充與低延遲分散式的生成式AI訓練及推論。藉由橫跨PowerEdge伺服器叢集的全域記憶體互聯(xGMI),並透過乙太網路為基礎的AI結構連結MI300X GPU,使用經戴爾驗證的GPU結構和Dell PowerSwitch Z9664F-ON。

此外,戴爾亦宣布生成式AI解決方案的進一步計劃,全新Dell Validated Design for Generative AI with AMD協助企業更易部署可信任的生成式AI。此款Dell Validated Design for Generative AI with AMD ROCm的AI架構將於明(2024)年上市,拓展Dell生成式AI解決方案生態系,並將加入開源大語言模型。AMD ROCm可做為AMD Instinct加速器的開源驅動程式堆疊、開發工具組及API。透過Dell Validated Designs for Generative AI將能更簡單地客製可信任的生成式AI平台,消弭整合、效能和規模等考量因素的不確定性。

身為超級乙太網聯盟(UEC)一員,戴爾致力提倡基於標準的網路。戴爾表示,公司擁有獨特優勢,可在生成式AI解決方案(運算、結構和儲存)中運用開放式方法充分發揮潛力。

(圖片來源:戴爾科技集團)

個股K線圖-
熱門推薦