MoneyDJ新聞 2024-06-04 12:20:51 記者 郭妍希 報導
特斯拉(Tesla Inc.)執行長馬斯克(Elon Musk)透露，他打算採購300,000顆輝達(Nvidia Corp.)Blackwell架構「B200」AI繪圖處理器(GPU)，以提升「Grok」AI聊天機器人的表現。
馬斯克3日透過社交平台X指出，鑒於科技進步的速度，將1GW的電力投入H100已不再值得。他說，旗下AI新創xAI由100,000顆H100集結而成的水冷式(liquid-cooled)訓練叢集，將在幾個月後上線。
馬斯克並表示，下個重要一步，大概是明(2025)年夏季前使用CX8網路的300,000顆B200叢集。
Tom`s Hardware、Barron`s隨後報導，馬斯克的邏輯有其道理。與H100相較，輝達最新Blackwell B200的AI訓練效能提升四倍、推論表現提升30倍。
技術上來說，B200確實較為耗電，但效能大幅改善，意味著執行效率將顯著優於H100。就馬斯克的情況來說，將100,000顆H100換成數量多三倍、耗電量更高的B200依舊相當划算，因為B200增添的AI效能非常驚人。
輝達執行長黃仁勳(Jensen Huang)曾說過，Blackwell GPU每顆要價30,000~40,000美元。以此來計算，馬斯克的計畫可能得耗資90~120億美元。
The Information甫於5月25日報導，馬斯克5月在對投資人進行的簡報中揭露，「Gigafactory of Compute」預計明年秋季結束前上線，xAI會跟甲骨文(Oracle)合作開發這款超級電腦、支援Grok的下一代版本。最新超級電腦將使用最多100,000顆H100 GPU，為現有最大GPU叢集的至少四倍大。
Meta Platforms執行長祖克柏(Mark Zuckerberg) 1月18日曾透過Instagram短影音平台Reels表示，Meta未來的AI藍圖需打造大規模運算基礎建設，預計到了今年底，這項基礎建設將內建350,000顆輝達H100 GPU；若計入其他GPU，Meta的運算基礎建設將擁有近600,000顆約當H100的運算力。祖克柏未提到其他GPU是由哪家業者供應。
(圖為黃仁勳親自將第一款輝達AI系統送至OpenAI，來源：馬斯克)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀 請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
