MoneyDJ新聞 2026-06-01 12:02:23 黃立安 發佈
輝達(NVIDIA)執行長黃仁勳今(1)日於GTC Taipei發表主題演講,不僅再度強調台灣在全球AI產業鏈的重要地位,也進一步闡述Agentic AI(代理型AI)帶來的運算架構變革,並直言Vera Rubin(VR)是NVIDIA有史以來最具野心的計畫。
黃仁勳開場即秀出台灣供應鏈夥伴名單並指出,NVIDIA生態系一路向上連結完整的台灣供應鏈,一路向下延伸至資料中心與終端使用者,而「一切都從這裡開始」,並盛讚台灣擁有全球最完整、最優秀的供應鏈生態系。
談到AI發展趨勢時,黃仁勳表示,兩年前曾提出AI將從生成式AI逐步邁向Agentic AI,如今可以正式宣告「Agentic AI已經到來」。
他指出,Agent是一種全新的解耦式(Disaggregated)與分散式(Distributed)運算模型,由大型語言模型(LLM)、控制框架(Harness)、工具與技能(Tools and Skills)以及執行環境(Runtime)所組成,各項元件分散運行於資料中心不同位置。若將模型視為大腦,控制框架就是身體,而工具與執行時則如同工作坊,透過多個系統協同合作完成任務。
黃仁勳說明,大型語言模型負責理解環境、推理、規劃及執行任務,每當進行一次完整推理流程,都可能動用一整個Grace Blackwell NVLink 72機櫃運算資源;而當Agent呼叫各種工具時,則會大量運用CPU資源,包括編譯器、程式語言工具及各類加速運算平台。
他認為,目前Agent仍屬於初階工具使用者,但未來將進化成高度成熟的數位工作者,因此NVIDIA打造的CUDA-X函式庫未來都將搭配Skills(技能包),讓AI能快速理解並學習如何使用相關工具,進一步提升解決問題能力。
黃仁勳也特別點出,Agent運作過程中最困難的挑戰之一在於記憶體管理,包括KV Cache管理、資料壓縮與重組、結構化與非結構化資料檢索,以及資料間關聯性的建立等。他認為,AI記憶體架構未來將徹底改變整個儲存產業。
他表示,Agent所代表的新型態應用與過去傳統軟體有本質差異,因此NVIDIA才打造全新的Vera Rubin平台。該平台全面採用機密運算(Confidential Computing)架構,確保資料在儲存、傳輸及運算過程中皆受到加密保護,以保障高價值AI模型安全。
黃仁勳強調,Vera Rubin是NVIDIA有史以來最具野心的計畫,NVIDIA的技術版圖已從晶片延伸至整體AI基礎設施層級,合作夥伴更涵蓋發電、冷卻、電網及工業系統等領域,最終目標是打造完整的AI基礎設施堆疊,如同當年打造GPU生態系一般。