MoneyDJ新聞 2024-07-30 08:23:15 記者 郭妍希 報導
蘋果(Apple Inc.)透露，兩款支持「Apple Intelligence」的AI模型，都是以Google設計的客製化「張量處理單元」(TPU)在雲端進行訓練。
CNBC報導，蘋果週一(7月29日)釋出的技術文件顯示，蘋果基礎模型(Apple Foundation Model, AFM)及AFM伺服器都是以「v4和v5p雲端TPU叢集」、運用蘋果軟體進行初步訓練。
這代表蘋果向一家雲端商租下伺服器來執行運算。蘋果在文件中表示，「該系統讓我們得以有效擴大訓練AFM模型(當中包括AFM終端裝置、AFM伺服器)，以及規模更大的模型。」
蘋果文件中顯示，AFM終端裝置是以2048顆TPU v5p組成的單一切片(slice)進行訓練。v5p是最先進的TPU，首度於2023年12月發布。AFM伺服器則是以8192顆TPU v4晶片組成的八個切片訓練。
根據Google官網，旗下最先進TPU若提前三年預定，則每使用一小時的成本不到2美元。Google是在2015年首次發布TPU、供內部作業使用，2017年才對外推出。TPU如今是最成熟的AI客製化晶片之一。
不過，Google仍是輝達(Nvidia Corp.)首要客戶之一，不但同時運用輝達GPU及自家TPU訓練AI系統，也在自家雲端平台販售使用輝達科技的服務。
蘋果先前曾說，AI推論任務有部分會在使用蘋果自家晶片的自有資料中心執行。
根據之前的媒體報導，參與蘋果伺服器專案「Project ACDC (即Apple Chips in Data Center、蘋果資料中心晶片)」的人士強調，自家伺服器處理器的內部元件仍可捍衛用戶隱私。蘋果處理器的「安全隔離區」(Secure Enclave)技術，可避免資料外洩。目前蘋果計畫以自家的資料中心執行雲端功能，但最終仍會仰賴外部設施，如同iCloud等服務。
Meta執行長祖克柏(Mark Zuckerberg)最近接受彭博社記者Emily Chang主持的podcast節目訪問時透露，雖然業界也許對AI基礎建設投資過度，但假使進度落後，則未來10~15年將無法在這個最重要的科技市場佔有一席之地。
(圖片來源：shutterstock)
＊編者按：本文 僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體 》、編者及作者無涉。
