群聯攜聯發科 共同推動生成式AI運算與服務

MoneyDJ新聞 2024-03-15 17:18:10 記者 新聞中心 報導

「MediaTek DaVinci」平台是聯發科基於GAI服務框架(GAISF)打造的一款先進生成式AI服務開放式平台，開發者可在「MediaTek DaVinci」平台上開發各類實用的插件，建立豐富的生態系統，同時提升使用者的互動體驗。

群聯推出的「aiDAPTIV+」服務方案，透過其獨特的SSD整合AI運算架構，將大型AI模型進行結構性拆分，並與SSD協同運行。這種方法不僅大幅降低AI基礎建設的硬體成本，還提高運算效率，使得在有限的GPU與DRAM資源下也能夠訓練大型的AI模型。

「aiDAPTIV+」的技術已在工業4.0領域獲得實證，群聯預計，未來也將持續協助各產業加速進行AI轉型，提升企業競爭力。再者，相較於傳統的AI伺服器架構，群聯的「aiDAPTIV+」方案在相同的AI模型微調訓練運算條件下，所需的整體電力較少，也符合當前減少能源消耗和碳足跡的環保趨勢。

群聯的「aiDAPTIV+」方案不僅已在全球首款整合SSD協同運算的量產AOI光學檢測系統中展現其工業應用價值，更已協助國立陽明交通大學教授廖元甫的客台語AI提升辨識準確度。群聯表示，與聯發科「MediaTek DaVinci」的結合，將進一步拓展「aiDAPTIV+」技術的應用範疇，為AI服務市場注入新動力，不僅將為用戶帶來更優質的體驗，也將為開發者開闢更廣闊的創新空間。

群聯技術長林緯強調，群聯的使命即是透過創新技術來解決實際問題，並推動產業的進步；群聯的「aiDAPTIV+」技術方案將為AI模型微調(Fine-Tuning)運算領域帶來革命性貢獻，而聯發科的「MediaTek DaVinci」平台在AI服務領域也已取得卓越的成就，透過雙方的共同努力，將能夠快速導入AI應用於大眾的日常生活，並為群聯的客戶創造更大的價值。

聯發科人工智慧暨數據工程處協理葉家順表示，聯發科長期致力於推動AI的創新與應用，期待「MediaTek DaVinci」生成式AI服務平台能為產業激發出更多的新應用；群聯的「aiDAPTIV+」技術方案不僅為聯發科的平台帶來了前所未有的地端運算能力，也為使用者和開發者社群開啟了新的可能性；聯發科期待這次合作能夠為整個產業帶來深遠的影響，並攜手創造更加智慧的未來。

群聯與聯發科雙方合作的效益，包括創新的AI運算架構、提升成本效益、提升「MediaTek DaVinci」平台的擴展性、加速部署地端AI應用、更符合ESG趨勢的解決方案。

此外，透過群聯「aiDAPTIV+」技術方案與聯發科「MediaTek DaVinci」平台的合作，AI伺服器廠商將能提供一個完整的地端軟硬體整合方案，使AI伺服器產品更具競爭力，為終端客戶提供一站式的AI服務。群聯與聯發科均預期，透過雙方的合作，不僅將能為AI伺服器廠商帶來差異化的競爭優勢，加速AI技術的普及，更能為終端用戶創造更多價值，打造AI Everywhere的智慧未來新世代。