聯發科推生成式AI服務平台 助生態系夥伴拚生產力

MoneyDJ新聞 2024-04-10 07:24:31 記者 新聞中心 報導

基於聯發科生成式AI服務框架而開發的MediaTek DaVinci，最初是為集團內部打造具資料安全性、提高生產力的生成式AI工具，獲各部門廣泛使用，並發展成可供外部企業導入的生成式AI服務平台與豐富的生態系，目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業，以及教育機構、新創公司等加入MediaTek Davinci生態系。

聯發科表示，MediaTek Davinci提供一個高整合度、高擴展性的開放平台，讓開發者可為各行業開發客製化生成式 AI 擴充外掛、助理等應用；對企業來說，能夠在資料安全的環境下，善用平台的豐富工具提高生產力與競爭力。

聯發科指出，MediaTek Davinci支援各類大語言模型，包含聯發創新基地最新釋出的繁體中文大語言模型「MR BreeXe」。MR BreeXe以Mixtral 8x7B模型為基礎開發，繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的預訓練(pre-training)之後，不但在繁體中文測試項目(TMMLU+、MT Bench TW)超越GPT-3.5，並對台灣常見之地端應用特別進行優化，提升產業界使用生成式AI與檢索增強生成(RAG)的體驗。MR BreeXe於輝達(NVIDIA)的Taipei -1 GPU超級電腦 DGX H100上進行訓練，透過MediaTek Davinci，支援全地端與部分地端的佈設場景，並可依需求進行多樣本學習(few-shot learning)甚至微調(fine-tuning)的客製化。

聯發科技人工智慧暨數據工程處協理葉家順表示，MediaTek DaVinci解決許多企業在採用生成式AI的痛點，讓各行各業在確保資訊安全的環境下，可善用已有強大基礎的平台開發專屬的生成式AI應用。隨著更多企業與開發者加入MediaTek Davinci生態系，相信MediaTek DaVinci的能力將會持續爆發性成長，成為企業的得力助手。

聯發創新基地負責人許大山博士表示，MediaTek Research BreeXe 繁體中文大型語言模型是聯發創新基地在大模型發展上最新的里程碑，提供優異語文理解能力和雲、地兩端的彈性，為現今繁體中文能力最強的語言模型， 加上與MediaTek Davinci的搭配，相信能更貼近在地需求，激發更多在地的生成式AI應用。