MoneyDJ新聞 2023-11-10 11:51:45 記者 王怡茹 報導
第三屆成電論壇於今(10)日上午登場，本次主題聚焦最熱門的科技新趨勢「生成式AI」。記憶體廠華邦電子(2344)總經理陳沛銘(如圖)以「Memory for AI」主題發表演講。他認為，在AI及生成式AI的浪潮下，記憶體扮演了關鍵性的角色，AI需求對產業發展影響也越見顯著且不可忽視。
AI模型中，特別是大型的語言模型(如: ChatGPT)，需要大量的記憶體來處理龐大的參數作訓練，傳統記憶體技術已顯現瓶頸。為了滿足AI模型的龐大需求，記憶體必須進一步革新的趨勢。
伴隨著AI技術的普及，Edge AI的應用也逐漸蓬勃發展。而記憶體需配合其應用特性架構開發特殊的創新技術，例如：發展高效能、高頻寬、低延遲、低耗電的記憶體，以及利用3D堆疊技術增加記憶體容量及頻寬等技術創新，也是未來關注的重點。
陳沛銘在論壇上介紹華邦電的客製化超高頻寬元件CUBE架構，主要搶攻邊緣AI市場。CUBE增強了前端3D結構的性能，例如chip-on-wafer（CoW）和wafer-on-wafer（WoW），以及後端2.5D/3D chip on Si-interposer的基板和扇出（Fan out）解決方案，能利用 3D 堆疊技術並結合異質整合技術以提供高頻寬低功耗的單顆256Mb 至 8Gb記憶體。
事實上，AI模組內的參數已高達10兆個，需要大量的算力、記憶體、高頻寬。陳沛銘認為。就在大家都在致力於提高算力的同時，勢必會產生中間的需求，公司在這之中找到供貨空間，在不需要那麼高運算力的邊綠AI，就適用CUBE，目前也獲得客戶正面回響。
同時，陳沛銘也看好在AI驅動未來DRAM市場蓬勃發展。他引用Omdia研調資料指出，2017年-2022年間DRAM市場主要由資料中心、智慧型手機所驅動，儘管2023年市場規模較去年萎縮，但看好在AI應用帶動下，DRAM將供不應求，未來3-4年內產值有望翻倍成長。
