MoneyDJ新聞 2023-11-10 12:06:56 記者 鄭盈芷 報導
第三屆成電論壇邀請成大83級校友、奇景光電(HIMX.US)副總陳有棟(附圖)，針對微型機器學習(TinyML)發展及應用做探討。
奇景光電除了顯示器相關應用，在光學相關技術也做了相當多投入，包括HID、人臉辨識等。本次演講主題則強調如何透過較低成本、功耗做到邊緣機器學習。
陳有棟表示，所謂的微型機器處理是將人工智慧運算推向設備的最終端，結合感測器和嵌入式系統在終端以極低功耗、低成本、低延遲完成邊緣機器學習運算。
從整體資訊處理流程來看，不管雲端、邊緣或終端AI都要數位化，而微型機器學習就在是邊緣端做完處理，因為如果所有處理都上雲端，光是功耗、傳輸就不得了，所以大多都在邊緣端就處理完，處理完有用的資料再上傳雲端。
為什麼需要微型機器學習、而微型機器學習又可以提供什麼價值?陳有棟表示，微型機器學習主要用在低功耗、使用電池裝置，以及反應時間要短、具隱私性的資訊，更重要的是可以合理成本將感測端資料即時完成處理。
微型機器學習的困難在於如何將運算做到低瓦數就能處理，而且還要很精準，客戶要求要準確到99%以上，再來就是安全性很重要，而更重要的則是整合--整個系統層面來看，如何將感測器、算法做完美優化與整合，這些都是客戶非常在意的地方。而奇景雖然做影像感測，但客戶會拿去結合其他應用，所以要做到開源式平台。
陳有棟表示，奇景第一代AI晶片每秒功耗僅2.2mW，今年推出第二代AI晶片做到更低功耗、更高能效，也更精準，除了辨識人型、人臉，更可進一步解讀其意圖。
奇景是業界少數可在相當低功耗做到AI影像辨識解讀的晶片廠， 成功案例包括AI NB，加入防止偷窺功能、螢幕省電功能，目前也跟更多ODM、OEM合作，希望結合更多生成式AI，更貼近使用者需求，另外在低功耗應用則括智慧門鈴、水表紀錄等，其他還有智慧醫療、智慧零售、智慧農業等新應用。
陳有棟表示，從商業模式角度來看，越來越多邊緣式的微型機器學習變成一個服務，跟生成式AI做結合，很多應用都往這方向推移，在軟體端有更多小型化model出現，在框架方面，Google、Meta也都推出小型化model工具鏈，硬體方面，除了奇景之外，也有很多國際廠商加入，架構也都在不斷演進，這是非常很活躍的領域，除了ChatGPT，這是另一個大家可以一起思考的AI領域，期待能在微型機器學習看到更多應用，希望大家一起加入發展生態圈。
