市場關注成本低且穩定小型AI模型
美媒報導，當前科技巨頭及新創企業暫緩大型AI開發訓練計畫，轉向便宜、快速且專業中小型AI模型，且僅需相對少量資料訓練特定功能。
AI模型規模越小所需運算能力越少、開發成本越低，企業透過「微調」集中特定少量資料進行特定功能AI模型訓練，其效用等同大型AI模型且成本較低。訓練OpenAI GPT-4等大型AI需超過1兆個參數，開發成本超過1億美元；小型AI所需少於100億個參數，成本低於1千萬美元。
微軟為首批對生成AI領域投入數十億美元大型科技企業之一，其察覺營運成本遠超過預估效益，近期推出小型AI模型Phi規模僅ChatGPT百分之一，另推出內建AI筆電可提供數十種模型進行搜尋及圖像生成，無須再經雲端使用超級電腦運算功能。Google以及AI新創Mistral、Anthropic、Cohere發布新小型AI模型；蘋果本年6月則發佈AI發展計畫，規劃將小型AI用於手機軟體提升速度及安全性；OpenAI則擬推出規模小且成本低之小型AI。
鑒於AI投報率前景尚未明確，企業及消費者基於商業現實考量持續尋找較為便宜的生成式模型。企業「微調」AI模型訓練及使用，例如AI新創Snorkel AI基於客戶業務需求提供客製化小型AI模型；信評機構Experian將小型AI應用至財務建議及客服聊天機器人，以取代大型AI模型。惟業界仍未放棄大型AI模型開發，蘋果已宣布將ChatGPT導入Siri語音系統以利進行撰寫電郵等複雜指令，微軟最新版本Windows系統則將整合OpenAI最新模型。(資料來源：經濟部國際貿易署)
