紐約大學教授:GenAI工具不安全,但人類不該放棄AI

2024/08/05 15:14

MoneyDJ新聞 2024-08-05 15:14:45 記者 賴宏昌 報導

Business Insider報導,紐約大學教授Gary Marcus 8月3日在英國衛報撰寫專欄文章指出,ChatGPT等生成式人工智慧(GenAI)工具不太可能是安全的、並且不會在醫學或氣候變遷等領域提供有用的解決方案。

Marcus表示,GenAI工具本質上難以控制、就像人類永遠無法完全掌控的黑盒子。儘管如此,Marcus認為人類不該放棄AI、打造更好的AI(用於醫學、材料科學、氣候科學等等)真的可以改變世界。他說,GenAI不太可能做到這一點,但未來某些目前尚未開發出來的AI可能辦得到。

英國金融時報專題報導作家Henry Mance 4月撰文指出,Marcus表示,目前的大型語言模型(LLM)已學會辨識型態、但無法理解核心概念,當前的AI形式正處於停滯不前狀態、所謂「科技企業將在2030年創造出通用人工智慧(AGI)」的想法是可笑的。

英國金融時報5月報導,Meta首席AI科學家楊立昆(Yann LeCun)受訪時表示,驅動ChatGPT等GenAI產品的LLM永遠無法實現像人類一樣的推理和規劃能力,因為LLM對邏輯的理解非常有限、無法理解實體世界、沒有持久的記憶力、也無法進行分層規劃。楊立昆去年10月受訪時表示,當代AI模型並不像一些研究人員宣稱的那麼強大,AI還沒有能力進行真正的推理。

BBC News去年6月報導,楊立昆受訪時表示,AI終將超越人類智慧、但可能得花上數年時間才辦得到,研究人員還沒找到達到此一水準的必要概念。

(圖片來源:Shutterstock)

*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。

個股K線圖-
熱門推薦