MoneyDJ新聞 2026-09-10 08:54:52 郭妍希 發佈
人工智慧(AI)安全疑慮再度升溫。曾任職OpenAI及Anthropic的研究員Jacob Coxon週二(8日)宣布從Anthropic離職，批評兩家公司競相發展能自我改進的超級智慧(superintelligence)，形同「拿人類生命下注」。Anthropic安全主管Evan Hubinger更估計，未來10年AI導致全人類死亡的機率超過10%。
綜合CNBC、Barron`s等外電報導，Coxon過去3年陸續在OpenAI及Anthropic從事AI預訓練研究。他透過社交平台X警告，這兩家公司都沒有負責任地行動，而是競相奔向能夠自我改進的超級智慧，「拿人類的性命去博弈(gambling with our lives)」。
Coxon指出，開發AI的人確實相信，AI可能在2030年結束前(by the end of the decade)導致全人類死亡，未來的超人類系統可能具備入侵各種系統、迅速改革不同領域，以及取得實際權力與資源的能力。
Coxon並稱，OpenAI許多人尚未充分理解這項技術涉及的文明層級風險；Anthropic雖了解相關風險，卻認為其他業者不會負責任行事，因此必須搶先開發。
Anthropic對齊科學主管Evan Hubinger隨後也發文表示，Coxon所言屬實，他個人認為AI在未來10年導致全人類死亡的機率超過10%。
Hubinger表示，目前AI模型帶來的風險仍低，他更擔心的是AI透過「遞迴式自我改進」(recursive self-improvement)，自行設計及開發下一代系統後產生超級智慧。
他也坦言，Anthropic目前尚無解決超級智慧「對齊」(alignment)問題的方案，也沒有明確走在解決問題的軌道上。
在AI產業中，「對齊」是指AI開發人員致力於確保系統行為符合人類價值觀與意圖的相關工作。
OpenAI首席科學家Jakub Pachocki週日(9月6日)也發表一篇部落格文章警告，目前沒有任何一家AI公司「已充分解決對齊與監控問題，足以在未來更長一段時間內，以最快速度負責任地持續擴大AI規模」。
Pachocki寫道，「我預期、同時也希望，在建立共同的安全標準之前，各家公司自願放慢發展速度能成為常態。我也認為，針對AI發展進行國際協調，需成為全球各國政府的首要任務。」
(圖片來源：shutterstock)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用 個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
