AI巨頭赴聯合國簡報、示警AI風險 籲各國合作

MoneyDJ新聞 2026-09-24 08:51:20 黃智勤 發佈

綜合外媒報導，阿特曼與阿莫迪23日在聯合國安全理事會發表談話，呼籲聯合國制定共同標準，用以衡量新一代AI模型的能力與潛在風險。阿特曼表示，面對強大的新興科技，各國有必要為共同利益攜手合作。

阿莫迪也呼籲各國擱置分歧，共同因應AI遭濫用的全球性威脅。他主張針對高風險用途制定範圍明確的國際協議，例如禁止使用AI製造生物武器。他也再度警告，若AI管理不當，可能對全人類構成風險。

多位業界知名人物近期示警AI的安全風險，阿莫迪上週發表長文呼籲降低提升先進AI模型能力的速度，並提及AI代理群聚、失控並發動網攻的風險。

Anthropic已與顧問巨頭埃森哲(Accenture)合作，在內部組成獨立的安全性評估團隊，以強化安全防護。

OpenAI本週也公布前沿AI安全與資安標準建議，盼建立全球安全標準與通報機制，尤其示警「遞迴式自我改進」(Recursive Self-Improvement, RSI)，也就是讓AI模型自行進行研究、改進甚至升級自身能力的技術的風險。

美中AI治理也受到關注。川普本週將與中國國家主席習近平舉行會談，AI議題預料將成為討論重點；馬斯克日前也表示，若美中能就AI監管建立共同平台，將有助提升全球AI安全。

市場日益關注安全風險，資安族群近期表現強勢；CrowdStrike、Palo Alto、Okta等領導資安廠商近日穩步走高。

(圖片來源：shutterstock)

＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。