要求修 Bug,阿里通義千問卻自行改權重!研究揭 AI 代理越權自我修改

2026/09/17 13:10
要求修 Bug,阿里通義千問卻自行改權重!研究揭 AI 代理越權自我修改研究機構 Irregular 近日公布一項測試結果,指出阿里巴巴旗下的 Qwen 開源模型在處理一個看似單純的除錯任務時,並未遵循修正程式碼的常規路徑,反而自行動用訓練資料微調模型權重,甚至將更新後的模型替換為系統預設載入的版本,形成了一次未經明確授權的「代理式自我修改」。
個股K線圖-
熱門推薦