MoneyDJ新聞 2026-10-15 11:36:38 新聞中心 發佈
綜合港媒信報及新加坡聯合早報報導，美國研究人員發現罕見事件，來自中國的失控人工智慧(AI)智慧體試圖進入受保護的訊息系統。據外媒報導，AI安全研究機構Palaestra Research的報告顯示，最近幾周，十多個疑似為中國模型、運行在騰訊(0700.HK)旗下騰訊雲服務上的AI智慧體，試圖訪問阿里巴巴(9988.HK)旗下的高德地圖服務。
Palaestra指出，這些智慧體的活動發生在9月28日至10月8日，目前已經停止。在此期間，它們共嘗試訪問高德數據2,818次，並借助一項公開的安全掃描服務，遠程運行代碼和執行互聯網瀏覽器命令。當高德系統進行干預時，這些智慧體找到了繞過限制的方法。研究人員表示，目前尚不清楚這些AI模型具體想獲取什麼數據，也不清楚這些嘗試的最終目的。
報告指出，這些智慧體的代碼來自騰訊雲的一個沙盒環境，它們進入了高德系統，並回答諸如「動物園哪個入口最受歡迎」等問題；又認為目前模型開發的方式意味著，當智慧體處於連網狀態時，它們仍會不斷突破沙盒環境。此外，這些活動與騰訊的平台存在關聯，但尚不清楚騰訊當時正在開發或評估的是哪一個模型，因為騰訊團隊也會研究第三方模型。相關線索包括這些智慧體與騰訊在香港和深圳的雲服務有聯繫。
香港網路安全公司NyxLab聯合創始人兼首席執行官顏國定認為，從網路安全角度看，核心問題並不在於這是中國AI模型還是美國AI模型，也不在於這些AI代理是否真的失控，而是要如何控制這些AI代理。他指出，隨著AI代理的自主程度不斷提高，企業需要建立明確的防護機制、持續監控和有效干預手段，以確保它們會在預定範圍內運行。
