MoneyDJ新聞 2026-07-07 11:44:46 新聞中心 發佈
綜合港媒報導，中國中央網信辦表示，自4月啟動「清朗•整治AI應用亂象」專項行動以來，聚焦未依規定履行大模型備案登記義務、AI平台安全和審核過濾能力不足、AI數據投毒、生成合成內容標識落實不到位等AI應用亂象，部署各地網信部門深入推進第一階段重點整治任務，第一階段累計處置違規網站、應用程式、智慧體等AI產品1.4萬餘款，清理違法違規訊息600餘萬條，處置帳號2.6萬餘個，下架違規AI商品1,300餘個、違規開源數據集9個，各項工作取得積極進展。
網信辦指出，各地網信部門結合實際採取有效監督管理措施，包括北京網信辦建立「平台自查+常態巡查+技術篩查+線索核查」聯動工作機制，及時下架一批違規AI應用和營運帳號；上海網信辦針對平台類型細化工作要求，指導平台升級舉報機制、主動發布治理公告；浙江網信辦從模型審核能力、訓練語料安全、AI數據投毒等方面，組織展開優化語義判斷能力、高頻回歸測試等針對性整改等。
網信辦表示，重點網站平台積極履行主體管理責任，針對性加強管控，例如華為(Huawei)在應用商店中增加生成式AI服務備案和標識專項審核；阿里巴巴(9988.HK)完善數億指紋比對與關鍵字攔截機制，提升違法違規內容識別精度；智譜(2513.HK)建構多模態審核模型，針對多輪對話意圖反轉等複雜場景展開交叉覆核；MiniMax(稀宇科技；0100.HK)及時識別阻斷利用AI編寫病毒、釣魚軟體等惡意行為；DeepSeek在數據獲取和預處理環節嵌入異常檢測算法，防止惡意樣本隱蔽操控等。
網信辦表示，接下來將聚焦利用AI技術製作發布虛假訊息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人權益、從事網路水軍活動等突出問題，展開「清朗•整治AI應用亂象」專項行動第二階段工作，加大違規帳號和機構查處力度，加強AI應用重點環節管理，督促平台提升AI防治能力，著力維護清朗網路生態，推動人工智慧向善向好。
