MoneyDJ新聞 2026-09-23 12:41:15 黃智勤 發佈
Google前安全主管示警，AI可能對兒童造成比社群媒體更嚴重的傷害，呼籲業界放慢AI開發腳步、建立獨立的安全評估標準。
路透報導，Google前信任與安全副總裁西格爾(Tom Siegel)指出，主要AI業者持續推出兒童也能接觸使用的AI功能，卻未建立足夠的安全防護措施，難以期待科技業自行解決問題，呼籲建立安全評估標準並強化兒少保護措施。
西格爾曾於2004年至2019年任職Google，之後共同創辦安全科技新創TrustLab。他本週正式出任兒童網路倡議組織Common Sense Media旗下「青少年AI安全研究所」首任執行董事；該研究所於5月成立，主要研究兒童使用AI的潛在風險。
西格爾示警，AI對年輕族群造成的潛在風險相當廣泛，包括自殺、精神病，以及「認知卸載」(cognitive offloading)，也就是過度依賴AI回答問題，導致自身批判性思考能力下降。他呼籲建立獨立評估機制、衡量AI對兒少的潛在危害。
他也建議OpenAI和Anthropic採取更嚴格的年齡驗證措施，避免未達適用年齡的兒童使用聊天機器人。 並建議Google應讓用戶可選擇關閉搜尋服務中的「AI Overviews」及「AI Mode」功能。
生成式AI改變當前學生的學習方式，但也引發思辨與判斷力弱化的疑慮。紐約市政府於9月初宣布，未來一年內公立學校八年級以下學生全面禁用生成式AI。
紐約市長Zohran Mamdani表示，兒童學習與成長仍仰賴教師指導與同儕互動，在學生尚未建立足夠的思辨、判斷與組織能力之前，不宜過度依賴AI工具輔助學習。
多位業界知名人物近期示警AI的潛在風險；OpenAI本週提出國際AI安全標準建議，希望建立全球一致的AI事故分類、通報與應變機制，並警告先進AI若具備自行改進能力可能帶來的失控風險。
(圖片來源：shutterstock)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
