英國AI安全研究所頃於今夏在美國舊金山開設首個海外辦公室
英國科技部長Michelle Donelan 5月20日宣布英國AI安全研究所(AI Safety Institute)頃於今年夏天在美國舊金山開設首個海外辦公室，英國因而能掌握灣區科技人才資源，使其倫敦總部與舊金山全球最大AI實驗室進行交流，並鞏固與美國的關係，進而促進符合公共利益的AI安全發展，該辦公室將由研究主任負責聘僱首個研究團隊，推動兩國在AI安全上的戰略夥伴關係，同時分享研究成果，並對AI模型進行聯合評估，以制定全球AI安全政策。英國科技部長Michelle Donelan表示，此次海外擴展代表英國在AI領域的領導作用，此舉將鞏固英美聯盟，也是政府制定AI安全國際新標準的核心所在，這些標準將在本週的首爾高峰會(the Seoul Summit)上討論。
此舉恰逢該研究所發布針對5個公開可用的先進AI模型進行安全測試的部份結果，成為全球首個公布其評估結果的政府補助機構，其結果顯示自去年11月的AI安全高峰會以來，該研究所在建立先進安全測試能力上取得顯著進展，如(1)部份模型完成網絡安全挑戰，但在完成更高級別挑戰時遇到困難；(2) 部份模型展示具備類似於博士水準的化學和生物學知識；(3)所有受測試模型仍非常容易受到基本越獄的影響，有些模型甚至在沒有專門試圖繞過安全措施的情況下也會產生有害輸出；(4)在沒有人類監督的情況， 所有受測試模型無法完成更複雜、耗時的任務。該研究所主任Ian Hogarth表示，該測試也代表能與公眾分享模型評估工作的部分細節，並評估將有助於對模型能力的實證評估，以及揭露現有安全措施的穩健性不足。目標是透過開發最先進的評估方式，進而推動此一領域研發，特別是與國家安全相關的風險議題。
另南韓和英國頃於5月21及22日在首爾聯合主辦第二屆AI高峰會，英國也承諾將與加拿大合作，包括透過各自的AI安全研究所，進一步打造以AI安全和治理為重點的受政府資助組織，英國科技部長Michelle Donelan和加拿大科學與創新部長François-Philippe Champagne也確認兩國將深化夥伴關係，探索於系統安全研究上的合作機會，作為該項協議的一部分，兩國將致力分享專業知識，以強化現有測試和評估工作，更將確定未來共同研究領域。(資料來源：經濟部國際貿易署)
