超級智慧安全與否太重要、OpenAI創辦人設AI新創

2024/06/20 07:33

MoneyDJ新聞 2024-06-20 07:33:39 記者 郭妍希 報導

甫於5月離職的OpenAI共同創辦人Ilya Sutskever宣布,他成立了一家AI新創,旨在追求安全的超級智慧(superintelligence)。

Sutskever 19日透過社交平台X宣布,他成立了新公司「Safe Superintelligence」(SSI Inc.),傾注全力追求安全的超級智慧,只有一個焦點、一個目標、一項產品。他說,「我們準備組建一個小型精銳團隊,透過革命性的突破來達成目標。」

CNBC、路透社報導,Sutskever曾是OpenAI科學長,跟Jan Leike共同帶領OpenAI的超級對齊(Superalignment)團隊。Leike也在5月離去,加入背後有亞馬遜(Amazon.com)及Google撐腰的AI新創商Anthropic。

OpenAI的超級對齊團隊原本負責引導及控制AI系統,但在Sutskever、Leike宣布離職不久後便遭到解散。

Sutskever新設立的企業將持續聚焦人工智慧安全性。SSI官網指出,「SSI是我們的使命、公司名稱以及整個產品路線圖,因為這是我們唯一焦點。」「我們專注於一個目標,不會因管理事務或產品週期分心,我們的商業模式確保安全、保安和進步都不會受到短期商業壓力影響。」

Sutskever跟曾領導蘋果(Apple Inc.)AI與研究工作的Daniel Gross、OpenAI前技術人員Daniel Levy共同創辦SSI,在加州帕羅奧圖(Palo Alto)及以色列特拉維夫(Tel Aviv)皆設有辦公室。

Sutskever曾是去(2023)年11月試圖將OpenAI執行長阿特曼(Sam Altman)逐出公司的董事會成員之一。阿特曼及Sutskever等董事,對於OpenAI追求先進AI時應設立哪些防線衝突不斷。

Sutskever老師、被業界尊為「AI教父」的辛頓(Geoffrey Hinton) 3月底接受日經訪問時曾透露,Sutskever非常擔憂安全機制,OpenAI原先使命是,就算營利也要把安全擺第一,如今營利卻排在安全前面。2012年AI還無法跟上人類,只能辨識物體及影像,無法理解語言及複雜事物。然而,Sutskever比辛頓還要早改變看法,最後證明他是對的。

阿特曼近日傳出考慮改變OpenAI的治理結構、轉型為營利事業,屆時非營利董事會沒有控制權。The Information 6月14日報導,聽聞過相關討論的不具名人士指出,阿特曼對部分股東表示,OpenAI正在考慮的方案是成為一家營利性福利(for-profit benefit)公司,跟AI競爭對手Anthropic、xAI使用的治理結構相同。

(圖片來源:shutterstock)

*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申 述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。

個股K線圖-
熱門推薦