財(cái)聯(lián)社6月20日訊（編輯 史正丞）當(dāng)?shù)貢r(shí)間周三，上個(gè)月從OpenAI離職的公司聯(lián)合創(chuàng)始人、（前）首席科學(xué)家，以及去年在OpenAI董事會(huì)投出關(guān)鍵一票將奧爾特曼趕出公司，又反悔將他請(qǐng)回來(lái)的深度學(xué)習(xí)領(lǐng)域權(quán)威專家伊爾亞蘇茨克維（Ilya Sutskever），正式宣布單飛后的全新AI創(chuàng)業(yè)項(xiàng)目。
（來(lái)源：X）
簡(jiǎn)單來(lái)講，蘇茨克維創(chuàng)辦了一家叫做“安全超級(jí)智能”（Safe Superintelligence，簡(jiǎn)稱SSI）的新公司，目標(biāo)是“一步到位”地創(chuàng)造一個(gè)安全的超級(jí)智能。
安全第一、直通終極目標(biāo)
蘇茨克維打算在一個(gè)純粹的研究機(jī)構(gòu)里，直接創(chuàng)造一個(gè)安全、強(qiáng)大的人工智能系統(tǒng)，同時(shí)不會(huì)在短期內(nèi)推出任何商業(yè)化產(chǎn)品或服務(wù)。他對(duì)媒體介紹稱：“這個(gè)公司很特別，因?yàn)樗牡谝粋�(gè)產(chǎn)品就會(huì)是安全的超級(jí)智能，直到（實(shí)現(xiàn)）那一天前不會(huì)做任何其他事情，完全隔離于外部壓力，不必去處理大型、復(fù)雜的產(chǎn)品或陷入激烈的競(jìng)爭(zhēng)中。”
安全第一、不搞商業(yè)化、不理睬外界壓力，整段話里蘇茨克維沒(méi)有提到過(guò)一次OpenAI，但背后的意思已經(jīng)不言自明。雖然OpenAI的“宮斗”事件以?shī)W爾特曼的大勝、速勝結(jié)束，但整件事情背后加速主義與安全主義的路線之爭(zhēng)并沒(méi)有結(jié)束。
雖然理念不同，但雙方私下里依然維持著尚可的關(guān)系。在今年5月15日宣布離開(kāi)工作十年的OpenAI之時(shí)，蘇茨克維也發(fā)布了一張管理層的合照，并表示相信在奧爾特曼等人的帶領(lǐng)下，OpenAI將構(gòu)建出安全又有益的AGI（通用人工智能）。
（來(lái)源：X）
對(duì)于蘇茨克維的離開(kāi)，奧爾特曼回應(yīng)稱“深感悲傷”，并表示沒(méi)有蘇茨克維就沒(méi)有OpenAI的今天，并對(duì)雙方分道揚(yáng)鑣“深感悲傷”。
自去年的“宮斗”事件結(jié)束后，蘇茨克維一直對(duì)于整件事保持沉默，直到今天依然如此。在被問(wèn)及他與奧爾特曼的關(guān)系時(shí)，蘇茨克維只是簡(jiǎn)單地回答了一句“很好”，而被問(wèn)及過(guò)去幾個(gè)月的經(jīng)歷時(shí)，他也只是表示“非常奇怪”。
“像核安全一樣的安全”
從某種意義上來(lái)看，蘇茨克維目前也無(wú)法準(zhǔn)確界定AI系統(tǒng)安全與否的分界線，只能說(shuō)有一些不一樣的想法。
蘇茨克維暗示稱，他的新公司將嘗試使用“嵌入AI系統(tǒng)的工程突破”來(lái)實(shí)現(xiàn)安全，而不是技術(shù)上臨時(shí)應(yīng)用的“防護(hù)欄”。他強(qiáng)調(diào)：“我們所說(shuō)的安全，是指像核安全一樣的安全，而不是類似于‘信任與安全’那樣的東西”。
他表示花了很多年來(lái)思考AI安全方面的問(wèn)題，并且在心目中已經(jīng)有了幾種實(shí)現(xiàn)的方法。他介紹稱：“在最基本的層面上，安全的超級(jí)智能應(yīng)該具有這樣的特性，即不會(huì)對(duì)人類造成大規(guī)模傷害。在此之后，我們可以說(shuō)希望它成為一種善的力量，一種建立在關(guān)鍵價(jià)值觀上的力量。”
除了大名鼎鼎的蘇茨克維外，SSI還有兩名創(chuàng)始人前蘋果公司機(jī)器學(xué)習(xí)主管、知名科技風(fēng)險(xiǎn)投資人丹尼爾格羅斯，另一個(gè)是與蘇茨克維一同在OpenAI訓(xùn)練大模型的工程師丹尼爾萊維。
萊維表示，我的愿景與蘇茨克維完全一致：一個(gè)小而精干的團(tuán)隊(duì)，每個(gè)人都專注于實(shí)現(xiàn)安全超級(jí)智能的單一目標(biāo)。
雖然目前并不清楚SSI為何敢于喊出“一步到位”（到底有多少投資人、投了多少錢），但格羅斯明確表示，公司的確會(huì)面臨許多問(wèn)題，但找錢不會(huì)是其中之一。
回歸OpenAI的初心
從一系列愿景中不難發(fā)現(xiàn)，所謂“安全超級(jí)智能”，本質(zhì)上就是OpenAI創(chuàng)立初期的概念。但隨著訓(xùn)練大模型帶來(lái)的費(fèi)用激增，OpenAI不得不與微軟合作，換取資金和算力支持延續(xù)他們的事業(yè)。
這樣的問(wèn)題也會(huì)出現(xiàn)在SSI未來(lái)的路上公司的投資人真的愿意投入大量資金，看著這家公司沒(méi)有任何產(chǎn)出，直到實(shí)現(xiàn)“超級(jí)智能”的最終目標(biāo)嗎？
順便一提，“超級(jí)智能”本身也是一個(gè)理論上的概念，指的是一種超越人類水平的人工智能系統(tǒng)，比起全球大多數(shù)超級(jí)科技公司正在追求的成果更加先進(jìn)。但業(yè)內(nèi)對(duì)于能否實(shí)現(xiàn)這樣的智能，或如何構(gòu)建這樣的系統(tǒng)尚未形成共識(shí)。
而令人在意的是，在SSI公司發(fā)布的首個(gè)公告中，第一句話就是“超級(jí)智能已經(jīng)近在咫尺”。
附：SSI公告
安全超級(jí)智能公司 (Safe Superintelligence Inc.)
超級(jí)智能已經(jīng)近在咫尺。
構(gòu)建安全的超級(jí)智能是我們這個(gè)時(shí)代最重要的技術(shù)問(wèn)題。
我們已經(jīng)啟動(dòng)了世界上第一個(gè)直擊目標(biāo)的SSI實(shí)驗(yàn)室，目標(biāo)和產(chǎn)品只有一個(gè)：安全的超級(jí)智能。
它叫做安全超級(jí)智能公司。
SSI是我們的使命、我們的名字和我們?nèi)康漠a(chǎn)品路線圖，因?yàn)檫@是我們唯一的關(guān)注點(diǎn)。我們的團(tuán)隊(duì)、投資者和商業(yè)模式都齊心協(xié)力實(shí)現(xiàn)SSI。
我們將安全性和能力并行，視為需要通過(guò)革命性工程和科學(xué)突破解決的技術(shù)問(wèn)題。我們計(jì)劃在確保安全性始終優(yōu)先的情況下盡可能快地提高能力。
這樣，我們就能在平靜的狀態(tài)中擴(kuò)展。
我們的專注意味著不會(huì)因管理事務(wù)或產(chǎn)品周期而分心，我們的商業(yè)模式意味著安全性和技術(shù)進(jìn)步都不會(huì)受到短期商業(yè)壓力的影響。
我們是一家美國(guó)公司，在帕洛阿爾托和特拉維夫設(shè)有辦事處，這些地方是我們的根基所在，也能在這些地方招募到頂尖的技術(shù)人才。
我們正在組建一個(gè)精簡(jiǎn)的、出類拔萃的世界頂尖工程師和研究人員團(tuán)隊(duì)，只專注于SSI。
如果你是那樣的人，我們提供一個(gè)機(jī)會(huì)，讓你完成一生的事業(yè)，幫助解決我們這個(gè)時(shí)代最重要的技術(shù)挑戰(zhàn)。
伊利亞蘇茨克維爾 、丹尼爾格羅斯、丹尼爾利維
2024年6月19日
（財(cái)聯(lián)社 史正丞）
