魚羊 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
公司剛10人，種子輪融資就融了10億美元。
這種驚掉人下巴的事兒，也只有發(fā)生Ilya Sutskever身上，才稍顯“正常”。
Ilya，在大模型席卷全球的當下，他的貢獻被公認為達到了改變世界的級別：
他是AlexNet三位作者之一，和恩師Hinton一起被挖到谷歌之后，又深度參與了震驚世界的AlphaGo項目。
2015年，他參與了OpenAI的創(chuàng)立，出任首席科學家。ChatGPT再次改變世界，他被認為是背后最關鍵的人物之一。
從去年11月至今，Ilya的一舉一動更是被推到臺前，受到全球科技圈的矚目：
由他發(fā)動的OpenAI董事會內訌揭開大模型發(fā)展路線之爭，而他在今年5月與OpenAI徹底分道揚鑣之后，所有人都在等待他的下一步創(chuàng)業(yè)動向。
現(xiàn)在，塵埃初定。一向低調的Ilya本人，也在這個時間點上，同外界分享了更多有關他的公司SSI，以及他本人對AGI思考的信息。
在與路透社的交流中，Ilya回答了關鍵的6個問題。以下，原文奉上：
為什么創(chuàng)立SSI？我們已經發(fā)現(xiàn)了一座與我之前的工作有些不同的“大山”……一旦你登上這座山的頂峰，范式就會改變……我們所知的關于人工智能的一切都將再次改變。
到那時，超級智能安全工作會變得非常關鍵。
我們的第一個產品將會是安全的超級智能。
在超級智能之前，會發(fā)布和人類一樣智能的AI嗎？我認為關鍵在于：它是否安全？它是否是世界上一股向善的力量？我認為，當我們做到這一點時，世界將會發(fā)生很大的變化。因此現(xiàn)在就給出“我們將要做什么”的明確計劃是相當困難的。
我可以告訴你的是，世界將會變得非常不同。外界對AI領域正在發(fā)生的事情的看法將會發(fā)生巨大變化，并且很難理解。這將是一場更加激烈的對話。這可能不僅取決于我們的決定。
SSI如何判定何為安全的人工智能？要回答這個問題，我們需要開展一些重要的研究。特別是如果你和我們一樣，認為事情會發(fā)生很大變化……很多偉大的想法正在被發(fā)現(xiàn)。
很多人都在思考，當AI變得更加強大時，需要對其采取哪些測試？這有點棘手，還有很多研究要做。
我不想說現(xiàn)在已經有了明確的答案。但這是我們要弄清楚的事情之一。
關于尺度假設和AI安全每個人都在說“尺度假設”，但每個人都忽略了一個問題：我們在scaling什么？
過去十年深度學習的巨大突破，是一個關于尺度假設的特定公式。但它會改變……隨著它的改變，系統(tǒng)的能力將會增強，安全問題將變得最為緊迫，這就是我們需要解決的問題。
SSI會開源嗎？目前，所有人工智能公司都沒有開源他們的主要工作，我們也是如此。但我覺得，取決于某些因素，會有很多機會去開源超級智能安全工作。也許不是全部，但肯定會有一些。
對其他AI公司安全研究工作的看法實際上，我對業(yè)界有很高的評價。我認為，隨著人們繼續(xù)取得進展，所有公司都會意識到可能是在不同的時間點他們所面臨的挑戰(zhàn)的本質。因此，我們并不是認為其他人都做不到，而是說，我們認為我們可以做出貢獻。
10億美元用來干什么最后，補充一些Ilya話外的背景信息。
SSI的消息最早在今年6月釋出，目標很明確，搞Ilya在OpenAI沒干成的事：構建安全超級智能。
目前SSI只有10名員工，融完資后，計劃利用這筆資金買算力并聘請頂尖人才
認同他們的理念，已經做好AI有一天會超越人類智能的心理準備的那種。
聯(lián)合創(chuàng)始人Daniel Gross還透露，他們并不過分看重資歷和經驗，反而會花好幾個小時審查候選人是否具有“良好的品格”。
算力方面，SSI計劃和云廠商及芯片公司開展合作，具體和哪些公司合作、怎么合作尚未明確。
除了Ilya本人之外，SSI的聯(lián)創(chuàng)還有Daniel Gross和Daniel Levy。
△左：Daniel Gross；右：Daniel Levy
Daniel Gross畢業(yè)于哈佛大學計算機系，此前也是Y Combinator的合伙人之一，也曾創(chuàng)辦或參與創(chuàng)辦了多家公司，包括Citrus Lane、WriteLaTeX（后更名為Overleaf）等。
他被《時代100》雜志列為“人工智能領域最具影響力的人物”之一。
Daniel Levy則畢業(yè)于斯坦福計算機系，此前是OpenAI優(yōu)化團隊的負責人。
