展會(huì)信息港展會(huì)大全

擔(dān)心 AI 毀滅人類的科學(xué)家離開 OpenAI
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2024-05-16 09:05:40   瀏覽:4293次  

導(dǎo)讀:OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家伊爾亞蘇茨克維(Ilya Sutskever)在社交媒體宣布,已經(jīng)離開工作十多年的公司。他的繼任者是 OpenAI 原研發(fā)總監(jiān)雅庫(kù)布帕喬基(Jakub Pachocki)。后者本科畢業(yè)于波蘭華沙大學(xué),博士畢業(yè)于卡耐基梅隆大學(xué),在哈佛大學(xué)做過(guò)一年博...

擔(dān)心 AI 毀滅人類的科學(xué)家離開 OpenAI

OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家伊爾亞蘇茨克維(Ilya Sutskever)在社交媒體宣布,已經(jīng)離開工作十多年的公司。他的繼任者是 OpenAI 原研發(fā)總監(jiān)雅庫(kù)布帕喬基(Jakub Pachocki)。后者本科畢業(yè)于波蘭華沙大學(xué),博士畢業(yè)于卡耐基梅隆大學(xué),在哈佛大學(xué)做過(guò)一年博士后。2017 年離開學(xué)術(shù)界,開始在 OpenAI 工作,也是開發(fā) GPT-4 的關(guān)鍵人物之一

OpenAI CEO 薩姆阿爾特曼發(fā)文回應(yīng),“伊爾亞要與 OpenAI 分道揚(yáng)鑣了,這讓我很難過(guò);伊爾亞無(wú)疑是我們這一代最具才智的人物之一,是我們這個(gè)領(lǐng)域的指路明燈,也是一位親愛(ài)的朋友。他的才華和遠(yuǎn)見(jiàn)是眾所周知的;他的熱情和同情心不那么為人所知,但同樣重要。沒(méi)有他,OpenAl 就不會(huì)有今天。”

OpenAI 總裁布洛克曼也發(fā)文感謝蘇茨克維的付出,稱其為一位藝術(shù)家:“盡管人們懷疑 AGI 是否在可預(yù)見(jiàn)的未來(lái)出現(xiàn),但我們會(huì)仔細(xì)思考并采取行動(dòng),堅(jiān)信深度學(xué)習(xí)可以帶我們到達(dá)那里。”

2015 年,當(dāng)阿爾特曼與馬斯克決定創(chuàng)辦一個(gè)非營(yíng)利性的 AI 研究實(shí)驗(yàn)室時(shí),馬斯克為了把蘇茨克維從 Google 挖走,不惜與 DeepMind 的 CEO 哈薩比斯決裂。蘇茨克維加入 OpenAI 后,憑借其在軟件系統(tǒng)開發(fā)方面的專業(yè)背景,領(lǐng)導(dǎo)了對(duì) GPT 的研發(fā)。

去年 11 月,蘇茨克維主導(dǎo)了罷免 CEO 阿爾特曼的 “政變”,但很快反悔,迎回阿爾特曼,之后便再也沒(méi)有公開發(fā)聲。外界普遍認(rèn)為二者的分歧可能源于 OpenAI 商業(yè)化帶來(lái)的安全風(fēng)險(xiǎn)。

蘇茨克維是一個(gè)純粹的技術(shù)理想主義者,認(rèn)為 AI 必須永遠(yuǎn)可控,且以人類的價(jià)值觀和道德規(guī)范行事,尤其是當(dāng)他認(rèn)識(shí)到 AI 的自主性正在迅速提升,并可能在未來(lái)超越人類。如果這樣的超級(jí)智能缺乏對(duì)人類無(wú)條件的認(rèn)同和愛(ài),就可能取代甚至毀滅人類。

阿爾特曼的態(tài)度和行為則更加接近 “有效加速主義”,即相信面臨顛覆式的技術(shù)創(chuàng)新時(shí),最好的辦法是盡快地推向市場(chǎng),哪怕技術(shù)本身還不完美,實(shí)際應(yīng)用和真實(shí)反饋也比無(wú)止境地研究更有價(jià)值。硅谷知名投資人馬克安德森(Marc Andreessen)和 YC 現(xiàn)任 CEO 陳嘉興(Garry Tan)都旗幟鮮明地信奉這種價(jià)值觀。

去年 7 月,在 ChatGPT 剛剛完成一次有明顯商業(yè)化意圖的大更新后,蘇茨克維和另一位 OpenAI 科學(xué)家簡(jiǎn)萊克(Jan Leike)在 OpenAI 內(nèi)部成立了 “超級(jí)對(duì)齊” 團(tuán)隊(duì),要用 OpenAI 至少 20% 的算力資源,來(lái)讓人工智能系統(tǒng)與人類的價(jià)值觀保持一致。這次蘇茨克維宣布離職幾個(gè)小時(shí)后,萊克也緊接著辭職。上個(gè)月,“超級(jí)對(duì)齊” 團(tuán)隊(duì)兩位核心研究員還曾被 OpenAI 開除。

蘇茨克維是以色列裔加拿大人,師從 2018 年圖靈獎(jiǎng)得主杰弗里辛頓(Geoffrey Hinton)。在他的學(xué)術(shù)歷程中,2012 年開發(fā)的深度卷積神經(jīng)網(wǎng)絡(luò) AlexNet 是重要一環(huán),它在當(dāng)年的 ImageNet 挑戰(zhàn)賽中奪冠,且精確度是第二名的兩倍。AlexNet 的成功為深度學(xué)習(xí)領(lǐng)域的發(fā)展奠定基礎(chǔ),也在一定程度上影響當(dāng)前 AI 領(lǐng)域?qū)?GPU 的重視。

此外,他在時(shí)序預(yù)測(cè)回歸模型 Seq2Seq、主流機(jī)器學(xué)習(xí)框架 TensorFlow 等自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)等領(lǐng)域都有重要的科研成果。ICLR 2024 會(huì)議為了尋找具有長(zhǎng)期影響力的論文,審查了十年前的學(xué)術(shù)研究,蘇茨克維在 2014 年的一篇論文獲得時(shí)間檢驗(yàn)獎(jiǎng)亞軍。

蘇茨克維稱他已有下一步計(jì)劃,但并未透露更多細(xì)節(jié)。(邱豪 曾興)

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港