美國斯坦福大學(xué)教授、美國國家工程院院士李飛飛（來源：斯坦福大學(xué)賬號）
北京時間5月10日凌晨舉行的Bloomberg Tech活動上，著名華人計算機(jī)科學(xué)家、美國斯坦福大學(xué)教授李飛飛（Fei-Fei Li）與彭博社Emily Change進(jìn)行對話。
這場15分鐘對話中，李飛飛表示，所謂擔(dān)心人類被 AI 滅絕的風(fēng)險被過度炒作，“這已經(jīng)被夸大了”，所謂“滅絕性的危機(jī)”有點太過了。不過，她依然認(rèn)為需要對 AI 模型進(jìn)行限制，擔(dān)憂、評估和審查這些 AI 模型。
這是外界公布李飛飛創(chuàng)業(yè)之后的首次參加對話活動。
李飛飛是 AI 領(lǐng)域的先驅(qū)性人物，也是計算機(jī)領(lǐng)域的華人女科學(xué)家，目前還是斯坦福大學(xué)首位紅杉講席教授、美國國家工程院院士、美國國家醫(yī)學(xué)院院士、美國文理科學(xué)院院士、ImageNet的首席科學(xué)家和首席研究員、斯坦福以人為本人工智能研究院院長、AI4ALL聯(lián)合創(chuàng)始人。她的專業(yè)領(lǐng)域是計算機(jī)視覺和認(rèn)知神經(jīng)科學(xué)。
李飛飛一直被稱為“AI 教母”源自與圖靈三大“AI 教父”一樣的稱號。她通過開發(fā)一種名為ImageNet的大規(guī)模圖像數(shù)據(jù)集在AI領(lǐng)域名聲大噪。該數(shù)據(jù)集幫助開創(chuàng)了新一代能可靠識別物體的計算機(jī)視覺技術(shù)，也是ChatGPT底層技術(shù)之一。
2016年11月，李飛飛加入谷歌，擔(dān)任谷歌云AI/ML首席科學(xué)家。2018年9月，返回斯坦福任教，現(xiàn)為谷歌云AI/ML顧問。10月20日斯坦福大學(xué)以人為中心的AI計劃開啟，李飛飛擔(dān)任聯(lián)合負(fù)責(zé)人。
此前報道稱，她創(chuàng)立了一家“空間智能”企業(yè)，并完成了種子輪融資。投資方包括硅谷風(fēng)險投資公司 Andreessen Horowitz（a16z）、加拿大基金Radical Ventures等。但在對話中拒絕談?wù)摯耸隆?/p>
李飛飛強(qiáng)調(diào)，她看到越來越多的女性，和多樣化背景的人進(jìn)入科技和人工智能領(lǐng)域，多樣化背景人員將有可能成為杰出的思想家、創(chuàng)新者、技術(shù)人員和教育家，發(fā)明家，科學(xué)家。因此她完全接受“AI 教母”這個稱號。
以下是李飛飛對話全文：
歡迎李飛飛博士登臺，她是斯坦福大學(xué)計算機(jī)科學(xué) Sequoia 教授，人工智能中心聯(lián)合主任。
Emily Chang: 李博士被譽為人工智能的教母。你對這個稱號有何感想？這是我要提的第一個問題。
李飛飛：Emily，我自己從未自稱為任何事情的教母，但當(dāng)我被授予這個頭銜時，我確實停下來思考了一下，我想，如果男性可以被稱為某事的教父，那么女性也可以，所以我完全接受這個稱號。
Emily Chang: 百分之百。
Emily Chang: 你是我們這個時代最有影響力的計算機(jī)科學(xué)家之一。你撰寫了大量的學(xué)術(shù)論文。你是 ImageNet 的創(chuàng)造者，這個包含大量圖片及其描述的數(shù)據(jù)庫為現(xiàn)代 AI 奠定了基矗你有想象過它的影響力會有多大嗎？
李飛飛：ImageNet 于 2007 年被設(shè)想出來，它可能是 AI 算法中大數(shù)據(jù)的關(guān)鍵轉(zhuǎn)折點。從科學(xué)的角度看，我堅信大數(shù)據(jù)會從根本上改變我們進(jìn)行 AI 研究的方式，但我從未想到大數(shù)據(jù)、神經(jīng)網(wǎng)絡(luò)和 GPU 的融合會催生出現(xiàn)代 AI，我也從未預(yù)想到從那時起的進(jìn)步速度。
Emily Chang: 你經(jīng)常和那些正在決定這項技術(shù)未來的人們在同一房間里，比如拜登總統(tǒng)，Sam Altman，Sundar Pichai，Satya Nadella。你在國會作證，你參與了各種工作小組。你對那些有權(quán)力的人，他們應(yīng)該如何使用這種權(quán)力，有什么主要的建議嗎？
李飛飛：Emily，很好的問題。實際上，無論我是在 K-12 夏令營，還是在斯坦福大學(xué)的 AI 導(dǎo)論課程中，我的信息都是一樣的，那就是要認(rèn)識到這項技術(shù)，它是什么，以及如何負(fù)責(zé)任和審慎地使用它。理解并接納它，因為它是一種橫跨各個領(lǐng)域的技術(shù)，正在改變我們的文明，推動商品流通，科學(xué)發(fā)現(xiàn)的快速進(jìn)展，尋找治療癌癥的方法，繪制生物多樣性地圖，和我們一起發(fā)現(xiàn)新材料。但同時，也要認(rèn)識到所有可能產(chǎn)生的后果，包括可能的非預(yù)期后果，以及如何負(fù)責(zé)任地開發(fā)和部署它。我認(rèn)為，在現(xiàn)今的對話中，保持平衡，理性深思的聲音非常重要。無論是在白宮還是學(xué)校。
Emily Chang: 現(xiàn)在，我不知道你會否稱這為一場危機(jī)或一個轉(zhuǎn)折點，但 AI 模型的訓(xùn)練數(shù)據(jù)正在耗盡，然后有些公司開始轉(zhuǎn)向使用 AI 生成的數(shù)據(jù)和合成數(shù)據(jù)來訓(xùn)練他們的模型。這個問題有多嚴(yán)重？有哪些風(fēng)險？下一步該怎么做？
李飛飛：首先，我認(rèn)為 AI 模型的訓(xùn)練數(shù)據(jù)正在耗盡是一種非常狹隘的觀點。我知道你在暗指那些消耗大量互聯(lián)網(wǎng)數(shù)據(jù)的大語言模型，特別是那些來自網(wǎng)站、Reddit、維基百科等你能獲取的數(shù)據(jù)。即使在談?wù)撜Z言模型，我們也不應(yīng)局限于此。我認(rèn)為還有很多可以探索的。
我們看到，不同的數(shù)據(jù)可以用來構(gòu)建定制化的模型，無論是用于新聞業(yè)還是在諸如醫(yī)療保健等不同的行業(yè)領(lǐng)域。其實我們并沒有耗盡數(shù)據(jù)。實際上，還有很多有許多行業(yè)還未進(jìn)入數(shù)字化時代。我們并未充分利用數(shù)據(jù)，不論是在醫(yī)療、環(huán)保還是教育等領(lǐng)域。因此，即使在語言模型這個領(lǐng)域，我不認(rèn)為我們的數(shù)據(jù)已經(jīng)用荊
Emily Chang: 您認(rèn)為現(xiàn)在使用 AI 生成的數(shù)據(jù)來訓(xùn)練模型是好事，還是這可能會讓我們逐漸遠(yuǎn)離原始數(shù)據(jù)，以一種可能危險的方式進(jìn)行？
李飛飛：這是個需要更深入探討的問題。這是個好問題。AI 有很多生成數(shù)據(jù)的方法。比如在我的斯坦福實驗室，我們做了很多機(jī)器人研究，對吧？機(jī)器人學(xué)習(xí)。在這里，模擬數(shù)據(jù)非常重要，因為我們根本沒有足夠的資源或機(jī)會去收集由人類產(chǎn)生的動作等等。模擬真的非常重要。這會讓我們走向危險的道路嗎？
我認(rèn)為，即使是使用人類生成的數(shù)據(jù)，也可能讓我們走向危險的道路。同樣，如果我們對模擬數(shù)據(jù)的處理不負(fù)責(zé)任，或者沒有進(jìn)行深思熟慮，那么當(dāng)然可能會使我們走向危險的道路。我的意思是，我甚至不需要特意指出。你知道有哪些是人類生成的不良數(shù)據(jù)，對嗎？就像整個暗網(wǎng)那樣。所以問題不在于模擬本身，問題在于數(shù)據(jù)。
Emily Chang: 你正在涉足熱門且競爭激烈的 AI 創(chuàng)業(yè)領(lǐng)域。你正在啟動一些項目，能透露一些信息嗎？
李飛飛：不能。
Emily Chang: 好的。那就期待后續(xù)吧。我們就 AI 時代的信任度進(jìn)行了一項調(diào)查。可以公布那項調(diào)查的結(jié)果嗎？問題是，你對科技公司能否安全開發(fā) AI 有多大的信任？我完全信任他們，0%。我持懷疑態(tài)度，所有人。一點也不信任。
李飛飛：是誰在做？
Emily Chang: 這個房間里的人。
李飛飛：ok
Emily Chang: 如果你要對 AI 領(lǐng)域的主要參與者進(jìn)行排名，你最信任誰，最不信任誰？
李飛飛：我的信任并沒有寄托在某個參與者身上。我信任的是我們共同創(chuàng)建的整個系統(tǒng)以及我們共同創(chuàng)建的機(jī)構(gòu)。所以這可能是你的陷阱問題，但是我無法指出我覺得，你知道，我是說，想想美國的開國元勛們。他們并沒有將信任寄托在一個人身上。他們創(chuàng)建了一個我們所有人都可以信任的系統(tǒng)。
Emily Chang: 我們在做這個嗎？
李飛飛：我們正在嘗試，至少斯坦福人類中心 AI 研究所正在嘗試。我認(rèn)為很多人也在試圖做這個。我經(jīng)常被問到這個問題，Emily，你對 AI 還抱有希望嗎？首先，這是一個非常悲傷的問題，但我確實會說，我的希望并不在 AI 上。我的希望在于人。我并不是一個妄想的樂觀主義者。人是復(fù)雜的。我是復(fù)雜的。你是復(fù)雜的。但我的希望在于人，在我們的集體意愿，在我們的集體責(zé)任，很多事情正在發(fā)生，我們正在前進(jìn)，我們中的許多人正在努力使這項技術(shù)成為一項可靠的文明技術(shù)，以便提升我們所有人。Emily Chang: 人們談到的風(fēng)險有很多，如人類滅絕，壞人，種族偏見，被夸大的各種偏見。你最擔(dān)心的是什么？
李飛飛：我更擔(dān)心的是更為緊迫的社會災(zāi)難風(fēng)險。我也擔(dān)心人類滅絕風(fēng)險被過度炒作。我覺得這已經(jīng)被夸大了。這屬于科幻世界的事情，只是在思考它。對于思考這些問題并沒有什么錯，但相比之下，實際的社會風(fēng)險，無論是對我們民主過程的錯誤信息和虛假信息的干擾還是勞動力市場的轉(zhuǎn)變，或者存在偏見的隱私問題這些都是我們必須面對的實際社會風(fēng)險因為它們影響到真實的人們的真實生活。
Emily Chang: Meta 正在領(lǐng)導(dǎo)一個開源 AI 運動。你認(rèn)為什么應(yīng)該是開放的，什么不應(yīng)該開放？
李飛飛：這是一個很復(fù)雜的問題。我確實相信一個開放的生態(tài)系統(tǒng)，特別是在我們的（美國）世界中。我認(rèn)為回顧我們國家在過去一百年甚至更久的歷史中的亮點無不體現(xiàn)在創(chuàng)新、企業(yè)家精神，還有信息的自由流通。所以，我們需要倡導(dǎo)這種開放的生態(tài)系統(tǒng)。
Emily Chang: 在 AI 中，沒有人談?wù)摰淖畲蟮氖虑槭鞘裁�？我們�?yīng)該談?wù)撌裁矗?/p>
李飛飛：我認(rèn)為我們應(yīng)該更多地談?wù)�，天哪，實際上有太多的事情。我們應(yīng)該談?wù)撐覀內(nèi)绾握嬲胂笪覀內(nèi)绾问褂眠@項技術(shù)。我跟醫(yī)生、生物化學(xué)家、老師交談。我跟藝術(shù)家、農(nóng)場主交談。有這么多我們可以想象使用的方式。有這么多我們可以用來改善人們生活改善工作的方式。我不認(rèn)為我們談?wù)摰脡蚨�。我們正在談�(wù)摰氖悄┤盏年幇得娑乙仓挥猩贁?shù)人在談?wù)撃┤盏年幇得嫒缓竺襟w在放大這種聲音。
Emily Chang: 我不知道你在說誰。
李飛飛：我無意中揮了揮手。我不認(rèn)為我們給了足夠的聲音給那些真正以最具想象力、創(chuàng)造性的方式試圖用 AI 給世界帶來好處的人。對過度管制的擔(dān)憂
Emily Chang:有沒有任何人，任何事情你想指出就是任何人或任何公司，讓你感到惱火？
李飛飛：我知道你在說什么。我已經(jīng)指出過他們，我不會說是胡說，只是我覺得我們對“存在危機(jī)”關(guān)注得太過了，哦，不對，是“滅絕性的危機(jī)”。
Emily Chang: 存在主義引發(fā)的滅絕危機(jī)。
李飛飛：是的，就是這個意思。這就是我們過于強(qiáng)調(diào)的問題。我擔(dān)心我們國家不同地區(qū)，比如加利福尼亞，正在推進(jìn)的一些法案，過于強(qiáng)調(diào)這個問題。這些法案可能出于善意，但它們對 AI 模型設(shè)定了限制，甚至可能無意中將開源視為違法，而沒有真正思考如何評估和審查這些 AI 模型。我對此感到擔(dān)憂。
Emily Chang: 你是不是認(rèn)為我們可能會過度管制呢？
李飛飛：有可能，我們可能會過度管制，而這樣可能會傷害我們的生態(tài)系統(tǒng)。但同時，在醫(yī)療、交通、金融等實際應(yīng)用領(lǐng)域，我們應(yīng)該考慮設(shè)置恰當(dāng)?shù)姆雷o(hù)措施。
Emily Chang: 你跟拜登總統(tǒng)談過這個問題嗎？我知道你可以直接跟他聯(lián)系。
李飛飛：我不能告訴你，我跟他談過什么。其實，在跟拜登總統(tǒng)的交談中，我們討論了投資公共部門 AI 的重要性，因為我們現(xiàn)在就在硅谷，大家都知道，無論是人才、數(shù)據(jù)還是計算能力，都主要集中在科技產(chǎn)業(yè)中，尤其是大型科技公司。
而美國公共部門和學(xué)術(shù)界在 AI 資源方面正在迅速落后。斯坦福自然語言處理實驗室只有 64 個 GPU，只有 64 個。想一想這個對比。我們談?wù)摿斯膊块T的資源問題，因為公共部門是我們國家的創(chuàng)新引擎，它創(chuàng)造了公共產(chǎn)品，發(fā)現(xiàn)了科學(xué)知識，并且為公眾提供了對這項技術(shù)的可信賴和負(fù)責(zé)任的評估和解釋。
Emily Chang: 所以最后一個問題，我知道你非常關(guān)注這個問題在你的實驗室和其他地方這個領(lǐng)域沒有足夠的女性和有色人種掌控權(quán)這個風(fēng)險有多大，可能會引發(fā)什么問題？
李飛飛：是的，Emily，我知道你一直在倡導(dǎo)這個問題，看，還不夠。實際上，我認(rèn)為文化并不一定變得更好，我們看到越來越多的女性和多樣化背景的人進(jìn)入科技和人工智能領(lǐng)域，但我們也看到男性的聲音被更多地傳播。人們會說，飛飛，你在這里發(fā)言，但有很多人比我更好。有很多年輕的女性，來自各種多樣化背景的科技人員，他們的聲音應(yīng)該被聽到，應(yīng)該有更大的發(fā)言平臺。如果我們聽不到他們的聲音，那就真的是在浪費人力資本，對吧？這些都是杰出的思想家、創(chuàng)新者、技術(shù)人員和教育家，發(fā)明家，科學(xué)家，如果我們不給他們發(fā)言的機(jī)會，不聽他們的想法，不提升他們的地位，就是在浪費我們集體的人力資本。
Emily Chang: 我認(rèn)為教母是一個非常好的稱呼。大家怎么看？你們同意嗎？
所有人：是的。
Emily Chang: 好的，謝謝您。人工智能教母。
（本文首發(fā)于鈦媒體App，作者｜AI科技組，編輯｜林志佳、胡潤峰）
