《科學(xué)四十人》系列座談第八期（左起，薛瀾、李航、張宏江、周忠和）
大家好，我是知識(shí)分子總編輯周忠和，自2022年11月30日ChatGPT發(fā)布以來(lái)，全球范圍內(nèi)掀起了有史以來(lái)規(guī)模最大的人工智能浪潮。
在過(guò)去短短的一年多時(shí)間里，ChatGPT4.0和文生視頻的大模型SORA相繼發(fā)布，就在不久前，Openai的競(jìng)爭(zhēng)對(duì)手Anthropic發(fā)布的新一代大模型Claude 3甚至被認(rèn)為全面超越了GPT-4。
全球都在熱烈討論AGI也就是我們所說(shuō)的通用人工智能何時(shí)能實(shí)現(xiàn)？突飛猛進(jìn)的人工智能究竟會(huì)給我們?nèi)祟惿顜?lái)什么樣的影響？比如說(shuō)會(huì)不會(huì)迎來(lái)大規(guī)模的失業(yè)或者就業(yè)的重組？會(huì)不會(huì)從根本上改變我們?nèi)祟愇拿鞯男螒B(tài)？甚至于AI覺(jué)醒以后，硅基生命會(huì)不會(huì)超越以人類為代表的碳基生命？
我們請(qǐng)到了源碼資本投資合伙人、北京智源研究院創(chuàng)始理事長(zhǎng)張宏江，清華大學(xué)蘇世民書(shū)院院長(zhǎng)、人工智能?chē)?guó)際治理研究院院長(zhǎng)薛瀾，字節(jié)跳動(dòng)研究部門(mén)負(fù)責(zé)人李航，來(lái)探討我們離通用人工智能究竟還有多遠(yuǎn)，OpenAI開(kāi)源的可能性和開(kāi)源生態(tài)，中國(guó)人工智能的發(fā)展機(jī)遇和挑戰(zhàn)。
Sora開(kāi)始理解物理規(guī)律、懂得常識(shí)
周忠和：我們今天的第一個(gè)問(wèn)題是關(guān)于Sora的，Open AI推出的Sora，究竟有哪些地方讓你感到真正的興奮，或者說(shuō)Sora的最值得關(guān)注的地方是什么？Sora給你最大的觸動(dòng)是什么？
薛瀾：我看到Sora的時(shí)候感覺(jué)很震驚。因?yàn)樗粌H僅是文字交流，而且有了一定的想象力。Sora能夠根據(jù)一段簡(jiǎn)短的文字描述，生成一系列連貫的動(dòng)態(tài)畫(huà)面，這不僅僅是對(duì)文本的理解，更是對(duì)物理世界運(yùn)作規(guī)律的一種把握。
過(guò)去我們討論AI的時(shí)候，總認(rèn)為想象力是人類的專利，但現(xiàn)在，Sora顯示出AI也能具備這樣的能力。這可能是Sora一個(gè)與眾不同的地方。
張宏江：首先，我想談?wù)凷ora這個(gè)大模型給我?guī)?lái)的震撼。Sora的發(fā)布實(shí)際上是演示性的，它發(fā)布演示視頻，并沒(méi)發(fā)布模型本身，但從40個(gè)演示視頻中，我們可以看到AI技術(shù)的巨大進(jìn)步，非常令人振奮。
我注意到幾個(gè)亮點(diǎn)：第一，它生成的是高分辨率視頻，過(guò)去的視頻生成沒(méi)有做到過(guò)這么高的分辨率；第二，視頻時(shí)長(zhǎng)達(dá)到60秒，而過(guò)去在生成視頻方面表現(xiàn)比較好的Runway做了兩年，也只能做到幾秒鐘；第三，也是最讓人震撼的是其中一個(gè)場(chǎng)景，一輛越野吉普車(chē)在崎嶇的山路上狂奔。這種鏡頭以往需要有一臺(tái)設(shè)備在后面跟拍，因?yàn)槁访骖嶔るy度很高，但生成的視頻效果非常逼真。包括車(chē)輛行駛的邏輯也很優(yōu)秀，一直是靠右行駛，轉(zhuǎn)彎表現(xiàn)也很自然。
智源研究院創(chuàng)始理事長(zhǎng)張宏江
周忠和：我有個(gè)外行的問(wèn)題。我們普通人看這些視頻，可能會(huì)覺(jué)得它們不過(guò)就是一些高質(zhì)量的影像。它的想象力和邏輯不也是人灌輸進(jìn)去的嗎？
張宏江：不，人并沒(méi)有明確地告知它要這么做。
在傳統(tǒng)圖形學(xué)模式下，制作視頻通常需要構(gòu)建詳細(xì)的物理模型。例如，我們想制作一個(gè)車(chē)輛行駛的視頻，需要先創(chuàng)建一個(gè)三維的車(chē)輛模型，以及一個(gè)包含道路和其他環(huán)境元素的場(chǎng)景模型。場(chǎng)景環(huán)境模型相當(dāng)于虛擬世界，車(chē)輛模型則是在這個(gè)世界中運(yùn)動(dòng)的物體。這些模型需要精確地定義動(dòng)態(tài)行為和環(huán)境的交互方式，對(duì)各種物理規(guī)律、運(yùn)動(dòng)規(guī)則進(jìn)行明確編碼，確保車(chē)輛在轉(zhuǎn)彎或行駛時(shí)的表現(xiàn)符合現(xiàn)實(shí)世界的情況。
在使用Sora這樣的大模型時(shí)，我們并沒(méi)有直接告訴AI這些具體的物理規(guī)則。相反，是AI通過(guò)分析大量的視頻數(shù)據(jù)，自己學(xué)到的。我們沒(méi)有告訴它，世界上大部分地方車(chē)是靠右走的。也沒(méi)有告訴它，如果不跟隨路線轉(zhuǎn)彎，車(chē)會(huì)撞到山上。這種明確的規(guī)則我們都沒(méi)有告訴它。
這是讓我覺(jué)得非常震撼的。GPT 3.5、GPT 4.0以及Claude這些模型，它們主要擅長(zhǎng)理解語(yǔ)言，也就是文字描述。但Sora所展示的不僅僅是理解語(yǔ)言，還能夠理解物理世界。
周忠和：你可以說(shuō)它已經(jīng)理解物理規(guī)律、懂得常識(shí)了，但我總覺(jué)得這只是模仿。
張宏江：是模仿，但記得費(fèi)曼曾說(shuō)過(guò)一句名言，“我無(wú)法理解我不能創(chuàng)造的東西”。現(xiàn)在我們能生成出來(lái)了，難道不就是理解了嗎？
薛瀾：說(shuō)到智能，我們得先定義一下什么是人的智能。我們有認(rèn)知能力、推理能力、創(chuàng)造力，可能還有其他方面，比如情商。如果我們從這些方面看，有些方面，比如認(rèn)知和推理能力，AI可能已經(jīng)超過(guò)了常人，甚至可能超過(guò)最厲害的人。但在另一些維度上，人類可能還會(huì)保持優(yōu)勢(shì)。
另外，您雖然覺(jué)得人工智能只是模仿。但人類獲得這些能力的過(guò)程，本質(zhì)上不也是如此嗎？都是在不斷接收外部信息，逐步形成認(rèn)知和思維模式，二者在方法上沒(méi)有根本區(qū)別。
周忠和：李航老師，您是否也有同樣的感受？
李航：有些地方一樣，有些地方不一樣。我們自己開(kāi)發(fā)的PixelDance系統(tǒng)，效果上超越了當(dāng)時(shí)最好的Runway等系統(tǒng)，但今年2月Sora發(fā)布，PixelDance又被Sora超越。我的一個(gè)感受是做事要快，因?yàn)楝F(xiàn)在的競(jìng)爭(zhēng)非常激烈。
另外從Sora的技術(shù)報(bào)告和相關(guān)論文看，雖然它技術(shù)上有所創(chuàng)新，但并不是革命性的。主要的創(chuàng)新是將擴(kuò)散模型的Unet架構(gòu)改成了Transformer架構(gòu)，這讓模型能夠處理更多的數(shù)據(jù)，更好地學(xué)習(xí)物理現(xiàn)象。從科學(xué)的角度上看，我認(rèn)為AI大模型目前具有一個(gè)共同特點(diǎn)，就是它們都基于Transformer架構(gòu)，最基礎(chǔ)的東西是都一樣的。
周忠和：近幾年在基礎(chǔ)科學(xué)原理上并沒(méi)有太大突破？
李航：是的，雖然有所進(jìn)步，但自從2017年Transformer架構(gòu)出現(xiàn)以來(lái)，我們看到了不斷的收斂。Transformer最初是為自然語(yǔ)言處理開(kāi)發(fā)的，現(xiàn)在，即使是計(jì)算機(jī)視覺(jué)領(lǐng)域也開(kāi)始轉(zhuǎn)向使用Transformer架構(gòu)。
周忠和：那么，你有沒(méi)有張老師那樣的感覺(jué)，也認(rèn)為AI模型現(xiàn)在開(kāi)始理解常識(shí)和物理規(guī)律了？
李航：是的，我同意張老師的觀點(diǎn)。但我認(rèn)為未來(lái)的空間仍然非常大。Sora還不是3D的。3D生成技術(shù)，能夠讓我們從不同角度看到物體的樣子。比如，從正面看到一個(gè)人，我們是有能力想象他的后腦勺是什么樣子的。3D生成能幫助我們看到人的后腦勺。
目前，3D生成技術(shù)還處于初級(jí)階段。去年的計(jì)算機(jī)視覺(jué)國(guó)際會(huì)議ICCV，是領(lǐng)域內(nèi)最頂級(jí)的會(huì)議之一，在會(huì)議上展示的論文，大家可以去看目前技術(shù)生成的效果，其實(shí)都是比較簡(jiǎn)單的。比如一個(gè)物體，桌子或椅子，把它換一個(gè)角度是什么樣子。
再有，現(xiàn)在的生成模型并沒(méi)有物體的語(yǔ)義。我們看視頻時(shí)，能認(rèn)出這是汽車(chē)、那是道路，但在Sora的模型中，它并不準(zhǔn)確地理解這些，它只是對(duì)像素和數(shù)據(jù)進(jìn)行處理。未來(lái)如果我們能夠進(jìn)一步發(fā)展這項(xiàng)技術(shù)，讓它不僅能處理3D空間關(guān)系，還能理解物體的語(yǔ)義信息，那么我們就更接近于創(chuàng)造出類似人類的智能。在這方面，我們還有很多工作可以做。
Transformer是最佳路徑嗎？我們會(huì)不會(huì)過(guò)于路徑依賴了？
張宏江：李老師剛才提到的Transformer架構(gòu)確實(shí)非常關(guān)鍵。自2017年起，Transformer這條路徑給我們做AI的人或者做大模型的人指出了一條路。過(guò)去七年，行業(yè)內(nèi)已經(jīng)認(rèn)可它是大模型發(fā)展通向AGI的一條正道。
技術(shù)發(fā)展是有路徑依賴的。意味著一旦我們確定了正確的方向，所有的關(guān)注和資源都會(huì)隨之集中�；氐狡吣昵埃珿oogle的研究人員發(fā)明了Transformer架構(gòu)，但OpenAI才是真正認(rèn)識(shí)到其潛力并全力投入的一方。盡管Google也推出了許多模型，但很長(zhǎng)一段時(shí)間沒(méi)有一個(gè)能夠超越GPT3.5的成就。
現(xiàn)在所有做大模型的人，都把重點(diǎn)放在Transformer架構(gòu)上，包括Sora也是這樣，過(guò)去生成視頻用Unet框架無(wú)法達(dá)到的，換成Transformer架構(gòu)就實(shí)現(xiàn)了突破。未來(lái)，無(wú)論是GPT4.5、GPT5、Claude還是Gemini，Transformer這條道路都會(huì)持續(xù)。
薛瀾：既然說(shuō)到這兒，我插一個(gè)問(wèn)題。我們是否會(huì)因?yàn)槁窂揭蕾嚨脑�，而忽視了其他可能更好的路徑�?017年的Transformer架構(gòu)確實(shí)很重要，但當(dāng)時(shí)也有其他路徑。我們現(xiàn)在是否確定這是最好的路徑？我們是否可能錯(cuò)過(guò)了其他潛在的優(yōu)秀路徑？
清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾
張宏江：您的問(wèn)題正好給了我一個(gè)機(jī)會(huì)，我想說(shuō)的是，這就像當(dāng)初電的發(fā)明，當(dāng)交流電成為主流后，直流電最終只用于電池。這種路徑依賴是非常關(guān)鍵的。
李航：我想補(bǔ)充的是，作為科學(xué)家，我們總是尋求更好的、顛覆性的技術(shù)來(lái)改變現(xiàn)有的Transformer。但目前大家做了很多努力，我也知道一些研究。盡管在小規(guī)模上有些模型看起來(lái)還不錯(cuò)，可一旦擴(kuò)大規(guī)模，它們都無(wú)法超越Transformer。目前的結(jié)論是Transformer確實(shí)非常強(qiáng)大，其他模型，但到目前為止，還沒(méi)有能成功顛覆Transformer。
張宏江：這引出了另一個(gè)話題，也就是大模型的Scaling Law。Transformer架構(gòu)成為主流，我們驗(yàn)證了它的強(qiáng)大。接下來(lái)，是把它的規(guī)模越做越大，給它喂越來(lái)越多的數(shù)據(jù)。這個(gè)領(lǐng)域從業(yè)者們大多認(rèn)為，這個(gè)架構(gòu)的潛力還沒(méi)有達(dá)到極限。
所以，你可以看到為什么現(xiàn)在大家都在急切地投資購(gòu)買(mǎi)芯片、增強(qiáng)算力。當(dāng)我們?cè)谧非笏懔Φ臅r(shí)候，實(shí)際上也是在競(jìng)爭(zhēng)數(shù)據(jù)中心（IDC）的資源。而在搶占IDC的過(guò)程中，我們又不得不去爭(zhēng)取電力供應(yīng)。這一連串的動(dòng)作，實(shí)際上都是因?yàn)榇蠹艺J(rèn)同一個(gè)觀點(diǎn)：Scaling Law相信隨著模型規(guī)模的增長(zhǎng)，性能和能力也會(huì)相應(yīng)提升。
周忠和：剛才張老師認(rèn)為Sora生成的視頻是符合物理規(guī)律的，Sora能夠理解常識(shí)。不過(guò)也有不同的聲音，比如圖靈獎(jiǎng)得主楊立昆（Yann Lecun），他說(shuō)僅靠大量文本數(shù)據(jù)訓(xùn)練是達(dá)不到人類智能水平的。還有的人覺(jué)得這是個(gè)死胡同，認(rèn)為快到極限了。您剛才好像不太同意這種看法？
張宏江：我可能要得罪人了。我覺(jué)得那些說(shuō)這種路線快到極限的人，其實(shí)并不是真正的從業(yè)人員，沒(méi)有參與其中。如果在做這件事，你會(huì)我們這些在一線的人一樣，非常相信Scaling Law。
如果大家對(duì)這個(gè)感興趣的話，可以看看清華大學(xué)清華大學(xué)交叉信息研究院的助理教授，也是月之暗面公司CEO楊植麟最近的采訪，他談到了Scaling Law，我覺(jué)得講得很好。他作為一個(gè)年輕學(xué)者，對(duì)Transformer和未來(lái)的看法，我覺(jué)得很有見(jiàn)地。我們離Transformer的極限還早著呢，現(xiàn)在的問(wèn)題可能是數(shù)據(jù)不夠，我們應(yīng)該想辦法繼續(xù)擴(kuò)大數(shù)據(jù)規(guī)模。
周忠和：還有人提到電力和其他資源。
張宏江：Scaling Law會(huì)帶動(dòng)很多相關(guān)的東西。比如芯片行業(yè)，英偉達(dá)的股票瘋漲，IDC公司也是，數(shù)據(jù)現(xiàn)在變得非常值錢(qián)。這些都是推動(dòng)整個(gè)產(chǎn)業(yè)發(fā)展的生態(tài)因素。所以，我覺(jué)得極限還遠(yuǎn)著呢。像楊立昆這樣的學(xué)者，我非常尊重他，但在這個(gè)觀點(diǎn)上我不太認(rèn)同他。他認(rèn)為數(shù)據(jù)驅(qū)動(dòng)的系統(tǒng)沒(méi)有真正的推理和學(xué)習(xí)能力，走不到AGI。這是他的定義，但按照我的定義，我們正在朝那個(gè)方向前進(jìn)。
周忠和：李航老師，你的觀點(diǎn)和張老師一樣嗎？
李航：我部分同意張老師的看法。我相信Scaling Law的潛力，也認(rèn)為我們還沒(méi)看到極限。不過(guò)，我的觀點(diǎn)也不完全一樣，我去年在香港開(kāi)會(huì)時(shí)和楊立昆老師當(dāng)面聊過(guò)，他覺(jué)得現(xiàn)在的大模型缺乏世界模型。我理解的是，如果能夠?qū)⒁曈X(jué)、語(yǔ)言等多模態(tài)信息結(jié)合，就會(huì)更接近世界模型。就像我剛才說(shuō)的，視頻生成的時(shí)候，也能生成語(yǔ)義信息和3D信息，那就更接近人類了。我覺(jué)得這方面還有很大的空間，我們會(huì)沿著Scaling Law的路走下去。
未來(lái)可能97%的人不工作，只有3%的人在工作
周忠和：人工智能發(fā)展如此迅猛，對(duì)我們生活和工作的影響，也是大家非常關(guān)注的。例如，自動(dòng)駕駛、互聯(lián)網(wǎng)產(chǎn)業(yè)，甚至有人說(shuō)它對(duì)白領(lǐng)工作的影響更大。薛老師，您認(rèn)為短期內(nèi)哪個(gè)領(lǐng)域會(huì)受到最大的沖擊，白領(lǐng)還是藍(lán)領(lǐng)？
薛瀾：我認(rèn)為所有涉及信息或數(shù)據(jù)獲娶處理和傳播的行業(yè)都將受到巨大沖擊。這不僅包括了傳播業(yè)，如電影和電視，還涵蓋了教育、藝術(shù)，甚至醫(yī)療服務(wù)。還包括文秘工作和法律行業(yè)的助理工作，所有與信息處理相關(guān)的領(lǐng)域，包括信息獲娶處理和傳播，都可能逐漸受到影響。
周忠和：這些變化會(huì)多快發(fā)生呢？5年還是10年？
薛瀾：影響的速度取決于兩個(gè)方面。首先是人工智能本身的效率提升有多快。其次是社會(huì)制度的變革，這些制度對(duì)傳統(tǒng)行業(yè)的保護(hù)非常強(qiáng)。所以這一方面是技術(shù)進(jìn)步的過(guò)程，一方面也是制度變遷，這兩個(gè)方面需要協(xié)調(diào)起來(lái)往前走。
周忠和：您提到教育也會(huì)受到影響，如果預(yù)計(jì)在未來(lái)5到10年內(nèi)，某些行業(yè)將不復(fù)存在，那我們現(xiàn)在為什么還要在大學(xué)里學(xué)習(xí)它們呢？這是一個(gè)緊迫的問(wèn)題，因?yàn)樽兓瘉?lái)得太快，可能我們還沒(méi)有足夠的討論。
李航：很難預(yù)測(cè)，但有兩個(gè)明顯的趨勢(shì)。首先，會(huì)出現(xiàn)新的工作，比如數(shù)據(jù)標(biāo)注。數(shù)據(jù)非常重要，現(xiàn)在數(shù)學(xué)家陶哲軒等開(kāi)始標(biāo)注數(shù)學(xué)定理證明的數(shù)據(jù)，使用新的編程語(yǔ)言Lean來(lái)描述這個(gè)過(guò)程。他就是利用他的經(jīng)驗(yàn)，把證明的過(guò)程寫(xiě)出來(lái)，讓AI學(xué)習(xí)。我估計(jì)未來(lái)數(shù)學(xué)定理的證明，AI也能做。
其次，各行各業(yè)，包括編程和AI領(lǐng)域，都會(huì)出現(xiàn)兩極分化，最優(yōu)秀和有創(chuàng)造力的人才將發(fā)揮更重要的作用。
薛瀾（左）和字節(jié)跳動(dòng)研究部門(mén)負(fù)責(zé)人李航（右）
周忠和：那么對(duì)于普通人來(lái)說(shuō)，哪些行業(yè)的影響最大？
李航：硬件領(lǐng)域的變化可能會(huì)慢一些，因?yàn)橛布枰獣r(shí)間。至于軟件，發(fā)展會(huì)更快。但我認(rèn)為長(zhǎng)期來(lái)看，軟件開(kāi)發(fā)的形態(tài)也會(huì)發(fā)生變化。一些簡(jiǎn)單的程序AI是能夠?qū)懙摹?/p>
周忠和：機(jī)器完全可以替代人的創(chuàng)造性嗎?
李航：就像薛老師剛才說(shuō)過(guò)的，我認(rèn)為有三個(gè)方面人工智能目前難以取代人類：情感、創(chuàng)造力和自由意志。情感是人的本能，要在機(jī)器上實(shí)現(xiàn)情感就等同于造一個(gè)擁有生命的人了。創(chuàng)造力和自由意志同理，這三者不是單純的智能，而是生命現(xiàn)象。
如果一個(gè)事情是任務(wù)，能去評(píng)價(jià)完成它的好壞，AI基本都能完成。馮諾依曼說(shuō)過(guò)這樣一句話，意思就是告訴我一個(gè)任務(wù)，不管是多復(fù)雜，把它定義清楚，我都能給你造一個(gè)機(jī)器，專門(mén)去完成你這個(gè)任務(wù)。
現(xiàn)在大家經(jīng)常談AGI，談通用人工智能，“通用”確實(shí)是有很大的革命性的，這個(gè)工具不像馮諾依曼說(shuō)的，專門(mén)做某一樣事情。它變成很通用，完成很多很多的任務(wù)。但另一方面，只要這些任務(wù)能夠定義、能夠標(biāo)數(shù)據(jù)、能有評(píng)價(jià)標(biāo)準(zhǔn)，看樣子AI基本都能做。前面說(shuō)到人類的幾個(gè)特點(diǎn)屬于生命現(xiàn)象，不是任務(wù)，AI做不了。但是AI做很多任務(wù)，能超過(guò)人，可能未來(lái)AI做大部分工作都超過(guò)人。
張宏江：我同意薛老師的觀點(diǎn)。人的智能有多個(gè)維度，在許多維度上，機(jī)器可能會(huì)超越人類。對(duì)于普通人來(lái)說(shuō)，最擔(dān)心的可能是自己的工作。
我倒覺(jué)得白領(lǐng)工作可能會(huì)受到較快的沖擊。我上周和崔健談AI，談到未來(lái)可能是97%的人不工作，只有3%有職業(yè)。這不是我的觀點(diǎn)，而是《世界簡(jiǎn)史》作者的觀點(diǎn)：平均技能水平的工作者可能會(huì)被替代，但頂尖藝術(shù)家不用擔(dān)心，因?yàn)樗麄兪巧贁?shù)。
至于助理類工作，比如法務(wù)助理，或者分析師很大程度會(huì)被替代�，F(xiàn)在一些AI工具已經(jīng)能幫助我們更高效地工作，比如許多人還要通過(guò)微軟的Outlook手工安排會(huì)議，以后可能是AI來(lái)做這個(gè)工作，效率會(huì)提高很多。
另外我們不能停留在提高效率的階段，30年前國(guó)際象棋大師卡斯帕羅夫被深藍(lán)擊敗。當(dāng)時(shí)卡斯帕洛夫曾說(shuō)，未來(lái)機(jī)器將在象棋領(lǐng)域給予我們巨大的幫助。然而，30年后的今天，我們看到的情況是，機(jī)器在象棋上已經(jīng)不需要人類的幫助。
周忠和：那么，藍(lán)領(lǐng)工作呢？
張宏江：我為什么對(duì)Sora如此激動(dòng)，就在于它對(duì)物理世界的初步理解。當(dāng)一個(gè)系統(tǒng)能夠理解物理世界時(shí)，就能指揮機(jī)器人執(zhí)行任務(wù)。硬件的AI化進(jìn)展可能比軟件慢，但隨著機(jī)器人技術(shù)的進(jìn)步，比如靈巧手和機(jī)械能力的提升，AI對(duì)藍(lán)領(lǐng)工作的影響只是一個(gè)時(shí)間問(wèn)題。
周忠和：人工智能對(duì)程序員有什么影響？
張宏江：軟件設(shè)計(jì)師的工作可能會(huì)被自動(dòng)化工具，比如微軟的GitHubCopilot和Google的對(duì)應(yīng)產(chǎn)品所替代。這些工具已經(jīng)能夠做很多事情，通過(guò)大模型驅(qū)動(dòng)，能完成很多常用程序的編寫(xiě)，至少可以提高開(kāi)發(fā)者的效率。其他重復(fù)性的工作也很容易被替代。
周忠和：那研究人工智能的行業(yè)，未來(lái)也還會(huì)需要那么多人嗎？
李航：需要更多的人，但也會(huì)兩級(jí)分化。比如數(shù)據(jù)標(biāo)注這項(xiàng)工作，從簡(jiǎn)單的常識(shí)性的標(biāo)注，到我剛才說(shuō)的專業(yè)性的標(biāo)注，差別是很大的。
周忠和：薛老師，針對(duì)我們國(guó)家的自然科學(xué)科研人員，尤其是那些在技術(shù)開(kāi)發(fā)和基礎(chǔ)研究領(lǐng)域處于領(lǐng)先地位的研究人員，人工智能的發(fā)展會(huì)對(duì)他們的工作產(chǎn)生怎樣的影響？
薛瀾：我認(rèn)為肯定會(huì)有顯著的沖擊，科學(xué)研究也會(huì)出現(xiàn)兩極分化。但我們需要區(qū)分常規(guī)科研和科學(xué)革命這兩種情況，如果我們按照托馬斯庫(kù)恩的科學(xué)革命理論來(lái)看，科學(xué)研究可以分為常態(tài)科研和科學(xué)革命。在常態(tài)科研中，我們已經(jīng)對(duì)某個(gè)領(lǐng)域的基本范式有了清晰的理解，并且正在解決一些尚未解決的問(wèn)題，這就像是在解謎。例如，當(dāng)前的蛋白結(jié)構(gòu)研究就是這樣的領(lǐng)域。
在這些領(lǐng)域，人工智能可能會(huì)替代很多工作，在現(xiàn)有范式下工作的科研人員，他們的工作可能會(huì)被人工智能所替代。但是對(duì)于那些能夠發(fā)現(xiàn)新問(wèn)題，制造危機(jī)，挑戰(zhàn)現(xiàn)有范式的研究者，這些人的工作是人工智能難以替代的。這樣的研究者永遠(yuǎn)有需求。
我們距離真正的通用人工智能還有多遠(yuǎn)？
周忠和：當(dāng)下一個(gè)非常熱門(mén)的話題是，我們距離真正的通用人工智能（AGI）有多遠(yuǎn)，AGI的定義或者實(shí)現(xiàn)的標(biāo)志是什么？另外，目前Open AI引領(lǐng)的人工智能革命是比較公認(rèn)的，但是否有其他競(jìng)爭(zhēng)者？比如Claude，有人說(shuō)它超越了ChatGPT和Open AI，但這種說(shuō)法是否夸張？
李航：目前還沒(méi)有一個(gè)嚴(yán)格的定義來(lái)界定什么是AGI。
大模型的通用性是一個(gè)顯著的特點(diǎn)，它們能做很多事情，發(fā)展空間非常大。但是，它和人在創(chuàng)造力、情感和自由意志等方面仍有區(qū)別，模型在這些方面的表現(xiàn)也只能近似人類智能，而不是完全實(shí)現(xiàn)人類智能。
像黃仁勛說(shuō)的AGI可能在5年內(nèi)實(shí)現(xiàn)，也是基于特定的定義。我認(rèn)為，一旦我們能夠清楚地定義一個(gè)任務(wù)并評(píng)價(jià)它的完成情況，人工智能通常能夠完成得很好。但是，人類能理解世界，能夠遐想和想象，要想在這些方面追上人，我覺(jué)得十年二十年之內(nèi)人工智能還做不到。
張宏江：我想就李航老師提到的三點(diǎn)進(jìn)行爭(zhēng)論。我同意其中的兩點(diǎn)，但對(duì)于情感這一點(diǎn)，我認(rèn)為情感可以被視為人類的獎(jiǎng)勵(lì)函數(shù)（rewarding function）。如果我們能夠?qū)W習(xí)人類的獎(jiǎng)勵(lì)函數(shù)，提供足夠的數(shù)據(jù)，那么人工智能就有可能模擬情感。
這是一種高維度的復(fù)雜函數(shù)，在計(jì)算上會(huì)很復(fù)雜，而這正是大型模型的優(yōu)勢(shì)所在。例如，鄂維南老師做的AI for Science，在材料設(shè)計(jì)，簡(jiǎn)單的材料結(jié)構(gòu)可以通過(guò)微分方程算出來(lái)，復(fù)雜的分子材料幾乎不可能算出來(lái)，利用大模型進(jìn)行模擬是更好的辦法。在材料設(shè)計(jì)、天氣預(yù)測(cè)和生命科學(xué)等領(lǐng)域，當(dāng)問(wèn)題復(fù)雜到無(wú)法用數(shù)學(xué)方程來(lái)描述時(shí)，恰恰是大模型發(fā)揮作用的地方。
周忠和：有人說(shuō)大模型只是AGI的一塊孤立的拼圖，還有很多拼圖沒(méi)找到，幾位老師認(rèn)同這個(gè)觀點(diǎn)嗎？
張宏江：這一定是哲學(xué)家說(shuō)的。
周忠和：這是你所不認(rèn)同的，對(duì)吧。李老師，你覺(jué)得現(xiàn)在的大模型方向，就是通向AGI的充分條件嗎？
李航：在大部分情況下，我認(rèn)為現(xiàn)有的大模型方向是正確的，是通向AGI的重要途徑。但也可能存在一些人類智能無(wú)法用大模型實(shí)現(xiàn)。
周忠和：李老師，你曾經(jīng)提到過(guò)，深度學(xué)習(xí)在未來(lái)一段時(shí)間是主流，但長(zhǎng)遠(yuǎn)來(lái)看，我們還是應(yīng)該從人腦計(jì)算中獲取啟發(fā)。
李航：我的觀點(diǎn)和現(xiàn)在的大模型路線其實(shí)不矛盾，只是希望將來(lái)能夠在更好地模仿人腦，實(shí)現(xiàn)更接近人的AGI。
計(jì)算存在功能、算法和物理實(shí)現(xiàn)三個(gè)層面�，F(xiàn)有的以Transformer為基礎(chǔ)的大模型主要是在功能層面上模仿人類，但在算法層面，AI和人的大腦的結(jié)構(gòu)還是完全不一樣的，所以我們可以在功能層面上更多借鑒人腦的機(jī)制。
薛瀾：我跟他們倆唱一個(gè)反調(diào)。路徑依賴確實(shí)存在，但錯(cuò)過(guò)的道路，可能我們?cè)诤芏嗄旰髸?huì)重新走回來(lái)。比如過(guò)去我們的技術(shù)和資金都投資在燃油動(dòng)力汽車(chē)上，其實(shí)電動(dòng)汽車(chē)上個(gè)世紀(jì)初就已經(jīng)被發(fā)現(xiàn)了，曾經(jīng)有一段時(shí)間也還是可以跟汽油車(chē)相競(jìng)爭(zhēng)的，只是后來(lái)因?yàn)槎喾N原因就被忽略掉了。多年以后的現(xiàn)在，電車(chē)又發(fā)展的很好，所以不排除錯(cuò)過(guò)的道路在未來(lái)能有很好的發(fā)展。
周忠和：薛老師，考慮到人工智能目前的發(fā)展趨勢(shì)，您認(rèn)為我們最需要哪類人才？是更傾向于計(jì)算機(jī)專業(yè)的技術(shù)人才，還是需要更多跨學(xué)科的專家，比如腦科學(xué)、生命科學(xué)等領(lǐng)域的？
薛瀾：我認(rèn)為我們需要的人才首先要具備創(chuàng)造力，創(chuàng)造力在今后仍然至關(guān)重要。另外，傳統(tǒng)的、那種很強(qiáng)調(diào)專業(yè)細(xì)分的教育模式可能需要改變。我們需要從新的維度重新思考教育問(wèn)題。
我們過(guò)去學(xué)習(xí)的知識(shí)和技能可以分為兩類：一類是為了在社會(huì)中生存所必需的，另一類則是提升我們認(rèn)知能力的學(xué)習(xí)。我估計(jì)，隨著人工智能的發(fā)展，第一類能力可能會(huì)被系統(tǒng)替代，這些東西也就沒(méi)有多大必要去學(xué)習(xí)。
相反，我們需要思考的是如何通過(guò)教育，提升受教育者的認(rèn)知能力和創(chuàng)造力。可能需要一種全新的教育方式，與現(xiàn)有的教育體系完全不同。實(shí)際上，人工智能對(duì)教育系統(tǒng)的沖擊應(yīng)該是最大的，但我們恰恰是動(dòng)的最慢的。
周忠和：李老師和張老師兩位都在公司里工作，你們希望招聘什么樣的人才？期待未來(lái)的教育系統(tǒng)能夠給你們輸出什么樣的人才？
李航：在人工智能領(lǐng)域，本科的教育是非常重要的。在美國(guó)，頂尖大學(xué)機(jī)器學(xué)習(xí)本科學(xué)生的作業(yè)難度非常高，甚至要熬夜來(lái)完成。計(jì)算機(jī)領(lǐng)域的一些基本技能培養(yǎng)，美國(guó)本科教育都已經(jīng)能做得很好，而國(guó)內(nèi)在這方面需要加強(qiáng)。就純計(jì)算機(jī)和人工智能的人才培養(yǎng)的角度來(lái)說(shuō)，我是看到、感到有一定的差距的。
周忠和：人工智能變成熱門(mén)之后，很多人提議從中學(xué)開(kāi)始學(xué)習(xí)人工智能。
張宏江：作為兩個(gè)孩子的父親，我可能對(duì)教育稍微多一點(diǎn)認(rèn)識(shí)。我認(rèn)為重要的是培養(yǎng)孩子們的思考能力，而不只是具體知識(shí)。
美國(guó)的學(xué)校，對(duì)14歲的學(xué)生就開(kāi)設(shè)邏輯和批判性思維課程。這個(gè)課程是教孩子們?cè)趺此伎�，而不是一門(mén)具體的專業(yè)知識(shí)。站在任何一個(gè)專業(yè)角度講，如果你想從事研究的話，邏輯和批判性思考能力是非常重要的。
未來(lái)的人才，最需要邏輯和批判性思考的能力。灌輸知識(shí)這樣的教育，實(shí)際上是培養(yǎng)就業(yè)能力，而且是過(guò)去的就業(yè)能力，未來(lái)是行不通的。從科研人才的角度講�；剡^(guò)頭看，在科學(xué)職業(yè)化之前、文藝復(fù)興之后的幾百年，也是沒(méi)有職業(yè)科學(xué)家的，需要的是他們思考的能力和觀察的能力。
薛瀾：我覺(jué)得越是在這種形勢(shì)下，人文素養(yǎng)也會(huì)變得非常重要。
開(kāi)源和閉源，哪一種模式對(duì)人類更安全？
周忠和：最近有消息說(shuō)馬斯克因OpenAI違背了其非盈利的宗旨，打算將其告上法庭。我們知道非盈利模式有其優(yōu)勢(shì)，但資金的缺乏也可能影響技術(shù)的發(fā)展。
薛瀾：現(xiàn)代科學(xué)和科技的發(fā)展，是希望在開(kāi)放科學(xué)的道路上前進(jìn)的，尤其是人工智能這個(gè)領(lǐng)域。開(kāi)源可以促進(jìn)技術(shù)的交流和發(fā)展。反對(duì)開(kāi)源的人擔(dān)心安全隱患，但也有人認(rèn)為不開(kāi)源可能更危險(xiǎn)，這些方面的爭(zhēng)論一直存在。我覺(jué)得可以請(qǐng)其他兩位人工智能領(lǐng)域的專家，講下到底應(yīng)該怎么權(quán)衡這個(gè)問(wèn)題？
李航：去年一個(gè)AI會(huì)議上沈向洋博士表達(dá)過(guò)一個(gè)觀點(diǎn)，我非常同意，是否開(kāi)源取決于公司的商業(yè)地位和策略。行業(yè)的領(lǐng)導(dǎo)者可能不會(huì)選擇開(kāi)源，第一名肯定不會(huì)開(kāi)源，第二名想要和第一名競(jìng)爭(zhēng)也不會(huì)開(kāi)源，第三、第四名的公司可能會(huì)選擇開(kāi)源以取得一些競(jìng)爭(zhēng)優(yōu)勢(shì)。
我覺(jué)得至少?gòu)臍v史的經(jīng)驗(yàn)上看，這個(gè)觀點(diǎn)是有道理的。AI公司里，現(xiàn)在沒(méi)有開(kāi)源的是OpenAI、Anthropic。開(kāi)源的是Meta和Amazon。
周忠和：商業(yè)性之外，我們可能更關(guān)心開(kāi)源爭(zhēng)論對(duì)技術(shù)發(fā)展的影響，以及安全問(wèn)題。這方面您怎么看？
李航：實(shí)際上，從商業(yè)角度來(lái)看，Meta和其他公司選擇開(kāi)源，并不是出于其他考慮，而是因?yàn)檫@樣做能在商業(yè)上帶來(lái)一定的利益。我同意沈向洋的觀點(diǎn)，他認(rèn)為這些公司開(kāi)源是為了在商業(yè)利益上獲得優(yōu)勢(shì)。這涉及到一個(gè)更根本的問(wèn)題：人工智能技術(shù)的研究和開(kāi)發(fā)是否應(yīng)該以市場(chǎng)經(jīng)濟(jì)為導(dǎo)向。
字節(jié)跳動(dòng)研究部門(mén)負(fù)責(zé)人李航
周忠和：薛老師您贊成AI公司以盈利為導(dǎo)向嗎？
薛瀾：我們現(xiàn)在進(jìn)行的關(guān)于人工智能的研究，實(shí)際上相當(dāng)于在從事科學(xué)技術(shù)的基礎(chǔ)研究。在科學(xué)技術(shù)領(lǐng)域里，基礎(chǔ)研究通常是開(kāi)源的。不過(guò)，人工智能研究的回報(bào)機(jī)制與之略有不同。在學(xué)術(shù)領(lǐng)域，最先發(fā)表論文被認(rèn)可擁有優(yōu)先權(quán)，這就是所謂的回報(bào)制度，已經(jīng)被大家所公認(rèn)。而人工智能大公司之間，真正的競(jìng)爭(zhēng)在于最終的應(yīng)用和產(chǎn)品層面。
從這個(gè)角度講，我認(rèn)為應(yīng)當(dāng)鼓勵(lì)開(kāi)源。對(duì)于大公司來(lái)說(shuō)，它們可以在商業(yè)應(yīng)用和產(chǎn)品層面尋找盈利模式，在那個(gè)領(lǐng)域開(kāi)展競(jìng)爭(zhēng)。從各個(gè)研究領(lǐng)域的實(shí)踐來(lái)看，這種在基礎(chǔ)研究階段開(kāi)源、在產(chǎn)品化階段閉源并尋求商業(yè)化的模式，目前看來(lái)對(duì)于推動(dòng)人類社會(huì)進(jìn)步是一種非常有效的做法。
張宏江：我非常贊同薛老師的觀點(diǎn)。開(kāi)源是探索階段的重要工具，它鼓勵(lì)大家一起討論、交流和評(píng)估，這樣的話才能夠真正地推動(dòng)一個(gè)領(lǐng)域的進(jìn)步。從這一點(diǎn)上來(lái)說(shuō)，我非常贊同開(kāi)源。開(kāi)源能夠把真正地做研究的人帶到一塊。今天的AI領(lǐng)域，從方法論、架構(gòu)還有很多問(wèn)題需要解決，開(kāi)源是一個(gè)非常好的交流載體。
周忠和：您剛才提到了安全問(wèn)題，那么我們應(yīng)該如何解決開(kāi)源可能帶來(lái)的安全隱患？
張宏江：無(wú)論是開(kāi)源還是閉源，安全問(wèn)題都是不可避免的。但對(duì)于開(kāi)源模型，我們更容易進(jìn)行驗(yàn)證和審查。未來(lái)，任何發(fā)布的AI模型都應(yīng)該通過(guò)安全認(rèn)證。此外，如果AI是一個(gè)可以改變?nèi)祟惖募夹g(shù)，我們需要在AI安全研究上投入更多的資源。
我曾在一個(gè)AI安全閉門(mén)會(huì)上聽(tīng)到一個(gè)觀點(diǎn)，讓我很吃驚，但我相信其中的數(shù)據(jù)是對(duì)的：核電站設(shè)備的研發(fā)費(fèi)用中有95%用于安全，這對(duì)我們AI領(lǐng)域來(lái)說(shuō)是一個(gè)啟示。我們是否也應(yīng)該在AI安全上投入更多的資源？如果核電投入95%，AI是不是應(yīng)該在安全上投入10%或者15%，因?yàn)檫@個(gè)技術(shù)也是可能導(dǎo)致人類滅絕的。
周忠和：薛老師，您在經(jīng)常在中國(guó)和國(guó)際舞臺(tái)上積極討論人工智能治理的問(wèn)題。安全性顯然是大家非常關(guān)注的焦點(diǎn)。鑒于人工智能已經(jīng)達(dá)到了相當(dāng)高的智能水平，我們是否可以認(rèn)為開(kāi)源在某種程度上也是一種保障措施呢？
薛瀾：是的，開(kāi)源與閉源的討論實(shí)際上涉及到利弊的權(quán)衡。正如剛才所提到的，有人可能會(huì)擔(dān)心開(kāi)源會(huì)讓極端組織或個(gè)人有機(jī)會(huì)濫用技術(shù)。不論開(kāi)源還是閉源，只要有心作惡，總會(huì)找到途徑。現(xiàn)有的各種技術(shù)，如果被濫用，都可能對(duì)人類社會(huì)造成破壞，生物技術(shù)就是個(gè)例子，它同樣存在被濫用的風(fēng)險(xiǎn)。因此，更重要的是如何建立一套體系，來(lái)防范和制止任何個(gè)人或組織濫用技術(shù)危害社會(huì)。我們需要更多地考慮如何通過(guò)監(jiān)管機(jī)制來(lái)控制這些風(fēng)險(xiǎn)。
假設(shè)從企業(yè)的商業(yè)角度出發(fā)，需要采取閉源等策略。在這種情況下，我們就需要建立一套監(jiān)管機(jī)制。這個(gè)監(jiān)管體系將對(duì)企業(yè)的閉源研究進(jìn)行規(guī)范和約束，以確保其合法合規(guī)。所以我認(rèn)為，企業(yè)的需求和監(jiān)管制度是相互促進(jìn)、相輔相成的。
中國(guó)在這一波人工智能浪潮中處于什么位置？
周忠和：中國(guó)在人工智能研究方面發(fā)表了大量的文章，并且在國(guó)際上也處于較為領(lǐng)先的位置。但具體來(lái)說(shuō)，中國(guó)在人工智能方面有哪些優(yōu)勢(shì)和不足呢？比如有觀點(diǎn)認(rèn)為，中國(guó)缺乏高質(zhì)量、大規(guī)模的中文數(shù)據(jù)集，這可能會(huì)影響我們的人工智能發(fā)展？
李航：中國(guó)在人工智能的應(yīng)用和商業(yè)化方面確實(shí)還有很多機(jī)會(huì)。我們可以看到，在互聯(lián)網(wǎng)和移動(dòng)互聯(lián)網(wǎng)時(shí)代，中國(guó)企業(yè)的表現(xiàn)非常出色，尤其是在過(guò)去的十年里。我們?cè)诨ヂ?lián)網(wǎng)商業(yè)化的應(yīng)用層面上很有特色。比如在大模型的實(shí)用場(chǎng)景中，不一定要追求像GPT-4那樣的大規(guī)模模型，即使是相對(duì)較小的模型，在特定的實(shí)用場(chǎng)景中也能發(fā)揮重要作用。
就我個(gè)人的觀點(diǎn)而言，未來(lái)人工智能的發(fā)展機(jī)遇主要集中在四大領(lǐng)域。首先是張老師之前提到的助理領(lǐng)域，也就是廣義上的助理和白領(lǐng)工作，這里有很大的應(yīng)用空間。其次，機(jī)器人的發(fā)展也非常關(guān)鍵，它們能夠幫助工人和普通人完成一般工作任務(wù)。再者，AI for Science，即利用人工智能推動(dòng)科學(xué)研究，這在數(shù)學(xué)、物理、化學(xué)等科學(xué)領(lǐng)域都有潛力。最后，娛樂(lè)行業(yè)，無(wú)論是視頻制作、電影、游戲還是虛擬現(xiàn)實(shí)，人工智能的發(fā)展都有很多機(jī)會(huì)。
比如在硬件方面，當(dāng)大模型與硬件結(jié)合時(shí)，機(jī)器人技術(shù)就是一個(gè)應(yīng)用的典型例子。實(shí)際上，不僅限于機(jī)器人，自動(dòng)駕駛等眾多領(lǐng)域也有著廣泛的發(fā)展機(jī)會(huì)。在應(yīng)用層面，我認(rèn)為中國(guó)整體上還有比較大的優(yōu)勢(shì)。
至于數(shù)據(jù)問(wèn)題，目前高質(zhì)量的英文數(shù)據(jù)資源相對(duì)較多，而高質(zhì)量的中文數(shù)據(jù)資源則相對(duì)較少，尤其是在互聯(lián)網(wǎng)上。但通過(guò)機(jī)器翻譯或未來(lái)的一些新技術(shù)手段，我們是可以實(shí)現(xiàn)兩種語(yǔ)言數(shù)據(jù)之間互通的。所以，我不認(rèn)為語(yǔ)言數(shù)據(jù)的差距會(huì)是一個(gè)特別大的障礙。
不過(guò)，如果我們將人工智能的發(fā)展比作一場(chǎng)軍備競(jìng)賽，那么可以說(shuō)，Open AI在AGI方面確實(shí)領(lǐng)先一步，其他所有人都在努力追趕。對(duì)于中國(guó)而言，無(wú)論是企業(yè)界還是學(xué)術(shù)界，我們各個(gè)方面都需要加大努力，以縮小與領(lǐng)先者之間的差距。
我們剛才也討論到，中國(guó)的一些創(chuàng)業(yè)公司有很多做得不錯(cuò)的�？梢哉f(shuō)，中國(guó)公司已經(jīng)掌握了AI大模型的科學(xué)原理，因?yàn)檫@些科學(xué)原理基本上是公開(kāi)的，大家都能學(xué)會(huì)。但現(xiàn)在的問(wèn)題更多的是工程和產(chǎn)品開(kāi)發(fā)。如果這些能夠叫技術(shù)的話，我們其實(shí)是沒(méi)有完全掌握這些技術(shù)的，中國(guó)的企業(yè)也好，研究機(jī)構(gòu)也好，還需要努力，把這些技術(shù)能夠盡快掌握，才能做出GPT4、Sora這樣水平的東西。
張宏江：我要補(bǔ)充一點(diǎn)。目前這一波深度學(xué)習(xí)驅(qū)動(dòng)的人工智能浪潮，并不是一個(gè)新現(xiàn)象，今天的情況只是進(jìn)一步強(qiáng)化了這種觀點(diǎn)。這波浪潮是算法、算力和數(shù)據(jù)三者的結(jié)合。在很大程度上，算法反映了人才的實(shí)力，也就是我們所說(shuō)的人才。所以也可以說(shuō)，是人才、硬件和數(shù)據(jù)的組合。通過(guò)這三個(gè)點(diǎn)，我們可以清晰地知道自己在什么定位。
數(shù)據(jù)我們有很多方式彌補(bǔ)，接下來(lái)就是人才。斯坦福大學(xué)每年發(fā)布的AI指數(shù)報(bào)告。這份報(bào)告統(tǒng)計(jì)了全球AI領(lǐng)域的論文發(fā)表情況，你猜在前十名的機(jī)構(gòu)中，麻省理工學(xué)院（MIT）排名第幾？
周忠和：難道沒(méi)有排到第一？
張宏江：如果MIT排第一，我就不提這個(gè)問(wèn)題了。實(shí)際上，MIT排在第十，而前九名全是中國(guó)的機(jī)構(gòu)。這說(shuō)明我們從業(yè)的人才一定不少，無(wú)非就是我們需要把發(fā)表文章的數(shù)量變成質(zhì)量，把跟進(jìn)變成突破、引領(lǐng)。還有很多思路，我們使可以繼續(xù)沿著這三點(diǎn)思考的。
關(guān)于李航老師說(shuō)的，中國(guó)在應(yīng)用方面有優(yōu)勢(shì)這一點(diǎn)，我也有不同觀點(diǎn)：這一次跟以前可能真是不太一樣�，F(xiàn)在AI領(lǐng)域的目標(biāo)是AGI，強(qiáng)調(diào)通用。以前是單點(diǎn)上的技能，現(xiàn)在是一個(gè)通用的智能。
這就跟以前不太一樣了，每一次OpenAI發(fā)一個(gè)新的版本或者加一個(gè)新的特性（feature），就是一片公司倒下。原來(lái)你認(rèn)為一個(gè)公司才可以做的事情，大模型加一個(gè)特性就覆蓋了。Sora出來(lái)后，Runway和其它做視頻生成的公司就很緊張，因?yàn)槟憔褪且粋�(gè)工具，Sora是多模態(tài)大模型的一個(gè)部分。
如果大模型繼續(xù)沿著這個(gè)方向發(fā)展，它們的功能將變得越來(lái)越全面。當(dāng)幾句話就能在GPT 商店里產(chǎn)生一個(gè)新應(yīng)用，當(dāng)大模型的功能無(wú)所不包，是不是像上世紀(jì)90年代微軟的操作系統(tǒng)，給當(dāng)時(shí)其他軟件公司帶來(lái)的恐懼。而你還不能夠用反壟斷的方式來(lái)對(duì)抗它，因?yàn)榇竽Ｐ捅旧砭瓦@么強(qiáng)。
指望靠一個(gè)性能稍差的、70分專用小模型，去完成特定應(yīng)用，就怕人家做出90分的大模型，順手把這些功能都覆蓋，橫掃這些小模型。
那為什么自從ChatGPT問(wèn)世以來(lái)，雖然已經(jīng)過(guò)去了一年多的時(shí)間，但在我們所說(shuō)的AI原生應(yīng)用領(lǐng)域，并沒(méi)有看到太多新興公司的身影？一方面是大家都沒(méi)摸清楚，另一方面是大模型性能還沒(méi)好到那個(gè)地步，用在哪個(gè)領(lǐng)域，立刻讓用戶滿意。
因?yàn)橛脩魧?duì)于應(yīng)用的期望值非常高。比如，當(dāng)30年前語(yǔ)音識(shí)別技術(shù)不成熟的時(shí)候，蘋(píng)果做了一個(gè)手寫(xiě)和語(yǔ)音識(shí)別產(chǎn)品叫Newton，但問(wèn)題是語(yǔ)音識(shí)別的技術(shù)不過(guò)關(guān)，甚至手寫(xiě)識(shí)別那時(shí)候也不過(guò)關(guān)，因?yàn)槟菚r(shí)候神經(jīng)網(wǎng)絡(luò)還是三層的。最后用戶不認(rèn)可，這個(gè)產(chǎn)品行情大跌。當(dāng)一個(gè)技術(shù)撐不起一個(gè)產(chǎn)品，或者只能撐到60分，而用戶的實(shí)際期望值是90分時(shí)，這個(gè)產(chǎn)品就相當(dāng)于0分。
我們千萬(wàn)不要有這種心態(tài)，說(shuō)之前我們成功過(guò)，我們?cè)趹?yīng)用角度趕上了，就覺(jué)得新技術(shù)也就這樣。這一次可能真不一樣，這是我想要說(shuō)的。
李航：我想再補(bǔ)充一點(diǎn)，我大部分同意張老師的觀點(diǎn)，但就像我們討論的互聯(lián)網(wǎng)搜索引擎，有Google這樣的巨頭，當(dāng)然還有其他的搜索引擎存在。即使Google占據(jù)了市場(chǎng)的主導(dǎo)地位，其他公司仍然有機(jī)會(huì)。
張宏江：但Google占據(jù)了90%的市場(chǎng)份額，而微軟努力了20多年也只獲得了3%的份額，這就是差別。
李航：我理解您的觀點(diǎn)，但我認(rèn)為在實(shí)際應(yīng)用中，大模型并不總是能夠完全取代小模型在一個(gè)具體的垂類上做的事情，GTP4也是90分，可能一個(gè)小模型也是90分。在特定領(lǐng)域，定制化的小型模型可能更有優(yōu)勢(shì)。因?yàn)樗男詢r(jià)比更高，商業(yè)上站得住腳。
張宏江：我不同意。我可以馬上舉個(gè)例子，ChatGPT出來(lái)之后，各種翻譯軟件都死掉了。
李航：但我了解到，GPT4在美國(guó)一些公司的實(shí)際場(chǎng)景里面，因?yàn)轭I(lǐng)域上的適配問(wèn)題，其實(shí)成本很高，或者不很成功的例子也挺多。
張宏江：那是GPT4的問(wèn)題，它還沒(méi)有達(dá)到90分的地步。
李航：無(wú)論是從經(jīng)濟(jì)角度還是工程實(shí)現(xiàn)的角度來(lái)看，盡管大模型可能在通用領(lǐng)域表現(xiàn)出色，但市場(chǎng)的需求并不總是集中在通用領(lǐng)域�？倳�(huì)有一些特定的細(xì)分領(lǐng)域，特定的小型模型或技術(shù)可能整體更有優(yōu)勢(shì)。我不太相信大模型一個(gè)東西能把什么事都做到。
但我也同意，Google占據(jù)了市場(chǎng)的主導(dǎo)地位，擁有高達(dá)90%的市場(chǎng)份額。在這種情況下，我們可以看到，盡管其他公司也在努力，但目前還沒(méi)有哪家能夠撼動(dòng)Google的地位。我們現(xiàn)在使用的GPT-4，它的市場(chǎng)地位也非常穩(wěn)固，一旦用戶對(duì)其產(chǎn)生了依賴，就很難轉(zhuǎn)向其他服務(wù)。這種粘性使得通用技術(shù)領(lǐng)先的公司很難被取代。因此，在這個(gè)意義上，我同意超大模型有著廣泛的覆蓋能力和強(qiáng)大的市場(chǎng)影響力。但是其他企業(yè)也還是有機(jī)會(huì)的。
周忠和：這個(gè)問(wèn)題看來(lái)還是值得討論。最后我們問(wèn)一下薛老師，從政府的角度，如何更好地推進(jìn)我國(guó)人工智能事業(yè)?
薛瀾：人工智能政府的政策，一方面是推動(dòng)，推動(dòng)它的發(fā)展，另外一方面是規(guī)制它的風(fēng)險(xiǎn)，所以這其實(shí)是兩個(gè)輪子同時(shí)轉(zhuǎn)。政府投入我覺(jué)得其實(shí)現(xiàn)在大家都想到了。但另外一點(diǎn)也非常重要，就是怎么樣去營(yíng)造一種生態(tài)，能夠讓中國(guó)的企業(yè)跟研究機(jī)構(gòu)，包括跟高校等等，它能夠去形成一種很自然地融在一起，這個(gè)始終是中國(guó)要解決的問(wèn)題。
這在中國(guó)人工智能領(lǐng)域尤其重要。就像剛才張老師講的，論文我們發(fā)得很多，專利也不少。我們最缺的還是生態(tài)，這是研究不出來(lái)的，需要領(lǐng)導(dǎo)們創(chuàng)造有利的條件，讓各種機(jī)構(gòu)和人才能夠在這樣的環(huán)境下發(fā)揮作用。像智源這樣的組織，正是在這樣支持性的環(huán)境中得以建立和發(fā)展的。
政府在推動(dòng)人工智能發(fā)展的同時(shí)，也需要規(guī)制其風(fēng)險(xiǎn)。此外，建立一個(gè)良好的生態(tài)系統(tǒng)，讓企業(yè)、研究機(jī)構(gòu)和高校能夠自然地融合在一起，這對(duì)于中國(guó)來(lái)說(shuō)是一個(gè)需要解決的問(wèn)題。在全球?qū)用嫔�，我們需要建立一個(gè)全球性的風(fēng)險(xiǎn)防控機(jī)制，這需要政府、企業(yè)和研究機(jī)構(gòu)的共同努力。同時(shí)，我們也需要認(rèn)識(shí)到，人工智能的發(fā)展不僅僅是技術(shù)問(wèn)題，更是社會(huì)問(wèn)題。它涉及到倫理、法律、就業(yè)等多個(gè)方面，我們需要在這些方面進(jìn)行深入的研究和討論，以確保人工智能的健康發(fā)展。
關(guān)于風(fēng)險(xiǎn)管理和規(guī)制，我想補(bǔ)充一點(diǎn)。這是一個(gè)多層次的問(wèn)題。首先，我們需要在全球?qū)用嫔媳M快建立共識(shí)，制定一個(gè)全球性的風(fēng)險(xiǎn)防控機(jī)制。這不僅僅是政府的責(zé)任，也需要全球的企業(yè)和研究機(jī)構(gòu)共同參與。雖然大家都在朝這個(gè)方向努力，但要真正讓這些措施落地也不容易。這是需要大家共同努力的。
觀眾提問(wèn)
觀眾1：我是清華大學(xué)蘇世民書(shū)院2021級(jí)的畢業(yè)生，現(xiàn)在在智譜華章做產(chǎn)業(yè)生態(tài)方面的工作，非常謝謝各位老師，剛剛將近兩個(gè)小時(shí)的分享，非常有啟發(fā)。我有兩個(gè)問(wèn)題，第一個(gè)問(wèn)題，近來(lái)不少中國(guó)人工智能初創(chuàng)企業(yè)，尤其做C端應(yīng)用的企業(yè)，選擇出海開(kāi)展業(yè)務(wù)�？赡艹鲇趦蓚�(gè)考慮:一是希望借助海外最先進(jìn)的模型，二是海外付費(fèi)市場(chǎng)相對(duì)更加成熟。與此同時(shí)，國(guó)內(nèi)大部分公司則專注B端，就是幫助本土企業(yè)降本增效。您怎么看待這種發(fā)展分野和趨勢(shì)?對(duì)中國(guó)人工智能的科研和產(chǎn)業(yè)化進(jìn)程會(huì)產(chǎn)生何種影響?
第二個(gè)問(wèn)題，OpenAI的Sam Altman最近發(fā)布了一個(gè)計(jì)劃，他打算斥資7萬(wàn)億美元來(lái)推動(dòng)半導(dǎo)體行業(yè)的革新和變革。各位老師如何看待這樣作為私營(yíng)企業(yè)去做這樣大規(guī)模的融資，對(duì)于整個(gè)產(chǎn)業(yè)界或者學(xué)術(shù)研究的影響？以及可能中國(guó)的生態(tài)如何受到它的啟發(fā)，或者我們?cè)趺茨軌蛄韺ひ粭l路徑，來(lái)跟這樣的生態(tài)匹配？
現(xiàn)場(chǎng)觀眾
張宏江：回答第一個(gè)問(wèn)題。出海這件事兒，你們注意到的是面向消費(fèi)者的企業(yè)（to C）在進(jìn)行海外擴(kuò)張，但實(shí)際上，面向企業(yè)的企業(yè)（to B）的出�；顒�(dòng)更為頻繁，而且其實(shí)也非常有道理。
如果我們對(duì)比一下中美兩國(guó)的軟件市場(chǎng)和互聯(lián)網(wǎng)應(yīng)用市場(chǎng)，尤其是在軟件工具和云服務(wù)（SaaS）領(lǐng)域，我們會(huì)發(fā)現(xiàn)美國(guó)的企業(yè)市場(chǎng)（to B）遠(yuǎn)比中國(guó)成熟。因此，中國(guó)的企業(yè)級(jí)軟件出海戰(zhàn)略不僅合理，而且非常必要。經(jīng)過(guò)幾十年的發(fā)展，中國(guó)的軟件產(chǎn)業(yè)在toB領(lǐng)域相較于toC領(lǐng)域仍有較大的差距。如果我是企業(yè)決策者，特別是做toB業(yè)務(wù)，我會(huì)更傾向于出海，因?yàn)槟抢锏氖袌?chǎng)對(duì)付費(fèi)服務(wù)的接受度更高。
我還想多強(qiáng)調(diào)一下，toB軟件、工具類軟件或SaaS普及的重要性。toB軟件的核心在于為企業(yè)提供提高效率的工具，比如Office、SAP或飛書(shū)等都是提升生產(chǎn)力的工具。當(dāng)公司廣泛使用這些工具時(shí)，意味著它們?cè)谧非笮实奶嵘�。而我們很多公司還沒(méi)有充分利用這些生產(chǎn)力工具，這反映出我們的生產(chǎn)效率還不夠高，可能還在依賴人力來(lái)完成任務(wù)。所以，我希望大家不僅僅將這看作是一種商業(yè)模式，而是關(guān)乎我們是否能夠提升生產(chǎn)效率的關(guān)鍵問(wèn)題。生產(chǎn)效率低，顯然對(duì)于產(chǎn)業(yè)是非常大的一個(gè)問(wèn)題。
回到國(guó)內(nèi)這25年，我始終非常羨慕海外的toB的軟件市場(chǎng)，我希望這塊未來(lái)能夠有所突破，這樣我們才能真正提高人均生產(chǎn)力，因?yàn)槿司杖氲奶嵘举|(zhì)上依賴于人均生產(chǎn)力的增長(zhǎng)。否則，我們的人均效率將持續(xù)面臨問(wèn)題。這就是我對(duì)第一個(gè)問(wèn)題的看法。
李航：我來(lái)回答第二個(gè)問(wèn)題。人工智能的發(fā)展確實(shí)需要大量的投資。我們剛才討論到基礎(chǔ)研究應(yīng)該是開(kāi)源和公開(kāi)的，這是AI技術(shù)發(fā)展的源泉。目前AI技術(shù)，特別是大型模型，更偏向于工程實(shí)現(xiàn)。我們觀察到，至少在某些領(lǐng)域，工業(yè)界的創(chuàng)新能力已經(jīng)超越了基礎(chǔ)研究機(jī)構(gòu)的創(chuàng)新能力。這是一個(gè)新現(xiàn)象，在人類科學(xué)研究史上前所未遇。
我相信開(kāi)源的努力會(huì)繼續(xù)，因?yàn)樵S多學(xué)者都在這樣做，盡管他們的工作可能在某些方面落后于像Open AI這樣的領(lǐng)先企業(yè)。例如，Lambda等項(xiàng)目是開(kāi)源的，但我們也要認(rèn)識(shí)到，即使是商業(yè)公司的開(kāi)源，也有其特殊性質(zhì)，背后可能有其他考慮。從技術(shù)推進(jìn)的角度來(lái)看，開(kāi)源可能仍然面臨挑戰(zhàn)，因?yàn)樗枰罅康拈_(kāi)發(fā)工作，更重要的是技術(shù)創(chuàng)新。
我也同意，如果是閉源的模型，政府應(yīng)該進(jìn)行一定程度的監(jiān)管，企業(yè)也應(yīng)該承擔(dān)起責(zé)任，做正確的事，這非常重要。AI研究一般是在大規(guī)模的環(huán)境下進(jìn)行的，AI的發(fā)展需要大量的投資，這是我們目前所面臨的現(xiàn)實(shí)。就像我們之前討論的，為了推動(dòng)技術(shù)向前發(fā)展，我們需要大量的資金來(lái)擴(kuò)大模型的規(guī)模。
張宏江：我覺(jué)得7萬(wàn)億這個(gè)數(shù)字跟閉源和開(kāi)源不一定有直接關(guān)系。如果你認(rèn)同Scaling Law，并且考慮過(guò)我們距離實(shí)現(xiàn)AGI還有多遠(yuǎn)，還需要多少資源，那么你可能會(huì)得出這樣的數(shù)字。我們可能需要投入這么多資金，甚至更多，不僅是一家企業(yè)，可能還有其他企業(yè)也需要投入相似的資金量。這不是拍腦袋，而是基于Scaling Law的合理預(yù)測(cè)。隨著模型參數(shù)的增加，我們需要更強(qiáng)大的算力進(jìn)行訓(xùn)練和推理，更多的機(jī)房、更多的IDC設(shè)施和電力供應(yīng)。如果現(xiàn)在的模型擴(kuò)大1000倍，那么這樣的投資規(guī)�？赡芫褪潜匦璧�。為了搭建這個(gè)系統(tǒng)、實(shí)現(xiàn)這個(gè)目標(biāo)，就需要相應(yīng)的投資。我覺(jué)得這是他的思考，而且從Sam的角度來(lái)說(shuō)，這家伙想問(wèn)題常常都是往10年以后想。
觀眾2：我博士畢業(yè)于清華大學(xué)精密儀器系，目前是在中國(guó)信息通信研究院做人工智能方面的技術(shù)產(chǎn)業(yè)研究。我的問(wèn)題是，首先，我們提到人工智能的發(fā)展依賴于三個(gè)核心要素：算法、計(jì)算能力和數(shù)據(jù)。目前，算法研究可能面臨研究力量分散的問(wèn)題，算力方面受到美國(guó)對(duì)高端AI芯片出口禁令的影響，而數(shù)據(jù)方面，高質(zhì)量的中文數(shù)據(jù)集可能還不夠充足。面對(duì)這些挑戰(zhàn)，我們應(yīng)該如何權(quán)衡這三者的優(yōu)先級(jí)，有限發(fā)展哪一種。
其次，如果計(jì)算能力是目前制約我國(guó)發(fā)展像Sora這樣的先進(jìn)大型AI模型的主要因素，那么是否可以通過(guò)國(guó)家力量，整合國(guó)內(nèi)現(xiàn)有的高端計(jì)算資源，比如英偉達(dá)的芯片，來(lái)支持國(guó)內(nèi)科研人員的研發(fā)工作，從而實(shí)現(xiàn)我國(guó)在這一領(lǐng)域的突破？
李航：第一個(gè)問(wèn)題，正如我之前提到的，從長(zhǎng)遠(yuǎn)來(lái)看，人才培養(yǎng)是最關(guān)鍵的。雖然算力目前遇到了瓶頸，但這相對(duì)是一個(gè)短期問(wèn)題。長(zhǎng)期來(lái)看，人工智能的發(fā)展離不開(kāi)人才的培養(yǎng)。
個(gè)人認(rèn)為，本科教育非常重要。大學(xué)的研究工作，如何與產(chǎn)業(yè)界結(jié)合，推動(dòng)人工智能領(lǐng)域的研究，這也是重要的。對(duì)于長(zhǎng)期發(fā)展，最核心的還是人才。短期問(wèn)題，比如數(shù)據(jù)問(wèn)題，相對(duì)容易解決，但人才培養(yǎng)需要全社會(huì)的共同努力。
周忠和：說(shuō)到人才，我想到了一個(gè)問(wèn)題。我們通常關(guān)注人數(shù)和發(fā)表論文的數(shù)量，就像張老師之前提到的排名一樣。但在中國(guó)科技領(lǐng)域，我們現(xiàn)在需要的是真正的創(chuàng)新的拔尖的人才，這不僅僅是數(shù)量上的問(wèn)題，對(duì)吧？
張宏江：沒(méi)錯(cuò)。特別是在未來(lái)，那些湊數(shù)的很可能會(huì)被AI取代。我們需要的是那種能夠進(jìn)行真正創(chuàng)新的人才。
薛瀾：我談?wù)劦诙䝼�(gè)問(wèn)題。我覺(jué)得這是一個(gè)假設(shè)，這種假設(shè)是很難實(shí)現(xiàn)的。如果我們回到幾十年前，在舉國(guó)體制、計(jì)劃經(jīng)濟(jì)下，說(shuō)不定還有點(diǎn)可能。今天的這種情況我覺(jué)得是非常難的，所以這個(gè)前提不存在，我們就沒(méi)有必要探討到后面的部分了。
觀眾3：我是理論物理專業(yè)的學(xué)生，從原理上來(lái)說(shuō)，AI是否可能具備提出全新基礎(chǔ)理論的能力？比如像相對(duì)論或標(biāo)準(zhǔn)模型這樣的理論。如果AI真的可以做到這一點(diǎn)，那么我們是否可以得出結(jié)論，比如像現(xiàn)代的Transformer架構(gòu)，它是否能自我產(chǎn)生出比自己更先進(jìn)的架構(gòu)？如果是這樣，那是否意味著AI具有一種自我進(jìn)化的能力？
張宏江：如果你問(wèn)的是AI能否設(shè)計(jì)出比自己更有效的工具，我認(rèn)為這是有可能的。關(guān)于AI是否能夠自我進(jìn)化，目前我還看不到這樣的能力，但我不認(rèn)為這在未來(lái)是不可能的。隨著我們構(gòu)建越來(lái)越大的模型，它們本質(zhì)上會(huì)變得更智能。設(shè)計(jì)更大的模型需要更高的效率，如果AI能夠設(shè)計(jì)出更好的編程模塊，使工程實(shí)施比人類更高效，那么在這一點(diǎn)上，我認(rèn)為AI是有可能實(shí)現(xiàn)自我超越的。
至于AI能否發(fā)現(xiàn)新的物理突破，我認(rèn)為這和問(wèn)一個(gè)物理學(xué)家未來(lái)十年是否會(huì)有重大物理發(fā)現(xiàn)一樣，都是開(kāi)放性的問(wèn)題。不過(guò)有一個(gè)例子值得一提，那就是核聚變。核聚變本質(zhì)上是創(chuàng)造一個(gè)小型太陽(yáng)，而要實(shí)現(xiàn)這一點(diǎn)，我們需要能夠包裹住核反應(yīng)的等離子體。核聚變主要的一種結(jié)構(gòu)，托卡馬克（Tokamak）內(nèi)部的等離子體，只能通過(guò)大型AI模型來(lái)完成設(shè)計(jì)。也就是說(shuō)在核聚變這個(gè)領(lǐng)域，AI已經(jīng)幫上忙了，因?yàn)樗軌蛟O(shè)計(jì)出之前人類無(wú)法設(shè)計(jì)的等離子體模型。所以，當(dāng)我們談?wù)摰?萬(wàn)億美元的投資時(shí)，可以說(shuō)AI也在幫助解決自己的能源問(wèn)題。
現(xiàn)場(chǎng)觀眾提問(wèn)正在提問(wèn)
周忠和：那AI能夠提出原創(chuàng)性的科學(xué)問(wèn)題嗎？
張宏江：如果它能做數(shù)學(xué)推理和證明，我覺(jué)得就不遠(yuǎn)了。
李航：我是這樣看待這個(gè)問(wèn)題。AI目前還難以展現(xiàn)出真正的創(chuàng)造力，比如說(shuō)那種顛覆性的創(chuàng)新，像相對(duì)論那樣我們從未想過(guò)的理論。雖然現(xiàn)在AI能夠發(fā)現(xiàn)新的定理、新的證明方法、新藥物和新材料，但它更像是在廣闊的搜索空間中尋找最佳答案。它能夠處理的規(guī)模是人類無(wú)法比擬的。
周忠和：也就是說(shuō)，AI的發(fā)現(xiàn)是基于現(xiàn)有知識(shí)框架的，對(duì)嗎？
李航：可以這么說(shuō)。AI實(shí)際上是在一個(gè)巨大的搜索空間中尋找正確的解答，人是做不到那么大規(guī)模的搜索的。從這個(gè)角度看，AI在未來(lái)的科學(xué)發(fā)現(xiàn)方面潛力巨大，我對(duì)AI for Science的未來(lái)發(fā)展非常樂(lè)觀，這個(gè)意義上的科學(xué)發(fā)現(xiàn)會(huì)非常多。
盡管我們還沒(méi)有完全解決AI for Science的數(shù)據(jù)問(wèn)題，這不像互聯(lián)網(wǎng)數(shù)據(jù)相對(duì)豐富，但我認(rèn)為這個(gè)挑戰(zhàn)最終可以被克服。如果我們按照Scaling Law的思路來(lái)看，未來(lái)的發(fā)展空間是巨大的。但是，對(duì)于那些完全顛覆性的創(chuàng)新，比如相對(duì)論，我認(rèn)為AI目前還做不到。因?yàn)锳I的發(fā)現(xiàn)是基于我們?cè)O(shè)定的數(shù)據(jù)和搜索空間，它在這個(gè)范圍內(nèi)進(jìn)行組合和搜索，而不是創(chuàng)造出我們從未想過(guò)的新概念。所以，至少在目前，我沒(méi)有看到AI能夠突破這一點(diǎn)。
觀眾4：我是來(lái)自天氣預(yù)報(bào)領(lǐng)域的，首先，當(dāng)AI模型能夠提供比傳統(tǒng)數(shù)理模型更準(zhǔn)確的預(yù)測(cè)時(shí)，我們是否應(yīng)該放棄那些我們熟悉且建立起來(lái)的數(shù)理模型，停止嘗試用它們?nèi)ダ斫馕锢頇C(jī)制的過(guò)程？還是說(shuō)，我們會(huì)依賴AI來(lái)告訴我們這個(gè)世界是如何運(yùn)作的？
其次，隨著AI逐漸取代了許多傳統(tǒng)的白領(lǐng)工作，我們可能會(huì)面臨一個(gè)社會(huì)現(xiàn)象，大量的人可能不再需要工作。如果按照97比3的比例，那么那97%的人將如何度過(guò)他們的生活？他們是否能夠發(fā)揮人類獨(dú)有的創(chuàng)造力？如果他們只是普通人，他們應(yīng)該如何適應(yīng)這樣的生活？社會(huì)又將如何看待這些不再?gòu)氖聜鹘y(tǒng)工作的人？我們對(duì)于“人應(yīng)該如何生活”的哲學(xué)是否會(huì)發(fā)生根本性的變化？
張宏江：我的回答是，人類將持續(xù)探索新的領(lǐng)域和方法，因?yàn)槟Ｐ托枰藖?lái)提供數(shù)據(jù)。這種數(shù)據(jù)包括新的方法。所以我覺(jué)得，人和模型會(huì)共存，而且互幫互助。但與此同時(shí)，模型的發(fā)展也會(huì)對(duì)人類提出越來(lái)越高的要求。想象一下，如果大部分事情模型都做得比人好，那對(duì)人類的能力和素質(zhì)就會(huì)有更高的期望和標(biāo)準(zhǔn)。
薛瀾：您剛才提出的問(wèn)題非常重要。實(shí)際上，我認(rèn)為這里涉及到兩個(gè)方面的問(wèn)題。首先，正如我們之前討論的，隨著人工智能的廣泛應(yīng)用，特別是那些能力出眾的人可能會(huì)變得更加高效，而其他人可能就不再被需要。在這種情況下，我們首先需要面對(duì)的是社會(huì)分配問(wèn)題。現(xiàn)行的社會(huì)分配制度可能需要進(jìn)行重大的調(diào)整。否則，沒(méi)有工作的人可能會(huì)采取極端行動(dòng)。因此，這個(gè)問(wèn)題必須首先得到解決�，F(xiàn)在，人們正在討論普遍基本收入（UGI）和其他各種新的分配方式，這些都是我們社會(huì)需要探索的。
當(dāng)然，您提到的另一個(gè)問(wèn)題也確實(shí)存在。在未來(lái)，我們目前所說(shuō)的工作，可能不再需要如此大量的就業(yè)人口。這種情況下，未來(lái)人類生活的意義是什么？我們應(yīng)該如何創(chuàng)造新的方式，讓每個(gè)人都能在社會(huì)上生存并繼續(xù)過(guò)上有意義的生活？這也是我們整個(gè)現(xiàn)代社會(huì)需要積極探討的問(wèn)題。不過(guò)，我相信技術(shù)進(jìn)步雖然迅速，但社會(huì)的演變和適應(yīng)能力也同樣強(qiáng)大。我們的認(rèn)知和社會(huì)的容忍度將會(huì)隨著技術(shù)的發(fā)展而調(diào)整。
所以我認(rèn)為不至于在短期內(nèi)，比如五年后，所有人都失業(yè)。但另一方面，我們需要有緊迫感。在適應(yīng)這些變化的同時(shí)，探討未來(lái)人類社會(huì)的形態(tài)，以及我們?nèi)绾尉S持有意義的生活是很重要的問(wèn)題。這是需要我們大家共同努力的方向。
觀眾5：各位老師好，我是北航生物醫(yī)學(xué)工程專業(yè)的博士研究生，我現(xiàn)在的這個(gè)研究方向是人工智能在蛋白質(zhì)設(shè)計(jì)中的應(yīng)用。剛才幾位老師講得很清楚，現(xiàn)在人工智能已經(jīng)非常的強(qiáng)大了，在未來(lái)，我們相信AI是專家的時(shí)候，我們?cè)趺慈パ信形覀儐?wèn)它的問(wèn)題，它反饋給我們的是正確的？
李航：這是一個(gè)開(kāi)放性的問(wèn)題。Open AI也在研究，當(dāng)超人類智能出現(xiàn)時(shí)會(huì)發(fā)生什么。這涉及到很多未知的問(wèn)題。我個(gè)人觀點(diǎn)，我們現(xiàn)在不要過(guò)多地討論這些問(wèn)題。
我們現(xiàn)在使用GPT-4，它有時(shí)會(huì)有機(jī)器幻覺(jué)，我們需要判斷它所說(shuō)的是否正確。如果你了解它容易犯哪些錯(cuò)誤，你就會(huì)更懂得如何使用它。我們需要掌握這種技巧。
周忠和：有人說(shuō)有10%的錯(cuò)誤率，真有這么高嗎？
李航：不止10%。比如你問(wèn)北京五塔寺的地址是什么？GPT-4會(huì)回答錯(cuò)誤。我試過(guò)，它會(huì)給出錯(cuò)誤的答案。
周忠和：Sora也會(huì)犯錯(cuò)吧？那個(gè)視頻看起來(lái)很吸引人，但里面似乎也有一些問(wèn)題……
李航：Sora現(xiàn)在甚至還沒(méi)有公開(kāi)，據(jù)說(shuō)實(shí)際上犯的錯(cuò)誤也很多。我們需要逐漸適應(yīng)這種工具的特性，了解什么問(wèn)題可以問(wèn)，什么時(shí)候問(wèn)完后需要去核實(shí)。
未來(lái)還有很多這樣的開(kāi)放性問(wèn)題，比如剛才提到的科學(xué)發(fā)現(xiàn)，我們需要去驗(yàn)證。我們需要確認(rèn)它是否正確，數(shù)學(xué)證明也是如此，如果它聲稱證明了一個(gè)新的定理，我們?nèi)匀恍枰ヲ?yàn)證。這其中還有很多需要探索和研究的課題。我認(rèn)為這是一個(gè)新時(shí)代，科學(xué)研究也進(jìn)入了一個(gè)新的時(shí)代。
- 關(guān)于科學(xué)四十人 -
在創(chuàng)辦《知識(shí)分子》和《賽先生》等知名科學(xué)文化平臺(tái)的基礎(chǔ)上，智識(shí)學(xué)研社發(fā)起成立了民間科學(xué)交流平臺(tái) “科學(xué)四十人”。“科學(xué)四十人” 的成員包括數(shù)學(xué)、物理、化學(xué)、生物、醫(yī)學(xué)等九個(gè)領(lǐng)域的領(lǐng)軍科學(xué)家。“科學(xué)四十人” 致力成為先進(jìn)的科學(xué)交流平臺(tái)，積極推進(jìn)國(guó)際科學(xué)交流和全球科技治理議題，匯聚各個(gè)領(lǐng)域的科學(xué)力量和專業(yè)知識(shí)、意見(jiàn)和影響力，推動(dòng)人類可持續(xù)發(fā)展。“科學(xué)四十人” 得到了科匯致遠(yuǎn)公益基金會(huì)的大力支持。
