“超越人類智慧的AI可以用語言操縱我們，或許會(huì)試圖說服我們不要關(guān)掉開關(guān)。”
今年3月，由ChatGPT掀起的AI（人工智能）技術(shù)革命背后的奠基性科學(xué)家、被譽(yù)為“AI教父”的杰弗里辛頓（Geoffrey E. Hinton），曾對(duì)媒體提及他對(duì)AI“反噬人類”的擔(dān)憂。如今，在他心中“危險(xiǎn)和機(jī)遇并存”的AI，為他帶來了諾貝爾物理學(xué)獎(jiǎng)的榮譽(yù)。
當(dāng)?shù)貢r(shí)間10月8日，瑞典皇家科學(xué)院宣布，將2024年諾貝爾物理學(xué)獎(jiǎng)授予美國(guó)普林斯頓大學(xué)的約翰霍普菲爾德（John J. Hopfield）和加拿大多倫多大學(xué)的杰弗里辛頓，以表彰他們“為推動(dòng)利用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)作出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。
諾貝爾化學(xué)獎(jiǎng)則部分授予了谷歌旗下DeepMind公司AI科學(xué)家德米斯哈薩比斯和約翰江珀，以表彰他們研發(fā)出的“Alpha Fold2”模型在蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)方面的成就。
當(dāng)AI首次成為諾貝爾獎(jiǎng)的主要元素，這不僅是對(duì)科學(xué)家的認(rèn)可，也是對(duì)“AI輔助科學(xué)研究”這一應(yīng)用趨勢(shì)的肯定，“諾貝爾物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)都花落AI，既在意料之外，又在情理之中。”復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華告訴澎湃新聞?dòng)浾摺?/p>
在他看來，AI在諾貝爾獎(jiǎng)當(dāng)中占據(jù)相當(dāng)比重，釋放出傳統(tǒng)的自然科學(xué)國(guó)際性的獎(jiǎng)項(xiàng)向新興學(xué)科遷移的信號(hào)。傳統(tǒng)上人們認(rèn)為，諾貝爾獎(jiǎng)主要授予在傳統(tǒng)自然科學(xué)領(lǐng)域做出杰出貢獻(xiàn)的個(gè)人或組織。此次諾獎(jiǎng)對(duì)人工智能等新興學(xué)科的傾斜，標(biāo)志著以人工智能驅(qū)動(dòng)的科研方式已不再是“偏門”而是逐漸走向“主流”，并獲得傳統(tǒng)自然科學(xué)領(lǐng)域的廣泛肯定。
AI“攻占”諾貝爾獎(jiǎng)意味著什么？
“我做了這么一輩子科研，從來沒見過AI這么一個(gè)行當(dāng)。每三個(gè)月就有新突破，每半年就要翻天覆地了。”國(guó)際著名計(jì)算生物學(xué)家、復(fù)旦大學(xué)復(fù)雜體系多尺度研究院首任院長(zhǎng)、上海人工智能實(shí)驗(yàn)室領(lǐng)軍科學(xué)家馬劍鵬向澎湃新聞?dòng)浾咛寡浴?/p>
在他看來，過去50年中，“蛋白質(zhì)折疊問題”一直是生物學(xué)界的重大挑戰(zhàn)此前，生物學(xué)家主要利用X射線晶體學(xué)或冷凍電鏡等實(shí)驗(yàn)技術(shù)來破譯蛋白質(zhì)的三維結(jié)構(gòu)，耗時(shí)長(zhǎng)、成本高。幾年前，科學(xué)家用計(jì)算機(jī)預(yù)測(cè)復(fù)雜的蛋白質(zhì)折疊結(jié)構(gòu)，正確率還不到40%。Alphafold出現(xiàn)后，奇跡出現(xiàn)了。
2020年11月30日，Alphafold 2在蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)大賽CASP 14中，對(duì)大部分蛋白質(zhì)結(jié)構(gòu)的預(yù)測(cè)與真實(shí)結(jié)構(gòu)只差一個(gè)原子的寬度，接近達(dá)到了人類利用冷凍電子顯微鏡等復(fù)雜儀器觀察預(yù)測(cè)的水平，這是蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)史無前例的巨大進(jìn)步。
“預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)，向來被認(rèn)為是‘太陽底下最難的科學(xué)問題之一’。”馬劍鵬表示，他和好朋友、諾貝爾化學(xué)獎(jiǎng)得主邁克爾萊維特都曾認(rèn)為，這一問題在他們的有生之年恐怕很難完全解決，“但沒想到人工智能‘Alphafold 2’的出現(xiàn)了，讓這個(gè)問題向前邁進(jìn)一大步，真正體現(xiàn)了算法的力量，將諾貝爾化學(xué)獎(jiǎng)?lì)C給人工智能，是一個(gè)理所應(yīng)當(dāng)或者非常恰當(dāng)?shù)臎Q定。”
馬劍鵬認(rèn)為，人工智能可以將求解的準(zhǔn)確率大幅提升，顯示了“科學(xué)智能”研究范式的強(qiáng)大。雖然“Alphafold 2”和“Alphafold 3”并未完全解決蛋白質(zhì)折疊問題，但它給科學(xué)界帶來了啟示：可以通過數(shù)據(jù)驅(qū)動(dòng)，將人工智能應(yīng)用于更多的科研領(lǐng)域，讓AI助手破解各種難題。
“人工智能現(xiàn)在已經(jīng)成為一場(chǎng)新的技術(shù)革命，或者可以稱之為工具革命。”肖仰華告訴記者，在科學(xué)研究領(lǐng)域，AI已成為推動(dòng)社會(huì)進(jìn)步和研究發(fā)展的最重要引擎。
肖仰華認(rèn)為，諾貝爾獎(jiǎng)授予人工智能相關(guān)研究實(shí)際上起到一個(gè)風(fēng)向標(biāo)的作用，這意味著傳統(tǒng)自然學(xué)科一定會(huì)掀起努力擁抱和學(xué)習(xí)人工智能、積極把人工智能的很多工具和方法融入到科學(xué)自身的科學(xué)研究中的熱潮。“大家普遍認(rèn)為，獲得諾貝爾獎(jiǎng)的科學(xué)家需要經(jīng)過幾十年的研究，而AI打破了這一定律。未來可能會(huì)有越來越多年輕學(xué)者使用AI工具在傳統(tǒng)自然科學(xué)做出巨大貢獻(xiàn)，在短短幾年之內(nèi)獲得諾獎(jiǎng)，三四十歲左右的諾獎(jiǎng)?wù)呖赡軙?huì)大量涌現(xiàn)，這個(gè)風(fēng)向標(biāo)的意義十分重大，也會(huì)對(duì)傳統(tǒng)的自然科學(xué)研究造成巨大沖擊。”
“這次的諾獎(jiǎng)授予情況，可以說是打破了一直以來的評(píng)獎(jiǎng)傳統(tǒng)，可以說是諾貝爾獎(jiǎng)評(píng)選的一次自我改革。一方面，這反映了諾貝爾獎(jiǎng)委員會(huì)對(duì)于該獎(jiǎng)項(xiàng)意義的反思，之后的授獎(jiǎng)會(huì)更加地關(guān)注技術(shù)的現(xiàn)實(shí)影響，而非絕對(duì)意義的學(xué)術(shù)前沿。”中央財(cái)經(jīng)大學(xué)經(jīng)濟(jì)學(xué)院教授、清華大學(xué)中國(guó)經(jīng)濟(jì)思想與實(shí)踐研究院研究員徐翔告訴澎湃新聞?dòng)浾摺?/p>
另一方面，這反映人工智能技術(shù)帶來的巨大沖擊與科技界對(duì)這項(xiàng)技術(shù)的無限期待，說明科技界把人工智能看成了科學(xué)研究的底層技術(shù)，這是過去很多年的獲獎(jiǎng)成果沒有做到的。
“此次AI在諾獎(jiǎng)獲得成功，表明了學(xué)科大交叉、深交叉是趨勢(shì)，AI改變了科研范式，突破了傳統(tǒng)科研方式天花板。通過量變推動(dòng)質(zhì)變，AI有望在未來助力更多學(xué)科領(lǐng)域取得突破。”國(guó)內(nèi)人工智能專家張春龍向澎湃新聞?dòng)浾弑硎荆瑢?duì)于網(wǎng)友們的“ChatGPT獲得諾貝爾文學(xué)獎(jiǎng)”等期待，他認(rèn)為，科學(xué)（科技）工程類學(xué)科可以由大系統(tǒng)AI助力，文學(xué)創(chuàng)作類的可能還是需要人文和情感底蘊(yùn)支撐。
AI發(fā)展有什么風(fēng)險(xiǎn)？如何利用好？
“假設(shè)青蛙創(chuàng)造了人類，那么你認(rèn)為現(xiàn)在誰會(huì)占據(jù)主動(dòng)權(quán)，是人，還是青蛙？”
去年，辛頓本人在北京智源大會(huì)提出的問題仍在耳畔回響，在諾獎(jiǎng)“爆冷”頒給AI后，人們也在質(zhì)疑，AI是否正在奪走科學(xué)家最重要的榮譽(yù)，AI的高速發(fā)展，真的不會(huì)帶來取代人類的風(fēng)險(xiǎn)嗎？
“最后獲獎(jiǎng)的是AI算法背后的科學(xué)家和工程師，而非人工智能本身，目前的人工智能技術(shù)也未能達(dá)到脫離數(shù)據(jù)+算力+算法獨(dú)立運(yùn)行的程度，本質(zhì)上還是人類的智慧，但是我們需要對(duì)于人工智能下一階段的發(fā)展抱有審慎態(tài)度，用客觀的眼光看待并做好治理介入的準(zhǔn)備。”徐翔坦言。
“從來不是AI可能取代人類，而是掌握了AI這種先進(jìn)工具的擁有者在淘汰沒有掌握先進(jìn)工具的人，歷史車輪的發(fā)展軌跡一直如此，任何一次技術(shù)革命都是先進(jìn)技術(shù)的擁有者去淘汰沒有獲得先進(jìn)技術(shù)的人，形成了相對(duì)的競(jìng)爭(zhēng)優(yōu)勢(shì)。”
在肖仰華看來，要看到AI在科學(xué)研究發(fā)展上的巨大潛力，也要意識(shí)到AI背后潛在的風(fēng)險(xiǎn)和問題，以目前AI的能力，即便將來發(fā)展很完善，本質(zhì)依然是工具，是對(duì)人類的輔助，需要人類科學(xué)家去引導(dǎo)、規(guī)范和糾正，“因?yàn)锳I很難具有人類科學(xué)家的原始創(chuàng)新能力，它不具備像愛因斯坦那樣提出這種相對(duì)論，去解釋物理現(xiàn)象，突破傳統(tǒng)牛頓力學(xué)對(duì)于這個(gè)世界的機(jī)械力學(xué)的解釋，從零到一的原始創(chuàng)新仍然還是人類科學(xué)家才有可能完成。”
肖仰華表示，目前AI發(fā)展存在兩大主要弊端，第一是AI會(huì)放大科技的兩面性，當(dāng)AI驅(qū)動(dòng)科學(xué)研究之后，這意味著雙刃劍的劍鋒恐怕要更加鋒利，需要積極管理和管控其可能帶來的風(fēng)險(xiǎn)。
更嚴(yán)重的是價(jià)值觀念和倫理道德的挑戰(zhàn)，“科技是火車頭，整個(gè)人類社會(huì)是車身，目前火車頭動(dòng)力十足，速度越來越快，越來越加速。但是整個(gè)人類社會(huì)是由一個(gè)個(gè)鮮活的個(gè)體組成的，是由還在遵循著傳統(tǒng)倫理和價(jià)值觀念的家庭組成的，一個(gè)個(gè)社區(qū)及小型社會(huì)群體構(gòu)成的。我們還在遵循著幾千年未變的文化價(jià)值、倫理、情感觀念，這些是不可能做那么快的調(diào)整的。”
在科技的強(qiáng)勁的帶動(dòng)下，生產(chǎn)力會(huì)快速發(fā)展，生產(chǎn)力快速發(fā)展就勢(shì)必要求整個(gè)社會(huì)的上層建筑、倫理價(jià)值和情感觀念跟著去做適應(yīng)和調(diào)整，緩慢調(diào)整的社會(huì)上層關(guān)系和在科技帶動(dòng)下快速發(fā)展的生產(chǎn)力之間可能會(huì)誕生新型的矛盾。
今年6月，2024年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主麻省理工學(xué)院（MIT）教授達(dá)龍阿西莫格魯（Daron Acemoglu）在接受澎湃新聞?dòng)浾邔ＴL時(shí)表示，對(duì)于人工智能，非常擔(dān)心它成為將財(cái)富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式，“問題是我們沒有任何必要的控制機(jī)制以確保普通人從AI中獲利，比如強(qiáng)有力的監(jiān)管、工人參與、公民社會(huì)和民主監(jiān)督。我們看到的‘不平等’是‘煤礦里的金絲雀’，意味著更糟糕的事即將到來。”
國(guó)產(chǎn)大模型如何騰飛超越？
在360創(chuàng)始人周鴻看來，這一次諾貝爾物理學(xué)獎(jiǎng)?lì)C給計(jì)算機(jī)科學(xué)、頒給人工智能，具有標(biāo)志和代表性的意義。
“從諾貝爾獎(jiǎng)評(píng)審的角度來講，可能都已經(jīng)開始相信物理學(xué)的前沿靠人類是不夠的，要靠AI。未來所有學(xué)科的發(fā)展都離不開AI，將來可能生物學(xué)、化學(xué)、數(shù)學(xué)等其他科學(xué)的獎(jiǎng)項(xiàng)也會(huì)發(fā)給計(jì)算機(jī)科學(xué)家，會(huì)發(fā)給對(duì)AI產(chǎn)業(yè)具有貢獻(xiàn)的人�？赡芤院蟾鱾�(gè)科學(xué)的突破，都要靠AI來推動(dòng)。AI會(huì)成為人類科學(xué)研究的重要的工具，”周鴻表示，AI正在改變這個(gè)世界，首先改變的是諾貝爾獎(jiǎng)發(fā)獎(jiǎng)的方式。
AI成為諾獎(jiǎng)主流，無疑給AI產(chǎn)業(yè)發(fā)展帶來了積極信號(hào)，中國(guó)AI科研和大模型企業(yè)又該如何對(duì)標(biāo)？
“中國(guó)從來不缺優(yōu)秀的工程師。”馬劍鵬告訴記者，“但是如果要走向高精尖，還有很大的難度，能出現(xiàn)在概念上起引領(lǐng)作用的突破最好，因?yàn)槿斯ぶ悄茴I(lǐng)域確實(shí)具有廣泛的應(yīng)用前景。坦白講，中國(guó)在這方面已經(jīng)取得了不錯(cuò)的成績(jī)，如果討論的是我們是否能在世界范圍內(nèi)達(dá)到諾貝爾獎(jiǎng)級(jí)別的成就，我想在這方面可能還存在一定差距。”
馬劍鵬提到，在AI領(lǐng)域的競(jìng)爭(zhēng)，需要借鑒國(guó)外的經(jīng)驗(yàn)，不能只在高校里依靠教授單兵作戰(zhàn)。有些工作，需要大兵團(tuán)作戰(zhàn)，需要高校、大企業(yè)等各類資源的融合。谷歌的突破就是一個(gè)明顯的例子。最近AI方面的巨大突破，幾乎全都是科技公司做出來的。
此外，在AI教育的短板也需要加強(qiáng)彌補(bǔ)，“高等教育機(jī)構(gòu)中的學(xué)科分類，包括學(xué)院的劃分，都是基于傳統(tǒng)學(xué)科體系而設(shè)立的，現(xiàn)在必須改革，加強(qiáng)對(duì)AI教育的培訓(xùn)。例如，復(fù)旦大學(xué)2024年招生培養(yǎng)政策發(fā)布會(huì)上發(fā)布的信息，從2024年秋季學(xué)期開始，復(fù)旦大學(xué)將在2024-2025學(xué)年推出至少100門AI領(lǐng)域課程。AI大課將納入所有復(fù)旦學(xué)生的學(xué)業(yè)安排。”
值得注意的是，此前國(guó)產(chǎn)大模型大多聚焦在通用大模型、行業(yè)大模型上，“專業(yè)大模型，尤其是與自然科學(xué)相結(jié)合的專業(yè)大模型，將來其實(shí)同樣重要，甚至更加重要。比如蛋白質(zhì)大模型會(huì)大量用在生命科學(xué)醫(yī)療產(chǎn)業(yè)，這關(guān)系到健康福祉和國(guó)家科技競(jìng)爭(zhēng)。”肖仰華表示。
他建議，這對(duì)國(guó)產(chǎn)大模型未來發(fā)展具有重要啟示，未來大模型在To B（企業(yè)端）行業(yè)專業(yè)場(chǎng)景的應(yīng)用要更多和更快，“To B的應(yīng)用需要有更多的資源力量和人才資本投入，而這些都和諾貝爾獎(jiǎng)傳統(tǒng)自然科學(xué)和AI深度融合是密切相關(guān)的。如果能借這個(gè)契機(jī)，推動(dòng)更多的資源進(jìn)入到專業(yè)場(chǎng)景，那么對(duì)大模型產(chǎn)業(yè)而言會(huì)產(chǎn)生更巨大的推動(dòng)作用。”
