人工智能（AI）飛速發(fā)展帶來(lái)的影響，已遠(yuǎn)遠(yuǎn)超出常規(guī)技術(shù)領(lǐng)域，對(duì)人類(lèi)社會(huì)和全球政治格局都帶來(lái)了巨大沖擊。該如何看待AI時(shí)代的機(jī)遇與挑戰(zhàn)？環(huán)球時(shí)報(bào)研究院聯(lián)合科普中國(guó)智庫(kù)，日前舉辦“環(huán)球前沿科技論壇人工智能”專(zhuān)題研討會(huì)。本次研討會(huì)邀請(qǐng)國(guó)內(nèi)多領(lǐng)域權(quán)威專(zhuān)家以“賦能全球南方，中國(guó)人工智能的經(jīng)驗(yàn)與機(jī)遇”為主題對(duì)AI技術(shù)發(fā)展面臨的機(jī)遇與挑戰(zhàn)，以及如何賦能全球南方國(guó)家的發(fā)展等議題進(jìn)行了深入討論。
大模型潮流帶來(lái)的“3+2”挑戰(zhàn)
目前談到AI繞不開(kāi)大模型，談到大模型則繞不開(kāi)OpenAI引領(lǐng)的技術(shù)突破。在全球火爆的大模型潮流面前，又有哪些值得注意的挑戰(zhàn)呢？
中國(guó)國(guó)家創(chuàng)新與發(fā)展戰(zhàn)略研究會(huì)副會(huì)長(zhǎng)、中國(guó)科學(xué)院大學(xué)教授呂本富表示，OpenAI引領(lǐng)的大模型潮流帶來(lái)的風(fēng)險(xiǎn)是“3+2”，即3個(gè)內(nèi)部性挑戰(zhàn)、兩個(gè)外部性挑戰(zhàn)。其中內(nèi)部性挑戰(zhàn)首先是大模型可能加大了社會(huì)偏見(jiàn)。很多研究都發(fā)現(xiàn)，由于訓(xùn)練材料的選擇不當(dāng)，AI反而加深了對(duì)少數(shù)族裔的種族歧視。其次是所謂的機(jī)器幻覺(jué)，也就是AI“一本正經(jīng)地瞎說(shuō)”。第三個(gè)是更重要的本質(zhì)問(wèn)題：未來(lái)AI水平超過(guò)人類(lèi)怎么辦？這就是所謂“超級(jí)對(duì)齊”問(wèn)題。其中第三個(gè)挑戰(zhàn)是公眾最害怕的，因?yàn)楦鞣N科幻電影早就有過(guò)預(yù)警：在AI超過(guò)人類(lèi)后，可能存在人類(lèi)變成AI附屬品的風(fēng)險(xiǎn)。
除了三個(gè)內(nèi)部性挑戰(zhàn)以外，AI還有兩個(gè)外部性挑戰(zhàn)，即產(chǎn)生的社會(huì)影響。首先是AI可能加劇了貧困和就業(yè)壓力。研究顯示，AI技術(shù)是有史以來(lái)第一次出現(xiàn)技術(shù)進(jìn)步產(chǎn)生的崗位少于消失崗位的情況。其次是所謂“偽造問(wèn)題”，如今AI技術(shù)已被用于偽造文本、偽造圖像以及更危險(xiǎn)的偽造場(chǎng)景，它們給社會(huì)秩序帶來(lái)很大挑戰(zhàn)，未來(lái)對(duì)于AI造假的識(shí)別和治理將耗費(fèi)很大人力物力。
中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員張?jiān)迫J(rèn)為，大模型對(duì)生產(chǎn)力帶來(lái)革命性變化，和歷次的技術(shù)革命不一樣�！耙酝募夹g(shù)革命只是換掉了人的工具，例如把過(guò)去的駕馬車(chē)換成了現(xiàn)在的開(kāi)汽車(chē)或者開(kāi)飛機(jī)，而大模型帶來(lái)的技術(shù)革命是把人換掉了，這是最可怕的�！睆�?jiān)迫�表示，AI技術(shù)革命帶來(lái)的直接結(jié)果之一是富人更加富了，只要機(jī)器、電力和算力就可以開(kāi)展生產(chǎn)、掙錢(qián)，會(huì)讓財(cái)富進(jìn)一步集中在富人手里，因此如何對(duì)于AI技術(shù)進(jìn)步帶來(lái)的財(cái)富分配問(wèn)題進(jìn)行調(diào)整非常重要。此外，AI技術(shù)進(jìn)步還可能導(dǎo)致產(chǎn)業(yè)人口紅利價(jià)值的消失，發(fā)達(dá)國(guó)家可能不需要用全球南方國(guó)家的勞動(dòng)力來(lái)降低生產(chǎn)成本，用AI驅(qū)動(dòng)的機(jī)器生產(chǎn)可能更便宜，生產(chǎn)效率更高，發(fā)達(dá)國(guó)家和發(fā)展中國(guó)家之間的產(chǎn)業(yè)轉(zhuǎn)移也將減少。
北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉表示，當(dāng)前大模型帶來(lái)的技術(shù)挑戰(zhàn)之一是機(jī)器幻覺(jué)，它本質(zhì)上是源于神經(jīng)網(wǎng)絡(luò)的兩個(gè)函數(shù)，從原理上注定機(jī)器幻覺(jué)的問(wèn)題無(wú)法消除�！拔曳磳�(duì)只告訴公眾大模型多么厲害，不說(shuō)大模型的缺點(diǎn)是什么、存在的危險(xiǎn)是什么。五角大樓就三令五申地強(qiáng)調(diào)，將大模型用在軍事領(lǐng)域需要進(jìn)行嚴(yán)格審查，他們知道其中的危險(xiǎn)和缺點(diǎn)，可能會(huì)造成不可挽回的損失�！�
中國(guó)電信首席科學(xué)家畢奇以自動(dòng)駕駛為例說(shuō)，現(xiàn)在大模型最關(guān)鍵的技術(shù)是基于統(tǒng)計(jì)概率，原理上是針對(duì)統(tǒng)計(jì)的大概率事件做出判斷。但無(wú)論是開(kāi)飛機(jī)還是開(kāi)汽車(chē)時(shí)，都有可能遭遇小概率事件，這就導(dǎo)致基于大模式驅(qū)動(dòng)的自動(dòng)駕駛技術(shù)遇到小概率事件時(shí)可能會(huì)出現(xiàn)問(wèn)題，這個(gè)問(wèn)題怎么解決現(xiàn)在還需要大量探索，如果不周全，可能會(huì)對(duì)自動(dòng)駕駛技術(shù)的未來(lái)應(yīng)用產(chǎn)生比較大的影響。
AI很可能導(dǎo)致空前的數(shù)字鴻溝
目前各界都承認(rèn)AI技術(shù)對(duì)于提高社會(huì)生產(chǎn)力的革命性推動(dòng)作用，但當(dāng)前大數(shù)據(jù)驅(qū)動(dòng)的AI技術(shù)存在技術(shù)要求高、整體投入大的特征，很可能成為大多數(shù)國(guó)家都跨不過(guò)去的數(shù)字鴻溝。
清華大學(xué)國(guó)際關(guān)系學(xué)系教授、中美關(guān)系研究中心主任陳琪表示，“在工業(yè)革命競(jìng)爭(zhēng)時(shí)代確實(shí)存在特殊條件下的后發(fā)優(yōu)勢(shì)少數(shù)案例，即先發(fā)國(guó)家進(jìn)行技術(shù)和產(chǎn)業(yè)探索實(shí)踐，后發(fā)國(guó)家借鑒先發(fā)國(guó)家的成功經(jīng)驗(yàn)，后發(fā)國(guó)家甚至可直接抄作業(yè)而不需要付出巨大的探索成本，因而具有了某種后發(fā)優(yōu)勢(shì)，少走冤枉路。但在知識(shí)、資本和技術(shù)密集的數(shù)字經(jīng)濟(jì)時(shí)代，尤其是具有顛覆性創(chuàng)新的AI技術(shù)出現(xiàn)后，我覺(jué)得可能會(huì)出現(xiàn)當(dāng)今世界絕大多數(shù)國(guó)家都無(wú)法跨過(guò)去的數(shù)字鴻溝，即憑借AI的技術(shù)壟斷來(lái)獲得經(jīng)濟(jì)發(fā)展的資源壟斷性攫取，歷史性地鎖定發(fā)展不均衡的局面，后發(fā)國(guó)家面臨被收割治理主權(quán)和喪失未來(lái)發(fā)展動(dòng)能的巨大風(fēng)險(xiǎn)�！痹贏I領(lǐng)域，這種隱然風(fēng)險(xiǎn)和深刻擔(dān)憂(yōu)不單單適用于西方對(duì)全球南方的壓榨，美國(guó)的歐洲盟友以及澳大利亞、新西蘭、日本幾乎都存在類(lèi)似困境�！皻W洲持續(xù)出臺(tái)AI治理的法律法規(guī)，其實(shí)也有保護(hù)自身不被美國(guó)收割的政策考慮�！�
一名與會(huì)專(zhuān)家表示，對(duì)于很多全球南方國(guó)家來(lái)說(shuō)，想要發(fā)展AI技術(shù)的基本條件都沒(méi)有。例如非洲國(guó)家近一半都沒(méi)有本國(guó)的數(shù)據(jù)中心，相關(guān)數(shù)據(jù)要存在國(guó)外。他表示，當(dāng)發(fā)展大數(shù)據(jù)驅(qū)動(dòng)的AI技術(shù)時(shí)，如果連大數(shù)據(jù)都不掌握在自己國(guó)家手里，而是存放在別國(guó)領(lǐng)土，“其實(shí)就成為數(shù)據(jù)意義上的殖民地”。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括認(rèn)為，科技巨頭和富裕國(guó)家在AI領(lǐng)域的壟斷局面，“某種意義上基本已經(jīng)形成了，而且很難在整體上扭轉(zhuǎn)”。他表示，客觀地說(shuō)，整個(gè)當(dāng)代AI技術(shù)在理念構(gòu)想和供應(yīng)鏈產(chǎn)業(yè)鏈層面，美國(guó)依然具有突出的優(yōu)勢(shì)。此外，從業(yè)者很清楚，現(xiàn)在AI技術(shù)發(fā)展到現(xiàn)在的態(tài)勢(shì)，跟全球開(kāi)源社區(qū)環(huán)境有很大的關(guān)系�！叭绻绹�(guó)突然加大對(duì)于開(kāi)源環(huán)境的干預(yù)力度，對(duì)其他國(guó)家會(huì)帶來(lái)很大的沖擊，這是一個(gè)需要及早研判的重大問(wèn)題�！�
不過(guò)與會(huì)專(zhuān)家提到，AI被集中掌握在部分發(fā)達(dá)國(guó)家手里也存在特殊的風(fēng)險(xiǎn)。例如某個(gè)國(guó)家或組織無(wú)法研發(fā)足夠先進(jìn)的算法，但可以通過(guò)對(duì)訓(xùn)練數(shù)據(jù)“投毒”，起到破壞AI的效果。因此當(dāng)前AI發(fā)展的不對(duì)稱(chēng)局面也是風(fēng)險(xiǎn)的來(lái)源之一，可能在極端情況下引起進(jìn)一步的不穩(wěn)定，這是值得關(guān)注的問(wèn)題。
呂本富表示，AI技術(shù)的發(fā)展的確帶來(lái)了前所未有的安全問(wèn)題。一個(gè)國(guó)家以前有地理邊界，現(xiàn)在還有思想邊界�！癆I大模型把國(guó)家的思想邊界打穿了。原來(lái)不同的文明會(huì)有各自的神明，但現(xiàn)在不同國(guó)家和地區(qū)的民眾向大模型提問(wèn)時(shí)，回答的數(shù)據(jù)來(lái)源都掌握在同樣的機(jī)構(gòu)手里�！贝送釧I技術(shù)的發(fā)展還可能突破國(guó)家的能力邊界。AI控制的機(jī)器人能在真實(shí)的物理環(huán)境下執(zhí)行各種任務(wù)，但如果AI被控制在少數(shù)西方國(guó)家手里，那么在未來(lái)需要時(shí)，可能會(huì)出現(xiàn)利用AI遠(yuǎn)程控制他國(guó)汽車(chē)實(shí)施有組織暴力沖撞等行動(dòng)。因此在當(dāng)代AI技術(shù)面前，一個(gè)國(guó)家需要同時(shí)守住地理邊界、思想邊界和能力邊界這三個(gè)邊界，才能真正確保自身安全，但能做到這幾點(diǎn)的國(guó)家太少了。
應(yīng)對(duì)AI全新挑戰(zhàn)成重大課題
張?jiān)迫硎荆瑥内厔?shì)上看，當(dāng)代AI技術(shù)存在主權(quán)屬性，并不是無(wú)國(guó)界的，“雖然看著美國(guó)提供開(kāi)源環(huán)境，其他國(guó)家可以自由訪問(wèn)，但是未來(lái)一旦實(shí)現(xiàn)完全壟斷之后，還有沒(méi)有可能給你公平的開(kāi)放環(huán)境？有沒(méi)有可能利用其優(yōu)勢(shì)對(duì)你產(chǎn)生不好的影響，包括讓你對(duì)美國(guó)的AI技術(shù)產(chǎn)生依賴(lài)性后，影響你整個(gè)社會(huì)的價(jià)值觀、文化、歷史、輿情、科技發(fā)展？”他認(rèn)為，無(wú)論是中東黎巴嫩的尋呼機(jī)爆炸事件，還是最近中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)點(diǎn)名英特爾公司CPU存在的漏洞問(wèn)題，都表明這樣的擔(dān)憂(yōu)并非杞人憂(yōu)天。
因此張?jiān)迫岢�，中�?guó)有必要在發(fā)展AI時(shí)推動(dòng)建設(shè)“主權(quán)級(jí)大模型”，它是一個(gè)國(guó)家AI水平的最高點(diǎn)、基礎(chǔ)大模型的基礎(chǔ)，也可以被形容為“根模型”�！爸鳈�(quán)級(jí)大模型”將深刻影響一個(gè)國(guó)家的科技競(jìng)爭(zhēng)力，涉及軍事、經(jīng)濟(jì)、政治等多方面能力。因此相關(guān)技術(shù)的全鏈條，包括大數(shù)據(jù)、技術(shù)人員、運(yùn)營(yíng)等要素需要全部實(shí)現(xiàn)國(guó)產(chǎn)可控�！斑@個(gè)模型是國(guó)家的重大基礎(chǔ)設(shè)施，因?yàn)橄牡碾娏Ψ浅｝嫶�，需要放到能源富集的地方。”他還建議說(shuō)，在“主權(quán)級(jí)大模型”建設(shè)完成后，中國(guó)可以向國(guó)外提供相關(guān)服務(wù)。“可以為發(fā)展中國(guó)家或者沒(méi)有能力研制本國(guó)主權(quán)大模型的國(guó)家和地區(qū)提供定制化服務(wù)，保證他們的安全，這也是中國(guó)可以為全球南方做的貢獻(xiàn)�！�
畢奇表示，美國(guó)在發(fā)展AI時(shí)，試圖借助禁止出口高性能芯片等限制算力的方法，保持其在這個(gè)方向的優(yōu)勢(shì)，這是一個(gè)零和游戲的思維。其實(shí)兩個(gè)國(guó)家在AI的產(chǎn)業(yè)鏈方面，有極強(qiáng)的互補(bǔ)關(guān)系和很大的共贏空間�！叭绻袊�(guó)只是被動(dòng)地趕緊去發(fā)展國(guó)產(chǎn)算力，我覺(jué)得從《孫子兵法》的商業(yè)策略角度來(lái)講，是一個(gè)不太好的方法，因?yàn)椴恍枰趧e人強(qiáng)的地方去硬拼，而是可以選擇其他自己很有優(yōu)勢(shì)的互補(bǔ)領(lǐng)域，進(jìn)行突破�，F(xiàn)在在AI產(chǎn)業(yè)鏈上，有美國(guó)強(qiáng)的地方，也有中國(guó)強(qiáng)并互補(bǔ)的地方，為什么不繼續(xù)強(qiáng)化中國(guó)在這方面領(lǐng)先的優(yōu)勢(shì)，最后雙方各取所長(zhǎng)，互補(bǔ)共贏，通過(guò)談判來(lái)實(shí)現(xiàn)各自的利益最大化呢？”
劉偉介紹說(shuō)，當(dāng)前在AI研究領(lǐng)域分了多個(gè)級(jí)別，第一級(jí)是簡(jiǎn)單交互，現(xiàn)在已經(jīng)實(shí)現(xiàn)了一定程度上的簡(jiǎn)單人機(jī)交互；第二級(jí)是推理，底層邏輯是基于數(shù)學(xué)和物理知識(shí)的推理。但現(xiàn)在用于AI領(lǐng)域的邏輯推理系統(tǒng)并不完備，甚至整個(gè)數(shù)學(xué)體系仍需要不斷繼續(xù)完善，同時(shí)對(duì)于物理學(xué)的認(rèn)識(shí)也不完備。在這兩個(gè)領(lǐng)域的知識(shí)都不完備的情況下，AI通過(guò)統(tǒng)計(jì)概率和一定的數(shù)學(xué)規(guī)則，得出的推理過(guò)程和人類(lèi)的推理非常不一樣。因?yàn)槿祟?lèi)的推理除了數(shù)理、物理還有心理、倫理、法理、管理、哲理等，所以現(xiàn)在AI的推理還是非常簡(jiǎn)化的過(guò)程，從這個(gè)角度看，AI技術(shù)還有很大的改進(jìn)空間。
多名與會(huì)專(zhuān)家也提到，AI的機(jī)遇、風(fēng)險(xiǎn)和挑戰(zhàn)本質(zhì)上是全球性的，加強(qiáng)國(guó)際合作具有重要意義。中方主張?jiān)诼?lián)合國(guó)框架內(nèi)加強(qiáng)AI規(guī)則治理，反對(duì)利用AI技術(shù)優(yōu)勢(shì)傳播虛假信息，干涉他國(guó)內(nèi)政，危害他國(guó)主權(quán)，惡意阻撓他國(guó)技術(shù)發(fā)展。陳琪表示，AI技術(shù)實(shí)力的差距帶來(lái)了全球南方國(guó)家治理話語(yǔ)權(quán)不足的問(wèn)題。近年來(lái)七國(guó)集團(tuán)、二十國(guó)集團(tuán)、全球AI合作伙伴關(guān)系、經(jīng)濟(jì)合作與發(fā)展組織達(dá)成了多個(gè)AI治理的文本，但其中明顯缺少全球南方的聲音。2023年10月在第三屆“一帶一路”國(guó)際合作高峰論壇開(kāi)幕式上，中方宣布《全球人工智能治理倡議》，中方提出的系列務(wù)實(shí)倡議和舉措旨在幫助全球南方國(guó)家提高競(jìng)爭(zhēng)力和話語(yǔ)權(quán)，反對(duì)AI治理的小圈子和意識(shí)形態(tài)偏見(jiàn)，促進(jìn)人工智能更好賦能可持續(xù)發(fā)展和增進(jìn)全人類(lèi)共同福祉。
