人工智能（AI）飛速發(fā)展帶來的影響，已遠(yuǎn)遠(yuǎn)超出常規(guī)技術(shù)領(lǐng)域，對人類社會和全球政治格局都帶來了巨大沖擊。該如何看待AI時代的機(jī)遇與挑戰(zhàn)？環(huán)球時報研究院聯(lián)合科普中國智庫，日前舉辦“環(huán)球前沿科技論壇人工智能”專題研討會。本次研討會邀請國內(nèi)多領(lǐng)域權(quán)威專家以“賦能全球南方，中國人工智能的經(jīng)驗與機(jī)遇”為主題對AI技術(shù)發(fā)展面臨的機(jī)遇與挑戰(zhàn)，以及如何賦能全球南方國家的發(fā)展等議題進(jìn)行了深入討論。
大模型潮流帶來的“3+2”挑戰(zhàn)
目前談到AI繞不開大模型，談到大模型則繞不開OpenAI引領(lǐng)的技術(shù)突破。在全球火爆的大模型潮流面前，又有哪些值得注意的挑戰(zhàn)呢？
中國國家創(chuàng)新與發(fā)展戰(zhàn)略研究會副會長、中國科學(xué)院大學(xué)教授呂本富表示，OpenAI引領(lǐng)的大模型潮流帶來的風(fēng)險是“3+2”，即3個內(nèi)部性挑戰(zhàn)、兩個外部性挑戰(zhàn)。其中內(nèi)部性挑戰(zhàn)首先是大模型可能加大了社會偏見。很多研究都發(fā)現(xiàn)，由于訓(xùn)練材料的選擇不當(dāng)，AI反而加深了對少數(shù)族裔的種族歧視。其次是所謂的機(jī)器幻覺，也就是AI“一本正經(jīng)地瞎說”。第三個是更重要的本質(zhì)問題：未來AI水平超過人類怎么辦？這就是所謂“超級對齊”問題。其中第三個挑戰(zhàn)是公眾最害怕的，因為各種科幻電影早就有過預(yù)警：在AI超過人類后，可能存在人類變成AI附屬品的風(fēng)險。
除了三個內(nèi)部性挑戰(zhàn)以外，AI還有兩個外部性挑戰(zhàn)，即產(chǎn)生的社會影響。首先是AI可能加劇了貧困和就業(yè)壓力。研究顯示，AI技術(shù)是有史以來第一次出現(xiàn)技術(shù)進(jìn)步產(chǎn)生的崗位少于消失崗位的情況。其次是所謂“偽造問題”，如今AI技術(shù)已被用于偽造文本、偽造圖像以及更危險的偽造場景，它們給社會秩序帶來很大挑戰(zhàn)，未來對于AI造假的識別和治理將耗費(fèi)很大人力物力。
中國科學(xué)院計算技術(shù)研究所研究員張云泉認(rèn)為，大模型對生產(chǎn)力帶來革命性變化，和歷次的技術(shù)革命不一樣�！耙酝募夹g(shù)革命只是換掉了人的工具，例如把過去的駕馬車換成了現(xiàn)在的開汽車或者開飛機(jī)，而大模型帶來的技術(shù)革命是把人換掉了，這是最可怕的�！睆堅迫�表示，AI技術(shù)革命帶來的直接結(jié)果之一是富人更加富了，只要機(jī)器、電力和算力就可以開展生產(chǎn)、掙錢，會讓財富進(jìn)一步集中在富人手里，因此如何對于AI技術(shù)進(jìn)步帶來的財富分配問題進(jìn)行調(diào)整非常重要。此外，AI技術(shù)進(jìn)步還可能導(dǎo)致產(chǎn)業(yè)人口紅利價值的消失，發(fā)達(dá)國家可能不需要用全球南方國家的勞動力來降低生產(chǎn)成本，用AI驅(qū)動的機(jī)器生產(chǎn)可能更便宜，生產(chǎn)效率更高，發(fā)達(dá)國家和發(fā)展中國家之間的產(chǎn)業(yè)轉(zhuǎn)移也將減少。
北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實驗室主任劉偉表示，當(dāng)前大模型帶來的技術(shù)挑戰(zhàn)之一是機(jī)器幻覺，它本質(zhì)上是源于神經(jīng)網(wǎng)絡(luò)的兩個函數(shù)，從原理上注定機(jī)器幻覺的問題無法消除�！拔曳磳χ桓嬖V公眾大模型多么厲害，不說大模型的缺點是什么、存在的危險是什么。五角大樓就三令五申地強(qiáng)調(diào)，將大模型用在軍事領(lǐng)域需要進(jìn)行嚴(yán)格審查，他們知道其中的危險和缺點，可能會造成不可挽回的損失。”
中國電信首席科學(xué)家畢奇以自動駕駛為例說，現(xiàn)在大模型最關(guān)鍵的技術(shù)是基于統(tǒng)計概率，原理上是針對統(tǒng)計的大概率事件做出判斷。但無論是開飛機(jī)還是開汽車時，都有可能遭遇小概率事件，這就導(dǎo)致基于大模式驅(qū)動的自動駕駛技術(shù)遇到小概率事件時可能會出現(xiàn)問題，這個問題怎么解決現(xiàn)在還需要大量探索，如果不周全，可能會對自動駕駛技術(shù)的未來應(yīng)用產(chǎn)生比較大的影響。
AI很可能導(dǎo)致空前的數(shù)字鴻溝
目前各界都承認(rèn)AI技術(shù)對于提高社會生產(chǎn)力的革命性推動作用，但當(dāng)前大數(shù)據(jù)驅(qū)動的AI技術(shù)存在技術(shù)要求高、整體投入大的特征，很可能成為大多數(shù)國家都跨不過去的數(shù)字鴻溝。
清華大學(xué)國際關(guān)系學(xué)系教授、中美關(guān)系研究中心主任陳琪表示，“在工業(yè)革命競爭時代確實存在特殊條件下的后發(fā)優(yōu)勢少數(shù)案例，即先發(fā)國家進(jìn)行技術(shù)和產(chǎn)業(yè)探索實踐，后發(fā)國家借鑒先發(fā)國家的成功經(jīng)驗，后發(fā)國家甚至可直接抄作業(yè)而不需要付出巨大的探索成本，因而具有了某種后發(fā)優(yōu)勢，少走冤枉路。但在知識、資本和技術(shù)密集的數(shù)字經(jīng)濟(jì)時代，尤其是具有顛覆性創(chuàng)新的AI技術(shù)出現(xiàn)后，我覺得可能會出現(xiàn)當(dāng)今世界絕大多數(shù)國家都無法跨過去的數(shù)字鴻溝，即憑借AI的技術(shù)壟斷來獲得經(jīng)濟(jì)發(fā)展的資源壟斷性攫取，歷史性地鎖定發(fā)展不均衡的局面，后發(fā)國家面臨被收割治理主權(quán)和喪失未來發(fā)展動能的巨大風(fēng)險。”在AI領(lǐng)域，這種隱然風(fēng)險和深刻擔(dān)憂不單單適用于西方對全球南方的壓榨，美國的歐洲盟友以及澳大利亞、新西蘭、日本幾乎都存在類似困境�！皻W洲持續(xù)出臺AI治理的法律法規(guī)，其實也有保護(hù)自身不被美國收割的政策考慮�！�
一名與會專家表示，對于很多全球南方國家來說，想要發(fā)展AI技術(shù)的基本條件都沒有。例如非洲國家近一半都沒有本國的數(shù)據(jù)中心，相關(guān)數(shù)據(jù)要存在國外。他表示，當(dāng)發(fā)展大數(shù)據(jù)驅(qū)動的AI技術(shù)時，如果連大數(shù)據(jù)都不掌握在自己國家手里，而是存放在別國領(lǐng)土，“其實就成為數(shù)據(jù)意義上的殖民地”。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括認(rèn)為，科技巨頭和富裕國家在AI領(lǐng)域的壟斷局面，“某種意義上基本已經(jīng)形成了，而且很難在整體上扭轉(zhuǎn)”。他表示，客觀地說，整個當(dāng)代AI技術(shù)在理念構(gòu)想和供應(yīng)鏈產(chǎn)業(yè)鏈層面，美國依然具有突出的優(yōu)勢。此外，從業(yè)者很清楚，現(xiàn)在AI技術(shù)發(fā)展到現(xiàn)在的態(tài)勢，跟全球開源社區(qū)環(huán)境有很大的關(guān)系�！叭绻绹蝗患哟髮τ陂_源環(huán)境的干預(yù)力度，對其他國家會帶來很大的沖擊，這是一個需要及早研判的重大問題�！�
不過與會專家提到，AI被集中掌握在部分發(fā)達(dá)國家手里也存在特殊的風(fēng)險。例如某個國家或組織無法研發(fā)足夠先進(jìn)的算法，但可以通過對訓(xùn)練數(shù)據(jù)“投毒”，起到破壞AI的效果。因此當(dāng)前AI發(fā)展的不對稱局面也是風(fēng)險的來源之一，可能在極端情況下引起進(jìn)一步的不穩(wěn)定，這是值得關(guān)注的問題。
呂本富表示，AI技術(shù)的發(fā)展的確帶來了前所未有的安全問題。一個國家以前有地理邊界，現(xiàn)在還有思想邊界�！癆I大模型把國家的思想邊界打穿了。原來不同的文明會有各自的神明，但現(xiàn)在不同國家和地區(qū)的民眾向大模型提問時，回答的數(shù)據(jù)來源都掌握在同樣的機(jī)構(gòu)手里�！贝送釧I技術(shù)的發(fā)展還可能突破國家的能力邊界。AI控制的機(jī)器人能在真實的物理環(huán)境下執(zhí)行各種任務(wù)，但如果AI被控制在少數(shù)西方國家手里，那么在未來需要時，可能會出現(xiàn)利用AI遠(yuǎn)程控制他國汽車實施有組織暴力沖撞等行動。因此在當(dāng)代AI技術(shù)面前，一個國家需要同時守住地理邊界、思想邊界和能力邊界這三個邊界，才能真正確保自身安全，但能做到這幾點的國家太少了。
應(yīng)對AI全新挑戰(zhàn)成重大課題
張云泉表示，從趨勢上看，當(dāng)代AI技術(shù)存在主權(quán)屬性，并不是無國界的，“雖然看著美國提供開源環(huán)境，其他國家可以自由訪問，但是未來一旦實現(xiàn)完全壟斷之后，還有沒有可能給你公平的開放環(huán)境？有沒有可能利用其優(yōu)勢對你產(chǎn)生不好的影響，包括讓你對美國的AI技術(shù)產(chǎn)生依賴性后，影響你整個社會的價值觀、文化、歷史、輿情、科技發(fā)展？”他認(rèn)為，無論是中東黎巴嫩的尋呼機(jī)爆炸事件，還是最近中國網(wǎng)絡(luò)空間安全協(xié)會點名英特爾公司CPU存在的漏洞問題，都表明這樣的擔(dān)憂并非杞人憂天。
因此張云泉提出，中國有必要在發(fā)展AI時推動建設(shè)“主權(quán)級大模型”，它是一個國家AI水平的最高點、基礎(chǔ)大模型的基礎(chǔ)，也可以被形容為“根模型”�！爸鳈�(quán)級大模型”將深刻影響一個國家的科技競爭力，涉及軍事、經(jīng)濟(jì)、政治等多方面能力。因此相關(guān)技術(shù)的全鏈條，包括大數(shù)據(jù)、技術(shù)人員、運(yùn)營等要素需要全部實現(xiàn)國產(chǎn)可控�！斑@個模型是國家的重大基礎(chǔ)設(shè)施，因為消耗的電力非常龐大，需要放到能源富集的地方�！彼�建議說，在“主權(quán)級大模型”建設(shè)完成后，中國可以向國外提供相關(guān)服務(wù)�！翱梢詾榘l(fā)展中國家或者沒有能力研制本國主權(quán)大模型的國家和地區(qū)提供定制化服務(wù)，保證他們的安全，這也是中國可以為全球南方做的貢獻(xiàn)�！�
畢奇表示，美國在發(fā)展AI時，試圖借助禁止出口高性能芯片等限制算力的方法，保持其在這個方向的優(yōu)勢，這是一個零和游戲的思維。其實兩個國家在AI的產(chǎn)業(yè)鏈方面，有極強(qiáng)的互補(bǔ)關(guān)系和很大的共贏空間�！叭绻袊皇潜粍拥刳s緊去發(fā)展國產(chǎn)算力，我覺得從《孫子兵法》的商業(yè)策略角度來講，是一個不太好的方法，因為不需要在別人強(qiáng)的地方去硬拼，而是可以選擇其他自己很有優(yōu)勢的互補(bǔ)領(lǐng)域，進(jìn)行突破。現(xiàn)在在AI產(chǎn)業(yè)鏈上，有美國強(qiáng)的地方，也有中國強(qiáng)并互補(bǔ)的地方，為什么不繼續(xù)強(qiáng)化中國在這方面領(lǐng)先的優(yōu)勢，最后雙方各取所長，互補(bǔ)共贏，通過談判來實現(xiàn)各自的利益最大化呢？”
劉偉介紹說，當(dāng)前在AI研究領(lǐng)域分了多個級別，第一級是簡單交互，現(xiàn)在已經(jīng)實現(xiàn)了一定程度上的簡單人機(jī)交互；第二級是推理，底層邏輯是基于數(shù)學(xué)和物理知識的推理。但現(xiàn)在用于AI領(lǐng)域的邏輯推理系統(tǒng)并不完備，甚至整個數(shù)學(xué)體系仍需要不斷繼續(xù)完善，同時對于物理學(xué)的認(rèn)識也不完備。在這兩個領(lǐng)域的知識都不完備的情況下，AI通過統(tǒng)計概率和一定的數(shù)學(xué)規(guī)則，得出的推理過程和人類的推理非常不一樣。因為人類的推理除了數(shù)理、物理還有心理、倫理、法理、管理、哲理等，所以現(xiàn)在AI的推理還是非常簡化的過程，從這個角度看，AI技術(shù)還有很大的改進(jìn)空間。
多名與會專家也提到，AI的機(jī)遇、風(fēng)險和挑戰(zhàn)本質(zhì)上是全球性的，加強(qiáng)國際合作具有重要意義。中方主張在聯(lián)合國框架內(nèi)加強(qiáng)AI規(guī)則治理，反對利用AI技術(shù)優(yōu)勢傳播虛假信息，干涉他國內(nèi)政，危害他國主權(quán)，惡意阻撓他國技術(shù)發(fā)展。陳琪表示，AI技術(shù)實力的差距帶來了全球南方國家治理話語權(quán)不足的問題。近年來七國集團(tuán)、二十國集團(tuán)、全球AI合作伙伴關(guān)系、經(jīng)濟(jì)合作與發(fā)展組織達(dá)成了多個AI治理的文本，但其中明顯缺少全球南方的聲音。2023年10月在第三屆“一帶一路”國際合作高峰論壇開幕式上，中方宣布《全球人工智能治理倡議》，中方提出的系列務(wù)實倡議和舉措旨在幫助全球南方國家提高競爭力和話語權(quán)，反對AI治理的小圈子和意識形態(tài)偏見，促進(jìn)人工智能更好賦能可持續(xù)發(fā)展和增進(jìn)全人類共同福祉。
