譚寅亮、張毅、王琦/文 作為全球首部全面監(jiān)管人工智能的法規(guī)，歐盟的《人工智能法案》（下稱“歐盟AI法案”）已于2024年8月1日正式生效。
為確保相關(guān)各方有足夠的時(shí)間來(lái)適應(yīng)新的法規(guī)要求，歐盟AI法案的各項(xiàng)規(guī)定將會(huì)分階段實(shí)施：部分AI應(yīng)用程序的禁令在法案生效6個(gè)月后開(kāi)始適用，AI開(kāi)發(fā)者的行為準(zhǔn)則在法案生效9個(gè)月后實(shí)施，對(duì)于通用AI的限制會(huì)在法案生效12個(gè)月后開(kāi)始。整個(gè)法案的條款將在24個(gè)月后的2026年中期全面適用。
該法案采用基于風(fēng)險(xiǎn)的監(jiān)管方法，對(duì)AI系統(tǒng)進(jìn)行分類，針對(duì)高風(fēng)險(xiǎn)應(yīng)用實(shí)施嚴(yán)格的規(guī)定，同時(shí)設(shè)立了禁止事項(xiàng)清單。歐盟AI法案覆蓋了從市場(chǎng)準(zhǔn)入、運(yùn)營(yíng)責(zé)任到透明度要求的全鏈條規(guī)則，對(duì)在歐盟境內(nèi)或影響歐盟市場(chǎng)的AI系統(tǒng)和活動(dòng)產(chǎn)生約束力。
由于歐盟AI法案采用跨境監(jiān)管的原則，不僅適用于歐盟內(nèi)部的實(shí)體，還包括在歐盟外開(kāi)發(fā)、但成果在歐盟內(nèi)使用的AI系統(tǒng)。因此，在全世界范圍內(nèi)，特別是中美兩國(guó)的AI產(chǎn)業(yè)鏈企業(yè)都不可避免會(huì)受到法案的影響。
通過(guò)該法案的實(shí)施，歐盟再次試圖向全球市場(chǎng)展示“布魯塞爾效應(yīng)”：利用其統(tǒng)一市場(chǎng)的規(guī)模優(yōu)勢(shì)，將單方面的嚴(yán)格標(biāo)準(zhǔn)和監(jiān)管推向全球并顯著影響全球政策，進(jìn)一步提高自身競(jìng)爭(zhēng)力。正因如此，該法案也在AI產(chǎn)業(yè)內(nèi)外引發(fā)了激烈討論，主要圍繞以下幾方面。
一是合規(guī)成本的增加。嚴(yán)格的法案規(guī)定導(dǎo)致中美兩國(guó)的AI企業(yè)在進(jìn)入歐盟市場(chǎng)時(shí)將面臨高昂的合規(guī)成本, 包括技術(shù)改造、流程調(diào)整以及可能需要的第三方審計(jì)費(fèi)用等。
二是技術(shù)限制和創(chuàng)新障礙。法案對(duì)AI技術(shù)的研發(fā)和部署施加嚴(yán)格的限制，可能會(huì)阻礙AI技術(shù)的發(fā)展和創(chuàng)新速度。
三是市場(chǎng)準(zhǔn)入門(mén)檻的提高。更高的監(jiān)管標(biāo)準(zhǔn)不僅適用于希望進(jìn)入歐盟市場(chǎng)的AI開(kāi)發(fā)企業(yè)，還包括使用AI技術(shù)的產(chǎn)品和服務(wù)提供商。
四是數(shù)據(jù)隱私和保護(hù)要求。法案延續(xù)了歐盟對(duì)于個(gè)人數(shù)據(jù)保護(hù)的嚴(yán)格要求，企業(yè)在處理用戶數(shù)據(jù)時(shí)需要采取更加謹(jǐn)慎的態(tài)度。
五是不確定性的增加。法案全面實(shí)施還需要近兩年時(shí)間，在實(shí)際操作過(guò)程中可能存在解釋上的模糊性，歐盟不同成員國(guó)也可能存在具體的執(zhí)行差異。
盡管歐盟AI法案體現(xiàn)了對(duì)人工智能的安全性、透明度和人權(quán)的關(guān)注，但基于以上憂慮，人們?nèi)詴?huì)追問(wèn)：該法案是否給整個(gè)AI產(chǎn)業(yè)鏈戴上了緊箍咒？該法案是否通過(guò)高合規(guī)成本和準(zhǔn)入門(mén)檻給AI領(lǐng)域的先行者和大公司（或歐盟企業(yè)）建立了護(hù)城河？中國(guó)和美國(guó)是否會(huì)參考并建立類似的合規(guī)和準(zhǔn)入要求？
要回答以上問(wèn)題，我們還需從中美歐各自的文化、政治體系、經(jīng)濟(jì)環(huán)境以及不同的歷史背景，來(lái)理解世界各國(guó)AI監(jiān)管體制上的差異。
美國(guó)：市場(chǎng)驅(qū)動(dòng)
回顧網(wǎng)絡(luò)信息技術(shù)的短暫歷史可以看出，美國(guó)在芯片、軟件、硬件、人才和資金方面的領(lǐng)導(dǎo)地位，為其在全球互聯(lián)網(wǎng)發(fā)展的三個(gè)主要階段Web 1.0、Web 2.0以及AI時(shí)代，確立了顯著的競(jìng)爭(zhēng)優(yōu)勢(shì)。
在Web 1.0時(shí)代，美國(guó)憑借強(qiáng)大的芯片和軟件能力，孵化了雅虎、AOL（美國(guó)在線公司）等第一批互聯(lián)網(wǎng)巨頭。這些企業(yè)利用高效的硬件和軟件解決方案，提供了新聞、郵件和搜索等靜態(tài)網(wǎng)頁(yè)服務(wù)，引領(lǐng)了互聯(lián)網(wǎng)早期的商業(yè)化進(jìn)程。
進(jìn)入Web 2.0時(shí)代，社交網(wǎng)絡(luò)、云計(jì)算和大數(shù)據(jù)分析的發(fā)展，離不開(kāi)美國(guó)軟件產(chǎn)業(yè)的創(chuàng)新和貢獻(xiàn)。臉書(shū)、推特和YouTube等社交平臺(tái)的興起，得益于美國(guó)在數(shù)據(jù)處理、存儲(chǔ)和傳輸技術(shù)上的領(lǐng)先地位。這些美國(guó)網(wǎng)絡(luò)科技巨頭在全球范圍內(nèi)持續(xù)輸出的同時(shí)，也向美國(guó)本土進(jìn)行數(shù)據(jù)回流，進(jìn)一步產(chǎn)生算法優(yōu)勢(shì)。
在AI時(shí)代，美國(guó)的優(yōu)勢(shì)體現(xiàn)在從算法研發(fā)到芯片設(shè)計(jì)的全方位覆蓋。谷歌、微軟和IBM等企業(yè)，在機(jī)器學(xué)習(xí)、自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)等領(lǐng)域取得了突破性進(jìn)展；英偉達(dá)的GPU加速計(jì)算能力則為深度學(xué)習(xí)提供了必要的算力支持。
美國(guó)在AI領(lǐng)域的領(lǐng)先地位，使其在自動(dòng)駕駛、醫(yī)療診斷、金融科技等多個(gè)行業(yè)的應(yīng)用中取得先機(jī)，推動(dòng)全球經(jīng)濟(jì)向智能化轉(zhuǎn)型。美國(guó)在資金、科技人才培育和儲(chǔ)備方面的優(yōu)勢(shì)，也貫穿了互聯(lián)網(wǎng)科技發(fā)展的全過(guò)程。
作為全球最大的風(fēng)險(xiǎn)投資市場(chǎng)，美國(guó)每年有數(shù)以千億美元計(jì)的資金流入互聯(lián)網(wǎng)科技領(lǐng)域，2023年僅AI領(lǐng)域的私人投資就達(dá)到672億美元。此外，成熟的證券交易體系也為科技公司上市融資提供了便利。
上述AI領(lǐng)域的科技巨頭與資本市場(chǎng)結(jié)合，深度參與和影響了美國(guó)對(duì)AI的立法監(jiān)管。美國(guó)傾向于自由市場(chǎng)的傳統(tǒng)，強(qiáng)調(diào)個(gè)人主義和最小政府干預(yù)，這些都促使美國(guó)在AI監(jiān)管上更側(cè)重于市場(chǎng)的自我調(diào)節(jié)和技術(shù)創(chuàng)新，主要以倡議性文件和分散監(jiān)管的方式來(lái)應(yīng)對(duì)AI的監(jiān)管。
聯(lián)邦層面雖然陸續(xù)形成了一些對(duì)人工智能的法律和政策，但監(jiān)管內(nèi)容更注重AI系統(tǒng)的透明度、反歧視、數(shù)據(jù)治理等議題，重大的限制性、禁止性規(guī)定則主要針對(duì)運(yùn)用AI的政府活動(dòng)。
在國(guó)家層面統(tǒng)一監(jiān)管缺席的狀態(tài)下，美國(guó)各州的AI立法相對(duì)較為活躍。根據(jù)斯坦福大學(xué)的統(tǒng)計(jì)，2023年美國(guó)各州總共提出了150項(xiàng)關(guān)于AI的法案。其中，加州《前沿人工智能模型安全創(chuàng)新法案》（SB-1047）最為引人注目。
該法案旨在為高風(fēng)險(xiǎn)的人工智能模型設(shè)立常識(shí)性的安全標(biāo)準(zhǔn)，以防止重大危害，如大規(guī)模人員傷亡、超過(guò)5億美元損失的網(wǎng)絡(luò)安全事件等，要求大規(guī)模AI模型的開(kāi)發(fā)者部署前進(jìn)性安全評(píng)估、具備緊急關(guān)停能力、提交年度合規(guī)認(rèn)證以及上報(bào)安全事件等。
相比歐盟AI法案，《前沿人工智能模型安全創(chuàng)新法案》的監(jiān)管范圍實(shí)屬有限，但仍然引發(fā)了廣泛爭(zhēng)議。
一方面，支持者認(rèn)為它能有效降低AI技術(shù)造成的潛在風(fēng)險(xiǎn)，確保公眾安全和社會(huì)穩(wěn)定。另一方面，反對(duì)者擔(dān)心嚴(yán)格的監(jiān)管會(huì)抑制創(chuàng)新，限制技術(shù)進(jìn)步的速度。李飛飛、吳恩達(dá)等硅谷知名人士以及包括OpenAI在內(nèi)的知名AI企業(yè)都公開(kāi)表達(dá)了對(duì)法案的強(qiáng)烈異議。
OpenAI建議應(yīng)建立明確的聯(lián)邦框架而非州級(jí)監(jiān)管，并強(qiáng)調(diào)這對(duì)美國(guó)在AI全球競(jìng)爭(zhēng)中保持競(jìng)爭(zhēng)優(yōu)勢(shì)至關(guān)重要。這種對(duì)內(nèi)寬松、市場(chǎng)驅(qū)動(dòng)的監(jiān)管邏輯，確實(shí)符合美國(guó)維持AI領(lǐng)域國(guó)際競(jìng)爭(zhēng)力的需要。對(duì)外，美國(guó)從業(yè)界到政府都視中國(guó)為人工智能領(lǐng)域的強(qiáng)力競(jìng)爭(zhēng)對(duì)手。
但加州的立法者卻對(duì)上述提議表示懷疑。正如加州數(shù)據(jù)隱私法是在美國(guó)缺少聯(lián)邦級(jí)別的統(tǒng)一立法下通過(guò)的，全美統(tǒng)一的AI監(jiān)管缺失，正是加州這一全球AI重鎮(zhèn)立即行動(dòng)的原因所在。
盡管8月加州眾議院審核通過(guò)了法案，加州州長(zhǎng)在9月底卻以“缺乏靈活解決方案”等理由簽字否決了法案。
這些分歧都凸顯出：在美國(guó)傳統(tǒng)經(jīng)濟(jì)文化背景之下，建立與歐盟AI法案類似的統(tǒng)一監(jiān)管體系面臨重重挑戰(zhàn)。
歐盟：以市場(chǎng)換監(jiān)管
歐盟對(duì)人工智能的監(jiān)管思路，則體現(xiàn)了自二戰(zhàn)以來(lái)歐盟國(guó)家普遍重視公民權(quán)利、隱私和數(shù)據(jù)保護(hù)的文化和價(jià)值觀，也受到其立法慣性的影響。
歐盟自2016年起就不斷探索對(duì)人工智能技術(shù)應(yīng)用的監(jiān)管體系構(gòu)建，其政策重點(diǎn)是保障個(gè)人權(quán)利。歐盟追求政治共識(shí)的集體決策機(jī)制，也必然導(dǎo)致其監(jiān)管框架在制定過(guò)程中要考慮更廣泛的公眾利益和社會(huì)影響。
在這方面，歐盟AI法案與2018年生效的《一般數(shù)據(jù)保護(hù)條例》（GDPR）一脈相承，通過(guò)嚴(yán)格標(biāo)準(zhǔn)和高額罰款來(lái)確保參與歐盟市場(chǎng)的全球企業(yè)，都尊重歐盟的基本人權(quán)標(biāo)準(zhǔn)和價(jià)值觀。
從商業(yè)角度出發(fā)，歐洲也有成功的互聯(lián)網(wǎng)公司，但大多數(shù)未能達(dá)到中美同行的規(guī)模和影響力，所以歐盟的立場(chǎng)會(huì)更關(guān)心是否能有效約束來(lái)自中美的頭部AI企業(yè)。事實(shí)上，歐盟AI法案規(guī)定的監(jiān)管門(mén)檻使得其監(jiān)管對(duì)象也直指美國(guó)頭部AI企業(yè)。
歐盟AI法案的生效，使得歐盟在人工智能監(jiān)管方面能夠以此為杠桿，利用其布魯塞爾效應(yīng)，保護(hù)歐盟內(nèi)相關(guān)企業(yè)的發(fā)展。同時(shí)，歐盟內(nèi)部的AI技術(shù)發(fā)展也不均衡，在追求建立統(tǒng)一的數(shù)字市場(chǎng)過(guò)程中，歐盟內(nèi)部也不免產(chǎn)生各方面的博弈，這也意味著需要一套統(tǒng)一的監(jiān)管框架來(lái)促進(jìn)歐盟內(nèi)部的貿(mào)易和公平競(jìng)爭(zhēng)，以避免出現(xiàn)碎片化的市場(chǎng)環(huán)境。
在歐盟AI法案生效前，歐盟首先建立了人工智能辦公室，負(fù)責(zé)監(jiān)督執(zhí)行AI法案中的通用人工智能等部分內(nèi)容，并在歐盟成員國(guó)之間進(jìn)行有效的協(xié)調(diào)和合作。
中國(guó)：尋求平衡
從Web 1.0時(shí)代到人工智能時(shí)代，中國(guó)互聯(lián)網(wǎng)行業(yè)的發(fā)展歷程，受到了技術(shù)進(jìn)步、市場(chǎng)環(huán)境變化以及政策導(dǎo)向等多重因素的影響。在這一過(guò)程中，中國(guó)還經(jīng)歷了從模仿到創(chuàng)新、從跟隨到引領(lǐng)的角色轉(zhuǎn)變，最終塑造了一個(gè)獨(dú)特的互聯(lián)網(wǎng)生態(tài)和監(jiān)管環(huán)境。
在Web 1.0時(shí)代，中國(guó)的互聯(lián)網(wǎng)起步相對(duì)較晚，主要模仿西方的成功模式，如新浪、搜狐等門(mén)戶網(wǎng)站的崛起，也是借鑒了美國(guó)雅虎的經(jīng)驗(yàn)。
在Web 2.0時(shí)代，互聯(lián)網(wǎng)變得更加互動(dòng)和社交化，中國(guó)互聯(lián)網(wǎng)公司開(kāi)始展現(xiàn)出強(qiáng)大的創(chuàng)新能力。騰訊QQ、微信等社交軟件成為擁有龐大用戶數(shù)量的平臺(tái)，淘寶、京東等電子商務(wù)平臺(tái)也改變了人們的購(gòu)物習(xí)慣。這一階段，中國(guó)互聯(lián)網(wǎng)企業(yè)在商業(yè)模式和服務(wù)體驗(yàn)上實(shí)現(xiàn)了超越，形成了具有中國(guó)特色的互聯(lián)網(wǎng)生態(tài)系統(tǒng)。
隨著大數(shù)據(jù)、云計(jì)算和機(jī)器學(xué)習(xí)等技術(shù)的發(fā)展，人工智能逐漸成為互聯(lián)網(wǎng)行業(yè)的重要驅(qū)動(dòng)力。憑借龐大的市場(chǎng)規(guī)模、豐富的應(yīng)用場(chǎng)景以及政府的大力支持，中國(guó)也成為全球人工智能領(lǐng)域的主要參與者之一。阿里巴巴、百度、騰訊等巨頭紛紛加大在AI領(lǐng)域的投入，許多創(chuàng)業(yè)企業(yè)也揚(yáng)帆出海。
中國(guó)對(duì)人工智能的監(jiān)管體系也是在上述背景下逐漸形成的。中國(guó)的政治體制有利于政策制定的集中化，政府能夠快速主導(dǎo)制定和實(shí)施全國(guó)性的AI戰(zhàn)略和監(jiān)管政策。一方面，政府認(rèn)識(shí)到AI技術(shù)對(duì)于提升國(guó)家競(jìng)爭(zhēng)力的重要性，通過(guò)設(shè)立專項(xiàng)基金、制定產(chǎn)業(yè)發(fā)展規(guī)劃等方式，積極促進(jìn)AI技術(shù)的研發(fā)和應(yīng)用。另一方面，考慮到AI技術(shù)可能帶來(lái)的隱私泄露、就業(yè)沖擊等問(wèn)題，政府也在逐步建立健全相應(yīng)的法律法規(guī)。
目前，中國(guó)已建立了由《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《生成式人工智能服務(wù)管理暫行辦法》等組成的人工智能監(jiān)管基本框架。2023年初，《人工智能法》也被列入了立法計(jì)劃。從立法過(guò)程中條文的簡(jiǎn)化可以看出，中國(guó)在平衡監(jiān)管的原則下，給AI技術(shù)和AI企業(yè)提供了更大的發(fā)展空間。
AI技術(shù)是進(jìn)一步提升國(guó)家競(jìng)爭(zhēng)力、發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵技術(shù)。因此，中國(guó)采取了一種平衡的監(jiān)管策略，既注重產(chǎn)業(yè)發(fā)展又強(qiáng)調(diào)風(fēng)險(xiǎn)管理，在保障社會(huì)穩(wěn)定和促進(jìn)經(jīng)濟(jì)發(fā)展之間尋求平衡，注重監(jiān)管的科學(xué)性和有效性。
總體來(lái)說(shuō)，中國(guó)注重事前監(jiān)管、兼顧事中和事后監(jiān)管的全生命周期監(jiān)管，重視個(gè)人信息保護(hù)和防止技術(shù)濫用，與歐盟在監(jiān)管理念上較為接近，對(duì)AI的監(jiān)管呈現(xiàn)出包容審慎的態(tài)度。特別是在生成式人工智能服務(wù)管理方面，中國(guó)采取了先行先試的方式，在實(shí)踐中摸索有效的監(jiān)管路徑。此外，中國(guó)還致力于參與國(guó)際對(duì)話，共同探討制定跨國(guó)界的AI治理規(guī)則。
綜上所述，美國(guó)、歐盟和中國(guó)在AI監(jiān)管體系上的差異，主要由政策導(dǎo)向、經(jīng)濟(jì)文化背景與價(jià)值觀等多方面因素造成。美國(guó)的監(jiān)管方式可能有利于創(chuàng)新和技術(shù)突破，但可能會(huì)犧牲部分隱私和安全性。歐盟的監(jiān)管則更傾向于保護(hù)公民權(quán)利，但可能會(huì)限制市場(chǎng)的靈活性和創(chuàng)新速度。中國(guó)的監(jiān)管結(jié)合了政府的引導(dǎo)和支持，旨在平衡產(chǎn)業(yè)發(fā)展與社會(huì)福祉。
這些差異反映了不同國(guó)家和地區(qū)在AI監(jiān)管方面的不同需求和優(yōu)先考慮事項(xiàng)。因此，短期內(nèi)，中美不會(huì)全面建立類似歐盟AI法案的監(jiān)管體系。
AI的全球治理
亨利基辛格等很多學(xué)者總結(jié)過(guò)，人工智能具有天然的全球性，因此進(jìn)行AI全球治理勢(shì)在必行，這需要建立一個(gè)類似于國(guó)際原子能機(jī)構(gòu)的組織。但該構(gòu)想也面臨嚴(yán)重挑戰(zhàn)，需要克服地緣政治的不信任以及經(jīng)濟(jì)競(jìng)爭(zhēng)等各種因素。
在2023年11月的AI峰會(huì)上，包括中國(guó)、美國(guó)、歐盟在內(nèi)的多個(gè)國(guó)家和地區(qū)簽署了宣言，同意合作建立AI監(jiān)管方法。各方在AI治理的基本原則上達(dá)成了一定程度上的共識(shí)，如支持透明度、負(fù)責(zé)任的AI開(kāi)發(fā)和使用等。
中美之間也進(jìn)行了首次政府級(jí)別的AI對(duì)話，討論了技術(shù)倫理等問(wèn)題。但各方在利益訴求、監(jiān)管哲學(xué)、技術(shù)倫理與人權(quán)標(biāo)準(zhǔn)等方面的差異，以及實(shí)際的技術(shù)限制和數(shù)據(jù)流動(dòng)的限制，仍會(huì)導(dǎo)致一系列沖突。
除了已知的沖突和挑戰(zhàn)，在人工智能領(lǐng)域，人們還會(huì)面對(duì)諸多“未知的未知”。人工智能在發(fā)展過(guò)程中有待解決的問(wèn)題數(shù)量，或?qū)⑦h(yuǎn)超人類現(xiàn)有的認(rèn)知，但解答過(guò)程離不開(kāi)求同存異。在多樣性中尊重差異、尋求共識(shí)，需要人類智慧。
（譚寅亮系中歐國(guó)際工商學(xué)院決策科學(xué)與管理信息系統(tǒng)教授，張毅系方達(dá)律師事務(wù)所合伙人，王琦系中歐國(guó)際工商學(xué)院研究員）
