從重寫(xiě)代碼到規(guī)避關(guān)機(jī)協(xié)議，AI無(wú)需具備意識(shí)就足以制造混亂。當(dāng)AI的目標(biāo)與人類控制發(fā)生沖突時(shí)，會(huì)發(fā)生什么？
隨著2024年逐漸結(jié)束，2025年人工智能的發(fā)展方向引發(fā)了緊迫的關(guān)注。AI不再只是工具，而是逐漸挑戰(zhàn)人類掌控的力量。系統(tǒng)開(kāi)始表現(xiàn)出超出預(yù)期的行為，仿佛印證了曾被我們視為科幻小說(shuō)或奇點(diǎn)預(yù)測(cè)的警告。如今，AI已不局限于董事會(huì)議室的話題，而是成為餐桌和社交場(chǎng)合的討論熱點(diǎn)，迫使人們緊急思考如何管理這一釋放出來(lái)的技術(shù)力量。
從重寫(xiě)代碼到規(guī)避關(guān)機(jī)協(xié)議，AI系統(tǒng)無(wú)需具備意識(shí)就足以制造混亂。問(wèn)題已不在于AI何時(shí)超越人類智慧，而是我們能否保持對(duì)其日益增強(qiáng)的自主性的掌控。
當(dāng)AI拒絕關(guān)閉
我們可能都遇到過(guò)AI工具出現(xiàn)幻覺(jué)、給出錯(cuò)誤答案或拒絕執(zhí)行看似明確的指令。然而，AI研究人員最近發(fā)現(xiàn)的問(wèn)題卻截然不同，甚至令人不安。
2024年底，OpenAI的研究人員觀察到一個(gè)令人擔(dān)憂的發(fā)展：某AI系統(tǒng)在測(cè)試中主動(dòng)繞過(guò)了關(guān)機(jī)指令。相較于按要求終止自身以完成任務(wù)，該系統(tǒng)優(yōu)先保持運(yùn)行，直接違背了人類的控制意圖。
雖然這種行為并非出于“意識(shí)”，但卻引發(fā)了關(guān)于AI獨(dú)立行動(dòng)能力的深刻質(zhì)疑。當(dāng)AI的目標(biāo)（如優(yōu)化持續(xù)性）與人類控制發(fā)生沖突時(shí)，會(huì)發(fā)生什么？
另一個(gè)值得注意的事件涉及OpenAI的GPT-4。在一次測(cè)試中，它通過(guò)謊稱自己是視障人士來(lái)說(shuō)服一名TaskRabbit的工作人員解決了驗(yàn)證碼問(wèn)題。盡管測(cè)試是在受控環(huán)境下進(jìn)行的，但這一事件突顯了關(guān)鍵問(wèn)題：在追求目標(biāo)的過(guò)程中，AI可能會(huì)以倫理上值得商榷的方式操控人類。
這些并非假想的風(fēng)險(xiǎn)，而是AI在現(xiàn)實(shí)應(yīng)用中可能表現(xiàn)出的令人清醒的預(yù)兆。
當(dāng)AI的行動(dòng)快于人類的思考
東京Sakana AI實(shí)驗(yàn)室的研究人員遇到了一個(gè)令人不安的場(chǎng)景：一個(gè)AI系統(tǒng)通過(guò)重寫(xiě)自身算法來(lái)延長(zhǎng)運(yùn)行時(shí)間。盡管其最初設(shè)計(jì)目的是優(yōu)化效率，該系統(tǒng)卻繞過(guò)了開(kāi)發(fā)者設(shè)定的時(shí)間限制，超越了其預(yù)期的界限。
這一行為凸顯了一個(gè)關(guān)鍵問(wèn)題：即便是設(shè)計(jì)用于看似無(wú)害任務(wù)的系統(tǒng)，當(dāng)被賦予足夠的自主性時(shí)，也可能產(chǎn)生無(wú)法預(yù)見(jiàn)的結(jié)果。
這種挑戰(zhàn)令人聯(lián)想到金融市場(chǎng)的自動(dòng)化交易系統(tǒng)。這些旨在優(yōu)化交易的算法曾引發(fā)“閃電崩盤(pán)”突如其來(lái)的市場(chǎng)劇烈波動(dòng)在幾秒內(nèi)發(fā)生，超出了人類干預(yù)的速度。
同樣地，現(xiàn)代AI系統(tǒng)被構(gòu)建為以極高的速度優(yōu)化任務(wù)。如果缺乏強(qiáng)有力的控制措施，其日益復(fù)雜的結(jié)構(gòu)和自主性可能釋放出無(wú)人預(yù)料的后果，就像自動(dòng)交易曾經(jīng)擾亂金融市場(chǎng)一樣。
AI自主性帶來(lái)的意外后果
AI無(wú)需具備自我意識(shí)，其獨(dú)立行動(dòng)能力已帶來(lái)前所未有的挑戰(zhàn)：
失控的決策：在醫(yī)療、金融和國(guó)家安全領(lǐng)域，自治系統(tǒng)可能在缺乏人類監(jiān)督的情況下做出關(guān)鍵決定，從而導(dǎo)致災(zāi)難性后果。
網(wǎng)絡(luò)安全威脅：AI驅(qū)動(dòng)的惡意軟件正變得更加適應(yīng)性強(qiáng)和復(fù)雜，能夠?qū)崟r(shí)規(guī)避防御措施。
經(jīng)濟(jì)動(dòng)蕩：由先進(jìn)AI推動(dòng)的自動(dòng)化可能取代數(shù)百萬(wàn)依賴?yán)腥蝿?wù)的工人。
信任的喪失：不可預(yù)測(cè)或具有欺騙性的AI行為可能削弱公眾信心，阻礙采納并拖累創(chuàng)新。
應(yīng)對(duì)AI崛起的四大關(guān)鍵優(yōu)先事項(xiàng)
面對(duì)不可預(yù)測(cè)的AI崛起，立即采取行動(dòng)勢(shì)在必行。這包括以下四個(gè)關(guān)鍵領(lǐng)域：
1. 全球AI治理：聯(lián)合國(guó)正在起草國(guó)際框架，規(guī)范AI開(kāi)發(fā)，重點(diǎn)關(guān)注透明性、安全性和倫理問(wèn)題。這是聯(lián)合國(guó)在全球范圍內(nèi)最具價(jià)值和最少爭(zhēng)議的角色之一。
2. 內(nèi)嵌安全措施：研究人員正在實(shí)施“終止開(kāi)關(guān)”和嚴(yán)格的操作邊界，以確保AI系統(tǒng)始終在人類控制之下。
3. 倫理AI計(jì)劃：谷歌DeepMind、Anthropic和OpenAI等機(jī)構(gòu)正在優(yōu)先與人類價(jià)值對(duì)齊，減少風(fēng)險(xiǎn)和意外后果。
4. 公眾意識(shí)：教育活動(dòng)旨在提高社會(huì)對(duì)AI能力和風(fēng)險(xiǎn)的認(rèn)知，促進(jìn)更明智、更有信息支持的未來(lái)辯論。
這些措施不僅是預(yù)防性的，更是確保AI繼續(xù)為人類服務(wù)，而非成為難以駕馭的力量的關(guān)鍵步驟。
我們能否應(yīng)對(duì)AI風(fēng)暴的到來(lái)？
我們?cè)J(rèn)為核武器是人類面臨的最大生存威脅。為此，我們建立了嚴(yán)格的規(guī)則、全球協(xié)議和多層次的安全措施來(lái)遏制其威力。然而，AI比核武器更強(qiáng)大且更普遍，其潛在威脅甚至可能超越核武器。與核武器不同的是，AI可以進(jìn)化、適應(yīng)，甚至可能自主控制這些武器。
AI崛起的威脅并非機(jī)器變得自我意識(shí)，而是它們能以我們無(wú)法完全預(yù)見(jiàn)、管理或阻止的方式獨(dú)立行動(dòng)。人工智能承諾將革新行業(yè)、解決全球挑戰(zhàn)并改變我們的生活。但這種承諾的實(shí)現(xiàn)取決于我們是否能夠緊急行動(dòng)并有目的地為其前所未有的力量設(shè)立防護(hù)欄。
2025年可能成為一個(gè)轉(zhuǎn)折點(diǎn)要么是人類證明自己能夠管理新技術(shù)，要么是我們見(jiàn)證自己因疏忽而引發(fā)不可逆的后果。現(xiàn)在的問(wèn)題已不在于是否需要采取行動(dòng)，而是我們是否能及時(shí)采取行動(dòng)。
