薩姆奧爾特曼最近宣稱，OpenAI已經(jīng)知道如何構(gòu)建通用人工智能（AGI），這再次引發(fā)了有關(guān)AI未來(lái)的辯論。雖然這些主張頻頻登上媒體頭條，但作為一名研究人腦工作原理超過(guò)十年的神經(jīng)科學(xué)家，我發(fā)現(xiàn)自己關(guān)注的是一個(gè)不同的悖論：對(duì)現(xiàn)代AI系統(tǒng)最常見(jiàn)的批評(píng)之一是我們沒(méi)有完全理解它們的工作原理，這實(shí)際上可能是它們最像人腦的特征之一。
當(dāng)前的AI熱潮導(dǎo)致對(duì)AGI有各種模糊的定義。但從神經(jīng)科學(xué)的角度來(lái)看待AI，為我們提供了寶貴的機(jī)會(huì)，對(duì)AI的能力和局限性進(jìn)行有意義的現(xiàn)實(shí)檢驗(yàn)。
現(xiàn)實(shí)是，盡管經(jīng)過(guò)了幾個(gè)世紀(jì)的科學(xué)探究，我們?nèi)匀粵](méi)有完全了解人類大腦的工作機(jī)制。作為研究人員，我們可以觀察到某些神經(jīng)元執(zhí)行特定功能，但關(guān)于我們的認(rèn)知過(guò)程實(shí)際上如何執(zhí)行，這種知識(shí)的解釋能力極其有限。然而，這并沒(méi)有阻止我們成為有生產(chǎn)能力的社會(huì)成員或者做出重要的決策。
同樣，我們理解AI背后的數(shù)學(xué)原理，但在相對(duì)簡(jiǎn)單的數(shù)學(xué)運(yùn)算和這些系統(tǒng)表現(xiàn)出的非凡智能之間存在著神奇的飛躍。這種生物神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)之間的相似性不是缺陷，而是復(fù)雜智能系統(tǒng)的標(biāo)志。
以我和朋友最近使用OpenAI o1（目前最先進(jìn)的 AI 模型之一）的經(jīng)歷為例。我們向它展示了一個(gè)由不同州的車牌拼接而成的視覺(jué)謎題，并要求它識(shí)別每個(gè)字母或數(shù)字來(lái)自哪個(gè)州。經(jīng)過(guò)幾分鐘的思考，它提供了一段清晰流暢而自信的分析，但結(jié)果幾乎完全錯(cuò)誤。
即使在收到詳細(xì)反饋之后，它又生成了一個(gè)自信但同樣錯(cuò)誤的答案。這暴露出AI的一個(gè)關(guān)鍵局限性：盡管當(dāng)前的AI在許多領(lǐng)域表現(xiàn)出色，但它可能缺乏自我意識(shí)，無(wú)法識(shí)別它可能出錯(cuò)的情況，而這是人類智能的一個(gè)寶貴元素。
商業(yè)意義
這揭示了一個(gè)關(guān)于智能的更廣泛的真相：智能不是一種單一的能力，而是一系列專門(mén)學(xué)習(xí)系統(tǒng)的組合。人腦有不同的機(jī)制從語(yǔ)義記憶（如知道2+2=4的事實(shí)知識(shí)）到回憶個(gè)人體驗(yàn)的情景記憶（如記住你第一次學(xué)習(xí)算術(shù)的時(shí)刻），以及隱性概率學(xué)習(xí)（如在不自覺(jué)理解原因的情況下提高網(wǎng)球水平）。盡管AI基準(zhǔn)測(cè)試變得越來(lái)越全面和嚴(yán)格，但它們?nèi)晕茨懿蹲降饺祟愔悄艿娜慷鄻有浴?br/>
對(duì)于商業(yè)領(lǐng)袖而言，這具有重要意義。當(dāng)前的AI浪潮并不是要全面取代人類智能，而是要理解這些工具可以在哪些方面補(bǔ)充人類的能力以及在哪些方面無(wú)法作為補(bǔ)充。例如，在創(chuàng)意領(lǐng)域，生成式AI尚無(wú)法生成比人類專業(yè)人士更好的圖像或視頻。它是一種需要人類監(jiān)督的“人機(jī)協(xié)同”工具。
隨著AI能力的增長(zhǎng)，這種理解變得日益重要。特斯拉（Tesla）的自動(dòng)駕駛技術(shù)展示了其未來(lái)前景和風(fēng)險(xiǎn)：盡管它可能在99.9%的時(shí)間內(nèi)表現(xiàn)出色，但人類往往難以辨別99.9%和99.9999%準(zhǔn)確率之間的差異。因此，我們可能對(duì)其產(chǎn)生一種過(guò)度的信任，忽視了小數(shù)點(diǎn)后增加幾位數(shù)對(duì)于確保真正安全的重要性。偶爾出現(xiàn)的不可預(yù)測(cè)的故障會(huì)提醒人們，這些系統(tǒng)尚未完全符合人類預(yù)期的復(fù)雜性和現(xiàn)實(shí)世界的不可預(yù)測(cè)性。
人工智能的局限性
雖然機(jī)器在長(zhǎng)期記憶和處理速度方面早已超越了人類的能力，現(xiàn)在在其他領(lǐng)域似乎也將超越人類，但相比一些行業(yè)領(lǐng)導(dǎo)者的觀點(diǎn)，全面復(fù)制人類的智能仍然是一個(gè)更遙不可及的目標(biāo)。值得注意的是，大多數(shù)AI基準(zhǔn)測(cè)試將機(jī)器性能與人類個(gè)體進(jìn)行比較。然而，人類通常不是孤立的。從建立文明到解碼人類基因組，人類最重要的成就都是集體努力和合作的產(chǎn)物。共享知識(shí)、團(tuán)隊(duì)合作和文化傳遞的專業(yè)知識(shí)使我們能夠突破個(gè)人的局限性。因此，雖然AI模型可能在某些任務(wù)上優(yōu)于人類個(gè)體，但它并不能復(fù)制一群人共同工作時(shí)所產(chǎn)生的那種協(xié)同智能。這種由語(yǔ)言、文化和社會(huì)互動(dòng)推動(dòng)的動(dòng)態(tài)、集體問(wèn)題解決能力是人類智能的一個(gè)關(guān)鍵方面，當(dāng)前的AI系統(tǒng)并不完全具備這種能力。
理解這種更細(xì)微的現(xiàn)實(shí)，對(duì)于公司高管應(yīng)用AI至關(guān)重要。我們不能局限于AI是否達(dá)到了人類智能水平這個(gè)二元問(wèn)題，而是應(yīng)該專注于理解AI系統(tǒng)在具體維度上的優(yōu)勢(shì)和劣勢(shì)。成功采用AI的關(guān)鍵不是盲目信任或全面懷疑，而是要細(xì)致地理解這些系統(tǒng)的能力和局限性。正如我們?cè)诓煌耆斫馊祟愔悄艿那闆r下學(xué)會(huì)了高效利用人類智能一樣，我們需要開(kāi)發(fā)與人工智能合作的框架，既承認(rèn)其非凡的能力，也承認(rèn)其固有的不可預(yù)測(cè)性。
這并不意味著要放慢開(kāi)發(fā)AI的速度，其實(shí)AI的進(jìn)開(kāi)發(fā)展令人驚嘆，值得慶祝。但隨著這些系統(tǒng)變得越來(lái)越復(fù)雜，且對(duì)AGI的辯論仍在繼續(xù)，我們就需要保持一種平衡的觀點(diǎn)，既認(rèn)識(shí)到它們的變革潛力，也認(rèn)識(shí)到它們的基本局限性。AI的未來(lái)不是實(shí)現(xiàn)完美的理解或控制，而是學(xué)會(huì)如何與這些系統(tǒng)有效合作，這些系統(tǒng)可能像我們自己的大腦一樣，總是保留著某種神秘元素。（財(cái)富中文網(wǎng)）
譯者：劉進(jìn)龍
審校：汪皓
