財(cái)聯(lián)社4月2日訊（編輯 周子意）人工智能（AI）帶來機(jī)遇的同時(shí)，越來越多人對(duì)即將到來的下一代人工智能（AI）感到憂心。周一（4月2日），美國(guó)和英國(guó)宣布在人工智能安全科學(xué)方面建立新的合作伙伴關(guān)系。
美國(guó)商務(wù)部長(zhǎng)吉娜雷蒙多和英國(guó)技術(shù)大臣米歇爾多尼蘭周一在華盛頓簽署了一份諒解備忘錄，宣布共同開發(fā)先進(jìn)的人工智能模型測(cè)試。
這是繼去年首屆全球人工智能安全峰會(huì)上宣布的國(guó)際聲明后，全球達(dá)成的又一份國(guó)際合作。
去年11月，首屆全球人工智能安全峰會(huì)在英國(guó)布萊切利莊園舉行，開幕式上，包括中國(guó)在內(nèi)的與會(huì)國(guó)共同達(dá)成《布萊切利宣言》，這是全球第一份針對(duì)人工智能這一快速新興技術(shù)的國(guó)際性聲明。
人工智能風(fēng)險(xiǎn)
生成式人工智能可以根據(jù)開放式提示創(chuàng)建文本、照片和視頻，不過它也存在許多負(fù)面因素，例如淘汰一些工作崗位、影響選舉結(jié)果、并可能推翻人類、造成災(zāi)難性后果。
周一，雷蒙多和多尼蘭在接受聯(lián)合采訪時(shí)表示，需要緊急采取聯(lián)合行動(dòng)來應(yīng)對(duì)人工智能風(fēng)險(xiǎn)。
雷蒙多指出，她特別擔(dān)心人工智能應(yīng)用于生物恐怖主義或核戰(zhàn)爭(zhēng)模擬的威脅，“這些事情的后果可能是災(zāi)難性的，所以我們真的必須對(duì)其中一些模型被用于這種能力持零容忍態(tài)度。”
雷蒙多透露，拜登政府計(jì)劃很快宣布其人工智能團(tuán)隊(duì)的新成員，“我們正在動(dòng)用美國(guó)政府的全部資源。”
多尼蘭同樣表示，“時(shí)間是至關(guān)重要的，因?yàn)橄乱淮斯ぶ悄芗磳l(fā)布，它們將更加強(qiáng)大。”
基于此次合作，兩國(guó)計(jì)劃分享與人工智能模型和系統(tǒng)相關(guān)的能力和風(fēng)險(xiǎn)的關(guān)鍵信息，以及人工智能安全和安保的技術(shù)研究。
研究所間的交流
目前，英國(guó)和美國(guó)都建立了由各自政府主導(dǎo)的人工智能安全研究所。
英國(guó)去年10月份宣布成立人工智能安全研究所，將研究和測(cè)試新型人工智能；今年2月，英國(guó)還表示將斥資1億多英鎊啟動(dòng)9個(gè)新的研究中心，并對(duì)人工智能監(jiān)管機(jī)構(gòu)進(jìn)行技術(shù)培訓(xùn)。
美國(guó)則在去年11月份表示，它將啟動(dòng)自己的安全研究所，以評(píng)估所謂的前沿人工智能模型的風(fēng)險(xiǎn)，目前正在與200家公司和實(shí)體合作。
根據(jù)正式的伙伴關(guān)系，英國(guó)和美國(guó)計(jì)劃至少進(jìn)行一次公開模式的聯(lián)合測(cè)試，并正在考慮探索兩所研究所之間的人員交流。
雷蒙多稱，“我們都知道人工智能是我們這一代的決定性技術(shù)，這一伙伴關(guān)系將加速我們兩家相關(guān)研究機(jī)構(gòu)在各個(gè)領(lǐng)域的工作，以解決我們國(guó)家安全擔(dān)憂的風(fēng)險(xiǎn)和我們更廣泛的社會(huì)擔(dān)憂。”
多尼蘭指出，“這是世界上第一個(gè)這樣的協(xié)議，人工智能已經(jīng)是我們社會(huì)中一股非凡的有益力量，在應(yīng)對(duì)世界上一些最大挑戰(zhàn)方面具有巨大潛力，但前提是我們能夠控制這些風(fēng)險(xiǎn)。”
（財(cái)聯(lián)社 周子意）
