財(cái)聯(lián)社4月2日訊（編輯 周子意）人工智能（AI）帶來機(jī)遇的同時(shí),，越來越多人對(duì)即將到來的下一代人工智能（AI）感到憂心,。周一（4月2日），美國(guó)和英國(guó)宣布在人工智能安全科學(xué)方面建立新的合作伙伴關(guān)系,。

美國(guó)商務(wù)部長(zhǎng)吉娜·雷蒙多和英國(guó)技術(shù)大臣米歇爾·多尼蘭周一在華盛頓簽署了一份諒解備忘錄,，宣布共同開發(fā)先進(jìn)的人工智能模型測(cè)試。

這是繼去年首屆全球人工智能安全峰會(huì)上宣布的國(guó)際聲明后,，全球達(dá)成的又一份國(guó)際合作,。

去年11月，首屆全球人工智能安全峰會(huì)在英國(guó)布萊切利莊園舉行,，開幕式上,，包括中國(guó)在內(nèi)的與會(huì)國(guó)共同達(dá)成《布萊切利宣言》，這是全球第一份針對(duì)人工智能這一快速新興技術(shù)的國(guó)際性聲明,。

人工智能風(fēng)險(xiǎn)

生成式人工智能可以根據(jù)開放式提示創(chuàng)建文本,、照片和視頻，不過它也存在許多負(fù)面因素,，例如淘汰一些工作崗位,、影響選舉結(jié)果、并可能推翻人類,、造成災(zāi)難性后果,。

周一,，雷蒙多和多尼蘭在接受聯(lián)合采訪時(shí)表示，需要緊急采取聯(lián)合行動(dòng)來應(yīng)對(duì)人工智能風(fēng)險(xiǎn),。

雷蒙多指出,，她特別擔(dān)心人工智能應(yīng)用于生物恐怖主義或核戰(zhàn)爭(zhēng)模擬的威脅，“這些事情的后果可能是災(zāi)難性的,，所以我們真的必須對(duì)其中一些模型被用于這種能力持零容忍態(tài)度,。”

雷蒙多透露,，拜登政府計(jì)劃很快宣布其人工智能團(tuán)隊(duì)的新成員,，“我們正在動(dòng)用美國(guó)政府的全部資源?！?/p>

多尼蘭同樣表示,，“時(shí)間是至關(guān)重要的，因?yàn)橄乱淮斯ぶ悄芗磳l(fā)布,，它們將更加強(qiáng)大,。”

基于此次合作,，兩國(guó)計(jì)劃分享與人工智能模型和系統(tǒng)相關(guān)的能力和風(fēng)險(xiǎn)的關(guān)鍵信息,，以及人工智能安全和安保的技術(shù)研究。

研究所間的交流

目前,，英國(guó)和美國(guó)都建立了由各自政府主導(dǎo)的人工智能安全研究所,。

英國(guó)去年10月份宣布成立人工智能安全研究所，將研究和測(cè)試新型人工智能,；今年2月,，英國(guó)還表示將斥資1億多英鎊啟動(dòng)9個(gè)新的研究中心，并對(duì)人工智能監(jiān)管機(jī)構(gòu)進(jìn)行技術(shù)培訓(xùn),。

美國(guó)則在去年11月份表示,，它將啟動(dòng)自己的安全研究所，以評(píng)估所謂的前沿人工智能模型的風(fēng)險(xiǎn),，目前正在與200家公司和實(shí)體合作,。

根據(jù)正式的伙伴關(guān)系，英國(guó)和美國(guó)計(jì)劃至少進(jìn)行一次公開模式的聯(lián)合測(cè)試,，并正在考慮探索兩所研究所之間的人員交流,。

雷蒙多稱，“我們都知道人工智能是我們這一代的決定性技術(shù),，這一伙伴關(guān)系將加速我們兩家相關(guān)研究機(jī)構(gòu)在各個(gè)領(lǐng)域的工作,，以解決我們國(guó)家安全擔(dān)憂的風(fēng)險(xiǎn)和我們更廣泛的社會(huì)擔(dān)憂?！?/p>

多尼蘭指出,，“這是世界上第一個(gè)這樣的協(xié)議,，人工智能已經(jīng)是我們社會(huì)中一股非凡的有益力量，在應(yīng)對(duì)世界上一些最大挑戰(zhàn)方面具有巨大潛力,，但前提是我們能夠控制這些風(fēng)險(xiǎn),。”

（財(cái)聯(lián)社 周子意）