美國(guó)《大西洋月刊》7月2日文章，原題：現(xiàn)在我們就需要控制人工智能代理 盡管今天人們對(duì)人工智能的安全感到擔(dān)憂，但對(duì)于新興的人工智能代理并沒(méi)有采取特別的監(jiān)管措施,。我們必須關(guān)注由當(dāng)代人工智能代理造成的更緊迫,、更司空見(jiàn)慣的問(wèn)題。譬如,，近日,，加拿大航空公司公司使用一個(gè)聊天機(jī)器人幫助乘客，詢問(wèn)對(duì)方是否提供幫助,。它以一種比航空公司實(shí)際政策慷慨得多的方式,，解釋了一項(xiàng)機(jī)票政策。加拿大航空公司試圖拒絕履行機(jī)器人的承諾,，但慘遭敗訴,。今天的人工智能代理比聊天機(jī)器人更強(qiáng)大，它具有三個(gè)特質(zhì),。首先，人工智能代理能夠被賦予一個(gè)高層次,、甚至是模糊的目標(biāo),，通過(guò)自己研究或工作獨(dú)立地實(shí)現(xiàn)目標(biāo)。比如,，一年前,，一位技術(shù)人員開(kāi)發(fā)能給自己訂購(gòu)披薩的人工智能,。他創(chuàng)建了可以授權(quán)和指揮其他人工智能的“頂級(jí)人工智能”。它先被分配一個(gè)任務(wù)目標(biāo)——通過(guò)撥打指定號(hào)碼語(yǔ)音訂購(gòu)披薩,。接著,，它自行創(chuàng)建任務(wù)列表，開(kāi)發(fā)出不同版本的自己來(lái)執(zhí)行任務(wù),，包括對(duì)列表中的不同步驟進(jìn)行優(yōu)先級(jí)排序,，生成一個(gè)能夠使用文本-語(yǔ)音轉(zhuǎn)換器撥打電話的版本。這證明了代理的第二個(gè)特質(zhì)：可以隨心所欲使用不同軟件工具與整個(gè)世界互動(dòng),，生成型人工智能模型可以從外部世界獲取信息,，并反過(guò)來(lái)影響自己，不僅能與我們交談,，還能在現(xiàn)實(shí)世界發(fā)揮作用,。它跨越了數(shù)字與虛擬、比特與原子之間的血腦屏障,，值得我們深思,。此外，不難想象,，人工智能代理可能會(huì)被用來(lái)完成類似哈佛假炸彈勒索案的每一個(gè)步驟,。更令人擔(dān)憂的是，此類威脅規(guī)模很容易遠(yuǎn)超單個(gè)罪犯單獨(dú)能夠做到的：想象一下,，哈佛勒索案的幕后黑手能夠同時(shí)在成百上千個(gè)城鎮(zhèn)實(shí)施陰謀,，密切關(guān)注某個(gè)加入社交媒體或求職網(wǎng)站的人，不知疲倦地發(fā)布貶低對(duì)方的回復(fù)和評(píng)論,。這就是人工智能代理的第三個(gè)特質(zhì):無(wú)限期運(yùn)行,，允許程序員“設(shè)置好后就忘記它”。問(wèn)題是,，人工智能代理可能會(huì)背離初心繼續(xù)運(yùn)作,。人類無(wú)法獲知隨著環(huán)境的變化，哪些被廢人工智能代理會(huì)留下來(lái),。人工智能代理可能會(huì)以意想不到的方式相互作用,。目前，負(fù)責(zé)翻譯模糊目標(biāo)的人工智能代理也許會(huì)選擇錯(cuò)誤方式來(lái)實(shí)現(xiàn)目標(biāo)：一個(gè)學(xué)生要求機(jī)器人“幫我應(yīng)付這門無(wú)聊的課”,，代理試圖讓課堂變“有趣”而發(fā)出電話炸彈威脅,。我們應(yīng)該尋找低成本干預(yù)措施。在加拿大航空公司的案件中,，法庭對(duì)航司“聊天機(jī)器人是一個(gè)獨(dú)立的法律實(shí)體,，對(duì)自己的行為負(fù)責(zé)”的說(shuō)法持懷疑態(tài)度。評(píng)估人工智能代理的動(dòng)機(jī)很重要,。最高法院最近認(rèn)為,，如果將真正的威脅定為犯罪,，需要發(fā)出威脅的一方主觀上明白自己會(huì)引發(fā)恐懼。去年,，OpenAI的研究人員提出了一種可能性,，即運(yùn)行人工智能機(jī)器人的服務(wù)器應(yīng)該被識(shí)別出來(lái)，就像車牌可以用來(lái)追蹤車主一樣?，F(xiàn)代科技令人眼花繚亂,，很容易讓我們認(rèn)為，在自由市場(chǎng)和嚴(yán)厲監(jiān)管之間,，魚(yú)和熊掌不可兼得,。事實(shí)并非如此。合適的監(jiān)管措施可以使新技術(shù)足夠安全,，允許市場(chǎng)參與者對(duì)彼此以及與客戶之間的互動(dòng)方式更加有辨識(shí)力,。（作者喬納森·齊特林，陳欣譯）▲