美國《大西洋月刊》7月2日文章，原題：現(xiàn)在我們就需要控制人工智能代理 盡管今天人們對人工智能的安全感到擔(dān)憂,，但對于新興的人工智能代理并沒有采取特別的監(jiān)管措施。我們必須關(guān)注由當(dāng)代人工智能代理造成的更緊迫,、更司空見慣的問題,。譬如，近日,，加拿大航空公司公司使用一個聊天機(jī)器人幫助乘客,，詢問對方是否提供幫助。它以一種比航空公司實際政策慷慨得多的方式,，解釋了一項機(jī)票政策,。加拿大航空公司試圖拒絕履行機(jī)器人的承諾，但慘遭敗訴,。今天的人工智能代理比聊天機(jī)器人更強(qiáng)大,，它具有三個特質(zhì)。首先，人工智能代理能夠被賦予一個高層次,、甚至是模糊的目標(biāo),，通過自己研究或工作獨立地實現(xiàn)目標(biāo)。比如,，一年前,，一位技術(shù)人員開發(fā)能給自己訂購披薩的人工智能。他創(chuàng)建了可以授權(quán)和指揮其他人工智能的“頂級人工智能”,。它先被分配一個任務(wù)目標(biāo)——通過撥打指定號碼語音訂購披薩,。接著，它自行創(chuàng)建任務(wù)列表,，開發(fā)出不同版本的自己來執(zhí)行任務(wù),，包括對列表中的不同步驟進(jìn)行優(yōu)先級排序，生成一個能夠使用文本-語音轉(zhuǎn)換器撥打電話的版本,。這證明了代理的第二個特質(zhì)：可以隨心所欲使用不同軟件工具與整個世界互動,，生成型人工智能模型可以從外部世界獲取信息，并反過來影響自己,，不僅能與我們交談,，還能在現(xiàn)實世界發(fā)揮作用。它跨越了數(shù)字與虛擬,、比特與原子之間的血腦屏障,，值得我們深思。此外,，不難想象,，人工智能代理可能會被用來完成類似哈佛假炸彈勒索案的每一個步驟。更令人擔(dān)憂的是,，此類威脅規(guī)模很容易遠(yuǎn)超單個罪犯單獨能夠做到的：想象一下,，哈佛勒索案的幕后黑手能夠同時在成百上千個城鎮(zhèn)實施陰謀，密切關(guān)注某個加入社交媒體或求職網(wǎng)站的人,，不知疲倦地發(fā)布貶低對方的回復(fù)和評論,。這就是人工智能代理的第三個特質(zhì):無限期運行，允許程序員“設(shè)置好后就忘記它”,。問題是,，人工智能代理可能會背離初心繼續(xù)運作。人類無法獲知隨著環(huán)境的變化,，哪些被廢人工智能代理會留下來,。人工智能代理可能會以意想不到的方式相互作用。目前,，負(fù)責(zé)翻譯模糊目標(biāo)的人工智能代理也許會選擇錯誤方式來實現(xiàn)目標(biāo)：一個學(xué)生要求機(jī)器人“幫我應(yīng)付這門無聊的課”,，代理試圖讓課堂變“有趣”而發(fā)出電話炸彈威脅,。我們應(yīng)該尋找低成本干預(yù)措施。在加拿大航空公司的案件中,，法庭對航司“聊天機(jī)器人是一個獨立的法律實體,，對自己的行為負(fù)責(zé)”的說法持懷疑態(tài)度。評估人工智能代理的動機(jī)很重要,。最高法院最近認(rèn)為,，如果將真正的威脅定為犯罪，需要發(fā)出威脅的一方主觀上明白自己會引發(fā)恐懼,。去年,，OpenAI的研究人員提出了一種可能性，即運行人工智能機(jī)器人的服務(wù)器應(yīng)該被識別出來,，就像車牌可以用來追蹤車主一樣?，F(xiàn)代科技令人眼花繚亂，很容易讓我們認(rèn)為,，在自由市場和嚴(yán)厲監(jiān)管之間,，魚和熊掌不可兼得。事實并非如此,。合適的監(jiān)管措施可以使新技術(shù)足夠安全,，允許市場參與者對彼此以及與客戶之間的互動方式更加有辨識力。（作者喬納森·齊特林,，陳欣譯）▲
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點僅代表作者本人，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1112083.html
溫馨提示：投資有風(fēng)險,，入市須謹(jǐn)慎,。本資訊不作為投資理財建議。
