編者按：在電影和小說(shuō)中，我們看到過(guò)人工智能統(tǒng)治人類(lèi)的場(chǎng)景,，并認(rèn)為這離我們很遙遠(yuǎn),。但實(shí)際上，隨著人工智能的發(fā)展,，對(duì)人工智能的擔(dān)心可能不再是杞人憂天,。本文來(lái)自編譯，希望對(duì)您有所啟發(fā),。

本文改編自布魯斯·施奈爾（Bruce Schneier）的《黑客思想》（A Hacker’s Mind）。

人工智能黑客的未來(lái)有多現(xiàn)實(shí),？這取決于被建模和被黑客攻擊的特定系統(tǒng)。對(duì)于人工智能來(lái)說(shuō),，所有規(guī)則都必須以計(jì)算機(jī)能夠理解的方式規(guī)則化,。目標(biāo)（在人工智能中被稱(chēng)為目標(biāo)函數(shù)）需要建立起來(lái)，人工智能需要得到關(guān)于“自己做得如何”的反饋,，才能提高自身的表現(xiàn),。

有時(shí)這是只一件小事。對(duì)于圍棋這樣的游戲來(lái)說(shuō),，這很簡(jiǎn)單,。規(guī)則、目標(biāo)和反饋（贏了還是輸了,？）都是精確指定的,，除此之外沒(méi)有什么模糊地帶。GPT-3 人工智能可以寫(xiě)出連貫的文章，因?yàn)樗摹笆澜纭本椭挥形谋?。這就是為什么目前大多數(shù)黑客的例子都來(lái)自模擬環(huán)境,，因?yàn)檫@些環(huán)境都是人為的和受約束的，所有規(guī)則都是指定給人工智能的,。

重要的是系統(tǒng)中的模糊程度,。我們可以想象將世界各地的稅法輸入人工智能，因?yàn)槎惙ㄊ怯纱_定欠稅金額的公式組成的,。甚至還有一種編程語(yǔ)言叫 Catala,，它被優(yōu)化來(lái)編碼法律。即便如此,，所有的法律都有一些模糊性,。這種模糊性很難轉(zhuǎn)化為代碼，所以 AI 很難處理,。所以盡管存在人工智能,，但在可預(yù)見(jiàn)的未來(lái)，稅務(wù)律師還是可以實(shí)現(xiàn)充分就業(yè),。

大多數(shù)人類(lèi)系統(tǒng)甚至更加模糊,。很難想象一個(gè)人工智能，能在現(xiàn)實(shí)生活中做出像彎曲曲棍球棒這樣的運(yùn)動(dòng)技巧,。人工智能不僅要理解游戲規(guī)則,，還要理解人類(lèi)生理機(jī)能、球桿和冰球的空氣動(dòng)力學(xué),，等等,。這并非不可能，但這比想出一個(gè)新穎的圍棋走法要困難得多,。

在復(fù)雜的社會(huì)系統(tǒng)中,，這種潛在的模糊性為對(duì)抗人工智能黑客提供了短期的安全防御。在機(jī)器人真正參與這些運(yùn)動(dòng)之前,，或者在開(kāi)發(fā)出能夠在所有交叉維度上廣泛理解世界的通用人工智能之前，我們不會(huì)有人工智能生成的“體育黑客”,?！百€場(chǎng)游戲黑客”或“立法程序黑客”也存在類(lèi)似的挑戰(zhàn)。人工智能還需要很長(zhǎng)一段時(shí)間才能能夠建模和模擬人們的工作方式,，無(wú)論是個(gè)人還是群體,。

但是，盡管一個(gè)充滿人工智能黑客的世界仍然是一個(gè)科幻小說(shuō)中的場(chǎng)景,，但這并不只是一個(gè)愚蠢的科幻小說(shuō)問(wèn)題,。人工智能技術(shù)的發(fā)展非常迅猛，其能力的飛躍是不穩(wěn)定和間斷的。我們認(rèn)為很難的事情可能變得很容易,，我們認(rèn)為應(yīng)該很容易的事情也可能變得很難,。上世紀(jì) 80 年代初，當(dāng)我還是一名大學(xué)生時(shí),，老師告訴我們,，圍棋永遠(yuǎn)不可能被計(jì)算機(jī)掌握，因?yàn)樗浅?fù)雜：不是規(guī)則復(fù)雜,，而是可能的走法數(shù)量太多,。而今天，人工智能變成了圍棋大師,。

因此,，雖然人工智能可能主要是“明天的問(wèn)題”，但我們今天已經(jīng)看到了它的前兆,。我們現(xiàn)在就需要開(kāi)始思考可執(zhí)行的,、可理解的、合乎道德的解決方案,，因?yàn)槿绻覀儗?duì)人工智能有什么期待的話,，那就是我們會(huì)比預(yù)期中更早地需要這些解決方案。

產(chǎn)生人工智能黑客的第一個(gè)地方可能是金融系統(tǒng),，因?yàn)檫@些金融規(guī)則在設(shè)計(jì)上是可以用算法處理的,。高頻交易算法就是一個(gè)原始的例子，其在未來(lái)會(huì)變得更加復(fù)雜,。我們可以想象一下這樣一個(gè)場(chǎng)景：給人工智能配備世界上所有的實(shí)時(shí)金融信息,，加上世界上所有的法律法規(guī)，加上新聞推送和所有我們認(rèn)為可能相關(guān)的東西,，然后給它設(shè)定“合法利潤(rùn)最大化”的目標(biāo),。我的猜測(cè)是，這個(gè)場(chǎng)景并不會(huì)很遙遠(yuǎn),，其結(jié)果將是產(chǎn)生各種新奇的和完全意想不到的黑客行為,。而且可能會(huì)有一些黑客行為超出人類(lèi)的理解范圍，這意味著我們永遠(yuǎn)不會(huì)意識(shí)到這些行為正在發(fā)生,。

在短期內(nèi),，我們更有可能看到人工智能與人類(lèi)協(xié)作的黑客行為。人工智能可以識(shí)別出可能被黑客利用的漏洞,，然后一個(gè)有經(jīng)驗(yàn)的會(huì)計(jì)師或稅務(wù)律師會(huì)利用他們的經(jīng)驗(yàn)和判斷力,，來(lái)確定該漏洞是否可以被利用而獲利。

在幾乎所有的歷史中,，黑客攻擊都是一種人類(lèi)活動(dòng),。進(jìn)行新的黑客行為需要專(zhuān)業(yè)知識(shí),、時(shí)間、創(chuàng)造力和運(yùn)氣,。而當(dāng)人工智能開(kāi)始進(jìn)行黑客攻擊時(shí),，情況就會(huì)發(fā)生變化。人工智能不會(huì)像人一樣受到同樣的約束或受到同樣的限制,。它們不需要睡覺(jué),，它們會(huì)像外星人一樣思考，它們會(huì)以我們無(wú)法預(yù)料的方式入侵系統(tǒng),。

計(jì)算機(jī)已經(jīng)在四個(gè)方面加速了黑客攻擊：速度,、規(guī)模、范圍和復(fù)雜性,。人工智能將進(jìn)一步加劇這些趨勢(shì),。

首先，速度：人工入侵的過(guò)程有時(shí)需要幾個(gè)月或幾年,，但人工智能的加入可能會(huì)將時(shí)間壓縮到幾天,、幾個(gè)小時(shí)，甚至幾秒鐘,。如果你給人工智能提供整個(gè)美國(guó)稅法,，并命令它找出所有可以最小化個(gè)人稅賦的方法時(shí)，可能會(huì)發(fā)生什么,？或者,，在針對(duì)跨國(guó)公司的情境下，讓人工智能分析和優(yōu)化全球的稅法呢,？人工智能能否在沒(méi)有提示的情況下,，發(fā)現(xiàn)在特拉華州注冊(cè)公司并在巴拿馬注冊(cè)船舶是明智的做法？它會(huì)發(fā)現(xiàn)多少我們還不知道的漏洞,？幾十個(gè),？幾百個(gè)？幾千個(gè),？我們不知道,，但我們可能會(huì)在未來(lái)十年內(nèi)找到答案。

其次,，規(guī)模：一旦人工智能系統(tǒng)開(kāi)始進(jìn)入黑客領(lǐng)域,，它們就將能夠大規(guī)模利用黑客行為，而這種規(guī)模對(duì)人類(lèi)來(lái)說(shuō)是根本沒(méi)有準(zhǔn)備好應(yīng)對(duì)的,。因此，當(dāng)人工智能開(kāi)始擠壓金融系統(tǒng)時(shí),，它們將主導(dǎo)這個(gè)領(lǐng)域,。美國(guó)的信貸市場(chǎng),、稅法和法律總體上已經(jīng)向富人傾斜，而人工智能將加速這種不平等,。第一批為了追求利潤(rùn)而入侵金融系統(tǒng)的人工智能,，不會(huì)由具有平等意識(shí)的研究人員開(kāi)發(fā)出來(lái)，而將由全球性銀行,、對(duì)沖基金和管理咨詢公司開(kāi)發(fā)出來(lái),。

接下來(lái)，范圍：我們有應(yīng)對(duì)黑客的社會(huì)系統(tǒng),，但這些系統(tǒng)是在黑客還是人類(lèi)的時(shí)候開(kāi)發(fā)的,。我們沒(méi)有任何治理系統(tǒng)可以快速有效地對(duì)數(shù)百個(gè)（更不用說(shuō)數(shù)千個(gè)）新發(fā)現(xiàn)的稅收漏洞進(jìn)行裁決。我們不可能這么快就給稅法打補(bǔ)丁,。我們一直無(wú)法阻止人類(lèi)利用 Facebook 來(lái)干擾民主,，那么想象一下當(dāng)人工智能這樣做的時(shí)候會(huì)發(fā)生什么，這會(huì)帶來(lái)巨大的挑戰(zhàn),。如果人工智能開(kāi)始對(duì)金融系統(tǒng)進(jìn)行意料之外,、但合法的黑客攻擊，那么世界經(jīng)濟(jì)將陷入瘋狂,，復(fù)蘇將是漫長(zhǎng)而痛苦的,。

最后是復(fù)雜性：人工智能輔助黑客打開(kāi)了復(fù)雜策略的大門(mén)，超越了那些可以由人類(lèi)獨(dú)立思維設(shè)計(jì)的策略,。人工智能的復(fù)雜統(tǒng)計(jì)分析可以揭示變量之間的關(guān)系,，從而揭示可能的漏洞，而最好的人類(lèi)戰(zhàn)略家和專(zhuān)家可能從未意識(shí)到這一點(diǎn),。這種復(fù)雜性可能使人工智能能夠部署顛覆目標(biāo)系統(tǒng)多個(gè)層面的戰(zhàn)略,。例如，一個(gè)旨在最大限度地提高政黨得票率的人工智能可能會(huì)調(diào)整經(jīng)濟(jì)變量,、競(jìng)選信息和投票程序,，從而操縱競(jìng)選結(jié)果。這還不包括人工智能用來(lái)操縱股市,、立法制度或公眾輿論的那些難以察覺(jué)的技巧,。

以計(jì)算機(jī)的速度、規(guī)模,、范圍和復(fù)雜性,，黑客將成為我們這個(gè)社會(huì)無(wú)法再處理的問(wèn)題。

我想起了電影《終結(jié)者》（Terminator）中的一個(gè)場(chǎng)景,，凱爾·里斯（Kyle Reese）向莎拉·康納（Sarah Connor）描述正在追殺她的生化人：“不能和它討價(jià)還價(jià),，不能和它講道理。它不會(huì)感到憐憫,、悔恨或恐懼,。而且它絕對(duì)不會(huì)停止,，永遠(yuǎn)不會(huì)……”我們現(xiàn)在面對(duì)的并不是真正意義上的生化人，但當(dāng)人工智能成為我們?cè)诤诳褪澜缰械膶?duì)手時(shí),，我們可能會(huì)發(fā)現(xiàn),，要跟上它尋找人類(lèi)弱點(diǎn)的非人能力，同樣是件困難的事,。

一些人工智能研究人員確實(shí)在擔(dān)心強(qiáng)大的人工智能會(huì)在多大程度上克服人類(lèi)施加的限制，并有可能主宰社會(huì),。雖然這看起來(lái)像是一個(gè)瘋狂的猜測(cè),，但這種情況至少是值得考慮和預(yù)防的。

然而,，在今天和不久的將來(lái),，這本書(shū)中描述的黑客行為將由強(qiáng)者對(duì)我們其他人實(shí)施。所有的人工智能,，無(wú)論是在你的筆記本電腦上還是在機(jī)器人中,，都是由其他人編寫(xiě)的。雖然像 Alexa 這樣的聯(lián)網(wǎng)設(shè)備可以模仿成為你值得信賴的朋友,，但不要忘記,，它是為了銷(xiāo)售亞馬遜的產(chǎn)品而設(shè)計(jì)的。就像亞馬遜網(wǎng)站鼓勵(lì)你購(gòu)買(mǎi)其自有品牌,，而不是競(jìng)爭(zhēng)對(duì)手的高質(zhì)量商品一樣,，它并不總是符合你的最佳利益。

在缺乏任何有意義的監(jiān)管的情況下,，我們真的無(wú)能為力,，無(wú)法阻止人工智能黑客入侵的發(fā)生。我們需要接受這是不可避免的,，并建立強(qiáng)大的治理結(jié)構(gòu),，快速有效地做出反應(yīng)。

這一挑戰(zhàn)提出了比“人工智能將如何發(fā)展或我們?nèi)绾螒?yīng)對(duì)”更深刻,、更困難的問(wèn)題：哪些黑客行為是有益的,？哪些是有害的？誰(shuí)來(lái)決定呢,？你可能仍然不想用技術(shù)霸主取代政治霸主,。如果你相信預(yù)防原則，那么在黑客被納入社會(huì)系統(tǒng)之前,，你可能希望有盡可能多的專(zhuān)家來(lái)對(duì)其進(jìn)行測(cè)試和判斷,。你還可能想要將這一原則進(jìn)一步應(yīng)用到使這些黑客成為可能的機(jī)構(gòu)和結(jié)構(gòu)上。

問(wèn)題還在繼續(xù),。人工智能創(chuàng)造的黑客應(yīng)該在本地范圍內(nèi)進(jìn)行管理,，還是全球范圍內(nèi)進(jìn)行管理,？由管理者管理還是由公民投票,？或者有沒(méi)有辦法讓市場(chǎng)或民間團(tuán)體來(lái)決定,？我們?cè)O(shè)計(jì)的治理結(jié)構(gòu)將賦予一些人和組織權(quán)力，來(lái)決定如何應(yīng)對(duì)未來(lái)的黑客,。我們需要確保這一權(quán)力被明智地行使,。

譯者：Jane