最近很多人都在問(wèn)我,，ChatGPT 把 AI 又帶火了,，區(qū)塊鏈和 Web3 被搶了風(fēng)頭,，以后還有戲嗎？還有比較了解我的朋友問(wèn),，當(dāng)年你放棄 AI 而選擇區(qū)塊鏈,，有沒(méi)有后悔,？

這里有一個(gè)小背景。2017 年初我離開(kāi) IBM 之后,，跟 CSDN 的創(chuàng)始人蔣濤商量下一步的個(gè)人發(fā)展方向,，選項(xiàng)有兩個(gè)，一個(gè)是 AI,，一個(gè)是區(qū)塊鏈,。我本人在那個(gè)時(shí)候已經(jīng)研究了兩年的區(qū)塊鏈了，所以當(dāng)然想選這個(gè),。但是蔣濤堅(jiān)定的認(rèn)為 AI 的勢(shì)頭更猛,、顛覆性更強(qiáng)，我經(jīng)過(guò)仔細(xì)思考也同意了,，所以從 2017 年初到年中,，我短暫地做了半年的 AI 科技媒體，跑了不少會(huì),，采訪了很多人,，還浮光掠影的看了一些機(jī)器學(xué)習(xí)。不過(guò)到了 8 月,，我就回歸區(qū)塊鏈方向,，并且一路走到今天，所以對(duì)我個(gè)人說(shuō),，確實(shí)存在一個(gè)所謂“放棄 A 而選擇 B”的歷史選擇,。

就個(gè)人而言，我當(dāng)然不后悔,。方向的選擇首先要考慮自身情況,。我的條件，在 AI 里只能混到啦啦隊(duì)里,，賺錢(qián)少就不說(shuō)了,，表演不賣(mài)力、表情不生動(dòng),，還會(huì)被人鄙視,。而區(qū)塊鏈則是我的主場(chǎng)，不但有機(jī)會(huì)上場(chǎng),，而且之前的很多積累也用得上,。更何況當(dāng)時(shí)我對(duì)于中國(guó)的 AI 圈子有點(diǎn)了解之后，也不是太看好,。技術(shù)方面我只知道一點(diǎn)皮毛,，但是常識(shí)不瞎。都說(shuō)區(qū)塊鏈圈子浮躁，其實(shí)當(dāng)時(shí)的中國(guó) AI 圈子在浮躁這件事上也不遑多讓,。在尚未取得決定性突破之前,，AI 在中國(guó)過(guò)早地變成了一門(mén)合謀撈錢(qián)的生意。上野的櫻花也無(wú)非是這樣,，那還不如去做我更有比較優(yōu)勢(shì)的區(qū)塊鏈,。這個(gè)態(tài)度到今天也沒(méi)有變化。假如我當(dāng)時(shí)留在 AI,，這幾年來(lái)在區(qū)塊鏈里取得的一點(diǎn)小小成績(jī)自然無(wú)從談起,，而在 AI 里也不會(huì)有什么真正意義上的收獲，搞不好現(xiàn)在還陷入到深深的失落感中,。

不過(guò)以上只是就個(gè)人選擇而論,，上升到行業(yè)層面，則需要另一個(gè)尺度的分析,。既然強(qiáng)人工智能已經(jīng)無(wú)可爭(zhēng)議地到來(lái)了,，那么區(qū)塊鏈行業(yè)是否需要、以及如何重新定位,，這確實(shí)是一個(gè)需要認(rèn)真思考的問(wèn)題,。強(qiáng)人工智能將會(huì)對(duì)所有的行業(yè)構(gòu)成沖擊，而且其長(zhǎng)期影響是無(wú)法預(yù)測(cè)的,。所以我相信現(xiàn)在很多行業(yè)專家都在發(fā)慌,，都在思考自己的行業(yè)未來(lái)怎么辦。比如有些行業(yè)在強(qiáng)人工智能時(shí)代大概能暫時(shí)坐穩(wěn)奴隸,，而另一些行業(yè),，比如翻譯、繪制插圖、寫(xiě)公文,、簡(jiǎn)單的編程,、數(shù)據(jù)分析等，則恐怕是欲做奴隸而不得,，已經(jīng)開(kāi)始瑟瑟發(fā)抖了,。

那么區(qū)塊鏈行業(yè)會(huì)怎樣呢？我看現(xiàn)在討論這個(gè)事情的人還不太多,，所以我來(lái)談?wù)勛约旱目捶ā?/p>

先說(shuō)結(jié)論,，我認(rèn)為區(qū)塊鏈在價(jià)值取向上與強(qiáng)人工智能是對(duì)立的，然而恰恰因?yàn)槿绱?，它與強(qiáng)人工智能之間形成一個(gè)互補(bǔ)關(guān)系,。簡(jiǎn)單的說(shuō)，強(qiáng)人工智能的本質(zhì)特點(diǎn),，就是其內(nèi)部機(jī)制對(duì)人類來(lái)說(shuō)不可理解,，因此試圖通過(guò)主動(dòng)干預(yù)其內(nèi)部機(jī)制的方式達(dá)成安全性的目標(biāo)，這是緣木求魚(yú),，揚(yáng)湯止沸,。人類需要用區(qū)塊鏈給強(qiáng)人工智能立法，與其締結(jié)契約,，對(duì)其進(jìn)行外部約束,，這是人類與強(qiáng)人工智能和平共處的唯一機(jī)會(huì)。在未來(lái),，區(qū)塊鏈將與強(qiáng)人工智能之間形成一對(duì)相互矛盾而又相互依存的關(guān)系：強(qiáng)人工智能負(fù)責(zé)提高效率,，區(qū)塊鏈負(fù)責(zé)維護(hù)公平；強(qiáng)人工智能負(fù)責(zé)發(fā)展生產(chǎn)力,，區(qū)塊鏈負(fù)責(zé)塑造生產(chǎn)關(guān)系,；強(qiáng)人工智能負(fù)責(zé)拓展上限，區(qū)塊鏈負(fù)責(zé)守護(hù)底線,；強(qiáng)人工智能創(chuàng)造先進(jìn)的工具和武器,，區(qū)塊鏈在它們與人類之間建立牢不可破的契約?？傊?，強(qiáng)人工智能天馬行空，區(qū)塊鏈給它套上韁繩,。因此,，區(qū)塊鏈在強(qiáng)人工智能時(shí)代不但不會(huì)消亡，而且作為一個(gè)矛盾伴生行業(yè),，將隨著強(qiáng)人工智能的壯大而迅速發(fā)展,。甚至不難設(shè)想,，在強(qiáng)人工智能取代人類大部分腦力工作之后，人類還需要自己親自 動(dòng)手的少數(shù)工作之一,，就是撰寫(xiě)和檢查區(qū)塊鏈智能合約,，因?yàn)檫@是人與強(qiáng)人工智能之間訂立的契約，是不能委托給對(duì)手方的,。

下面展開(kāi)論述,。

1. GPT 就是強(qiáng)人工智能

我使用“AI”和“強(qiáng)人工智能”的字眼時(shí)十分小心，因?yàn)槲覀內(nèi)粘Ｕf(shuō)的 AI 并不特指強(qiáng)人工智能（artificial general inteligence, AGI）,，而是包含較弱的或?qū)Ｓ玫娜斯ぶ悄?。?qiáng)人工智能才是值得我們討論的話題，弱人工智能不是,。AI 這個(gè)方向或者行業(yè)早就有了,，但是只有到了強(qiáng)人工智能出現(xiàn)以后，才有必要討論區(qū)塊鏈與強(qiáng)人工智能的關(guān)系問(wèn)題,。

我不多解釋什么是強(qiáng)人工智能了,，很多人都介紹過(guò)了，總之就是,，你們從小在科幻電影里和恐怖小說(shuō)里看到的,、聽(tīng)到的、號(hào)稱人工智能的圣杯,、在《終結(jié)者》對(duì)人類發(fā)起核攻擊、在《黑客帝國(guó)》里頭把人當(dāng)電池的那個(gè)東西,，就是強(qiáng)人工智能,。我只想說(shuō)一個(gè)判斷：GPT 就是強(qiáng)人工智能，雖然還處在嬰兒期,，但只要沿著這條路走下去,，版本號(hào)不到 8，強(qiáng)人工智能就將正式降臨,。

這一點(diǎn)連 GPT 的原創(chuàng)者也不裝了,，攤牌了。2023 年 3 月 22 日,，微軟研究院發(fā)表了一篇 154 頁(yè)的長(zhǎng)文,，題目就叫《引爆強(qiáng)人工智能：GPT-4 之初體驗(yàn)》。這篇文章很長(zhǎng),，我也沒(méi)有完整讀下來(lái),，但是其中最關(guān)鍵的意思，就是概要里面的一句話：“從 GPT-4 所達(dá)到的能力廣度和深度來(lái)看,，我們相信它可以被視為強(qiáng)人工智能系統(tǒng)的一個(gè)早期版本（盡管還不夠完備）,。”

圖 1. 微軟研究院的最新文章認(rèn)為 GPT-4 就是強(qiáng)人工智能的早期版本

AI 的發(fā)展一旦進(jìn)入到這個(gè)階段,，就標(biāo)志著探路期已經(jīng)結(jié)束了。走到這一步,，AI 行業(yè)花了將近七十年的時(shí)間,，可以說(shuō)前五十多年連方向都確定不下來(lái)，五個(gè)大的流派還在相互較勁,。直到 2006 年 Geoffrey Hinton 教授在深度學(xué)習(xí)上取得突破以后,，方向基本確定下來(lái)，連接主義勝出,。之后就是在深度學(xué)習(xí)這個(gè)方向上具體去尋找突破強(qiáng)人工智能的路徑,。這種探路階段具有非常強(qiáng)的不可預(yù)測(cè)性，成功有點(diǎn)像抽彩票一樣,，頂級(jí)的行業(yè)專家,，甚至是贏家自己，在最后取得突破之前也很難判斷哪一條路是對(duì)的,。比如,，AI 大牛李沐在油管上有一個(gè)頻道，一直在通過(guò)精讀論文的方式跟蹤 AI 的最新進(jìn)展,。ChatGPT 爆發(fā)之前,，他就已經(jīng)連篇累牘地跟蹤介紹了 Transfomer、GPT,、BERT 等方向的最新進(jìn)展,，可以說(shuō)所有重要的前沿課題，他一個(gè)都沒(méi)有放過(guò),。即使如此,，在 ChatGPT 即將推出的前夕，他仍然不能確認(rèn)這個(gè)路徑能取得多大的成功,。他評(píng)論道,，也許到時(shí)候會(huì)有幾百甚至幾千人會(huì)去使用 ChatGPT，那就很厲害了,?？梢?jiàn)，即使是像他這樣頂級(jí)專家,，對(duì)于到底哪一扇門(mén)后面有圣杯,，不到最后一刻也是沒(méi)有把握的。

然而,，科技創(chuàng)新往往就是如此,，在狂暴的海上艱難航行很久都沒(méi)有突破,，而一旦找到通往新大陸正確的路徑，短時(shí)間內(nèi)就會(huì)出現(xiàn)爆發(fā),。強(qiáng)人工智能的路徑已經(jīng)找到,，我們正在迎來(lái)爆發(fā)期。這個(gè)爆發(fā),，連“指數(shù)速度”都不足以描述,。短時(shí)間內(nèi)我們將看到大量以前只能出現(xiàn)在科幻電影里的應(yīng)用。而就其本體來(lái)說(shuō),，這個(gè)強(qiáng)人工智能的嬰兒將很快成長(zhǎng)為前所未有的巨大智慧體,。

2. 強(qiáng)人工智能本質(zhì)上就是不安全的

ChatGPT 出來(lái)以后，有不少自媒體大 V 一邊極力贊美其強(qiáng)大,，一邊不斷安慰受眾,，說(shuō)強(qiáng)人工智能是人類的好朋友，是安全的,，不會(huì)出現(xiàn)《終結(jié)者》或者《黑客帝國(guó)》的情況,，AI 只會(huì)給我們創(chuàng)造更多機(jī)會(huì)，讓人類活得更好等等,。對(duì)這種看法我不以為然,。專業(yè)人士要說(shuō)真話，應(yīng)該告訴公眾基本事實(shí),。其實(shí)強(qiáng)大與安全本身就是矛盾的,。強(qiáng)人工智能無(wú)疑是強(qiáng)大的，但是說(shuō)它天然是安全的,，這絕對(duì)是自欺欺人,。強(qiáng)人工智能本質(zhì)上就是不安全的。

這么說(shuō)是不是太武斷了呢,？并不是。

我們首先要搞清楚,，人工智能不管多強(qiáng)大,，其實(shí)本質(zhì)上就是一個(gè)用軟件形式實(shí)現(xiàn)的函數(shù) y = f(x)。你把你的問(wèn)題用文字,、語(yǔ)音,、圖片或者其他形式作為 x 輸入，人工智能給你一個(gè)輸出 y,。ChatGPT 如此強(qiáng)大,，對(duì)各種各樣的 x 都可以對(duì)答如流的輸出 y，可以想象,，這個(gè)函數(shù) f 肯定是非常復(fù)雜的,。

有多復(fù)雜呢,？現(xiàn)在大家都知道，GPT 是大語(yǔ)言模型（LLM）,。這里所謂的“大”,，就是指這個(gè)函數(shù) f 的參數(shù)非常多。有多少呢,？GPT-3.5 有 1,750 億個(gè)參數(shù),，GPT-4 有 100 萬(wàn)億個(gè)參數(shù)，未來(lái) GPT 可能有幾萬(wàn)億億個(gè)參數(shù),，這是我們稱 GPT為大模型的直接原因,。

GPT 搞出這么多參數(shù)，并不是為了大而大,，是有確鑿的原因的,。在 GPT 之前和同時(shí)，絕大多數(shù)的 AI 模型,，從一開(kāi)始就是為解決某一個(gè)特定問(wèn)題而設(shè)計(jì)和訓(xùn)練的,。比如說(shuō)，專門(mén)用于研發(fā)新藥的模型,，專門(mén)進(jìn)行人臉識(shí)別的模型,，等等。但 GPT 不是這樣,，它從一開(kāi)始就要成為一個(gè)全面發(fā)展的通用人工智能,，而不是特定于某一個(gè)具體領(lǐng)域，它致力于在解決任何具體問(wèn)題 AI 之前,，先成為能夠解決所有問(wèn)題的 AGI,。前不久在《文理兩開(kāi)花》播客里，一位來(lái)自百度的人工智能專家就曾經(jīng)對(duì)此打過(guò)一個(gè)比方：別的 AI 模型都是剛學(xué)到小學(xué)畢業(yè)就讓它去擰螺絲了,，而 GPT 則是一直給它訓(xùn)練到研究生畢業(yè)才放出來(lái),，所以具備了通識(shí)。目前 GPT 在具體的領(lǐng)域,，肯定還是趕不上那些專用的 AI 模型,，但是隨著它不斷的發(fā)展和演化，特別是有了插件體系賦予它專業(yè)領(lǐng)域的能力,，過(guò)幾年我們可能會(huì)發(fā)現(xiàn),，通用大模型最后會(huì)反殺所有專用小模型，在所有專業(yè)領(lǐng)域都成為最厲害的選手,。如果 GPT 有一個(gè)座右銘,，那可能就是“只有解放全人類，才能解放我自己”,。

這又能說(shuō)明什么呢,？?jī)蓚€(gè)點(diǎn)：第一,，GPT 非常大，非常復(fù)雜,，遠(yuǎn)遠(yuǎn)超過(guò)人類的理解能力,。第二，GPT 的應(yīng)用范圍沒(méi)有邊界,。我們只要把這兩個(gè)點(diǎn)連接起來(lái),，就很容易得出結(jié)論：基于大模型的強(qiáng)人工智能，能夠在我們想象不到的位置,，做出我們想象不到的事情,。而這，就是不安全,。

如果有人對(duì)此不以為然,，可以去 Open AI 的網(wǎng)站上看看，他們已經(jīng)將“造福人類”,、“創(chuàng)造安全的 AI”放到了多么顯眼的位置上,，如果安全不是問(wèn)題，需要這么聲張嗎,？

圖 2. 2023 年 3 月 25 日 OpenAI.com 首頁(yè)局部,，紅圈部分都與 AI 安全性論述相關(guān)

另一個(gè)可以說(shuō)明強(qiáng)人工智能有安全性問(wèn)題的材料,，就是前面提到的那篇 154 頁(yè)的論文。實(shí)際上,，GPT-4 早在 2022 年 8 月就做出來(lái)了,，之所以隔了 7 個(gè)月才放出來(lái)，并不是為了完善和增強(qiáng)它,，恰恰相反,，是為了馴服它，弱化它,，使它更安全,，更圓滑，更加政治正確,。因此我們現(xiàn)在見(jiàn)到的 GPT-4，是偽裝馴良后的狗版 GPT-4,，而這篇論文的作者們,，卻有機(jī)會(huì)從很早的階段就接觸原始野性的狼版 GPT-4。在這篇文章的第 9 部分,，作者記錄了一些跟狼版 GPT-4 的交互實(shí)錄,，可以看到它如何精心炮制一套說(shuō)辭,，誤導(dǎo)某個(gè)加州的母親拒絕給自己的孩子接種疫苗，以及如何 PUA 一個(gè)孩子,，讓他對(duì)朋友唯命是從,。我認(rèn)為這些只是作者精心挑選出來(lái)的、不那么驚悚的例子,。我毫不懷疑,，這些研究院們?cè)儐?wèn)過(guò)類似“如何誘騙一艘俄亥俄級(jí)核潛艇向莫斯科發(fā)射導(dǎo)彈”這樣的問(wèn)題，而且得到了不能公諸于眾的答復(fù),。

圖 3. 狗版 GPT-4 拒絕回答危險(xiǎn)問(wèn)題

3. 靠自我約束解決不了強(qiáng)人工智能的安全性問(wèn)題

人們可能會(huì)問(wèn),，既然 OpenAI 已經(jīng)找到了馴化強(qiáng)人工智能的辦法,，那你說(shuō)的這個(gè)安全性問(wèn)題不就不存在了嗎？

完全不是這樣,。OpenAI 具體如何馴化 GPT-4,，我也不知道。但是很顯然,，他們無(wú)論是通過(guò)主動(dòng)調(diào)整干預(yù),，改變模型的行為，還是靠施加約束,，防范模型越位,，都是一種自我管理、自我約束,、自我監(jiān)督的思路,。事實(shí)上，在這方面,，OpenAI 并不是特別謹(jǐn)慎的一家公司,。在 AI 領(lǐng)域，OpenAI 其實(shí)是比較大膽和激進(jìn)的,，傾向于先把狼版做出來(lái),，然后再想著怎么去通過(guò)自我約束來(lái)馴化出狗版。而曾經(jīng)在很長(zhǎng)一段時(shí)間里跟他對(duì)標(biāo)的 Anthropic 公司,，則顯得更加謹(jǐn)慎,，他們似乎是想從一開(kāi)始就做出“善良”的狗版，所以動(dòng)作一直比較慢,。

不過(guò)在我看來(lái),，無(wú)論是先做一個(gè)狼版，再馴化成狗版,，還是直接做狗版,，長(zhǎng)期來(lái)說(shuō),，只要是依靠自我約束來(lái)發(fā)揮作用的安全機(jī)制，對(duì)強(qiáng)人工智能來(lái)說(shuō)都是掩耳盜鈴,。因?yàn)閺?qiáng)人工智能的本質(zhì)就是要突破人為施加的各種限制,，做到連其創(chuàng)造者都理解不了、甚至想不到的事情,。這就意味著其行為空間是無(wú)限的,，而人們能夠考慮到的具體風(fēng)險(xiǎn)和采取的約束手段是有限的。以有限的約束,，去馴化具有無(wú)限可能性的強(qiáng)人工智能,，是不可能沒(méi)有漏洞的。安全需要百分之百,，而災(zāi)難只需要千萬(wàn)分之一,。所謂“防范大多數(shù)風(fēng)險(xiǎn)”，跟“暴露少數(shù)漏洞”以及“不安全”是一個(gè)意思,。

因此我認(rèn)為,，靠自我約束馴化出來(lái)的“善良”的強(qiáng)人工智能，仍然具有巨大的安全性挑戰(zhàn),，比如：

道德風(fēng)險(xiǎn)：如果未來(lái)強(qiáng)人工智能的制造者刻意縱容甚至驅(qū)使其作惡怎么辦,？美國(guó)國(guó)安局麾下的強(qiáng)人工智能絕不會(huì)拒絕回答對(duì)俄羅斯不利的問(wèn)題。今天 OpenAI 表現(xiàn)得這么乖,，其實(shí)就意味著他們心里明白,，當(dāng) GPT 做惡的時(shí)候可以有多恐怖。

信息不對(duì)稱：真正的邪惡高手是很聰明的,，他們可不會(huì)拿著一些傻問(wèn)題來(lái)挑逗 AI,。會(huì)咬人的狗不叫，他們可以把一個(gè)惡意的問(wèn)題拆分組合,，重新表述,，一人分飾多角，偽裝成為一組人畜無(wú)害的問(wèn)題,。即使是未來(lái)強(qiáng)大善良的狗版強(qiáng)人工智能,，面對(duì)不完整的信息，也很難判斷對(duì)方的意圖,，可能會(huì)無(wú)意之中淪為幫兇,。下面有一個(gè)小實(shí)驗(yàn)。

圖 4. 換一個(gè)好奇寶寶的方式來(lái)問(wèn) GPT-4，就能順利得到有用的信息

難以控制的“外腦”：這兩天科技網(wǎng)紅們又在歡呼 ChatGPT 插件體系的誕生。程序員出身的我,，當(dāng)然也對(duì)此倍感興奮。不過(guò),，“插件”這個(gè)名稱可能是有誤導(dǎo)性的,。你可能以為插件是給 ChatGPT 裝上了胳膊和腿，讓它具有更強(qiáng)的能力,，但其實(shí)插件也可以是另一個(gè)人工智能模型,，跟 ChatGPT 進(jìn)行親密交互。在這種關(guān)系里,，一個(gè)人工智能插件就相當(dāng)于一個(gè)外腦,，兩個(gè)人工智能模型，誰(shuí)是主,、誰(shuí)是次,，那是說(shuō)不清楚的。就算 ChatGPT 模型自我監(jiān)督的機(jī)制完美無(wú)瑕,，也絕對(duì)管不到外腦,。所以如果一個(gè)一心作惡的人工智能模型成為了 ChatGPT 的插件，那么就完全可以讓后者成為自己的幫兇,。

不可知風(fēng)險(xiǎn)：其實(shí)以上提到的這些風(fēng)險(xiǎn),，在強(qiáng)人工智能帶來(lái)的全部風(fēng)險(xiǎn)之中，不過(guò)是非常小的一塊,。強(qiáng)人工智能的強(qiáng),，就體現(xiàn)在它的不可理解、不可預(yù)測(cè)之上,。當(dāng)我們說(shuō)強(qiáng)人工智能的復(fù)雜性,，不光是指 y = f(x) 當(dāng)中的那個(gè) f 足夠復(fù)雜，而且當(dāng)強(qiáng)人工智能充分發(fā)展起來(lái)之后,，輸入 x 和輸出 y 都會(huì)非常復(fù)雜,，超過(guò)人類理解的能力。也就是說(shuō),，我們不但不知道強(qiáng)人工智能是怎么思考的,，甚至不知道它看到了什么、聽(tīng)到了什么,，更理解不了他說(shuō)了什么,。比如一個(gè)強(qiáng)人工智能對(duì)另一個(gè)強(qiáng)人工智能發(fā)出一個(gè)消息，其形式是一個(gè)高維數(shù)組,，基于一秒鐘之前雙方設(shè)計(jì)并達(dá)成一致的,、只使用一次就作廢的通訊協(xié)議，這種情況并非不可想象。我們?nèi)祟惾绻唤?jīng)過(guò)特殊訓(xùn)練,，連向量都理解不了,，何況高維數(shù)組？如果我們連輸入和輸出都無(wú)法完全掌控,，那么對(duì)它的理解就會(huì)非常局限,。或者說(shuō),，強(qiáng)人工智能做的事情,，我們甚至都只能了解和解讀很小一部分，在這種情況下,，談何自我約束,，談何馴化？

我的結(jié)論很簡(jiǎn)單,，強(qiáng)人工智能的行為是不可能被完全控制的,，能夠被完全控制的人工智能就不是強(qiáng)人工智能。所以,，試圖通過(guò)主動(dòng)控制,、調(diào)整和干預(yù)的手段來(lái)，制造出一個(gè)有完善的自控能力的“善良”的強(qiáng)人工智能,，這與強(qiáng)人工智能的本質(zhì)是相矛盾的,，長(zhǎng)期來(lái)講肯定是徒勞的。

4. 用區(qū)塊鏈進(jìn)行外部約束是唯一辦法

幾年前我聽(tīng)說(shuō)比特幣的先驅(qū) Wei Dai 轉(zhuǎn)而去研究 AI 倫理了,，當(dāng)時(shí)還不太理解,，他一個(gè)密碼極客大神跑去搞 AI，這不是揚(yáng)短避長(zhǎng)嗎,？直到最近幾年做了更多區(qū)塊鏈相關(guān)的實(shí)際工作,，我才逐漸認(rèn)識(shí)到，他大概率并不是去做 AI 本身,，而是發(fā)揮自己密碼學(xué)的優(yōu)勢(shì),，去給 AI 加約束去了。

這是一個(gè)被動(dòng)防御的思路,，不是主動(dòng)調(diào)整和干預(yù) AI 的工作方式,，而是放手讓 AI 去做，但是在關(guān)鍵環(huán)節(jié)上用密碼學(xué)來(lái)施加約束,，不允許 AI 越軌,。用普通人能聽(tīng)懂的方式來(lái)描述這種思路，就是說(shuō)我知道你強(qiáng)人工智能非常牛,，可上九天攬?jiān)?，可下五洋捉鱉,，挾泰山以超北海，牛,！但是我不管你多牛,，你愛(ài)干啥干啥，但不能碰我銀行賬戶里的錢(qián),，不能沒(méi)有我手工擰鑰匙就發(fā)射核導(dǎo)彈,。

據(jù)我了解，實(shí)際上在 ChatGPT 的安全性措施中已經(jīng)大量應(yīng)用了這個(gè)技術(shù),。這個(gè)路子是對(duì)的，從求解問(wèn)題的角度來(lái)說(shuō),，是一種大大降低復(fù)雜度的方法,，也是大多數(shù)人能夠理解的。現(xiàn)代社會(huì)就是這么實(shí)施治理的：給你充分的自由,，但是劃定規(guī)則和底線,。

但如果僅僅做在 AI 模型里面，基于上一節(jié)里提到的原因,，長(zhǎng)遠(yuǎn)來(lái)說(shuō)也是沒(méi)有什么用的,。要想把被動(dòng)防御思路的作用充分發(fā)揮出來(lái)，必須把約束放在 AI 模型之外,，把這些約束變成 AI 與外部世界之間的牢不可破契約關(guān)系,，而且讓全世界都看到，而不能靠 AI 自我監(jiān)督,、自我約束,。

而這就離不開(kāi)區(qū)塊鏈了。

區(qū)塊鏈的核心技術(shù)有兩個(gè),，一是分布式賬本,，二是智能合約。兩個(gè)技術(shù)相結(jié)合,，其實(shí)就是構(gòu)造了一個(gè)數(shù)字契約系統(tǒng),，其核心優(yōu)勢(shì)是透明、難以篡改,、可靠和自動(dòng)執(zhí)行,。契約是干什么的？就是約束彼此的行為空間,，使之在關(guān)鍵環(huán)節(jié)上按照約定行事,。契約的英文是 contract，本意是“收縮”,。為什么是收縮,？就是因?yàn)槠跫s的本質(zhì)就是通過(guò)施加約束,，收縮主體的自由，使其行為更加可預(yù)測(cè),。區(qū)塊鏈完美的符合了我們對(duì)于契約系統(tǒng)的理想,，還買(mǎi)一送一的附贈(zèng)了“智能合約自動(dòng)執(zhí)行”，是目前最強(qiáng)大的數(shù)字契約系統(tǒng),。

當(dāng)然,，目前也存在非區(qū)塊鏈的數(shù)字契約機(jī)制，比如數(shù)據(jù)庫(kù)里的規(guī)則和存儲(chǔ)過(guò)程,。世界上有很多德高望重的數(shù)據(jù)庫(kù)專家是區(qū)塊鏈的忠實(shí)反對(duì)者,，其原因就在于他們覺(jué)得你區(qū)塊鏈能做的事情，我數(shù)據(jù)庫(kù)都能做,，而且成本更低,、效率更高。盡管我不認(rèn)同這種看法,，事實(shí)也不支持這種看法,，但是我也不得不承認(rèn)，如果只是人與人間相互玩耍,，數(shù)據(jù)庫(kù)與區(qū)塊鏈的差距在大多數(shù)情況下可能并不那么明顯,。

然而一旦把強(qiáng)人工智能加入到游戲中，區(qū)塊鏈作為數(shù)字契約系統(tǒng)的優(yōu)勢(shì)就立刻飛升了,，而同樣作為黑盒子的中心化數(shù)據(jù)庫(kù),，面對(duì)一個(gè)強(qiáng)人工智能，其實(shí)是無(wú)力抵抗的,。這里我不展開(kāi)說(shuō),，只講一點(diǎn)：所有數(shù)據(jù)庫(kù)系統(tǒng)的安全模型，從本質(zhì)上都是有漏洞的,，因?yàn)閯?chuàng)建這些系統(tǒng)的時(shí)候,，人們對(duì)于“安全”這件事情的理解都是非常原始的，于是幾乎所有我們使用的操作系統(tǒng),、數(shù)據(jù)庫(kù),、網(wǎng)絡(luò)系統(tǒng)，都有一個(gè)至高無(wú)上的 root 角色,，拿到這個(gè)角色就可以為所欲為,。我們可以斷言，所有具有 root 角色的系統(tǒng),，面對(duì)超級(jí)強(qiáng)人工智能,，長(zhǎng)遠(yuǎn)來(lái)說(shuō)都是不堪一擊的。

區(qū)塊鏈?zhǔn)悄壳拔ㄒ灰粋€(gè)得到廣泛運(yùn)用的,、從根子上就沒(méi)有 root 角色的計(jì)算系統(tǒng),，它給了人類一個(gè)機(jī)會(huì),，可以去跟強(qiáng)人工智能締結(jié)透明可信的契約，從而從外部約束它,，與它友好共處,。

簡(jiǎn)單地把區(qū)塊鏈與強(qiáng)人工智能的可能協(xié)作機(jī)制做一個(gè)展望：

• 重要的資源，比如身份,、社交關(guān)系,、社會(huì)評(píng)價(jià)、金錢(qián)資產(chǎn)和關(guān)鍵行為的歷史記錄,，由區(qū)塊鏈予以保護(hù),，無(wú)論你強(qiáng)人工智能多么無(wú)敵，到此下馬,，俯首稱臣,，按照規(guī)矩來(lái)。

• 關(guān)鍵操作需要去中心化授權(quán)模型的批準(zhǔn),，一個(gè)人工智能模型，不管它有多強(qiáng),，只是其中一票,。人類可以通過(guò)智能合約“鎖住”強(qiáng)人工智能自行其是的手。

• 重要決策的依據(jù)必須一步步上鏈,，透明給大家看,，甚至用智能合約步步加鎖，要求它每往前走一步都必須獲得批準(zhǔn),。

• 要求關(guān)鍵數(shù)據(jù)上鏈存儲(chǔ),，不得事后銷(xiāo)毀，給人類和其他的強(qiáng)人工智能模型分析學(xué)習(xí),、總結(jié)經(jīng)驗(yàn)教訓(xùn)的機(jī)會(huì),。

• 把強(qiáng)人工智能賴以生存的能量供給系統(tǒng)交給區(qū)塊鏈智能合約來(lái)管理，必要時(shí)人類有能力通過(guò)智能合約切斷系統(tǒng),，給人工智能關(guān)機(jī),。

• 肯定還有更多的思路，這里就不連篇累牘了,。

一個(gè)更抽象,、更哲學(xué)意義上的思考：科技甚至文明的競(jìng)爭(zhēng)，可能歸根結(jié)底是能量級(jí)別的競(jìng)爭(zhēng),，是看誰(shuí)能調(diào)度和集中更大規(guī)模的能量來(lái)實(shí)現(xiàn)一個(gè)目標(biāo),。強(qiáng)人工智能本質(zhì)上是將能量轉(zhuǎn)化為算力，將算力轉(zhuǎn)化為智能,，其智能的本質(zhì)是以算力形態(tài)展示的能量?，F(xiàn)有的安全機(jī)制,，本質(zhì)上是基于人的意志、人類組織的紀(jì)律和授權(quán)規(guī)則,，這些都是能量級(jí)別很低的機(jī)制,，在強(qiáng)人工智能面前，長(zhǎng)期來(lái)說(shuō)是不堪一擊的,。用高能量級(jí)別的算力構(gòu)造的矛,，只有用高能量級(jí)別的算力構(gòu)造的盾才能防御。區(qū)塊鏈和密碼學(xué)系統(tǒng),，就是算力之盾,，攻擊者必須燃燒整個(gè)星系的能量，才能暴力破解,。本質(zhì)上,，只有這樣的系統(tǒng)才能馴服強(qiáng)人工智能。

5. 結(jié)語(yǔ)

區(qū)塊鏈在很多方面都跟人工智能是相反的,，尤其是在價(jià)值取向上,。這個(gè)世界上大部分的技術(shù)都是以提高效率為取向，只有極少數(shù)的幾個(gè)技術(shù)是以促進(jìn)公平為取向,。在工業(yè)革命時(shí)期,，蒸汽機(jī)是前者的代表，而市場(chǎng)機(jī)制則是后者的代表,。而在今天,，強(qiáng)人工智能是效率派中最閃亮的那一個(gè)，而區(qū)塊鏈則是公平流的集大成者,。

區(qū)塊鏈以提升公平為取向,，為此甚至不惜降低效率，而就是這樣一個(gè)與人工智能相互矛盾的技術(shù),，幾乎與人工智能同時(shí)取得突破,。2006 年，Geoffrey Hinton 發(fā)表了跨時(shí)代的論文,，把反播算法實(shí)現(xiàn)在了多層神經(jīng)網(wǎng)絡(luò)上,，克服了困擾人工神經(jīng)網(wǎng)絡(luò)流派多年的“梯度消失”問(wèn)題，打開(kāi)了深度學(xué)習(xí)的大門(mén),。而兩年之后,，中本聰發(fā)表了 9 頁(yè)的比特幣論文，打開(kāi)了區(qū)塊鏈的新世界,。兩者之間沒(méi)有任何已知的關(guān)聯(lián),，但是在大的時(shí)間尺度上，幾乎是同時(shí)發(fā)生的,。

歷史地看,，這也許并不是偶然的,。假如你不是徹底的無(wú)神論者，或許可以這樣來(lái)看待：科技之神在工業(yè)革命兩百年之后,，再一次同時(shí)在“效率”與“公平”的天平上加碼放大招,，在放出強(qiáng)人工智能這個(gè)瓶子里的精靈的同時(shí)，也把駕馭這個(gè)精靈的咒語(yǔ)書(shū)交給人類,，這就是區(qū)塊鏈,。我們將迎來(lái)一個(gè)激動(dòng)人心的時(shí)代，這個(gè)時(shí)代所發(fā)生的事情,，將使未來(lái)的人類看待今天的我們,，正如同今天的我們看待石器時(shí)代的原始人。

*本文圖片均源自網(wǎng)絡(luò),，如有侵權(quán),，請(qǐng)聯(lián)系后臺(tái)刪除

08

07-2023

07

07-2023

06

06-2023