原文來源：神經(jīng)現(xiàn)實(shí)

圖片來源：由無界 AI生成

化繭

在你的大腦中,，神經(jīng)元以大小不一的網(wǎng)絡(luò)排列著,。你的每一個(gè)動(dòng)作,、每一個(gè)想法都會(huì)改變這些網(wǎng)絡(luò)：神經(jīng)元或被納入、或被排除,，它們之間的連接或被加強(qiáng)、或被削弱。這個(gè)過程無時(shí)無刻不在進(jìn)行——在你閱讀這些文字的時(shí)候,，它就在發(fā)生變化，其規(guī)模之大超乎想象,。你的腦中有大約800億個(gè)神經(jīng)元,，共享1萬億甚至更多的連接。你的頭骨中就像蘊(yùn)藏著一個(gè)星系,，而這個(gè)星系變幻莫測(cè),。

常被稱為“人工智能教父”的計(jì)算機(jī)科學(xué)家杰弗里·辛頓（Geoffrey Hinton）遞給我一根手杖,。他說：“你在這里需要它。”然后,，他沿著一條穿過樹林的小路向湖岸邊走去,。小路蜿蜒地穿過一片綠樹成蔭的空地，經(jīng)過成對(duì)的棚屋,，然后沿著石階下到一個(gè)小碼頭,。辛頓邊往下走邊警告：“這里十分滑?！?/p>

新知識(shí)會(huì)以微妙的姿態(tài)融入你現(xiàn)有的神經(jīng)網(wǎng)絡(luò),。有時(shí)它們是轉(zhuǎn)瞬即逝的：例如你在聚會(huì)上遇到一個(gè)陌生人，他的名字可能只會(huì)在你的記憶網(wǎng)絡(luò)中留下短暫的印象,。但有時(shí)它們可能持續(xù)一生——要是這個(gè)陌生人成為了你的配偶,。由于新知識(shí)與舊知識(shí)相互交融，你所知的會(huì)影響你所學(xué)的,。如果派對(duì)上有人跟你談?wù)摿怂陌⒛匪固氐ぶ?，那么第二天，?dāng)你逛博物館時(shí),，你的神經(jīng)網(wǎng)絡(luò)可能會(huì)把你往維米爾（Vermeer,，17世紀(jì)荷蘭畫家）那兒推一推。類似地,，微小的變化往往會(huì)引起巨大的轉(zhuǎn)變,。

辛頓說：“我們?cè)谶@兒舉辦過篝火晚會(huì)?！蔽覀?cè)谕瓜虬泊舐允讨蝸啚常∣ntario’s Georgian Bay）的一塊巖石上,，喬治亞灣一直向西延伸到休倫湖（Lake Huron）。水面上島嶼星羅棋布,。2013年,，65歲的辛頓把一家由三人初創(chuàng)的公司以4400萬美元的價(jià)格賣給谷歌，然后買下了這座島嶼,。在此之前,，他在多倫多大學(xué)擔(dān)任了30年的計(jì)算機(jī)科學(xué)教授，在這個(gè)當(dāng)時(shí)叫神經(jīng)網(wǎng)絡(luò)的冷門子領(lǐng)域中充當(dāng)領(lǐng)頭羊,。這個(gè)領(lǐng)域的靈感來自大腦中神經(jīng)元的連接方式,。由于人工神經(jīng)網(wǎng)絡(luò)只在完成圖像分類、語(yǔ)音識(shí)別等任務(wù)時(shí)取得相對(duì)的成功,，大多數(shù)研究人員認(rèn)為它們往好了說只是略微有趣,，往壞了說是在浪費(fèi)時(shí)間。辛頓回憶道：“我們的神經(jīng)網(wǎng)絡(luò)甚至無法與一個(gè)孩子比肩,?！?0世紀(jì)80年代,，當(dāng)他觀看電影《終結(jié)者》時(shí)，他并沒有為電影中毀滅世界的人工智能 “天網(wǎng)”是一個(gè)神經(jīng)網(wǎng)絡(luò)感到困擾,，相反,，他很欣慰地看到這項(xiàng)技術(shù)被描繪得大有可為。

石頭上因高溫而產(chǎn)生裂縫,，從生火的小凹陷處向外迸射,，辛頓用棍子戳了戳生火的地方。他身材瘦高,，有一副英倫面孔,，作為一名徹頭徹尾的科學(xué)家，他總在評(píng)論物質(zhì)世界中發(fā)生的事情：動(dòng)物的生活,、海灣中的水流,、島嶼的地質(zhì)?！拔以谀绢^下面放了一個(gè)鋼筋網(wǎng),，這樣空氣就能進(jìn)來，溫度高到連金屬都能變軟,?！彼靡环N奇怪的語(yǔ)氣說，“這才是真正的火,，值得引以為傲,！”

幾十年來，辛頓不斷嘗試以巧妙的方式構(gòu)建更大的神經(jīng)網(wǎng)絡(luò),。他想出新的方法來訓(xùn)練它們，幫助它們不斷進(jìn)步,。他招募研究生,，讓他們相信神經(jīng)網(wǎng)絡(luò)并不是一個(gè)失敗的事業(yè)。他認(rèn)為自己在參與一個(gè)可能在一個(gè)世紀(jì)后,、在他死后才會(huì)取得成果的項(xiàng)目,。與此同時(shí)，他發(fā)現(xiàn)自己卻變成了鰥夫,，獨(dú)自撫養(yǎng)兩個(gè)年幼的孩子,。在一個(gè)特別困難的時(shí)期，家庭生活和研究壓得他喘不過氣來,，他認(rèn)為自己已經(jīng)拼盡全力,。他說：“我早在46歲時(shí)就對(duì)神經(jīng)網(wǎng)絡(luò)死心了?！彼麤]有預(yù)料到,，神經(jīng)網(wǎng)絡(luò)技術(shù)會(huì)在約十年前突飛猛進(jìn),。計(jì)算機(jī)的速度越來越快，神經(jīng)網(wǎng)絡(luò)利用互聯(lián)網(wǎng)上的數(shù)據(jù)開始轉(zhuǎn)錄語(yǔ)音,、玩游戲,、翻譯語(yǔ)言甚至駕駛汽車。大約在辛頓的公司被收購(gòu)時(shí),，人工智能開始蓬勃發(fā)展,，OpenAI的ChatGPT 、谷歌的Bard等系統(tǒng)應(yīng)運(yùn)而生,，很多人相信它們正以不可預(yù)知的方式改變著這個(gè)世界,。

辛頓沿著海岸出發(fā)了，我緊隨其后,，碎裂的巖石在我腳下晃動(dòng),。“看呀,！”他站在一塊與人一般大的磐石前說,，這塊巨石擋住了我們的去路?！澳憧梢韵冗@樣,，先把棍子扔過去，”他把自己的棍子扔到巨石的另一邊,，“然后這里和這里都有支點(diǎn),，這兒還有一塊能抓住的?！蔽铱粗p車熟路地爬過去,，自己也試探性地邁出了相同的步伐。

每當(dāng)我們學(xué)習(xí)時(shí),，我們的神經(jīng)網(wǎng)絡(luò)都會(huì)產(chǎn)生變化,，但究竟是如何變化呢？許多像辛頓這樣與計(jì)算機(jī)打交道的研究人員,，在試圖探索神經(jīng)網(wǎng)絡(luò)的 “學(xué)習(xí)算法”——一種通過改變?nèi)斯ど窠?jīng)元之間連接的統(tǒng)計(jì)“權(quán)重”來汲取新知識(shí)的程序,。1949年，心理學(xué)家唐納德·赫布（Donald Hebb）就人們?nèi)绾螌W(xué)習(xí)提出了一個(gè)簡(jiǎn)單的規(guī)則,，通常被概括為神經(jīng)元“共激活者共連接（fire together wire together）”,。大腦中的一組神經(jīng)元一旦同步激活，就更有可能再次同步激活。這有助于解釋為什么我們?cè)诘诙巫瞿呈聲r(shí)會(huì)更易上手。但很快人們發(fā)覺,，計(jì)算機(jī)化的神經(jīng)網(wǎng)絡(luò)需要用另一種方法來解決復(fù)雜的問題。20世紀(jì)60,、70年代,，辛頓還是一名年輕的研究人員，他在筆記本上繪制了神經(jīng)元網(wǎng)絡(luò),，并想象著新知識(shí)如何到達(dá)它們的邊界,。由幾百個(gè)人工神經(jīng)元組成的網(wǎng)絡(luò)如何存儲(chǔ)一個(gè)概念？如果這個(gè)概念存在缺陷,，這些網(wǎng)絡(luò)又該如何修正,？

我們沿著海岸繞了一圈，來到辛頓的小屋,，這是島上唯一的一間小屋,。它由封閉式玻璃建成，高高矗立在寬闊黝黑的巖石階梯之上,?！坝幸淮挝覀儊淼竭@里，一條巨大的水蛇把頭探了過來,。那是一段美好的回憶,。”辛頓在我們靠近屋子時(shí)說,。他的父親是一位著名的昆蟲學(xué)家,，曾命名了一種鮮為人知的蛻變階段（metamorphosis）。正是他的父親給他灌輸了對(duì)冷血?jiǎng)游锏莫?dú)愛,。小時(shí)候,，他和父親在車庫(kù)里養(yǎng)了很多毒蛇、烏龜,、青蛙,、蟾蜍和蜥蜴。如今,，當(dāng)辛頓在島上時(shí)（他經(jīng)常在溫暖的月份去島上）,，常常會(huì)尋找蛇并把它們帶到家里，這樣他就可以在飼養(yǎng)箱里觀察它們,。他一生都在思考如何自下而上地思考問題，因此很善于觀察非人類的心智,。

今年早些時(shí)候,，辛頓離開了谷歌（自從辛頓的公司被收購(gòu)后，他一直在谷歌工作）,。他擔(dān)心人工智能可能造成危害,，并開始在接受采訪時(shí)談?wù)撨@項(xiàng)技術(shù)可能對(duì)人類構(gòu)成的“生存威脅”。他越是使用ChatGPT（一個(gè)由大量人類寫作語(yǔ)料庫(kù)訓(xùn)練出來的人工智能系統(tǒng)）就越是惴惴不安,。

有一天,，?？怂剐侣劊‵ox News）的人給他寫信，希望就人工智能問題進(jìn)行采訪,。辛頓偏愛用電子郵件發(fā)送尖刻的單句回復(fù),，比如，在收到一份來自加拿大情報(bào)機(jī)構(gòu)的長(zhǎng)報(bào)告后,，他回復(fù)：“斯諾登是我的英雄（Snowden is my hero）,。”所以他嘗試寫點(diǎn)俏皮話,，最后,，他寫道：“福克斯新聞是個(gè)敏銳的白癡（Fox News is an oxy moron）*,?！比缓螅`機(jī)一動(dòng),，問ChatGPT能否解釋他的笑話,。系統(tǒng)告訴他，他的句子暗示?？怂剐侣勈羌傩侣?，當(dāng)他讓ChatGPT留意“白癡”（moron）前的空格時(shí)，系統(tǒng)解釋說?？怂剐侣剷?huì)讓人上癮,，就像藥物奧施康定（OxyContin）一樣。辛頓大吃一驚,。這種理解水平似乎代表了人工智能的一個(gè)新時(shí)代,。

*譯者注：

oxymoron在英語(yǔ)中是“矛盾修飾法”之意，但它是個(gè)來自希臘語(yǔ)的組合詞,，此處辛頓故意用空格將該詞拆開,，使用希臘語(yǔ)本意：oxy即為希臘語(yǔ)oxys，意為銳利的,、敏銳的,、酸的；moron意為白癡,。ChatGPT表現(xiàn)得似乎“理解”了辛頓的俏皮話,，因?yàn)樗彩褂昧薿xy這個(gè)梗：OxyContin中的“oxy”來自其成分oxycodone，oxycodone的詞源也是oxys（取“酸”之意）,。

我們有許多理由畏懼人工智能的來臨,。比如，擔(dān)心人類員工被電腦取代是人之常情,。但是,，辛頓與包括OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）在內(nèi)的許多著名技術(shù)專家一起,，發(fā)出了警告，稱人工智能系統(tǒng)可能會(huì)開始自我思考,、甚至試圖取代或消滅人類文明,。人工智能最杰出的研究人員之一，發(fā)表了如此引人心憂如焚的觀點(diǎn),，屬實(shí)令人震驚,。

他站在自家廚房里（他一生中大部分時(shí)間都在受背痛折磨，最終疼痛變得非常嚴(yán)重,，以至于他放棄了坐著,。自2005年以來，他從未坐過超一小時(shí),。）對(duì)我說：“人們說,，人工智能只是美化了的‘自動(dòng)完成’功能（autocomplete）。讓我們來分析一下,，假設(shè)你想成為預(yù)測(cè)下一個(gè)單詞的高手：如果你想成為真正的高手,，就必須理解別人在說什么，別無他法,。因此,，訓(xùn)練讓某物真正擅長(zhǎng)預(yù)測(cè)下一個(gè)單詞，實(shí)際上就是在強(qiáng)迫它去理解,。是的,，這的確是‘自動(dòng)完成’，但你并沒有想清楚,，擁有一個(gè)真正好的‘自動(dòng)完成’意味著什么,。”辛頓認(rèn)為,，“大型語(yǔ)言模型”（large language models）,，例如為OpenAI聊天機(jī)器人提供支持的GPT，可以理解單詞和想法的含義,。

那些認(rèn)為我們高估了人工智能的懷疑論者指出,，人類思維與神經(jīng)網(wǎng)絡(luò)之間仍存在著鴻溝。首先,，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式與我們不同：我們通過積累經(jīng)驗(yàn),，掌握經(jīng)驗(yàn)與現(xiàn)實(shí)、與自身的關(guān)系,，有機(jī)地獲取知識(shí),；而神經(jīng)網(wǎng)絡(luò)則是抽象地學(xué)習(xí),，他們處理的是關(guān)于這個(gè)世界的巨大信息庫(kù),，一個(gè)他們并不真正居住其間的世界,。但辛頓認(rèn)為，人工智能系統(tǒng)所展示的智能超越了其人工源頭,。

“當(dāng)你吃東西時(shí),，你把食物吃進(jìn)去，然后分解成更微小的成分,，”他告訴我,，“所以你大可以說，我身體里的部分是由其他動(dòng)物的部分組成的,。但這是在誤導(dǎo)他人,。”他認(rèn)為,，通過分析人類的寫作,，像GPT這樣的大型語(yǔ)言模型是能夠了解世界是如何運(yùn)作的，從而產(chǎn)生一個(gè)能夠思考的系統(tǒng),，寫作只是這個(gè)系統(tǒng)所能做的一小部分而已,。他接著說：“這就好比毛毛蟲蛻變成蝴蝶。在蛹里,，你把毛毛蟲變成濃湯,，再?gòu)臏锇押斐鰜怼,！?/p>

他開始在廚房邊的一個(gè)小柜子里搗鼓起來,。“啊哈,！”他興高采烈地把一個(gè)東西放在柜臺(tái)上——一只死蜻蜓,。它被保存得非常完好。他解釋：“這是我在碼頭發(fā)現(xiàn)的,。它剛在石頭上孵化出來,，正在晾干翅膀，所以我把它捉住了,?？此旅妗,！毙令D捕捉到的這只蜻蜓剛從幼蟲形態(tài)中蛻變出來,。這只幼蟲長(zhǎng)相迥異，有自己的眼睛和腿,。它的背部有一個(gè)洞,，蜻蜓就是從這個(gè)洞里鉆出來的。

“蜻蜓的幼蟲是生活在水里的怪物，”辛頓說,，“就像電影《異形》中一樣,，蜻蜓從怪物的背部破殼而出。幼蟲在一個(gè)階段變成了濃湯,，然后蜻蜓從濃湯中誕生了,。”在他的比喻中,，幼蟲代表了用于訓(xùn)練現(xiàn)代神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù),，蜻蜓則代表了由此產(chǎn)生的敏捷人工智能。深度學(xué)習(xí)（辛頓幫助開創(chuàng)的技術(shù)）導(dǎo)致了這種蛻變,。我彎下腰,，想看得更清楚一些。辛頓站得筆直,，他幾乎總是這樣,，小心翼翼地保持著姿勢(shì)?！岸嗥裂?，”他輕聲說，“你現(xiàn)在明白了吧,。它一開始是一類東西,，現(xiàn)在變成了另一類東西?！?/p>

巨樹的枝椏

幾周前,，當(dāng)辛頓邀請(qǐng)我參觀他的小島時(shí)，我想象了各種可能發(fā)生的場(chǎng)景,。也許他是一個(gè)想要獨(dú)處的內(nèi)向者,，或者是一個(gè)有上帝情結(jié)（God complex）和未來主義混合思想的科技霸主。在我抵達(dá)的前幾天,，他通過電子郵件發(fā)送了一張他拍攝的照片,，照片上一條響尾蛇盤踞在島上的草叢中。我不知道自己是該感到高興還是害怕,。

事實(shí)上,，就私人島嶼而言，辛頓的島嶼算簡(jiǎn)陋的,，總共只有兩英畝,。辛頓本人與硅谷的技術(shù)大亨截然相反。現(xiàn)年75歲的他有著約書亞·雷諾茲（Joshua Reynolds）畫作中的英倫面孔,，白發(fā)襯托著寬闊的前額,。他的藍(lán)眼睛通常很沉穩(wěn),，只留下嘴巴來負(fù)責(zé)表達(dá)情感。他是一個(gè)侃侃而談的人,，特別是當(dāng)談?wù)撈鹱约?，“‘杰夫（Geoff，他名字的簡(jiǎn)寫）’是‘自大狂（ego fortissimo）’的變形,。”他跟我說,。

但他不是一個(gè)自負(fù)的人,，因?yàn)樗纳畋槐瘋年幱盎\罩?！拔乙苍S應(yīng)該和你講講我的妻子們,，”我們第一次交談時(shí)他說，“我曾有過三次婚姻,。一次友好結(jié)束,，另外兩次悲劇收?qǐng)觥,！彼c早年結(jié)婚的第一任妻子喬安妮（Joanne）仍然保持著友好關(guān)系,，但他的第二任和第三任妻子羅莎琳德（Rosalind）和杰姬（Jackie）都分別于1994年和2018年死于癌癥。在過去的四年里,，辛頓一直和退休了的社會(huì)學(xué)家羅斯瑪麗·加特納（Rosemary Gartner）在一起,。她溫柔地告訴過我：“我覺得他是那種總是需要伴侶的人?！?/p>

他是一位浪漫的理性主義者,，對(duì)科學(xué)和情感有著平衡的感性認(rèn)識(shí)。在小屋里,，一個(gè)單獨(dú)的大房間占據(jù)了一樓大部分空間,，房間里擺著一艘酒紅色的獨(dú)木舟。他和杰姬在島上的樹林里發(fā)現(xiàn)了這艘年久失修的獨(dú)木舟,。杰姬是一位藝術(shù)史學(xué)家,，在她生病的那幾年，她和一些女獨(dú)木舟制作者一起重造了這艘獨(dú)木舟,。辛頓說：“她完成了首航,。”從那以后,，再也沒有人使用過它。

他把蜻蜓放好,，然后走到一張站立式小書桌前,，那里放著一臺(tái)筆記本電腦，旁邊是一堆數(shù)獨(dú)謎題和一本記有電腦密碼的筆記本（他很少做筆記，因?yàn)樗O(shè)計(jì)了一套記憶系統(tǒng),，能在腦子里生成并回憶起很長(zhǎng)的密碼）,。他問道：“我們來制作族譜如何？”他用兩根手指（他沒有固定的打字指法）輸入了 “杰弗里·辛頓族譜”,，然后按了回車鍵,。2013年，谷歌收購(gòu)了辛頓的初創(chuàng)公司,，部分原因是該團(tuán)隊(duì)發(fā)現(xiàn)了如何利用神經(jīng)網(wǎng)絡(luò)大幅提高圖像識(shí)別能力?，F(xiàn)在，屏幕上布滿了無窮無盡的族譜,。

辛頓出身于一個(gè)特殊的英國(guó)科學(xué)世家：政治激進(jìn)且富有創(chuàng)造力,。在他的族譜中，他的叔祖父塞巴斯蒂安·辛頓（Sebastian Hinton）是攀登架（jungle gym）的發(fā)明者,，他的姑媽瓊·辛頓（Joan Hinton）是曼哈頓計(jì)劃（Manhattan Project）里的物理學(xué)家,。在她之前，還有露西·埃弗勒斯（Lucy Everest）,，她是第一位當(dāng)選為英國(guó)皇家化學(xué)研究所成員的女性,；查爾斯·霍華德·辛頓（Charles Howard Hinton）是一名數(shù)學(xué)家，他創(chuàng)造了四維超正方體（tesseract）的概念,，這是一個(gè)通往四維空間的大門（就是電影《星際穿越》中出現(xiàn)的那個(gè)超正方體）,；詹姆斯·辛頓（James Hinton），一位開創(chuàng)性的耳外科醫(yī)生,，也是一夫多妻制的倡導(dǎo)者,。（據(jù)說他曾說過：“基督是男人的救世主，而我是女人的救世主,?！保?9世紀(jì)中葉，辛頓的曾曾祖父,、英國(guó)數(shù)學(xué)家喬治·布爾（George Boole）發(fā)明了二進(jìn)制推理系統(tǒng),，即現(xiàn)在的布爾代數(shù)（Boolean algebra，也稱作“邏輯代數(shù)”,，是所有計(jì)算的基礎(chǔ)）,。布爾的妻子瑪麗·埃弗勒斯（Mary Everest）是一位數(shù)學(xué)家和作家，也是喬治·埃弗勒斯（George Everest）,，一位測(cè)繪者的侄女,。珠穆朗瑪峰（Mt. Everest）就是以喬治的名字命名的。

“杰夫生來就是搞科學(xué)的,，”辛頓以前的學(xué)生兼合作者,、現(xiàn)在Meta公司負(fù)責(zé)人工智能的楊立昆（Yann LeCun）告訴我,。然而，辛頓的家庭比這更離奇,。他的父親霍華德·埃弗勒斯·辛頓（Howard Everest Hinton）于20世紀(jì)10年代墨西哥革命期間在墨西哥長(zhǎng)大,，在其父親管理的銀礦上工作?！八謭?jiān)強(qiáng),。”辛頓這樣評(píng)價(jià)他的父親,。家族傳說,，12歲時(shí)，霍華德曾威脅要射殺他的拳擊教練,，因?yàn)樗慕叹毺珖?yán)厲了，教練把他的話當(dāng)真了,，不得不逃離了小鎮(zhèn),。霍華德的母語(yǔ)是西班牙語(yǔ),，在伯克利上大學(xué)時(shí),，他的口音曾被人嘲笑?！八鸵蝗和瑯邮艿狡缫暤姆坡少e人混在一起,，成為了伯克利的激進(jìn)分子?！被羧A德有著成熟的馬克思主義和斯大林主義政治主張,。

在學(xué)校里，辛頓偏愛科學(xué),。但出于意識(shí)形態(tài)的原因,，他的父親禁止他學(xué)習(xí)生物學(xué)。在霍華德看來,，基因決定論的可能性違背了共產(chǎn)主義關(guān)于人性終極可塑性的信仰,。“我討厭各種信仰,?！毙令D回憶起這段日子時(shí)說道。在布里斯托爾大學(xué)任教的霍華德就像是昆蟲學(xué)界的“奪寶奇兵”（Indiana Jones）：他把世界各地的稀奇古怪裝在行李中偷運(yùn)回英國(guó),，并編輯了一份該領(lǐng)域的重要期刊,。辛頓的中間名也是埃弗勒斯，他為此感受到了巨大的壓力,，想著必須做出屬于自己的成績(jī),。他記得父親曾對(duì)他說：“如果你比我努力一倍,，當(dāng)你的年紀(jì)也是我的一倍時(shí)，你可能只有我一半成功,?！?/p>

在劍橋大學(xué)，辛頓嘗試過不同的專業(yè),，但他沮喪地發(fā)現(xiàn)自己從來都不是班上最聰明的學(xué)生,。他曾短暫離開大學(xué)去“閱讀令人沮喪的小說”，并在倫敦打零工,，后來又回來嘗試建筑學(xué),，然而只做了一天。最后,，他涉獵了物理,、化學(xué)、生理學(xué)和哲學(xué),，嘗試專注于一樣?xùn)|西,，于是選擇了實(shí)驗(yàn)心理學(xué)學(xué)位。他常在道德哲學(xué)家伯納德·威廉姆斯（Bernard Williams）的辦公室里“出沒”,，發(fā)現(xiàn)自己對(duì)計(jì)算機(jī)和心靈很感興趣,。有一天，威廉姆斯指出,，我們不同的思想一定反映了我們大腦中不同的物理排列,，這與計(jì)算機(jī)中的情況完全不同，在計(jì)算機(jī)中,，軟件獨(dú)立于硬件,。辛頓被這一觀察所震撼。

他記得在高中時(shí),，一位朋友曾告訴他,，記憶可能是以“全息”的方式存儲(chǔ)在大腦中的。也就是說,，盡管記憶是分散的,，卻可以通過任何一個(gè)局部訪問整體。他所遇到的是“連接主義（connectionism）”——一種結(jié)合神經(jīng)科學(xué),、數(shù)學(xué),、哲學(xué)和編程的方法，旨在探索神經(jīng)元如何協(xié)同合作來完成“思考”,。連接主義的目標(biāo)之一,，是在計(jì)算機(jī)中創(chuàng)建一個(gè)類似大腦的系統(tǒng)。這在當(dāng)時(shí)已經(jīng)取得了些許進(jìn)展：1950年代,，心理學(xué)家,、連接主義先驅(qū)弗蘭克·羅森布拉特（Frank Rosenblatt）制造了一臺(tái)機(jī)器,，名為“感知機(jī)”（Perceptron），它用簡(jiǎn)單的計(jì)算機(jī)硬件模擬了一個(gè)由數(shù)百個(gè)神經(jīng)元組成的網(wǎng)絡(luò),。當(dāng)連接到光學(xué)傳感器時(shí),，該設(shè)備可以追蹤不同模式的光線激活了哪些人工神經(jīng)元，從而識(shí)別字母和形狀,。

在小屋里,，辛頓站了會(huì)兒，然后在一樓廚房柜臺(tái)后面來回踱步,。他做了些吐司,，給我們每人拿了個(gè)蘋果，然后用腳踏凳為自己支起了一張小桌,。家庭的壓力使他無法獲得短暫的滿足,。“我一直很喜歡木工活,，”我們吃東西時(shí),，他俏皮地回憶道，“在學(xué)校,，你可以在晚上自愿做木工,。我經(jīng)常想,，如果我成了一名建筑師,，是否會(huì)更快樂，因?yàn)槲也槐貜?qiáng)迫自己去做這些事,。而對(duì)于科學(xué),，我總是不得不強(qiáng)迫自己。因?yàn)榧彝サ脑?，我必須成功,，我必須有出路?strong>這其中有快樂，但更多的是焦慮?，F(xiàn)在我成功了,，這讓我感到無比欣慰?！?/p>

辛頓的筆記本電腦叮咚作響,。自從他離開谷歌后，他的收件箱里就不斷收到讓他對(duì)人工智能發(fā)表評(píng)論的請(qǐng)求,。他走過去看了看郵件,，然后又迷失在族譜的森林里，所有這些族譜似乎都存在這樣或那樣的問題,。

“看看這個(gè),?！彼f。

我走過去看了看屏幕,。這是一份“學(xué)術(shù)族譜”,，辛頓在最上面，下面排列著他的學(xué)生和他學(xué)生的學(xué)生,。這棵“樹”非常寬廣,，他必須橫向滾動(dòng)鼠標(biāo)才能看到自己的影響范圍之廣?！芭?，天哪，”辛頓一邊研究學(xué)術(shù)族譜一邊說,，“她其實(shí)不是我的學(xué)生,。”他再次滾動(dòng)鼠標(biāo),，“他才華橫溢,，卻不善于當(dāng)顧問，因?yàn)樗约嚎偰茏龅帽葎e人更好,?！?strong>辛頓是一位精心培育人才的人，他似乎很享受被學(xué)生超越的感覺,。在評(píng)估求職者時(shí),，他經(jīng)常問他們的導(dǎo)師：“所以他們比你強(qiáng)嗎？”回憶起1977年去世的父親,，辛頓說：“他極其好勝,。我時(shí)常在想，如果他在我身邊看到我取得這番成功,，他會(huì)不會(huì)感到高興,。因?yàn)楝F(xiàn)在的我比他更成功?！?/p>

根據(jù)谷歌學(xué)術(shù)的數(shù)據(jù),，辛頓現(xiàn)在是心理學(xué)家中被引用次數(shù)第二多的研究者，也是計(jì)算機(jī)和認(rèn)知科學(xué)家中被引用次數(shù)最多的人,。如果說他在劍橋大學(xué)的起步是緩慢而異乎尋常的,，那要?dú)w咎于他當(dāng)時(shí)正在研究一個(gè)新興領(lǐng)域。他合上筆記本電腦說道：“當(dāng)時(shí)在好大學(xué)里做神經(jīng)網(wǎng)絡(luò)的人很少,。你在麻省理工學(xué)院做不了,，在伯克利做不了，斯坦福也不行,?！毙令D成為了一個(gè)新生網(wǎng)絡(luò)的樞紐,，也有好處。多年來,，許多頂尖的人才都來找他,。

玻爾茲曼機(jī)

“今天天氣真好，”第二天早上,，辛頓說,，“我們應(yīng)該去砍一棵樹?！?他穿著一件塞進(jìn)卡其褲里的正裝襯衫,，看起來并不太像伐木工人。不過,，他還是搓了搓手,。在島上，他總是在砍樹,，來為島嶼創(chuàng)造更有序,、更美麗的風(fēng)貌。

這棟房子其實(shí)也尚未完工,，很少有承包商愿意跑到這么偏遠(yuǎn)的地方來,。辛頓雇來的人也犯了一些不必要的失誤（把排水管接到上坡上、地板做到一半不做了）,，這至今仍讓他憤憤不平,。幾乎每個(gè)房間都有一個(gè)需要修正的小項(xiàng)目，在我參觀的時(shí)候,，辛頓已經(jīng)在建筑材料上做了一些小標(biāo)注,，來幫助新的承包商,。這些標(biāo)注通常直接寫在建筑材料上面,。在一樓的浴室里，靠墻的一塊底板上寫著：“浴室應(yīng)使用這種底板（僅限淋浴器前的楓木裝飾）,?！痹诳头康谋跈焕铮诒文z帶沿著架子延伸過去：“請(qǐng)勿為擱板打底,，而應(yīng)為擱板的支架打底,。”

給事物貼標(biāo)簽對(duì)大腦也很有用,，它能幫助大腦把握現(xiàn)實(shí),。但是，貼標(biāo)簽對(duì)人工的心智意味著什么呢,？當(dāng)辛頓在愛丁堡大學(xué)獲得人工智能博士學(xué)位時(shí),，他思考了如何在計(jì)算機(jī)中模擬大腦中的“認(rèn)知”,。當(dāng)時(shí)，也就是1970年代,，絕大多數(shù)人工智能研究人員都是“符號(hào)學(xué)派（symbolists）”,。在他們看來，對(duì)番茄醬的認(rèn)識(shí)可能涉及諸多概念,，如“食物”“醬汁”“調(diào)味品”,，“甜味”“鮮味”“紅色”“西紅柿”，“美國(guó)人”“炸薯?xiàng)l”“蛋黃醬”和 “芥末”,。這些概念摻雜在一起,，就形成了“番茄醬”這樣一個(gè)新的概念。有一個(gè)資金雄厚的大型人工智能項(xiàng)目名為Cyc,，其核心是建立一個(gè)龐大的知識(shí)庫(kù),，科學(xué)家們可以使用一種特殊的語(yǔ)言，將概念,、事實(shí),、規(guī)則以及不可避免的例外情況輸入其中（比如，鳥會(huì)飛,，但企鵝,、翅膀受損的鳥卻……）。

但是,，辛頓對(duì)這種方法存疑,。它似乎過于僵化，過于專注于哲學(xué)家和語(yǔ)言學(xué)家所持有的推理能力,。他知道,，在自然界中，許多動(dòng)物在不擁有可以用語(yǔ)言表達(dá)的概念時(shí),，也能做出智能行為,。它們只是通過經(jīng)驗(yàn)學(xué)會(huì)了如何變得聰明。智慧的源泉是學(xué)習(xí),，而非知識(shí),。

人類的復(fù)雜思維似乎往往是通過符號(hào)和文字進(jìn)行的。但是,，辛頓和他的合作者詹姆斯·麥克利蘭（James L. McClelland）以及戴維·魯梅爾哈特（David Rumelhart）認(rèn)為,，很多行為都發(fā)生在子概念（sub-conceptual）層面。他們寫道：“請(qǐng)留意,，如果你了解到關(guān)于某個(gè)事物的新事實(shí),，你對(duì)其他類似事物的預(yù)期也往往會(huì)發(fā)生變化。”

例如,，如果你被告知黑猩猩喜歡洋蔥,，你可能會(huì)猜測(cè)大猩猩也喜歡洋蔥。這表明,，知識(shí)很可能“分布”在大腦中,，由相關(guān)想法間共享的小模塊組成?！昂谛尚伞焙?“大猩猩”這兩個(gè)概念不會(huì)有兩個(gè)獨(dú)立的神經(jīng)元網(wǎng)絡(luò),，相反，表征各種具體或抽象“特征”的神經(jīng)元束——茸毛,、四足的,、靈長(zhǎng)的、動(dòng)物的,、智力,、野性等等，可能會(huì)以一種方式被激活,，以表征“黑猩猩”,，而以略微不同的方式被激活，表征“大猩猩”,。這些特征之外,，我們還可以加上“洋蔥頭”等特征。這樣構(gòu)建的大腦有可能陷入混亂和錯(cuò)誤：將各種特征以錯(cuò)誤的排列方式混合在一起,，你會(huì)得到一個(gè)既不是大猩猩也不是黑猩猩的幻想生物,。但是，擁有正確學(xué)習(xí)算法的大腦可能會(huì)調(diào)整神經(jīng)元之間的權(quán)重,，使合理的組合優(yōu)于不合邏輯的組合,。

辛頓不斷探索這類想法，先是在加利福尼亞大學(xué)圣迭戈分校做博士后（并與喬安妮結(jié)婚,，辛頓是喬安妮在計(jì)算機(jī)視覺方向的導(dǎo)師）,，然后在劍橋大學(xué)做應(yīng)用心理學(xué)研究員，再到匹茲堡的卡內(nèi)基梅隆大學(xué),，并在1982年成為計(jì)算機(jī)科學(xué)教授,。在那里,，他把大部分研究預(yù)算都花在了一臺(tái)足以運(yùn)行神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)上,。不久，他第二次結(jié)婚,，妻子是分子生物學(xué)家羅莎琳德·扎林（Rosalind Zalin）,。在卡內(nèi)基梅隆大學(xué)，辛頓取得了突破性進(jìn)展。他與計(jì)算機(jī)科學(xué)家兼神經(jīng)科學(xué)家特倫斯·塞伊諾夫斯基（Terrence Sejnowski）合作,，開發(fā)出了一種名為“玻爾茲曼機(jī)”（Boltzmann Machine）的神經(jīng)網(wǎng)絡(luò),。這個(gè)系統(tǒng)的名字致敬了路德維希·玻爾茲曼（Ludwig Boltzmann）,，這位19世紀(jì)奧地利物理學(xué)家用數(shù)學(xué)方法,，描述了氣體在大尺度上的行為，與其組成粒子在小尺度上的行為之間的關(guān)系,。辛頓和塞伊諾夫斯基將這些方程與“學(xué)習(xí)理論”相結(jié)合,。

辛頓不愿向我解釋玻爾茲曼機(jī)?！拔襾砀嬖V你這是一種什么感覺,，”他說，“這好比你有一個(gè)小孩,，你帶著他去散步,。前面有座山，你得把這個(gè)小孩帶到山頂再折回來,?！彼粗遥ū扔髦械暮⒆樱﹪@了口氣。他的擔(dān)心是對(duì)的,，我可能會(huì)被簡(jiǎn)化的解釋誤導(dǎo),，進(jìn)而誤導(dǎo)他人?！霸噲D解釋你不理解的復(fù)雜想法是沒有用的,。首先，你必須了解某樣?xùn)|西是如何運(yùn)作的,。否則,，這對(duì)你都只是些無稽之談?！弊詈?，他拿起幾張紙，開始繪制用箭頭連接的神經(jīng)元圖,，并寫出方程式,，我試著理解這些東西（在來拜訪前，我在“可汗學(xué)院”學(xué)習(xí)了線性代數(shù)課程）,。

辛頓建議,，有一種理解玻爾茲曼機(jī)的方法，是想象一套辨認(rèn)罪犯用的容貌拼圖片：通過這個(gè)系統(tǒng),，可以將臉部的各種特征——濃眉,、藍(lán)眼睛,、歪鼻子、薄嘴唇,、大耳朵等等,，組合在一起，生成一張類似警察使用的那種合成素描,。要讓容貌拼圖片發(fā)揮作用,，必須對(duì)特征本身進(jìn)行恰當(dāng)?shù)脑O(shè)計(jì)。通過改變?nèi)斯ど窠?jīng)元之間的連接權(quán)重,，玻爾茲曼機(jī)不僅能學(xué)會(huì)組合特征,，還能學(xué)會(huì)設(shè)計(jì)特征。玻爾茲曼機(jī)將從雜亂到像電視屏幕上雪花那樣的特征開始,，然后進(jìn)行兩個(gè)階段：“清醒”和“睡眠”來完善這些特征,。在“清醒”時(shí)，它會(huì)調(diào)整這些特征,，使它們更符合真實(shí)的面孔,。在“睡眠”時(shí)，它會(huì)幻想出一張并不存在的臉,，然后修改特征,，使這些特征擬合起來更差。

它在夢(mèng)里告訴自己不該學(xué)什么,。這個(gè)系統(tǒng)非常優(yōu)雅：隨著時(shí)間的推移,，它能逐漸遠(yuǎn)離錯(cuò)誤，走向真實(shí),，不需要有人去告訴它是對(duì)還是錯(cuò),。它只需要看見實(shí)在，夢(mèng)見虛幻,。

辛頓和塞伊諾夫斯基在1983年的一篇論文中描述了玻爾茲曼機(jī),。楊立昆跟我說：“我在研究生剛開始時(shí)讀到了那篇論文，我說,，‘我必須找這些人談?wù)?，他們是世界上唯一懂得我們需要學(xué)習(xí)算法的人’?！?0年代中期,，自然語(yǔ)言處理和計(jì)算機(jī)視覺領(lǐng)域的先驅(qū)、現(xiàn)任魁北克人工智能研究所Mila科學(xué)主任的約書亞·本吉奧（Yoshua Bengio）,，訓(xùn)練了一臺(tái)玻爾茲曼機(jī)來識(shí)別口語(yǔ)音節(jié),，以此作為他碩士論文的一部分?！敖芊蚴峭鈱徣藛T之一,，”本吉奧回憶道,，“他寫道：‘這不會(huì)成功’,?！比欢炯獖W版本的玻爾茲曼機(jī)比辛頓預(yù)期的更有效,，而本吉奧花了幾年時(shí)間才找出成功的原因,。這種模式將變成大家再熟悉不過的那種——在隨后的幾十年里，神經(jīng)網(wǎng)絡(luò)的表現(xiàn)往往比預(yù)期的要好,，這也許是因?yàn)樯窠?jīng)元在訓(xùn)練過程中形成了新的架構(gòu),。本吉奧回憶說：“實(shí)驗(yàn)部分的工作先于理論。我們通常是嘗試新的方法,，看看神經(jīng)網(wǎng)絡(luò)自己能產(chǎn)生點(diǎn)什么,。”

辛頓說,，部分由于羅莎琳德厭惡羅納德·里根（Ronald Reagan）,，他們搬到了多倫多大學(xué)。他們從拉丁美洲領(lǐng)養(yǎng)了一男一女兩個(gè)孩子,，住在城里的一所房子里,。辛頓說：“我是那種一心撲在工作上的，無私奉獻(xiàn)的教授,?！?/p>

羅莎琳德曾為不孕不育而苦惱，也曾與冷酷無情的醫(yī)生有過不愉快的經(jīng)歷,。也許正因如此,，當(dāng)她后來被診斷出患有卵巢癌時(shí)，她選擇了順勢(shì)療法（homeopathy）*,?！斑@根本說不通，”辛頓說,，“不可能你越稀釋某些東西,，它們反而越厲害?！彼幻靼滓粋€(gè)分子生物學(xué)家怎么會(huì)贊同順勢(shì)療法,。盡管如此，羅莎琳德還是決心自己治療癌癥,，即使檢查發(fā)現(xiàn)腫瘤有柚子那么大,，她也拒絕手術(shù)。后來,，她雖然同意手術(shù),，但拒絕化療,，轉(zhuǎn)而尋求愈加昂貴的順勢(shì)療法，先是在加拿大,，后來又去瑞士,。她患上了繼發(fā)性腫瘤，要求辛頓賣掉他們的房子,，以支付新的順勢(shì)療法費(fèi)用,。他回憶道：“我在那里跟她劃清了底線，”辛頓緊瞇雙眼,，痛苦呼之欲出,，“我對(duì)她說：‘不行，我們不會(huì)賣房子,。因?yàn)槿绻闼懒?，我就得照顧孩子們，如果我們有個(gè)房子,，對(duì)他們而言會(huì)好得多,。’”

*譯者注

其理論基礎(chǔ)是“用同樣的制劑治療同樣的疾病”,。

羅莎琳德回到加拿大后立即住進(jìn)了醫(yī)院,。她堅(jiān)持了幾個(gè)月，但直到去世前一天都不肯讓孩子們來看她,，因?yàn)樗幌胱屗麄兛吹阶约翰〉萌绱酥?。在整個(gè)病程中，她一直堅(jiān)信自己很快就會(huì)好起來,。在描述這一切時(shí),，辛頓仍顯得痛苦難當(dāng)：他憤怒、內(nèi)疚,、受傷,、困惑。羅莎琳德去世時(shí),，辛頓46歲,，兒子5歲，女兒3歲,。他說：“她傷害了大家,，因?yàn)樗芙^接受自己即將死去的現(xiàn)實(shí)?！?/p>

海浪聲填滿了午后的寧?kù)o,。強(qiáng)烈的金黃陽(yáng)光透過房間的落地窗灑了進(jìn)來，細(xì)小的蛛網(wǎng)延伸到窗外,，在光線的映襯下顯得格外清晰,。辛頓站了一陣,，收拾好心情。

他說：“我想我得去砍棵樹了,?！?/p>

我們走出前門，沿著小路來到棚屋前,。辛頓從其中一個(gè)棚子里拿出一把綠色的小電鋸和一些安全護(hù)目鏡,。

“羅斯瑪麗說過,，周圍沒人的時(shí)候我不能砍樹,，以防砍斷胳膊什么的?！彼麊栁?，“你以前開過船嗎？”

“沒有,?！蔽艺f。

“那我就不會(huì)砍掉我的右臂了,?！?/p>

在卡其褲外面，他綁上了一雙防護(hù)套鞋,。

“我不想給你留下我知道自己在做什么的印象,，”他說?！暗驹硎?，你在樹上砍很多V字，然后樹就倒了,?！?/p>

辛頓穿過小路，來到他心中選定的那棵樹旁,，一邊走一邊檢查灌木叢中是否有蛇,。這棵樹是一棵枝繁葉茂的雪松，大概有20英尺高,。辛頓抬頭看了看樹的傾斜方向,，然后啟動(dòng)鋸子，開始在樹干與傾斜方向相反的一側(cè)切割,。他取下鋸子,，又切割了一次，割痕匯聚形成了一個(gè)V字形,。然后他停了下來,，轉(zhuǎn)過身對(duì)我解釋：“因?yàn)闃渖砥x切口,，所以隨著你的切入，V字形就會(huì)裂開,，鋸條就不會(huì)被卡住,。”

辛頓默默地操作著電鋸,，偶爾停下來擦擦眼眉,。太陽(yáng)毒辣，蚊子從每一個(gè)陰暗的角落蜂擁而至,。我查看了一下棚子的側(cè)面,，那里的螞蟻和蜘蛛正在進(jìn)行著不為人知的、無休止的活動(dòng),。在小路的盡頭,，水面波光粼粼，這里是個(gè)山清水秀的地方,。不過,，我想我明白辛頓為什么要鋸它了：一座可愛的圓形山丘向下延伸到一個(gè)平緩的山洞里，如果沒有這棵多余的樹,，光線就可以流入山洞,。這棵樹是個(gè)錯(cuò)誤的存在。

最后,，他在樹的另一側(cè)開始了第二刀,，向第一刀傾斜。然后,，他來回移動(dòng),，加深了兩道切口，讓樹變得搖搖欲墜,。突然,，重力幾乎無聲無息地占據(jù)了上風(fēng)。大樹在自身重量的作用下傾倒,，以驚人的柔軟姿態(tài)倒向洞底,。光線射了進(jìn)來。

反向傳播

辛頓愛上了玻爾茲曼機(jī),。他希望玻爾茲曼機(jī),，或者類似的東西，以真實(shí)大腦的學(xué)習(xí)方式作為基礎(chǔ),?！斑@應(yīng)該成真，”他告訴我，“如果我是上帝,，我會(huì)讓它成真,。”然而,，進(jìn)一步的實(shí)驗(yàn)發(fā)現(xiàn),，隨著玻爾茲曼機(jī)的成長(zhǎng)，它們往往會(huì)因內(nèi)置的隨機(jī)性而不堪重負(fù),?！敖芊蚝臀覍?duì)玻爾茲曼機(jī)的看法并不一致，”楊立昆說,，“杰夫認(rèn)為它是最漂亮的算法,。我卻認(rèn)為它很丑陋。它是隨機(jī)（stochastic）的,，也就是說,，部分基于無序性（randomness）,。相比之下,，我認(rèn)為反向傳播算法（backpropagation）更加簡(jiǎn)潔?！?/p>

從20世紀(jì)60年代開始,，一些研究人員對(duì)反向傳播算法進(jìn)行了探索。就在辛頓與塞伊諾夫斯基合作研究玻爾茲曼機(jī)的同時(shí),，他還與魯梅爾哈特和另一位計(jì)算機(jī)科學(xué)家羅納德·威廉姆斯（Ronald Williams）合作研究反向傳播,。他們懷疑這種技術(shù)在學(xué)習(xí)方面具有尚未開發(fā)的潛力，他們尤其希望將其與跨越多層運(yùn)行的神經(jīng)網(wǎng)絡(luò)結(jié)合起來,。

理解反向傳播的一種方法,，是想象一個(gè)卡夫卡式的司法系統(tǒng)。把神經(jīng)網(wǎng)絡(luò)的上層想象成一個(gè)陪審團(tuán),，它們永遠(yuǎn)審理著案件,。在陪審團(tuán)剛做出判決時(shí)，在反向傳播的反烏托邦世界里,，法官可以告訴陪審員,，他們的判決是錯(cuò)誤的，他們將受到懲罰,，直到他們改過自新,。陪審員們發(fā)現(xiàn)，他們當(dāng)中有三人在引領(lǐng)大家走上錯(cuò)誤的道路時(shí)影響特別大,。這種責(zé)任分?jǐn)偸欠聪騻鞑サ牡谝徊健?/p>

下一步,，這三個(gè)頭腦發(fā)熱的陪審員要確定他們自己是如何被誤導(dǎo)的。他們會(huì)考慮自己受到的影響——父母,、老師,、專家學(xué)者等,，并找出誤導(dǎo)他們的人。反過來,，這些應(yīng)受指責(zé)的影響者也必須找出他們的影響者,，并在那些影響者之間分?jǐn)傌?zé)任。隨后是一輪又一輪的相互指責(zé),，每一層影響者都要求自己的影響者承擔(dān)責(zé)任,，這就是一個(gè)反向的連環(huán)套。最后,，一旦知道誰誤導(dǎo)了誰,，誤導(dǎo)了多少，神經(jīng)網(wǎng)絡(luò)就會(huì)按比例地進(jìn)行自我調(diào)整,，讓每個(gè)人少受一點(diǎn)“壞”影響,，多受一點(diǎn)“好”影響。整個(gè)過程以數(shù)學(xué)上的精確度一次又一次地重復(fù),，直到所有判決（不僅僅是在這個(gè)案例中,，而是在所有案例中）都盡可能地“正確”。

1986 年,，辛頓,、魯梅爾哈特和威廉姆斯在《自然》雜志上發(fā)表了一篇長(zhǎng)達(dá)三頁(yè)的論文，展示了這種系統(tǒng)如何運(yùn)行于神經(jīng)網(wǎng)絡(luò)中,。他們指出,，與玻爾茲曼機(jī)一樣，反向傳播并不是一個(gè)“大腦學(xué)習(xí)的合理模型”*：與計(jì)算機(jī)不同,，大腦不能倒帶以審核其過去的表現(xiàn),。但反向傳播仍能實(shí)現(xiàn)類似大腦的神經(jīng)特性（neural specialization）。在真實(shí)的大腦中,，神經(jīng)元有時(shí)會(huì)排列成旨在解決特定問題的結(jié)構(gòu)：例如,，在視覺系統(tǒng)中，不同“列”的神經(jīng)元能識(shí)別我們所看到事物的邊緣,。反向網(wǎng)絡(luò)中也有類似的情況：高層神經(jīng)元會(huì)對(duì)低層神經(jīng)元施加一種演化壓力（evolutionary pressure）,。其結(jié)果是，比如負(fù)責(zé)破譯筆跡的神經(jīng)網(wǎng)絡(luò)的某些層,，可能會(huì)變得專注于識(shí)別線條,、曲線或邊緣。最終,，整個(gè)系統(tǒng)可以發(fā)展出“適當(dāng)?shù)膬?nèi)部表征”,。神經(jīng)網(wǎng)絡(luò)會(huì)了解并利用自己擁有的知識(shí)。

*譯者注

近年有些研究者認(rèn)為，大腦也有能力執(zhí)行反向傳播算法,，見曾發(fā)表于《自然綜述-神經(jīng)科學(xué)》的《大腦中的反向傳播》,，神經(jīng)現(xiàn)實(shí)已全文翻譯，點(diǎn)擊藍(lán)字即可跳轉(zhuǎn)閱讀,。

在20世紀(jì)50,、60年代，“感知機(jī)”和其他連接主義研究成果曾反響巨大,。但在隨后的幾年里,，人們對(duì)連接主義的熱情逐漸退卻。反向傳播論文是興趣復(fù)蘇的功臣之一,，它贏得了廣泛關(guān)注,。但由于實(shí)踐和概念上的原因，構(gòu)建反向傳播網(wǎng)絡(luò)的工作進(jìn)展緩慢,。從實(shí)際上講,，這是由于計(jì)算機(jī)發(fā)展遲緩?！胺聪騻鞑サ倪M(jìn)展速度基本上取決于計(jì)算機(jī)一夜之間能學(xué)會(huì)多少東西,。”辛頓回憶道,，“答案往往是學(xué)不了多少,。”在概念上,，神經(jīng)網(wǎng)絡(luò)是神秘的，因?yàn)樗豢赡苡脗鹘y(tǒng)的方法編程,，你無法編輯人工神經(jīng)元之間連接的權(quán)重,。而且不論怎樣，你都很難理解權(quán)重的含義,，因?yàn)樗鼈儠?huì)通過自我訓(xùn)練不斷調(diào)整和改變,。

反向傳播的學(xué)習(xí)過程也存在很多易錯(cuò)點(diǎn)。例如,，在“過擬合（overfitting）”的過程中,，網(wǎng)絡(luò)會(huì)選擇記住訓(xùn)練數(shù)據(jù)，而不是學(xué)習(xí)從數(shù)據(jù)中歸納總結(jié),。避免各式各樣的陷阱往往不那么簡(jiǎn)單,，因?yàn)檫@完全取決于網(wǎng)絡(luò)自身。這就像砍樹一樣：研究人員可以在這里或那里進(jìn)行切割,，但隨后樹會(huì)倒向哪里完全由樹決定,。研究人員可以嘗試“集成學(xué)習(xí)（ensembling）”（將弱網(wǎng)絡(luò)組合成強(qiáng)網(wǎng)絡(luò)）或“提前停止（early stopping）”（讓網(wǎng)絡(luò)學(xué)習(xí)，但不要學(xué)得過多）等技術(shù)，他們也可以利用玻爾茲曼機(jī)對(duì)系統(tǒng)進(jìn)行“預(yù)訓(xùn)練（pre-train）”,，讓它預(yù)習(xí)一些知識(shí),，然后在此之上建立一個(gè)反向傳播網(wǎng)絡(luò)。這樣,，系統(tǒng)要等到掌握了一些基本知識(shí)后才開始“監(jiān)督（supervised）”訓(xùn)練,。隨后，他們才讓神經(jīng)網(wǎng)絡(luò)自由學(xué)習(xí),，希望它能達(dá)到他們期望的要求,。

新的神經(jīng)網(wǎng)絡(luò)“架構(gòu)”也應(yīng)運(yùn)而生?！?strong>循環(huán)（recurrent）”和“卷積（convolutional）”網(wǎng)絡(luò)讓系統(tǒng)以各方各式在自身工作的基礎(chǔ)上取得進(jìn)步,。但是，研究人員仿佛發(fā)現(xiàn)了一種來自外星的技術(shù)一般,，并不知道如何去使用神經(jīng)網(wǎng)絡(luò),。他們把魔方轉(zhuǎn)來轉(zhuǎn)去，試圖亂中求序,?！拔乙恢眻?jiān)信神經(jīng)網(wǎng)絡(luò)不是無稽之談，”辛頓說,，“它對(duì)我來說并不是信仰,，而是顯而易見的?！贝竽X利用神經(jīng)元進(jìn)行學(xué)習(xí),，因此，通過神經(jīng)網(wǎng)絡(luò)進(jìn)行復(fù)雜的學(xué)習(xí)也一定是可行的,。他將以雙倍的努力工作和雙倍的時(shí)間來證明這點(diǎn),。

當(dāng)網(wǎng)絡(luò)通過反向傳播進(jìn)行訓(xùn)練時(shí)，它們需要被告知何時(shí)出錯(cuò)以及錯(cuò)了多少,，這就需要大量準(zhǔn)確標(biāo)記的數(shù)據(jù),，讓網(wǎng)絡(luò)能夠知道手寫體“7”和“1”之間的區(qū)別，或金毛獵犬和紅獵犬之間的區(qū)別,。但很難找到足夠大且標(biāo)記準(zhǔn)確的數(shù)據(jù)集,，建立更多的數(shù)據(jù)集也很困難。楊立昆和他的合作者開發(fā)了一個(gè)巨大的手寫數(shù)字?jǐn)?shù)據(jù)庫(kù),，后來他們用這個(gè)數(shù)據(jù)庫(kù)訓(xùn)練出了能夠讀取美國(guó)郵政服務(wù)公司提供的郵政編碼樣本的神經(jīng)網(wǎng)絡(luò),。斯坦福大學(xué)一位名叫李飛飛（Fei Fei Li）的計(jì)算機(jī)科學(xué)家?guī)ь^開發(fā)了一個(gè)名為ImageNet的龐大數(shù)據(jù)庫(kù)。創(chuàng)建該數(shù)據(jù)庫(kù)需要收集超過1400萬張圖片,，并手工將其分為2萬個(gè)類別,。

隨著神經(jīng)網(wǎng)絡(luò)規(guī)模的不斷擴(kuò)大,，辛頓想出了一種方法：將大型網(wǎng)絡(luò)中的知識(shí)轉(zhuǎn)化為小型網(wǎng)絡(luò)（小到可在手機(jī)等設(shè)備上運(yùn)行）中的知識(shí)。他在廚房解釋說：“這叫知識(shí)蒸餾（distillation）,。在學(xué)校時(shí),，美術(shù)老師會(huì)給我們看一些幻燈片，然后說：‘這是魯本斯,，那是梵高,，這是威廉·布萊克?！僭O(shè)美術(shù)老師告訴你：‘好吧,，這是提香·韋切利奧，但這是一個(gè)奇特的提香,，因?yàn)樗哪承┓矫婧芟窭碃?，這對(duì)提香來說非同尋常?！@樣似乎對(duì)你更有幫助,。他們不僅告訴你正確答案，而且告訴你其他似是而非的答案,?！痹凇罢麴s學(xué)習(xí)”中，一個(gè)神經(jīng)網(wǎng)絡(luò)為另一個(gè)神經(jīng)網(wǎng)絡(luò)提供的不僅僅是正確答案,，還有一系列可能的答案及其概率,。這是一種更為豐富的知識(shí)。

羅莎琳德去世幾年后,，辛頓與藝術(shù)史學(xué)家杰奎琳·福特（Jacqueline Ford,，以下稱作杰姬）重逢。辛頓在搬到美國(guó)去之前曾和她短暫約會(huì)過,。她有教養(yǎng),、熱情、富有好奇心,、漂亮。辛頓的姐姐說：“你跟她比可差遠(yuǎn)了,?！北M管如此，杰姬還是放棄了在英國(guó)的工作,，與辛頓一起搬到了多倫多,。1997年12月6日，他們結(jié)婚了,，那天是辛頓50歲生日,。接下來的幾十年是他一生中最幸福的時(shí)光,，他的家庭又重獲完整。他的孩子們喜歡他們的新媽媽,，他和杰姬開始探索喬治亞灣的島嶼,。回憶起這段時(shí)光,，他凝視著客廳里的獨(dú)木舟,。他說：“我們?cè)跇淞掷锇l(fā)現(xiàn)了這艘獨(dú)木舟，它倒立著,，上面覆蓋著帆布,，已經(jīng)完全腐爛了，所有的東西都腐爛了,。但杰姬還是打算救它,，就像她救我和孩子們一樣?！?/p>

辛頓并不喜歡反向傳播,。他告訴我：“這在智力上是多么令人不滿啊。與玻爾茲曼機(jī)不同,，它是完全確定（deterministic）的,。不幸的是，它的確更好用,?！甭兀S著實(shí)際的進(jìn)展,，反向傳播的威力變得不可否認(rèn),。辛頓告訴我，1970年代初,，英國(guó)政府聘請(qǐng)了一位名叫詹姆斯·萊特希爾（James Lighthill）的數(shù)學(xué)家來確定人工智能研究是否有成功的可能,。萊特希爾的結(jié)論是不可能?！八菍?duì)的,，”辛頓說，“前提是他做了一個(gè)當(dāng)時(shí)大家一致認(rèn)同的假設(shè)：計(jì)算機(jī)的速度也許會(huì)快一千倍,，但不會(huì)快十億倍,。”辛頓在腦子里算了一筆賬,，假設(shè)在1985年,，他開始在一臺(tái)極快的研究計(jì)算機(jī)上運(yùn)行一個(gè)程序，一直運(yùn)行到現(xiàn)在,，然后現(xiàn)在他開始在目前人工智能領(lǐng)域使用的最快系統(tǒng)上運(yùn)行相同的程序,，只需要不到一秒鐘的時(shí)間就能趕上前一個(gè),。

2000 年初，隨著配備著強(qiáng)大計(jì)算機(jī)的多層神經(jīng)網(wǎng)絡(luò)開始在更大的數(shù)據(jù)集上進(jìn)行訓(xùn)練,，辛頓,、本吉奧和楊立昆開始談?wù)摗?strong>深度學(xué)習(xí)”的潛能。2012年,，辛頓,、亞歷克斯·克里澤夫斯基（Alex Krizhevsky）和伊爾亞·蘇茨克維（Ilya Sutskever）推出了AlexNet，這是一個(gè)8層神經(jīng)網(wǎng)絡(luò),，終于能夠識(shí)別出ImageNet中的物體,，且準(zhǔn)確率達(dá)到人類水平。辛頓,、克里澤夫斯基和蘇茨克維成立了一家公司,，并將其賣給了谷歌。他和杰姬用這筆財(cái)富買下了喬治亞灣的一座小島,?！澳鞘俏乙淮握嬲姆趴v”，辛頓說,。

兩年后,，杰姬被診斷出患有胰腺癌。醫(yī)生估計(jì)她還能活一兩年。“她非常勇敢,，也非常理性，”辛頓說,，“她并沒有極力否認(rèn)，拼命想擺脫困境,。她的觀點(diǎn)是‘我可以自憐自憫,，也可以說我時(shí)日無多，我應(yīng)極力享受這段時(shí)光,，讓其他人一切安好’,。”在決定治療方法之前,，她和辛頓仔細(xì)研究了統(tǒng)計(jì)數(shù)據(jù),。通過化療，她將一兩年的時(shí)間延長(zhǎng)到了三年,。在小別墅里，當(dāng)她無法再走樓梯時(shí),，辛頓用繩子編了一個(gè)小籃子,，這樣她就可以把茶從二樓放到一樓,，然后他可以用微波爐加熱。(他后來發(fā)現(xiàn)：“我應(yīng)該把微波爐直接搬樓上去的,?！保?/p>

這天的晚些時(shí)候，我們靠在辛頓的辦公桌上,，他用筆記本電腦給我看杰姬的照片,。在一張他們婚禮當(dāng)天的照片中，她和辛頓帶著孩子們站在鄰居家的客廳里交換誓言,。辛頓看起來神采奕奕,、放松舒適。杰姬用雙手輕輕握住他的一只手,。在他給我看的最后一張照片中,，她在碼頭附近斑駁的水面上劃著酒紅色的獨(dú)木舟，凝視著鏡頭,?！澳鞘?017年的夏天?！毙令D說,。杰姬于次年4月去世。那年6月,，辛頓,、本吉奧和楊立昆獲得了“圖靈獎(jiǎng)”（相當(dāng)于計(jì)算機(jī)科學(xué)領(lǐng)域的諾貝爾獎(jiǎng)）。

辛頓堅(jiān)信,，神經(jīng)網(wǎng)絡(luò)確實(shí)能夠產(chǎn)生感情,。“我認(rèn)為感情是一種關(guān)于‘某種東西會(huì)導(dǎo)致某種行為’的反事實(shí)陳述,，”那天早些時(shí)候,，他對(duì)我說，“比方說,，我想給某人鼻子一拳,。我的意思是：如果我沒有社交抑制（social inhibitions），如果我沒有阻止自己這么做,，我就確實(shí)會(huì)給他一拳,。所以，當(dāng)我說‘我覺得很生氣’時(shí),，這其實(shí)是‘我想做出攻擊行為’的縮影,。情感只是一種陳述行動(dòng)意向的方式罷了?！?/p>

他告訴我,，1973年他曾見過一個(gè)“懊惱的人工智能”,。當(dāng)時(shí)，一臺(tái)計(jì)算機(jī)連接著兩臺(tái)電視攝像機(jī)和一個(gè)簡(jiǎn)單的機(jī)械臂,。該系統(tǒng)的任務(wù)是將攤在桌子上的一些積木組裝成一輛玩具汽車,。他說：“這很難，尤其是在1973年,。如果這些積木是分開的,，視覺系統(tǒng)就能識(shí)別它們，但如果把它們堆在一起,，視覺系統(tǒng)就無法識(shí)別它們,。那么它是怎么做的呢？它把積木往后抽了一點(diǎn),，然后“砰,！”的一聲，把它們丟落在桌子上,?；旧希鼰o法處理正在處理的東西,，所以暴力地改變了它,。如果一個(gè)人這么做了，你會(huì)說他很懊惱,。計(jì)算機(jī)無法看到正確的積木,，所以就猛砸它們?！?strong>擁有感受其實(shí)就是去渴望你求不得之物,。

“我愛這所房子，但有時(shí)這也是一個(gè)令人悲傷的地方,，”當(dāng)我們看照片時(shí)他說,，“因?yàn)樗矚g待在這里，如今卻不在了,?！?/p>

太陽(yáng)已快落山，辛頓打開辦公桌上的一盞小燈,。他合上電腦,，推了推鼻梁上的眼鏡，挺了挺肩膀,，把思緒拉回現(xiàn)實(shí),。

他說：“我想讓你知道羅茲（即羅莎琳德）和杰姬的事，因?yàn)樗齻兪俏疑兄匾囊徊糠帧５珜?shí)際上,，這也與人工智能息息相關(guān),。人們對(duì)人工智能通常持兩種態(tài)度，一種是否認(rèn),，一種是聽天由命。每個(gè)人對(duì)人工智能的第一反應(yīng)都是‘我們必須阻止它’,。就像每個(gè)人對(duì)癌癥的第一反應(yīng)是‘我們?cè)撉谐?strong>但重要的是,，我們要認(rèn)識(shí)到‘切除它’只是一種幻想?！?/p>

他嘆了口氣,。“我們不能去否認(rèn),，我們必須認(rèn)清現(xiàn)實(shí),。我們需要思考：如何才能讓人工智能不那么糟糕地對(duì)待對(duì)人類？”

未來的樣貌

人工智能到底有多有用,，或者說,，有多危險(xiǎn)？沒人知道,，部分原因是神經(jīng)網(wǎng)絡(luò)太奇怪了,。在20世紀(jì)，許多研究人員都想制造出模擬大腦的計(jì)算機(jī),。但是,，盡管神經(jīng)網(wǎng)絡(luò)（如OpenAI的GPT模型）涉及數(shù)十億個(gè)人工神經(jīng)元（在這方面與大腦相似），但它們實(shí)際上與生物大腦有著天壤之別,。如今的人工智能都是基于云計(jì)算,，被安置在耗電量達(dá)到了工業(yè)規(guī)模的數(shù)據(jù)中心里。它們?cè)谀承┓矫驺裸露?，在另一些方面卻天賦異稟,。它們?yōu)閿?shù)百萬用戶提供推理服務(wù)，但卻要依賴用戶的提示詞,。它們毫無生機(jī),。它們很可能已經(jīng)通過了圖靈測(cè)試 [這個(gè)由計(jì)算機(jī)先驅(qū)阿蘭?圖靈（Alan Turing）制定的標(biāo)準(zhǔn)一直以來都備受贊譽(yù)，該標(biāo)準(zhǔn)認(rèn)為,，任何能夠令人信服地模仿人類對(duì)話的計(jì)算機(jī)都可以被合理地認(rèn)為是會(huì)思考的] ,。然而，我們的直覺告訴我們,，駐留在瀏覽器標(biāo)簽頁(yè)中的任何東西都不可能真正以我們的方式進(jìn)行思考,。這些系統(tǒng)迫使我們追問，我們的思考方式是否是唯一的。

在谷歌工作的最后幾年里,，辛頓把工作重心放在使用更接近大腦的硬件來創(chuàng)造更接近傳統(tǒng)心智的人工智能上,。在當(dāng)今的人工智能中，人工神經(jīng)元之間的連接權(quán)重是以數(shù)字形式存儲(chǔ)的,，這就好比大腦在不斷地記錄自己的信息,。而在實(shí)際的大腦中，權(quán)重是內(nèi)置于神經(jīng)元之間的物理連接中的,。辛頓想利用特殊的計(jì)算機(jī)芯片,，努力創(chuàng)造出這一系統(tǒng)的人工版本。

他對(duì)我說：“如果這能完成,，那將會(huì)非常了不起,。”芯片可以通過改變“電導(dǎo)”來學(xué)習(xí),。由于這種方法將權(quán)重集成到硬件中,，因此不可能從一臺(tái)機(jī)器復(fù)制到另一臺(tái)機(jī)器*，每個(gè)人工智能都必須獨(dú)自學(xué)習(xí),?！八鼈儽仨毾駥W(xué)生一樣自己去上學(xué)，”他說,，“但好處是,，你從使用一兆瓦的功率變?yōu)榱耸褂?0瓦的功率?！闭f話時(shí),，他身體前傾，眼睛盯著我：我仿佛瞥見了傳道者辛頓,。

*譯者注

傳統(tǒng)方法以數(shù)字形式存儲(chǔ)權(quán)重,，因此可被復(fù)制，詳見下文的“數(shù)字智能”,。

因?yàn)槊總€(gè)人工智能所獲得的知識(shí)都會(huì)在被拆解時(shí)丟失,，所以他把這種方法稱為“凡人的計(jì)算”?！斑@種方法讓我們放棄了永生,，”他說，“但在文學(xué)作品中,，你總會(huì)為了心愛的女人放棄成為永生的神,，不是嗎？在這種情況下,，我們會(huì)得到比‘永生’更為寶貴的東西,，那就是能源效率,。”此外,，能源效率還能鼓勵(lì)“個(gè)性化（individuality）”：因?yàn)槿四X可以僅靠麥片提供的能量運(yùn)行,，所以這個(gè)世界才能支持?jǐn)?shù)十億個(gè)各不相同的大腦。每個(gè)大腦都可以持續(xù)地學(xué)習(xí),，而不是訓(xùn)練一次,，然后就丟到全世界。

作為一項(xiàng)科學(xué)事業(yè),，這種“凡人”人工智能可能會(huì)讓我們離復(fù)制自己的大腦更近,。但辛頓遺憾地認(rèn)為，數(shù)字智能似乎更強(qiáng)大,。他說，在模擬智能中,，“如果大腦死了,，知識(shí)也就死了?！毕啾戎?，在數(shù)字智能中，“如果某臺(tái)計(jì)算機(jī)死了,，同樣的連接強(qiáng)度可以用在另一臺(tái)計(jì)算機(jī)上,。而且，即使所有的數(shù)字計(jì)算機(jī)都死了,，如果你把連接強(qiáng)度儲(chǔ)存在某個(gè)地方,，你就可以再制造一臺(tái)數(shù)字計(jì)算機(jī)，并在這臺(tái)數(shù)字計(jì)算機(jī)上運(yùn)行相同的權(quán)重,。一萬個(gè)神經(jīng)網(wǎng)絡(luò)可以同時(shí)學(xué)習(xí)一萬種不同的東西,，然后一起分享它們所學(xué)到的東西?！?他說,，這種不朽性和可復(fù)制性的結(jié)合表明，“我們有理由擔(dān)心數(shù)字智能會(huì)取代生物智能”,。

我們應(yīng)如何描述一個(gè)沒有肉體,、沒有個(gè)體認(rèn)同的數(shù)字智能體的精神生活？最近幾個(gè)月,，一些人工智能研究人員開始將GPT稱為“推理引擎”,。這也許是為了擺脫“思考”一詞，而我們卻一直在努力定義“思考”,。本吉奧告訴我：“人們指責(zé)我們使用這些詞匯：‘思考’‘知道’‘理解’‘決定’等等,。但盡管我們并不完全了解這些詞的含義，它們提供的類比仍能非常有效地幫助理解我們的所作所為。它幫助我們闡述和探索‘想象力’‘注意力’‘規(guī)劃’‘直覺’等詞,。我們所做的很多事情都是在解決心靈的‘直覺’問題,。”

直覺可以理解為我們無法解釋的想法：我們的大腦通過將當(dāng)前遇到的事情與過去的經(jīng)驗(yàn)聯(lián)系起來,，在不知不覺中為我們生成了這些想法,。我們傾向于理性而非直覺，但辛頓認(rèn)為,，我們的直覺比我們認(rèn)為的要更強(qiáng),。他告訴我：“多年來，符號(hào)學(xué)派的人工智能主義者說我們的真正本質(zhì)是‘推理機(jī)器’,。我認(rèn)為這是無稽之談,。我們的真正本質(zhì)是‘類比機(jī)器’，只是在此基礎(chǔ)上建立了一點(diǎn)推理能力,，當(dāng)類比給出錯(cuò)誤答案時(shí),，我們會(huì)注意到并加以糾正?！?/p>

總體而言,，當(dāng)前的人工智能技術(shù)是巧舌如簧的、過于理性的：它在處理物理世界的直觀事物上卻磕磕絆絆,。楊立昆告訴我：“任何青少年都可以在幾乎無人監(jiān)督的情況下,，通過20個(gè)小時(shí)的練習(xí)學(xué)會(huì)駕駛汽車。任何一只貓都能跳上一系列家具,，爬到某個(gè)架子的頂端,。如今，除了自動(dòng)駕駛汽車,，我們還沒有任何人工智能系統(tǒng)能接近做到這些事情,。”而且這些系統(tǒng)都被過度設(shè)計(jì),，需要“繪制整個(gè)城市的地圖,、數(shù)百名工程師、數(shù)十萬小時(shí)的培訓(xùn)”,。解決物理直覺這樣棘手的問題“將是未來十年的巨大挑戰(zhàn)”,。不過，道理還是很簡(jiǎn)單：如果神經(jīng)元能做到,，那么神經(jīng)網(wǎng)絡(luò)也能做到,。

辛頓認(rèn)為，人們對(duì)人工智能的懷疑盡管令人欣慰,，但這種懷疑的動(dòng)機(jī)往往是出于對(duì)“人類卓越論”（human exceptionalism,，即認(rèn)為人類生來與眾不同）的無端信任,。研究人員抱怨說，人工智能聊天機(jī)器人會(huì)“制造幻覺（hallucinate）”,，對(duì)那些讓它們感到棘手的問題編造出似是而非的答案,。但辛頓對(duì)這種說法提出了質(zhì)疑：“我們應(yīng)該用‘編造（confabulate）’這個(gè)詞，”他告訴我,，“‘致幻’是有感覺輸入時(shí)才存在的——聽覺幻覺,、視覺幻覺、嗅覺幻覺,。但如果只是胡編亂造,，那就只是混淆而已?！彼昧死聿榈隆つ峥怂桑≧ichard Nixon）總統(tǒng)的白宮顧問約翰·迪恩（John Dean）的案例,，迪恩在知道他的談話被錄音了之前，就水門事件接受了采訪,。迪安信口開河,，故意弄錯(cuò)細(xì)節(jié)，混淆誰說了什么沒說什么,。“但其大意都是對(duì)的,，”辛頓說,，“他回憶起了當(dāng)時(shí)的情況，并把這種回憶強(qiáng)加給了他頭腦中的一些人物,。他捏造了一個(gè)小劇本,。人類的記憶就是這樣。在我們的腦海中,，胡編亂造和實(shí)話實(shí)說本來就是沒有界限的,。說真話其實(shí)只是編造了正確的故事，因?yàn)橐磺卸荚谀愕臋?quán)衡之中,，不是嗎,？”從這個(gè)角度來看，ChatGPT的編造能力是一個(gè)缺陷,，但同時(shí)也是它象征人類智慧的標(biāo)志,。

經(jīng)常有人問辛頓是否后悔自己的工作。他不后悔,。[他最近給一位記者發(fā)了一句話：“給你一首歌”,，并附上了伊迪絲·琵雅芙（Edith Piaf）的《我無怨無悔》（Non, Je Ne Regrette Rien）的鏈接] 。他說,，當(dāng)他開始研究時(shí),，沒人想過這項(xiàng)技術(shù)會(huì)成功,；即使開始成功了，也沒人想到它會(huì)成功得如此之快,。正因?yàn)樗X得人工智能是真正的智能,，所以他期望人工智能會(huì)在眾多領(lǐng)域做出貢獻(xiàn)。然而,，他時(shí)而也會(huì)憂心忡忡,，比如，他擔(dān)心有權(quán)有勢(shì)的人會(huì)濫用它,。他認(rèn)為自動(dòng)化武器（美國(guó)軍方正在積極地研發(fā)這種武器）應(yīng)被取締,，但他警告說，即使是良性的自動(dòng)化系統(tǒng)也可能造成嚴(yán)重破壞,?！叭绻阆胱屢粋€(gè)系統(tǒng)發(fā)揮效力，就必須讓它有能力創(chuàng)建自己的子目標(biāo)?，F(xiàn)在的問題是,，有一個(gè)非常普遍的子目標(biāo)幾乎適用于實(shí)現(xiàn)所有目標(biāo)：獲得更多的控制權(quán)。我們要研究的問題是：如何防止人工智能搶奪控制權(quán),？沒有人知道答案,。”（他指出,，“控制”并不一定是物理意義上的：“就像特朗普可以用語(yǔ)言入侵國(guó)會(huì)大廈一樣,。”）

在這一領(lǐng)域,，大家對(duì)辛頓的觀點(diǎn)見仁見智,。楊立昆告訴我：“我并不害怕人工智能。我認(rèn)為,，如果我們?cè)O(shè)計(jì)它們,，從而使它們的目標(biāo)與我們的目標(biāo)相一致，這會(huì)相對(duì)容易一些,?！彼又f，“有人認(rèn)為,，如果一個(gè)系統(tǒng)是智能的,，它就會(huì)想要主宰一切。但支配欲望與智力無關(guān),，而是與睪丸激素有關(guān),。”我想起了在小屋里看到的蜘蛛,，以及它們的網(wǎng)是如何布滿辛頓的窗戶表面的,。它們也不想稱霸,，然而它們的昆蟲智慧卻讓它們擴(kuò)張了領(lǐng)地。沒有統(tǒng)一大腦（centralized brains）的生命系統(tǒng),，比如螞蟻群落,，并不“想要”做任何事情，但它們?nèi)匀荒芤捠?，溯河而上,，圍剿?jìng)爭(zhēng)對(duì)手。無論是辛頓還是楊立昆都可能是對(duì)的,。人工智能的蛻變還沒有完成,，我們不知道它會(huì)變成何種模樣。

“為什么不直接拔掉它們的插頭呢,？”我問了辛頓一個(gè)關(guān)于人工智能的大眾化問題,，“難道這個(gè)問題荒誕不經(jīng)嗎？”

他說：“這種說法確實(shí)不是強(qiáng)詞奪理：即沒有某種事物我們會(huì)過得更好——但付出這種代價(jià)并不值當(dāng),。就像我們沒有化石燃料會(huì)更好一樣,，但我們會(huì)變得更加原始，所以可能不值得冒這個(gè)險(xiǎn),?！彼竦匮a(bǔ)充道，“這是不可能發(fā)生的,。因?yàn)樯鐣?huì)就是這樣,，不同國(guó)家之間會(huì)存在競(jìng)爭(zhēng)。如果聯(lián)合國(guó)真的起作用了,，也許可以阻止這樣的事情發(fā)生。盡管如此,，人工智能還是非常有用的,。它在醫(yī)學(xué)等領(lǐng)域有很大的潛力，當(dāng)然,，也可以通過自動(dòng)化武器為一個(gè)國(guó)家?guī)韮?yōu)勢(shì),。”所以今年早些時(shí)候,，辛頓拒絕在一份呼吁“至少暫停人工智能研究6個(gè)月”的民眾請(qǐng)?jiān)笗虾炞帧?/p>

“那我們?cè)撊绾问呛?？?我問道。

“我也一籌莫展,，”他說,，“如果這就像全球變暖一樣，人們可以說,，聽著,，我們要么停止燃燒碳,，要么找到一種有效的方法來清除大氣中的二氧化碳。我們心中知道解決方案長(zhǎng)什么樣,。而在人工智能領(lǐng)域,，情況并非如此?！?/p>

辛頓穿著一件藍(lán)色的防水外套,，我們正準(zhǔn)備去碼頭接羅斯瑪麗?！八龓砹搜a(bǔ)給品,！”他微笑著說。當(dāng)我們走出門時(shí),，我回頭看了看小屋,。在大房間里，酒紅色的獨(dú)木舟在陽(yáng)光的撫摸下閃閃發(fā)光,。椅子在獨(dú)木舟前擺成半圓形,，透過窗戶面朝水面。小桌上堆放著一些雜志,。這是一座美麗的房子,。人類的思維不僅僅是理性，它也存在于時(shí)間之中,，與生死共存,，并圍繞自身構(gòu)建一個(gè)世界。它聚集了眾多意義,，就像有重力相助,。我想，人工智能或許也能想象出這樣一個(gè)地方,。只是,，它需要這樣的地方嗎？

我們沿著林間小道,，穿過棚屋,，沿著臺(tái)階下到碼頭，然后爬上辛頓的船,。在動(dòng)人的藍(lán)天下,，輕風(fēng)拂過水面。辛頓站在舵輪旁,，我坐在船前,，看著島嶼緩緩經(jīng)過，心里想著關(guān)于人工智能的故事,。對(duì)有些人來說,，這是一個(gè)哥白尼式的故事,，在這個(gè)故事里，我們覺得“人類思維是特殊的”這一直覺正被會(huì)思考的機(jī)器所顛覆,。對(duì)另一些人來說,，這是一個(gè)普羅米修斯式的故事，我們盜了天火,，卻冒著被燒死的危險(xiǎn),。有些人認(rèn)為我們?cè)谧云燮廴耍蛔约核圃斓臋C(jī)器和希望從中獲利的公司所愚弄,。從一個(gè)新奇的角度來看,，這也可能是一個(gè)關(guān)于人類局限性的故事。如果我們是神,，我們可能會(huì)制造出另一種人工智能,。而在現(xiàn)實(shí)中，我們僅能駕馭當(dāng)前這個(gè)版本的人工智能,。同時(shí),，我不禁從伊甸園的角度來思考這個(gè)故事。通過在頭腦中重建知識(shí)系統(tǒng),，我們抓住了禁果?，F(xiàn)在，我們冒著被放逐出伊甸園的風(fēng)險(xiǎn),。但是,，又有誰會(huì)選擇不去了解“了解”本身是如何運(yùn)作的呢？

在碼頭,，辛頓利用風(fēng)力加速前進(jìn),、轉(zhuǎn)彎、引導(dǎo)自己進(jìn)入船位,，如魚得水,。“我在學(xué)了,！”他自豪地說。我們走上岸,，在一家商店旁等待羅斯瑪麗的到來,。過了一會(huì)兒，辛頓進(jìn)去買燈泡,。我站在那里,，享受著溫暖，然后看到一個(gè)身材高挑,、眼睛明亮,、留著長(zhǎng)長(zhǎng)白發(fā)的女人從停車場(chǎng)大步向我走來,。

羅斯瑪麗和我握了握手，然后,，她從我肩上瞥過去,。辛頓正從商店附近的綠樹叢中走出來，咧嘴笑著,。

“你的葫蘆里賣的什么藥,？”她問。

辛頓舉起一條黑黃相間的烏梢蛇,，大概有一米長(zhǎng),，像彈簧一樣一圈又一圈地扭動(dòng)著?！拔?guī)еY物來了,！”他用英勇的口吻說，“我在灌木叢里找到的,?！?/p>

羅斯瑪麗開心地笑了，轉(zhuǎn)過身來對(duì)我說：“這真是典型的他,?！?/p>

“它怏怏不悅?！毙令D觀察著蛇說,。

“如果被抓的是你，你會(huì)開心嗎,？” 羅斯瑪麗問,。

“我對(duì)它的脖子小心翼翼，”辛頓說,，“脖子很脆弱,。”

他把蛇從一只手換到另一只手,，然后伸出第一只手掌,。手掌上沾滿了蛇黏糊糊的麝香。

他說：“來聞一下,?！?/p>

我們輪流聞了聞。這味道很奇怪：礦物味,、辛辣味,、爬行動(dòng)物味和化學(xué)味，毫無疑問是生物的味道。

“你弄得襯衫上到處都是,！”羅斯瑪麗說,。

“可我必須抓住它呀！” 辛頓解釋道,。

他把蛇放下,，蛇一跐溜進(jìn)了草叢。他心滿意足地看著它離去,。

他說：“好啦,，今天天氣真好。我們要勇敢地去戶外穿越嗎,？”

作者：Joshua Rothman

譯者：Lemon | ?審校：絨球兔紙

排版：絨球兔紙? | 封面：Call Me Death From Above

原文：

https://www.newyorker.com/magazine/2023/11/20/geoffrey-hinton-profile-ai?