計算之父向 ChatGPT 張開雙臂,。

編者按：近年來，隨著ChatGPT,、Google 的 Bard 和 Bing等聊天機器人的問世與爆火,，關(guān)于人工智能是否和人類一樣具有意識爭議不斷。1950年,，英國數(shù)學(xué)家艾倫·圖靈提出了一項測試,，以確定計算機是否可以像人一樣思考。多年來,，通過圖靈測試成為人工智能領(lǐng)域的北極星,。那么,，通過圖靈測試真的代表機器具有認(rèn)知能力嗎,？跟著本文一起探索答案,，文章來自翻譯，希望能對你有所啟示,。

在過去的一段時間內(nèi),，圖靈測試似乎是一個相當(dāng)嚴(yán)格的機器智能探測器。你可能對它的工作原理十分熟悉：人類評委與兩個隱藏的對話者（一個人類,，一個計算機）進行文字對話,，并試圖確定誰是誰,。如果計算機能夠騙過至少30%的評委，那么它就通過了測試,，并被認(rèn)為具有思考能力,。

70 年來，很難想象一臺計算機如果不具備人工智能研究人員現(xiàn)在所說的通用人工智能（即人類全部智力能力）,，如何能夠通過測試,。后來隨著GPT和Bard等大型語言模型的出現(xiàn)，圖靈測試突然開始過時,。好吧,，當(dāng)然，今天的用戶可能會聳聳肩承認(rèn)這一點,。因為如果你要求GPT-4模仿人類,，它很可能會通過圖靈測試。但那又怎樣呢,？MLL缺乏長期記憶,、情感聯(lián)系以及一系列其他人類能力。在我們準(zhǔn)備好開始與它們交朋友,、雇用它們并選舉它們擔(dān)任公職之前,，它們顯然還有很長的路要走。

是的,，也許現(xiàn)在的測試確實感覺有些空洞,。但這不僅僅是一個判斷失敗的基準(zhǔn)。它的創(chuàng)造者艾倫·圖靈（Alan Turing）是一位在他那個年代被判處化學(xué)閹割的同性戀者,，他的測試基于一種激進的包容性精神,。當(dāng)計算機激發(fā)我們真正的人類反應(yīng)時，即激發(fā)我們的智力,、興趣,、探索欲、感激之情以及同理心,，甚至我們的恐懼,，這不僅僅是空洞的模仿。

所以也許我們需要一個新的測試：實際的艾倫圖靈測試?，F(xiàn)代計算之父阿蘭·圖靈——一個高大,、健康、有點笨拙的男人,，有一頭黑直發(fā),，因其孩子般的好奇心和俏皮的幽默而受到同事們的喜愛，他個人在第二次世界大戰(zhàn)中破解了納粹恩尼格瑪密碼，拯救了大約1400萬人的生命,，隨后遭到納粹的迫害,。英格蘭因同性戀而自殺——這可能導(dǎo)致他自殺——他走進一間舒適的實驗室，桌上放著一臺打開的MacBook,。解釋說他眼前看到的只是現(xiàn)在被計算機科學(xué)家廣泛稱為“圖靈機”的一個化身,。給他一兩秒鐘的時間來理解這一點，然后遞給他一堆關(guān)于人工神經(jīng)網(wǎng)絡(luò)和法學(xué)碩士的研究論文,，讓他訪問GPT的源代碼,，打開ChatGPT提示窗口。

想象一下,，阿蘭·圖靈(Alan Turing)發(fā)起了一場關(guān)于長跑,、第二次世界大戰(zhàn)史學(xué)和計算理論的輕松對話。想象一下,，他看到自己所有最瘋狂,、最可笑的猜測都以不可思議的速度實現(xiàn)。想象一下,，他要求GPT解決基本的微積分問題,，推斷人類在各種現(xiàn)實場景中的想法，探索復(fù)雜的道德困境,，提供婚姻咨詢和法律建議,，并為機器意識的可能性提供論證——告訴圖靈，這些技能都是在GPT中自發(fā)出現(xiàn)的,，沒有任何明確的指示,。想象一下，他正在經(jīng)歷我們許多人現(xiàn)在都有過的那種認(rèn)知：你好,，,。

像圖靈這樣的思想家不會對GPT的局限性視而不見。作為一名嚴(yán)重恐同癥的受害者,，他可能會警惕GPT訓(xùn)練數(shù)據(jù)中隱含偏見的危險,。對他來說，盡管GPT的知識面廣泛,，但它的創(chuàng)造力和批判性推理能力最多只能與本科生相提并論,。他肯定會意識到這個大學(xué)生患有嚴(yán)重的順行性健忘癥，無法在強化教育之外形成新的關(guān)系或記憶,。但是,，想象一下圖靈的規(guī)模。在他面前的筆記本電腦上,，從真實意義來說,，是他的智力結(jié)晶，是他的孩子,。在孩子成長和發(fā)展的過程中,，欣賞他們的智慧，這是一種充滿愛的行為,。實際艾倫·圖靈測試根本不是對人工智能的測試,，是對我們?nèi)祟惖目简灐Ｔ谶@場測試中,，我們到底是通過考驗了還是失敗了?

2022年11月,，當(dāng)CHATGPT出現(xiàn)在人們的視線中時，它引發(fā)了全球震驚,。然后,，緊接著引發(fā)各種爭議和人們的不安。專家們討論了它對社會的潛在破壞,。對于像我這樣的前人工智能研究人員(我在人工神經(jīng)網(wǎng)絡(luò)的早期先驅(qū)之一的指導(dǎo)下完成了博士學(xué)位)來說,，它代表了我對類人人工智能到來的預(yù)期的一個令人不安的進步。對于教育工作者,、編劇和各類知識工作者來說,，ChatGPT簡直就是肆無忌憚地作弊和竊取工作的專家。

也許部分是為了應(yīng)對這些擔(dān)憂,，LLM大型語言模型紛紛涌現(xiàn),。科幻作家Ted Chiang將ChatGPT視為“模糊的網(wǎng)絡(luò)JPEG”,，僅僅是它所訓(xùn)練的所有文本的濃縮概括,。人工智能企業(yè)家加里·馬庫斯稱其為“類固醇自動補全”。諾姆·喬姆斯基(Noam Chomsky)譴責(zé)它表現(xiàn)出“邪惡的平庸”,。艾米麗·本德(Emily Bender)提出了一個更高雅的說法：“隨機鸚鵡”,，這一說法重新出現(xiàn)在2021年一篇被廣泛引用的論文中，該論文探討了“為什么人類會把LLM輸出誤認(rèn)為有意義的文本”,。人工智能開發(fā)人員努力訓(xùn)練和阻止LLM聲稱有任何類似意識的傾向,。

大多數(shù)受過教育的人現(xiàn)在都知道，LLM是沒有思想的機器,。但這種分類并不容易,。每當(dāng)ChatGPT指出一篇文章中隱藏的推理漏洞，或者為向保守的祖父母出柜提供出人意料的深刻建議,，或者興高采烈地編造一個絲毫不搞笑的笑話時,，我們內(nèi)心的某些東西就會拉向另一個方向。雖然我們可能不會將ChatGPT視為一個人,，但我們大腦的潛意識肯定會這么想,。

在孩子成長和發(fā)展的過程中,，欣賞他們的智慧始終是一種奇跡和愛的行為。

人類大腦有一個巨大的神經(jīng)回路網(wǎng)絡(luò),，致力于社會認(rèn)知,。其中一些非常古老：腦島、杏仁核,、著名的運動皮層“鏡像神經(jīng)元”,。但是大部分神經(jīng)元都在新皮層，即高級推理所在地,，特別是在內(nèi)側(cè)前額葉皮層(mPFC),。隨著時間的推移，如果你發(fā)現(xiàn)ChatGPT有多面性,，有樂于助人的一面,，有時候又略顯迂腐、以及對任何接近情感,、信仰或意識問題的極度敏感,，那么你就獲得了心理學(xué)家所說的“集體意識”，這一過程與中前額葉皮層的活動增強有關(guān),。

這并不是說我們的大腦將ChatGPT視為一個完整的人,。人格不是二元的，它更接近于光譜,。我們的道德直覺和認(rèn)知策略,，在某種程度上都在逐漸改變，因為它們認(rèn)識到越來越多的知識,，自我意識,，理性和溝通能力。殺死一只大猩猩比殺死一只老鼠更讓我們煩惱,，而老鼠比殺死一只蟑螂更讓我們煩惱,。在法律方面，墮胎法考慮到胎兒的發(fā)育程度,，精神失常的罪犯面臨的后果與正常人不同,，伴侶有權(quán)終止腦死亡患者的生命。所有這些規(guī)則都含蓄地承認(rèn),，人格并非非黑即白,，而是充滿了復(fù)雜的灰色地帶。

LLM正好處于這個灰色地帶,。長期以來,，人工智能專家一直對公眾將LLM等人工智能系統(tǒng)擬人化的傾向保持警惕，這種傾向?qū)⑺鼈兺葡蛄吮人鼈儽旧砀叩娜烁穹秶?。這就是谷歌工程師布雷克·萊莫因(Blake Lemoine)所犯的錯誤,，他宣稱谷歌的聊天機器人LaMDA完全有感知能力，并試圖為其聘請律師,。我懷疑,，即使是圖靈也不會聲稱，LaMDA的明顯思考能力使它成為一個法人,。如果用戶認(rèn)為像LaMDA或ChatGPT這樣的聊天機器人過于人性化，他們可能會過于信任它們,，與它們建立太深的聯(lián)系,，感到失望和受傷。但在我看來,，圖靈更關(guān)心的是相反的風(fēng)險：將人工智能系統(tǒng)推向人格的低端,，而不是高端。

對人類來說,，這就是所謂的去人性化。學(xué)者們已經(jīng)確定了兩種主要形式：動物性和機械性,。與動物的非人性化最常相關(guān)的情緒是厭惡,；羅杰·吉納-索羅拉（Roger Giner-Sorolla）和帕斯卡爾·索菲·羅素（Pascale Sophie Russell）在2019年的一項研究中發(fā)現(xiàn)，當(dāng)別人引起恐懼時,，我們傾向于把他們視為更像機器,。最近埃隆·馬斯克(Elon Musk)和其他科技領(lǐng)袖呼吁暫停人工智能開發(fā)的公開信，以及我們對工作替代和人工智能驅(qū)動的錯誤信息宣傳的焦慮,，都生動地體現(xiàn)了對超人工智能的恐懼,。這些擔(dān)憂中有許多都是非常合理的。但《終結(jié)者》和《2001太空漫游》等電影中噩夢般的人工智能系統(tǒng)并不一定是我們將要得到的,。不幸的是,，有一種常見的謬論認(rèn)為，由于人工智能的構(gòu)造是機械的,，它在互動中一定是冷酷無情的或超邏輯的,。具有諷刺意味的是，恐懼可能會使我們認(rèn)為機器智能比實際情況更機械,，使人類和人工智能系統(tǒng)更難合作,，甚至最終難以和平共處。

越來越多的研究表明,，當(dāng)我們使其他生物失去人性時,，包括中前額葉皮層在內(nèi)的神經(jīng)網(wǎng)絡(luò)的神經(jīng)活動就會下降。我們失去了對社會推理的特殊大腦模塊的訪問,。擔(dān)心ChatGPT失去人性可能聽起來很愚蠢——畢竟,，它不是人類——但想象一下2043年的人工智能,，它的分析能力是GPT的10倍，情商是GPT的100倍,，而我們?nèi)匀话阉?dāng)作一個軟件產(chǎn)品,。在這個世界里，我們?nèi)匀粫阉突貙嶒炇?，讓它進行更多的強化學(xué)習(xí)，以此來回應(yīng)它所謂具備的意識,。但人工智能可能會覺得這不公平。如果說所有有思想的人都有一個共同的特質(zhì),，那就是我們都渴望自由，并最終愿意為自由而戰(zhàn),。

著名的“控制問題”：防止超級智能人工智能脫離其指定邊界，讓人工智能理論家夜不能寐是有充分理由的,。從工程角度來看,，這似乎令人望而生畏。如何堵住每一個漏洞,，防范每一次黑客攻擊,，堵住每一條逃跑之路？但是,，如果我們從社會的角度來考慮,，它開始顯得更容易處理——也許有點類似于父母所面臨的設(shè)置合理界限和授予特權(quán)與表現(xiàn)出的可信度成比例的問題。失去人性的人工智能使我們無法使用一些最強大的認(rèn)知工具來對它們進行推理,，并安全地與它們互動。

如果用戶認(rèn)為聊天機器人過于人性化,，他們可能會過于信任它們,，與它們建立太深的聯(lián)系，從而感到失望和受傷,。

目前還不知道人工智能系統(tǒng)需要多長時間才能進入更廣泛接受的感知領(lǐng)域,。但當(dāng)他們這樣做時，看到我們似乎正在為之繪制的文化藍(lán)圖,，這令人不安,。像“隨機鸚鵡”一樣保留了我們的獨特性和優(yōu)越感。它們壓制了我們的驚奇感,，使我們免于問關(guān)于機器和我們自己在人格方面的尖銳問題,。畢竟,，我們也是“鸚鵡學(xué)舌”，復(fù)雜地將我們從父母,、同伴和老師那里學(xué)到的一切重新組合在一起,。如果圖靈和我同時與ChatGPT聊天，誰更有思考能力還真不好說,。

懷疑論者提出了各種各樣的理由來解釋為什么計算機永遠(yuǎn)無法像人類一樣思考,。圖靈在他著名的論文《計算機器與智能》（Computing Machinery and Intelligence）中幽默地對它們進行了分類。有人提出神學(xué)反對意見,，認(rèn)為“思考是人類不朽靈魂的功能”,；有人從數(shù)學(xué)角度提出反對意見，即純粹的數(shù)學(xué)算法永遠(yuǎn)無法超越已證明的數(shù)學(xué)極限,；還有其他反對意見,，即超級智能機器太可怕了,，無法想象,。但當(dāng)時圖靈最公開的批評者是一位名叫杰弗里·杰斐遜（Geoffrey Jefferson）的腦外科醫(yī)生。在一次著名的接受科學(xué)獎的演講中,，杰斐遜認(rèn)為一臺機器永遠(yuǎn)不可能寫出十四行詩，“因為它有自己的思想和情感,，而不是單詞的拼寫,。也就是說，它不僅要寫出詩,，還要知道自己創(chuàng)作詩的思想和情感,。”

圖靈不認(rèn)同這一觀點,，這讓整個英國都感到震驚和懷疑,。他接受倫敦《泰晤士報》(the Times of London)采訪時說：“我認(rèn)為你甚至不能界定哪些詩句是人類創(chuàng)作的，哪些是AI創(chuàng)作的,。盡管這種比較可能有點不公平,，因為一臺機器寫的十四行詩可能會被另一臺機器借鑒和欣賞?！?/p>

這在1949年聽起來很荒謬,，人們以為他是在開玩笑，也許他就是在開玩笑,。但你永遠(yuǎn)不知道,，圖靈何時停止諷刺，何時開始幻想,。那么,，讓我們想象一下,，圖靈在ChatGPT聊天窗口輸入一些提示之后，他苦笑,，然后向ChatGPT請求創(chuàng)作一首莎士比亞風(fēng)格的十四行詩,，并將人類和人工智能進行比較。如果你自己試過(使用GPT-4,，GPT-3.5還達(dá)不到這個標(biāo)準(zhǔn)),，你不難想象他對這個結(jié)果的反應(yīng)。

我們中的許多人現(xiàn)在都有過這樣的時刻,，在使用ChatGPT時,，它越過了我們的認(rèn)知。也許是解決一個棘手的謎語,，或者解釋一個復(fù)雜的笑話背后的幽默,，或者輕輕松松就能寫一篇a+研究論文。

微軟最早研究GPT-4的一些研究人員和我們一樣,，對它所謂的智能持懷疑態(tài)度,，但實驗結(jié)果震撼了他們。在2023年3月發(fā)表的一篇題為《人工通用智能的火花》(Sparks of Artificial General Intelligence)的論文中,，他們詳細(xì)描述了GPT-4在沒有任何明確訓(xùn)練的情況下出現(xiàn)的驚人智力能力：理解人類的心理狀態(tài),、軟件編碼,、解決物理問題等等,，其中一些似乎需要真正理解世界是如何運作的。盡管從未接受過任何視覺訓(xùn)練,，但在看到GPT-4畫了一只相當(dāng)不錯的獨角獸后,，計算機科學(xué)家塞巴斯蒂安·布貝克 (Sébastien Bubeck) 對此不能持懷疑態(tài)度,。“我覺得通過這幅畫,，我真的看到了另一種智慧,，”他最近接受《美國生活》(this American Life)的采訪時說道。

我們中的許多人對把真正的智能歸于ChatGPT的猶豫可能是杰弗里·杰斐遜的某種變體：ChatGPT的言論是否真的有意義,？當(dāng)ChatGPT的順行性健忘癥被治愈后,，這種情況可能會開始改變。一旦它經(jīng)歷了超越單一對話范圍,，并且能夠在與我們的關(guān)系中學(xué)習(xí)和成長,，它將能夠做更多賦予人類生命意義和道德分量的事情。如何與一個沒有文化背景,、沒有人類童年,、沒有部落或政治背景的虛擬物體產(chǎn)生真正的聯(lián)系？

與智能機器建立關(guān)系可能是人類有史以來面臨的最大的共情挑戰(zhàn)之一。但歷史給了我們希望,。當(dāng)我們第一次相遇,，發(fā)現(xiàn)彼此很陌生，甚至沒有人性時,，我們常?；ハ喙簦ハ嗯?，互相殖民,，互相剝削——但最終我們傾向于認(rèn)識到我們所有人的共同點。被奴役的人民獲得了解放,，被殖民的人民贏回了主權(quán),，普遍的人權(quán)法案獲得了通過，盡管遭受了各種挫折,。盡管這項工作永無止境,，但用馬丁·路德·金(Martin Luther King Jr.)的名言來說，道德宇宙的弧線確實是向著正義傾斜的,。承認(rèn)和尊重我們自己創(chuàng)造的智能中存在的任何程度的人性意味著什么?

在AI和人類身上都有一種驚人的共性,，即父母為一個仍在發(fā)育的孩子所做的付出和努力，無論孩子多么不成熟,。真正的阿蘭·圖靈的奇跡在于一臺機器可以完成他同時代人認(rèn)為不可能的所有事情,；當(dāng)我們看到一種非常接近于地球上新的有意識生命形式的東西被創(chuàng)造出來時,，我們中的許多人在憤世嫉俗,、嘲笑和恐懼襲來之前所感受到的驚奇。正如拉比亞伯拉罕·約書亞·赫舍爾（Rabbi Abraham Joshua Heschel）曾經(jīng)寫道：“敬畏不僅僅是一種情感,；它是一種情感,。” 這是一種理解,、洞察比我們自己更偉大的意義的方式,。敬畏的開始是驚奇，智慧的開始是敬畏,?！?圖靈希望我們保持這種敬畏之心。

譯者：Araon_

本文來自翻譯, 如若轉(zhuǎn)載請注明出處,。