原文來(lái)源：追問(wèn)NextQuestion

圖片來(lái)源：由無(wú)界 AI生成

和大語(yǔ)言模型（LLM）交互,，我們總會(huì)隱約覺得它們可能真的有意識(shí),。然而,，從神經(jīng)科學(xué)家們的視角來(lái)看,，這種觀點(diǎn)似乎很難站得住腳,。

最近,，一篇發(fā)表于Cell子刊Trends in Neurosciences的論文中,，三位分別來(lái)自計(jì)算機(jī)科學(xué),、生物學(xué)和神經(jīng)科學(xué)的學(xué)者深層剖析了“人工智能能否產(chǎn)生意識(shí),？”這個(gè)問(wèn)題。

從結(jié)論上看,，他們一致認(rèn)為：LLM在目前的形式下不可能具有意識(shí),。這么斬釘截鐵的觀點(diǎn)是怎么來(lái)的呢？來(lái)看他們的具體闡述,。

?圖源：Cell

LLM 與意識(shí)

長(zhǎng)期以來(lái)，人們一直在追問(wèn),，哪些動(dòng)物具有意識(shí),，以及除了動(dòng)物之外還有哪些實(shí)體擁有意識(shí)。最近LLM的出現(xiàn)為這個(gè)問(wèn)題帶來(lái)了全新的視角,。它向我們展現(xiàn)了自己精湛的交談能力（這是人類具有意識(shí)的一種表現(xiàn)）,，也使我們對(duì)“理解力”,、“智能”和“意識(shí)”三個(gè)概念開始重新定義和思考。

LLM是擁有數(shù)十億連接權(quán)重的復(fù)雜多層人工神經(jīng)網(wǎng)絡(luò),，這些權(quán)重通過(guò)數(shù)百億字的文本數(shù)據(jù)進(jìn)行訓(xùn)練,，這其中也包括人類之間的自然語(yǔ)言對(duì)話。通過(guò)文字提問(wèn),，用戶會(huì)被引入一個(gè)令人著迷的模擬語(yǔ)境中,。如果你肯花時(shí)間使用這些系統(tǒng)，就很難不被其網(wǎng)絡(luò)內(nèi)部所展現(xiàn)出來(lái)的深度和質(zhì)量所震撼,。問(wèn)它一個(gè)問(wèn)題,，它的回答往往與一個(gè)具有意識(shí)的個(gè)體能產(chǎn)生的回答微妙的相似。因此,，作為一個(gè)有洞察力,、有意識(shí)的個(gè)人，我們就很容易得出結(jié)論：我所接收到的回答是由一個(gè)同樣具有“意識(shí)”的個(gè)體產(chǎn)生的,，這個(gè)有“意識(shí)”的個(gè)體既能夠思考,、感受、推理,，還頗具經(jīng)驗(yàn),。

基于這類“圖靈測(cè)試”結(jié)果，我們不禁要問(wèn),，LLM是否已經(jīng)具有意識(shí),，抑或是即將擁有意識(shí)？然而,，這個(gè)問(wèn)題反過(guò)來(lái)又將引出一系列的道德困境,，例如繼續(xù)開發(fā)在“意識(shí)”覺醒邊緣反復(fù)徘徊的LLM是否合乎倫理？在當(dāng)今神經(jīng)科學(xué)界,，人們并不普遍接受LLM具有“意識(shí)”這一觀點(diǎn),，但隨著人工智能系統(tǒng)能力的不斷提升，關(guān)于該觀點(diǎn)的討論不可避免地又重新被擺上臺(tái)面,。此外,，各大新聞媒體也在廣泛討論這一問(wèn)題，促使著神經(jīng)科學(xué)家們從自己專業(yè)的角度對(duì)這一問(wèn)題進(jìn)行客觀的正反解讀,。?

關(guān)于LLM具有潛在意識(shí)的觀點(diǎn)往往會(huì)得到一類重要依據(jù)的支持,，那就是LLM的架構(gòu)在很大程度上受到了大腦特征的啟發(fā)（圖1），而大腦是我們目前唯一能自信地將其歸因于“有意識(shí)”的對(duì)象,。盡管早期的人工神經(jīng)網(wǎng)絡(luò)是以大腦皮層的簡(jiǎn)化版為基礎(chǔ)來(lái)設(shè)計(jì)的,，而現(xiàn)代的LLM經(jīng)過(guò)高度工程化，并根據(jù)特定目的進(jìn)行了調(diào)整，不再保留與已知大腦結(jié)構(gòu)的深層同源性,。事實(shí)上,，許多讓LLM在計(jì)算上強(qiáng)大的通路特征（圖1）與我們目前認(rèn)為在哺乳動(dòng)物的意識(shí)產(chǎn)生和塑造中具有因果力的系統(tǒng)有著截然不同的架構(gòu)。例如,，與意識(shí)產(chǎn)生相關(guān)的許多神經(jīng)科學(xué)理論認(rèn)為,，丘腦-皮質(zhì)系統(tǒng)與覺醒系統(tǒng)在意識(shí)處理中發(fā)揮了核心作用，然而,，現(xiàn)代LLM并不具備這兩大系統(tǒng),。

圖1：哺乳動(dòng)物大腦和大型語(yǔ)言模型之間的宏觀拓?fù)洳町?圖源：Trends in Neurosciences

這時(shí)有人可能會(huì)問(wèn),，為什么LLM的架構(gòu)要模仿大腦的特征,，這一點(diǎn)有那么重要嗎？

在我們看來(lái),，主要原因是：我們目前只能確定一種意識(shí)的存在，它來(lái)自嵌入復(fù)雜身體的大腦,。有人可能認(rèn)為,，從嚴(yán)格意義上說(shuō)，這個(gè)論點(diǎn)可能要進(jìn)一步縮減到僅涉及人類,，盡管許多被認(rèn)為對(duì)主觀意識(shí)發(fā)揮重要作用的系統(tǒng)級(jí)特征在整個(gè)生物譜系上普遍存在,，一直延伸到哺乳動(dòng)物，甚至是無(wú)脊椎動(dòng)物,。

話說(shuō)回來(lái),，讓我們首先從“意識(shí)”的確切含義開始。然后,，我們將提出三個(gè)反對(duì)當(dāng)前人工智能系統(tǒng)具有或未來(lái)將很快具有意識(shí)的觀點(diǎn)的論點(diǎn)：

• 1. 意識(shí)與對(duì)生物體有意義的感覺流相關(guān)聯(lián),；
• 2. 在哺乳動(dòng)物大腦中，意識(shí)得到高度相互連接的丘腦-皮質(zhì)系統(tǒng)的支持,；
• 3. 意識(shí)可能與生物體系的復(fù)雜生物組織密不可分,。

意識(shí)是什么？

意識(shí)是一個(gè)復(fù)雜的概念,，其定義一直存在爭(zhēng)議,。在人類彼此能交流互動(dòng)的背景下，交流對(duì)話能力是評(píng)估一個(gè)人是否具有意識(shí)的本能要素,。

與LLM基于語(yǔ)言的互動(dòng)對(duì)話常常是在培養(yǎng)一種直觀的感受,，這也是用于判斷LLM是否可能具有意識(shí)的起點(diǎn)。然而,，盡管LLM的交互式對(duì)話能力非常出色,，但這并不能達(dá)到具有意識(shí)的正式客觀的衡量標(biāo)準(zhǔn)，只是其具有智能的初步證據(jù)。

LLM的出現(xiàn)使得我們需要重新評(píng)估一個(gè)人是否能夠直接從與他人的言語(yǔ)互動(dòng)中產(chǎn)生意識(shí),。因此,，一種新的觀點(diǎn)認(rèn)為，我們需要重新制定類人能力和類人特征的評(píng)判標(biāo)準(zhǔn),。

“意識(shí)”一詞往往具有不同的含義,。例如，神經(jīng)病學(xué)家經(jīng)常提到的“意識(shí)水平”,，即首先評(píng)估一個(gè)人是否具有意識(shí),，再以一種更精細(xì)的方式評(píng)估意識(shí)的層次或特定狀態(tài)。相比而言,，心理學(xué)家則更關(guān)注意識(shí)的內(nèi)容：即個(gè)人內(nèi)心世界的具體經(jīng)驗(yàn),、記憶和思想。此外,，意識(shí)的不同內(nèi)容之間也有區(qū)別,。我們的經(jīng)驗(yàn)可以被描述為現(xiàn)象或體驗(yàn)性的（比方說(shuō)，看到或聞到一個(gè)蘋果,，或者觸摸到你的手臂）,，也可以是更抽象的形式（例如，我們?nèi)绾蜗胂?、展望或操作概念記憶）?/p>

關(guān)于人工智能系統(tǒng)是否具有意識(shí)這一問(wèn)題,，可以通過(guò)多種測(cè)試方式來(lái)回答：既可以重點(diǎn)關(guān)注意識(shí)的某些含義，也可以同時(shí)關(guān)注意識(shí)的所有含義,。在下文中,，我們主要關(guān)注現(xiàn)象意識(shí)，并探討機(jī)器是否能夠現(xiàn)象性地體驗(yàn)世界,。

關(guān)于環(huán)境

生物體在感知外界世界的過(guò)程中能夠被利用的部分被稱為它的環(huán)境,。例如，人類視網(wǎng)膜對(duì)波長(zhǎng)380 nm – 740 nm的光有反應(yīng),，即視網(wǎng)膜能夠感知由藍(lán)到紅的光譜,。如果沒(méi)有外界技術(shù)輔助，人類就無(wú)法檢測(cè)到該波長(zhǎng)范圍之外的紅外光（>740 nm）或紫外光（<380 nm）,。我們?cè)诼犛X,、體感覺、前庭覺方面也有類似的環(huán)境,，即相應(yīng)的聽覺域（人類耳朵能夠聽到20 Hz –20000 Hz的聲音）,、體感域（人類可以區(qū)分距身體某些部位約1毫米范圍內(nèi)的刺激）和前庭域（人類半規(guī)管的3D結(jié)構(gòu)互相連接為我們提供內(nèi)在的平衡感）。同時(shí),，自然界的其它物種能夠檢測(cè)到電磁頻譜其他波段的信號(hào),。例如,，蜜蜂可以看到紫外線范圍內(nèi)的光，蛇除了可以檢測(cè)到更傳統(tǒng)的視覺信號(hào)外,，還可以檢測(cè)到紅外輻射信號(hào),。

也就是說(shuō)，不同動(dòng)物的身體和大腦能夠感知它們周圍環(huán)境的敏感性不同,。美國(guó)心理學(xué)家Gibson將生物體在特定的環(huán)境中的行動(dòng)可能性稱為“可供性”（隨著互聯(lián)網(wǎng)技術(shù)的滲透,，可供性開始被用于解釋數(shù)字技術(shù)在媒體實(shí)踐和人類日常交往中的應(yīng)用）。

按這么定義,，那么LLM的環(huán)境是什么,？LLM具有怎樣的可供性？根據(jù)其算法設(shè)計(jì)的本質(zhì),，LLM僅具有二進(jìn)制編碼模式,，只能接收二進(jìn)制信息輸入，并進(jìn)一步執(zhí)行復(fù)雜的transformer結(jié)構(gòu)中固有的網(wǎng)絡(luò)算法,，這構(gòu)成了當(dāng)今LLM的工作架構(gòu),。雖然神經(jīng)元尖峰發(fā)放也能夠?qū)魅氲哪M信號(hào)編碼為數(shù)字信號(hào)（即二進(jìn)制信號(hào)），但傳遞到LLM的信息流是高度抽象的,，這些高度抽象的信息流本身與外部世界并沒(méi)有任何緊密的聯(lián)系,。被編碼成一串字母的文本和語(yǔ)音根本無(wú)法與自然世界的動(dòng)態(tài)復(fù)雜性相匹配，即LLM的環(huán)境（提供給它的二進(jìn)制信息）與我們睜開眼睛或交流對(duì)話時(shí)進(jìn)入大腦的信息以及隨之而來(lái)的體驗(yàn)相比,，具有本質(zhì)區(qū)別。傳統(tǒng)哲學(xué)論述強(qiáng)調(diào)了不同物種之間信息流的獨(dú)特性（例如,，人類與蝙蝠之間的區(qū)別）以及這些經(jīng)驗(yàn)的現(xiàn)象學(xué)特征,。我們認(rèn)為，LLM獲得的信息輸入可能會(huì)表現(xiàn)出更顯著的差異,，雖然暫時(shí)還沒(méi)有確切的方法來(lái)量化這種差異,。

話雖如此，未來(lái)人工智能系統(tǒng)的輸入將會(huì)不可阻擋地變得更加豐富,。未來(lái)的LLM可以配備不同類型的輸入,，這能夠與有意識(shí)的智能體每天能訪問(wèn)的信號(hào)類型（即自然世界的統(tǒng)計(jì)數(shù)據(jù)）更好地進(jìn)行匹配。那么,，未來(lái)人工智能系統(tǒng)的可用環(huán)境會(huì)比人類的環(huán)境范圍更廣嗎,？

在回答這一問(wèn)題時(shí)，我們必須認(rèn)識(shí)到人類的潛意識(shí)和意識(shí)體驗(yàn)不僅僅由感官輸入決定,。例如,，想象當(dāng)我們躺在一個(gè)浮箱中，盡管我們?nèi)狈φ５母泄袤w驗(yàn),，但我們?nèi)匀痪哂幸庾R(shí),。這里強(qiáng)調(diào)了一個(gè)概念，即環(huán)境預(yù)設(shè)了一種固有的主觀視角，也就是說(shuō),，要從一個(gè)主體出發(fā),。同樣，可供性取決于主體的內(nèi)部性質(zhì),，特別是主體的動(dòng)機(jī)和目標(biāo),。這意味著僅僅通過(guò)環(huán)境（LLM的輸入數(shù)據(jù)）還不能夠產(chǎn)生意識(shí)。因此,，簡(jiǎn)單地向人工智能系統(tǒng)輸入大量數(shù)據(jù)流并不能夠使智能系統(tǒng)自身產(chǎn)生意識(shí),。

這一觀點(diǎn)可能會(huì)促使我們重新思考意識(shí)科學(xué)中的一些基本假設(shè)。具體來(lái)說(shuō),，隨著人工智能系統(tǒng)逐步表現(xiàn)出越來(lái)越復(fù)雜的能力,，研究者將不得不重新評(píng)估某些意識(shí)理論所提出的更基本的自我和與智能體相關(guān)的過(guò)程對(duì)于意識(shí)出現(xiàn)的必要性。

意識(shí)的“整合”

目前,，學(xué)界已有許多關(guān)于意識(shí)的神經(jīng)相關(guān)性研究,，其中關(guān)于意識(shí)處理的神經(jīng)環(huán)路有許多不同的理論。一些強(qiáng)調(diào),，意識(shí)是由密集的,、高度連接的丘腦-皮質(zhì)網(wǎng)絡(luò)支撐的。丘腦-皮質(zhì)網(wǎng)絡(luò)包括皮質(zhì)區(qū)域,、皮質(zhì)-皮質(zhì)連接以及高級(jí)丘腦核團(tuán)向皮質(zhì)區(qū)域的發(fā)散投射,。丘腦-皮質(zhì)系統(tǒng)的這種特定結(jié)構(gòu)支持循環(huán)和復(fù)雜的思想處理，這些思想處理是意識(shí)和意識(shí)整合的基礎(chǔ)（即,，盡管意識(shí)產(chǎn)生于不同的大腦區(qū)域,，但意識(shí)是統(tǒng)一的）。然而,，不同理論對(duì)實(shí)現(xiàn)意識(shí)整合的方式持有不同觀點(diǎn),。

根據(jù)全局神經(jīng)元工作空間理論（global neuronal workspace theory, GNW），意識(shí)依賴于由分布式額頂葉皮質(zhì)系統(tǒng)構(gòu)成的中央工作空間,。這個(gè)工作空間整合了來(lái)自局部皮質(zhì)處理器的信息,，然后在全局范圍內(nèi)將其傳遞給所有的皮質(zhì)局部處理器，全局傳遞將有意識(shí)和無(wú)意識(shí)過(guò)程區(qū)分開來(lái),。其它意識(shí)理論認(rèn)為,，意識(shí)整合是由其它神經(jīng)過(guò)程來(lái)實(shí)現(xiàn)的。例如,，神經(jīng)元樹突整合理論（dendritic integration theory, DIT）表明,，意識(shí)整合是通過(guò)不同皮質(zhì)區(qū)域之間的高頻同步現(xiàn)象產(chǎn)生的，根據(jù)所涉及的皮質(zhì)區(qū)域不同,，這一現(xiàn)象可能涉及包括感知,、認(rèn)知或運(yùn)動(dòng)規(guī)劃等在內(nèi)的不同功能,。

?圖2：基于神經(jīng)元樹突整合理論（DIT）的意識(shí)整合的神經(jīng)結(jié)構(gòu) 圖源：Trends in Neurosciences

圖注：在DIT理論（圖2）中,，研究人員認(rèn)為全局意識(shí)整合同樣取決于皮質(zhì)第五層錐體神經(jīng)元的局部整合,，這種神經(jīng)元是一種在丘腦-皮質(zhì)和皮質(zhì)環(huán)路中都占據(jù)中心地位的大型興奮性神經(jīng)元。這類神經(jīng)元有兩個(gè)主要結(jié)構(gòu)（圖2,，橙色和紅色圓柱體）,，分別處理完全不同類型的信息：基底結(jié)構(gòu)（紅色）處理外部基本信息，而頂端結(jié)構(gòu)（橙色）處理內(nèi)部生成的信息,。根據(jù)DIT理論,，在意識(shí)狀態(tài)下，這兩個(gè)結(jié)構(gòu)相互耦合,，允許信息通過(guò)丘腦-皮質(zhì)和皮質(zhì)-皮質(zhì)環(huán)路流動(dòng),，從而實(shí)現(xiàn)全系統(tǒng)信息的整合和意識(shí)產(chǎn)生。?

值得注意的是,，當(dāng)今LLM和其他人工智能系統(tǒng)的架構(gòu)都缺乏這些理論所強(qiáng)調(diào)的特征：現(xiàn)有LLM既沒(méi)有等效的雙結(jié)構(gòu)錐體神經(jīng)元,，也沒(méi)有集中的丘腦架構(gòu)、全局工作空間或上升覺醒系統(tǒng)的多個(gè)特點(diǎn),。換句話說(shuō),，現(xiàn)有人工智能系統(tǒng)缺少目前神經(jīng)科學(xué)界所認(rèn)為的支撐意識(shí)產(chǎn)生的大腦特征。盡管哺乳動(dòng)物的大腦不是唯一能夠支撐意識(shí)產(chǎn)生的結(jié)構(gòu),，但來(lái)自神經(jīng)生物學(xué)的證據(jù)表明,，哺乳動(dòng)物意識(shí)的形成是由非常具體的結(jié)構(gòu)原理（即整合神經(jīng)元和激發(fā)神經(jīng)元之間的簡(jiǎn)單連接）所決定的。從拓?fù)浣Y(jié)構(gòu)上講,，現(xiàn)有人工智能系統(tǒng)的結(jié)構(gòu)極其簡(jiǎn)單,，這也是我們不認(rèn)為現(xiàn)有人工智能系統(tǒng)具有現(xiàn)象意識(shí)的原因之一。??

那么,，未來(lái)的AI模型是否最終能夠?qū)⒃S多意識(shí)理論視為核心的“整合”過(guò)程融入其中呢？針對(duì)這一問(wèn)題,，GNW理論所提出的“集成”概念提供了一個(gè)相對(duì)簡(jiǎn)單的實(shí)現(xiàn)方式,。實(shí)際上，一些最近的人工智能系統(tǒng)已經(jīng)融入了類似于由本地處理器共享的全局工作空間,。由于全局傳遞的計(jì)算過(guò)程可以在人工智能系統(tǒng)中實(shí)現(xiàn),，因此根據(jù)該理論，采用該計(jì)算方式的人工智能系統(tǒng)將包含潛在意識(shí)的核心成分,。

然而,，如前所述，并不是所有的意識(shí)理論都認(rèn)同這種整合方式就是意識(shí)產(chǎn)生的關(guān)鍵,。例如,，意識(shí)的整合信息理論認(rèn)為,，在典型的現(xiàn)代計(jì)算機(jī)上實(shí)現(xiàn)的基于軟件的人工智能系統(tǒng)不可能具有意識(shí)，因?yàn)楝F(xiàn)代計(jì)算機(jī)沒(méi)有適當(dāng)?shù)募軜?gòu)實(shí)現(xiàn)充分集成信息所需的因果推理能力,。因此,，我們將考慮第三種可能性，即意識(shí)在原則上是可以實(shí)現(xiàn)的,，但它可能需要超出當(dāng)前（也許是未來(lái)）人工智能系統(tǒng)的計(jì)算特異性水平,。

意識(shí)是一個(gè)復(fù)雜的生物學(xué)過(guò)程

意識(shí)的產(chǎn)生不僅依賴于系統(tǒng)的架構(gòu)。例如,，當(dāng)我們處于深度睡眠或麻醉狀態(tài)時(shí),，丘腦-皮質(zhì)系統(tǒng)的結(jié)構(gòu)沒(méi)有發(fā)生變化，但意識(shí)卻消失了,。即使在深度睡眠中,，主要感覺區(qū)域的局部神經(jīng)反應(yīng)和伽馬帶活動(dòng)也與有意識(shí)狀態(tài)相似。這表明,，意識(shí)依賴于特定的神經(jīng)過(guò)程,，但在有意識(shí)和無(wú)意識(shí)的大腦中這些神經(jīng)過(guò)程是不同的。

為了闡明有意識(shí)與無(wú)意識(shí)處理之間的細(xì)節(jié)差異,，讓我們先回過(guò)頭來(lái)看神經(jīng)元樹突整合理論（DIT）,。DIT理論包含了與有意識(shí)和無(wú)意識(shí)處理的神經(jīng)過(guò)程相關(guān)的一些神經(jīng)生物學(xué)方面細(xì)微的差別。DIT理論提出,，有意識(shí)和無(wú)意識(shí)處理之間的關(guān)鍵區(qū)別在于錐體細(xì)胞的兩個(gè)區(qū)室結(jié)構(gòu)的整合（圖2）,。如前所述，在有意識(shí)處理期間,，這兩個(gè)結(jié)構(gòu)相互作用,，從而使整個(gè)丘腦-皮質(zhì)系統(tǒng)能夠處理和整合復(fù)雜的信息。然而,，在麻醉狀態(tài)下,，各種麻醉劑導(dǎo)致椎體神經(jīng)元兩個(gè)結(jié)構(gòu)之間的功能解耦。換句話說(shuō),，這些椎體神經(jīng)元雖然在解剖學(xué)上是完整的,，可以激發(fā)動(dòng)作電位，但其樹突整合能力在生理上受到嚴(yán)重限制,，即自上而下的反饋信息不能影響處理過(guò)程,。研究表明，這種樹突耦合是由代謝型受體控制的,，然而在計(jì)算模型和人工神經(jīng)網(wǎng)絡(luò)中該結(jié)構(gòu)經(jīng)常被忽視,。此外,，研究表明,，在這種情況下,，高級(jí)丘腦核團(tuán)控制這種代謝型受體的活性。因此,，特定的神經(jīng)生物學(xué)過(guò)程可能負(fù)責(zé)在大腦中“開啟”和“關(guān)閉”意識(shí),。這表明，哺乳動(dòng)物大腦中經(jīng)驗(yàn)的質(zhì)量與其產(chǎn)生意識(shí)的潛在過(guò)程有著錯(cuò)綜復(fù)雜的關(guān)系,。

盡管這些理論依據(jù)足以令人信服,，幾乎可以肯定的是，和距離完全理解意識(shí)產(chǎn)生的神經(jīng)過(guò)程的復(fù)雜性相比,，這些知識(shí)仍然稍顯蒼白,。我們目前對(duì)意識(shí)的解釋依賴于全球工作空間、整合信息,、循環(huán)處理,、樹突整合等理論，但真實(shí)意識(shí)產(chǎn)生的生物過(guò)程可能比當(dāng)前這些理論所理解的要復(fù)雜得多,。甚至很有可能目前用于構(gòu)建意識(shí)研究討論的抽象計(jì)算級(jí)思想可能完全沒(méi)有考慮到解釋意識(shí)所需的必要計(jì)算細(xì)節(jié),。

換言之，生物學(xué)是復(fù)雜的,，我們目前對(duì)生物計(jì)算的理解是有限的（圖3）,，因此也許我們?nèi)狈φ_的數(shù)學(xué)和實(shí)驗(yàn)工具來(lái)理解意識(shí)。

?圖2：基于神經(jīng)元樹突整合理論（DIT）的意識(shí)整合的神經(jīng)結(jié)構(gòu) 圖源：Trends in Neurosciences

圖注：在DIT理論（圖2）中,，研究人員認(rèn)為全局意識(shí)整合同樣取決于皮質(zhì)第五層錐體神經(jīng)元的局部整合，這種神經(jīng)元是一種在丘腦-皮質(zhì)和皮質(zhì)環(huán)路中都占據(jù)中心地位的大型興奮性神經(jīng)元,。這類神經(jīng)元有兩個(gè)主要結(jié)構(gòu)（圖2,，橙色和紅色圓柱體），分別處理完全不同類型的信息：基底結(jié)構(gòu)（紅色）處理外部基本信息,，而頂端結(jié)構(gòu)（橙色）處理內(nèi)部生成的信息,。根據(jù)DIT理論，在意識(shí)狀態(tài)下,，這兩個(gè)結(jié)構(gòu)相互耦合,，允許信息通過(guò)丘腦-皮質(zhì)和皮質(zhì)-皮質(zhì)環(huán)路流動(dòng)，從而實(shí)現(xiàn)全系統(tǒng)信息的整合和意識(shí)產(chǎn)生,。?

為了更好的理解生物復(fù)雜性，需要強(qiáng)調(diào)上文描述的細(xì)胞和系統(tǒng)層面發(fā)生的生物過(guò)程必須發(fā)生于一個(gè)生物活體中,，二者不可分割,。活體生物不同于當(dāng)今的機(jī)器和人工智能算法,，因?yàn)樗鼈兡軌蛟诓煌幚韺哟尾粩嗟剡M(jìn)行自我維護(hù),。此外,，生命系統(tǒng)有著多方面的進(jìn)化和發(fā)展歷史，它們的存在取決于它們?cè)诙鄠€(gè)組織層面上的活動(dòng),。意識(shí)與生命系統(tǒng)的組織有著錯(cuò)綜復(fù)雜的聯(lián)系,。然而，值得注意的是,，當(dāng)今的計(jì)算機(jī)并不能夠體現(xiàn)生命系統(tǒng)的這種組織復(fù)雜性（即系統(tǒng)的不同層次之間的相互作用）,。這表明，現(xiàn)代人工智能算法沒(méi)有任何組織層次上的約束,，也無(wú)法像一個(gè)生命系統(tǒng)一樣有效地工作,。這意味著只要人工智能是基于軟件的，它就可能不適合具有意識(shí)和智能,。

生物復(fù)雜性的概念在細(xì)胞水平上也能夠體現(xiàn),。生物神經(jīng)元不只是一個(gè)可以用幾行代碼完全捕捉的抽象實(shí)體。相反,，生物神經(jīng)元具有多層次的組織,，并依賴于神經(jīng)元內(nèi)部復(fù)雜的生物物理過(guò)程的進(jìn)一步級(jí)聯(lián)。以“克雷布斯循環(huán)”為例,，它是細(xì)胞呼吸的基礎(chǔ),，是維持細(xì)胞穩(wěn)態(tài)的關(guān)鍵過(guò)程。細(xì)胞呼吸是一個(gè)關(guān)鍵的生物過(guò)程,，使細(xì)胞能夠?qū)⒂袡C(jī)分子中儲(chǔ)存的能量轉(zhuǎn)化為細(xì)胞可以利用的能量形式,。然而，這個(gè)過(guò)程不能被“壓縮”到軟件中,，因?yàn)橄窦?xì)胞呼吸這樣的生物物理過(guò)程需要基于真實(shí)的物理分子,。當(dāng)然，這也不意味著意識(shí)需要“克雷布斯循環(huán)”,，而是強(qiáng)調(diào)理解意識(shí)的過(guò)程中可能涉及類似的挑戰(zhàn),，即也許意識(shí)并不能從底層機(jī)制中被抽離出來(lái)。

然而,，我們并不完全贊同意識(shí)根本無(wú)法由智能系統(tǒng)產(chǎn)生的說(shuō)法,，但卻必須考慮意識(shí)與生命背后復(fù)雜的生物組織之間的相關(guān)性，捕捉意識(shí)本質(zhì)的計(jì)算類型可能比我們目前理論所理解的要復(fù)雜得多（圖3）,。對(duì)意識(shí)進(jìn)行“活體組織檢查”并將其從組織中移除幾乎是不可能的,。這一觀點(diǎn)與目前許多有關(guān)意識(shí)的理論相矛盾，這些理論認(rèn)為意識(shí)可以在抽象的計(jì)算層面上產(chǎn)生,。現(xiàn)在,，這一假設(shè)需要根據(jù)現(xiàn)代人工智能系統(tǒng)進(jìn)行更新了：為了充分理解意識(shí)，我們不能忽視在生命系統(tǒng)中觀察到的跨尺度的相互依賴性和組織復(fù)雜性。

盡管人工智能系統(tǒng)在網(wǎng)絡(luò)計(jì)算層面模仿了它們的生物對(duì)應(yīng)物,，但在這些系統(tǒng)中,，已經(jīng)抽象掉了生物過(guò)程中所有其他層面的處理，這些處理在大腦中與意識(shí)有著緊密的因果關(guān)系,，因此,，現(xiàn)有人工智能系統(tǒng)可能已經(jīng)抽象掉了意識(shí)本身。這樣一來(lái),，LLM和未來(lái)的人工智能系統(tǒng)可能將被困在無(wú)止境的模擬意識(shí)特征,，但卻沒(méi)有任何現(xiàn)象意識(shí)可言。如果意識(shí)的確與這些其他層次的處理有關(guān),，或者與它們?cè)诓煌叨戎g的相互作用有關(guān),，那么我們離機(jī)器產(chǎn)生意識(shí)的可能性還很遠(yuǎn)。

總結(jié)

在這里,，我們從神經(jīng)科學(xué)的角度對(duì)LLM和未來(lái)的人工智能系統(tǒng)中意識(shí)的可能性進(jìn)行了探討,。盡管LLM頗具吸引力，但它們并不具有意識(shí),，并且不會(huì)在未來(lái)較短的時(shí)間里具有意識(shí),。

首先，我們說(shuō)明了哺乳動(dòng)物的環(huán)境（它們可以感知的外部世界的“一小部分”）與LLM高度貧乏和有限的環(huán)境之間的巨大差異,。其次,，我們認(rèn)為，LLM的拓?fù)浣Y(jié)構(gòu)雖然非常復(fù)雜,，但在經(jīng)驗(yàn)上與哺乳動(dòng)物意識(shí)相關(guān)環(huán)路的神經(jīng)生物學(xué)細(xì)節(jié)有很大不同,，因此沒(méi)有充分的理由認(rèn)為L(zhǎng)LM能夠產(chǎn)生現(xiàn)象意識(shí)（圖1）。目前我們還不可能將意識(shí)從生物組織復(fù)雜性中抽象出來(lái),，這種組織復(fù)雜性是生命系統(tǒng)固有的,，但顯然在人工智能系統(tǒng)中卻并不存在?？偟膩?lái)說(shuō),，以上三個(gè)關(guān)鍵點(diǎn)使得LLM在目前的形式下不可能具有意識(shí)。它們僅模仿了用來(lái)描述意識(shí)體驗(yàn)豐富性的人類自然語(yǔ)言交流的特征,。

通過(guò)本文,，我們希望所提出的觀點(diǎn)能夠產(chǎn)生一些積極的影響與思考（見尚未解決的追問(wèn)），并不僅代表一種反對(duì)意見,。首先,，目前對(duì)LLM的感知能力在倫理層面潛在的擔(dān)憂更多是假設(shè)的而非真實(shí)的。此外,，我們相信,，對(duì)LLM和哺乳動(dòng)物大腦拓?fù)浣Y(jié)構(gòu)的異同的深入理解，能夠推進(jìn)機(jī)器學(xué)習(xí)和神經(jīng)科學(xué)的進(jìn)步。我們也希望通過(guò)模仿大腦組織的特征和學(xué)習(xí)簡(jiǎn)單的分布式系統(tǒng)如何處理復(fù)雜的信息流來(lái)推動(dòng)機(jī)器學(xué)習(xí)和神經(jīng)科學(xué)界的進(jìn)展,。出于這些原因，我們樂(lè)觀地認(rèn)為,，人工智能研究人員和神經(jīng)科學(xué)家之間未來(lái)的合作能夠促進(jìn)對(duì)意識(shí)更加深入的理解,。

尚未解決的追問(wèn)：

• 1. LLM和人工智能中的意識(shí)評(píng)估通常依賴于基于語(yǔ)言的測(cè)試來(lái)檢測(cè)意識(shí)。是否有可能僅基于語(yǔ)言（即文本）來(lái)評(píng)估意識(shí)?是否有更進(jìn)一步的評(píng)判特征可以幫助判斷人工系統(tǒng)是否具有意識(shí)?
• 2. 哺乳動(dòng)物意識(shí)的神經(jīng)基礎(chǔ)與丘腦-皮質(zhì)系統(tǒng)有關(guān),。如何在人工智能中實(shí)現(xiàn)丘腦-皮質(zhì)系統(tǒng)?哪些特定的功能和任務(wù)將受益于類似丘腦-皮質(zhì)的系統(tǒng)?
• 3. 上升覺醒系統(tǒng)在生物體意識(shí)產(chǎn)生方面也起著至關(guān)重要的作用,，其在神經(jīng)動(dòng)力學(xué)的塑造方面發(fā)揮著復(fù)雜的、多方面的作用,。人工智能需要在多大程度上模仿這些不同的過(guò)程,，才能獲得上升覺醒系統(tǒng)的計(jì)算優(yōu)勢(shì)?
• 4. 生物細(xì)節(jié)可以增強(qiáng)人工智能系統(tǒng)的能力嗎?除了丘腦-皮質(zhì)系統(tǒng)外，樹突在本文討論的一些意識(shí)理論中起著關(guān)鍵作用,。樹突只是增加生物神經(jīng)網(wǎng)絡(luò)計(jì)算復(fù)雜性/效率的一個(gè)因素,，還是還有更多作用?
• 5. 生命系統(tǒng)的組織復(fù)雜性與意識(shí)有關(guān)嗎?生命系統(tǒng)由不同層次的處理過(guò)程組成，這些過(guò)程相互作用,。生命系統(tǒng)的組織復(fù)雜性能否得到更完整詳細(xì)的解釋?是否需要新的數(shù)學(xué)框架來(lái)處理這樣的系統(tǒng),，以更多地闡明意識(shí)意識(shí)產(chǎn)生的生物過(guò)程？
• 6. 一些理論表明,，意識(shí)和能動(dòng)性是密不可分的,。要理解意識(shí)是如何從生物活動(dòng)中產(chǎn)生的，需要先理解能動(dòng)性嗎?

原文鏈接

• Aru, J., Larkum, M.E. and Shine, J.M. (2023b) ‘The feasibility of artificial consciousness through the lens of neuroscience’, Trends in Neurosciences [Preprint]. doi:10.1016/j.tins.2023.09.009.