原文來源：追問NextQuestion

圖片來源：由無界 AI生成

和大語言模型（LLM）交互，我們總會隱約覺得它們可能真的有意識,。然而,，從神經(jīng)科學(xué)家們的視角來看,，這種觀點似乎很難站得住腳,。

最近，一篇發(fā)表于Cell子刊Trends in Neurosciences的論文中,，三位分別來自計算機科學(xué),、生物學(xué)和神經(jīng)科學(xué)的學(xué)者深層剖析了“人工智能能否產(chǎn)生意識,？”這個問題。

從結(jié)論上看,，他們一致認為：LLM在目前的形式下不可能具有意識,。這么斬釘截鐵的觀點是怎么來的呢？來看他們的具體闡述,。

?圖源：Cell

LLM 與意識

長期以來，人們一直在追問,，哪些動物具有意識,，以及除了動物之外還有哪些實體擁有意識。最近LLM的出現(xiàn)為這個問題帶來了全新的視角,。它向我們展現(xiàn)了自己精湛的交談能力（這是人類具有意識的一種表現(xiàn)）,，也使我們對“理解力”、“智能”和“意識”三個概念開始重新定義和思考,。

LLM是擁有數(shù)十億連接權(quán)重的復(fù)雜多層人工神經(jīng)網(wǎng)絡(luò),，這些權(quán)重通過數(shù)百億字的文本數(shù)據(jù)進行訓(xùn)練，這其中也包括人類之間的自然語言對話,。通過文字提問,，用戶會被引入一個令人著迷的模擬語境中。如果你肯花時間使用這些系統(tǒng),，就很難不被其網(wǎng)絡(luò)內(nèi)部所展現(xiàn)出來的深度和質(zhì)量所震撼,。問它一個問題,，它的回答往往與一個具有意識的個體能產(chǎn)生的回答微妙的相似。因此,，作為一個有洞察力,、有意識的個人，我們就很容易得出結(jié)論：我所接收到的回答是由一個同樣具有“意識”的個體產(chǎn)生的,，這個有“意識”的個體既能夠思考,、感受、推理,，還頗具經(jīng)驗,。

基于這類“圖靈測試”結(jié)果，我們不禁要問,，LLM是否已經(jīng)具有意識,，抑或是即將擁有意識？然而,，這個問題反過來又將引出一系列的道德困境,，例如繼續(xù)開發(fā)在“意識”覺醒邊緣反復(fù)徘徊的LLM是否合乎倫理？在當(dāng)今神經(jīng)科學(xué)界,，人們并不普遍接受LLM具有“意識”這一觀點,，但隨著人工智能系統(tǒng)能力的不斷提升，關(guān)于該觀點的討論不可避免地又重新被擺上臺面,。此外,，各大新聞媒體也在廣泛討論這一問題，促使著神經(jīng)科學(xué)家們從自己專業(yè)的角度對這一問題進行客觀的正反解讀,。?

關(guān)于LLM具有潛在意識的觀點往往會得到一類重要依據(jù)的支持,，那就是LLM的架構(gòu)在很大程度上受到了大腦特征的啟發(fā)（圖1），而大腦是我們目前唯一能自信地將其歸因于“有意識”的對象,。盡管早期的人工神經(jīng)網(wǎng)絡(luò)是以大腦皮層的簡化版為基礎(chǔ)來設(shè)計的,，而現(xiàn)代的LLM經(jīng)過高度工程化，并根據(jù)特定目的進行了調(diào)整,，不再保留與已知大腦結(jié)構(gòu)的深層同源性,。事實上，許多讓LLM在計算上強大的通路特征（圖1）與我們目前認為在哺乳動物的意識產(chǎn)生和塑造中具有因果力的系統(tǒng)有著截然不同的架構(gòu),。例如，與意識產(chǎn)生相關(guān)的許多神經(jīng)科學(xué)理論認為,，丘腦-皮質(zhì)系統(tǒng)與覺醒系統(tǒng)在意識處理中發(fā)揮了核心作用,，然而，現(xiàn)代LLM并不具備這兩大系統(tǒng),。

圖1：哺乳動物大腦和大型語言模型之間的宏觀拓撲差異 圖源：Trends in Neurosciences

這時有人可能會問,，為什么LLM的架構(gòu)要模仿大腦的特征，這一點有那么重要嗎,？

在我們看來,，主要原因是：我們目前只能確定一種意識的存在，它來自嵌入復(fù)雜身體的大腦,。有人可能認為,，從嚴格意義上說，這個論點可能要進一步縮減到僅涉及人類,，盡管許多被認為對主觀意識發(fā)揮重要作用的系統(tǒng)級特征在整個生物譜系上普遍存在,，一直延伸到哺乳動物，甚至是無脊椎動物,。

話說回來,，讓我們首先從“意識”的確切含義開始。然后,，我們將提出三個反對當(dāng)前人工智能系統(tǒng)具有或未來將很快具有意識的觀點的論點：

• 1. 意識與對生物體有意義的感覺流相關(guān)聯(lián),；
• 2. 在哺乳動物大腦中，意識得到高度相互連接的丘腦-皮質(zhì)系統(tǒng)的支持,；
• 3. 意識可能與生物體系的復(fù)雜生物組織密不可分,。

意識是什么？

意識是一個復(fù)雜的概念,，其定義一直存在爭議,。在人類彼此能交流互動的背景下，交流對話能力是評估一個人是否具有意識的本能要素,。

與LLM基于語言的互動對話常常是在培養(yǎng)一種直觀的感受,，這也是用于判斷LLM是否可能具有意識的起點。然而,，盡管LLM的交互式對話能力非常出色,，但這并不能達到具有意識的正式客觀的衡量標準，只是其具有智能的初步證據(jù),。

LLM的出現(xiàn)使得我們需要重新評估一個人是否能夠直接從與他人的言語互動中產(chǎn)生意識,。因此，一種新的觀點認為,，我們需要重新制定類人能力和類人特征的評判標準,。

“意識”一詞往往具有不同的含義。例如,，神經(jīng)病學(xué)家經(jīng)常提到的“意識水平”,，即首先評估一個人是否具有意識，再以一種更精細的方式評估意識的層次或特定狀態(tài)。相比而言,，心理學(xué)家則更關(guān)注意識的內(nèi)容：即個人內(nèi)心世界的具體經(jīng)驗,、記憶和思想。此外,，意識的不同內(nèi)容之間也有區(qū)別,。我們的經(jīng)驗可以被描述為現(xiàn)象或體驗性的（比方說，看到或聞到一個蘋果,，或者觸摸到你的手臂）,，也可以是更抽象的形式（例如，我們?nèi)绾蜗胂?、展望或操作概念記憶）?/p>

關(guān)于人工智能系統(tǒng)是否具有意識這一問題,，可以通過多種測試方式來回答：既可以重點關(guān)注意識的某些含義，也可以同時關(guān)注意識的所有含義,。在下文中,，我們主要關(guān)注現(xiàn)象意識，并探討機器是否能夠現(xiàn)象性地體驗世界,。

關(guān)于環(huán)境

生物體在感知外界世界的過程中能夠被利用的部分被稱為它的環(huán)境,。例如，人類視網(wǎng)膜對波長380 nm – 740 nm的光有反應(yīng),，即視網(wǎng)膜能夠感知由藍到紅的光譜,。如果沒有外界技術(shù)輔助，人類就無法檢測到該波長范圍之外的紅外光（>740 nm）或紫外光（<380 nm）,。我們在聽覺,、體感覺、前庭覺方面也有類似的環(huán)境,，即相應(yīng)的聽覺域（人類耳朵能夠聽到20 Hz –20000 Hz的聲音）,、體感域（人類可以區(qū)分距身體某些部位約1毫米范圍內(nèi)的刺激）和前庭域（人類半規(guī)管的3D結(jié)構(gòu)互相連接為我們提供內(nèi)在的平衡感）。同時,，自然界的其它物種能夠檢測到電磁頻譜其他波段的信號,。例如，蜜蜂可以看到紫外線范圍內(nèi)的光,，蛇除了可以檢測到更傳統(tǒng)的視覺信號外,，還可以檢測到紅外輻射信號。

也就是說,，不同動物的身體和大腦能夠感知它們周圍環(huán)境的敏感性不同,。美國心理學(xué)家Gibson將生物體在特定的環(huán)境中的行動可能性稱為“可供性”（隨著互聯(lián)網(wǎng)技術(shù)的滲透，可供性開始被用于解釋數(shù)字技術(shù)在媒體實踐和人類日常交往中的應(yīng)用）,。

按這么定義,，那么LLM的環(huán)境是什么,？LLM具有怎樣的可供性？根據(jù)其算法設(shè)計的本質(zhì),，LLM僅具有二進制編碼模式，只能接收二進制信息輸入,，并進一步執(zhí)行復(fù)雜的transformer結(jié)構(gòu)中固有的網(wǎng)絡(luò)算法,，這構(gòu)成了當(dāng)今LLM的工作架構(gòu)。雖然神經(jīng)元尖峰發(fā)放也能夠?qū)魅氲哪M信號編碼為數(shù)字信號（即二進制信號）,，但傳遞到LLM的信息流是高度抽象的,，這些高度抽象的信息流本身與外部世界并沒有任何緊密的聯(lián)系。被編碼成一串字母的文本和語音根本無法與自然世界的動態(tài)復(fù)雜性相匹配,，即LLM的環(huán)境（提供給它的二進制信息）與我們睜開眼睛或交流對話時進入大腦的信息以及隨之而來的體驗相比,，具有本質(zhì)區(qū)別。傳統(tǒng)哲學(xué)論述強調(diào)了不同物種之間信息流的獨特性（例如,，人類與蝙蝠之間的區(qū)別）以及這些經(jīng)驗的現(xiàn)象學(xué)特征,。我們認為，LLM獲得的信息輸入可能會表現(xiàn)出更顯著的差異,，雖然暫時還沒有確切的方法來量化這種差異,。

話雖如此，未來人工智能系統(tǒng)的輸入將會不可阻擋地變得更加豐富,。未來的LLM可以配備不同類型的輸入,，這能夠與有意識的智能體每天能訪問的信號類型（即自然世界的統(tǒng)計數(shù)據(jù)）更好地進行匹配。那么,，未來人工智能系統(tǒng)的可用環(huán)境會比人類的環(huán)境范圍更廣嗎,？

在回答這一問題時，我們必須認識到人類的潛意識和意識體驗不僅僅由感官輸入決定,。例如,，想象當(dāng)我們躺在一個浮箱中，盡管我們?nèi)狈φ５母泄袤w驗,，但我們?nèi)匀痪哂幸庾R,。這里強調(diào)了一個概念，即環(huán)境預(yù)設(shè)了一種固有的主觀視角,，也就是說,，要從一個主體出發(fā)。同樣,，可供性取決于主體的內(nèi)部性質(zhì),，特別是主體的動機和目標。這意味著僅僅通過環(huán)境（LLM的輸入數(shù)據(jù)）還不能夠產(chǎn)生意識,。因此,，簡單地向人工智能系統(tǒng)輸入大量數(shù)據(jù)流并不能夠使智能系統(tǒng)自身產(chǎn)生意識。

這一觀點可能會促使我們重新思考意識科學(xué)中的一些基本假設(shè)。具體來說,，隨著人工智能系統(tǒng)逐步表現(xiàn)出越來越復(fù)雜的能力,，研究者將不得不重新評估某些意識理論所提出的更基本的自我和與智能體相關(guān)的過程對于意識出現(xiàn)的必要性,。

意識的“整合”

目前,，學(xué)界已有許多關(guān)于意識的神經(jīng)相關(guān)性研究，其中關(guān)于意識處理的神經(jīng)環(huán)路有許多不同的理論,。一些強調(diào),，意識是由密集的、高度連接的丘腦-皮質(zhì)網(wǎng)絡(luò)支撐的,。丘腦-皮質(zhì)網(wǎng)絡(luò)包括皮質(zhì)區(qū)域,、皮質(zhì)-皮質(zhì)連接以及高級丘腦核團向皮質(zhì)區(qū)域的發(fā)散投射。丘腦-皮質(zhì)系統(tǒng)的這種特定結(jié)構(gòu)支持循環(huán)和復(fù)雜的思想處理,，這些思想處理是意識和意識整合的基礎(chǔ)（即,，盡管意識產(chǎn)生于不同的大腦區(qū)域，但意識是統(tǒng)一的）,。然而,，不同理論對實現(xiàn)意識整合的方式持有不同觀點。

根據(jù)全局神經(jīng)元工作空間理論（global neuronal workspace theory, GNW）,，意識依賴于由分布式額頂葉皮質(zhì)系統(tǒng)構(gòu)成的中央工作空間,。這個工作空間整合了來自局部皮質(zhì)處理器的信息，然后在全局范圍內(nèi)將其傳遞給所有的皮質(zhì)局部處理器,，全局傳遞將有意識和無意識過程區(qū)分開來,。其它意識理論認為，意識整合是由其它神經(jīng)過程來實現(xiàn)的,。例如,，神經(jīng)元樹突整合理論（dendritic integration theory, DIT）表明，意識整合是通過不同皮質(zhì)區(qū)域之間的高頻同步現(xiàn)象產(chǎn)生的,，根據(jù)所涉及的皮質(zhì)區(qū)域不同,，這一現(xiàn)象可能涉及包括感知、認知或運動規(guī)劃等在內(nèi)的不同功能,。

?圖2：基于神經(jīng)元樹突整合理論（DIT）的意識整合的神經(jīng)結(jié)構(gòu) 圖源：Trends in Neurosciences

圖注：在DIT理論（圖2）中，研究人員認為全局意識整合同樣取決于皮質(zhì)第五層錐體神經(jīng)元的局部整合,，這種神經(jīng)元是一種在丘腦-皮質(zhì)和皮質(zhì)環(huán)路中都占據(jù)中心地位的大型興奮性神經(jīng)元,。這類神經(jīng)元有兩個主要結(jié)構(gòu)（圖2，橙色和紅色圓柱體）,，分別處理完全不同類型的信息：基底結(jié)構(gòu)（紅色）處理外部基本信息,，而頂端結(jié)構(gòu)（橙色）處理內(nèi)部生成的信息,。根據(jù)DIT理論，在意識狀態(tài)下,，這兩個結(jié)構(gòu)相互耦合,，允許信息通過丘腦-皮質(zhì)和皮質(zhì)-皮質(zhì)環(huán)路流動，從而實現(xiàn)全系統(tǒng)信息的整合和意識產(chǎn)生,。?

值得注意的是,，當(dāng)今LLM和其他人工智能系統(tǒng)的架構(gòu)都缺乏這些理論所強調(diào)的特征：現(xiàn)有LLM既沒有等效的雙結(jié)構(gòu)錐體神經(jīng)元，也沒有集中的丘腦架構(gòu),、全局工作空間或上升覺醒系統(tǒng)的多個特點。換句話說,，現(xiàn)有人工智能系統(tǒng)缺少目前神經(jīng)科學(xué)界所認為的支撐意識產(chǎn)生的大腦特征,。盡管哺乳動物的大腦不是唯一能夠支撐意識產(chǎn)生的結(jié)構(gòu)，但來自神經(jīng)生物學(xué)的證據(jù)表明,，哺乳動物意識的形成是由非常具體的結(jié)構(gòu)原理（即整合神經(jīng)元和激發(fā)神經(jīng)元之間的簡單連接）所決定的,。從拓撲結(jié)構(gòu)上講，現(xiàn)有人工智能系統(tǒng)的結(jié)構(gòu)極其簡單,，這也是我們不認為現(xiàn)有人工智能系統(tǒng)具有現(xiàn)象意識的原因之一,。??

那么，未來的AI模型是否最終能夠?qū)⒃S多意識理論視為核心的“整合”過程融入其中呢,？針對這一問題,，GNW理論所提出的“集成”概念提供了一個相對簡單的實現(xiàn)方式。實際上,，一些最近的人工智能系統(tǒng)已經(jīng)融入了類似于由本地處理器共享的全局工作空間,。由于全局傳遞的計算過程可以在人工智能系統(tǒng)中實現(xiàn)，因此根據(jù)該理論,，采用該計算方式的人工智能系統(tǒng)將包含潛在意識的核心成分,。

然而，如前所述,，并不是所有的意識理論都認同這種整合方式就是意識產(chǎn)生的關(guān)鍵,。例如，意識的整合信息理論認為,，在典型的現(xiàn)代計算機上實現(xiàn)的基于軟件的人工智能系統(tǒng)不可能具有意識,，因為現(xiàn)代計算機沒有適當(dāng)?shù)募軜?gòu)實現(xiàn)充分集成信息所需的因果推理能力。因此,，我們將考慮第三種可能性,，即意識在原則上是可以實現(xiàn)的，但它可能需要超出當(dāng)前（也許是未來）人工智能系統(tǒng)的計算特異性水平,。

意識是一個復(fù)雜的生物學(xué)過程

意識的產(chǎn)生不僅依賴于系統(tǒng)的架構(gòu),。例如,，當(dāng)我們處于深度睡眠或麻醉狀態(tài)時，丘腦-皮質(zhì)系統(tǒng)的結(jié)構(gòu)沒有發(fā)生變化,，但意識卻消失了,。即使在深度睡眠中，主要感覺區(qū)域的局部神經(jīng)反應(yīng)和伽馬帶活動也與有意識狀態(tài)相似,。這表明,，意識依賴于特定的神經(jīng)過程，但在有意識和無意識的大腦中這些神經(jīng)過程是不同的,。

為了闡明有意識與無意識處理之間的細節(jié)差異,，讓我們先回過頭來看神經(jīng)元樹突整合理論（DIT）。DIT理論包含了與有意識和無意識處理的神經(jīng)過程相關(guān)的一些神經(jīng)生物學(xué)方面細微的差別,。DIT理論提出,，有意識和無意識處理之間的關(guān)鍵區(qū)別在于錐體細胞的兩個區(qū)室結(jié)構(gòu)的整合（圖2）。如前所述,，在有意識處理期間,，這兩個結(jié)構(gòu)相互作用，從而使整個丘腦-皮質(zhì)系統(tǒng)能夠處理和整合復(fù)雜的信息,。然而,，在麻醉狀態(tài)下，各種麻醉劑導(dǎo)致椎體神經(jīng)元兩個結(jié)構(gòu)之間的功能解耦,。換句話說,，這些椎體神經(jīng)元雖然在解剖學(xué)上是完整的，可以激發(fā)動作電位,，但其樹突整合能力在生理上受到嚴重限制,，即自上而下的反饋信息不能影響處理過程。研究表明,，這種樹突耦合是由代謝型受體控制的,，然而在計算模型和人工神經(jīng)網(wǎng)絡(luò)中該結(jié)構(gòu)經(jīng)常被忽視。此外,，研究表明,，在這種情況下，高級丘腦核團控制這種代謝型受體的活性,。因此,，特定的神經(jīng)生物學(xué)過程可能負責(zé)在大腦中“開啟”和“關(guān)閉”意識。這表明,，哺乳動物大腦中經(jīng)驗的質(zhì)量與其產(chǎn)生意識的潛在過程有著錯綜復(fù)雜的關(guān)系,。

盡管這些理論依據(jù)足以令人信服，幾乎可以肯定的是,，和距離完全理解意識產(chǎn)生的神經(jīng)過程的復(fù)雜性相比,，這些知識仍然稍顯蒼白,。我們目前對意識的解釋依賴于全球工作空間、整合信息,、循環(huán)處理,、樹突整合等理論，但真實意識產(chǎn)生的生物過程可能比當(dāng)前這些理論所理解的要復(fù)雜得多,。甚至很有可能目前用于構(gòu)建意識研究討論的抽象計算級思想可能完全沒有考慮到解釋意識所需的必要計算細節(jié),。

換言之，生物學(xué)是復(fù)雜的,，我們目前對生物計算的理解是有限的（圖3）,，因此也許我們?nèi)狈φ_的數(shù)學(xué)和實驗工具來理解意識。

?圖2：基于神經(jīng)元樹突整合理論（DIT）的意識整合的神經(jīng)結(jié)構(gòu) 圖源：Trends in Neurosciences

圖注：在DIT理論（圖2）中,，研究人員認為全局意識整合同樣取決于皮質(zhì)第五層錐體神經(jīng)元的局部整合，這種神經(jīng)元是一種在丘腦-皮質(zhì)和皮質(zhì)環(huán)路中都占據(jù)中心地位的大型興奮性神經(jīng)元,。這類神經(jīng)元有兩個主要結(jié)構(gòu)（圖2，橙色和紅色圓柱體）,，分別處理完全不同類型的信息：基底結(jié)構(gòu)（紅色）處理外部基本信息,，而頂端結(jié)構(gòu)（橙色）處理內(nèi)部生成的信息。根據(jù)DIT理論,，在意識狀態(tài)下,，這兩個結(jié)構(gòu)相互耦合，允許信息通過丘腦-皮質(zhì)和皮質(zhì)-皮質(zhì)環(huán)路流動,，從而實現(xiàn)全系統(tǒng)信息的整合和意識產(chǎn)生,。?

為了更好的理解生物復(fù)雜性，需要強調(diào)上文描述的細胞和系統(tǒng)層面發(fā)生的生物過程必須發(fā)生于一個生物活體中,，二者不可分割,。活體生物不同于當(dāng)今的機器和人工智能算法,，因為它們能夠在不同處理層次不斷地進行自我維護,。此外，生命系統(tǒng)有著多方面的進化和發(fā)展歷史,，它們的存在取決于它們在多個組織層面上的活動,。意識與生命系統(tǒng)的組織有著錯綜復(fù)雜的聯(lián)系。然而,，值得注意的是,，當(dāng)今的計算機并不能夠體現(xiàn)生命系統(tǒng)的這種組織復(fù)雜性（即系統(tǒng)的不同層次之間的相互作用）。這表明,，現(xiàn)代人工智能算法沒有任何組織層次上的約束,，也無法像一個生命系統(tǒng)一樣有效地工作,。這意味著只要人工智能是基于軟件的，它就可能不適合具有意識和智能,。

生物復(fù)雜性的概念在細胞水平上也能夠體現(xiàn),。生物神經(jīng)元不只是一個可以用幾行代碼完全捕捉的抽象實體。相反,，生物神經(jīng)元具有多層次的組織,，并依賴于神經(jīng)元內(nèi)部復(fù)雜的生物物理過程的進一步級聯(lián)。以“克雷布斯循環(huán)”為例,，它是細胞呼吸的基礎(chǔ),，是維持細胞穩(wěn)態(tài)的關(guān)鍵過程。細胞呼吸是一個關(guān)鍵的生物過程,，使細胞能夠?qū)⒂袡C分子中儲存的能量轉(zhuǎn)化為細胞可以利用的能量形式,。然而，這個過程不能被“壓縮”到軟件中,，因為像細胞呼吸這樣的生物物理過程需要基于真實的物理分子,。當(dāng)然，這也不意味著意識需要“克雷布斯循環(huán)”,，而是強調(diào)理解意識的過程中可能涉及類似的挑戰(zhàn),，即也許意識并不能從底層機制中被抽離出來。

然而,，我們并不完全贊同意識根本無法由智能系統(tǒng)產(chǎn)生的說法,，但卻必須考慮意識與生命背后復(fù)雜的生物組織之間的相關(guān)性，捕捉意識本質(zhì)的計算類型可能比我們目前理論所理解的要復(fù)雜得多（圖3）,。對意識進行“活體組織檢查”并將其從組織中移除幾乎是不可能的,。這一觀點與目前許多有關(guān)意識的理論相矛盾，這些理論認為意識可以在抽象的計算層面上產(chǎn)生,。現(xiàn)在,，這一假設(shè)需要根據(jù)現(xiàn)代人工智能系統(tǒng)進行更新了：為了充分理解意識，我們不能忽視在生命系統(tǒng)中觀察到的跨尺度的相互依賴性和組織復(fù)雜性,。

盡管人工智能系統(tǒng)在網(wǎng)絡(luò)計算層面模仿了它們的生物對應(yīng)物,，但在這些系統(tǒng)中，已經(jīng)抽象掉了生物過程中所有其他層面的處理,，這些處理在大腦中與意識有著緊密的因果關(guān)系,，因此，現(xiàn)有人工智能系統(tǒng)可能已經(jīng)抽象掉了意識本身,。這樣一來，LLM和未來的人工智能系統(tǒng)可能將被困在無止境的模擬意識特征,，但卻沒有任何現(xiàn)象意識可言,。如果意識的確與這些其他層次的處理有關(guān),，或者與它們在不同尺度之間的相互作用有關(guān)，那么我們離機器產(chǎn)生意識的可能性還很遠,。

總結(jié)

在這里,，我們從神經(jīng)科學(xué)的角度對LLM和未來的人工智能系統(tǒng)中意識的可能性進行了探討。盡管LLM頗具吸引力,，但它們并不具有意識,，并且不會在未來較短的時間里具有意識。

首先,，我們說明了哺乳動物的環(huán)境（它們可以感知的外部世界的“一小部分”）與LLM高度貧乏和有限的環(huán)境之間的巨大差異,。其次，我們認為,，LLM的拓撲結(jié)構(gòu)雖然非常復(fù)雜，但在經(jīng)驗上與哺乳動物意識相關(guān)環(huán)路的神經(jīng)生物學(xué)細節(jié)有很大不同,，因此沒有充分的理由認為LLM能夠產(chǎn)生現(xiàn)象意識（圖1）。目前我們還不可能將意識從生物組織復(fù)雜性中抽象出來,，這種組織復(fù)雜性是生命系統(tǒng)固有的,，但顯然在人工智能系統(tǒng)中卻并不存在?？偟膩碚f,，以上三個關(guān)鍵點使得LLM在目前的形式下不可能具有意識。它們僅模仿了用來描述意識體驗豐富性的人類自然語言交流的特征,。

通過本文,，我們希望所提出的觀點能夠產(chǎn)生一些積極的影響與思考（見尚未解決的追問），并不僅代表一種反對意見,。首先,，目前對LLM的感知能力在倫理層面潛在的擔(dān)憂更多是假設(shè)的而非真實的。此外,，我們相信,，對LLM和哺乳動物大腦拓撲結(jié)構(gòu)的異同的深入理解，能夠推進機器學(xué)習(xí)和神經(jīng)科學(xué)的進步,。我們也希望通過模仿大腦組織的特征和學(xué)習(xí)簡單的分布式系統(tǒng)如何處理復(fù)雜的信息流來推動機器學(xué)習(xí)和神經(jīng)科學(xué)界的進展。出于這些原因,，我們樂觀地認為,，人工智能研究人員和神經(jīng)科學(xué)家之間未來的合作能夠促進對意識更加深入的理解,。

尚未解決的追問：

• 1. LLM和人工智能中的意識評估通常依賴于基于語言的測試來檢測意識。是否有可能僅基于語言（即文本）來評估意識?是否有更進一步的評判特征可以幫助判斷人工系統(tǒng)是否具有意識?
• 2. 哺乳動物意識的神經(jīng)基礎(chǔ)與丘腦-皮質(zhì)系統(tǒng)有關(guān),。如何在人工智能中實現(xiàn)丘腦-皮質(zhì)系統(tǒng)?哪些特定的功能和任務(wù)將受益于類似丘腦-皮質(zhì)的系統(tǒng)?
• 3. 上升覺醒系統(tǒng)在生物體意識產(chǎn)生方面也起著至關(guān)重要的作用,，其在神經(jīng)動力學(xué)的塑造方面發(fā)揮著復(fù)雜的、多方面的作用,。人工智能需要在多大程度上模仿這些不同的過程,，才能獲得上升覺醒系統(tǒng)的計算優(yōu)勢?
• 4. 生物細節(jié)可以增強人工智能系統(tǒng)的能力嗎?除了丘腦-皮質(zhì)系統(tǒng)外，樹突在本文討論的一些意識理論中起著關(guān)鍵作用,。樹突只是增加生物神經(jīng)網(wǎng)絡(luò)計算復(fù)雜性/效率的一個因素,，還是還有更多作用?
• 5. 生命系統(tǒng)的組織復(fù)雜性與意識有關(guān)嗎?生命系統(tǒng)由不同層次的處理過程組成，這些過程相互作用,。生命系統(tǒng)的組織復(fù)雜性能否得到更完整詳細的解釋?是否需要新的數(shù)學(xué)框架來處理這樣的系統(tǒng),，以更多地闡明意識意識產(chǎn)生的生物過程？
• 6. 一些理論表明,，意識和能動性是密不可分的,。要理解意識是如何從生物活動中產(chǎn)生的，需要先理解能動性嗎?

原文鏈接

• Aru, J., Larkum, M.E. and Shine, J.M. (2023b) ‘The feasibility of artificial consciousness through the lens of neuroscience’, Trends in Neurosciences [Preprint]. doi:10.1016/j.tins.2023.09.009.