編者按：被 OpenAI 的 Superalignment 研究團(tuán)隊(duì)解雇的 Leopold Aschenbrenner 最近發(fā)表了一篇關(guān)于人工智能的長(zhǎng)篇大作，里面宣稱根據(jù)他的曲線預(yù)測(cè),，人類到2027年就能實(shí)現(xiàn)通用人工智能。本文是對(duì)這一預(yù)測(cè)的討論,。文章來(lái)自編譯,。

搞人工智能的人存在著兩個(gè)重大分歧,。一種是認(rèn)為這種技術(shù)屬于真正有用的迭代性改進(jìn)，可實(shí)現(xiàn)軟件的新用例,。人工智能會(huì)是下一個(gè)云計(jì)算,，下一個(gè)智能手機(jī)。

另一方觀點(diǎn)就要極端得多,。他們相信人工智能終有一天會(huì)變成通用人工智能 (AGI),，然后不斷自我完善，達(dá)到比我們聰明 10 倍的程度。但何時(shí)會(huì)實(shí)現(xiàn)這一點(diǎn)仍存在爭(zhēng)議,。AGI究竟會(huì)毀了我們還是會(huì)賦予我們力量也存在爭(zhēng)議,。這項(xiàng)技術(shù)會(huì)如何自我完善也存在爭(zhēng)議。但這股信念實(shí)在是太堅(jiān)定了,，以至于每個(gè)人工智能研究小組都至少會(huì)有幾個(gè)追隨者,。

就算你跟當(dāng)今大多數(shù)投資者和創(chuàng)始人一樣，斷然否認(rèn)第二種情況,，其有效性也是值得思考的,。因?yàn)槿蚰承┳畲笮偷墓径颊J(rèn)為這是真的。埃隆·馬斯克相信,，我們會(huì)在不到兩年的時(shí)間內(nèi)擁有 AGI,。微軟正在制定計(jì)劃，要打造一臺(tái)價(jià)值 1000 億美元的超級(jí)計(jì)算機(jī),，好去開發(fā)足夠大的 AGI 模型,，并計(jì)劃在約六年內(nèi)完成。全世界最重要的人工智能公司——OpenAI,、Google DeepMind,、Anthropic——都把 AGI 作為自己的明確使命。

今天之所以要討論這個(gè)話題,，是因?yàn)檫@張圖,。此圖摘自最近被 OpenAI 的 Superalignment 研究團(tuán)隊(duì)解雇的 Leopold Aschenbrenner 的系列長(zhǎng)文（長(zhǎng)達(dá) 165 頁(yè)）。該系列文章的標(biāo)題叫做“情境感知”（ Situational Awareness）,，他論證了為什么第二組是正確的,，以及我們應(yīng)該怎么做。

這張圖表的基本觀點(diǎn)：前幾代 LLM 的能力均呈現(xiàn)出可預(yù)測(cè)的對(duì)數(shù)增長(zhǎng)。只要把訓(xùn)練的投資增加 10 倍,，LLM 的能力就會(huì)出現(xiàn)可預(yù)測(cè)的大幅飛躍,。Aschebrenner 認(rèn)為，我們距離人工智能能夠進(jìn)行人工智能研究（從而不斷自我改進(jìn)）還有約兩到三個(gè)數(shù)量級(jí)（OOM）的投資距離,。他說(shuō),，只要培養(yǎng)出“一億個(gè)自主的機(jī)器學(xué)習(xí)研究人員”就能夠做到這一點(diǎn)。當(dāng)然,！為什么不呢,？

Aschenbrenner 選擇通過播客采訪以及大量的 Twitter 帖子來(lái)發(fā)表這些文章，這背后有他自己的動(dòng)機(jī),。在我看來(lái),，這篇文章就像一位被拋棄的情人試圖奪回自己失去的東西——也就是在被 OpenAI 解雇后重新奪回自己在人工智能社區(qū)的權(quán)威地位。他有雙重動(dòng)機(jī)想要用這些文章來(lái)引起轟動(dòng),，因?yàn)樗白罱闪⒘艘患覍Ｗ⒂?AGI 的投資公司,，公司的主要投資人包括 Patrick Collison,、John Collison、Nat Friedman 以及 Daniel Gross,?！保ň吞岣呷藗儗?duì)投資工具的興趣而言，在線 PDF 的有效性高得令人驚訝,。）

他對(duì)自己的觀點(diǎn)很有信心,，甚至向我這樣的技術(shù)股票分析師發(fā)出了挑戰(zhàn)，稱“幾乎沒人在分析時(shí)對(duì)人工智能的未來(lái)給予了充分考慮,?！笔紫龋@很無(wú)禮,。其次,，他的話也許是對(duì)的。如果超人的智能真的將在三年內(nèi)實(shí)現(xiàn)的話,，那我一直在做的那些五年期的財(cái)務(wù)模型可能就是一張廢紙,。至少，他的文章提供了一個(gè)有用的框架工具,，可以用來(lái)檢驗(yàn)對(duì) AGI 的看法,。從本質(zhì)上來(lái)說(shuō)，他的論點(diǎn)建立在三個(gè)系列假設(shè)之上,。

AGI 的三個(gè)杠桿

我們從圖表的 Y 軸開始：“有效計(jì)算”（ Effective Compute）,。這個(gè)標(biāo)簽用三種不同的方式總結(jié)了 LLM 的改進(jìn)和投資：

1. 計(jì)算：“用來(lái)訓(xùn)練這些模型的計(jì)算機(jī)”的大小，也就是使用了多少個(gè) GPU

2. 算法效率：技巧的質(zhì)量改進(jìn)使得這些模型的訓(xùn)練更加高效和強(qiáng)大

3. “解除束縛”的收益：我們所開發(fā)的,，賦予了 LLM 額外力量的工具和技術(shù)（如瀏覽互聯(lián)網(wǎng)）

你應(yīng)該可以注意到,，這三個(gè)變量當(dāng)中只有一個(gè)是數(shù)字型，并且可以很好地用電子表格跟蹤 — 也就是計(jì)算,，或者說(shuō)有多少 GPU 在用,。算法效率和“解除束縛”是對(duì)持續(xù)取得科學(xué)突破押注，不是對(duì)資本支出押注,。

但這并不能否定Aschenbrenner的計(jì)算,！這種持續(xù)突破有過先例。經(jīng)常被引用的摩爾定律既有賴于對(duì)芯片制造商明確的可量化的投資,，也有賴于晶體管技術(shù)完全無(wú)法量化的科學(xué)突破,。Aschenbrenner主張摩爾定律得改一下，要考慮到 GPU 芯片計(jì)算機(jī)的 OOM 收益以及科學(xué)突破促進(jìn)了人工智能能力的提升,，這是必不可少的,。

他的證據(jù)是，到目前為止，有效計(jì)算每提升一個(gè)數(shù)量級(jí),，模型都會(huì)“可預(yù)測(cè)地,、可靠地”變得更好。視頻生成就是這種情況：

GPT 系列模型也取得了類似的跳躍式改進(jìn),，現(xiàn)在它們?cè)跇?biāo)準(zhǔn)化測(cè)試的表現(xiàn)可以超越絕大多數(shù)人類。

這些模型已經(jīng)強(qiáng)大到大多數(shù)的基準(zhǔn)測(cè)試都沒什么用了,。它們變得太聰明了，已經(jīng)測(cè)不出它們的水平,。鑒于目前投入到人工智能領(lǐng)域的人才與資本的數(shù)量,，至少在未來(lái)幾年內(nèi)，模型繼續(xù)取得改進(jìn)是合理的預(yù)期,。至少,，如果英偉達(dá) 3 萬(wàn)億美元的市值算是跡象之一的話，我們知道計(jì)算還會(huì)繼續(xù)擴(kuò)大規(guī)模,。

到目前為止一切順利,。我們可能正走在通往 AGI 的道路上。不過,，我對(duì) Aschenbrenner 的第三種“解除束縛”有很大異議,。

杠桿的無(wú)效之處

Aschenbrenner 的前兩類主要集中在我所謂的“讓模型變得更智能”的改進(jìn)上。從 GPT2 到 GPT4,，每提高一個(gè)數(shù)量級(jí)都讓 LLM 回答的準(zhǔn)確性和智能性有所提高,。相比之下，他對(duì)“解除束縛”的看法則不一樣,，他寫道：

“至關(guān)重要的是,，不要只是想象一個(gè)非常聰明的 ChatGPT：接觸束縛的收益應(yīng)該意味著它看起來(lái)更像是一個(gè)遠(yuǎn)程辦公的不速之客，一個(gè)非常聰明的智能體,，可以推理,、計(jì)劃和糾正錯(cuò)誤，了解你和你的公司的一切,，并且可以連續(xù)數(shù)周獨(dú)立解決問題?！?/p>

這些能力與讓模型變得更大,、更有效的能力有著根本的不同。許多人工智能研究人員認(rèn)為,，規(guī)劃是算法設(shè)計(jì)的結(jié)果,，而不僅僅是讓模型變得更大。模型規(guī)模變大并沒有讓LLM獲得著眼長(zhǎng)遠(yuǎn)的能力。你得用不同的方式去構(gòu)建模型,，而不僅僅是讓它們變得更大,，這需要一種新型的科學(xué)突破——而且沒有定量的方法可以衡量什么時(shí)候會(huì)出現(xiàn)這種突破。關(guān)于規(guī)劃能力的時(shí)間表,，人們有著各種各樣的意見,，很多都來(lái)自學(xué)術(shù)頭銜比我多的人。不過,，科學(xué)家之間的這種分歧正是我的觀點(diǎn),。Aschenbrenner關(guān)于讓 GPU 變得更大的說(shuō)法可能行得通，但這應(yīng)該是一個(gè)重大假設(shè),，而不是明確事實(shí),。

此外，“了解關(guān)于你的一切”并不是模型擴(kuò)展的結(jié)果,！這個(gè)要由模型可以訪問到的操作系統(tǒng),，以及模型收集有關(guān)你的信息的能力來(lái)決定。所以我才會(huì)對(duì)蘋果在 iPhone 上部署 LLM 的進(jìn)展感到興奮,。芯片或算法效率多提升一兩個(gè)數(shù)量級(jí)對(duì)模型是否能了解你的一切不會(huì)產(chǎn)生影響,。

“了解你的一切”也會(huì)引出數(shù)據(jù)所有權(quán)的問題?；谖覍?duì)企業(yè)軟件的深刻了解,，阻礙LLM“了解你的一切”的，不在于科學(xué),，而在于企業(yè)采購(gòu)流程,。是，你是可以擁有全世界最神奇的軟件,，但如果它需要完全訪問公司的數(shù)據(jù)倉(cāng)庫(kù),，等著跟 IT 經(jīng)理爭(zhēng)論至少 2-3 年吧。

從微軟首席技術(shù)官凱文·斯科特到我訪談過的無(wú)數(shù)人工智能研究人員,，每個(gè)人都堅(jiān)信更大的模型會(huì)解決很多讓當(dāng)前一代模型顯得很蠢的問題,。不過，要讓它們能夠獨(dú)立進(jìn)行人工智能研究,，需要的科學(xué)進(jìn)步已經(jīng)超出當(dāng)前LLM的范式范圍,。我的意思不是說(shuō)不可能，而且甚至可能比《情境感知》提出的時(shí)間表更快,，但我認(rèn)為挑戰(zhàn)性比大多數(shù)人工智能研究界所認(rèn)為的都要大,。

我們還把自己的 GPT 模型的每一個(gè)后續(xù)版本都說(shuō)成“更智能”，這其實(shí)也是一種傷害,?？纯磮D表右側(cè)的標(biāo)簽,，是將 GPT 模型與兒童和青少年的智力進(jìn)行的對(duì)比。

我認(rèn)為這些說(shuō)法完全不準(zhǔn)確,。學(xué)齡前水平的 GPT2 不太擅長(zhǎng)回答問題，但很奇怪,，卻很美,，很令人難忘懷。這是它對(duì)提示的回答：我最喜歡的 10 種動(dòng)物是：

我最喜歡的十種動(dòng)物是：

1. 背上長(zhǎng)白色疤痕的斑馬

2. 狡猾的蜘蛛和章魚

3. 長(zhǎng)著大片葉子的青蛙,，最好是黑色的

4. 有鱗的玄鳳鸚鵡

5.翅膀展開臉部約 4 英寸的刀嘴海雀,，有一顆心形紋身的青蛙

3. 可以是盲的、可以切除,、可以生吃的雞身蛇尾怪：

4. 陽(yáng)光下的黑白沙漠鱷魚

5. 斑馬及很多的豌豆蟲

數(shù)字是錯(cuò)的,，答案也很荒謬，但文字是有靈魂的（我喜歡那個(gè)雞形的文字）,。當(dāng)我向 GPT4o 提出同樣的問題時(shí),，輸出的是一堆動(dòng)物——沒有藝術(shù)，沒有靈魂,。

我們其他人的對(duì)沖舉措

Aschenbrenner 最大膽的言論出現(xiàn)在第 41 頁(yè)：“我們將在 2027 年實(shí)現(xiàn) AGI。這些人工智能系統(tǒng)基本上能將所有的認(rèn)知工作（所有可以遠(yuǎn)程完成的工作）自動(dòng)化,?！彼陉P(guān)于這個(gè)話題的推文中澄清道：“用不著得把科幻小說(shuō)當(dāng)真；只需相信圖表上的直線即可,?！?/p>

我承認(rèn)，我們可能已經(jīng)為他的 AGI 時(shí)間表準(zhǔn)備好了必要的芯片與數(shù)據(jù)基礎(chǔ)設(shè)施,?？墒牵覀兯枰目茖W(xué)進(jìn)步不僅僅是資本配置的結(jié)果,；還必須是真正的創(chuàng)新的結(jié)果,，但這個(gè)領(lǐng)域的進(jìn)展預(yù)測(cè)是很難的。給這種進(jìn)步打包票是妄自尊大,。而且“圖上的直線”1) 是對(duì)數(shù)曲線,，2) 是編造的，邏輯性不強(qiáng),。重大的能力提升不是光靠增強(qiáng)計(jì)算能力就行了,。

盡管如此，“AGI 即將到來(lái)”仍是大家普遍持有的一種信念體系（如果不是時(shí)間表的話）,。這些模型公司的首席執(zhí)行官似乎在對(duì)沖自己的賭注,。雖然他們的研究團(tuán)隊(duì)也許相信到 2027 年 AGI 會(huì)實(shí)現(xiàn)，但首席執(zhí)行官們更信任分發(fā)優(yōu)勢(shì)以及明智的收入增長(zhǎng),。這就是為什么這些公司的招聘頁(yè)面上列出的銷售與推銷職位數(shù)量遠(yuǎn)遠(yuǎn)多于研究人員,。在今天實(shí)現(xiàn)商業(yè)化，為明天的 AGI 規(guī)避風(fēng)險(xiǎn),。

我的意思不是說(shuō) AGI 不可能,，也不是說(shuō)我們不該對(duì)人工智能的進(jìn)展感到興奮。但我們需要給炒作踩剎車,，并應(yīng)對(duì)挑戰(zhàn)的各種復(fù)雜性,。人工智能的未來(lái)會(huì)很混亂，誰(shuí)要是告訴你不是這樣,，很可能是想推銷東西給你（或試圖從中撈取一筆誘人的風(fēng)投資金）,。謹(jǐn)慎地做出假設(shè)很重要，因?yàn)槿绻悴恢?jǐn)慎——如果你就是相信直線——可能就會(huì)得出夸張的結(jié)論,。

我今天討論的所有這些只是Aschenbrenner 165 頁(yè)的長(zhǎng)篇大作其中的 73 頁(yè)內(nèi)容,。那篇文章的其他部分則致力于討論超級(jí)智能出現(xiàn)之前會(huì)發(fā)生什么。Aschenbrenner最大的擔(dān)憂轉(zhuǎn)向了治國(guó)方略,，其中用了幾章的篇幅討論為什么先實(shí)現(xiàn)AGI的不是中國(guó),，訓(xùn)練這些模型的能源將從何而來(lái)（他覺得是德克薩斯州的天然氣），以及人工智能最終將如何成為新的曼哈頓計(jì)劃,。再說(shuō)一次,，他說(shuō)的也許沒錯(cuò)。這些都是需要考慮的重要事項(xiàng),！但有一點(diǎn)值得一問,，為什么這個(gè)顯然很聰明的人要花時(shí)間研究這個(gè)可能性很小的假設(shè)，為什么他要通過煽動(dòng)性的 PDF 和推文去傳播他的想法,。

我們能做的最明智的一件事,，把焦點(diǎn)集中在基礎(chǔ)工作上：基礎(chǔ)研究、深思熟慮的實(shí)驗(yàn)以及大量的刻苦努力——而不是紙上談兵就完事了,。AGI 不是命中注定,，而是一種選擇。我們需要確保為此付出艱苦努力才能把這件事情做對(duì),。

譯者：boxi,。