在那之后,，雖然我從來沒有參加過類似會(huì)議（因?yàn)槲矣挟?dāng)隱士的傾向），但當(dāng) OpenAI 的 Sam Altman 邀請(qǐng)我參加 Y Combinator 的 YC 120（創(chuàng)業(yè)訓(xùn)練營(yíng)）時(shí),，我決定去參加,。事實(shí)證明，Sam 此舉是精心策劃的,，因?yàn)樗?Greg Brockman 和 OpenAI 的 Ilya Sutskever 過來游說我加盟 OpenAI ,。對(duì)此我感到非常榮幸，因?yàn)槲以趺凑f都算不上機(jī)器學(xué)習(xí)專家,。我是很多這類東西的知名系統(tǒng)工程師，但對(duì)于 AI 我只具備基本的基線知識(shí),。而他們是這個(gè)領(lǐng)域的領(lǐng)導(dǎo)者,，他們覺得拉我過去是值得的，這確實(shí)給我內(nèi)心埋下了種子,，讓我思考正在發(fā)生的一切的重要性,，思考我可以在其中扮演什么角色。

所以我問他們的首席科學(xué)家 Ilya 要了閱讀清單,。這是我的路子,，我的做事方式：把我需要知道的一切列給我，讓我能夠在這個(gè)領(lǐng)域立足,。他給了我一份大約有 40 篇研究論文的清單,，并說，“如果那些論文你確實(shí)學(xué)會(huì)了的話,，對(duì)今天來說重點(diǎn)的東西 90% 你都學(xué)會(huì)了,。”我做到了,。我仔細(xì)研究了所有這些論文，我的頭腦慢慢開始變得清晰起來,。

問：你當(dāng)時(shí)還在 Meta 做著 VR，對(duì)吧？

是的,，我在 Meta 遇到了一些問題，與大規(guī)模戰(zhàn)略方向有關(guān),。我相信你已經(jīng)看過一些關(guān)于他們花了多少錢的頭條新聞了,，我覺得大部分的錢花得都很糟糕,。我在那里遇到了一些挑戰(zhàn),，我的五年買斷合同即將到期（從收購(gòu) Oculus 開始）。那時(shí)候我決定,，‘好吧，對(duì)于通用人工智能這項(xiàng)工作,，我得更加認(rèn)真了,。’

我以前做過各種事情,，游戲,、火箭,、虛擬現(xiàn)實(shí)，那時(shí)候我的目標(biāo)是要做一些還沒有、但我有清晰看法的東西。但是,，AGI 不一樣，因?yàn)闆]人知道該怎么做,。這不是一個(gè)簡(jiǎn)單的工程問題。但是,，鑒于過去十年發(fā)生的事情,，所有這些誘人的線索都已經(jīng)擺在那里——就像有了一些相對(duì)簡(jiǎn)單的想法了,。它們不是什么極端的黑魔法或數(shù)學(xué)巫術(shù)——其中很多都是相對(duì)簡(jiǎn)單的技術(shù)，現(xiàn)在我已經(jīng)理解那些東西了,。感覺我們距離擁有相當(dāng)于我們的肉身的東西只有 5、6 個(gè)想法之遙了。

三,、四年前我曾做過估計(jì)，我覺得在 2030 年出現(xiàn)通用人工智能的明顯生命跡象有一半對(duì)一半的可能性,。這未必就意味著通用人工智能會(huì)對(duì)任何事物都產(chǎn)生巨大的經(jīng)濟(jì)影響,，而是說會(huì)有一種在計(jì)算機(jī)上運(yùn)行的存在，大多數(shù)人認(rèn)為這個(gè)存在是智能的和有意識(shí)的,，并且在我們?nèi)祟愓谧龅氖虑樯系谋憩F(xiàn)與人類處在同一水平,。經(jīng)過三年對(duì)這一切進(jìn)行了核心研究之后,，我的預(yù)測(cè)并沒有改變,。事實(shí)上，我甚至可能把可能性稍微提高到 60%,。如果把時(shí)間放到,，比如說，2050 年,，我覺得會(huì)有 95% 的可能性,。

問：很多人都在預(yù)測(cè)，說這會(huì)導(dǎo)致出現(xiàn)驚人的,、驚天動(dòng)地的結(jié)果,，對(duì)吧？

我盡量不想那么夸張,，做什么宏偉宣言,，因?yàn)槲疫@個(gè)人比較注重細(xì)節(jié)。哪怕是火箭技術(shù),，我也不會(huì)去討論殖民火星,，而是討論該用哪些螺栓把東西固定在一起。所以,，我不想發(fā)表 TED 演講,，不停地講各種可能通過看似具有成本效益的人工智能做到的事情。

但尤其是這場(chǎng) Covid 大流行表明,，完全用計(jì)算機(jī)交互流可以做到的事情比人們想象的要多,，大家可以通過 Zoom、電子郵件,、聊天,、Discord 等計(jì)算機(jī)模式進(jìn)行交流。

當(dāng)今世界價(jià)值的很大一部分都可以以此為基礎(chǔ),。如果你有一個(gè)行為像人類的人工智能代理,，哪怕是以今天狹義人工智能的方式，一個(gè)由深度偽造,、聊天機(jī)器人以及語音合成塑造的世界,，很明顯，也可以模擬出人類的形態(tài),。我們還沒有做到讓 AI 同事?lián)碛锌蓪W(xué)習(xí)的意識(shí)流,，但我們確實(shí)擁有這種神奇的知識(shí)量了。

你會(huì)發(fā)現(xiàn),，大家在討論奇點(diǎn),，以及 AGI 將如何改變一切，討論非常熱烈,。但如果我換個(gè)角度看呢,，如果說 10 年后,，我們將擁有具備通用人工智能的“通用遠(yuǎn)程員工”，它們會(huì)在云端運(yùn)行,，人們只需撥通電話,，說“你給我 5 個(gè) Franks，10 個(gè) Amys,，我們要部署到這些工作中”，基本上,，你可以像云訪問計(jì)算資源一樣訪問這些人工智能人力資源——而這也許是這類東西最平淡無奇的用法,。

如果我們要做的只是創(chuàng)造更多的人力資本，然后應(yīng)用到我們今天已經(jīng)在做的事情上,，比如說,，‘我想制作一部電影或漫畫書或類似的東西，給我一支團(tuán)隊(duì)去做那件事,，’然后在云端運(yùn)行這支團(tuán)隊(duì)——這就是我的愿景,。

問：創(chuàng)造一個(gè)能執(zhí)行人類可以完成的任務(wù)的系統(tǒng)，為什么這件事情如此重要,？由人類來執(zhí)行人類的任務(wù)有什么問題,？

好吧，你可以把它跟很多問題聯(lián)系起來,，比如說,，“人口是不是好東西？” “移民是不是好事,，如果有愿意從事經(jīng)濟(jì)活動(dòng)并受市場(chǎng)引導(dǎo)的新人類資源可以利用的話,？”

與 5000 萬人住在山洞之類的地方相比，擁有 80 億人口的世界要好得多,。因此,，我相信,，隨著人工智能進(jìn)入我們的工作社區(qū),，人類的價(jià)值與進(jìn)步之和將大為加速。我認(rèn)為,，所有這些都會(huì)創(chuàng)造出巨大價(jià)值,。

問：那，具體應(yīng)該如何實(shí)現(xiàn) AGI 呢,？

從今天的虛擬助手（你的 Siri,、Alexa 和 Google Assistant）到 AI 變得越來越有幫助，接管越來越多的任務(wù),，其實(shí)是有跡可尋的,。但這些都相當(dāng)脆弱,，它們實(shí)現(xiàn)的是一些專門的事情——比如各種知識(shí)表示、語音合成,、語音理解——這可能不是通往可靈活用于多種用途的通用智能之路,。為了給這些助手增加功能，他們動(dòng)用了成千上萬（千真萬確）的程序員,，這種做法在短期內(nèi)是有價(jià)值的,。把這些東西拼湊到一起的編程工作是一次性的編程。但是這條路走下去沒法走到通用代理可以學(xué)習(xí)人類可學(xué)習(xí)的任何任務(wù)的地步,。

處理感知的事情——比如理解某人的聲音,，甚至以自然的方式合成聲音——放在 10 或 15 年前計(jì)算機(jī)根本還做不好這些事情,。1990 年代有個(gè)笑話,，那就是一臺(tái)電腦可以輕而易舉地?fù)魯?guó)際象棋世界冠軍,，但是卻做不到 2 歲孩子能做的事情：連貓狗都分不清。當(dāng)時(shí)在這個(gè)世界上,，可以做這些簡(jiǎn)單瑣碎的感知任務(wù)的計(jì)算機(jī)還沒有出現(xiàn)。因?yàn)?，事?shí)證明，我們的大腦其實(shí)就是做這個(gè)的：它與感知和模式匹配的關(guān)系更大,。當(dāng)時(shí)人們認(rèn)為這與用哲學(xué)性的符號(hào)去操縱有關(guān),，但這是一種詭辯。這導(dǎo)致人工智能誤入了歧途,，真的,，幾十年來一條路走到黑。

這一條條真正的死胡同證明這樣的東西很脆弱,，沒有太大的商業(yè)價(jià)值,。事物的運(yùn)作方式不是這樣的。但最近十年發(fā)生了革命：通過深度學(xué)習(xí)以及深度聯(lián)結(jié)主義方法,，我們其實(shí)可以做到 2 歲兒童在感知方面能做的一切了。而且在其中的很多方面,，AI 已經(jīng)屬于超人的水平,。AI 還沒具備的是某種意識(shí)，聯(lián)想記憶，那些有生命,、目標(biāo)和計(jì)劃的東西,。這些脆弱的人工智能系統(tǒng)可以實(shí)現(xiàn)其中的任何一個(gè)，但這仍然不是人類大腦甚至動(dòng)物大腦的運(yùn)作之道,。我的意思是,，人腦姑且不論；甚至連可以像老鼠或貓一樣行動(dòng)的東西都還沒有,。但感覺我們離這些東西都很近了,。

我認(rèn)為，有一點(diǎn)幾乎可以肯定,，那就是我們?cè)谶^去十年從深度學(xué)習(xí)獲得的工具,，將來可以用于通用人工智能。至于其他一些領(lǐng)域,，存在一些結(jié)構(gòu)性的東西我們還不了解,，比如強(qiáng)化學(xué)習(xí),、監(jiān)督學(xué)習(xí),、無監(jiān)督學(xué)習(xí)。所有這些都會(huì)以人類思考事物的方式匯集到一起,，但我們還沒有對(duì)所有這些進(jìn)行最終的綜合,。

問：實(shí)現(xiàn) AGI 是否存在關(guān)鍵因素或中心思想？

雖然有些人不喜歡,，但我還是要講——那就是源代碼,，也就是實(shí)現(xiàn)通用人工智能所必需的計(jì)算機(jī)編程工作，會(huì)有幾萬行代碼?，F(xiàn)在的情況是,，一個(gè)大程序的代碼就有有數(shù)百萬行——Chrome 瀏覽器大約有 2000 到 3000 萬行代碼。

馬斯克不久前提到過 Twitter 大概有 2000 萬行 Scala 代碼,。這些都是大程序,，靠個(gè)人不可能重寫。就算你的余生專門干這件事情,，幾乎也無法寫得完這么多的代碼,。但我相信，真正的 AGI 編程應(yīng)該是一個(gè)人就可以寫完的,。

現(xiàn)在,，那些精明的投資者仍然說這些代碼得由一群研究人員完成，而且是用所有這些東西拼湊起來的,。但我的推理是這樣的：如果你把自己的整個(gè) DNA 提取出來,，它的信息量不到 1 GB。考慮到在整個(gè)人體中,，負(fù)責(zé)指令部分的大腦只是它的一小部分——信息量大概就是 40 MB 左右,，而且還不是嚴(yán)格編碼的那種。因此,，人類智力的存在證明了,，其本質(zhì)并不在于大量的編碼，而是在于某些其他因素,。

現(xiàn)在它已經(jīng)演變成一個(gè)非常復(fù)雜的事物,，從數(shù)字來看，人腦有大約 860 億個(gè)神經(jīng)元,，這些神經(jīng)元之間的連接可能高達(dá) 100 萬億,。即便從計(jì)算機(jī)的角度來看，這也是一個(gè)很大的數(shù)字,。當(dāng)提到像 GPT-3 這樣的大型模型時(shí),，其參數(shù)數(shù)量為 1600 億，這些參數(shù)可以類比于大腦中的神經(jīng)元之間的連接,。

所以,，你可能會(huì)說，在我們的計(jì)算機(jī)擁有與大腦一樣強(qiáng)大的能力之前,，我們還有 500 倍左右的差距要彌補(bǔ),。但我也認(rèn)為，有充分的理由可以相信這是一個(gè)極其悲觀的估計(jì),，實(shí)際估計(jì)應(yīng)該小得多,，因?yàn)槲覀兊拇竽X做的很多事情其實(shí)不是那么重要。人的腦子真的很馬虎,，反應(yīng)真的很慢,，所以也許我們的大腦其實(shí)不需要那么多的參數(shù)。

但同樣地,，這是一個(gè)簡(jiǎn)單程序被大規(guī)模利用的問題,，這正是當(dāng)今 AI 的機(jī)制。如果觀察一下大家討論的東西,，比如 GPT-3,、Imagen、AlphaFold 等,，就會(huì)發(fā)現(xiàn)這些框架的源代碼并不多,。也就是幾千行的代碼，甚至幾萬行都不到,。這些模型的確是建立在龐大的支持生態(tài)體系之上,，但其核心邏輯并不是一個(gè)龐大的程序,。

所以，我堅(jiān)信我們?cè)谑曛畠?nèi)就可以擁有足夠普遍的硬件資源來做這件事情,，而且編寫的代碼量將是適度的,，并且也會(huì)有足夠的人做這件事。雖然在我看來,，人人都把 DeepMind 和 OpenAI 看作是領(lǐng)先的 AGI 研究實(shí)驗(yàn)室,，但像我這樣從事這個(gè)領(lǐng)域的人還是不夠多。

問：你為什么要單干,？

我要單干的原因是所有的主要玩家都陷入了一種非常令人驚訝的“群體思維”,。比方說去年的情況就很怪異：OpenAI 發(fā)布了一個(gè)圖像生成器，然后谷歌也發(fā)布了一個(gè),，然后 Facebook 又發(fā)布一個(gè),。為什么這些公司都能在短短幾個(gè)月內(nèi)復(fù)制其他人的工作？因?yàn)楸澈蠖际峭粋€(gè)學(xué)術(shù)研究人才池,。他們有“異花授粉”機(jī)制,，有一支超級(jí)聰明的龐大的智囊團(tuán)來做這個(gè)。

“雖然有人給我的公司投了 2000 萬美元,，但我并沒有承諾可能會(huì)在通用人工智能方面取得突破,。相反，我只是說我有一個(gè)不可忽視的機(jī)會(huì),，而把這個(gè)機(jī)會(huì)變現(xiàn)所必需的一些重要東西,，我會(huì)親自弄清楚”,。

但是,，因?yàn)槲覀冞€不知道我們要去哪里，其實(shí)機(jī)器學(xué)習(xí)內(nèi)部是有個(gè)策略,，你需要有一定程度的隨機(jī)性——一開始的時(shí)候權(quán)重和位置都是隨機(jī)的,，甚至有時(shí)候需要用多個(gè)模型（集成模型）來做。所以,，我對(duì)自己的定位是這些隨機(jī)測(cè)試點(diǎn)之一,，而整個(gè)行業(yè)的主流方向則是朝著潛在的優(yōu)秀解決方案的方向前進(jìn)，這些方案的搜索和開發(fā)工作已經(jīng)做得非常出色了,。但是,，由于并沒有清晰的目標(biāo)，不確定是否能夠通過梯度下降等方法找到最優(yōu)解,，因此也需要有一些人去測(cè)試其他可能的解決方案,。

而且，我的背景也不一樣,。我不具備學(xué)術(shù)研究背景——我是一名系統(tǒng)工程師,。我對(duì)相關(guān)的感知、系統(tǒng)技術(shù)以及涌現(xiàn)行為有一定研究，而且我足夠聰明,，知道如何應(yīng)用必要的東西,。雖然有人給我的公司投了 2000 萬美元，但我并沒有承諾可能會(huì)在通用人工智能方面取得突破,。相反,，我只是說我有一個(gè)不可忽視的機(jī)會(huì)，而把這個(gè)機(jī)會(huì)變現(xiàn)所必需的一些重要東西,，我會(huì)親自弄清楚,。

問：一旦弄清楚之后，你認(rèn)為會(huì)產(chǎn)生什么樣的影響,？

通用人工智能的出現(xiàn)對(duì)經(jīng)濟(jì)的影響可以說是一個(gè)“改變世界級(jí)”的事件,，它幾乎可以重塑人類所能做的一切。這幾乎是你能想到的最大的規(guī)模了,。所以,，對(duì)它的部分下注是值得的——比如給我的研究方向投入的 2000 萬美元。研究也許會(huì)成功,，也可能會(huì)失敗,。這一點(diǎn)我會(huì)直言不諱。如果說我會(huì)先于 OpenAI 和 DeepMind 以及中國(guó)的各家研究實(shí)驗(yàn)室想出 AGI 的解決方案,，說“是的,，我有信心我會(huì)第一個(gè)到達(dá)那里”的話，那就是狂妄,，是難以置信的自大,。

但是，對(duì)于我要處理的這些問題,，我認(rèn)為沒人比我聰明太多,。而且我認(rèn)為在這場(chǎng)競(jìng)賽當(dāng)中，我并沒有落后多少,。而且我走的是一條不一樣的道路,。就目前而言，我敢說 ‘是的,，在接下來的這十年時(shí)間里我會(huì)投入到這件事上,，它可能會(huì)取得巨大成功?！蛘?，結(jié)果可能是最后我找到了兩個(gè)超級(jí)巧妙的東西，然后再跟其他人合作,。也許到時(shí)候會(huì)有收購(gòu)或其他事情發(fā)生,。

但有一件事情我不想做,，就是選擇好第一個(gè)商業(yè)應(yīng)用然后說，‘OK,。我懂游戲,，我懂圖像生成，我可以去做游戲內(nèi)容創(chuàng)作,。事實(shí)上,，我在 Oculus 的前合伙人 Brendan Iribe 就跟我說過，‘來跟我一起做吧,。我們要籌一大筆錢,，會(huì)很棒的?！?，那幾乎可以保證一只獨(dú)角獸的誕生了。毫無疑問,，我們可以做出一家價(jià)值 10 億美元的公司來,。但是另外那個(gè)大黃銅環(huán)（Big brass ring），也就是通用人工智能,，那可是數(shù)萬億美元,。這兩者完全不是一個(gè)數(shù)量級(jí)。

我很幸運(yùn)能夠站到今天這個(gè)位置,，我取得了成功,，已經(jīng)有所成就，有了穩(wěn)定的財(cái)務(wù)狀況,。所以我敢下這個(gè)賭注,，敢冒這個(gè)風(fēng)險(xiǎn)，極大的風(fēng)險(xiǎn),。但因?yàn)槲也粨?dān)心破產(chǎn),，我敢這么說,，“好吧,，如果我覺得這件事成功的機(jī)率只有百分之幾，但做成價(jià)值數(shù)萬億美元的話,，那會(huì)是個(gè)不錯(cuò)的賭注,。”我的意思是,，對(duì)于大多數(shù)人來說,，這是一種糟糕的思維方式，但對(duì)我來說,，這并不是一件壞事,。

問：那你究竟是怎么給 Keen “下注”的,？

做研究，搞開發(fā),，我有一些不太主流的想法,。我關(guān)注了主流正在做的大部分事情，因?yàn)樗鼈兇_實(shí)很棒,，很有用?，F(xiàn)在我正在跟進(jìn)去年的一些研究論文，我認(rèn)為這些論文還有更好的應(yīng)用方式,，但是原作者還沒有看到,。

會(huì)有一些有價(jià)值的東西別人不一定知道。實(shí)際上,，我認(rèn)為 70,、80 和 90 年代的某些工作其實(shí)是很有趣的，在當(dāng)時(shí)很多事情沒有做成,，其實(shí)只是因?yàn)楫?dāng)時(shí)的規(guī)模不足,。那時(shí)候他們想在 1 兆赫茲的計(jì)算機(jī)上做這些事情，那時(shí)候還沒有 GPU 集群,。

然后就是我提到的這種群體思維,。情況非常清楚，如果你觀察一下,，就會(huì)發(fā)現(xiàn)那些杰出的研究人員基本上都有相似的背景,，而且都朝著同一個(gè)方向游泳。所以,，我認(rèn)為過去一些老東西里面也許會(huì)有些有用的,。所以現(xiàn)在我是在做實(shí)驗(yàn)，去測(cè)試,，試著把不同的領(lǐng)域的東西結(jié)合在一起——那些我認(rèn)為屬于 AGI 算法的一部分的領(lǐng)域,。

不過我主要的工作是看各種電視，玩各種視頻游戲,，去模擬,。我認(rèn)為，“我們就是這么去理解和內(nèi)化這個(gè)世界的模型的,，人在其中一些情況下就是這么獨(dú)立做出行動(dòng)的’的組合就是答案,，但我還不知道怎么將它們結(jié)合在一起。但我認(rèn)為是有答案的,。我想,，在“需要解決的問題的范圍，以及如何將這些問題聚攏在一起”這方面,，我已經(jīng)掌握了要義,。

我還是認(rèn)為需要有五六個(gè)洞察想法出現(xiàn),，但我已經(jīng)找到了若干貌似可信、也許最后被證明存在相關(guān)性的洞見,。幾十年前我就訓(xùn)練過自己一種做法,，那就是把想法拿出來，用我對(duì)它們感到興奮的方式去追逐,，因?yàn)槲抑来蠖鄶?shù)的想法最終都不會(huì)成功的,。在我職業(yè)生涯的早期，我曾經(jīng)有過一個(gè)非常聰明的想法沒能付諸實(shí)現(xiàn),，我后來被壓垮了,。不過最終我還是練就了這樣的境界，就是像玩游戲一樣通過我的處理來挖掘想法并搞定他,，‘我能用多快的速度驗(yàn)證和否定自己的想法,，而不是像保護(hù)寵物一樣保護(hù)著它？’

所以,，我現(xiàn)在已經(jīng)有幾個(gè)候選的想法了,，目前我正在對(duì)它們發(fā)起探索和攻擊。但這些抽象想法和技術(shù)是很抽象的,，得用類似于深度學(xué)習(xí)的做法去嘗試,。

所以，我推遲了擴(kuò)大規(guī)模的做法,，因?yàn)楝F(xiàn)在有很多公司言必稱‘我們要融 1 個(gè)億,、2 個(gè)億，因?yàn)槲覀冃枰粋€(gè)裝滿 GPU 的倉(cāng)庫(kù),?！@是實(shí)現(xiàn)價(jià)值的途徑之一，畢竟現(xiàn)在有一種規(guī)模制勝的傾向,。但我的態(tài)度不太一樣,，我的想法是‘在浪費(fèi)掉別人的 1 億美元之前，我想把這五六件重要的事情給弄清楚,。其實(shí)我現(xiàn)在還沒花太多錢,。我是融了 2000 萬美元，但我認(rèn)為這項(xiàng)任務(wù)的跨度會(huì)長(zhǎng)達(dá) 10 年,，我不想在接下來的兩年內(nèi)就燒掉這 2000 萬美元,，然后再去進(jìn)行新一輪的融資，再弄幾億美元,，因?yàn)槲矣X得這不是做事情的明智之舉。

“我希望我可以用幾年的時(shí)間來解決其中的一些問題,，去做出一些我認(rèn)為能朝著正確方向發(fā)展的小東西,。然后,，再進(jìn)行一定程度的擴(kuò)展，把一整個(gè)信息生命周期的東西給弄進(jìn)去,，去體驗(yàn)一下,，看看它能不能產(chǎn)生一些希望的火花?！?/em>