“2030 年實(shí)現(xiàn)通用人工智能的可能性為 60%?!?/em>
編者按:人工智能因?yàn)?ChatGPT 的關(guān)系最近又開始大熱。但如果說這個就是通用人工智能的話就貽笑大方了,。別的不說,,訓(xùn)練和維護(hù)人工智能的那些能耗和費(fèi)用跟人腦的相比簡直是大得離譜??墒?,現(xiàn)在大家在發(fā)展人工智能上似乎已經(jīng)陷入了一種群體思維,走的都是同一條路,。不過,,有個人決心不走尋常路。這個人就是號稱“卡神”的 3D 游戲之父,,約翰·卡馬克,。他覺得 2030 年實(shí)現(xiàn)通用人工智能的可能性為 60%,他打算怎么做呢?文章來自編譯,。
這位標(biāo)志性的游戲開發(fā)者,、火箭工程師、VR 夢想家已經(jīng)把目光轉(zhuǎn)向一項(xiàng)大膽的新挑戰(zhàn):開發(fā)通用人工智能——一種超越模仿人類智能,,去理解事物和解決問題的 AI 形式,。卡馬克(Carmack)認(rèn)為,,到 2030 年,, AGI 取得初步成功的可能性為 60%。他為什么要自己出來單干,?如何才能實(shí)現(xiàn)這一目標(biāo)呢,?
北德克薩斯州的技術(shù)天才約翰·卡馬克 (John Carmack )現(xiàn)在正瞄準(zhǔn)他最雄心勃勃的目標(biāo):開發(fā)通用人工智能(AGI),,解決全球最大的計算機(jī)科學(xué)問題。AGI 是人工智能的形式之一,,具備 AGI 能力的機(jī)器可以理解、學(xué)習(xí)和執(zhí)行人類可完成的任何智力任務(wù)。
在其位于高地公園貝弗利大道價值數(shù)百萬美元的豪宅內(nèi),,卡馬克正致力于通過他創(chuàng)辦的初創(chuàng)公司 Keen Technologies 實(shí)現(xiàn) AGI。這家公司在 2022 年 8 月份的一輪融資中已經(jīng)籌集了 2000 萬美元,。
卡馬克說,,他的職業(yè)生涯已經(jīng)進(jìn)入“第四個主要階段”,。此前,他曾在計算機(jī)領(lǐng)域工作過一段時間,,并創(chuàng)立了 id Software(成立于 1991 年),,開創(chuàng)了視頻游戲這一新游戲種類,還成立了 Armadillo Aerospace(2000 年至 2013 年)開發(fā)亞軌道太空火箭技術(shù),,在 2014 年 Facebook(現(xiàn)在的 Meta)以 20 億美元收購了 Oculus VR 之后,,他又來到這里研究虛擬現(xiàn)實(shí)。2019 年底,,卡馬克辭去了 Oculus 的 CTO 職務(wù),,成為這家 VR 企業(yè)的咨詢 CTO,并宣布他打算把精力放在研究 AGI 上面 ,。去年 12 月,,他離開 Meta,全職專注于 Keen,。
在罕見的工作休息時間里,,我們有機(jī)會與這位技術(shù)偶像坐下來,進(jìn)行了以下的獨(dú)家采訪,。出于篇幅與清晰的需要,問答進(jìn)行過編輯。
問:你現(xiàn)在正在做什么樣的工作來“解決”通用人工智能問題?你為什么要用這一特定方法來解決這個問題,?
我總是坐在電腦旁,,思考并記錄概念,,提出理論,,進(jìn)行測試?,F(xiàn)在我的工作就是這樣,因?yàn)檫€沒人能真正知道該怎么去到我們想去的地方,。但出于多種原因,我認(rèn)為我和其他人一樣,,都有機(jī)會做到這一點(diǎn),。
“有些人已經(jīng)籌集了數(shù)十億美元來追逐這一目標(biāo),。雖然從某些方面來說這很有趣,,而且有跡象表明,在狹義的機(jī)器學(xué)習(xí)領(lǐng)域,,現(xiàn)在可能出現(xiàn)了極其強(qiáng)大的東西,,但這些是不是就是通往通用人工智能的必由之路呢?還不好說,?!?/em>
有些人已經(jīng)籌集了數(shù)十億美元來追逐這一目標(biāo)。雖然從某些方面來說這很有趣,,而且有跡象表明,,在狹義的機(jī)器學(xué)習(xí)領(lǐng)域,現(xiàn)在可能出現(xiàn)了極其強(qiáng)大的東西,,但這些是不是就是通往通用人工智能的必由之路呢,?還不好說。對于樂意這么做的公司來說,,這是個不錯的選擇,,因?yàn)榭赡艿穆肪€很多,走下去也會找到有價值的東西,,即便你不能一路走下去,。仍然會有一些東西能改變世界,比如狹義人工智能,。
但有一點(diǎn)會比較令人擔(dān)心,,如果你剛走出第一個匝道就說,,‘嘿,這是一條價值十億美元的賽道’然后就停下來了,,但我們知道其實(shí)還可以走下去,,把我們所了解的用來徹底改變各個行業(yè)。路上可能會出現(xiàn)一些誘人的東西,,但它分散了每個人的注意力,,導(dǎo)致他們無法放眼未來,無法專注于更遠(yuǎn)距離的事情,。所以,,我可以很坦白地告訴你,我現(xiàn)在正處在這么一個位置,,短期內(nèi)我所做的這些事情的商業(yè)機(jī)會為零,。
問:一開始是什么促使你對這個主題產(chǎn)生興趣的?
我們現(xiàn)在正處在一場科學(xué)革命之中,,因?yàn)?10 年前,,人們對人工智能的作用還沒有感覺。我們經(jīng)歷過人工智能的“寒冬”——事實(shí)上,,在過去幾十年的時間里,,曾經(jīng)歷過多次。這很有趣,,因?yàn)?VR 行業(yè)也有類似經(jīng)歷:這幾乎不是什么好話,,因?yàn)樘摂M現(xiàn)實(shí)(VR)在 1990 年代一敗涂地,人們甚至連談都不想談,。
人工智能也經(jīng)歷過幾次這樣的周期:先是炒作升溫,,資金流入,然后表現(xiàn)不佳,,接著崩潰,,淪落到?jīng)]人愿意談?wù)摰牡夭健5^去十年不一樣,,沒有注意到這次是如何的不一樣的人其實(shí)并沒有專心去觀察,,他們沒有意識到過去十年機(jī)器學(xué)習(xí)領(lǐng)域發(fā)生了很多絕對令人震驚的事情,這些事情確實(shí)意義深遠(yuǎn),。
正因?yàn)檫@個,,所以我才會想:“好吧,,可能是時候該認(rèn)真考慮一下了,?!边@對我來說很有趣,因?yàn)槲易鳛榧夹g(shù)旁觀者對機(jī)器學(xué)習(xí)和 AI 有一定的了解,我在十幾歲的時候就讀過該領(lǐng)域一些開創(chuàng)性的書,,我知道有符號主義等各種類型的東西,。所以,我腦子里對這些東西是有一點(diǎn)了解的,,但我對正在發(fā)生的事情并沒有太多關(guān)注,,因?yàn)樵诿χ螒颉⒑娇蘸教煲约疤摂M現(xiàn)實(shí)方面的工作,。
到了一定時候你就會意識到,,‘好吧,我想也許有些事情我得弄清楚了——比如哪些是炒作,,哪些是現(xiàn)實(shí),?’所以我做了我一般會做的事:我一切的真正能力永遠(yuǎn)都是來自于對事物的根本理解,,在最深層次上,,只有從最底層了解事情是如何發(fā)生的,你才能獲得洞察力,。
所以,,大概在四年前,我進(jìn)行了一次為期一周的靜修,,隨身只帶了一臺電腦以及一堆的參考資料,,然后我用了一周的時間重新審視這個行業(yè)的基本原理。我的研究甚至到了這樣的地步,,“好吧,,我已經(jīng)很了解這一點(diǎn)了,可以跟研究人員就此進(jìn)行嚴(yán)肅的對話了,?!睂τ谀苓_(dá)到那種理解程度,我感到非常興奮,。
“于是我找到 OpenAI 的首席科學(xué)家 Ilya Sutskever,,讓他給我列一份閱讀清單。他給了我一份大概有 40 篇研究論文的清單,,說,,‘如果那些論文你確實(shí)學(xué)會了的話,對今天來說重點(diǎn)的東西 90% 你都學(xué)會了,?!易龅搅恕N易屑?xì)研究了所有這些論文,,我的頭腦慢慢開始變得清晰起來,。”
在那之后,雖然我從來沒有參加過類似會議(因?yàn)槲矣挟?dāng)隱士的傾向),,但當(dāng) OpenAI 的 Sam Altman 邀請我參加 Y Combinator 的 YC 120(創(chuàng)業(yè)訓(xùn)練營)時,,我決定去參加。事實(shí)證明,,Sam 此舉是精心策劃的,,因?yàn)樗?Greg Brockman 和 OpenAI 的 Ilya Sutskever 過來游說我加盟 OpenAI 。對此我感到非常榮幸,,因?yàn)槲以趺凑f都算不上機(jī)器學(xué)習(xí)專家,。我是很多這類東西的知名系統(tǒng)工程師,但對于 AI 我只具備基本的基線知識,。而他們是這個領(lǐng)域的領(lǐng)導(dǎo)者,,他們覺得拉我過去是值得的,這確實(shí)給我內(nèi)心埋下了種子,,讓我思考正在發(fā)生的一切的重要性,,思考我可以在其中扮演什么角色。
所以我問他們的首席科學(xué)家 Ilya 要了閱讀清單,。這是我的路子,,我的做事方式:把我需要知道的一切列給我,讓我能夠在這個領(lǐng)域立足,。他給了我一份大約有 40 篇研究論文的清單,,并說,“如果那些論文你確實(shí)學(xué)會了的話,,對今天來說重點(diǎn)的東西 90% 你都學(xué)會了,。”我做到了,。我仔細(xì)研究了所有這些論文,,我的頭腦慢慢開始變得清晰起來。
問:你當(dāng)時還在 Meta 做著 VR,,對吧,?
是的,我在 Meta 遇到了一些問題,,與大規(guī)模戰(zhàn)略方向有關(guān),。我相信你已經(jīng)看過一些關(guān)于他們花了多少錢的頭條新聞了,我覺得大部分的錢花得都很糟糕,。我在那里遇到了一些挑戰(zhàn),,我的五年買斷合同即將到期(從收購 Oculus 開始)。那時候我決定,,‘好吧,,對于通用人工智能這項(xiàng)工作,,我得更加認(rèn)真了?!?/p>
我以前做過各種事情,,游戲、火箭,、虛擬現(xiàn)實(shí),,那時候我的目標(biāo)是要做一些還沒有、但我有清晰看法的東西,。但是,,AGI 不一樣,因?yàn)闆]人知道該怎么做,。這不是一個簡單的工程問題,。但是,鑒于過去十年發(fā)生的事情,,所有這些誘人的線索都已經(jīng)擺在那里——就像有了一些相對簡單的想法了,。它們不是什么極端的黑魔法或數(shù)學(xué)巫術(shù)——其中很多都是相對簡單的技術(shù),現(xiàn)在我已經(jīng)理解那些東西了,。感覺我們距離擁有相當(dāng)于我們的肉身的東西只有 5,、6 個想法之遙了,。
三,、四年前我曾做過估計,我覺得在 2030 年出現(xiàn)通用人工智能的明顯生命跡象有一半對一半的可能性,。這未必就意味著通用人工智能會對任何事物都產(chǎn)生巨大的經(jīng)濟(jì)影響,,而是說會有一種在計算機(jī)上運(yùn)行的存在,大多數(shù)人認(rèn)為這個存在是智能的和有意識的,,并且在我們?nèi)祟愓谧龅氖虑樯系谋憩F(xiàn)與人類處在同一水平,。經(jīng)過三年對這一切進(jìn)行了核心研究之后,我的預(yù)測并沒有改變,。事實(shí)上,,我甚至可能把可能性稍微提高到 60%。如果把時間放到,,比如說,,2050 年,我覺得會有 95% 的可能性,。
問:很多人都在預(yù)測,,說這會導(dǎo)致出現(xiàn)驚人的、驚天動地的結(jié)果,,對吧,?
我盡量不想那么夸張,,做什么宏偉宣言,因?yàn)槲疫@個人比較注重細(xì)節(jié),。哪怕是火箭技術(shù),,我也不會去討論殖民火星,而是討論該用哪些螺栓把東西固定在一起,。所以,,我不想發(fā)表 TED 演講,不停地講各種可能通過看似具有成本效益的人工智能做到的事情,。
但尤其是這場 Covid 大流行表明,,完全用計算機(jī)交互流可以做到的事情比人們想象的要多,大家可以通過 Zoom,、電子郵件,、聊天、Discord 等計算機(jī)模式進(jìn)行交流,。
當(dāng)今世界價值的很大一部分都可以以此為基礎(chǔ),。如果你有一個行為像人類的人工智能代理,哪怕是以今天狹義人工智能的方式,,一個由深度偽造,、聊天機(jī)器人以及語音合成塑造的世界,很明顯,,也可以模擬出人類的形態(tài),。我們還沒有做到讓 AI 同事?lián)碛锌蓪W(xué)習(xí)的意識流,但我們確實(shí)擁有這種神奇的知識量了,。
你會發(fā)現(xiàn),,大家在討論奇點(diǎn),以及 AGI 將如何改變一切,,討論非常熱烈,。但如果我換個角度看呢,如果說 10 年后,,我們將擁有具備通用人工智能的“通用遠(yuǎn)程員工”,,它們會在云端運(yùn)行,人們只需撥通電話,,說“你給我 5 個 Franks,,10 個 Amys,我們要部署到這些工作中”,,基本上,,你可以像云訪問計算資源一樣訪問這些人工智能人力資源——而這也許是這類東西最平淡無奇的用法。
如果我們要做的只是創(chuàng)造更多的人力資本,,然后應(yīng)用到我們今天已經(jīng)在做的事情上,,比如說,,‘我想制作一部電影或漫畫書或類似的東西,給我一支團(tuán)隊(duì)去做那件事,,’然后在云端運(yùn)行這支團(tuán)隊(duì)——這就是我的愿景,。
問:創(chuàng)造一個能執(zhí)行人類可以完成的任務(wù)的系統(tǒng),為什么這件事情如此重要,?由人類來執(zhí)行人類的任務(wù)有什么問題,?
好吧,你可以把它跟很多問題聯(lián)系起來,,比如說,,“人口是不是好東西?” “移民是不是好事,,如果有愿意從事經(jīng)濟(jì)活動并受市場引導(dǎo)的新人類資源可以利用的話,?”
與 5000 萬人住在山洞之類的地方相比,擁有 80 億人口的世界要好得多,。因此,,我相信,隨著人工智能進(jìn)入我們的工作社區(qū),,人類的價值與進(jìn)步之和將大為加速,。我認(rèn)為,所有這些都會創(chuàng)造出巨大價值,。
問:那,,具體應(yīng)該如何實(shí)現(xiàn) AGI 呢?
從今天的虛擬助手(你的 Siri,、Alexa 和 Google Assistant)到 AI 變得越來越有幫助,,接管越來越多的任務(wù),其實(shí)是有跡可尋的,。但這些都相當(dāng)脆弱,它們實(shí)現(xiàn)的是一些專門的事情——比如各種知識表示,、語音合成,、語音理解——這可能不是通往可靈活用于多種用途的通用智能之路。為了給這些助手增加功能,,他們動用了成千上萬(千真萬確)的程序員,,這種做法在短期內(nèi)是有價值的。把這些東西拼湊到一起的編程工作是一次性的編程,。但是這條路走下去沒法走到通用代理可以學(xué)習(xí)人類可學(xué)習(xí)的任何任務(wù)的地步,。
處理感知的事情——比如理解某人的聲音,甚至以自然的方式合成聲音——放在 10 或 15 年前計算機(jī)根本還做不好這些事情,。1990 年代有個笑話,,那就是一臺電腦可以輕而易舉地?fù)魯H象棋世界冠軍,,但是卻做不到 2 歲孩子能做的事情:連貓狗都分不清。當(dāng)時在這個世界上,,可以做這些簡單瑣碎的感知任務(wù)的計算機(jī)還沒有出現(xiàn),。因?yàn)椋聦?shí)證明,,我們的大腦其實(shí)就是做這個的:它與感知和模式匹配的關(guān)系更大,。當(dāng)時人們認(rèn)為這與用哲學(xué)性的符號去操縱有關(guān),但這是一種詭辯,。這導(dǎo)致人工智能誤入了歧途,,真的,幾十年來一條路走到黑,。
這一條條真正的死胡同證明這樣的東西很脆弱,,沒有太大的商業(yè)價值。事物的運(yùn)作方式不是這樣的,。但最近十年發(fā)生了革命:通過深度學(xué)習(xí)以及深度聯(lián)結(jié)主義方法,,我們其實(shí)可以做到 2 歲兒童在感知方面能做的一切了。而且在其中的很多方面,,AI 已經(jīng)屬于超人的水平,。AI 還沒具備的是某種意識,聯(lián)想記憶,,那些有生命,、目標(biāo)和計劃的東西。這些脆弱的人工智能系統(tǒng)可以實(shí)現(xiàn)其中的任何一個,,但這仍然不是人類大腦甚至動物大腦的運(yùn)作之道,。我的意思是,人腦姑且不論,;甚至連可以像老鼠或貓一樣行動的東西都還沒有,。但感覺我們離這些東西都很近了。
我認(rèn)為,,有一點(diǎn)幾乎可以肯定,,那就是我們在過去十年從深度學(xué)習(xí)獲得的工具,將來可以用于通用人工智能,。至于其他一些領(lǐng)域,,存在一些結(jié)構(gòu)性的東西我們還不了解,比如強(qiáng)化學(xué)習(xí),、監(jiān)督學(xué)習(xí),、無監(jiān)督學(xué)習(xí)。所有這些都會以人類思考事物的方式匯集到一起,,但我們還沒有對所有這些進(jìn)行最終的綜合,。
問:實(shí)現(xiàn) AGI 是否存在關(guān)鍵因素或中心思想,?
雖然有些人不喜歡,但我還是要講——那就是源代碼,,也就是實(shí)現(xiàn)通用人工智能所必需的計算機(jī)編程工作,,會有幾萬行代碼。現(xiàn)在的情況是,,一個大程序的代碼就有有數(shù)百萬行——Chrome 瀏覽器大約有 2000 到 3000 萬行代碼,。
馬斯克不久前提到過 Twitter 大概有 2000 萬行 Scala 代碼。這些都是大程序,,靠個人不可能重寫,。就算你的余生專門干這件事情,幾乎也無法寫得完這么多的代碼,。但我相信,,真正的 AGI 編程應(yīng)該是一個人就可以寫完的。
現(xiàn)在,,那些精明的投資者仍然說這些代碼得由一群研究人員完成,,而且是用所有這些東西拼湊起來的。但我的推理是這樣的:如果你把自己的整個 DNA 提取出來,,它的信息量不到 1 GB,。考慮到在整個人體中,,負(fù)責(zé)指令部分的大腦只是它的一小部分——信息量大概就是 40 MB 左右,,而且還不是嚴(yán)格編碼的那種。因此,,人類智力的存在證明了,,其本質(zhì)并不在于大量的編碼,而是在于某些其他因素,。
現(xiàn)在它已經(jīng)演變成一個非常復(fù)雜的事物,,從數(shù)字來看,人腦有大約 860 億個神經(jīng)元,,這些神經(jīng)元之間的連接可能高達(dá) 100 萬億,。即便從計算機(jī)的角度來看,這也是一個很大的數(shù)字,。當(dāng)提到像 GPT-3 這樣的大型模型時,其參數(shù)數(shù)量為 1600 億,,這些參數(shù)可以類比于大腦中的神經(jīng)元之間的連接,。
所以,你可能會說,,在我們的計算機(jī)擁有與大腦一樣強(qiáng)大的能力之前,,我們還有 500 倍左右的差距要彌補(bǔ),。但我也認(rèn)為,有充分的理由可以相信這是一個極其悲觀的估計,,實(shí)際估計應(yīng)該小得多,,因?yàn)槲覀兊拇竽X做的很多事情其實(shí)不是那么重要。人的腦子真的很馬虎,,反應(yīng)真的很慢,,所以也許我們的大腦其實(shí)不需要那么多的參數(shù)。
但同樣地,,這是一個簡單程序被大規(guī)模利用的問題,,這正是當(dāng)今 AI 的機(jī)制。如果觀察一下大家討論的東西,,比如 GPT-3,、Imagen、AlphaFold 等,,就會發(fā)現(xiàn)這些框架的源代碼并不多,。也就是幾千行的代碼,甚至幾萬行都不到,。這些模型的確是建立在龐大的支持生態(tài)體系之上,,但其核心邏輯并不是一個龐大的程序。
所以,,我堅信我們在十年之內(nèi)就可以擁有足夠普遍的硬件資源來做這件事情,,而且編寫的代碼量將是適度的,并且也會有足夠的人做這件事,。雖然在我看來,,人人都把 DeepMind 和 OpenAI 看作是領(lǐng)先的 AGI 研究實(shí)驗(yàn)室,但像我這樣從事這個領(lǐng)域的人還是不夠多,。
問:你為什么要單干,?
我要單干的原因是所有的主要玩家都陷入了一種非常令人驚訝的“群體思維”。比方說去年的情況就很怪異:OpenAI 發(fā)布了一個圖像生成器,,然后谷歌也發(fā)布了一個,,然后 Facebook 又發(fā)布一個。為什么這些公司都能在短短幾個月內(nèi)復(fù)制其他人的工作,?因?yàn)楸澈蠖际峭粋€學(xué)術(shù)研究人才池,。他們有“異花授粉”機(jī)制,有一支超級聰明的龐大的智囊團(tuán)來做這個,。
“雖然有人給我的公司投了 2000 萬美元,,但我并沒有承諾可能會在通用人工智能方面取得突破。相反,我只是說我有一個不可忽視的機(jī)會,,而把這個機(jī)會變現(xiàn)所必需的一些重要東西,,我會親自弄清楚”。
但是,,因?yàn)槲覀冞€不知道我們要去哪里,,其實(shí)機(jī)器學(xué)習(xí)內(nèi)部是有個策略,你需要有一定程度的隨機(jī)性——一開始的時候權(quán)重和位置都是隨機(jī)的,,甚至有時候需要用多個模型(集成模型)來做,。所以,我對自己的定位是這些隨機(jī)測試點(diǎn)之一,,而整個行業(yè)的主流方向則是朝著潛在的優(yōu)秀解決方案的方向前進(jìn),,這些方案的搜索和開發(fā)工作已經(jīng)做得非常出色了。但是,,由于并沒有清晰的目標(biāo),,不確定是否能夠通過梯度下降等方法找到最優(yōu)解,因此也需要有一些人去測試其他可能的解決方案,。
而且,,我的背景也不一樣。我不具備學(xué)術(shù)研究背景——我是一名系統(tǒng)工程師,。我對相關(guān)的感知,、系統(tǒng)技術(shù)以及涌現(xiàn)行為有一定研究,而且我足夠聰明,,知道如何應(yīng)用必要的東西,。雖然有人給我的公司投了 2000 萬美元,但我并沒有承諾可能會在通用人工智能方面取得突破,。相反,,我只是說我有一個不可忽視的機(jī)會,而把這個機(jī)會變現(xiàn)所必需的一些重要東西,,我會親自弄清楚,。
問:一旦弄清楚之后,你認(rèn)為會產(chǎn)生什么樣的影響,?
通用人工智能的出現(xiàn)對經(jīng)濟(jì)的影響可以說是一個“改變世界級”的事件,,它幾乎可以重塑人類所能做的一切。這幾乎是你能想到的最大的規(guī)模了,。所以,,對它的部分下注是值得的——比如給我的研究方向投入的 2000 萬美元。研究也許會成功,,也可能會失敗,。這一點(diǎn)我會直言不諱,。如果說我會先于 OpenAI 和 DeepMind 以及中國的各家研究實(shí)驗(yàn)室想出 AGI 的解決方案,,說“是的,,我有信心我會第一個到達(dá)那里”的話,那就是狂妄,,是難以置信的自大,。
但是,對于我要處理的這些問題,,我認(rèn)為沒人比我聰明太多,。而且我認(rèn)為在這場競賽當(dāng)中,我并沒有落后多少,。而且我走的是一條不一樣的道路,。就目前而言,我敢說 ‘是的,,在接下來的這十年時間里我會投入到這件事上,,它可能會取得巨大成功?!蛘?,結(jié)果可能是最后我找到了兩個超級巧妙的東西,然后再跟其他人合作,。也許到時候會有收購或其他事情發(fā)生,。
但有一件事情我不想做,就是選擇好第一個商業(yè)應(yīng)用然后說,,‘OK,。我懂游戲,我懂圖像生成,,我可以去做游戲內(nèi)容創(chuàng)作,。事實(shí)上,我在 Oculus 的前合伙人 Brendan Iribe 就跟我說過,,‘來跟我一起做吧,。我們要籌一大筆錢,會很棒的,?!牵菐缀蹩梢员WC一只獨(dú)角獸的誕生了,。毫無疑問,,我們可以做出一家價值 10 億美元的公司來。但是另外那個大黃銅環(huán)(Big brass ring),,也就是通用人工智能,,那可是數(shù)萬億美元。這兩者完全不是一個數(shù)量級。
我很幸運(yùn)能夠站到今天這個位置,,我取得了成功,,已經(jīng)有所成就,有了穩(wěn)定的財務(wù)狀況,。所以我敢下這個賭注,,敢冒這個風(fēng)險,極大的風(fēng)險,。但因?yàn)槲也粨?dān)心破產(chǎn),,我敢這么說,“好吧,,如果我覺得這件事成功的機(jī)率只有百分之幾,,但做成價值數(shù)萬億美元的話,那會是個不錯的賭注,?!蔽业囊馑际牵瑢τ诖蠖鄶?shù)人來說,,這是一種糟糕的思維方式,,但對我來說,這并不是一件壞事,。
問:那你究竟是怎么給 Keen “下注”的,?
做研究,搞開發(fā),,我有一些不太主流的想法,。我關(guān)注了主流正在做的大部分事情,因?yàn)樗鼈兇_實(shí)很棒,,很有用?,F(xiàn)在我正在跟進(jìn)去年的一些研究論文,我認(rèn)為這些論文還有更好的應(yīng)用方式,,但是原作者還沒有看到,。
會有一些有價值的東西別人不一定知道。實(shí)際上,,我認(rèn)為 70,、80 和 90 年代的某些工作其實(shí)是很有趣的,在當(dāng)時很多事情沒有做成,,其實(shí)只是因?yàn)楫?dāng)時的規(guī)模不足,。那時候他們想在 1 兆赫茲的計算機(jī)上做這些事情,那時候還沒有 GPU 集群,。
然后就是我提到的這種群體思維,。情況非常清楚,,如果你觀察一下,就會發(fā)現(xiàn)那些杰出的研究人員基本上都有相似的背景,,而且都朝著同一個方向游泳,。所以,我認(rèn)為過去一些老東西里面也許會有些有用的,。所以現(xiàn)在我是在做實(shí)驗(yàn),,去測試,試著把不同的領(lǐng)域的東西結(jié)合在一起——那些我認(rèn)為屬于 AGI 算法的一部分的領(lǐng)域,。
不過我主要的工作是看各種電視,玩各種視頻游戲,,去模擬,。我認(rèn)為,“我們就是這么去理解和內(nèi)化這個世界的模型的,,人在其中一些情況下就是這么獨(dú)立做出行動的’的組合就是答案,,但我還不知道怎么將它們結(jié)合在一起。但我認(rèn)為是有答案的,。我想,,在“需要解決的問題的范圍,以及如何將這些問題聚攏在一起”這方面,,我已經(jīng)掌握了要義,。
我還是認(rèn)為需要有五六個洞察想法出現(xiàn),但我已經(jīng)找到了若干貌似可信,、也許最后被證明存在相關(guān)性的洞見,。幾十年前我就訓(xùn)練過自己一種做法,那就是把想法拿出來,,用我對它們感到興奮的方式去追逐,,因?yàn)槲抑来蠖鄶?shù)的想法最終都不會成功的。在我職業(yè)生涯的早期,,我曾經(jīng)有過一個非常聰明的想法沒能付諸實(shí)現(xiàn),,我后來被壓垮了。不過最終我還是練就了這樣的境界,,就是像玩游戲一樣通過我的處理來挖掘想法并搞定他,,‘我能用多快的速度驗(yàn)證和否定自己的想法,而不是像保護(hù)寵物一樣保護(hù)著它,?’
所以,,我現(xiàn)在已經(jīng)有幾個候選的想法了,目前我正在對它們發(fā)起探索和攻擊,。但這些抽象想法和技術(shù)是很抽象的,,得用類似于深度學(xué)習(xí)的做法去嘗試,。
所以,我推遲了擴(kuò)大規(guī)模的做法,,因?yàn)楝F(xiàn)在有很多公司言必稱‘我們要融 1 個億,、2 個億,因?yàn)槲覀冃枰粋€裝滿 GPU 的倉庫,?!@是實(shí)現(xiàn)價值的途徑之一,畢竟現(xiàn)在有一種規(guī)模制勝的傾向,。但我的態(tài)度不太一樣,,我的想法是‘在浪費(fèi)掉別人的 1 億美元之前,我想把這五六件重要的事情給弄清楚,。其實(shí)我現(xiàn)在還沒花太多錢,。我是融了 2000 萬美元,但我認(rèn)為這項(xiàng)任務(wù)的跨度會長達(dá) 10 年,,我不想在接下來的兩年內(nèi)就燒掉這 2000 萬美元,,然后再去進(jìn)行新一輪的融資,再弄幾億美元,,因?yàn)槲矣X得這不是做事情的明智之舉,。
“我希望我可以用幾年的時間來解決其中的一些問題,去做出一些我認(rèn)為能朝著正確方向發(fā)展的小東西,。然后,,再進(jìn)行一定程度的擴(kuò)展,把一整個信息生命周期的東西給弄進(jìn)去,,去體驗(yàn)一下,,看看它能不能產(chǎn)生一些希望的火花?!?/em>
我希望我可以用幾年的時間來解決其中的一些問題,,去做出一些我認(rèn)為能朝著正確方向發(fā)展的小東西。然后,,再進(jìn)行一定程度的擴(kuò)展,,把一整個信息生命周期的東西給弄進(jìn)去,去體驗(yàn)一下,,看看它能不能產(chǎn)生一些希望的火花,。因?yàn)樵購?qiáng)調(diào)一次,我對最后問題會如何得到解決沒有任何預(yù)期,。
我反復(fù)強(qiáng)調(diào)這一點(diǎn):一旦 AI 到了相當(dāng)于蹣跚學(xué)步的孩子的地步——即 AI 到達(dá)了算成為了某種存在,,是有意識的,雖然它不是愛因斯坦,,甚至連乘法都不會的地步——但如果一個生物是可以學(xué)習(xí)的話,,那你就可以在一定程度上與之互動,,并教給它一些東西。到了那時候,,你就可以部署一支龐大的隊(duì)伍,,讓工程師、發(fā)展心理學(xué)家以及科學(xué)家去做研究了,。
因?yàn)槟菢拥臇|西我們還沒能做出來,,我們沒有能力模擬像那樣的東西。大腦運(yùn)用的一些招數(shù),、技巧和策略是我們所有的現(xiàn)有模型都做不到的,。但在我看來,達(dá)到這一點(diǎn)并非遙不可及,。
問:那你能看出怎么到達(dá)那個遙不可及的地方嗎,?
我能看到目的地。我知道它就在那里,,只是從這里到那里的道路上陰云密布。沒人知道如何到達(dá)那里,。但我看著那條路我會說我不知道那里會有什么,,但我想我可以到達(dá)那里——或者至少我認(rèn)為有人能到。我認(rèn)為很可能 2030 年代就能做到,。
我確實(shí)認(rèn)為,,這基本上是必然的。不過我一直以來都很擅長讓可能是必然會發(fā)生的事情提前到來,。比方說我做過的 3D 視頻游戲,,這東西我認(rèn)為早晚是要來的,但我讓它提前面世了,。
譯者:boxi,。
免責(zé)聲明:本文來自網(wǎng)絡(luò)收錄或投稿,觀點(diǎn)僅代表作者本人,,不代表芒果財經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,,版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處:http://lequren.com/992000.html
溫馨提示:投資有風(fēng)險,,入市須謹(jǐn)慎,。本資訊不作為投資理財建議。