在贏得蒂爾先生的青睞后，哈薩比斯博士努力進(jìn)入馬斯克先生的軌道,。大約兩年后,，他們?cè)诘贍柾顿Y基金組織的一次會(huì)議上見(jiàn)面，該基金也向馬斯克的公司 SpaceX 投資了資金,。哈薩比斯博士帶領(lǐng)大家參觀了 SpaceX 總部,。隨后，火箭外殼懸掛在天花板上,，兩人在自助餐廳共進(jìn)午餐并交談,。

馬斯克解釋說(shuō),，他的計(jì)劃是殖民火星,，以逃避地球上的人口過(guò)剩和其他危險(xiǎn)。哈薩比斯博士回答說(shuō),，只要超級(jí)智能機(jī)器不跟蹤并摧毀火星上的人類(lèi),，這個(gè)計(jì)劃就會(huì)奏效。

馬斯克先生無(wú)語(yǔ)了,。他沒(méi)有想到那種特殊的危險(xiǎn),。馬斯克先生很快與蒂爾先生一起投資了 DeepMind，這樣他就可以更接近這項(xiàng)技術(shù)的創(chuàng)造。

DeepMind 資金充裕,，聘請(qǐng)了專(zhuān)門(mén)研究神經(jīng)網(wǎng)絡(luò)和根據(jù)人腦圖像創(chuàng)建的復(fù)雜算法的研究人員,。

神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個(gè)巨大的數(shù)學(xué)系統(tǒng)，它花費(fèi)數(shù)天,、數(shù)周甚至數(shù)月的時(shí)間來(lái)識(shí)別大量數(shù)字?jǐn)?shù)據(jù)中的模式,。這些系統(tǒng)首次開(kāi)發(fā)于 20 世紀(jì) 50 年代，可以學(xué)習(xí)自行處理任務(wù),。例如,，在分析了數(shù)百個(gè)信封上潦草的姓名和地址后，他們可以閱讀手寫(xiě)文本,。

DeepMind 進(jìn)一步發(fā)展了這個(gè)概念,。它構(gòu)建了一個(gè)系統(tǒng)，可以學(xué)習(xí)玩經(jīng)典的雅達(dá)利游戲,，如《太空入侵者》,、《Pong》和《Breakout》，以展示什么是可能的,。

這引起了另一家硅谷巨頭谷歌的注意,，特別是拉里佩奇。他看到了 Deep Mind 機(jī)器玩雅達(dá)利游戲的演示,。他想進(jìn)去,。

02 人才拍賣(mài)會(huì)

2012 年秋天，多倫多大學(xué) 64 歲的教授 Geoffrey Hinton 和兩名研究生發(fā)表了一篇研究論文,，向世界展示了人工智能的能力,。他們訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別花、狗和汽車(chē)等常見(jiàn)物體,。

科學(xué)家們對(duì) Hinton 博士和他的學(xué)生開(kāi)發(fā)的技術(shù)的準(zhǔn)確性感到驚訝,。據(jù)三名知情人士透露，中國(guó)互聯(lián)網(wǎng)巨頭向 Hinton 博士和他的學(xué)生提供了 1200 萬(wàn)美元的入職條件,，讓他們加入公司。

Hinton 博士拒絕了,，但這筆錢(qián)引起了他的注意,。

這位在劍橋接受過(guò)教育的英國(guó)僑民除了偶爾在微軟和谷歌工作外，他的大部分職業(yè)生涯都在學(xué)術(shù)界度過(guò),，他并不是特別受金錢(qián)驅(qū)動(dòng),。但他有一個(gè)神經(jīng)分歧的孩子，這筆錢(qián)意味著經(jīng)濟(jì)安全,。

「我們不知道自己值多少錢(qián),，」辛頓博士說(shuō)。

他咨詢(xún)了有關(guān)收購(gòu)的律師和專(zhuān)家，并提出了一個(gè)計(jì)劃：「我們將組織一次拍賣(mài),，然后我們將自己出售,。」此次拍賣(mài)將在太浩湖 Harrah's 酒店和賭場(chǎng)舉行的年度人工智能會(huì)議期間舉行,。

大型科技公司注意到了這一點(diǎn),。

谷歌、微軟,、百度和其他公司開(kāi)始相信,，神經(jīng)網(wǎng)絡(luò)是一條通向機(jī)器的道路，機(jī)器不僅可以看,，還可以聽(tīng),、寫(xiě)、說(shuō),，并最終思考,。

佩奇先生在他公司的人工智能實(shí)驗(yàn)室谷歌大腦中看到了類(lèi)似的技術(shù)，他認(rèn)為辛頓博士的研究可以提升他的科學(xué)家的工作水平,。他給了谷歌工程高級(jí)副總裁艾倫·尤斯塔斯（Alan Eustace）一張相當(dāng)于一張空白支票,，可以雇傭他需要的任何人工智能專(zhuān)家。

拍賣(mài)前一天晚上,，大腦實(shí)驗(yàn)室的負(fù)責(zé)人尤斯塔斯先生和杰夫·迪恩飛往太浩湖,，帶辛頓博士和他的學(xué)生到酒店內(nèi)的一家牛排館吃晚飯。迪恩博士回憶說(shuō),，舊香煙的氣味太濃了,。他們提出了來(lái)谷歌工作的理由。

第二天,，辛頓博士在他的酒店房間里進(jìn)行了拍賣(mài),。由于背部有舊傷，他很少坐下來(lái),。他把一個(gè)垃圾桶倒過(guò)來(lái)放在桌子上,，把筆記本電腦放在上面，看著接下來(lái)兩天的出價(jià)滾滾而來(lái),。

谷歌提出了報(bào)價(jià),。微軟也是如此。隨著價(jià)格的上漲,，DeepMind 很快就退出了,。

根據(jù)拍賣(mài)的詳細(xì)文件，行業(yè)巨頭將出價(jià)提高到 2000 萬(wàn)美元,，然后是 2500 萬(wàn)美元,。當(dāng)價(jià)格超過(guò) 3000 萬(wàn)美元時(shí),，微軟退出，但以 3700 萬(wàn)美元的價(jià)格重新加入競(jìng)標(biāo),。

「我們感覺(jué)就像在看電影,，」辛頓博士說(shuō)。

然后微軟第二次退出,。只剩下百度和谷歌了,，他們把競(jìng)價(jià)推到了 4200 萬(wàn)美元、4300 萬(wàn)美元,。最后,，辛頓博士和他的學(xué)生以 4400 萬(wàn)美元停止了拍賣(mài)。出價(jià)仍在攀升,，但他們想為谷歌工作,。而且錢(qián)是驚人的。

這是一個(gè)明確的跡象,，表明財(cái)力雄厚的公司決心收購(gòu)最有才華的人工智能研究人員——DeepMind 的哈薩比斯博士也沒(méi)有忽視這一點(diǎn),。他一直告訴員工，DeepMind 將仍然是一家獨(dú)立的公司,。他相信,，這是確保其技術(shù)不會(huì)變成危險(xiǎn)事物的最佳方法。

但隨著大型科技公司進(jìn)入人才競(jìng)賽,，他認(rèn)為自己別無(wú)選擇：是時(shí)候出售了,。

據(jù)三位知情人士透露，到 2012 年底,，谷歌和 Facebook 正在考慮收購(gòu)倫敦實(shí)驗(yàn)室,。哈薩比斯博士和他的聯(lián)合創(chuàng)始人堅(jiān)持兩個(gè)條件：DeepMind 技術(shù)不能用于軍事目的，其 AGI 技術(shù)必須由技術(shù)專(zhuān)家和倫理學(xué)家組成的獨(dú)立委員會(huì)監(jiān)督,。

谷歌出價(jià) 6.5 億美元,。Facebook 的馬克·扎克伯格向 DeepMind 的創(chuàng)始人提出了更高的報(bào)酬，但他不同意這些條件,。DeepMind 賣(mài)給了谷歌,。

扎克伯格先生決心建立一個(gè)自己的人工智能實(shí)驗(yàn)室。他聘請(qǐng)了法國(guó)計(jì)算機(jī)科學(xué)家 Yann LeCun 來(lái)運(yùn)營(yíng)該項(xiàng)目,，他也做過(guò)開(kāi)創(chuàng)性的人工智能研究,。

Hinton 博士拍賣(mài)一年后，扎克伯格和 LeCun 博士飛往太浩湖參加同一次人工智能會(huì)議,。當(dāng)扎克伯格穿著襪子在哈拉斯賭場(chǎng)的套房里走來(lái)走去時(shí),，他親自采訪了頂尖研究人員,，他們很快就獲得了數(shù)百萬(wàn)美元的薪水和股票,。

AI 一度被嘲笑?，F(xiàn)在，硅谷最富有的人正在斥資數(shù)十億美元,，以免被拋在后面,。

03 失落的道德委員會(huì)

當(dāng)馬斯克投資 DeepMind 時(shí)，他打破了自己的非正式規(guī)則——他不會(huì)投資任何不是他自己經(jīng)營(yíng)的公司,。他的決定的缺點(diǎn)已經(jīng)很明顯了,，在他生日后與佩奇先生發(fā)生口角僅一個(gè)月左右，他就再次與他的前朋友兼億萬(wàn)富翁同行面對(duì)面,。

這次會(huì)議是 2015 年 8 月 14 日,，DeepMind 道德委員會(huì)的第一次會(huì)議。該委員會(huì)是在這家初創(chuàng)公司創(chuàng)始人的堅(jiān)持下成立的,，目的是確保他們的技術(shù)在出售后不會(huì)造成任何損害,。

據(jù)三名知情人士透露，成員們?cè)?SpaceX 馬斯克辦公室外的一間會(huì)議室舉行會(huì)議,，從一扇窗戶(hù)可以看到他的火箭工廠,。

但這就是馬斯克先生控制權(quán)的終結(jié)。當(dāng)谷歌收購(gòu) DeepMind 時(shí),，它收購(gòu)了整個(gè)公司,。馬斯克先生出去了。在經(jīng)濟(jì)上他已經(jīng)領(lǐng)先了,，但他并不高興,。

目前牢牢控制 DeepMind 的三名谷歌高管也在場(chǎng)：佩奇先生、謝爾蓋·布林 Sergey Brin,，谷歌聯(lián)合創(chuàng)始人,、特斯拉投資者；以及前谷歌董事長(zhǎng)埃里克·施密特,。

其他與會(huì)者包括 PayPal 的另一位創(chuàng)始人里德·霍夫曼 Reid Hoffman 和研究「存在風(fēng)險(xiǎn)」的澳大利亞哲學(xué)家托比·奧德 Toby Ord,。

DeepMind 創(chuàng)始人報(bào)告說(shuō)，他們正在推進(jìn)他們的工作,，但他們意識(shí)到這項(xiàng)技術(shù)存在嚴(yán)重風(fēng)險(xiǎn),。

DeepMind 聯(lián)合創(chuàng)始人蘇萊曼先生發(fā)表了題為「The Pitchforkers Are Coming」的演講,。他告訴董事會(huì),，人工智能可能會(huì)導(dǎo)致虛假信息激增,。他擔(dān)心,，隨著這項(xiàng)技術(shù)在未來(lái)幾年取代無(wú)數(shù)工作崗位,，公眾會(huì)指責(zé)谷歌竊取了他們的生計(jì),。他認(rèn)為,，谷歌需要與數(shù)百萬(wàn)無(wú)法再找到工作的人分享其財(cái)富,，并提供「全民基本收入」,。

馬斯克先生同意了,。但很明顯,，他的谷歌客人并不準(zhǔn)備開(kāi)始（他們的）財(cái)富的重新分配。施密特先生說(shuō),，他認(rèn)為這種擔(dān)憂(yōu)完全是多余的,。佩奇先生用他一貫的低語(yǔ)表示同意。他認(rèn)為,，人工智能創(chuàng)造的就業(yè)機(jī)會(huì)將多于它奪走的就業(yè)機(jī)會(huì),。

八個(gè)月后，DeepMind 取得了震驚人工智能界和全世界的突破,。一臺(tái)名為 AlphaGo 的 DeepMind 機(jī)器在古老的圍棋游戲中擊敗了世界上最好的棋手之一,。

這場(chǎng)比賽通過(guò)互聯(lián)網(wǎng)直播，全球有 2 億人觀看,。大多數(shù)研究人員認(rèn)為人工智能還需要 10 年的時(shí)間才能發(fā)揮聰明才智來(lái)做到這一點(diǎn),。

理性主義者、有效的利他主義者和其他擔(dān)心人工智能風(fēng)險(xiǎn)的人聲稱(chēng)計(jì)算機(jī)的勝利證實(shí)了他們的恐懼,。

「這再次表明人工智能的發(fā)展速度比許多專(zhuān)家預(yù)期的還要快,，」即將加入 DeepMind 擔(dān)任「人工智能安全」研究員的維多利亞·克拉科夫納 (Victoria Krakovna) 在一篇博客文章中寫(xiě)道。

DeepMind 的創(chuàng)始人越來(lái)越擔(dān)心谷歌將如何處理他們的發(fā)明,。2017 年,，他們?cè)噲D脫離公司。谷歌的回應(yīng)是增加 DeepMind 創(chuàng)始人及其員工的工資和股票獎(jiǎng)勵(lì),。他們留在原地,。

道德委員會(huì)從未召開(kāi)過(guò)第二次會(huì)議。

04 分道揚(yáng)鑣

馬斯克確信佩奇對(duì)人工智能的樂(lè)觀看法是完全錯(cuò)誤的,，并對(duì)失去 DeepMind 感到憤怒,，因此建立了自己的實(shí)驗(yàn)室。

OpenAI 成立于 2015 年底,，就在他在硅谷瑰麗酒店與 Sam Altman 會(huì)面幾個(gè)月后,。馬斯克向?qū)嶒?yàn)室注入了大量資金，他在 PayPal 的前好友霍夫曼和蒂爾也加入其中,。

三人和其他人承諾向該項(xiàng)目投入 10 億美元,，當(dāng)時(shí) 30 歲的 Altman 將幫助運(yùn)營(yíng)該項(xiàng)目。為了讓他們開(kāi)始,，他們從谷歌挖來(lái)了 Ilya Sutskever,。（Sutskever 博士是 Google 在 Hinton 博士的拍賣(mài)中「購(gòu)買(mǎi)」的研究生之一。）

最初,，馬斯克希望將 OpenAI 作為一個(gè)非營(yíng)利組織來(lái)運(yùn)營(yíng),，不受谷歌和其他公司的經(jīng)濟(jì)激勵(lì)措施的影響。但當(dāng)谷歌以其 AlphaGo 特技讓科技界驚嘆不已時(shí),，馬斯克已經(jīng)改變了他對(duì)公司運(yùn)營(yíng)方式的看法,。他迫切希望 OpenAI 發(fā)明一些能夠激發(fā)世界想象力并縮小與谷歌差距的東西,，但作為一個(gè)非營(yíng)利組織，它并沒(méi)有完成這項(xiàng)工作,。

據(jù)四位知情人士透露，2017 年底,，他制定了一項(xiàng)計(jì)劃,，從 Altman 和其他創(chuàng)始人手中奪取該實(shí)驗(yàn)室的控制權(quán)，并將其轉(zhuǎn)變?yōu)樯虡I(yè)運(yùn)營(yíng),，與特斯拉聯(lián)手,，并依賴(lài)該汽車(chē)公司正在開(kāi)發(fā)的超級(jí)計(jì)算機(jī)。與此事有關(guān),。

當(dāng) Altman 和其他人進(jìn)行反擊時(shí),，馬斯克辭職了，并表示他將專(zhuān)注于自己在特斯拉的人工智能工作,。三名參加會(huì)議的人士稱(chēng),，2018 年 2 月，他在一家改裝卡車(chē)工廠的初創(chuàng)公司辦公室頂層向 OpenAI 的員工宣布離職,。當(dāng)他說(shuō) OpenAI 需要加快步伐時(shí),，一位研究人員在會(huì)議上反駁說(shuō)馬斯克先生太魯莽了。

馬斯克稱(chēng)這位研究人員為「混蛋」,，然后帶著豐厚的財(cái)力憤然離去,。

OpenAI 突然急需新的融資。Altman 飛往太陽(yáng)谷參加會(huì)議,，并遇到了微軟首席執(zhí)行官薩蒂亞·納德拉 Satya Nadella,。合作似乎很自然。Altman 先生認(rèn)識(shí)微軟首席技術(shù)官凱文·斯科特,。微軟從 OpenAI 董事會(huì)成員霍夫曼手中收購(gòu)了 LinkedIn,。納德拉先生告訴斯科特先生去完成它。該交易于 2019 年完成,。

Altman 先生和 OpenAI 在原來(lái)的非營(yíng)利組織下組建了一家營(yíng)利性公司,，他們擁有 10 億美元的新資本，微軟也有一種新方法將人工智能構(gòu)建到其龐大的云計(jì)算服務(wù)中,。

并非 OpenAI 內(nèi)部的每個(gè)人都感到高興,。

OpenAI 誕生時(shí)，達(dá)里奧·阿莫迪 Dario Amodei 是一位與高效利他主義社區(qū)有聯(lián)系的研究員,，他就在瑰麗酒店,。

阿莫代博士在講話(huà)時(shí)不停地用手指扭動(dòng)自己的卷發(fā)，他正在領(lǐng)導(dǎo)實(shí)驗(yàn)室努力構(gòu)建一種稱(chēng)為大型語(yǔ)言模型的神經(jīng)網(wǎng)絡(luò),，該網(wǎng)絡(luò)可以從大量數(shù)字文本中學(xué)習(xí),。通過(guò)分析無(wú)數(shù)的維基百科文章,、數(shù)字圖書(shū)和留言板，它可以自行生成文本,。它也有編造事情的不幸習(xí)慣,。它被稱(chēng)為 GPT-3，于 2020 年夏天發(fā)布,。

OpenAI,、谷歌和其他公司的研究人員認(rèn)為，這種快速改進(jìn)的技術(shù)可能是通向 AGI 的道路,。

但 Amodei 博士對(duì)微軟的交易并不滿(mǎn)意,，因?yàn)樗J(rèn)為這將 OpenAI 引向真正的商業(yè)方向。據(jù)五位知情人士透露,，他和其他研究人員前往董事會(huì),，試圖將 Altman 趕下臺(tái)。失敗后,，他們就離開(kāi)了,。就像 DeepMind 的創(chuàng)始人一樣，他們擔(dān)心新的企業(yè)霸主會(huì)優(yōu)先考慮商業(yè)利益而不是安全,。

2021 年,，這個(gè)由約 15 名工程師和科學(xué)家組成的團(tuán)隊(duì)創(chuàng)建了一個(gè)名為 Anthropic 的新實(shí)驗(yàn)室。該計(jì)劃是按照有效的利他主義者認(rèn)為應(yīng)該做的方式構(gòu)建人工智能——并進(jìn)行非常嚴(yán)格的控制,。

「Anthropic 的聯(lián)合創(chuàng)始人并沒(méi)有試圖將 Sam Altman 從 OpenAI 中剔除,，」Anthropic 發(fā)言人 Sally Aldous 表示?！嘎?lián)合創(chuàng)始人自己得出的結(jié)論是,，他們希望離開(kāi) OpenAI 創(chuàng)辦自己的公司，并向 OpenAI 的領(lǐng)導(dǎo)層通報(bào)了這一點(diǎn),，并在幾周內(nèi)就雙方同意的條款進(jìn)行了退出談判,。」

Anthropic 接受了亞馬遜 40 億美元的投資,，兩年后又接受了谷歌 20 億美元的投資,。

05 答案揭曉

在 OpenAI 又從微軟獲得 20 億美元后，Altman 和另一位高管格雷格·布羅克曼 Greg Brockman 拜訪了比爾·蓋茨 Bill Gates,，他位于西雅圖郊外華盛頓湖畔的豪宅,。

這位微軟創(chuàng)始人不再參與公司的日常事務(wù)，但與公司高管保持定期聯(lián)系,。

晚餐時(shí),，蓋茨先生告訴他們，他懷疑大型語(yǔ)言模型能否發(fā)揮作用。他說(shuō),，他會(huì)保持懷疑態(tài)度,，直到該技術(shù)完成一項(xiàng)需要批判性思維的任務(wù)——例如通過(guò) AP 生物學(xué)測(cè)試。

五個(gè)月后,，即 2022 年 8 月 24 日,，Altman 先生和 Brockman 先生回來(lái)了，并帶來(lái)了一位名叫 Chelsea Voss 的 OpenAI 研究員,。沃斯女士在高中時(shí)曾獲得過(guò)國(guó)際生物奧林匹克競(jìng)賽的獎(jiǎng)牌,。納德拉和其他微軟高管也出席了會(huì)議。

在蓋茨先生客廳外的巨大數(shù)字顯示屏上,，OpenAI 團(tuán)隊(duì)展示了一項(xiàng)名為 GPT-4 的技術(shù)。

布羅克曼先生對(duì)系統(tǒng)進(jìn)行了多項(xiàng)選擇的高級(jí)生物學(xué)測(cè)試,，沃斯女士對(duì)答案進(jìn)行了評(píng)分,。第一個(gè)問(wèn)題涉及極性分子，即一端帶正電荷,、另一端帶負(fù)電荷的原子團(tuán),。

系統(tǒng)回答正確并解釋了它的選擇,。「它只是經(jīng)過(guò)訓(xùn)練來(lái)提供答案，」布羅克曼先生說(shuō),?！刚勗?huà)的本質(zhì)幾乎神奇地消失了,。」換句話(huà)說(shuō),，它正在做一些他們并沒(méi)有真正設(shè)計(jì)它做的事情,。

有 60 個(gè)問(wèn)題。GPT-4 只有一個(gè)答案錯(cuò)誤,。

蓋茨先生從椅子上坐起來(lái),，睜大了眼睛,。1980 年,，當(dāng)研究人員向他展示成為現(xiàn)代個(gè)人計(jì)算機(jī)基礎(chǔ)的圖形用戶(hù)界面時(shí)，他也有類(lèi)似的反應(yīng),。他認(rèn)為 GPT 就是革命性的,。

到 10 月，微軟在其在線(xiàn)服務(wù)中添加了該技術(shù),，包括 Bing 搜索引擎,。兩個(gè)月后，OpenAI 發(fā)布了 ChatGPT 聊天機(jī)器人,，目前每周有 1 億人使用該機(jī)器人,。

OpenAI 擊敗了 Anthropic 的高效利他主義者。

佩奇在谷歌的樂(lè)觀派急忙發(fā)布了他們自己的聊天機(jī)器人 Bard,，但人們普遍認(rèn)為他們?cè)谂c OpenAI 的競(jìng)爭(zhēng)中失敗了,。ChatGPT 發(fā)布三個(gè)月后，谷歌股價(jià)下跌了 11%,。馬斯克先生無(wú)處可尋,。

但這只是開(kāi)始,。