原文來源：極客公園

圖片來源：由無界 AI生成

編者按：

1919 年 6 月,，《凡爾賽條約》簽訂似乎證明了慘絕人寰的第一次世界大戰(zhàn)正式宣告結(jié)束,，而長久的和平即將到來。只有法國的斐迪南·福煦元帥預(yù)言：這不是和平,，而是二十年休戰(zhàn),。元帥一語成讖，1939 年,，德國閃擊波蘭,，第二次世界大戰(zhàn)正式打響,。
將這段戰(zhàn)爭(zhēng)史移到現(xiàn)在火熱的 AI 大戰(zhàn)之中，能夠發(fā)現(xiàn)二者驚人的相似之處,?？雌饋?OpenAI 帶起的 AI+大模型浪潮始于去年，但其實(shí)「戰(zhàn)爭(zhēng)」的種子,，在 8 年之前馬斯克與谷歌創(chuàng)始人拉里·佩奇的「AI 論戰(zhàn)」之中已經(jīng)埋下,。
8 年的時(shí)間里，馬斯克,、彼德·蒂爾,、Sam Altman、拉里·佩奇,、戴密斯·哈薩比斯,、蓋茨、薩提亞·納德拉,，這些和現(xiàn)在當(dāng)紅 AI 公司 OpenAI,、Anthropic、微軟,、DeepMind 緊密捆綁的人物,，他們之間的合縱連橫，最終催生了 2016 年前后第一次人工智能大戰(zhàn)，和 2022 年的大模型之戰(zhàn),，重塑了人工智能之戰(zhàn)的圖景,。而在其背后驅(qū)動(dòng)的，是恐懼,、自我和金錢,。

2015 年 7 月,，伊隆·馬斯克 Elon Musk 慶祝了自己的 44 歲生日，他的妻子在加利福尼亞州一個(gè)布滿小木屋的葡萄酒鄉(xiāng)村度假村舉辦了一場(chǎng)為期三天的派對(duì),。只有家人和朋友,，孩子們?cè)诩{帕谷的高檔住宅周圍奔跑。

那是 Twitter 成為 X 之前的幾年,，特斯拉也迎來了盈利的一年,。馬斯克和他的妻子塔露拉·萊利 Talulah Riley——一位女演員，在 HBO 的科幻連續(xù)劇《西部世界》中扮演了一個(gè)美麗但危險(xiǎn)的機(jī)器人——距離他們的第二次婚姻認(rèn)輸還有一年,。派對(duì)嘉賓拉里·佩奇 Larry Page 仍然是谷歌的首席執(zhí)行官,。人工智能在幾年前才引起了公眾的注意，當(dāng)時(shí)它被用來識(shí)別 YouTube 上的貓——準(zhǔn)確率達(dá)到 16%,。

第一晚晚飯后,，當(dāng)馬斯克和佩奇坐在游泳池邊的火坑旁時(shí)，人工智能成為了談話的一大話題,。這兩位億萬富翁已經(jīng)是十多年的朋友了,，馬斯克有時(shí)會(huì)開玩笑說，他偶爾會(huì)在玩了一晚上的電子游戲后倒在佩奇的沙發(fā)上,。

但那個(gè)晴朗的夜晚很快就變得充滿爭(zhēng)議,，因?yàn)閮扇藸?zhēng)論人工智能最終會(huì)提升人類還是毀滅人類。

隨著討論持續(xù)到寒冷的時(shí)間,，討論變得越來越激烈,，30 多名聚會(huì)者中的一些人湊近了聽。佩奇先生十多年來一直受到聲帶異常疾病的困擾,，他低聲描述了他對(duì)數(shù)字烏托邦的愿景,。他說，人類最終將與人工智能機(jī)器融合,。有一天,，將會(huì)有多種智能爭(zhēng)奪資源，最優(yōu)秀的將會(huì)獲勝,。

馬斯克說,，如果發(fā)生這種情況，我們就完蛋了,。機(jī)器將毀滅人類。

帶著沮喪的聲音,，佩奇先生堅(jiān)持要追求他的烏托邦,。最后，他稱馬斯克為「物種主義者」,，是一個(gè)偏愛人類而非未來數(shù)字生命形式的人,。

馬斯克后來說,，這種侮辱是「最后一根稻草」。

當(dāng)晚散去時(shí),，人群中的許多人似乎都目瞪口呆,，甚至有些好笑，并認(rèn)為這只是硅谷派對(duì)上經(jīng)常爆發(fā)的深?yuàn)W辯論中的又一場(chǎng),。

但八年后,，兩人之間的爭(zhēng)論似乎有先見之明。人工智能究竟會(huì)提升世界還是毀滅世界——或者至少造成嚴(yán)重?fù)p害——這一問題引發(fā)了硅谷創(chuàng)始人,、聊天機(jī)器人用戶,、學(xué)者、立法者和監(jiān)管機(jī)構(gòu)之間關(guān)于該技術(shù)是否應(yīng)該受到控制或釋放的持續(xù)爭(zhēng)論,。

這場(chǎng)爭(zhēng)論讓世界上一些最富有的人相互對(duì)立：馬斯克,、佩奇、Meta 的馬克·扎克伯格,、科技投資者彼得·蒂爾,、微軟的薩蒂亞·納德拉和 OpenAI 的 Sam Altman。所有人都在爭(zhēng)奪這一業(yè)務(wù)的份額（有一天,，該業(yè)務(wù)可能價(jià)值數(shù)萬億美元）以及塑造它的權(quán)力,。

這場(chǎng)競(jìng)爭(zhēng)的核心是一個(gè)令人費(fèi)腦筋的悖論。那些自稱最擔(dān)心人工智能的人,，是最有決心創(chuàng)造人工智能并享受人工智能財(cái)富的人,。他們堅(jiān)信，只有他們才能阻止人工智能危及地球,，從而證明了自己的雄心壯志,。

那年夏天的聚會(huì)結(jié)束后不久，馬斯克和佩奇就不再說話了,。幾周后,，馬斯克與當(dāng)時(shí)經(jīng)營一家科技孵化器的 Altman 以及幾名研究人員，在加利福尼亞州門洛帕克瑰麗酒店的一間私人房間里共進(jìn)晚餐,，該酒店是靠近該合資企業(yè)的熱門交易地點(diǎn)沙山路的首都辦事處,。

那次晚宴促成了一家名為 OpenAI 的初創(chuàng)公司在當(dāng)年晚些時(shí)候的成立。在馬斯克和其他資助者的數(shù)億美元支持下,，該實(shí)驗(yàn)室承諾保護(hù)世界免受佩奇愿景的影響,。

憑借其 ChatGPT 聊天機(jī)器人，OpenAI 從根本上改變了科技行業(yè),，并向世界介紹了人工智能的風(fēng)險(xiǎn)和潛力,。據(jù)兩位熟悉該公司最新一輪融資的人士透露，OpenAI 的估值超過 800 億美元，不過馬斯克和 Altman 的合作并未成功,。兩人從此不再說話,。

「存在分歧、不信任和自負(fù),，」Altman 說,。「人們?cè)浇咏环较?，分歧就越有?zhēng)議,。你可以在教派和宗教團(tuán)體中看到這一點(diǎn)。最親近的人之間也會(huì)發(fā)生激烈的爭(zhēng)吵,?！?/p>

上個(gè)月，這場(chǎng)內(nèi)訌來到了 OpenAI 的董事會(huì),。Rebel 董事會(huì)成員試圖驅(qū)逐 Altman,，因?yàn)樗麄冋J(rèn)為，他們不能再相信他能夠構(gòu)建造福人類的人工智能,。在混亂的五天里,，OpenAI 看起來似乎要崩潰了，直到董事會(huì)在巨額投資者和威脅要追隨 Altman 離開的員工的壓力下做出了讓步,。

OpenAI 內(nèi)部的戲劇讓世界第一次看到那些將決定人工智能未來的人之間的激烈爭(zhēng)斗

但在 OpenAI 瀕臨崩潰的幾年前,，硅谷就發(fā)生了一場(chǎng)鮮為人知但激烈的爭(zhēng)奪技術(shù)控制權(quán)的競(jìng)爭(zhēng)，這些技術(shù)現(xiàn)在正在迅速重塑世界,，從如何教育兒童到如何進(jìn)行戰(zhàn)爭(zhēng),。New York Times 采訪了 80 多名高管、科學(xué)家和企業(yè)家,，其中包括 2015 年參加馬斯克生日派對(duì)的兩人,，講述了這個(gè)關(guān)于野心、恐懼和金錢的故事,。

01 DeepMind 的誕生

納帕谷派對(duì)的五年前,，也就是貓?jiān)?YouTube 上取得突破的兩年前，34 歲的神經(jīng)科學(xué)家戴密斯·哈薩比斯 Demis Hassabis 走進(jìn) Peter Thiel 在舊金山聯(lián)排別墅舉行的雞尾酒會(huì),，意識(shí)到自己賺到了大錢,。蒂爾的客廳里有一個(gè)棋盤，俯瞰著這座城市的美術(shù)宮和天鵝池,。哈薩比斯博士曾是 14 歲以下組世界第二好的球員,。

「我為這次會(huì)議準(zhǔn)備了一年，」哈薩比斯博士說,?！肝艺J(rèn)為這將是我獨(dú)特的魅力：我知道他喜歡國際象棋。」

2010 年,，哈薩比斯博士和兩名住在英國的同事正在尋找資金來開始建造「通用人工智能」（AGI），這是一種可以做大腦能做的任何事情的機(jī)器,。當(dāng)時(shí)很少有人對(duì)人工智能感興趣,。經(jīng)過半個(gè)世紀(jì)的研究，人工智能領(lǐng)域未能提供任何與人類大腦相距甚遠(yuǎn)的東西,。

盡管如此,，一些科學(xué)家和思想家仍然關(guān)注人工智能的缺點(diǎn)。許多人,，比如這三個(gè)來自英國的年輕人,，與互聯(lián)網(wǎng)哲學(xué)家和自學(xué)成才的人工智能研究員埃利澤·尤德科夫斯基 Eliezer Yudkowsky 有聯(lián)系。尤德科夫斯基先生是一群自稱為理性主義者或后來稱為有效利他主義者的群體中的領(lǐng)導(dǎo)者,。

他們相信人工智能可以找到治療癌癥或解決氣候變化的方法,，但他們擔(dān)心人工智能機(jī)器人可能會(huì)做他們的創(chuàng)造者沒有想到的事情。理性主義者認(rèn)為,，如果機(jī)器變得比人類更聰明,，機(jī)器就會(huì)背叛它們的創(chuàng)造者。

蒂爾通過對(duì) Facebook 的早期投資以及在 PayPal 早期與馬斯克的合作而變得非常富有,。他對(duì)奇點(diǎn)產(chǎn)生了濃厚的興趣,，奇點(diǎn)是科幻小說中的一個(gè)比喻，描述智能技術(shù)不再受人類控制的時(shí)刻,。

在蒂爾先生的資助下,，尤德科斯基先生擴(kuò)大了他的人工智能實(shí)驗(yàn)室，并舉辦了關(guān)于奇點(diǎn)的年度會(huì)議,。幾年前,，哈薩比斯博士的兩名同事中的一位見過尤德科斯基先生，他為他們贏得了在會(huì)議上發(fā)言的機(jī)會(huì),，確保他們會(huì)被邀請(qǐng)參加蒂爾先生的聚會(huì),。

Yudkowsky 先生向 Thiel 先生介紹了 Hassabis 博士。哈薩比斯博士聚會(huì)上的很多人都會(huì)試圖向主人榨取金錢,。他的策略是安排另一次會(huì)議,。他告訴蒂爾先生，主教和騎士之間存在著深深的緊張關(guān)系,。這兩件棋子的價(jià)值相同,，但最優(yōu)秀的玩家都知道，他們的實(shí)力相差甚遠(yuǎn),。

有效,。第二天，蒂爾先生被迷住了，邀請(qǐng)大家回來,，他們聚集在廚房里,。他們的主人剛剛結(jié)束早晨的鍛煉，穿著閃亮的運(yùn)動(dòng)服,，還在大汗淋漓,。管家遞給他一杯健怡可樂。三人提出了自己的建議,，很快蒂爾先生和他的風(fēng)險(xiǎn)投資公司同意向他們的初創(chuàng)企業(yè)投入 140 萬英鎊（約合 225 萬美元）,。他是他們的第一位主要投資者。

他們將公司命名為 DeepMind,，這是對(duì)「深度學(xué)習(xí)」的認(rèn)可,，「深度學(xué)習(xí)」是人工智能系統(tǒng)通過分析大量數(shù)據(jù)來學(xué)習(xí)技能的一種方式；神經(jīng)科學(xué),；以及科幻小說《銀河系漫游指南》中的 Deep Thought 超級(jí)計(jì)算機(jī),。到 2010 年秋天，他們開始建造自己的夢(mèng)想機(jī)器,。他們?nèi)娜獾叵嘈?，因?yàn)樗麄兞私怙L(fēng)險(xiǎn)，所以他們?cè)诒Ｗo(hù)世界方面處于獨(dú)特的地位,。

「我不認(rèn)為這是一個(gè)矛盾的立場(chǎng),，」DeepMind 三位創(chuàng)始人之一穆斯塔法·蘇萊曼 Mustafa Suleyman 說?！?strong>這些技術(shù)可以帶來巨大的好處,。我們的目標(biāo)不是消除它們或暫停它們的發(fā)展。我們的目標(biāo)是減輕不利因素,?！?/p>

在贏得蒂爾先生的青睞后，哈薩比斯博士努力進(jìn)入馬斯克先生的軌道,。大約兩年后,，他們?cè)诘贍柾顿Y基金組織的一次會(huì)議上見面，該基金也向馬斯克的公司 SpaceX 投資了資金,。哈薩比斯博士帶領(lǐng)大家參觀了 SpaceX 總部,。隨后，火箭外殼懸掛在天花板上,，兩人在自助餐廳共進(jìn)午餐并交談,。

馬斯克解釋說，他的計(jì)劃是殖民火星,，以逃避地球上的人口過剩和其他危險(xiǎn),。哈薩比斯博士回答說,，只要超級(jí)智能機(jī)器不跟蹤并摧毀火星上的人類，這個(gè)計(jì)劃就會(huì)奏效,。

馬斯克先生無語了,。他沒有想到那種特殊的危險(xiǎn)。馬斯克先生很快與蒂爾先生一起投資了 DeepMind,，這樣他就可以更接近這項(xiàng)技術(shù)的創(chuàng)造,。

DeepMind 資金充裕，聘請(qǐng)了專門研究神經(jīng)網(wǎng)絡(luò)和根據(jù)人腦圖像創(chuàng)建的復(fù)雜算法的研究人員,。神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個(gè)巨大的數(shù)學(xué)系統(tǒng)，它花費(fèi)數(shù)天,、數(shù)周甚至數(shù)月的時(shí)間來識(shí)別大量數(shù)字?jǐn)?shù)據(jù)中的模式,。這些系統(tǒng)首次開發(fā)于 20 世紀(jì) 50 年代，可以學(xué)習(xí)自行處理任務(wù),。例如,，在分析了數(shù)百個(gè)信封上潦草的姓名和地址后，他們可以閱讀手寫文本,。

DeepMind 進(jìn)一步發(fā)展了這個(gè)概念,。它構(gòu)建了一個(gè)系統(tǒng)，可以學(xué)習(xí)玩經(jīng)典的雅達(dá)利游戲,，如《太空入侵者》,、《Pong》和《Breakout》，以展示什么是可能的,。

這引起了另一家硅谷巨頭谷歌的注意,，特別是拉里佩奇。他看到了 Deep Mind 機(jī)器玩雅達(dá)利游戲的演示,。他想進(jìn)去,。

02 人才拍賣會(huì)

2012 年秋天，多倫多大學(xué) 64 歲的教授 Geoffrey Hinton 和兩名研究生發(fā)表了一篇研究論文,，向世界展示了人工智能的能力,。他們訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)來識(shí)別花、狗和汽車等常見物體,。

科學(xué)家們對(duì) Hinton 博士和他的學(xué)生開發(fā)的技術(shù)的準(zhǔn)確性感到驚訝,。據(jù)三名知情人士透露，中國互聯(lián)網(wǎng)巨頭向 Hinton 博士和他的學(xué)生提供了 1200 萬美元的入職條件,，讓他們加入公司,。

Hinton 博士拒絕了，但這筆錢引起了他的注意,。

這位在劍橋接受過教育的英國僑民除了偶爾在微軟和谷歌工作外,，他的大部分職業(yè)生涯都在學(xué)術(shù)界度過,，他并不是特別受金錢驅(qū)動(dòng)。但他有一個(gè)神經(jīng)分歧的孩子,，這筆錢意味著經(jīng)濟(jì)安全,。

「我們不知道自己值多少錢，」辛頓博士說,。他咨詢了有關(guān)收購的律師和專家,，并提出了一個(gè)計(jì)劃：「我們將組織一次拍賣，然后我們將自己出售,?！勾舜闻馁u將在太浩湖 Harrah's 酒店和賭場(chǎng)舉行的年度人工智能會(huì)議期間舉行。

大型科技公司注意到了這一點(diǎn),。谷歌,、微軟、百度和其他公司開始相信,，神經(jīng)網(wǎng)絡(luò)是一條通向機(jī)器的道路,，機(jī)器不僅可以看，還可以聽,、寫,、說，并最終思考,。

佩奇先生在他公司的人工智能實(shí)驗(yàn)室谷歌大腦中看到了類似的技術(shù),，他認(rèn)為辛頓博士的研究可以提升他的科學(xué)家的工作水平。他給了谷歌工程高級(jí)副總裁艾倫·尤斯塔斯（Alan Eustace）一張相當(dāng)于一張空白支票,，可以雇傭他需要的任何人工智能專家,。

拍賣前一天晚上，大腦實(shí)驗(yàn)室的負(fù)責(zé)人尤斯塔斯先生和杰夫·迪恩飛往太浩湖,，帶辛頓博士和他的學(xué)生到酒店內(nèi)的一家牛排館吃晚飯,。迪恩博士回憶說，舊香煙的氣味太濃了,。他們提出了來谷歌工作的理由,。

第二天，辛頓博士在他的酒店房間里進(jìn)行了拍賣,。由于背部有舊傷,，他很少坐下來。他把一個(gè)垃圾桶倒過來放在桌子上,，把筆記本電腦放在上面,，看著接下來兩天的出價(jià)滾滾而來。

谷歌提出了報(bào)價(jià),。微軟也是如此。隨著價(jià)格的上漲,，DeepMind 很快就退出了。根據(jù)拍賣的詳細(xì)文件,，行業(yè)巨頭將出價(jià)提高到 2000 萬美元,，然后是 2500 萬美元。當(dāng)價(jià)格超過 3000 萬美元時(shí),，微軟退出,，但以 3700 萬美元的價(jià)格重新加入競(jìng)標(biāo)。

「我們感覺就像在看電影,，」辛頓博士說,。

然后微軟第二次退出,。只剩下百度和谷歌了,，他們把競(jìng)價(jià)推到了 4200 萬美元,、4300 萬美元。最后,，辛頓博士和他的學(xué)生以 4400 萬美元停止了拍賣。出價(jià)仍在攀升，但他們想為谷歌工作,。而且錢是驚人的,。

這是一個(gè)明確的跡象,，表明財(cái)力雄厚的公司決心收購最有才華的人工智能研究人員——DeepMind 的哈薩比斯博士也沒有忽視這一點(diǎn),。他一直告訴員工,，DeepMind 將仍然是一家獨(dú)立的公司,。他相信,，這是確保其技術(shù)不會(huì)變成危險(xiǎn)事物的最佳方法。

但隨著大型科技公司進(jìn)入人才競(jìng)賽,，他認(rèn)為自己別無選擇：是時(shí)候出售了。

據(jù)三位知情人士透露,，到 2012 年底,，谷歌和 Facebook 正在考慮收購倫敦實(shí)驗(yàn)室,。哈薩比斯博士和他的聯(lián)合創(chuàng)始人堅(jiān)持兩個(gè)條件：DeepMind 技術(shù)不能用于軍事目的,，其 AGI 技術(shù)必須由技術(shù)專家和倫理學(xué)家組成的獨(dú)立委員會(huì)監(jiān)督,。

谷歌出價(jià) 6.5 億美元,。Facebook 的馬克·扎克伯格向 DeepMind 的創(chuàng)始人提出了更高的報(bào)酬，但他不同意這些條件,。DeepMind 賣給了谷歌,。

扎克伯格先生決心建立一個(gè)自己的人工智能實(shí)驗(yàn)室,。他聘請(qǐng)了法國計(jì)算機(jī)科學(xué)家 Yann LeCun 來運(yùn)營該項(xiàng)目,，他也做過開創(chuàng)性的人工智能研究,。Hinton 博士拍賣一年后,，扎克伯格和 LeCun 博士飛往太浩湖參加同一次人工智能會(huì)議。當(dāng)扎克伯格穿著襪子在哈拉斯賭場(chǎng)的套房里走來走去時(shí),，他親自采訪了頂尖研究人員,，他們很快就獲得了數(shù)百萬美元的薪水和股票,。

AI 一度被嘲笑?，F(xiàn)在,，硅谷最富有的人正在斥資數(shù)十億美元,，以免被拋在后面。

03 失落的道德委員會(huì)

當(dāng)馬斯克投資 DeepMind 時(shí),，他打破了自己的非正式規(guī)則——他不會(huì)投資任何不是他自己經(jīng)營的公司,。他的決定的缺點(diǎn)已經(jīng)很明顯了，在他生日后與佩奇先生發(fā)生口角僅一個(gè)月左右,，他就再次與他的前朋友兼億萬富翁同行面對(duì)面,。

這次會(huì)議是 2015 年 8 月 14 日，DeepMind 道德委員會(huì)的第一次會(huì)議,。該委員會(huì)是在這家初創(chuàng)公司創(chuàng)始人的堅(jiān)持下成立的,，目的是確保他們的技術(shù)在出售后不會(huì)造成任何損害。據(jù)三名知情人士透露,，成員們?cè)?SpaceX 馬斯克辦公室外的一間會(huì)議室舉行會(huì)議,，從一扇窗戶可以看到他的火箭工廠。

但這就是馬斯克先生控制權(quán)的終結(jié),。當(dāng)谷歌收購 DeepMind 時(shí),，它收購了整個(gè)公司,。馬斯克先生出去了。在經(jīng)濟(jì)上他已經(jīng)領(lǐng)先了,，但他并不高興。

目前牢牢控制 DeepMind 的三名谷歌高管也在場(chǎng)：佩奇先生、佩奇先生、謝爾蓋·布林 Sergey Brin，谷歌聯(lián)合創(chuàng)始人、特斯拉投資者,；以及前谷歌董事長埃里克·施密特。其他與會(huì)者包括 PayPal 的另一位創(chuàng)始人里德·霍夫曼 Reid Hoffman 和研究「存在風(fēng)險(xiǎn)」的澳大利亞哲學(xué)家托比·奧德 Toby Ord,。

DeepMind 創(chuàng)始人報(bào)告說,，他們正在推進(jìn)他們的工作,，但他們意識(shí)到這項(xiàng)技術(shù)存在嚴(yán)重風(fēng)險(xiǎn),。

DeepMind 聯(lián)合創(chuàng)始人蘇萊曼先生發(fā)表了題為「The Pitchforkers Are Coming」的演講,。他告訴董事會(huì)，人工智能可能會(huì)導(dǎo)致虛假信息激增。他擔(dān)心,，隨著這項(xiàng)技術(shù)在未來幾年取代無數(shù)工作崗位,，公眾會(huì)指責(zé)谷歌竊取了他們的生計(jì),。他認(rèn)為,，谷歌需要與數(shù)百萬無法再找到工作的人分享其財(cái)富,，并提供「全民基本收入」。

馬斯克先生同意了,。但很明顯,，他的谷歌客人并不準(zhǔn)備開始（他們的）財(cái)富的重新分配,。施密特先生說,，他認(rèn)為這種擔(dān)憂完全是多余的,。佩奇先生用他一貫的低語表示同意,。他認(rèn)為,，人工智能創(chuàng)造的就業(yè)機(jī)會(huì)將多于它奪走的就業(yè)機(jī)會(huì),。

八個(gè)月后,，DeepMind 取得了震驚人工智能界和全世界的突破。一臺(tái)名為 AlphaGo 的 DeepMind 機(jī)器在古老的圍棋游戲中擊敗了世界上最好的棋手之一,。這場(chǎng)比賽通過互聯(lián)網(wǎng)直播,，全球有 2 億人觀看。大多數(shù)研究人員認(rèn)為人工智能還需要 10 年的時(shí)間才能發(fā)揮聰明才智來做到這一點(diǎn),。

理性主義者,、有效的利他主義者和其他擔(dān)心人工智能風(fēng)險(xiǎn)的人聲稱計(jì)算機(jī)的勝利證實(shí)了他們的恐懼。

「這再次表明人工智能的發(fā)展速度比許多專家預(yù)期的還要快,，」即將加入 DeepMind 擔(dān)任「人工智能安全」研究員的維多利亞·克拉科夫納 (Victoria Krakovna) 在一篇博客文章中寫道,。

DeepMind 的創(chuàng)始人越來越擔(dān)心谷歌將如何處理他們的發(fā)明。2017 年,，他們?cè)噲D脫離公司,。谷歌的回應(yīng)是增加 DeepMind 創(chuàng)始人及其員工的工資和股票獎(jiǎng)勵(lì)。他們留在原地,。

道德委員會(huì)從未召開過第二次會(huì)議,。

04 分手

馬斯克確信佩奇對(duì)人工智能的樂觀看法是完全錯(cuò)誤的，并對(duì)失去 DeepMind 感到憤怒,，因此建立了自己的實(shí)驗(yàn)室,。

OpenAI 成立于 2015 年底，就在他在硅谷瑰麗酒店與 Sam Altman 會(huì)面幾個(gè)月后,。馬斯克向?qū)嶒?yàn)室注入了大量資金,，他在 PayPal 的前好友霍夫曼和蒂爾也加入其中。三人和其他人承諾向該項(xiàng)目投入 10 億美元,，當(dāng)時(shí) 30 歲的 Altman 將幫助運(yùn)營該項(xiàng)目,。為了讓他們開始，他們從谷歌挖來了 Ilya Sutskever,。（Sutskever 博士是 Google 在 Hinton 博士的拍賣中「購買」的研究生之一,。）

最初，馬斯克希望將 OpenAI 作為一個(gè)非營利組織來運(yùn)營,，不受谷歌和其他公司的經(jīng)濟(jì)激勵(lì)措施的影響,。但當(dāng)谷歌以其 AlphaGo 特技讓科技界驚嘆不已時(shí)，馬斯克已經(jīng)改變了他對(duì)公司運(yùn)營方式的看法,。他迫切希望 OpenAI 發(fā)明一些能夠激發(fā)世界想象力并縮小與谷歌差距的東西,，但作為一個(gè)非營利組織，它并沒有完成這項(xiàng)工作,。

據(jù)四位知情人士透露,，2017 年底,，他制定了一項(xiàng)計(jì)劃，從 Altman 和其他創(chuàng)始人手中奪取該實(shí)驗(yàn)室的控制權(quán),，并將其轉(zhuǎn)變?yōu)樯虡I(yè)運(yùn)營,，與特斯拉聯(lián)手，并依賴該汽車公司正在開發(fā)的超級(jí)計(jì)算機(jī),。與此事有關(guān),。

當(dāng) Altman 和其他人進(jìn)行反擊時(shí)，馬斯克辭職了,，并表示他將專注于自己在特斯拉的人工智能工作,。三名參加會(huì)議的人士稱,，2018 年 2 月,，他在一家改裝卡車工廠的初創(chuàng)公司辦公室頂層向 OpenAI 的員工宣布離職。當(dāng)他說 OpenAI 需要加快步伐時(shí),，一位研究人員在會(huì)議上反駁說馬斯克先生太魯莽了,。

馬斯克稱這位研究人員為「混蛋」，然后帶著豐厚的財(cái)力憤然離去,。

OpenAI 突然急需新的融資,。Altman 飛往太陽谷參加會(huì)議，并遇到了微軟首席執(zhí)行官薩蒂亞·納德拉 Satya Nadella,。合作似乎很自然,。Altman 先生認(rèn)識(shí)微軟首席技術(shù)官凱文·斯科特。微軟從 OpenAI 董事會(huì)成員霍夫曼手中收購了 LinkedIn,。納德拉先生告訴斯科特先生去完成它,。該交易于 2019 年完成。

Altman 先生和 OpenAI 在原來的非營利組織下組建了一家營利性公司,，他們擁有 10 億美元的新資本,，微軟也有一種新方法將人工智能構(gòu)建到其龐大的云計(jì)算服務(wù)中。

并非 OpenAI 內(nèi)部的每個(gè)人都感到高興,。

OpenAI 誕生時(shí),，達(dá)里奧·阿莫迪 Dario Amodei 是一位與高效利他主義社區(qū)有聯(lián)系的研究員，他就在瑰麗酒店,。阿莫代博士在講話時(shí)不停地用手指扭動(dòng)自己的卷發(fā),，他正在領(lǐng)導(dǎo)實(shí)驗(yàn)室努力構(gòu)建一種稱為大型語言模型的神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)可以從大量數(shù)字文本中學(xué)習(xí),。通過分析無數(shù)的維基百科文章,、數(shù)字圖書和留言板，它可以自行生成文本,。它也有編造事情的不幸習(xí)慣,。它被稱為 GPT-3,，于 2020 年夏天發(fā)布。

OpenAI,、谷歌和其他公司的研究人員認(rèn)為,，這種快速改進(jìn)的技術(shù)可能是通向 AGI 的道路

但 Amodei 博士對(duì)微軟的交易并不滿意，因?yàn)樗J(rèn)為這將 OpenAI 引向真正的商業(yè)方向,。據(jù)五位知情人士透露,，他和其他研究人員前往董事會(huì)，試圖將 Altman 趕下臺(tái),。失敗后,，他們就離開了。就像 DeepMind 的創(chuàng)始人一樣,，他們擔(dān)心新的企業(yè)霸主會(huì)優(yōu)先考慮商業(yè)利益而不是安全,。

2021 年，這個(gè)由約 15 名工程師和科學(xué)家組成的團(tuán)隊(duì)創(chuàng)建了一個(gè)名為 Anthropic 的新實(shí)驗(yàn)室,。該計(jì)劃是按照有效的利他主義者認(rèn)為應(yīng)該做的方式構(gòu)建人工智能——并進(jìn)行非常嚴(yán)格的控制,。

「Anthropic 的聯(lián)合創(chuàng)始人并沒有試圖將 Sam Altman 從 OpenAI 中剔除，」Anthropic 發(fā)言人 Sally Aldous 表示,?！嘎?lián)合創(chuàng)始人自己得出的結(jié)論是，他們希望離開 OpenAI 創(chuàng)辦自己的公司,，并向 OpenAI 的領(lǐng)導(dǎo)層通報(bào)了這一點(diǎn),，并在幾周內(nèi)就雙方同意的條款進(jìn)行了退出談判?！?/p>

Anthropic 接受了亞馬遜 40 億美元的投資,，兩年后又接受了谷歌 20 億美元的投資。

05 揭曉

在 OpenAI 又從微軟獲得 20 億美元后,，Altman 和另一位高管格雷格·布羅克曼 Greg Brockman 拜訪了比爾·蓋茨 Bill Gates,，他位于西雅圖郊外華盛頓湖畔的豪宅。這位微軟創(chuàng)始人不再參與公司的日常事務(wù),，但與公司高管保持定期聯(lián)系,。

晚餐時(shí)，蓋茨先生告訴他們,，他懷疑大型語言模型能否發(fā)揮作用,。他說，他會(huì)保持懷疑態(tài)度,，直到該技術(shù)完成一項(xiàng)需要批判性思維的任務(wù)——例如通過 AP 生物學(xué)測(cè)試,。

五個(gè)月后，即 2022 年 8 月 24 日，Altman 先生和 Brockman 先生回來了,，并帶來了一位名叫 Chelsea Voss 的 OpenAI 研究員,。沃斯女士在高中時(shí)曾獲得過國際生物奧林匹克競(jìng)賽的獎(jiǎng)牌。納德拉和其他微軟高管也出席了會(huì)議,。

在蓋茨先生客廳外的巨大數(shù)字顯示屏上,，OpenAI 團(tuán)隊(duì)展示了一項(xiàng)名為 GPT-4 的技術(shù)。

布羅克曼先生對(duì)系統(tǒng)進(jìn)行了多項(xiàng)選擇的高級(jí)生物學(xué)測(cè)試,，沃斯女士對(duì)答案進(jìn)行了評(píng)分,。第一個(gè)問題涉及極性分子，即一端帶正電荷,、另一端帶負(fù)電荷的原子團(tuán),。系統(tǒng)回答正確并解釋了它的選擇?！杆皇墙?jīng)過訓(xùn)練來提供答案,，」布羅克曼先生說?！刚勗挼谋举|(zhì)幾乎神奇地消失了,?！箵Q句話說,，它正在做一些他們并沒有真正設(shè)計(jì)它做的事情。

有 60 個(gè)問題,。GPT-4 只有一個(gè)答案錯(cuò)誤,。

蓋茨先生從椅子上坐起來，睜大了眼睛,。1980 年,，當(dāng)研究人員向他展示成為現(xiàn)代個(gè)人計(jì)算機(jī)基礎(chǔ)的圖形用戶界面時(shí)，他也有類似的反應(yīng),。他認(rèn)為 GPT 就是革命性的,。

到 10 月，微軟在其在線服務(wù)中添加了該技術(shù),，包括 Bing 搜索引擎,。兩個(gè)月后，OpenAI 發(fā)布了 ChatGPT 聊天機(jī)器人,，目前每周有 1 億人使用該機(jī)器人,。

OpenAI 擊敗了 Anthropic 的高效利他主義者。佩奇在谷歌的樂觀派急忙發(fā)布了他們自己的聊天機(jī)器人 Bard,，但人們普遍認(rèn)為他們?cè)谂c OpenAI 的競(jìng)爭(zhēng)中失敗了,。ChatGPT 發(fā)布三個(gè)月后，谷歌股價(jià)下跌了 11%。馬斯克先生無處可尋,。

但這只是開始,。