原文來(lái)源：愛(ài)范兒

圖片來(lái)源：由無(wú)界 AI生成

編者按：「那些聲稱最擔(dān)心人工智能會(huì)帶來(lái)危機(jī)的人,，卻是最堅(jiān)決要?jiǎng)?chuàng)造它并享受它所帶來(lái)的財(cái)富的人,。」
這篇來(lái)自《紐約時(shí)報(bào)》的特寫(xiě)報(bào)道,，為我們回溯了從 2010 年就已經(jīng)開(kāi)始醞釀的硅谷 AI 之爭(zhēng)：
1. 馬斯克和 Google 聯(lián)合創(chuàng)始人拉里·佩奇在 2015 年的派對(duì)上「鬧翻」,，兩人對(duì) AI 發(fā)展持對(duì)立態(tài)度。
2. DeepMind 創(chuàng)始人丹米斯·哈撒比斯最開(kāi)始是用國(guó)際象棋獲得了彼得·蒂爾的關(guān)注,。在蒂爾的支持下,，DeepMind 獲得馬斯克關(guān)注和投資，逐漸成長(zhǎng),。
3.「AI 教父」杰弗里·辛頓舉行了一場(chǎng)「拍賣(mài)會(huì)」,，「賣(mài)」的是自己和團(tuán)隊(duì)。最后 Google 成功將辛頓博士團(tuán)隊(duì)收入囊中,。
4. 這場(chǎng)拍賣(mài)象征著硅谷巨頭正式進(jìn)入 AI 戰(zhàn)爭(zhēng),。DeepMind「知難而退」，決定出售,。
5. 出售后的 DeepMind 原設(shè)有「道德委員會(huì)」來(lái)確保 AI 的安全發(fā)展,，但這個(gè)委員會(huì)最終變得形同虛設(shè)。
6. OpenAI 和馬斯克決裂,，走向和微軟的合作,。
7. OpenAI 的達(dá)里奧·阿莫迪離開(kāi)，創(chuàng)立 Anthropic,。
8. OpenAI 通過(guò)了比爾·蓋茨的「考試」,，GPT 被后者視為具有革命性的創(chuàng)新。

2015 年 7 月,，埃隆·馬斯克在加利福尼亞的葡萄酒鄉(xiāng)村度假村慶祝他的 44 歲生日,，這是他的妻子為他舉辦為期三天的派對(duì)，度假村里布滿了小木屋,。只有家人和朋友受邀參與,，孩子們?cè)谶@家納帕谷的高檔物業(yè)中奔跑玩耍。

這時(shí)離 Twitter 成為 X 和特斯拉能盈利還有幾年,。馬斯克先生和他的妻子塔盧拉·萊利（Talulah Riley）—— 一位在 HBO 科幻劇《西部世界》中飾演美麗但危險(xiǎn)的機(jī)器人的女演員 —— 離他們第二次婚姻的結(jié)束還有一年,。派對(duì)的客人拉里·佩奇（Larry Page），那時(shí)還是 Google 的首席執(zhí)行官,。而人工智能只是在幾年前開(kāi)始被公眾所知，當(dāng)時(shí)它被用來(lái)在 YouTube 上識(shí)別貓 —— 準(zhǔn)確率為16%,。

當(dāng)馬斯克和佩奇在第一晚的晚餐后,，坐在泳池邊上的篝火旁聊天,，人工智能是他們談?wù)摰闹黝}。這兩位億萬(wàn)富翁已經(jīng)是十多年的好友,，馬斯克有時(shí)開(kāi)玩笑說(shuō),，他不時(shí)會(huì)在通宵玩游戲后在佩奇先生的沙發(fā)上過(guò)夜。

但那個(gè)明朗的夜晚的氣氛很快變得緊張起來(lái),，因?yàn)閮扇碎_(kāi)始在爭(zhēng)論人工智能最終到底是會(huì)提升人類(lèi)還是毀滅人類(lèi),。

隨著討論延伸至清涼的夜，氣氛變得越來(lái)越緊張,，30 多號(hào)來(lái)參加派對(duì)的人里已有一些聚集起來(lái),，靠近傾聽(tīng)。因聲帶受到一個(gè)不尋常的疾病影響十多年,，佩奇用低聲細(xì)語(yǔ)來(lái)描述他的數(shù)字烏托邦愿景,。他說(shuō)，人類(lèi)最終會(huì)與人工智能機(jī)器融為一體,。有一天,，會(huì)有許多種智能競(jìng)爭(zhēng)資源，而最好的會(huì)贏,。

如果那樣的事情發(fā)生,，馬斯克說(shuō)，我們就完了,。機(jī)器會(huì)毀滅人類(lèi),。

帶著一絲挫敗的嘶啞，佩奇堅(jiān)稱我們應(yīng)追求他所描述的烏托邦,。最后,，他稱馬斯克為「物種主義者」，一個(gè)偏愛(ài)人類(lèi)而不是未來(lái)數(shù)字生命形態(tài)的人,。

馬斯克后來(lái)說(shuō),，那個(gè)羞辱是「最后一根稻草」。

當(dāng)人群散去,，許多人看起來(lái)對(duì)此感到驚愕,，但也覺(jué)得有趣，他們覺(jué)得,，這也只是硅谷派對(duì)上經(jīng)常出現(xiàn)的那種深?yuàn)W辯論,。

然而，八年以后,，這兩人間的辯論看起來(lái)頗有先見(jiàn)之明,。人工智能到底是會(huì)提升世界還是毀滅它 —— 或者至少造成嚴(yán)重的損害 —— 已經(jīng)構(gòu)成了硅谷創(chuàng)業(yè)者、聊天機(jī)器人用戶、學(xué)者,、立法者和監(jiān)管者之間,，關(guān)于我們是應(yīng)該控制或任由其發(fā)展的持續(xù)辯論框架。

那場(chǎng)辯論使得世界上一群最富有的人相互對(duì)立：馬斯克,，佩奇,，Meta 的馬克·扎克伯格（Mark Zuckerberg），科技投資人彼得·蒂爾（Peter Thiel）,，微軟的薩蒂亞·納德拉（Satya Nadella）和 OpenAI 的薩姆·奧特曼（Sam Altman）,。他們都努力地在這個(gè)可能有朝一日價(jià)值數(shù)萬(wàn)億美元業(yè)務(wù)中爭(zhēng)一杯羹，還有爭(zhēng)奪去塑造它的權(quán)力,。

這場(chǎng)競(jìng)爭(zhēng)的核心是一個(gè)讓人費(fèi)解的悖論,。那些聲稱最擔(dān)心人工智能的人，卻是最堅(jiān)決要?jiǎng)?chuàng)造它并享受它所帶來(lái)的財(cái)富的人,。他們以一個(gè)堅(jiān)定的信念來(lái)為自己的野心正名 —— 只有他們自己才能避免人工智能對(duì)地球造成危險(xiǎn),。

那個(gè)夏天的派對(duì)過(guò)后不久，馬斯克先生和佩奇先生就停止了交談,。幾周后,，馬斯克先生與當(dāng)時(shí)正在運(yùn)營(yíng)科技孵化器的奧特曼先生以及幾位研究員在加利福尼亞州門(mén)洛帕克的羅斯伍德酒店的私人房間里共進(jìn)晚餐，這個(gè)地方靠近桑德希爾路的風(fēng)險(xiǎn)投資辦公室,，是一個(gè)受歡迎的交易地點(diǎn),。

那個(gè)夏日派對(duì)過(guò)去不久后，馬斯克和佩奇就不聯(lián)系了,。幾周后,，馬斯克與當(dāng)時(shí)正在運(yùn)營(yíng)一家科技孵化器的奧特曼以及幾位研究員在加州門(mén)洛帕克的瑰麗酒店的私人房間里共進(jìn)晚餐。這是一個(gè)相當(dāng)受歡迎的聊合作的地方,，因?yàn)樗x沙山路上的 VC 辦公室很近,。

那頓晚餐促成了一家名為 OpenAI 的創(chuàng)業(yè)公司在同年晚些的成立。得到了來(lái)自馬斯克和其他投資者的數(shù)億美元支持,，這個(gè)實(shí)驗(yàn)室承諾保護(hù)世界免受佩奇的愿景影響,。

（馬斯克和佩奇因?qū)?AI 理念出現(xiàn)分歧而分裂。）

多得它的 ChatGPT 聊天機(jī)器人,，OpenAI 已經(jīng)從根本上改變了科技行業(yè),，并向世人展示了人工智能的風(fēng)險(xiǎn)和潛力。據(jù)兩位熟悉該公司最新融資輪的人士透露,，OpenAI 的估值超過(guò) 800 億美元,，盡管馬斯克和奧特曼的合作并未能延續(xù)。從那以后,，兩人已經(jīng)不再對(duì)話,。

「其中存在分歧,、不信任、自我主義,，」奧特曼說(shuō),。「人們?cè)绞浅粋€(gè)方向前進(jìn),，分歧就越有尖銳。你在教派和宗教團(tuán)體中也能看到這一點(diǎn),。正是那些最親近的人,，之間會(huì)有激烈的爭(zhēng)斗?！?/p>

上個(gè)月,，這場(chǎng)內(nèi)斗來(lái)到了 OpenAI 的董事會(huì)。反叛的董事會(huì)成員試圖逼走奧特曼,，因?yàn)樗麄冋J(rèn)為,，他們?cè)僖膊荒苄湃嗡軜?gòu)建可以造福人類(lèi)的 AI。在五天的混亂中,，OpenAI 看起來(lái)馬上就要崩潰了,，直到重要投資者和員工施壓并威脅要跟隨奧特曼離開(kāi)，董事會(huì)才讓步,。

OpenAI 內(nèi)部的戲劇性爭(zhēng)斗讓世界首次窺見(jiàn)了那些將決定 AI 未來(lái)的人之間的激烈爭(zhēng)斗,。

但在 OpenAI 這次幾乎崩塌事件發(fā)生的幾年前，硅谷就有一場(chǎng)鮮為人知但激烈的競(jìng)爭(zhēng),，爭(zhēng)奪著現(xiàn)在正在快速重塑世界的技術(shù),，它正在改寫(xiě)的方面從我們?cè)撊绾谓逃⒆友由斓皆撊绾未蛘獭,！都~約時(shí)報(bào)》采訪了 80 多位高管,、科學(xué)家和企業(yè)家，包括兩位參加了馬斯克 2015 年生日派對(duì)的人,，來(lái)講述這個(gè)關(guān)于野心,、恐懼和金錢(qián)的故事。

DeepMind 的誕生

在納帕谷那場(chǎng)派對(duì)發(fā)生的五年前,，以及 YouTube 上貓咪視頻大獲成功兩年前,，34 歲的神經(jīng)科學(xué)家丹米斯·哈撒比斯（Demis Hassabis）走進(jìn)了彼得·蒂爾在舊金山的聯(lián)排別墅舉辦的雞尾酒會(huì)，他意識(shí)到自己找到了金礦,。在蒂爾那俯瞰著當(dāng)?shù)氐乃囆g(shù)宮和天鵝池的客廳里,，擺放著一副棋盤(pán)。哈撒比斯博士曾經(jīng)是 14 歲以下類(lèi)別中世界排名第二的棋手,。

「我為那次會(huì)面準(zhǔn)備了一年,，」哈撒比斯博士說(shuō)。「我以為那會(huì)是我獨(dú)特的切入點(diǎn)：我知道他喜歡下棋,?！?/p>

2010 年，居住在英國(guó)的哈撒比斯博士和他的兩位同事,，正在尋找資金來(lái)開(kāi)始構(gòu)建「人工通用智能」或稱為A.G.I.,，這是一種能做任何大腦能做的事情的機(jī)器。當(dāng)時(shí),，很少有人對(duì)人工智能感興趣,。經(jīng)過(guò)半個(gè)世紀(jì)的研究，人工智能領(lǐng)域未能產(chǎn)出任何接近人腦的東西,。

然而,，一些科學(xué)家和思考者已經(jīng)對(duì) AI 的負(fù)面影響產(chǎn)生了固執(zhí)的看法。許多人,，如這三位來(lái)自英國(guó)的年輕人,，都和互聯(lián)網(wǎng)哲學(xué)家、自學(xué)成才的 AI 研究者埃利澤·尤多科夫斯基（Eliezer Yudkowsky）有所關(guān)聯(lián),。尤多科夫斯基先生是是一個(gè)自稱為「理性主義者」的社區(qū)領(lǐng)導(dǎo)者,，后來(lái)，這也被稱為「有效利他主義者」,。

他們相信人工智能可以找到治療癌癥的方法或解決氣候變化問(wèn)題,，但他們擔(dān)心人工智能機(jī)器人可能會(huì)做出其違背其創(chuàng)造者意圖的事情。如果機(jī)器變得比人類(lèi)更聰明,，理性主義者們辯稱,，機(jī)器可能會(huì)反過(guò)來(lái)對(duì)付他們的創(chuàng)造者。

蒂爾通過(guò)對(duì) Facebook 的早期投資以及和馬斯克在 PayPal 早期的合作,，積累了巨大的財(cái)富,。他對(duì)奇點(diǎn)產(chǎn)生了極大的興趣，這是科幻小說(shuō)的一個(gè)主題,，描述的是當(dāng)智能技術(shù)無(wú)法再被人類(lèi)控制的那一刻,。

在蒂爾的資助下，尤多科夫斯基擴(kuò)大了他的 AI 實(shí)驗(yàn)室,，并創(chuàng)建了一個(gè)關(guān)于奇點(diǎn)的年度會(huì)議,。多年前，哈撒比斯博士的兩位同事之一遇到了尤多科夫斯基,。他在會(huì)議上為他們爭(zhēng)取到了發(fā)言的機(jī)會(huì),，確保他們被邀請(qǐng)到蒂爾的派對(duì)。

尤德科夫斯基先生向蒂爾介紹了哈撒比斯博士,。哈撒比斯以為,，派對(duì)上會(huì)有許多人試圖從蒂爾那里擠出錢(qián),。他的策略是安排另一次會(huì)面。他告訴蒂爾,，主教和騎士之間的關(guān)系很緊張,。這兩個(gè)棋子的價(jià)值相同，但最好的玩家明白,，他們的優(yōu)勢(shì)大不相同,。

這奏效了。被迷住的蒂爾邀請(qǐng)他們第二天再來(lái),，在廚房見(jiàn)面,。東道主剛剛完成早晨的鍛煉，身上閃亮的運(yùn)動(dòng)滿是汗,。一個(gè)管家遞給他一瓶健怡可樂(lè)。他們?nèi)酥v述了自己的提案,，很快,，蒂爾和他的風(fēng)險(xiǎn)投資公司同意向他們的初創(chuàng)公司投入 140 萬(wàn)英鎊（大約 225 萬(wàn)美元）。他是他們的第一位重要投資者,。

他們將公司命名為 DeepMind,，這是對(duì)「深度學(xué)習(xí)」（一種通過(guò)分析大量數(shù)據(jù)讓 AI 系統(tǒng)學(xué)習(xí)技能的方式），神經(jīng)科學(xué)以及科幻小說(shuō)《銀河系漫游指南》中的深思超級(jí)計(jì)算機(jī)的致敬,。到了 2010 年秋天,，他們已經(jīng)在構(gòu)建自己夢(mèng)想中的機(jī)器。他們堅(jiān)信,，因?yàn)槔斫馄渲酗L(fēng)險(xiǎn),，所以他們對(duì)于保護(hù)世界有獨(dú)特的優(yōu)勢(shì)。

「我并不認(rèn)為這是一個(gè)矛盾的立場(chǎng),，」DeepMind 的三位創(chuàng)始人之一 穆斯塔法·蘇萊曼（Mustafa Suleyman）說(shuō),。「這些技術(shù)將帶來(lái)巨大益處,。目標(biāo)不是消除或暫停它們的發(fā)展,。目標(biāo)是減少它們的負(fù)面影響?！?/p>

在贏得了蒂爾的支持后,，哈撒比斯博士逐漸進(jìn)入了馬斯克的視野。大約兩年后,，他們?cè)诘贍柕耐顿Y基金組織的一次會(huì)議上相遇,，該基金也投資了馬斯克的公司 SpaceX。哈撒比斯博士安排了一次 SpaceX 總部的參觀,。之后,，就在天花板掛著火箭殼的食堂,，兩人共進(jìn)午餐并進(jìn)行了交談。

馬斯克先生解釋說(shuō),，他的計(jì)劃是殖民火星,，用來(lái)躲避地球上人口過(guò)度和其他危險(xiǎn)。哈撒比斯博士回應(yīng)說(shuō),，這個(gè)計(jì)劃會(huì)奏效 —— 前提是超級(jí)智能機(jī)器不會(huì)跟著人類(lèi)到火星,，并在火星上把人類(lèi)也摧毀了。

馬斯克無(wú)言以對(duì),。他從未考慮過(guò)這個(gè)特定的危險(xiǎn),。馬斯克很快就和蒂爾先生一起投資了 DeepMind，以便能更接近這項(xiàng)技術(shù)的創(chuàng)造,。

擁有充足的資金,，DeepMind 聘請(qǐng)了專(zhuān)門(mén)研究神經(jīng)網(wǎng)絡(luò)的研究人員，這些復(fù)雜的算法以人腦為原型,。神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個(gè)巨大的數(shù)學(xué)系統(tǒng),，它花費(fèi)數(shù)天、數(shù)周甚至數(shù)月的時(shí)間在大量的數(shù)據(jù)中識(shí)別模式,。這些系統(tǒng)最初在 1950 年代被開(kāi)發(fā)出來(lái),，它們可以學(xué)會(huì)自行處理任務(wù)。例如,，分析了數(shù)百個(gè)信封上手寫(xiě)的名字和地址后,，它們可以閱讀手寫(xiě)文本。

DeepMind 進(jìn)一步發(fā)展了這個(gè)概念,。它構(gòu)建了一個(gè)系統(tǒng),，可以學(xué)習(xí)玩經(jīng)典的雅達(dá)利游戲，如《太空侵略者》《乓》和《Breakout》,，以展示其潛力,。

這引起了硅谷另一巨頭 Google，特別是拉里·佩奇的注意,。他看到了 DeepMind 的機(jī)器玩雅達(dá)利游戲的演示,。他想?yún)⑴c其中。

人才拍賣(mài)

在 2012 年秋季,，多倫多大學(xué)一位 64 歲的教授杰弗里·辛頓（Geoffrey Hinton）和兩名研究生發(fā)表了一篇研究論文,，向世界展示了人工智能的能力。他們訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別常見(jiàn)的物體,，如花朵,、狗和汽車(chē)。

科學(xué)家們對(duì)于由辛頓博士和他的學(xué)生們構(gòu)建的技術(shù)的準(zhǔn)確性感到驚訝,。尤其關(guān)注到這個(gè)的人是余凱,，他是一位人工智能研究員,，曾在一次研究會(huì)議上遇到過(guò)辛頓博士，并于最近開(kāi)始為中國(guó)的互聯(lián)網(wǎng)巨頭百度工作,。據(jù)三位熟悉此事的人士透露,，百度曾向辛頓博士和他的學(xué)生們開(kāi)價(jià) 1200 萬(wàn)美元，希望他們加入位于北京的公司,。

辛頓博士拒絕了百度,，但這筆錢(qián)引起了他的注意。

這位在劍橋大學(xué)受過(guò)教育的英國(guó)僑民,，除了偶爾在微軟和 Google 工作外,，大部分時(shí)間都在學(xué)術(shù)界度過(guò)，并不特別看重金錢(qián),。但他的孩子受神經(jīng)多樣性影響,，而這筆錢(qián)將意味著經(jīng)濟(jì)上的保障。

「我們并不知道我們的價(jià)值是多少,，」 辛頓博士說(shuō),。他咨詢了律師和收購(gòu)專(zhuān)家，然后提出了一個(gè)計(jì)劃：「我們將組織一場(chǎng)拍賣(mài),，我們將出售我們自己?！惯@場(chǎng)拍賣(mài)將在哈拉斯酒店和太浩湖賭場(chǎng)舉辦的年度人工智能會(huì)議上進(jìn)行,。

大科技公司開(kāi)始關(guān)注。Google,、微軟,、百度等公司開(kāi)始相信，神經(jīng)網(wǎng)絡(luò)將帶來(lái)的機(jī)器,，將不僅能擁有看的能力,，而且還能聽(tīng)、寫(xiě),、說(shuō),，最終 —— 甚至能思考。

佩奇在他公司 Google Brain 的人工智能實(shí)驗(yàn)室看到了類(lèi)似的技術(shù),，他認(rèn)為辛頓博士的研究可以提升他的科學(xué)家們的工作,。他相當(dāng)于是給了 Google 的高級(jí)副總裁兼工程師艾倫·尤斯塔斯（Alan Eustace）一張沒(méi)填數(shù)字的支票，讓他雇傭他任何他所需要的人工智能專(zhuān)家,。

尤斯塔斯先生和負(fù)責(zé) Brain 實(shí)驗(yàn)室的杰夫·迪恩（Jeff Dean）飛到了太浩湖,，并在拍賣(mài)前一晚約了辛頓博士和他的學(xué)生去酒店內(nèi)的一家牛排館吃飯。迪恩博士回憶說(shuō),，那里彌漫著濃重的舊煙味,。他們勸說(shuō)辛頓博士和他的學(xué)生去 Google 工作,。

第二天，辛頓博士在他的酒店房間里進(jìn)行了拍賣(mài),。由于舊傷,，他很少坐下。他把一個(gè)垃圾桶倒置在桌子上,，把筆記本電腦放在上面,，然后在接下來(lái)的兩天里看著出價(jià)的不斷涌入。

Google 出了一個(gè)報(bào)價(jià),。微軟也是,。隨著價(jià)格的上漲，DeepMind 很快就退出了,。根據(jù)拍賣(mài)詳細(xì)文件,，這些行業(yè)巨頭將出價(jià)推高到 2000 萬(wàn)美元，然后是 2500 萬(wàn)美元,。當(dāng)價(jià)格超過(guò) 3000 萬(wàn)美元時(shí),，微軟退出了，但卻在 3700 萬(wàn)美元時(shí)重新加入競(jìng)標(biāo),。

「我們感覺(jué)那就像電影一樣,，」辛頓博士說(shuō)。

杰弗里·辛頓和他的兩位明星學(xué)生伊爾亞·蘇茨克維和亞歷克斯·克里澤夫斯基（Alex Krizhevsky）

然后,，微軟第二次退出競(jìng)標(biāo),。只剩下百度和 Google，他們將競(jìng)標(biāo)價(jià)格推到 4200 萬(wàn)美元,，4300 萬(wàn)美元,。最后，在 4400 萬(wàn)美元時(shí),，辛頓博士和他的學(xué)生終止了拍賣(mài),。盡管出價(jià)仍在上漲，但他們想為 Google 工作,。而且這筆錢(qián)數(shù)目已經(jīng)夠驚人,。

這是一個(gè)明確的標(biāo)志，表明資金雄厚的公司決心購(gòu)買(mǎi)最有才華的人工智能研究人員 —— DeepMind 的哈撒比斯博士也意識(shí)到這一點(diǎn),。他一直告訴自己?jiǎn)T工,，DeepMind 將保持獨(dú)立的公司狀態(tài)。他認(rèn)為,，這是確保其技術(shù)不會(huì)變成危險(xiǎn)物的最佳方式,。

但是，當(dāng)大型科技公司加入人才競(jìng)爭(zhēng)時(shí)，他決定自己已經(jīng)別無(wú)選擇：是時(shí)候出售了,。

到 2012 年底,，據(jù)三位知情人士透露，Google 和 Facebook 都在尋求收購(gòu)這家倫敦實(shí)驗(yàn)室,。哈撒比斯博士和他的聯(lián)合創(chuàng)始人堅(jiān)持了兩個(gè)條件：DeepMind 的技術(shù)不能用于軍事目的,，其人工智能技術(shù)必須由一個(gè)由技術(shù)人員和倫理學(xué)家組成的獨(dú)立委員會(huì)進(jìn)行監(jiān)督。

Google 的出價(jià)是 6.5 億美元,。Facebook 的馬克·扎克伯格向 DeepMind 的創(chuàng)始人提出了更高價(jià)格,，但不同意條件。DeepMind 最終賣(mài)給了 Google,。

扎克伯格決定建立一個(gè)自己的人工智能實(shí)驗(yàn)室,。他聘請(qǐng)了法國(guó)計(jì)算機(jī)科學(xué)家揚(yáng)·勒丘恩（Yann LeCun）來(lái)管理這個(gè)實(shí)驗(yàn)室，他也做過(guò)開(kāi)創(chuàng)性的人工智能研究,。在辛頓博士拍賣(mài)會(huì)一年后,，扎克伯格和勒丘恩博士飛往塔霍湖參加同樣的人工智能會(huì)議。在哈拉斯賭場(chǎng)的一間套房里,，扎克伯格先生穿著襪子四處走動(dòng),，親自面試頂級(jí)研究人員，這些人員很快被提供了數(shù)百萬(wàn)美元的薪水和股票,。

人工智能曾經(jīng)被嘲笑?，F(xiàn)在，硅谷最富有的人正花費(fèi)數(shù)十億美元以防止自己在競(jìng)賽中被落下,。

消失的道德委員會(huì)

當(dāng)馬斯克投資 DeepMind 時(shí),，他打破了自己的非正式規(guī)則 —— 他不會(huì)投資任何不是自己經(jīng)營(yíng)的公司。這個(gè)決定的負(fù)面影響,，在他的生日爭(zhēng)吵后僅一個(gè)月左右就顯現(xiàn)了 —— 他又要面對(duì)他的前朋友兼億萬(wàn)富翁同行了。

道德委員會(huì)成員們：謝爾蓋·布林、埃里克·施密特,、拉里·佩奇

這個(gè)場(chǎng)合是 DeepMind 倫理委員會(huì)的首次會(huì)議,，于 2015 年 8 月 14 日舉行。在創(chuàng)始人的堅(jiān)持下,，該委員會(huì)成立是為了確保他們的技術(shù)在出售后不會(huì)造成任何傷害,。根據(jù)三位熟悉會(huì)議的人士的說(shuō)法，委員會(huì)成員在馬斯克于 SpaceX 的辦公室外的一個(gè)會(huì)議室集合,，窗戶外就能看到他的火箭工廠,。

但是，這也是馬斯克控制權(quán)結(jié)束的地方,。當(dāng) Google 收購(gòu) DeepMind 時(shí),，它買(mǎi)下了整個(gè)公司,。馬斯克被擠出局。雖然他在財(cái)務(wù)上賺了,，但他并不開(kāi)心,。

現(xiàn)在，三位 Google 高管牢牢地控制了 DeepMind：佩奇,；Google 的聯(lián)合創(chuàng)始人,、特斯拉投資者謝爾蓋·布林（Sergey Brin）；以及 Google 董事長(zhǎng)埃里克·施密特（Eric Schmidt）,。其他出席者包括另一位 PayPal 創(chuàng)始人里德·霍夫曼（Reid Hoffman）,，以及一位在研究「存在風(fēng)險(xiǎn)」的澳大利亞哲學(xué)家托比·奧德（Toby Ord）。

DeepMind的創(chuàng)始人報(bào)告說(shuō),，他們正在推進(jìn)其工作,，但他們意識(shí)到這項(xiàng)技術(shù)存在嚴(yán)重風(fēng)險(xiǎn)。

DeepMind 聯(lián)合創(chuàng)始人蘇萊曼做了一個(gè)名為「揭竿而起的人們即將到來(lái)」的演講,。他告訴董事會(huì),，人工智能可能導(dǎo)致虛假信息的爆炸式增長(zhǎng)。他擔(dān)憂,，在未來(lái)幾年中,，隨著這項(xiàng)技術(shù)取代無(wú)數(shù)的工作，公眾會(huì)指責(zé) Google 剝奪了他們的生計(jì),。他認(rèn)為,，Google 需要與那數(shù)百萬(wàn)失業(yè)的人分享其財(cái)富，并提供「全民基本收入」,。

馬斯克同意,。但很明顯，他那些來(lái)自 Google 的客人并未打算進(jìn)行（對(duì)他們的）財(cái)富進(jìn)行再分配,。施密特先生表示,，他認(rèn)為這些擔(dān)憂完全被夸大了。佩奇先生以他通常的低聲同意了,。他辯稱,，人工智能會(huì)創(chuàng)造比它帶走的更多的工作。

八個(gè)月后,，DeepMind 取得了令 AI 界和全世界震驚的突破,。一個(gè)名為 AlphaGo 的 DeepMind 機(jī)器擊敗了世界上最好的圍棋選手之一。這場(chǎng)比賽通過(guò)互聯(lián)網(wǎng)直播,，全球有兩億人觀看,。大多數(shù)研究人員曾認(rèn)為，AI 需要再過(guò)十年才能擁有做到這一點(diǎn)的創(chuàng)新能力。

理性主義者,，有效的利他主義者以及其他擔(dān)心人工智能風(fēng)險(xiǎn)的人聲稱,，計(jì)算機(jī)的勝利證實(shí)了他們的恐懼。

「這是另一個(gè)跡象,，表明人工智能的發(fā)展速度超過(guò)了許多專(zhuān)家的預(yù)期,，」即將加入 DeepMind 擔(dān)任「人工智能安全」研究員的 Victoria Krakovna 在博客文章中寫(xiě)道。

DeepMind 的創(chuàng)始人們?cè)絹?lái)越擔(dān)心 Google 會(huì)如何使用他們的發(fā)明,。在 2017 年,，他們?cè)噲D從公司中脫離出來(lái)。作為回應(yīng),，Google 提高了 DeepMind 創(chuàng)始人及其員工的薪水和股票獎(jiǎng)勵(lì),。他們選擇了留下。

道德委員會(huì),，從未進(jìn)行過(guò)第二次會(huì)議,。

分手

馬斯克確信佩奇對(duì)人工智能的樂(lè)觀完全錯(cuò)誤，并對(duì)失去 DeepMind 感到憤怒,，于是建立了自己的實(shí)驗(yàn)室,。

OpenAI 于 2015 年底成立，就在他和薩姆·奧特曼在硅谷瑰麗酒店會(huì)面幾個(gè)月后,。馬斯克向這個(gè)實(shí)驗(yàn)室注入了資金,，他的前 PayPal 伙伴，霍夫曼先生和蒂爾先生,，也加入了這次行動(dòng),。三人和其他人承諾向這個(gè)項(xiàng)目投入 10 億美元，當(dāng)時(shí) 30 歲的奧特曼將協(xié)助運(yùn)營(yíng),。為了啟動(dòng)這個(gè)項(xiàng)目,，他們從 Google 挖來(lái)了伊爾亞·蘇茨克維 （Ilya Sutskever）。（蘇茨克維博士是 Google 在辛頓博士的拍賣(mài)中「購(gòu)買(mǎi)」的研究生之一,。）

最初,，馬斯克想要將 OpenAI 作為一個(gè)非盈利機(jī)構(gòu)運(yùn)營(yíng)，避免受到像 Google 這樣的公司所驅(qū)動(dòng)的經(jīng)濟(jì)利益的影響,。但是，當(dāng) Google 以其圍棋表演震驚科技界時(shí),，馬斯克正在改變他對(duì) OpenAI 應(yīng)如何運(yùn)營(yíng)的看法,。他迫切希望 OpenAI 能發(fā)明出一些能夠吸引全世界的想象力，并拉近他們和 Google 距離的東西,，但作為一個(gè)非盈利機(jī)構(gòu),，它并未能完成這項(xiàng)工作。

在 2017 年底，他策劃了一個(gè)計(jì)劃,，試圖從奧特曼和其他創(chuàng)始人手中奪取實(shí)驗(yàn)室的控制權(quán),，將其轉(zhuǎn)變?yōu)橐粋€(gè)商業(yè)運(yùn)營(yíng)，與特斯拉聯(lián)手,，并依賴該汽車(chē)公司正在開(kāi)發(fā)的超級(jí)計(jì)算機(jī)的公司,，據(jù)四個(gè)熟悉此事的人士透露。

當(dāng)奧特曼和其他人反對(duì)時(shí),，馬斯克選擇退出,，并表示他將專(zhuān)注于在特斯拉的自己的人工智能工作。2018 年 2 月,，他在一家改建的卡車(chē)工廠的創(chuàng)業(yè)公司辦公室的頂樓,，向 OpenAI 的員工宣布了他的離職，參加會(huì)議的三個(gè)人說(shuō),。當(dāng)他說(shuō) OpenAI 需要更快地行動(dòng)時(shí),，一位研究員在會(huì)議上反駁說(shuō)馬斯克先生的行為是魯莽的。

馬斯克罵那個(gè)研究員是「笨蛋」,，然后怒氣沖沖地離開(kāi)了,，也帶走了他的巨額財(cái)富。

OpenAI 突然急需新的融資,。奧特曼飛到了太陽(yáng)谷（Sun Valley）參加一個(gè)會(huì)議,，并偶遇了微軟的首席執(zhí)行官薩蒂亞·納德拉。兩者的聯(lián)合似乎很自然,。奧特曼認(rèn)識(shí)微軟的首席技術(shù)官凱文·斯科特（Kevin Scott）,。微軟曾從 OpenAI 董事會(huì)成員霍夫曼收購(gòu)了 LinkedIn。納德拉委任斯科特去完成這件事,。這筆交易在 2019 年完成,。

奧特曼和 OpenAI 在原有的非營(yíng)利組織下成立了一家營(yíng)利性公司，他們擁有 10 億美元的新資本,，而微軟也找到了一種將人工智能融入其龐大的云計(jì)算服務(wù)的新方法,。

但不是 OpenAI 里的每個(gè)人都為此感到開(kāi)心。

研究員達(dá)里奧·阿莫迪（Dario Amodei）與有效利他主義社區(qū)有關(guān),，當(dāng) OpenAI 在瑰麗酒店誕生時(shí),，他就已經(jīng)在現(xiàn)場(chǎng)。阿莫迪博士在談話時(shí)不斷地扭動(dòng)他的卷發(fā),，他正在領(lǐng)導(dǎo)實(shí)驗(yàn)室建立一個(gè)名為大型語(yǔ)言模型的神經(jīng)網(wǎng)絡(luò),，該網(wǎng)絡(luò)可以從大量的數(shù)字文本中學(xué)習(xí)。通過(guò)分析無(wú)數(shù)的維基百科文章,、數(shù)字書(shū)籍和留言板,，它可以自己生成文本,。它也有一個(gè)不幸的習(xí)慣，那就是編造事情,。它被稱為 GPT-3,，于 2020 年夏天發(fā)布。

OpenAI,、Google 以及其他公司內(nèi)部的研究人員認(rèn)為,，這種迅速改進(jìn)的技術(shù)可能是通向 A.G.I. 的路徑。

但是,，阿莫迪博士對(duì)微軟的交易感到不滿,，因?yàn)樗J(rèn)為這正將 OpenAI 帶向一個(gè)非常商業(yè)化的方向。據(jù)了解此事的五個(gè)人表示,，他和其他研究人員曾試圖向董事會(huì)施壓,，希望趕走奧特曼先生。但他們失敗了,，于是離開(kāi)了,。就像之前的 DeepMind 創(chuàng)始人一樣，他們擔(dān)心他們的新公司老板會(huì)將商業(yè)利益置于安全之上,。

Daniela Amodei 和 Dario Amodei 聯(lián)合創(chuàng)立了 Anthropic

在 2021 年,，大約 15 名工程師和科學(xué)家創(chuàng)建了一個(gè)名為 Anthropic 的新實(shí)驗(yàn)室,。他們的計(jì)劃是按照有效利他主義者認(rèn)為應(yīng)該的方式來(lái)構(gòu)建人工智能——即采用非常嚴(yán)格的控制。

「Anthropic 的聯(lián)合創(chuàng)始人并沒(méi)有試圖將薩姆·奧特曼從 OpenAI 中移除,，」Anthropic 的發(fā)言人 Sally Aldous 說(shuō),。「聯(lián)合創(chuàng)始人自己得出了他們希望離開(kāi) OpenAI 去創(chuàng)立自己的公司的結(jié)論,，他們向 OpenAI 的領(lǐng)導(dǎo)層表明了這一點(diǎn),，并在幾周內(nèi)以雙方都能接受的條件協(xié)商了退出?！?/p>

Anthropic 接受了來(lái)自亞馬遜的 40 億美元投資,，兩年后又從 Google 那里獲得了 20 億美元的投資。

揭示

當(dāng) OpenAI 從微軟那里獲得了額外 20 億美元的投資后,，奧特曼和另一位高管格雷格·布萊克曼（Greg Brockman）前往比爾·蓋茨位于華盛頓湖畔,，西雅圖郊外的豪宅。盡管這位微軟創(chuàng)始人已經(jīng)不再參與公司的日常運(yùn)營(yíng),，但他仍然與公司的高管保持著定期的聯(lián)系,。

在晚餐時(shí)，蓋茨告訴他們,，他不確定大型語(yǔ)言模型能否奏效,。他表示，除非這項(xiàng)技術(shù)能完成需要批判性思考的任務(wù) —— 例如通大學(xué)先修課程里的生物學(xué)考試,，否則他將保持懷疑態(tài)度,。

五個(gè)月后，也就是 2022 年 8 月 24 日,，奧特曼和布羅克曼回來(lái)了,，并帶來(lái)了一位名叫切爾西·沃斯（Chelsea Voss）的 OpenAI 研究員。沃斯女士在高中時(shí)曾是國(guó)際生物奧林匹克競(jìng)賽得獎(jiǎng)?wù)?。納德拉先生和其他微軟高管也在場(chǎng),。

在蓋茨的客廳外的一個(gè)大型數(shù)字顯示器上，OpenAI 團(tuán)隊(duì)展示了一項(xiàng)名為 GPT-4 的技術(shù),。

布洛克曼先生讓這個(gè)系統(tǒng)做了一次高級(jí)生物學(xué)考試的多選題,，沃斯女士對(duì)答案進(jìn)行了評(píng)分。第一個(gè)問(wèn)題涉及到極性分子,，這是一種原子群,，一端帶正電，另一端帶負(fù)電,。系統(tǒng)正確地回答了問(wèn)題,，并解釋了它的選擇?！肝覀冎挥?xùn)練了它提供答案,，」布洛克曼先生說(shuō)?！笇?duì)話的特性卻神奇地顯現(xiàn)了出來(lái),。」換句話說(shuō),，它正在做他們并沒(méi)有真正設(shè)計(jì)它去做的事情,。

60個(gè)問(wèn)題里，GPT-4 只答錯(cuò)了一個(gè),。

蓋茨先生坐直了身子,，眼睛睜得大大的。1980 年,，當(dāng)研究人員向他展示了成為現(xiàn)代個(gè)人電腦基礎(chǔ)的圖形用戶界面時(shí),，他有過(guò)類(lèi)似的反應(yīng)。他認(rèn)為 GPT 具有那樣的革命性,。

到十月份,，微軟已經(jīng)在其在線服務(wù)中，包括其必應(yīng)搜索引擎中,，添加了這項(xiàng)技術(shù),。兩個(gè)月后,，OpenAI 發(fā)布了其 ChatGPT 聊天機(jī)器人，現(xiàn)在每周有 1 億人使用,。

OpenAI 已經(jīng)打敗了 Anthropic 的有效利他主義者,。佩奇在 Google 的樂(lè)觀派趕忙發(fā)布了他們自己的聊天機(jī)器人 Bard，但被廣泛認(rèn)為在與 OpenAI 的競(jìng)賽中輸了,。在 ChatGPT 發(fā)布三個(gè)月后,，Google 的股票下跌了 11%。馬斯克先生則無(wú)處可尋,。

但這一切,，只是開(kāi)始。