AI倫理的討論卻從未止步。
Open AI 宮斗劇早已落下帷幕,，但對于AI倫理的討論卻從未止步,。
以奧特曼為代表的激進(jìn)派和以Ilya為代表的保守派，至今難分勝負(fù),。而這一切,，都有跡可循，早在8年前,，馬斯克與谷歌創(chuàng)始人拉里·佩奇就AI倫理問題,，展開了一場「AI 論戰(zhàn)」。
8 年時間里,，馬斯克,、彼德·蒂爾,、奧特曼,、拉里·佩奇、戴密斯·哈薩比斯,、蓋茨,、薩提亞·納德拉，和他們所代表的當(dāng)紅 AI 公司 ：OpenAI,、Anthropic,、微軟、DeepMind?們合縱連橫,，最終催生了 2016 年前后第一次人工智能大戰(zhàn),。
如今,，2022 年的大模型戰(zhàn)役已經(jīng)打響,，再次重塑了人工智能之戰(zhàn)的圖景，但我們永遠(yuǎn)不會忘記,，在其背后驅(qū)動的是恐懼,、自我和金錢。
原文來源：青投創(chuàng)新
圖片來源：由無界 AI生成
作者：凱德·梅斯, 凱倫·韋斯,，尼科·格蘭特和邁克·艾薩克
原標(biāo)題：自我,、恐懼和金錢：人工智能的導(dǎo)火索是如何點燃的
鏈接：https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html?unlocked_article_code=1.DE0.pUkn.sv7oZCK-dy7b&hpgrp=c-abar&smid=url-share
正文：
2015 年 7 月，伊隆·馬斯克 Elon Musk 慶祝了自己的 44 歲生日,，他的妻子在加利福尼亞州一個布滿小木屋的葡萄酒鄉(xiāng)村度假村舉辦了一場為期三天的派對,。只有家人和朋友，孩子們在納帕谷的高檔住宅周圍奔跑,。
那是 Twitter 成為 X 之前的幾年,，特斯拉也迎來了盈利的一年。
馬斯克和他的妻子塔露拉·萊利 Talulah Riley——一位女演員，在 HBO 的科幻連續(xù)劇《西部世界》中扮演了一個美麗但危險的機(jī)器人——距離他們的第二次婚姻認(rèn)輸還有一年,。
派對嘉賓拉里·佩奇 Larry Page 仍然是谷歌的首席執(zhí)行官,。
人工智能在幾年前才引起了公眾的注意，當(dāng)時它被用來識別 YouTube 上的貓——準(zhǔn)確率達(dá)到 16%,。
第一晚晚飯后，當(dāng)馬斯克和佩奇坐在游泳池邊的火坑旁時,，人工智能成為了談話的一大話題,。這兩位億萬富翁已經(jīng)是十多年的朋友了，馬斯克有時會開玩笑說,，他偶爾會在玩了一晚上的電子游戲后倒在佩奇的沙發(fā)上,。
但那個晴朗的夜晚很快就變得充滿爭議，因為兩人爭論人工智能最終會提升人類還是毀滅人類,。
隨著討論持續(xù)到寒冷的時間,，討論變得越來越激烈，30 多名聚會者中的一些人湊近了聽,。
佩奇先生十多年來一直受到聲帶異常疾病的困擾,，他低聲描述了他對數(shù)字烏托邦的愿景。他說,，人類最終將與人工智能機(jī)器融合,。有一天，將會有多種智能爭奪資源,，最優(yōu)秀的將會獲勝,。
馬斯克說，如果發(fā)生這種情況,，我們就完蛋了,。機(jī)器將毀滅人類,。
帶著沮喪的聲音，佩奇先生堅持要追求他的烏托邦,。最后,，他稱馬斯克為「物種主義者」，是一個偏愛人類而非未來數(shù)字生命形式的人,。
馬斯克后來說,，這種侮辱是「最后一根稻草」。
當(dāng)晚散去時,，人群中的許多人似乎都目瞪口呆,，甚至有些好笑，并認(rèn)為這只是硅谷派對上經(jīng)常爆發(fā)的深奧辯論中的又一場,。
但八年后,，兩人之間的爭論似乎有先見之明。
人工智能究竟會提升世界還是毀滅世界——或者至少造成嚴(yán)重?fù)p害——這一問題引發(fā)了硅谷創(chuàng)始人,、聊天機(jī)器人用戶,、學(xué)者、立法者和監(jiān)管機(jī)構(gòu)之間關(guān)于該技術(shù)是否應(yīng)該受到控制或釋放的持續(xù)爭論,。
這場爭論讓世界上一些最富有的人相互對立：馬斯克,、佩奇、Meta 的馬克·扎克伯格,、科技投資者彼得·蒂爾、微軟的薩蒂亞·納德拉和 OpenAI 的奧特曼,。
所有人都在爭奪這一業(yè)務(wù)的份額（有一天,，該業(yè)務(wù)可能價值數(shù)萬億美元）以及塑造它的權(quán)力。
這場競爭的核心是一個令人費腦筋的悖論,。那些自稱最擔(dān)心人工智能的人,，是最有決心創(chuàng)造人工智能并享受人工智能財富的人。他們堅信,，只有他們才能阻止人工智能危及地球,，從而證明了自己的雄心壯志。
那年夏天的聚會結(jié)束后不久,，馬斯克和佩奇就不再說話了,。
幾周后，馬斯克與當(dāng)時經(jīng)營一家科技孵化器的奧特曼 以及幾名研究人員,，在加利福尼亞州門洛帕克瑰麗酒店的一間私人房間里共進(jìn)晚餐,，該酒店是靠近該合資企業(yè)的熱門交易地點沙山路的首都辦事處。
那次晚宴促成了一家名為 OpenAI 的初創(chuàng)公司在當(dāng)年晚些時候的成立,。
在馬斯克和其他資助者的數(shù)億美元支持下,，該實驗室承諾保護(hù)世界免受佩奇愿景的影響,。
憑借其 ChatGPT 聊天機(jī)器人，OpenAI 從根本上改變了科技行業(yè),，并向世界介紹了人工智能的風(fēng)險和潛力,。據(jù)兩位熟悉該公司最新一輪融資的人士透露，OpenAI 的估值超過 800 億美元,，不過馬斯克和奧特曼的合作并未成功,。兩人從此不再說話。
「存在分歧,、不信任和自負(fù),，」奧特曼 說?！溉藗冊浇咏环较?，分歧就越有爭議。你可以在教派和宗教團(tuán)體中看到這一點,。最親近的人之間也會發(fā)生激烈的爭吵,。」
上個月,，這場內(nèi)訌來到了 OpenAI 的董事會,。
Rebel 董事會成員試圖驅(qū)逐奧特曼，因為他們認(rèn)為,，他們不能再相信他能夠構(gòu)建造福人類的人工智能,。在混亂的五天里，OpenAI 看起來似乎要崩潰了,，直到董事會在巨額投資者和威脅要追隨 奧特曼離開的員工的壓力下做出了讓步,。
OpenAI 內(nèi)部的戲劇讓世界第一次看到那些將決定人工智能未來的人之間的激烈爭斗
但在 OpenAI 瀕臨崩潰的幾年前，硅谷就發(fā)生了一場鮮為人知但激烈的爭奪技術(shù)控制權(quán)的競爭,，這些技術(shù)現(xiàn)在正在迅速重塑世界,，從如何教育兒童到如何進(jìn)行戰(zhàn)爭。
New York Times 采訪了 80 多名高管,、科學(xué)家和企業(yè)家,，其中包括 2015 年參加馬斯克生日派對的兩人，講述了這個關(guān)于野心,、恐懼和金錢的故事,。
01 DeepMind的誕生
納帕谷派對的五年前，也就是貓在 YouTube 上取得突破的兩年前,，34 歲的神經(jīng)科學(xué)家戴密斯·哈薩比斯走進(jìn)了蒂爾在舊金山聯(lián)排別墅舉行的雞尾酒會,，意識到自己賺到了大錢。
蒂爾的客廳里有一個棋盤,，俯瞰著這座城市的美術(shù)宮和天鵝池,。哈薩比斯博士曾是 14 歲以下組世界第二好的球員,。
「我為這次會議準(zhǔn)備了一年，」哈薩比斯博士說,?！肝艺J(rèn)為這將是我獨特的魅力：我知道他喜歡國際象棋?！?/p>
2010 年,，哈薩比斯博士和兩名住在英國的同事正在尋找資金來開始建造「通用人工智能」（AGI），這是一種可以做大腦能做的任何事情的機(jī)器,。當(dāng)時很少有人對人工智能感興趣,。經(jīng)過半個世紀(jì)的研究，人工智能領(lǐng)域未能提供任何與人類大腦相距甚遠(yuǎn)的東西,。
盡管如此,，一些科學(xué)家和思想家仍然關(guān)注人工智能的缺點。
許多人,，比如這三個來自英國的年輕人,，與互聯(lián)網(wǎng)哲學(xué)家和自學(xué)成才的人工智能研究員埃利澤·尤德科夫斯基 Eliezer Yudkowsky 有聯(lián)系。尤德科夫斯基先生是一群自稱為理性主義者或后來稱為有效利他主義者的群體中的領(lǐng)導(dǎo)者,。
他們相信人工智能可以找到治療癌癥或解決氣候變化的方法,，但他們擔(dān)心人工智能機(jī)器人可能會做他們的創(chuàng)造者沒有想到的事情。理性主義者認(rèn)為,，如果機(jī)器變得比人類更聰明,，機(jī)器就會背叛它們的創(chuàng)造者。
蒂爾通過對 Facebook 的早期投資以及在?PayPal?早期與馬斯克的合作而變得非常富有,。他對奇點產(chǎn)生了濃厚的興趣,，奇點是科幻小說中的一個比喻，描述智能技術(shù)不再受人類控制的時刻,。
在蒂爾先生的資助下，尤德科斯基先生擴(kuò)大了他的人工智能實驗室,，并舉辦了關(guān)于奇點的年度會議,。幾年前，哈薩比斯博士的兩名同事中的一位見過尤德科斯基先生,，他為他們贏得了在會議上發(fā)言的機(jī)會,，確保他們會被邀請參加蒂爾先生的聚會。
尤德科斯基先生向蒂爾先生介紹了哈薩比斯博士,。哈薩比斯博士聚會上的很多人都會試圖向蒂爾榨取金錢,。他的策略是安排另一次會議。他告訴蒂爾先生,，主教和騎士之間存在著深深的緊張關(guān)系,。這兩件棋子的價值相同,，但最優(yōu)秀的玩家都知道，他們的實力相差甚遠(yuǎn),。
有效,。
第二天，蒂爾先生被迷住了,，邀請大家回來,，他們聚集在廚房里。
蒂爾先生剛剛結(jié)束早晨的鍛煉,，穿著閃亮的運動服,，還在大汗淋漓。
管家遞給他一杯健怡可樂,。三人提出了自己的建議,，很快蒂爾先生和他的風(fēng)險投資公司同意向他們的初創(chuàng)企業(yè)投入 140 萬英鎊（約合 225 萬美元）。他是他們的第一位主要投資者,。
他們將公司命名為 DeepMind,，這是對「深度學(xué)習(xí)」的認(rèn)可，「深度學(xué)習(xí)」是人工智能系統(tǒng)通過分析大量數(shù)據(jù)來學(xué)習(xí)技能的一種方式,；神經(jīng)科學(xué),；以及科幻小說《銀河系漫游指南》中的 Deep Thought 超級計算機(jī)。
到 2010 年秋天,，他們開始建造自己的夢想機(jī)器,。他們?nèi)娜獾叵嘈牛驗樗麄兞私怙L(fēng)險,，所以他們在保護(hù)世界方面處于獨特的地位,。
「我不認(rèn)為這是一個矛盾的立場，」DeepMind 三位創(chuàng)始人之一穆斯塔法·蘇萊曼 Mustafa Suleyman 說,。
「這些技術(shù)可以帶來巨大的好處,。我們的目標(biāo)不是消除它們或暫停它們的發(fā)展。我們的目標(biāo)是減輕不利因素,?！?/strong>
在贏得蒂爾先生的青睞后，哈薩比斯博士努力進(jìn)入馬斯克先生的軌道,。大約兩年后,，他們在蒂爾投資基金組織的一次會議上見面，該基金也向馬斯克的公司 SpaceX 投資了資金,。哈薩比斯博士帶領(lǐng)大家參觀了 SpaceX 總部,。隨后，火箭外殼懸掛在天花板上，兩人在自助餐廳共進(jìn)午餐并交談,。
馬斯克解釋說,，他的計劃是殖民火星，以逃避地球上的人口過剩和其他危險,。哈薩比斯博士回答說,，只要超級智能機(jī)器不跟蹤并摧毀火星上的人類，這個計劃就會奏效,。
馬斯克先生無語了,。他沒有想到那種特殊的危險。馬斯克先生很快與蒂爾先生一起投資了 DeepMind,，這樣他就可以更接近這項技術(shù)的創(chuàng)造,。
DeepMind 資金充裕，聘請了專門研究神經(jīng)網(wǎng)絡(luò)和根據(jù)人腦圖像創(chuàng)建的復(fù)雜算法的研究人員,。
神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個巨大的數(shù)學(xué)系統(tǒng),，它花費數(shù)天、數(shù)周甚至數(shù)月的時間來識別大量數(shù)字?jǐn)?shù)據(jù)中的模式,。這些系統(tǒng)首次開發(fā)于 20 世紀(jì) 50 年代,，可以學(xué)習(xí)自行處理任務(wù)。例如,，在分析了數(shù)百個信封上潦草的姓名和地址后,，他們可以閱讀手寫文本,。
DeepMind 進(jìn)一步發(fā)展了這個概念。它構(gòu)建了一個系統(tǒng),，可以學(xué)習(xí)玩經(jīng)典的雅達(dá)利游戲,，如《太空入侵者》,、《Pong》和《Breakout》,，以展示什么是可能的,。
這引起了另一家硅谷巨頭谷歌的注意,，特別是拉里佩奇。他看到了 Deep Mind 機(jī)器玩雅達(dá)利游戲的演示,。他想進(jìn)去,。
02 人才拍賣會
2012 年秋天，多倫多大學(xué) 64 歲的教授 Geoffrey Hinton 和兩名研究生發(fā)表了一篇研究論文,，向世界展示了人工智能的能力,。他們訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)來識別花、狗和汽車等常見物體,。
科學(xué)家們對 Hinton 博士和他的學(xué)生開發(fā)的技術(shù)的準(zhǔn)確性感到驚訝,。據(jù)三名知情人士透露，中國互聯(lián)網(wǎng)巨頭向 Hinton 博士和他的學(xué)生提供了 1200 萬美元的入職條件,，讓他們加入公司,。
Hinton 博士拒絕了，但這筆錢引起了他的注意,。
這位在劍橋接受過教育的英國僑民除了偶爾在微軟和谷歌工作外,，他的大部分職業(yè)生涯都在學(xué)術(shù)界度過，他并不是特別受金錢驅(qū)動,。但他有一個神經(jīng)分歧的孩子,，這筆錢意味著經(jīng)濟(jì)安全。
「我們不知道自己值多少錢,，」辛頓博士說,。
他咨詢了有關(guān)收購的律師和專家，并提出了一個計劃：「我們將組織一次拍賣,，然后我們將自己出售,。」此次拍賣將在太浩湖 Harrah's 酒店和賭場舉行的年度人工智能會議期間舉行,。
大型科技公司注意到了這一點,。
谷歌、微軟,、百度和其他公司開始相信,，神經(jīng)網(wǎng)絡(luò)是一條通向機(jī)器的道路，機(jī)器不僅可以看,，還可以聽,、寫、說,，并最終思考,。
佩奇先生在他公司的人工智能實驗室谷歌大腦中看到了類似的技術(shù)，他認(rèn)為辛頓博士的研究可以提升他的科學(xué)家的工作水平。他給了谷歌工程高級副總裁艾倫·尤斯塔斯（Alan Eustace）一張相當(dāng)于一張空白支票,，可以雇傭他需要的任何人工智能專家,。
拍賣前一天晚上，大腦實驗室的負(fù)責(zé)人尤斯塔斯先生和杰夫·迪恩飛往太浩湖,，帶辛頓博士和他的學(xué)生到酒店內(nèi)的一家牛排館吃晚飯,。迪恩博士回憶說，舊香煙的氣味太濃了,。他們提出了來谷歌工作的理由,。
第二天，辛頓博士在他的酒店房間里進(jìn)行了拍賣,。由于背部有舊傷,，他很少坐下來。他把一個垃圾桶倒過來放在桌子上,，把筆記本電腦放在上面,，看著接下來兩天的出價滾滾而來。
谷歌提出了報價,。微軟也是如此,。隨著價格的上漲，DeepMind 很快就退出了,。
根據(jù)拍賣的詳細(xì)文件,，行業(yè)巨頭將出價提高到 2000 萬美元，然后是 2500 萬美元,。當(dāng)價格超過 3000 萬美元時,，微軟退出，但以 3700 萬美元的價格重新加入競標(biāo),。
「我們感覺就像在看電影,，」辛頓博士說。
然后微軟第二次退出,。只剩下百度和谷歌了,，他們把競價推到了 4200 萬美元、4300 萬美元,。最后,，辛頓博士和他的學(xué)生以 4400 萬美元停止了拍賣。出價仍在攀升,，但他們想為谷歌工作,。而且錢是驚人的。
這是一個明確的跡象,，表明財力雄厚的公司決心收購最有才華的人工智能研究人員——DeepMind 的哈薩比斯博士也沒有忽視這一點,。他一直告訴員工,，DeepMind 將仍然是一家獨立的公司。他相信,，這是確保其技術(shù)不會變成危險事物的最佳方法。
但隨著大型科技公司進(jìn)入人才競賽,，他認(rèn)為自己別無選擇：是時候出售了,。
據(jù)三位知情人士透露，到 2012 年底,，谷歌和 Facebook 正在考慮收購倫敦實驗室,。哈薩比斯博士和他的聯(lián)合創(chuàng)始人堅持兩個條件：DeepMind 技術(shù)不能用于軍事目的，其 AGI 技術(shù)必須由技術(shù)專家和倫理學(xué)家組成的獨立委員會監(jiān)督,。
谷歌出價 6.5 億美元,。Facebook 的馬克·扎克伯格向 DeepMind 的創(chuàng)始人提出了更高的報酬，但他不同意這些條件,。DeepMind 賣給了谷歌,。
扎克伯格先生決心建立一個自己的人工智能實驗室。他聘請了法國計算機(jī)科學(xué)家 Yann LeCun 來運營該項目,，他也做過開創(chuàng)性的人工智能研究,。
Hinton 博士拍賣一年后，扎克伯格和 LeCun 博士飛往太浩湖參加同一次人工智能會議,。當(dāng)扎克伯格穿著襪子在哈拉斯賭場的套房里走來走去時,，他親自采訪了頂尖研究人員，他們很快就獲得了數(shù)百萬美元的薪水和股票,。
AI 一度被嘲笑?，F(xiàn)在，硅谷最富有的人正在斥資數(shù)十億美元,，以免被拋在后面,。
03 失落的道德委員會
當(dāng)馬斯克投資 DeepMind 時，他打破了自己的非正式規(guī)則——他不會投資任何不是他自己經(jīng)營的公司,。他的決定的缺點已經(jīng)很明顯了,，在他生日后與佩奇先生發(fā)生口角僅一個月左右，他就再次與他的前朋友兼億萬富翁同行面對面,。
這次會議是 2015 年 8 月 14 日,，DeepMind 道德委員會的第一次會議。該委員會是在這家初創(chuàng)公司創(chuàng)始人的堅持下成立的,，目的是確保他們的技術(shù)在出售后不會造成任何損害,。
據(jù)三名知情人士透露，成員們在 SpaceX 馬斯克辦公室外的一間會議室舉行會議,，從一扇窗戶可以看到他的火箭工廠,。
但這就是馬斯克先生控制權(quán)的終結(jié),。當(dāng)谷歌收購 DeepMind 時，它收購了整個公司,。馬斯克先生出去了,。在經(jīng)濟(jì)上他已經(jīng)領(lǐng)先了，但他并不高興,。
目前牢牢控制 DeepMind 的三名谷歌高管也在場：佩奇先生,、謝爾蓋·布林 Sergey Brin，谷歌聯(lián)合創(chuàng)始人,、特斯拉投資者,；以及前谷歌董事長埃里克·施密特。
其他與會者包括 PayPal 的另一位創(chuàng)始人里德·霍夫曼 Reid Hoffman 和研究「存在風(fēng)險」的澳大利亞哲學(xué)家托比·奧德 Toby Ord,。
DeepMind 創(chuàng)始人報告說,，他們正在推進(jìn)他們的工作，但他們意識到這項技術(shù)存在嚴(yán)重風(fēng)險,。
DeepMind 聯(lián)合創(chuàng)始人蘇萊曼先生發(fā)表了題為「The Pitchforkers Are Coming」的演講,。他告訴董事會，人工智能可能會導(dǎo)致虛假信息激增,。他擔(dān)心,，隨著這項技術(shù)在未來幾年取代無數(shù)工作崗位，公眾會指責(zé)谷歌竊取了他們的生計,。他認(rèn)為,，谷歌需要與數(shù)百萬無法再找到工作的人分享其財富，并提供「全民基本收入」,。
馬斯克先生同意了,。但很明顯，他的谷歌客人并不準(zhǔn)備開始（他們的）財富的重新分配,。施密特先生說,，他認(rèn)為這種擔(dān)憂完全是多余的。佩奇先生用他一貫的低語表示同意,。他認(rèn)為,，人工智能創(chuàng)造的就業(yè)機(jī)會將多于它奪走的就業(yè)機(jī)會。
八個月后,，DeepMind 取得了震驚人工智能界和全世界的突破,。一臺名為 AlphaGo 的 DeepMind 機(jī)器在古老的圍棋游戲中擊敗了世界上最好的棋手之一。
這場比賽通過互聯(lián)網(wǎng)直播,，全球有 2 億人觀看,。大多數(shù)研究人員認(rèn)為人工智能還需要 10 年的時間才能發(fā)揮聰明才智來做到這一點。
理性主義者,、有效的利他主義者和其他擔(dān)心人工智能風(fēng)險的人聲稱計算機(jī)的勝利證實了他們的恐懼,。
「這再次表明人工智能的發(fā)展速度比許多專家預(yù)期的還要快,，」即將加入 DeepMind 擔(dān)任「人工智能安全」研究員的維多利亞·克拉科夫納 (Victoria Krakovna) 在一篇博客文章中寫道。
DeepMind 的創(chuàng)始人越來越擔(dān)心谷歌將如何處理他們的發(fā)明,。2017 年,，他們試圖脫離公司。谷歌的回應(yīng)是增加 DeepMind 創(chuàng)始人及其員工的工資和股票獎勵,。他們留在原地,。
道德委員會從未召開過第二次會議。
04 分道揚鑣
馬斯克確信佩奇對人工智能的樂觀看法是完全錯誤的,，并對失去 DeepMind 感到憤怒，因此建立了自己的實驗室,。
OpenAI 成立于 2015 年底,，就在他在硅谷瑰麗酒店與 Sam Altman 會面幾個月后。馬斯克向?qū)嶒炇易⑷肓舜罅抠Y金,，他在 PayPal 的前好友霍夫曼和蒂爾也加入其中,。
三人和其他人承諾向該項目投入 10 億美元，當(dāng)時 30 歲的 Altman 將幫助運營該項目,。為了讓他們開始,，他們從谷歌挖來了 Ilya Sutskever。（Sutskever 博士是 Google 在 Hinton 博士的拍賣中「購買」的研究生之一,。）
最初,，馬斯克希望將 OpenAI 作為一個非營利組織來運營，不受谷歌和其他公司的經(jīng)濟(jì)激勵措施的影響,。但當(dāng)谷歌以其 AlphaGo 特技讓科技界驚嘆不已時,，馬斯克已經(jīng)改變了他對公司運營方式的看法。他迫切希望 OpenAI 發(fā)明一些能夠激發(fā)世界想象力并縮小與谷歌差距的東西,，但作為一個非營利組織,，它并沒有完成這項工作。
據(jù)四位知情人士透露,，2017 年底,，他制定了一項計劃，從 Altman 和其他創(chuàng)始人手中奪取該實驗室的控制權(quán),，并將其轉(zhuǎn)變?yōu)樯虡I(yè)運營,，與特斯拉聯(lián)手，并依賴該汽車公司正在開發(fā)的超級計算機(jī),。與此事有關(guān),。
當(dāng) Altman 和其他人進(jìn)行反擊時，馬斯克辭職了,，并表示他將專注于自己在特斯拉的人工智能工作,。三名參加會議的人士稱,，2018 年 2 月，他在一家改裝卡車工廠的初創(chuàng)公司辦公室頂層向 OpenAI 的員工宣布離職,。當(dāng)他說 OpenAI 需要加快步伐時,，一位研究人員在會議上反駁說馬斯克先生太魯莽了。
馬斯克稱這位研究人員為「混蛋」,，然后帶著豐厚的財力憤然離去,。
OpenAI 突然急需新的融資。Altman 飛往太陽谷參加會議,，并遇到了微軟首席執(zhí)行官薩蒂亞·納德拉 Satya Nadella,。合作似乎很自然。Altman 先生認(rèn)識微軟首席技術(shù)官凱文·斯科特,。微軟從 OpenAI 董事會成員霍夫曼手中收購了 LinkedIn,。納德拉先生告訴斯科特先生去完成它。該交易于 2019 年完成,。
Altman 先生和 OpenAI 在原來的非營利組織下組建了一家營利性公司,，他們擁有 10 億美元的新資本，微軟也有一種新方法將人工智能構(gòu)建到其龐大的云計算服務(wù)中,。
并非 OpenAI 內(nèi)部的每個人都感到高興,。
OpenAI 誕生時，達(dá)里奧·阿莫迪 Dario Amodei 是一位與高效利他主義社區(qū)有聯(lián)系的研究員,，他就在瑰麗酒店,。
阿莫代博士在講話時不停地用手指扭動自己的卷發(fā)，他正在領(lǐng)導(dǎo)實驗室努力構(gòu)建一種稱為大型語言模型的神經(jīng)網(wǎng)絡(luò),，該網(wǎng)絡(luò)可以從大量數(shù)字文本中學(xué)習(xí),。通過分析無數(shù)的維基百科文章、數(shù)字圖書和留言板,，它可以自行生成文本,。它也有編造事情的不幸習(xí)慣。它被稱為 GPT-3,，于 2020 年夏天發(fā)布,。
OpenAI、谷歌和其他公司的研究人員認(rèn)為,，這種快速改進(jìn)的技術(shù)可能是通向 AGI 的道路,。
但 Amodei 博士對微軟的交易并不滿意，因為他認(rèn)為這將 OpenAI 引向真正的商業(yè)方向,。據(jù)五位知情人士透露,，他和其他研究人員前往董事會，試圖將 Altman 趕下臺,。失敗后,，他們就離開了,。就像 DeepMind 的創(chuàng)始人一樣，他們擔(dān)心新的企業(yè)霸主會優(yōu)先考慮商業(yè)利益而不是安全,。
2021 年,，這個由約 15 名工程師和科學(xué)家組成的團(tuán)隊創(chuàng)建了一個名為 Anthropic 的新實驗室。該計劃是按照有效的利他主義者認(rèn)為應(yīng)該做的方式構(gòu)建人工智能——并進(jìn)行非常嚴(yán)格的控制,。
「Anthropic 的聯(lián)合創(chuàng)始人并沒有試圖將 Sam Altman 從 OpenAI 中剔除,，」Anthropic 發(fā)言人 Sally Aldous 表示?！嘎?lián)合創(chuàng)始人自己得出的結(jié)論是,，他們希望離開 OpenAI 創(chuàng)辦自己的公司，并向 OpenAI 的領(lǐng)導(dǎo)層通報了這一點,，并在幾周內(nèi)就雙方同意的條款進(jìn)行了退出談判,。」
Anthropic 接受了亞馬遜 40 億美元的投資,，兩年后又接受了谷歌 20 億美元的投資。
05 答案揭曉
在 OpenAI 又從微軟獲得 20 億美元后,，Altman 和另一位高管格雷格·布羅克曼 Greg Brockman 拜訪了比爾·蓋茨 Bill Gates,，他位于西雅圖郊外華盛頓湖畔的豪宅。
這位微軟創(chuàng)始人不再參與公司的日常事務(wù),，但與公司高管保持定期聯(lián)系,。
晚餐時，蓋茨先生告訴他們,，他懷疑大型語言模型能否發(fā)揮作用,。他說，他會保持懷疑態(tài)度,，直到該技術(shù)完成一項需要批判性思維的任務(wù)——例如通過 AP 生物學(xué)測試,。
五個月后，即 2022 年 8 月 24 日,，Altman 先生和 Brockman 先生回來了,，并帶來了一位名叫 Chelsea Voss 的 OpenAI 研究員。沃斯女士在高中時曾獲得過國際生物奧林匹克競賽的獎牌,。納德拉和其他微軟高管也出席了會議,。
在蓋茨先生客廳外的巨大數(shù)字顯示屏上，OpenAI 團(tuán)隊展示了一項名為 GPT-4 的技術(shù),。
布羅克曼先生對系統(tǒng)進(jìn)行了多項選擇的高級生物學(xué)測試,，沃斯女士對答案進(jìn)行了評分。第一個問題涉及極性分子,，即一端帶正電荷,、另一端帶負(fù)電荷的原子團(tuán),。
系統(tǒng)回答正確并解釋了它的選擇?！杆皇墙?jīng)過訓(xùn)練來提供答案,，」布羅克曼先生說?！刚勗挼谋举|(zhì)幾乎神奇地消失了,。」換句話說,，它正在做一些他們并沒有真正設(shè)計它做的事情,。
有 60 個問題。GPT-4 只有一個答案錯誤,。
蓋茨先生從椅子上坐起來,，睜大了眼睛。1980 年,，當(dāng)研究人員向他展示成為現(xiàn)代個人計算機(jī)基礎(chǔ)的圖形用戶界面時,，他也有類似的反應(yīng)。他認(rèn)為 GPT 就是革命性的,。
到 10 月,，微軟在其在線服務(wù)中添加了該技術(shù)，包括 Bing 搜索引擎,。兩個月后,，OpenAI 發(fā)布了 ChatGPT 聊天機(jī)器人，目前每周有 1 億人使用該機(jī)器人,。
OpenAI 擊敗了 Anthropic 的高效利他主義者,。
佩奇在谷歌的樂觀派急忙發(fā)布了他們自己的聊天機(jī)器人 Bard，但人們普遍認(rèn)為他們在與 OpenAI 的競爭中失敗了,。ChatGPT 發(fā)布三個月后,，谷歌股價下跌了 11%。馬斯克先生無處可尋,。
但這只是開始,。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1084017.html
溫馨提示：投資有風(fēng)險,，入市須謹(jǐn)慎,。本資訊不作為投資理財建議。
