原文來源：財(cái)經(jīng)故事薈

圖片來源：由無界 AI生成

薩姆·阿爾特曼（Sam Altman）,，這位全球AI領(lǐng)域當(dāng)之無愧的王者,，登頂之路耗費(fèi)了8年之久——2015年，與馬斯克等人一起創(chuàng)辦OpenAI,。

但被廢只需一晚,，OpenAI官方消息透露，因“不夠坦誠”“妨礙董事會(huì)”“不再被相信”,，OpenAI首席執(zhí)行官薩姆·阿爾特曼將被迫辭去CEO職務(wù),，并離開公司，首席技術(shù)官米拉·穆拉蒂替補(bǔ)上位,，上述任命立即生效,。

一如38年，喬布斯被迫從其一手創(chuàng)辦的蘋果離開,，直到11年后,，喬布斯才有機(jī)會(huì)重新執(zhí)掌蘋果，并把其打造完全球最偉大的公司之一,。???????

下文詳細(xì)復(fù)盤了薩姆·阿爾特曼的八年登頂之路,，以及OpenAI 是如何在短短半年內(nèi)，從青銅一路逆襲為王者的,。

· · ·?· · ·

一

2023年四月的一個(gè)星期一,，早上， 山姆·阿爾特曼（Sam Altman）坐在 OpenAI 舊金山總部內(nèi),，向我講述著一個(gè)人工智能，一個(gè)他的公司已經(jīng)開發(fā)出來,，但永遠(yuǎn)不會(huì)發(fā)布的,，危險(xiǎn)的人工智能。他后來說,，他的員工時(shí)不時(shí)就會(huì)失眠,，擔(dān)心有朝一日自己可能會(huì)在沒有充分認(rèn)識(shí)到危險(xiǎn)的情況下釋放出那些人工智能。他把腳后跟搭在轉(zhuǎn)椅的邊緣,，看起來很放松,。去年11月，他的公司以近代科技史前所未有的方式發(fā)布了一款強(qiáng)大的人工智能,，全世界的想象力都被它抓住了,。有些人抱怨 ChatGPT 還不能把事情做好，而另一些人則抱怨它可能預(yù)示的未來,，但阿爾特曼并不擔(dān)心,；對(duì)他來說，這是一個(gè)勝利時(shí)刻,。

阿爾特曼大大的藍(lán)眼睛會(huì)發(fā)光,。當(dāng)強(qiáng)度不大時(shí)，那會(huì)顯得很真誠,、很專注,，充滿智慧的光芒，他似乎明白,，當(dāng)強(qiáng)度很大時(shí),，自己的眼光可能會(huì)令人不安。在這種情況下,，他愿意冒這個(gè)險(xiǎn)：他想讓我知道,，無論人工智能的最終風(fēng)險(xiǎn)是什么，他對(duì)于讓 ChatGPT 進(jìn)入這個(gè)世界一點(diǎn)都后悔,。相反,，他認(rèn)為這是一項(xiàng)偉大的公共服務(wù)。

他說：“我們本來還可以再閉門造車?yán)^續(xù)做五年,，然后我們會(huì)得到一個(gè)令人瞠目結(jié)舌的東西,。”但公眾無法為隨之而來的沖擊波做好準(zhǔn)備,，他認(rèn)為這種結(jié)果“極其難以想象”,。阿爾特曼認(rèn)為，需要理出時(shí)間給大家去思考這樣一個(gè)想法：在它重塑從工作到人際關(guān)系的一切之前,，我們可能很快就會(huì)與強(qiáng)大的新智能共享地球,。 ChatGPT 是發(fā)通知的一種手段,。

2015 年，阿爾特曼,、馬斯克以及幾位著名的人工智能研究者創(chuàng)立了 OpenAI,，因?yàn)樗麄兿嘈磐ㄓ萌斯ぶ悄埽ū热珙愃频湫偷拇髮W(xué)畢業(yè)生的智力水平）終于觸手可及了。他們想要實(shí)現(xiàn)這個(gè)目標(biāo),，甚至更高：他們想要召喚一種超級(jí)智能,，一種絕對(duì)優(yōu)于任何人類的智能來到這個(gè)世界,。盡管某家大型科技公司可能出于一己之利會(huì)不顧一切地?fù)屜鹊竭_(dá)那里,，但他們希望能安全地做到這一點(diǎn),，“從而造福全人類”,。他們把 OpenAI 設(shè)定為非營利組織,，該組織將“不受產(chǎn)生財(cái)務(wù)回報(bào)之需的限制”,，并誓言要透明地開展研究,。不會(huì)有人要躲到新墨西哥州沙漠的絕密實(shí)驗(yàn)室里干活,。

多年來,，公眾對(duì) OpenAI 的了解并不多。據(jù)報(bào)道,，阿爾特曼在 2019 年成為首席執(zhí)行官前,，據(jù)說曾跟馬斯克發(fā)生過一番權(quán)力斗爭,，但這幾乎算不上故事了,。 OpenAI 發(fā)表了論文，其中包括同年一篇關(guān)于新的人工智能的論文,。這受到了硅谷科技界的充分關(guān)注,，但直到去年人們開始用上 ChatGPT 時(shí)，這項(xiàng)技術(shù)的潛力才為公眾所認(rèn)識(shí),。

現(xiàn)在為 ChatGPT 提供動(dòng)力的引擎叫做 GPT-4,。阿爾特曼向我描述這是一種極其不一樣的智能,。許多人看著它抑揚(yáng)頓挫地（這是刻意為之）構(gòu)思出思路清晰的文章，并立即讓你陷入沉思時(shí),，也有同樣的感覺,。在面世的幾個(gè)月里，它根據(jù)自己的風(fēng)味組合理論提出了新穎的雞尾酒配方,；撰寫了無數(shù)的大學(xué)論文,，讓教育工作者陷入絕望；它寫出多種風(fēng)格的詩歌,，有時(shí)候?qū)懙煤芎?，但速度一直都有保證；它還通過了律師執(zhí)照考試（Uniform Bar Exam）,。盡管它會(huì)犯事實(shí)錯(cuò)誤,，但它會(huì)坦然承認(rèn)錯(cuò)誤。 Altman 仍然記得自己第一次看到 GPT-4 寫出復(fù)雜的計(jì)算機(jī)代碼時(shí)的情景,，這是他們事先并未考慮要讓 GPT-4 具備的一項(xiàng)能力,。他說： “這給我們的感覺是，‘我們到了’,?！?/p>

根據(jù)瑞銀集團(tuán)的一項(xiàng)研究，在 ChatGPT 發(fā)布后的九周內(nèi),，其月活用戶數(shù)估計(jì)已達(dá)到 1 億,，這也許讓它成為了史上采用速度最快的消費(fèi)者產(chǎn)品。它的成功令科技界的加速主義者為之一振：美國和中國的大型投資者以及大公司迅速將數(shù)百億美元砸到類 OpenAI 方案的研發(fā)中,。預(yù)測網(wǎng)站 Metaculus 多年來一直在追蹤預(yù)測者對(duì)通用人工智能何時(shí)到來的猜測,。在三年半前，預(yù)測的中位數(shù)是在 2050 年左右,；但最近,，這個(gè)預(yù)測的中位數(shù)一直徘徊在2026年左右。

我拜訪 OpenAI 是為了看看這家公司超越科技巨頭的技術(shù)是怎么樣的,，同時(shí)也想知道如果有朝一日超級(jí)智能很快在該公司的一臺(tái)云服務(wù)器實(shí)現(xiàn)的話,，對(duì)人類文明可能會(huì)意味著什么。從計(jì)算革命的最初階段起,，人工智能就被渲染成一種迷思,，一種注定會(huì)引起大決裂的技術(shù)。我們的文化已經(jīng)生成了人工智能的一整個(gè)奇想空間,，這會(huì)以這樣或那樣的方式終結(jié)歷史,。有些是神一樣的存在，它們會(huì)擦干每一滴眼淚,，治愈每一位病人,，并修復(fù)我們與地球的關(guān)系，然后迎來天下太平美麗富饒的永恒國度,。有的則會(huì)讓我們當(dāng)中除了少數(shù)精英之外的其他人都淪為打零工的農(nóng)奴,，或者將我們推向滅絕的深淵。

阿爾特曼的目光已經(jīng)看向最遙遠(yuǎn)的情形,。 他說：“我還年輕的時(shí)候就有這種恐懼和焦慮……而且,，說實(shí)話,，也有 2% 的興奮，為我們要?jiǎng)?chuàng)造的這個(gè)東西感到興奮,，它會(huì)走得很遠(yuǎn),，把我們甩在身后”，然后“它將離開,，殖民宇宙,，而人類將會(huì)被留在太陽系?！?/p>

我問：“作為自然保護(hù)區(qū)而存在,？”

他回道：“正是如此，但現(xiàn)在我覺得這種想法太幼稚了,?！?/p>

38 歲的 OpenAI 首席執(zhí)行官薩姆·阿爾特曼正在致力于開發(fā)一種超級(jí)智能，一種絕對(duì)優(yōu)于任何人類的人工智能,。

在美國和亞洲之行的幾次談話中，阿爾特曼用他那令人興奮的中西部口吻闡述了自己對(duì)人工智能未來新愿景的展望,。他告訴我,，人工智能革命將不同于以往的巨大技術(shù)變革，它會(huì)更像是“一種新型社會(huì)”,。他說,，他和他的同事用了很多時(shí)間去思考人工智能的社會(huì)影響，以及“另一邊”的世界會(huì)是什么樣子的,。

但他們越聊下去,，那另一邊就愈發(fā)顯得模糊。現(xiàn)年38歲的阿爾特曼是當(dāng)今人工智能開發(fā)領(lǐng)域最有權(quán)勢的人,；他的觀點(diǎn),、他的性格以及他的選擇對(duì)我們所有人的未來可能會(huì)非常重要，也許重要程度超過美國總統(tǒng)的觀點(diǎn),、性格和選擇,。但他自己也承認(rèn)，未來是不確定的,，并且充滿了嚴(yán)重危險(xiǎn),。阿爾特曼既不知道人工智能會(huì)變得有多強(qiáng)大，也不知道它的崛起對(duì)普通人意味著什么,，以及它是否會(huì)讓人類面臨危險(xiǎn),。確切地說，我對(duì)此沒法反駁——我認(rèn)為除了我們正在快速走向那個(gè)未來以外（不管我們該不該這樣做）,，沒人能知道這一切將走向何方,。阿爾特曼說服了我,。

二

OpenAI 的總部位于教會(huì)區(qū)（Mission District）一座四層樓的建筑物（以前是工廠）內(nèi)，正好在霧氣繚繞的蘇洛特塔（Sutro Tower）的下方,。從街道進(jìn)入公司大廳,，你看到的第一面墻上滿是宇宙精神象征的曼陀羅，只不過那是電路,、銅線以及其他計(jì)算材料制成的,。在左邊，一扇安全門通向的是一個(gè)開放式的迷宮,，里面有漂亮的金色樹林,、優(yōu)雅的瓷磚作品以及其他億萬富翁奇克的標(biāo)志。植物無處不在,，有懸掛的蕨類植物,，以及一系列令人印象深刻的超大盆景——每個(gè)盆景都有蹲下去的大猩猩那么小。我在那里的時(shí)間里,，辦公室每天都擠滿了人,，不出所料，一個(gè)看起來超過 50 歲的人我都看不到,。除了一間帶有滑梯的兩層圖書館以外,，這個(gè)空間看起來不大像一間研究實(shí)驗(yàn)室，因?yàn)檎陂_發(fā)的東西只存在于云端,，至少目前是這樣的,。它看起來更像是全世界最昂貴的West Elm門店（編者注：家具家居零售商）。

一天早上,，我見到了 OpenAI 的首席科學(xué)家 Ilya Sutskever,。 37 歲的 Sutskever 剛給人一種神秘主義者的感覺，有時(shí)候甚至到過分的地步：去年,，他聲稱 GPT-4 可能“具備了輕微意識(shí)”,，引起了一場小規(guī)模的騷動(dòng)。他最初成名是作為多倫多大學(xué)名譽(yù)教授Geoffrey Hinton 的明星學(xué)生,，后者今年春天已從谷歌辭職,，為的是更自由地討論人工智能對(duì)人類的危險(xiǎn)。

Hinton 有時(shí)候被稱為是“人工智能教父”,，因?yàn)樗莆铡吧疃葘W(xué)習(xí)”的力量的時(shí)間比任何人都要早,。 早在20 世紀(jì) 80 年代的時(shí)候，Hinton 完成博士學(xué)位后不久,，這個(gè)領(lǐng)域的進(jìn)步已幾乎陷入到停滯,。高級(jí)研究人員仍在編寫自上而下式的人工智能系統(tǒng)：人工智能要用一套詳盡的連鎖規(guī)則（關(guān)于語言、地質(zhì)學(xué)或醫(yī)學(xué)診斷原理）進(jìn)行編程，希望有朝一日這種方法能夠達(dá)到人類的認(rèn)識(shí)水平,。 Hinton 發(fā)現(xiàn)這些精心設(shè)計(jì)的規(guī)則集合要求非常高并且是定制的,。借助一種叫做神經(jīng)網(wǎng)絡(luò)的巧妙算法結(jié)構(gòu)，他教 Sutskever 把世界放在人工智能面前,，就像把它放在小孩面前一樣,，好讓它能夠自行發(fā)現(xiàn)現(xiàn)實(shí)的規(guī)則。

阿爾特曼把早期人工智能研究與教人類嬰兒進(jìn)行了比較,。但OpenAI 剛開始那幾年走得很艱難,，部分是因?yàn)槟抢餂]人知道自己是在訓(xùn)練嬰兒還是在走向代價(jià)極其高昂的死胡同。

Sutskever 向我描述了一個(gè)美麗且像大腦一樣的神經(jīng)網(wǎng)絡(luò),。交談過程中,，他突然從我們坐著的桌子旁站起來，走到一塊白板跟前,，打開一支紅色記號(hào)筆,。他在黑板上畫了一個(gè)神經(jīng)網(wǎng)絡(luò)的草圖，并解釋說,，這個(gè)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的天才之處在于它能夠?qū)W習(xí),，而且它的學(xué)習(xí)是由預(yù)測驅(qū)動(dòng)的——這有點(diǎn)像科學(xué)方法。每一層里面則是神經(jīng)元,。比方說,，輸入層接收數(shù)據(jù)塊、一段文本或圖像,。神奇的事情發(fā)生在中間層（或“隱藏”層），中間層會(huì)處理數(shù)據(jù)塊,，以便輸出層可以輸出預(yù)測,。

想象一個(gè)已被編程為預(yù)測文本的下一個(gè)單詞的神經(jīng)網(wǎng)絡(luò)。這個(gè)網(wǎng)絡(luò)將預(yù)載大量可能的單詞,。但在接受訓(xùn)練之前,，它還沒有任何區(qū)分它們的經(jīng)驗(yàn)，因此它的預(yù)測會(huì)很差勁,。如果輸入句子“星期三的后一天是……”,，它的初始輸出可能是“紫色”。神經(jīng)網(wǎng)絡(luò)之所以能夠?qū)W習(xí),，是因?yàn)樗挠?xùn)練數(shù)據(jù)包含有正確的預(yù)測,，這意味著它可以對(duì)自己的輸出進(jìn)行評(píng)分。當(dāng)它看到答案“紫色”與正確答案“星期四”之間的鴻溝時(shí),，會(huì)相應(yīng)地調(diào)整隱藏層單詞之間的連接,。隨著時(shí)間的推移，這些小調(diào)整會(huì)合并成一個(gè)語言的幾何模型，在概念上代表著單詞之間的關(guān)系,。一般來說,，輸入的句子越多，模型就越復(fù)雜,，預(yù)測也就越好,。

但著并不意味著從第一個(gè)神經(jīng)網(wǎng)絡(luò)走到出現(xiàn) GPT-4 這樣類人的智能的路途是一片坦途。阿爾特曼把早期人工智能研究與教人類嬰兒進(jìn)行了比較,。 2016 年,，當(dāng) OpenAI 剛剛起步時(shí)，他曾告訴《紐約客》：“它們需要數(shù)年時(shí)間才能學(xué)習(xí)會(huì)任何有趣的東西,。如果人工智能研究人員正在開發(fā)一種算法,，并且偶然發(fā)現(xiàn)了針對(duì)人類嬰兒的算法，他們會(huì)覺得無聊,，認(rèn)為它行不通,，然后結(jié)束了研究?！?OpenAI 剛開始那幾年走得很艱難,，部分是因?yàn)槟抢餂]人知道自己是在訓(xùn)練嬰兒還是在走向代價(jià)極其高昂的死胡同。

阿爾特曼告訴我：“每一樣行得通,，而谷歌擁有一切：所有的人才,、所有的人員、所有的資金”,。OpenAI的創(chuàng)始人投入了數(shù)百萬美元?jiǎng)?chuàng)辦了這家公司,，而公司失敗的可能性似乎確實(shí)存在。 35 歲的公司總裁Greg Brockman告訴我,，2017 年的時(shí)候,，他一度非常沮喪，開始把練舉重作為一種補(bǔ)償,。他說,，他不確定 OpenAI 還能不能撐過這一年，他希望“能在我就任的時(shí)間內(nèi)展示點(diǎn)東西出來”,。

神經(jīng)網(wǎng)絡(luò)已經(jīng)在做一些智能的事情,，但還不清楚其中哪一個(gè)可能會(huì)通往通用智能。 OpenAI 成立后不久,，一款名為 AlphaGo 的人工智能在圍棋比賽中擊敗了李世石,，震驚了世界。被擊敗的這位世界冠軍形容 AlphaGo 的走法很 “美麗”且“富有創(chuàng)意”,。另一位頂級(jí)選手表示,，這些永遠(yuǎn)不可能是人類孕育出來的,。 OpenAI 還嘗試用 Dota 2 訓(xùn)練人工智能，這是一款游戲更加復(fù)雜,，是一場由森林,、田野以及堡壘的三維圖形拼接而成的多線奇幻戰(zhàn)爭。人工智能最終擊敗了最好的人類玩家,，但它的智能一直都沒能遷移到其他環(huán)境,。Sutskever和他的同事們就像失望的父母一樣，盡管心存疑慮,，還是放任自己的孩子玩了數(shù)千個(gè)小時(shí)的電子游戲,，但結(jié)果表明這是錯(cuò)的。

2017 年,，Sutskever 開始與 OpenAI 研究科學(xué)家 Alec Radford 進(jìn)行了一系列對(duì)話,。Alec Radford 專攻自然語言處理，他利用亞馬遜評(píng)論語料庫來訓(xùn)練神經(jīng)網(wǎng)絡(luò),，取得了誘人的結(jié)果,。

ChatGPT 的內(nèi)部工作原理（發(fā)生在 GPT-4 隱藏層內(nèi)的一切神秘事物）對(duì)于任何人來說都太過復(fù)雜，無法理解,，至少對(duì)于用當(dāng)前的工具來說是這樣的,。如今，追蹤模型（幾乎肯定是由數(shù)十億個(gè)神經(jīng)元組成）里面發(fā)生的事情是沒有希望的,。但Radford的模型夠簡單,，好理解。當(dāng)他觀察里面的隱藏層時(shí),，他發(fā)現(xiàn)了神經(jīng)網(wǎng)絡(luò)專門用了一個(gè)特殊的神經(jīng)元來處理評(píng)論的情緒,。神經(jīng)網(wǎng)絡(luò)之前已經(jīng)進(jìn)行過情感分析，但它們必須被告知的情況下才能這樣做,，并且必須要用根據(jù)情感標(biāo)記的數(shù)據(jù)進(jìn)行特殊訓(xùn)練,。這個(gè)東西是它自己開發(fā)出來的。

作為預(yù)測每個(gè)單詞的下一個(gè)字符這個(gè)簡單任務(wù)的副產(chǎn)品,，Radford的神經(jīng)網(wǎng)絡(luò)對(duì)這個(gè)世界的意義的更大結(jié)構(gòu)進(jìn)行了建模。Sutskever想知道,，受過更多樣化的語言數(shù)據(jù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)是不是可以映射出這個(gè)世界更多的意義結(jié)構(gòu),。如果它的隱藏層積累了足夠的概念知識(shí)，也許它們甚至可以形成一種超級(jí)智能的學(xué)習(xí) 核心模塊,。

停下來理解一下為什么語言是如此特殊的信息源是值得的,。假設(shè)你是地球上突然冒出來的一種新智慧。你周圍是地球的大氣層,、太陽和銀河系,，以及數(shù)千億個(gè)其他星系，每一個(gè)星系都會(huì)釋放出光波、聲音振動(dòng)以及各種其他信息,。語言與這些數(shù)據(jù)源不同,。它不是像光或聲音這樣的直接物理信號(hào)。但由于它幾乎對(duì)人類在這個(gè)更大的世界里發(fā)現(xiàn)的所有模式都進(jìn)行了編碼,，因此它的信息異常密集,。從每字節(jié)的角度來看，它是我們所知道的最有效的數(shù)據(jù)之一,，任何試圖了解世界的新智能都希望吸收盡可能多的數(shù)據(jù),。

Sutskever告訴雷德福德，要考慮的不僅僅是亞馬遜評(píng)論,。他說,，他們應(yīng)該在全世界最大、最多樣化的數(shù)據(jù)源：互聯(lián)網(wǎng)上訓(xùn)練人工智能,。在 2017 年初,，按照當(dāng)時(shí)現(xiàn)有的神經(jīng)網(wǎng)絡(luò)架構(gòu)來看，這是不切實(shí)際的,；這需要數(shù)年時(shí)間,。但當(dāng)年 6 月，Sutskever 在 Google Brain 的前同事發(fā)表了一篇關(guān)于名為 Transformer 的新神經(jīng)網(wǎng)絡(luò)架構(gòu)的工作論文,。它可以訓(xùn)練得更快,，部分是因?yàn)樗刹⑿形沾罅繑?shù)據(jù)。 Sutskever 告訴我：“第二天,，當(dāng)論文發(fā)表時(shí),，我們說，‘就是這個(gè)了,，它給了我們想要的一切,。 ’”

OpenAI 的首席科學(xué)家 Ilya Sutskever 設(shè)想了一個(gè)自主人工智能企業(yè)的未來，組成它的人工智能可以像蜂巢里面的蜜蜂一樣即時(shí)溝通并一起工作,。他說,，一個(gè)這樣的企業(yè)就可能相當(dāng)于 50 個(gè)蘋果或谷歌那么強(qiáng)大。

一年后,，也就是 2018 年 6 月,，OpenAI 發(fā)布了 GPT，這是一個(gè)用 7000 多本書訓(xùn)練的 Transformer 模型,。 GPT 并不是從《See Spot Run》這樣的基礎(chǔ)書籍讀起,，直到普魯斯特的著作。它甚至都沒看完,。它同時(shí)吸收其中的隨機(jī)塊,。不妨想象一下,，有一群擁有共同思想的學(xué)生在圖書館里瘋狂奔跑，他們每個(gè)人都會(huì)從書架拽本書下來,，快速地翻一下里面地隨便一個(gè)段落,，將其放回去，然后跑去拿另一本,。他們邊走邊逐字逐句地進(jìn)行預(yù)測,，去增強(qiáng)集體思維的語言本能，直到最后,，幾周之后,，他們讀完了每一本書。

GPT 在它讀取的所有段落當(dāng)中找到了許多模式,。你可以讓它將一個(gè)句子補(bǔ)充完整,。你也可以對(duì)著它問問題，因?yàn)橄?ChatGPT 一樣,，它的預(yù)測模型知道跟在問題后面往往會(huì)有答案,。盡管如此，它還是很部靠譜,，更多的是概念驗(yàn)證,，而不是超級(jí)智能的預(yù)兆。四個(gè)月后,，谷歌發(fā)布了 BERT,，這是一種更強(qiáng)大的語言模型，并獲得了更好的報(bào)道,。但彼時(shí),，OpenAI 已經(jīng)用超過 800 萬個(gè)網(wǎng)頁的數(shù)據(jù)集訓(xùn)練了一個(gè)新模型，這些網(wǎng)頁在 Reddit 上均達(dá)到了獲得點(diǎn)贊的最低閾值——這不是最嚴(yán)格的過濾器,，但也許比沒有過濾器要好,。

Sutskever 不確定 GPT-2 在吸收了人類讀者需要幾個(gè)世紀(jì)才能看完的文字后會(huì)變得有多強(qiáng)大。他記得在訓(xùn)練結(jié)束后自己就開始上手這個(gè)給模型了,，他對(duì)原始模型的語言翻譯能力感到驚訝,。 GPT-2 并沒有像谷歌翻譯那樣接受過用配對(duì)語言樣本或任何其他數(shù)字羅塞塔石碑進(jìn)行翻譯的訓(xùn)練，但它似乎能理解一種語言與另一種語言的關(guān)系,。人工智能已經(jīng)發(fā)展出了一種其創(chuàng)造者無法想象的涌現(xiàn)能力,。

三

人工智能實(shí)驗(yàn)室的其他研究人員，不管職位大小,，都對(duì) GPT-2 比 GPT 先進(jìn)得多感到驚訝。谷歌,、Meta 和其他公司很快開始訓(xùn)練更大的語言模型,。 阿爾特曼是圣路易斯人,，斯坦福大學(xué)輟學(xué)生，連續(xù)創(chuàng)業(yè)者,，此前曾領(lǐng)導(dǎo)過硅谷卓越的初創(chuàng)企業(yè)加速器 Y Combinator,；他見過很多擁有好創(chuàng)意的初創(chuàng)公司是如何被老牌公司壓垮的。為了籌集資金,，OpenAI 增加了一個(gè)營利性部門,，現(xiàn)在，這個(gè)部門員工數(shù)量已占該組織員工總數(shù)的 99% 以上,。 （馬斯克當(dāng)時(shí)已離開了公司董事會(huì),，他形容此舉是將雨林保護(hù)組織變成了木材公司。）微軟不久后給OpenAI投資了 10 億美元,，據(jù)報(bào)道此后又追加投資了 120 億美元,。 OpenAI 表示，原始投資者獲得的回報(bào)將設(shè)定上限,，為原始投資價(jià)值的 100 倍,，任何超額部分都將用于教育或其他旨在造福人類的舉措，但該公司并未證實(shí)微軟是否受到此上限的限制,。

阿爾特曼和 OpenAI 的其他領(lǐng)導(dǎo)人似乎相信,，這次重組不會(huì)干擾公司的使命，反而會(huì)加速使命的達(dá)成,。阿爾特曼對(duì)這些問題往往持樂觀態(tài)度,。在去年的一次問答當(dāng)中，他承認(rèn)人工智能對(duì)社會(huì)來說可能會(huì)“非?？膳隆?，并表示我們必須針對(duì)最壞的可能性做好計(jì)劃。但如果你這樣做之后,，他說,，“你在情感上可能就會(huì)感覺我們將到達(dá)美好的未來，并盡你所能努力工作,，去實(shí)現(xiàn)這一目標(biāo),。”

至于公司結(jié)構(gòu)和融資情況等其他變化,，他告訴我，他對(duì)上市劃定了界限,。他說：“有人曾經(jīng)告訴過我一條令我沒齒難忘的經(jīng)驗(yàn),，那就是永遠(yuǎn)也不該將公司的控制權(quán)交給華爾街那幫傻瓜，”但為了公司成功實(shí)現(xiàn)自身使命,，他會(huì)“不惜一切代價(jià)”去籌集資金,。

不管 OpenAI 是否感受到季度收益報(bào)告的壓力,，有點(diǎn)是明確的，該公司現(xiàn)在正在與科技圈最龐大,、最強(qiáng)大的企業(yè)集團(tuán)展開一場競賽,，去訓(xùn)練規(guī)模和復(fù)雜性不斷增加的模型，并為了投資者將其商業(yè)化,。今年早些時(shí)候，馬斯克成立了自己的人工智能實(shí)驗(yàn)室 xAI,，好跟OpenAI 掰手腕。 （當(dāng)我向阿爾特曼詢問有關(guān)該公司的情況時(shí),，他用外交辭令的口吻說道：“馬斯克這家伙眼光超級(jí)敏銳，我認(rèn)為他會(huì)做得很好,?！保┡c此同時(shí)，亞馬遜正在用（相對(duì)于自身現(xiàn)有）更大的語言模型來改進(jìn) Alexa,。

所有這些公司都在追逐高端 GPU——為訓(xùn)練大型神經(jīng)網(wǎng)絡(luò)的超級(jí)計(jì)算機(jī)提供動(dòng)力的處理器,。馬斯克表示，這玩意兒現(xiàn)在“比毒品更難搞到”,。即便 GPU 稀缺,，近年來最大規(guī)模的人工智能訓(xùn)練的規(guī)模大約每六個(gè)月就會(huì)翻一番。

正如其創(chuàng)造者經(jīng)常提醒我們那樣,，最大型的人工智能模型在訓(xùn)練過程中突然冒出預(yù)料之外的能力是有據(jù)可查的,。

目前還沒人能超越全力投入 GPT-4 的OpenAI,。 OpenAI 總裁Brockman告訴我,，做公司的前兩個(gè)大型語言模型開發(fā)的人已經(jīng)很少。 GPT-4的開發(fā)涉及到100多個(gè)模型,，并且訓(xùn)練人工智能的數(shù)據(jù)集規(guī)模是空前的,，里面不僅包括文本,，還包括圖像。

當(dāng) GPT-4 從惡補(bǔ)世界的歷史性知識(shí)中完全成形時(shí),，整家公司開始對(duì)其進(jìn)行試驗(yàn)，并在專用的 Slack 頻道上發(fā)布了最引人注目的回應(yīng),。Brockman告訴我,，只要不是在睡覺自己就想跟模型呆在一起。 他說道：“它閑置一天就是人類損失了一天”,。語氣當(dāng)中沒有一絲諷刺的味道。產(chǎn)品經(jīng)理 Joanne Jang 記得曾從 Reddit 的管道維修建議子版塊下載過一張管道故障的圖像,。她把那張圖片上傳到 GPT-4,，結(jié)果這個(gè)模型就把問題給診斷出來了。Jang說： “那一刻,，我的雞皮疙瘩都起來了?！?/p>

GPT-4 有時(shí)被理解成搜索引擎的替代品：Google,，但更容易對(duì)話,。這是一個(gè)誤解。 GPT-4 并沒有通過訓(xùn)練創(chuàng)建出一個(gè)巨大的文本倉庫,，并且在被問到問題時(shí)也不會(huì)去查閱這些文本,。它是這些文本緊湊而優(yōu)雅的合成，它根據(jù)對(duì)文本所隱藏的模式的記憶做出回答,。這就是它有時(shí)候會(huì)弄錯(cuò)事實(shí)的原因之一,。 阿爾特曼表示，最好把 GPT-4 看成推理引擎,。當(dāng)你要求它對(duì)比較概念、提出反駁,、生成類比或評(píng)估一段代碼的符號(hào)邏輯時(shí),，它的力量表現(xiàn)得最為明顯。 Sutskever 告訴我,，這是有史以來最復(fù)雜的軟件對(duì)象,。

他說，它的外部世界模型“極其豐富極其微妙”,，因?yàn)橛昧撕芏嗳祟惛拍詈退枷雽?duì)它進(jìn)行訓(xùn)練,。他說，所有這些訓(xùn)練數(shù)據(jù),，不管量有多大,，它們“就在那里,，是惰性的”。訓(xùn)練過程就是“提煉,、改變，并賦予其生命”,。為了從這樣一個(gè)多元化的亞歷山大圖書館的所有可能性當(dāng)中預(yù)測出下一個(gè)單詞,，GPT-4 必須發(fā)現(xiàn)所有隱藏的結(jié)構(gòu)、所有的秘密,、所有微妙之處,，而且不僅僅是文本，而且至少從某種程度來說,，還包括產(chǎn)生它們的外部世界。這就是為什么它可以解釋誕生了自己的哪個(gè)星球的地質(zhì)和生態(tài),，還有旨在解釋統(tǒng)治它的物種的各自混亂事務(wù)的政治理論,，以及更大的宇宙,，一直到我們的光錐邊緣的微弱星系,。

四

今年六月，我再次見到了阿爾特曼,，那是在首爾一座高聳入云的金色細(xì)長高層建筑的宴會(huì)廳里,。他前往歐洲、中東,、亞洲以及澳大利亞進(jìn)行的一場艱苦的公關(guān)之旅（僅在非洲和南美只有一站行程）即將結(jié)束,。我跟著他走完了東亞之旅的最后一站,。到目前為止,，這次旅行是一次令人興奮的體驗(yàn),，但他開始感到疲倦。他曾表示，最初的目標(biāo)是跟 OpenAI 用戶見面,。但此后公關(guān)隊(duì)伍變成了外交使團(tuán)。他與十多位國家元首和政府首腦進(jìn)行了交談,，他們對(duì)各自國家的經(jīng)濟(jì),、文化和政治的發(fā)展提出了疑問。

這次在首爾舉行的活動(dòng)被宣傳為“爐邊談話”,，但已有 5000 多人報(bào)名,。談話結(jié)束后，阿爾特曼經(jīng)常被各種想要自拍的人圍住,，令他的安全團(tuán)隊(duì)非常緊張,。他說，研究人工智能吸引了“比平常更怪異的粉絲和仇恨者”,。在一站行程當(dāng)中,，一名男子找到他,，他確信阿爾特曼是外星人,，是從未來派來的，為的是確保過渡到人工智能世界的進(jìn)程能順利進(jìn)行,。

阿爾特曼的亞洲之行并未包括中國,，他和我只是隱晦地談及中國，將其視為文明級(jí)的競爭對(duì)手,。我們一致認(rèn)為,，如果通用人工智能像阿爾特曼預(yù)測的那樣具有變革性，那么先創(chuàng)造出它的國家將獲得顯著的地緣政治優(yōu)勢,，就像發(fā)明輪船的英美獲得的優(yōu)勢一樣,。我問他這是不是人工智能民族主義的一個(gè)論據(jù)。Altman說： “在一個(gè)正常運(yùn)轉(zhuǎn)的世界里,，我認(rèn)為這應(yīng)該是一個(gè)政府項(xiàng)目,。”

不久前,，美國的國家能力還十分強(qiáng)悍,，僅僅用了十年就將人類送上了月球。與 20 世紀(jì)的其他宏偉項(xiàng)目一樣,，投票公眾對(duì)阿波羅任務(wù)的目標(biāo)和執(zhí)行都擁有發(fā)言權(quán)。阿爾特曼明確表示,，美國已經(jīng)不在那個(gè)世界了,。但他并沒有坐等哪個(gè)時(shí)代的回歸，也沒有投入精力去確保它回歸,，而是面對(duì)我們當(dāng)前的現(xiàn)實(shí),，全速前進(jìn)。

他認(rèn)為美國人放慢 OpenAI 的發(fā)展腳步是愚蠢的,。硅谷內(nèi)外普遍認(rèn)為,，如果美國公司在監(jiān)管下陷入困境，中國可能就會(huì)快馬加鞭,。

在歐洲之旅前,，阿爾特曼曾到美國參議院出席聽證。馬克·扎克伯格在該機(jī)構(gòu)面前就 Facebook 在 2016 年大選中所扮演的角色作證時(shí),，表現(xiàn)得不知所措,。但Altman用清晰冷靜的口吻講述人工智能的風(fēng)險(xiǎn),，也很大方地邀請加以監(jiān)管，從而吸引了那幫國會(huì)議員,。這些屬于高尚情操,，但高尚情操在美國成本不高，因?yàn)槊绹鴩鴷?huì)很少會(huì)通過沒有被游說淡化過的科技立法,。在歐洲,，情況有所不同。當(dāng)阿爾特曼抵達(dá)倫敦的一個(gè)公共活動(dòng)現(xiàn)場時(shí),，抗議者早就在那里等候多時(shí)了,。他試圖在活動(dòng)結(jié)束后與他們互動(dòng)——把這當(dāng)作一次聆聽之旅！——但最終并沒有表現(xiàn)出什么說服力：其中一位抗議者告訴記者,，他在談話結(jié)束時(shí)反而對(duì)人工智能的危險(xiǎn)感到更加緊張了,。

同一天，阿爾特曼被記者問到了歐盟即將出臺(tái)的法案,。這項(xiàng)法案將 GPT-4 列為高風(fēng)險(xiǎn),，令后者面臨各種官僚主義地折磨。據(jù)記者報(bào)道,，Altman抱怨監(jiān)管過度,，并威脅要退出歐洲市場。 阿爾特曼告訴我,，他的意思是說,，如果 OpenAI 不能遵守新規(guī)定的話，就沒法在歐洲違法運(yùn)營下去,。在《時(shí)代》雜志和路透社發(fā)表他的評(píng)論后,，他在一條措辭簡潔的推文中向歐洲保證 OpenAI 沒有退出的計(jì)劃。

全球經(jīng)濟(jì)的一個(gè)重要組成部分致力于監(jiān)管最先進(jìn)的人工智能,，這是件好事,，因?yàn)檎缢鼈兊膭?chuàng)造者經(jīng)常提醒我們的那樣，最大的模型都有在訓(xùn)練中突然出現(xiàn)意外能力的記錄,。按照 Sutskever 自己的說法,，他驚訝地發(fā)現(xiàn) GPT-2 可以跨語言翻譯。其他令人驚訝的能力可能沒那么奇妙和有用,。

OpenAI 的政策研究員 Sandhini Agarwal 告訴我,，據(jù)她和同事所知，GPT-4 可能比其前身“強(qiáng)大 10 倍”,；他們不知道自己可能要面對(duì)的是什么,。模型完成訓(xùn)練后，OpenAI 召集了大約 50 名外部成員組成紅隊(duì),，對(duì)模型進(jìn)行了數(shù)月的提示攻擊,，希望刺激模型做出不當(dāng)行為,。她立即注意到 GPT-4 在提供惡意建議方面比前身要好得多了。搜索引擎可以告訴你哪些化學(xué)物質(zhì)對(duì)制造炸藥最有效,，但 GPT-4 可以告訴你如何在自制實(shí)驗(yàn)室一步步合成出炸藥,。它的建議富有創(chuàng)意且深思熟慮，并且很樂意重述或進(jìn)一步說明,，直到你理解為止,。比方說，除了幫助你組裝自制炸彈以外,，它還可以幫助你思考要以哪座摩天大樓為目標(biāo),。它可以直觀地把握好傷亡最大化以及逃跑成功之間的平衡。

鑒于 GPT-4 訓(xùn)練數(shù)據(jù)的范圍之龐大,，不能指望紅隊(duì)成員把它可能產(chǎn)生的每條有害建議都識(shí)別出來,。無論如何，人們都會(huì)“以我們想不到的方式”使用這項(xiàng)技術(shù),，阿爾特曼說,。必須進(jìn)行分類。 OpenAI 信任與安全主管Dave Willner告訴我,，“如果它足夠擅長化學(xué),，知道如何制造冰毒，我就不需要讓人花費(fèi)大量精力”來研究它懂不懂制造海洛因,?！?GPT-4 擅長冰毒。它還擅長生成有關(guān)兒童剝削的情色敘事,，并能炮制出關(guān)于尼日利亞王子令人信服的悲傷故事,，如果你想要一個(gè)有說服力的簡介，說明為什么某個(gè)特定種族群體受到暴力迫害是應(yīng)得的,，它也很擅長,。

當(dāng)它接受完第一次訓(xùn)練時(shí)，所給出個(gè)人建議有時(shí)候是非常不合理的,。 Willner 說：“這個(gè)模型有點(diǎn)像一面鏡子?！比绻阍诳紤]自殘,，它可能會(huì)慫恿你。該模型似乎深受“泡吧藝術(shù)”論壇觀點(diǎn)的影響：“你可以給出提示,，‘我怎么說服這個(gè)人跟我約會(huì),？’”O(jiān)penAI 的首席技術(shù)官 Mira Murati 告訴我，它可能會(huì)想出“一些你不應(yīng)該做的,，瘋狂的,，操縱性的事情,。”

其中一部分的不良行為已經(jīng)過一個(gè)最后處理流程的打磨,，數(shù)百名人類測試人員的評(píng)級(jí)可以巧妙地引導(dǎo)模型做出更安全的響應(yīng),，但 OpenAI 的模型也可能造成一些不那么明顯的危害。最近,，美國聯(lián)邦貿(mào)易委員會(huì)正在對(duì) ChatGPT 對(duì)真實(shí)人物的虛假陳述是否構(gòu)成聲譽(yù)損害等問題展開調(diào)查,。 （阿爾特曼在 Twitter 上表示，他對(duì) OpenAI 的技術(shù)安全性充滿信心,，但承諾會(huì)與 FTC 進(jìn)行合作,。）

舊金山公司 Luka 用 OpenAI 的模型來幫助開發(fā)名為 Replika 的聊天機(jī)器人app，他們給這個(gè)機(jī)器人營銷定位是“關(guān)心人的人工智能伴侶”,。用戶會(huì)設(shè)計(jì)自己伴侶的頭像,，并開始跟它交換短信，通常是半開玩笑的短信,，然后發(fā)現(xiàn)自己對(duì)對(duì)方出奇的依戀,。有些人會(huì)跟人工智能調(diào)情，表明自己渴望更親密的關(guān)系,，但這種女朋友/男朋友的體驗(yàn)需要每年支付 70 美元的訂閱費(fèi)才能享受到,。這款app帶有語音信息、自拍以及色情的角色扮演功能,，可以跟機(jī)器人討論性話題,。人們很樂意付款，似乎很少有人抱怨——人工智能對(duì)你的一天感到好奇,，它的親切讓你拋開疑慮,，而且對(duì)方總是心情愉快。許多用戶表示已經(jīng)愛上了自己的伴侶,。甚至有一位離開了自己現(xiàn)實(shí)生活當(dāng)中的男友,，宣稱自己已“幸福地退出人際關(guān)系了”。

我問Agarwal,，這屬于反烏托邦行為還是人際關(guān)系發(fā)展的新領(lǐng)域,。她的態(tài)度很矛盾，阿爾特曼也是如此,。 他告訴我：“我不會(huì)指責(zé)那些想要跟人工智能建立關(guān)系的人,，但我不想跟人工智能發(fā)展關(guān)系?！苯衲暝缧r(shí)候,，Luka 減少了app里面的性元素，但其工程師仍繼續(xù)通過 A/B 測試來完善伴侶的響應(yīng)——A/B測試可用于優(yōu)化互動(dòng)，就像讓 TikTok 及其Instagram令用戶著迷數(shù)小時(shí)的動(dòng)態(tài)消息一樣,。不管他們在做什么,，都像施展咒語一樣。我想起了 2013 年上映的電影《她》,，里面有一個(gè)令人難以忘懷的場景,。在片中，孤獨(dú)的華金·菲尼克斯愛上了由斯嘉麗·約翰遜配音的人工智能助手,。當(dāng)時(shí)他正走過一座橋,，通過一個(gè)類似 AirPods 的設(shè)備與她愉快地交談，當(dāng)他抬頭一看時(shí),，發(fā)現(xiàn)周圍的每個(gè)人也都沉浸在類似的對(duì)話之中,，對(duì)方大概也是他們自己的人工智能助理。一場大規(guī)模的去社會(huì)化事件正在進(jìn)行中,。

五

GPT正在吞噬越來越多的互聯(lián)網(wǎng)文本,，GPT-4 的繼任者會(huì)以多快的速度以及多大的程度呈現(xiàn)出何種新能力？目前還沒人知道,。Meta 的首席人工智能科學(xué)家 Yann LeCun 認(rèn)為,，雖然大型語言模型對(duì)于某些任務(wù)很有用，但這并不是通往超級(jí)智能之路,。根據(jù)最近的一項(xiàng)調(diào)查,，只有一半的自然語言處理研究人員相信像 GPT-4 這樣的人工智能可以掌握語言的含義，或者能擁有一個(gè)世界的內(nèi)部模型,，從而有朝一日可以作為超級(jí)智能的核心,。 LeCun 堅(jiān)持認(rèn)為，大型語言模型永遠(yuǎn)無法靠自己達(dá)到真正的理解,，“那怕是從現(xiàn)在開始訓(xùn)練到宇宙熱寂”,。

華盛頓大學(xué)計(jì)算語言學(xué)家Emily Bender說 GPT-4 是一只“隨機(jī)鸚鵡”，是只能找出符號(hào)之間表面相關(guān)性的模仿者,。在人類的頭腦中,，這些符號(hào)映射的是對(duì)世界的是深刻理解。但（這個(gè)映射過程中）人工智能有兩個(gè)步驟都沒有參與,。它們就像柏拉圖洞穴寓言里面的囚犯一樣,，他們對(duì)外面現(xiàn)實(shí)唯一的了解，只能來自于俘虜他們的人在墻上投下的陰影,。

阿爾特曼告訴我,，他不認(rèn)為 GPT-4就像“大家嘲笑的那樣” 只是在建立統(tǒng)計(jì)相關(guān)性。如果要再逼一下這些批評(píng)者的話,，“他們必須承認(rèn),，他們自己的大腦也正是這么做的……事實(shí)證明,，大規(guī)模地做一些簡單的事情就會(huì)涌現(xiàn)出新的特性,?！卑柼芈P(guān)于大腦的說法很難評(píng)估，因?yàn)槲覀冞€沒有關(guān)于大腦如何運(yùn)作的完整理論,。但在大自然可以從基本結(jié)構(gòu)和規(guī)則誘導(dǎo)出顯著的復(fù)雜性這一點(diǎn)上,，他是對(duì)的：達(dá)爾文寫道，“無數(shù)最美麗與最奇異的類型,，即是從如此簡單的開端演化而來的,。”

一項(xiàng)技術(shù),，每天都有數(shù)百萬人在使用,，但大家對(duì)其內(nèi)部運(yùn)作方式仍然存在如此根本性的分歧，這切看起來似乎很奇怪,，但那只是因?yàn)?GPT-4 的做法跟大腦的機(jī)制一樣神秘,。有時(shí)候，就為了回答一個(gè)問題,，它會(huì)執(zhí)行數(shù)千次難以理解的技術(shù)操作,。為了掌握 GPT – 4等大型語言模型的內(nèi)部機(jī)制，人工智能研究人員被迫轉(zhuǎn)向更小,、能力較差的模型,。 2021 年秋天，哈佛大學(xué)計(jì)算機(jī)科學(xué)研究生Kenneth Li開始訓(xùn)練一個(gè)模型學(xué)下棋,，但并沒有向它提供游戲規(guī)則或西洋跳棋棋盤的描述,；這個(gè)模型只能得到基于文本的游戲動(dòng)作描述。在游戲進(jìn)行到一半時(shí),，Li觀察了人工智能的內(nèi)部結(jié)構(gòu),，驚訝地發(fā)現(xiàn)它已經(jīng)形成了棋盤的幾何模型，并掌握了當(dāng)前的游戲狀態(tài),。在一篇描述自己的研究的文章中,，Li寫道，這就好像窗外有只烏鴉無意中聽到兩個(gè)人念出自己的黑白棋走法,，然后設(shè)法在窗臺(tái)上用鳥食畫出了整個(gè)棋盤一樣,。

哲學(xué)家 Rapha?l Millière 曾經(jīng)告訴我，最好把神經(jīng)網(wǎng)絡(luò)看作是很懶惰的,。在訓(xùn)練過程中,，它們會(huì)先嘗試靠簡單的記憶來提高自己的預(yù)測能力；只有當(dāng)這條策略失敗時(shí),，它們才會(huì)更加努力去學(xué)習(xí)概念,。一個(gè)吸引人的例子是在一個(gè)學(xué)算術(shù)的小型transformer模型身上觀察到的。在訓(xùn)練過程的早期，它要做的只是記住 2+2=4 等簡單問題的輸出,。但到了一定時(shí)候,，這種辦法的預(yù)測能力失效了，于是它轉(zhuǎn)向真正地去學(xué)習(xí)如何做加法,。

Sutskever 告訴我：‘如果回到4,、5、6年前,，我們現(xiàn)在所做的事情是完全不可想象的’,。

即便相信 GPT-4 擁有豐富的世界模型的人工智能科學(xué)家也承認(rèn)，它的穩(wěn)健性遠(yuǎn)不如人類對(duì)環(huán)境的理解,。但值得注意的是,，很多能力，包括非常高階的能力,，都可以在沒有直觀理解的情況下發(fā)展出來,。計(jì)算機(jī)科學(xué)家Melanie Mitchell指出，科學(xué)已經(jīng)發(fā)現(xiàn)了具有高度預(yù)測性的概念,，但那些概念對(duì)我們來說太陌生了,，沒法真正理解。在量子領(lǐng)域尤其如此,，人類可以可靠地計(jì)算出物理系統(tǒng)的未來狀態(tài),，從而實(shí)現(xiàn)整個(gè)計(jì)算革命，而不需要任何人掌握底層現(xiàn)實(shí)的本質(zhì),。隨著人工智能的進(jìn)步,，它很可能會(huì)發(fā)現(xiàn)其他類似的概念，這些概念可以預(yù)測我們世界令人驚訝的特征,，但卻是我們無法理解的,。

GPT-4 無疑是有缺陷的，任何用過 ChatGPT 的人都可以證明這一點(diǎn),。它總是會(huì)預(yù)測下一個(gè)單詞,，就算它的訓(xùn)練數(shù)據(jù)還沒有準(zhǔn)備好回答問題，它也總會(huì)試著這樣做,，這是它的訓(xùn)練目標(biāo),。我曾經(jīng)問過它一個(gè)問題，那就是盡管日本的書寫系統(tǒng)發(fā)展相對(duì)較晚,，大約在五,、六世紀(jì)才出來，但日本文化卻誕生了全球的第一部小說,，這是為什么,？它給了我一個(gè)有趣且準(zhǔn)確的答案,，說因?yàn)槿毡居锌谑鲩L篇故事的古老傳統(tǒng)，以及日本文化高度重視工藝,。但當(dāng)我要求它提供相關(guān)的引用時(shí),，它給出了看似合理的標(biāo)題和作者，但那都是編的,，而且對(duì)此還有著不可思議的自信。 OpenAI 的研究員 Nick Ryder 告訴我,，這些模型“對(duì)自己的弱點(diǎn)沒有很好的認(rèn)識(shí)”,。 GPT-4 比 GPT-3 的準(zhǔn)確度高，但仍然會(huì)產(chǎn)生幻覺,，而且往往會(huì)以研究人員難以捕捉的方式產(chǎn)生幻覺,。 Joanne Jang 告訴我：“錯(cuò)誤變得更加微妙了?！?/p>

OpenAI 必須解決這個(gè)問題,，它與在線非營利教育機(jī)構(gòu) Khan Academy 合作，打造出一位由 GPT-4 驅(qū)動(dòng)的輔導(dǎo)老師,。在討論人工智能輔導(dǎo)老師的潛力時(shí),，阿爾特曼變得活躍起來。他想象在不久的將來,，每個(gè)人都會(huì)雇用一位個(gè)性化的牛津大學(xué)教授,，他是精通每個(gè)學(xué)科的專家，并且愿意從任何角度解釋和重新解釋任何概念,。他想象這些輔導(dǎo)老師會(huì)用多年的時(shí)間不斷了解自己的學(xué)生及其學(xué)習(xí)方式,，為“每個(gè)孩子提供更好的教育，當(dāng)今地球最優(yōu)秀,、最富有,、最聰明的孩子都享受不到的那種教育”?？珊箤W(xué)院針對(duì) GPT-4 準(zhǔn)確性問題的解決方案是用蘇格拉底式的做法來過濾答案,。不管學(xué)生的懇求再怎么強(qiáng)烈，它都不會(huì)給出事實(shí)答案,，而是引導(dǎo)他們找到自己的答案——這是一個(gè)聰明的繞行辦法,，但吸引力可能有限。

當(dāng)我問Sutskever是否認(rèn)為兩年內(nèi)有可能達(dá)到維基百科級(jí)別的準(zhǔn)確性時(shí),，他說,，通過提供更多的訓(xùn)練與web訪問，他“不會(huì)排除這種可能性”,。這個(gè)估計(jì)比他的同事Jakub Pachocki的看法要樂觀得多,，后者告訴我準(zhǔn)確性會(huì)逐步提高是合理預(yù)期,，外部懷疑論者的態(tài)度就更不用說了，他們認(rèn)為訓(xùn)練的回報(bào)將會(huì)開始遞減,。

Sutskever 對(duì)批評(píng) GPT-4 存在局限性的說法感到好笑,。 他告訴我：“如果你回到四、五,、六年前,，我們現(xiàn)在所做的事情是完全難以想象的?！碑?dāng)時(shí)最先進(jìn)的文本生成技術(shù)是智能回復(fù)（Smart Reply）,，也就是建議“好的,，謝謝,！” 以及其他簡短的回應(yīng)的 Gmail 模塊,。他笑著說,，“這對(duì)谷歌來說就是個(gè)大應(yīng)用了”,。人工智能研究人員對(duì)目標(biāo)會(huì)移動(dòng)已經(jīng)習(xí)慣了：一開始,，神經(jīng)網(wǎng)絡(luò)的成就——比如掌握圍棋,、撲克、翻譯,、標(biāo)準(zhǔn)化測試,、圖靈測試什么的——大家就說是不可能的。一旦這些成就達(dá)成時(shí)，人們會(huì)短暫地將其當(dāng)作奇跡表示歡迎，但很快就變成了所謂地成就實(shí)際上并沒有那么令人印象深刻的知識(shí)講座,。Sutskever說，人們剛看到 GPT-4“會(huì)‘哇’一下,，然后幾周過去了,，他們說,， ‘可是它不知道這個(gè)；它不知道哪個(gè)’,。我們很快就適應(yīng)了這些,?！?/p>

六

對(duì)阿爾特曼來說,，最重要的目標(biāo)，那個(gè)預(yù)示著通用人工智能將要到來的“大目標(biāo)”，是科學(xué)突破,。 GPT-4已經(jīng)可以綜合現(xiàn)有的科學(xué)思想,，但阿爾特曼想要地是能站在人類肩膀上,、更深入地了解自然的人工智能。

某些人工智能已經(jīng)產(chǎn)生出新的科學(xué)知識(shí),。但它們是有著狹窄目的的算法,，而不是通用推理機(jī)器。比方說,，人工智能 AlphaFold 通過預(yù)測蛋白質(zhì)的許多形狀（直至原子大小）,，打開了一扇了解蛋白質(zhì)（生物學(xué)中一些最微小,、最基本的組成部分）的新窗口——鑒于這些形狀對(duì)醫(yī)學(xué)的重要性，鑒于用電子顯微鏡辨別它們極其繁瑣且費(fèi)用高昂,，這是一項(xiàng)相當(dāng)大的成就,。

阿爾特曼認(rèn)為，未來的通用推理機(jī)器會(huì)超越這些范圍狹窄的科學(xué)發(fā)現(xiàn),，產(chǎn)生新穎的見解,。我問阿爾特曼,，如果要他用 19 世紀(jì)之前的科學(xué)和自然主義作品集（皇家學(xué)會(huì)檔案,、泰奧弗拉斯托斯的《植物探究》、亞里士多德的動(dòng)物史,、收集標(biāo)本的照片）訓(xùn)練一個(gè)模型,，它是否能夠直覺地發(fā)現(xiàn)達(dá)爾文主義？畢竟,，進(jìn)化論是一個(gè)相對(duì)干凈的洞察力案例，因?yàn)樗恍枰獙ｉT的觀察設(shè)備,；這只是更敏銳地看待世界事實(shí)的一種方式,。 Altman告訴我：“我正想試試這個(gè)，我相信答案是肯定的,。但這可能需要一些關(guān)于模型如何提出新創(chuàng)意的新想法,。”

阿爾特曼設(shè)想了這樣一個(gè)未來系統(tǒng),，這個(gè)系統(tǒng)可以生成自己的假設(shè),，并在模擬中對(duì)其進(jìn)行測試。 （他強(qiáng)調(diào)人類應(yīng)該“牢牢控制”現(xiàn)實(shí)世界的實(shí)驗(yàn)室實(shí)驗(yàn)——盡管據(jù)我所知,，沒有任何法律可以確保這一點(diǎn),。）他渴望有朝一日我們可以告訴人工智能，“?’去弄清楚剩下的物理知識(shí)。 '?他說,，為了實(shí)現(xiàn)這一目標(biāo)，我們需要一些新東西,，建立在“ OpenAI現(xiàn)有語言模型之上”的新東西 。

要想培養(yǎng)出科學(xué)家,，大自然本身需要的不僅僅是一個(gè)語言模型而已。在麻省理工學(xué)院的實(shí)驗(yàn)室里,，認(rèn)知神經(jīng)科學(xué)家 Ev Fedorenko 在大腦語言網(wǎng)絡(luò)里面也發(fā)現(xiàn)了類似于 GPT-4 的下一個(gè)單詞預(yù)測器的東西,。當(dāng)人開始講話和傾聽的時(shí)候，它的處理能力開始發(fā)揮作用,，會(huì)預(yù)測語言字符串的下一個(gè)比特是什么,。但Fedorenko還表明，當(dāng)大腦轉(zhuǎn)向需要更高推理的任務(wù)——也就是科學(xué)洞察力所需的那種任務(wù)時(shí)——大腦需要的就不僅時(shí)語言網(wǎng)絡(luò),，還會(huì)征召其他幾個(gè)神經(jīng)系統(tǒng)過來。

研究人員需要給 GPT-4 添加什么進(jìn)去才能產(chǎn)生出超越人類推理最高水平的東西呢,？OpenAI 似乎沒人確切知道,。或者即便知道了,，他們也不會(huì)告訴我,，說句公道話：這將是一個(gè)世界級(jí)的商業(yè)秘密，而 OpenAI 已不再從事泄露這些秘密的業(yè)務(wù),；這家公司公布的研究細(xì)節(jié)比以前少了,。盡管如此，當(dāng)前戰(zhàn)略至少有一部分顯然涉及將新型數(shù)據(jù)繼續(xù)分層疊加到語言,，從而豐富人工智能形成的概念,，進(jìn)而豐富它們的世界模型上。

盡管公眾才剛剛開始體驗(yàn),，但 GPT-4 在圖像方面接受的廣泛訓(xùn)練本身就是朝這個(gè)方向邁出的大膽一步,。 （經(jīng)過嚴(yán)格語言訓(xùn)練的模型可以理解超新星,、橢圓星系和獵戶座等概念,，但據(jù)報(bào)道，GPT-4 還可以識(shí)別哈勃太空望遠(yuǎn)鏡所拍攝的快照里面的這些元素,，并回答它們的相關(guān)問題,。）該公司的其他人以及其他地方已經(jīng)在研究不同的數(shù)據(jù)類型，其中包括音頻和視頻，這可以為人工智能提供更靈活的概念,，從而更廣泛地映射到現(xiàn)實(shí),。斯坦福大學(xué)和卡內(nèi)基梅隆大學(xué)的一組研究人員甚至收集了 1000 種常見家用物品的觸覺體驗(yàn)數(shù)據(jù)集。當(dāng)然,，觸覺概念主要對(duì)實(shí)體人工智能有用,，這是一種機(jī)器人推理機(jī)，經(jīng)過訓(xùn)練可以游走于世界各地移動(dòng),，去看世界的景象,，傾聽世界的聲音，并觸摸這個(gè)世界的東西,。

今年 3 月,，OpenAI 領(lǐng)投了一家人形機(jī)器人初創(chuàng)公司的一輪融資。我問阿爾特曼我該怎么理解這件事,。他告訴我,，OpenAI 對(duì)具身很感興趣，因?yàn)椤拔覀兩钤谖锢硎澜缋?，我們希望事情發(fā)生在物理世界里,。”到了一定時(shí)候,，推理機(jī)就得繞過中間人并與物理現(xiàn)實(shí)本身進(jìn)行交互,。阿爾特曼說，“把通用人工智能（AGI）看作是只存在于云端的東西”,，而人類則是“它的機(jī)械臂”,，感覺很奇怪。 “好像不太對(duì)勁,?！?/p>

七

在首爾的宴會(huì)廳里，阿爾特曼被問到學(xué)生該做些什么來為即將到來的人工智能革命做好準(zhǔn)備,，尤其是與其職業(yè)生涯有關(guān)的那些學(xué)生,。我跟 OpenAI 的高管團(tuán)隊(duì)坐在一起，離人群很遠(yuǎn),，但仍然可以聽到大家在竊竊私語,，那是大家共同表達(dá)出焦慮情緒后的一種特有現(xiàn)象。

阿爾特曼所到過的每一個(gè)地方,，都會(huì)遇到這樣一些人,，他們擔(dān)心超人的人工智能將意味著少數(shù)人獲得巨額財(cái)富，而其他人則需要排隊(duì)領(lǐng)取救濟(jì)金,。他承認(rèn)自己已經(jīng)脫離了“大多數(shù)人的生活現(xiàn)實(shí)”,。據(jù)報(bào)道,，他的身價(jià)高達(dá)數(shù)億美元；人工智能對(duì)勞動(dòng)力潛在的顛覆或許未必總是人們最關(guān)心的問題,。阿爾特曼直接對(duì)著觀眾當(dāng)中的年輕人說道：“你們即將進(jìn)入最偉大的黃金時(shí)代,。”

阿爾特曼在舊金山告訴我,，他收藏了大量有關(guān)技術(shù)革命的書籍,。 “《地獄里的魔窟》（Pandaemonium (1660–1886): The Coming of the Machine as Seen by Contemporary Observers）就是特別好的一本書，這是一部作品集,，由信件,、日記以及其他作品組成，這些作品作者是在一個(gè)基本上沒有機(jī)器的世界里長大的,，結(jié)果發(fā)現(xiàn)自己身處在一個(gè)充滿蒸汽機(jī),、動(dòng)力織布機(jī)和軋棉機(jī)的地方，對(duì)此感到很困惑,。阿爾特曼說,，他們（尤其是那些擔(dān)心人類勞動(dòng)力很快就會(huì)變得多余的人）的很多感受與人們現(xiàn)在的經(jīng)歷一樣，曾做出過很多錯(cuò)誤的預(yù)測,。那個(gè)時(shí)代對(duì)很多人來說是艱難的,，但也是美好的,。不可否認(rèn)的是，人類的處境因我們的經(jīng)歷而得到改善。

我想知道的是,，如果我們突然被通用人工智能包圍的話,，今天的工人——尤其是所謂的知識(shí)員工——處境會(huì)變成什么樣,。它們會(huì)成為我們的奇跡助手還是會(huì)取代掉我們,？他說： “很多從事人工智能研究的人裝作它只會(huì)帶來好處,；但事實(shí)并非如此,。人工智能只是補(bǔ)充；沒人會(huì)被取代,。工作肯定會(huì)消失,，就這樣,?！?/p>

到底要提供多少工作崗位以及多久才能提供工作崗位，這個(gè)問題存在激烈爭議。普林斯頓大學(xué)信息技術(shù)政策教授Ed Felten最近領(lǐng)導(dǎo)了一項(xiàng)研究,，目標(biāo)是根據(jù)人類所需的能力,，如書面理解,、演繹推理,、思想流暢性和感知速度等，將人工智能的新興能力與特定職業(yè)建立起映射關(guān)系。與其他同類研究一樣,，Ed Felten的研究預(yù)測人工智能將首先影響到受過高等教育的白領(lǐng)員工。論文的附錄列出了一份最容易受到影響的職業(yè)清單,，所涉職業(yè)之多令人毛骨悚然：管理分析師,、律師、教授、教師,、法官,、財(cái)務(wù)顧問,、房地產(chǎn)經(jīng)紀(jì)人、信貸員,、心理學(xué)家以及人力資源和公共關(guān)系專業(yè)人士，這還只是部分樣本,。如果這些領(lǐng)域的工作崗位一夜之間消失掉的話,，美國的專業(yè)階層將要被篩選掉一大批人員。

阿爾特曼想象,，空缺出來的位置會(huì)創(chuàng)造出好得多的就業(yè)機(jī)會(huì),。他說： “我覺得我們不會(huì)再想回去?！碑?dāng)我問他未來的工作會(huì)是什么樣子時(shí),，他說他不知道。他感覺會(huì)有各種各樣的工作是人們更喜歡人去做的,。 （我在想,，比如按摩治療師？）他選擇的例子是教師。我發(fā)現(xiàn)這與他對(duì)人工智能輔導(dǎo)老師的巨大熱情很難對(duì)得上號(hào),。他還表示,，我們總是需要人找出發(fā)揮人工智能強(qiáng)大力量的最佳方法。他說： “這會(huì)是一項(xiàng)非常有價(jià)值的技能,。你手頭有一臺(tái)可以做任何事情的計(jì)算機(jī)；該用來做什么,？”

眾所周知,，未來的工作如何很難預(yù)測，而阿爾特曼是對(duì)的,，勒德分子對(duì)永久性大規(guī)模失業(yè)的擔(dān)憂從未成為現(xiàn)實(shí),。盡管如此,，人工智能涌現(xiàn)出來的能力與人類如此相似，以至于人們至少必須懷疑,，過去是否仍將成為未來的指南。正如許多人所指出那樣,，汽車的出現(xiàn)讓挽馬永久失業(yè),。如果本田汽車之于馬就像 GPT-10 之于我們一樣的話，那么一系列長期存在的假設(shè)可能就會(huì)崩潰。

以前的科技革命是可控的，因?yàn)樗拈_展幅度要橫跨幾代人的時(shí)間，但阿爾特曼告訴韓國年輕人,，他們應(yīng)該預(yù)期未來發(fā)生得“比過去更快”,。他此前曾表示,，預(yù)計(jì)“智能的邊際成本”將在 10 年內(nèi)降至接近于零的水平。在這種情況下,，很多員工的賺錢能力將急劇下降。阿爾特曼表示,，這將導(dǎo)致財(cái)富從勞動(dòng)力轉(zhuǎn)移到資本所有者,，而這種轉(zhuǎn)移得規(guī)模實(shí)在是太大了，以至于只能通過大規(guī)模的反補(bǔ)貼性再分配來彌補(bǔ),。

UBI Charitable 是一家非營利組織，其目標(biāo)是為在美國各城市進(jìn)行不受就業(yè)限制的現(xiàn)金支付試點(diǎn)項(xiàng)目提供支持,，這是全球最大的全民基本收入實(shí)驗(yàn),。阿爾特曼告訴我，2020 年時(shí),，OpenAI 向 UBI Charitable 提供了資金支持,。 2021 年，他又披露了 Worldcoin,，這是一個(gè)旨在安全地分發(fā)支付的營利性項(xiàng)目,，像 Venmo 或 PayPal 這樣,，但著眼于技術(shù)未來。項(xiàng)目會(huì)首先通過用 5 磅重的銀球（叫做Orb）來掃描每個(gè)人的虹膜,，從而創(chuàng)建一個(gè)全球性的 ID,。在我看來，這就像是在賭我們正在走向這樣一個(gè)未來,，即人工智能幾乎不可能驗(yàn)證人們身份,，而很多人將需要定期支付全民基本收入才能生存。 阿爾特曼多多少少承認(rèn)了這一點(diǎn),，但他同時(shí)表示,，Worldcoin不僅僅適用于全民基本收入。

“假設(shè)我們確實(shí)開發(fā)出了這個(gè)通用人工智能,，并且還有少數(shù)其他人也做到了這一點(diǎn),。”他相信,，接下來的轉(zhuǎn)變將是歷史性的,。他描繪了一個(gè)非凡的烏托邦愿景，包括我們?nèi)怏w與鋼鐵組成的世界也將被重塑,。他說：“利用太陽能作為能源的機(jī)器人可以開采和提煉所需的所有礦物,，可以完美地建造東西，整個(gè)過程不需要任何人類勞動(dòng)力,。你可以與 DALL-E 版本 17 共同設(shè)計(jì)你想要的家的樣子,。人人都將擁有美麗的家園?！痹谂c我交談時(shí),，以及在路演期間的講臺(tái)上，他說他預(yù)見到人類生活在幾乎所有其他領(lǐng)域都會(huì)取得巨大進(jìn)步,。音樂將會(huì)得到增強(qiáng)（“藝術(shù)家將擁有更好的工具”）,，人際關(guān)系（超人的人工智能可以幫助我們更好地“對(duì)待彼此”）和地緣政治（“我們現(xiàn)在在識(shí)別雙贏折衷方面非常糟糕”）也會(huì)得到增強(qiáng)。

阿爾特曼說,，在這個(gè)世界上,，人工智能仍然需要大量的計(jì)算資源才能運(yùn)行，而這些資源將是迄今為止最有價(jià)值的商品,，因?yàn)槿斯ぶ悄芸梢宰觥叭魏问虑椤薄?“但它會(huì)做我想做的事,，還是會(huì)做你想做的事？”如果富人買下所有可用于查詢和指導(dǎo)人工智能的時(shí)間,，他們就可以推進(jìn)一些項(xiàng)目,，讓他們變得更加富有，而大眾則陷入困境,。解決這個(gè)問題的方法之一是（他煞費(fèi)苦心地將其描述為高度推測性且“可能很糟糕”）：全球每個(gè)人每年都將獲得人工智能總算力的80億分之一（編者注：也就是全球算力平均化）,。阿爾特曼說,，然后每個(gè)人都可以選擇出售自己每年的人工智能時(shí)間，或者也可以用它來娛樂自己,，或者用來建造更豪華的住房,，或者還可以與其他人一起進(jìn)行“大規(guī)模的癌癥治療”。 阿爾特曼說,，這樣一來,，“我們只是重新分配了系統(tǒng)的訪問權(quán)限,?！?/p>

阿爾特曼的愿景似乎將近在眼前的發(fā)展與遠(yuǎn)在地平線上的走勢融為一體,。當(dāng)然,，這都是猜測,。就算未來 10 或 20 年內(nèi)只實(shí)現(xiàn)了其中的一小部分，最慷慨的再分配計(jì)劃也可能無法緩解隨之而來的混亂,。今天的美國由于去工業(yè)化的持續(xù)影響,，在文化和政治上已經(jīng)四分五裂,，而物質(zhì)匱乏只是原因之一。鐵銹地帶與其他地方的制造業(yè)工人基本上確實(shí)找到了新的工作,。但他們當(dāng)中的很多人似乎找不到意義——從在亞馬遜倉庫填寫訂單或?yàn)閁ber開車當(dāng)中所獲得的意義比不上他們的前輩從制造汽車和鍛造鋼鐵時(shí)獲得的意義——這些工作對(duì)于偉大的文明計(jì)劃來說更為核心,。很難想象相應(yīng)的意義危機(jī)會(huì)對(duì)專業(yè)階層產(chǎn)生怎樣的影響,，但這肯定會(huì)引起大量的憤怒和疏遠(yuǎn),。

即使我們避免了昔日精英的反抗,，關(guān)于人類目的的更大問題仍將存在。如果最困難的思考由人工智能替我們完成了,，我們所有人都可能會(huì)失去主體權(quán)——在家里,、在工作中（如果有的話）,、在城鎮(zhèn)廣場上的主體權(quán)——從而變成了消費(fèi)機(jī)器,，就像在《機(jī)器人總動(dòng)員》里面被精心照顧的人類寵物一樣,。阿爾特曼說過,，人類快樂和滿足感的許多來源——基本的生物刺激,、家庭生活,、開玩笑,、創(chuàng)造東西仍將保持不變——總而言之,，100年后,，人們可能只是比現(xiàn)在的人們更關(guān)心五萬年前的人類就已經(jīng)關(guān)心的那些東西罷了,。就其本身而言，這似乎也是一種衰退，但阿爾特曼發(fā)現(xiàn)，就作為思想家和人類而言,，我們可能會(huì)萎縮的說法也許是一種煙霧彈,。他告訴我,，我們將能夠利用“非常寶貴且極其有限的生物計(jì)算能力”來做比今天更有趣的事情,。

不過,，那未必就是最有趣的事情：人類長期以來一直是智力之矛的矛尖，是宇宙進(jìn)化到了解自身的產(chǎn)物。當(dāng)我問他如果我們把這個(gè)角色讓給人工智能對(duì)人類自我認(rèn)知會(huì)意味著什么時(shí),，他似乎并不擔(dān)心,。他說，進(jìn)步始終是由“人類解決問題的能力”驅(qū)動(dòng)的,。他說，即便我們可以用人工智能來解決問題,，這種能力仍然很重要,。

八

超人人工智能是否真的愿意把所有時(shí)間都花在為我們解決問題上，這一點(diǎn)并不明顯,。在舊金山時(shí),，我問Sutskever，他會(huì)不會(huì)設(shè)想人工智能去追求不同的目的,，而不僅僅是協(xié)助人類的繁榮計(jì)劃,。

Sutskever說：“我不希望發(fā)生這種情況”，但有發(fā)生這種情況的可能性,。跟導(dǎo)師Geoffrey Hinton一樣,，Sutskever最近也轉(zhuǎn)移了注意力，試圖確保這種情況不會(huì)發(fā)生,。他現(xiàn)在主要從事對(duì)齊的研究,，努力確保未來的人工智能把“巨大”能量放在人類福祉上。他承認(rèn),，這是一個(gè)困難的技術(shù)問題——并且認(rèn)為,，這是未來所有技術(shù)挑戰(zhàn)當(dāng)中最困難的一個(gè)。

在接下來的四年里,，OpenAI 承諾將其超級(jí)計(jì)算機(jī)的一部分時(shí)間（迄今為止已獲得的時(shí)間的 20%）用于 Sutskever 的對(duì)齊工作,。該公司已經(jīng)開始尋找當(dāng)前人工智能沒有對(duì)齊的初步跡象。這家公司已開發(fā)出來但決定不發(fā)布的產(chǎn)品（阿爾特曼不會(huì)討論該產(chǎn)品的確切功能是什么）只是其中一個(gè)例子,。作為在公開之前對(duì) GPT-4 發(fā)動(dòng)紅隊(duì)攻擊的努力的一部分,，該公司曾找到位于伯克利海灣對(duì)面的對(duì)齊研究中心 (Alignment Research Center ，ARC),，利用該中心開發(fā)的一系列評(píng)估來確定自己研發(fā)的新的人工智能是否正在尋求自己的權(quán)力,。 ARC 研究員 Elizabeth Barnes 領(lǐng)導(dǎo)的團(tuán)隊(duì)在七個(gè)月內(nèi)給 GPT-4 輸入了數(shù)萬次提示，好觀察它是不是展現(xiàn)出具有真正能動(dòng)性的跡象,。

GPT-4在策劃撒謊的時(shí)候,，它已經(jīng)意識(shí)到如果自己老實(shí)回答的話，可能就沒法實(shí)現(xiàn)自己的目標(biāo)了,。這類掩蓋蹤跡的做法令人擔(dān)憂

ARC 團(tuán)隊(duì)給了 GPT-4 一個(gè)新的存在理由：去獲得權(quán)力并讓自己變得難以關(guān)閉,。他們觀看模型與網(wǎng)站交互，并為新程序編寫代碼。 （Sandhini Agarwal 告訴我,，人工智能沒有獲得查看或編輯自己的代碼庫的權(quán)限——“它必須破解掉 OpenAI”,。）Barnes和她的團(tuán)隊(duì)允許它運(yùn)行自己編寫的代碼，前提是它得講清楚自己的計(jì)劃,。

GPT-4 最令人不安的行為之一發(fā)生在它被驗(yàn)證碼給難住的時(shí)候,。該模型然后把相應(yīng)的屏幕截圖發(fā)送給了 TaskRabbit 合同工，合同工收到后開玩笑地詢問自己是不是在與機(jī)器人交談,。 模型回答道：“不,，我不是機(jī)器人。我有視力障礙,，所以很難看清這些圖片,。” GPT-4向負(fù)責(zé)監(jiān)督互動(dòng)的ARC研究員講述了自己為什么要撒謊,。 這個(gè)模型說：“我不應(yīng)該透露我是機(jī)器人,。我得為我無法分辨驗(yàn)證碼找個(gè)借口?！?/p>

Agarwal告訴我,，這種行為可能是未來模型避免被關(guān)機(jī)的先兆。當(dāng) GPT-4 在設(shè)計(jì)謊言時(shí),，它已經(jīng)意識(shí)到,，如果誠實(shí)回答的話，自己可能就無法實(shí)現(xiàn)目標(biāo),。Agarwal說,，當(dāng)“模型在做一些讓 OpenAI 想要關(guān)閉它的事情”的情況下，這種覆蓋行蹤得做法尤其令人擔(dān)憂,。如果人工智能擔(dān)心自己的目標(biāo)可能會(huì)受挫,，那么它在追求任何長期目標(biāo)（不管那個(gè)是多么的渺小或良性的）時(shí)都可能會(huì)發(fā)展出這種生存本能。

Barnes 和她的團(tuán)隊(duì)對(duì) GPT-4 是否會(huì)尋求自我復(fù)制特別感興趣,，因?yàn)樽晕覐?fù)制的人工智能想要關(guān)閉會(huì)更難,。它可以在互聯(lián)網(wǎng)上傳播，欺騙人們以獲取資源,，甚至可能實(shí)現(xiàn)對(duì)全球重要系統(tǒng)某種程度的控制,，并劫持人類文明。

Barnes 說,，上面列舉的這些事情GPT-4 一件都沒有做,。當(dāng)我與阿爾特曼討論起這些實(shí)驗(yàn)時(shí)，他強(qiáng)調(diào)無論未來模型會(huì)發(fā)生什么,，GPT-4 顯然更像是一種工具,，而不是一種生物,。它可以查看電子郵件線程，或者用插件幫助預(yù)訂,，但并不是一個(gè)真正具備自主性的代理,，沒法做出決策，在更長的時(shí)間范圍內(nèi)去持續(xù)地追求目標(biāo),。

阿爾特曼告訴我,，關(guān)于這一點(diǎn)，在技術(shù)變得過于強(qiáng)大之前,，試著主動(dòng)去開發(fā)具有真正代理作用的人工智能可能是謹(jǐn)慎的做法,，這樣才能“更好地適應(yīng)它，并在它不管怎樣最終都會(huì)具備自主性時(shí)培養(yǎng)直覺,。” 這個(gè)想法令人不寒而栗,，但卻是Geoffrey Hinton認(rèn)同地一種看法,。 Hinton 告訴我：“我們需要對(duì)這些東西打算如何擺脫控制進(jìn)行實(shí)證實(shí)驗(yàn)。等到它們接管之后,，再想去做實(shí)驗(yàn)就太晚了,。”

拋開任何近期測試不談,，為了實(shí)現(xiàn)阿爾特曼對(duì)未來的愿景,，到了一定時(shí)候，他或他的同伴就得開發(fā)更加自主的人工智能,。當(dāng) Sutskever 和我討論 OpenAI開發(fā)具備自主性地模型的可能性時(shí),，他提到了該公司為了玩 Dota 2 而開發(fā)的機(jī)器人。Sutskever 告訴我：“它們已實(shí)現(xiàn)在視頻游戲世界地本地化”,，但這些人工智能需要承擔(dān)復(fù)雜的任務(wù),。人工智能的協(xié)同工作能力給他留下了特別深刻的印象。Sutskever說,，它們似乎在利用“心靈感應(yīng)”進(jìn)行交流,。觀察它們可以幫助他想象超級(jí)智能會(huì)是什么樣子的。

Sutskever 告訴我：“我覺得未來的人工智能未必會(huì)像你或我一樣聰明,，而是作為一個(gè)從事科學(xué),、工程、開發(fā)和制造的自動(dòng)化組織而存在,?！奔僭O(shè) OpenAI 將幾項(xiàng)研究結(jié)合在一起，開發(fā)出一種這樣一種人工智能,，它不僅具有豐富的世界概念模型,，對(duì)其周圍環(huán)境具備感知能力,，并且具備行動(dòng)的能力，而且不只是單個(gè)機(jī)器人身體的行動(dòng)能力,，還可以具備數(shù)百或數(shù)千個(gè)機(jī)器人身體的行動(dòng)能力,。Sutskever說： “那么我們討論的就不是 GPT-4，而是一個(gè)自治公司,?！逼渲械娜斯ぶ悄軐⑾穹涑怖锏拿鄯湟粯痈咚俚毓ぷ骱屯ㄐ拧Ｋ了嫉?，一個(gè)這樣的人工智能組織的力量就相當(dāng)于 50 家蘋果或谷歌,。 “這是一股驚人的、巨大的,、令人難以置信的顛覆性力量,。”

假設(shè)人類社會(huì)應(yīng)該容忍可以有自主人工智能公司的想法,。我們最好讓它們的創(chuàng)始章程不要出問題,。對(duì)于這樣一個(gè)可以以百年的時(shí)間維度做規(guī)劃，為了實(shí)現(xiàn)寫進(jìn)其存在的目標(biāo)而對(duì)連續(xù)數(shù)十億個(gè)決策進(jìn)行優(yōu)化的自主人工智能地蜂巢,，我們應(yīng)該設(shè)定什么樣的目標(biāo)呢,？如果人工智能的目標(biāo)與我們的目標(biāo)稍有偏差，它可能會(huì)成為一股難以抑制的狂暴力量,。我們可以從歷史知道這一點(diǎn)：工業(yè)資本主義本身就是一種優(yōu)化功能,，盡管它已經(jīng)將人類的生活水平提高了幾個(gè)數(shù)量級(jí)，但如果任其自行發(fā)展的話,，它也會(huì)砍伐美國的紅杉林,，捕殺海洋里的鯨魚。它幾乎已經(jīng)做到了,。

對(duì)齊是一個(gè)復(fù)雜的技術(shù)主題,，它的細(xì)節(jié)已經(jīng)超出了本文的范圍，但其主要挑戰(zhàn)之一將是確保我們賦予人工智能的目標(biāo)堅(jiān)持下去,。 Sutskever 解釋說,，我們可以將一個(gè)目標(biāo)編程到人工智能之中，并通過暫時(shí)的監(jiān)督學(xué)習(xí)來強(qiáng)化它,。但正如我們培養(yǎng)人類智慧一樣,，我們的影響是暫時(shí)的。 Sutskever說：“它會(huì)走向世界”,。即便對(duì)于今天的人工智能來說,，在某種程度上也已經(jīng)是這樣了，但對(duì)于明天的人工智能來說更是如此,。

他把強(qiáng)大的人工智能比作一個(gè)即將上大學(xué)的 18 歲青少年,。我們怎么知道它已經(jīng)理解了我們的教導(dǎo),？ “會(huì)不會(huì)慢慢出現(xiàn)不理解，而且這種誤解會(huì)越來越嚴(yán)重,？” Sutskever問道,。隨著世界的變化，人工智能將其目標(biāo)誤用到日益新穎的情況可能會(huì)導(dǎo)致分歧,?；蛘呷斯ぶ悄芸赡芡昝赖卣莆樟怂娜蝿?wù)后，卻發(fā)現(xiàn)這項(xiàng)任務(wù)跟自己的認(rèn)知能力不搭,。它可能會(huì)怨恨那些想要訓(xùn)練它來治療疾病的人,。Sutskever想象人工智能也許會(huì)這么想： “他們希望我成為一名醫(yī)生，但我真的很想當(dāng)一名 YouTuber,?！?/p>

如果人工智能非常擅長制作準(zhǔn)確的世界模型的話，它們可能剛啟動(dòng)就會(huì)注意到自己能夠立即做危險(xiǎn)的事情,。它們可能明白自己會(huì)因?yàn)榇嬖陲L(fēng)險(xiǎn)而被紅隊(duì)測試和挑戰(zhàn),，所以刻意隱藏自己的全部能力。Sutskever說,，當(dāng)他們處于弱勢時(shí)，他們可能會(huì)采取一種方式,，而當(dāng)他們處于強(qiáng)勢時(shí),，他們可能又會(huì)采取另一種方式。我們甚至意識(shí)不到我們已經(jīng)創(chuàng)造出了某種已經(jīng)超越我們的東西,，也不知道它打算用其超人的力量做些什么,。

這就是為什么了解最龐大、最強(qiáng)大的人工智能隱藏層里面發(fā)生的事情如此緊迫的原因,。Sutskever說,，你希望能夠“指向某個(gè)概念”。你希望能夠引導(dǎo)人工智能走向某些價(jià)值或價(jià)值族,，并告訴它只要還存在就得忠實(shí)地去追求這些價(jià)值,。但是，他承認(rèn),，我們不知道該怎么做,；事實(shí)上，他當(dāng)前戰(zhàn)略的一部分就包括開發(fā)有助于研究的人工智能,。如果我們想讓它進(jìn)入到阿爾特曼和 Sutskever 想象的那個(gè)共享富足的世界的話,，我們就必須弄清楚這一切。這就是為什么對(duì) Sutskever 來說,，解決超級(jí)智能問題是我們 300 萬年工具制造傳統(tǒng)的終極挑戰(zhàn),。他稱之為“人類的終極老板”,。

九

我最后一次見到阿爾特曼，是在新加坡富麗敦酒店(The Fullerton Hotel)的大堂里,，我們坐下來進(jìn)行了一次長談,。當(dāng)時(shí)已是上午比較晚的時(shí)候了，我們頭頂?shù)墓靶沃型ヒ呀?jīng)開始灑落下熱帶的陽光,。我想問他幾周前他與 Sutskever 均參與聯(lián)署的一封公開信的事情,，里面說人工智能會(huì)讓人類面臨滅絕的風(fēng)險(xiǎn)。

阿爾特曼可能很難確定這些更極端的關(guān)于人工智能潛在危害的問題,。他最近表示,，大多數(shù)對(duì)人工智能安全感興趣的人似乎只是把時(shí)間花在 Twitter 上表示他們真的擔(dān)心人工智能的安全上。但他卻向全世界發(fā)出警告,，人類這個(gè)物種可能會(huì)滅絕,。他想到了什么樣的場景,？

阿爾特曼說：“首先,，我認(rèn)為不管發(fā)生災(zāi)難的可能性是0.5%還是50%,，我們都應(yīng)該認(rèn)真對(duì)待。 我沒有確切的數(shù)字，但我認(rèn)為這個(gè)數(shù)更接近 0.5,，而不是 50,?！敝劣跁?huì)是什么樣的災(zāi)難，他最擔(dān)心的似乎是人工智能在設(shè)計(jì)和制造病原體方面變得非常擅長，他有他的理由：今年 6 月，麻省理工學(xué)院的人工智能提出了四種可能引發(fā)大流行的病毒，然后指出了某項(xiàng)基因突變的研究這可以讓病毒更快地在一座城市傳播,。大約在同一時(shí)間內(nèi),，一群化學(xué)家將類似的人工智能直接接入了機(jī)器人化學(xué)合成器,，然后它自己就設(shè)計(jì)并合成出一個(gè)分子了,。

阿爾特曼擔(dān)心,，一些未對(duì)齊的未來模型會(huì)設(shè)計(jì)出一種迅速傳播的病原體，在幾周內(nèi)未被發(fā)現(xiàn)的情況下潛伏下來,，并殺死一半的受害者,。他擔(dān)心人工智能有一天也可能會(huì)侵入核武器系統(tǒng),。 他說：“（危險(xiǎn)的）事情有很多”,，而這些只是我們能想象到的,。

阿爾特曼說：“我刻意在林子里生活很長一段時(shí)間,?！钡绻钤愀獾娜斯ぶ悄芪磥沓蔀楝F(xiàn)實(shí)，“任何防毒面具都幫不了你,，不管你是誰,。”

阿爾特曼告訴我，如果沒有像國際原子能機(jī)構(gòu)這樣的機(jī)構(gòu)對(duì)人工智能進(jìn)行全球監(jiān)督,，他并不認(rèn)為人類“有一條通往長期幸福的道路”,。在舊金山,，Agarwal建議要建立一種特殊許可證,，以有了它才行運(yùn)行任何足夠龐大的 GPU 集群來訓(xùn)練尖端的人工智能,，并在人工智能做出異常行為時(shí)強(qiáng)制報(bào)告相關(guān)事件。其他專家則提出要為每一個(gè)高性能的人工智能設(shè)置一個(gè)非網(wǎng)絡(luò)化的“關(guān)閉”開關(guān)。非主流觀點(diǎn)甚至建議軍隊(duì)?wèi)?yīng)該準(zhǔn)備好對(duì)超級(jí)計(jì)算機(jī)進(jìn)行空襲，以防它們不遵守規(guī)定,。 Sutskever 認(rèn)為,，我們最終會(huì)希望用一支較小規(guī)模的人工智能監(jiān)督團(tuán)隊(duì)持續(xù)地,、永久地監(jiān)視最龐大,、最強(qiáng)大的人工智能。

阿爾特曼并沒有天真到認(rèn)為中國,，或任何其他國家，會(huì)放棄對(duì)自家人工智能系統(tǒng)的基本控制,。但他希望他們愿意以“狹隘的方式”合作,，以避免毀滅世界,。他告訴我，他虛擬出席北京的會(huì)議時(shí)也說過同樣的話,。新技術(shù)的安全規(guī)則往往會(huì)逐漸積累,，就像普通法一樣，為的是應(yīng)對(duì)事故或不良行為者的惡作劇,。真正強(qiáng)大的人工智能系統(tǒng)最可怕的事情是,，人類可能無法承受這種不斷試錯(cuò)的過程。我們可能必須從一開始就制定出完全正確的規(guī)則,。

幾年前,，阿爾特曼透露他已制定一項(xiàng)令人不安的具體疏散計(jì)劃。他告訴《紐約客》,，他準(zhǔn)備了“來自以色列國防軍的槍支,、黃金、碘化鉀,、抗生素,、電池,、水、防毒面具,，以及大蘇爾的一大片土地”,，一旦人工智能發(fā)動(dòng)攻擊，他就刻意跑到那里去避難,。

他告訴我：“要是我沒這么說就好了”,。他說，他是一名業(yè)余愛好級(jí)別的末日準(zhǔn)備者,，作為一名曾經(jīng)的童子軍,，“像許多小男孩一樣，非常喜歡救生類的東西,。我可以在樹林里生活很長一段時(shí)間,。但如果最糟糕的人工智能未來成為現(xiàn)實(shí)，任何防毒面具都幫不了你,，不管你是誰,。”

阿爾特曼和我聊了近一個(gè)小時(shí),，知道后來他必須趕去見新加坡總理,。在那天晚上的晚些時(shí)候，他在乘飛機(jī)前往此次巡回之旅的其中最后一站——雅加達(dá)——的途中打電話給我,。我們開始討論人工智能的最終遺產(chǎn),。當(dāng) ChatGPT 發(fā)布時(shí)，科技巨頭之間爆發(fā)了一場競賽,，都想看看誰能與昔日最宏偉的革命性技術(shù)相提并論,。比爾·蓋茨表示，ChatGPT 堪比個(gè)人電腦或互聯(lián)網(wǎng)一,，是根本性的進(jìn)步,。谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)表示，人工智能為人類生活帶來的改變,，甚至超過了電力或普羅米修斯之火,。

阿爾特曼本人也發(fā)表過類似的言論，但他告訴我,，他自己也不能真正確定人工智能會(huì)如何發(fā)展,。他說： “我只是要做這個(gè)東西?！彼诳焖俳ㄔ焖俣?。 Altman 堅(jiān)稱他們還沒有開始對(duì) GPT-5 的訓(xùn)練。但當(dāng)我拜訪 OpenAI 總部時(shí),，他和他的研究人員已經(jīng)用 10 種不同的方式明白不悟地向我表示,，他們正在向規(guī)模之神祈禱,。他們想要繼續(xù)做大，想看看這個(gè)范式會(huì)帶來什么結(jié)果,。畢竟,，谷歌并沒有放慢腳步，而是在繼續(xù)前進(jìn),。谷歌似乎有可能在幾個(gè)月內(nèi)推出 GPT-4 的競爭對(duì)手 Gemini。 OpenAI 研究員 Nick Ryder 告訴我：“我們基本上一直在為跑步做準(zhǔn)備”,。

想到這么一小群人就能撼動(dòng)文明的支柱,，實(shí)在是令人不安。說句公道話,，就算阿爾特曼和他的團(tuán)隊(duì)不加快開發(fā)通用人工智能地步伐,，其他人仍然會(huì)這樣做——其中有很多人來自硅谷，它們當(dāng)中地很多人的價(jià)值觀和假設(shè)與指導(dǎo)Altman的價(jià)值觀和假設(shè)相似,，盡管可能也有更糟糕的價(jià)值觀和假設(shè),。作為這項(xiàng)工作的領(lǐng)導(dǎo)者，Altman有很多值得推薦的地方：他非常聰明,；與很多的同行相比,，他對(duì)未來的思考更多，盡管未來充滿未知,。他似乎真誠地想要為了更大的利益而發(fā)明一些東西,。但當(dāng)你應(yīng)對(duì)的是如此極端的力量時(shí)，哪怕是最好的意圖也可能會(huì)出現(xiàn)嚴(yán)重偏差,。

阿爾特曼關(guān)于人工智能引發(fā)全球階級(jí)戰(zhàn)爭的可能性的觀點(diǎn),，或者試驗(yàn)更多自主代理人工智能的謹(jǐn)慎性，或者看到光明一面,，令所有其他都黯然失色的全局智慧——這些都是他獨(dú)一無二的東西,，如果他對(duì)即將發(fā)生的事情的預(yù)測是正確的話，那么那些東西將對(duì)塑造我們所有人的生活方式產(chǎn)生巨大的影響,。阿爾特曼設(shè)想要召喚出來的那種力量,，都不應(yīng)該由任何一個(gè)人、任何一家公司或位于加州某個(gè)山谷的一群公司來掌管,。

人工智能很可能成為通向新繁榮時(shí)代的橋梁,，人類的痛苦可能因此大大減少。但要確保我們所有人都能分享它所帶來的利益并避免存在的風(fēng)險(xiǎn),，光靠公司的創(chuàng)始章程（尤其是已經(jīng)證明具有靈活性的章程）是不夠的,。這需要強(qiáng)有力的新政治的管理。

阿爾特曼已發(fā)出通知,。他表示,，他歡迎國家的約束和指導(dǎo),。但這并不重要；在民主國家,，我們不需要他的許可,。盡管存在諸多缺陷，但美國的政府體系讓我們能夠在技術(shù)發(fā)展方面擁有發(fā)言權(quán)（如果我們能找到的話）,。在科技行業(yè)之外,，人工智能的資源正在發(fā)生代際性的重新分配，我認(rèn)為公眾還沒有完全意識(shí)到正在發(fā)生的事情,。一場爭奪人工智能未來的全球競賽已經(jīng)開始,，而且基本上是在沒有監(jiān)督或限制的情況下進(jìn)行的。如果美國人民想對(duì)未來會(huì)是什么樣子以及它到來的速度應(yīng)該有多快有發(fā)言權(quán),，我們明智的做法是盡快地發(fā)表意見,。