如果讓人們列舉人工智能領(lǐng)域的領(lǐng)軍人物,，有一個(gè)名字你可能會(huì)聽得最多：薩姆·奧爾特曼（Sam Altman）。他在OpenAI的團(tuán)隊(duì)正在用ChatGPT挑戰(zhàn)人工智能的極限,，我很高興能和他談?wù)勏乱徊降挠?jì)劃,。我們的談話涵蓋了為什么今天的人工智能模型是最愚蠢的，社會(huì)將如何適應(yīng)技術(shù)變革,，甚至當(dāng)我們完善了人工智能之后,，人類將在哪里找到目標(biāo)?！葼枴どw茨

原文來源：比爾·蓋茨公眾號(hào)

圖片來源：由無界 AI生成

比爾·蓋茨：我今天的嘉賓是薩姆·奧爾特曼。當(dāng)然,，他是OpenAI的首席執(zhí)行官,。長期以來，他一直是科技行業(yè)的創(chuàng)業(yè)者和領(lǐng)導(dǎo)者,，包括經(jīng)營Y Combinator,，這家公司做了很多了不起的事情，比如資助Reddit,、Dropbox,、Airbnb。

在我錄制本期節(jié)目不久之后,，他被解除了OpenAI首席執(zhí)行官的職務(wù),，這完全驚到了我，至少是短暫的驚訝,。解雇后的幾天里發(fā)生了很多事情,，包括幾乎所有OpenAI員工聯(lián)名支持薩姆回歸,，而現(xiàn)在，薩姆又回來了,。所以,，在你聽到我們的對(duì)話之前，讓我們先來了解一下薩姆,，看看他現(xiàn)在過得怎么樣,。

比爾·蓋茨：嘿，薩姆,。

薩姆·奧爾特曼：嘿,，比爾。

比爾·蓋茨：你好嗎,？

薩姆·奧爾特曼：哦,，天哪。這真的太瘋狂了,，我還好,。這是一個(gè)非常激動(dòng)人心的時(shí)期。

比爾·蓋茨：團(tuán)隊(duì)情況怎么樣,？

薩姆·奧爾特曼：我想,，你知道很多人都注意到了這樣一個(gè)事實(shí)，那就是團(tuán)隊(duì)從未如此高效,、樂觀,、出色。所以,，我猜這也正是藏在所有事情背后的一線希望,。

在某種意義上，這是我們成長的真正時(shí)刻,，我們非常有動(dòng)力變得更好,，變成一個(gè)為我們所面臨的挑戰(zhàn)做好準(zhǔn)備的公司。

比爾·蓋茨：太棒了,。

所以,，我們?cè)趯?duì)話中不會(huì)討論那件事；然而,，你會(huì)聽到薩姆致力于建立一個(gè)安全和負(fù)責(zé)任的人工智能的承諾,。我希望你喜歡這次對(duì)話。

歡迎來到《為自己解惑》,。我是比爾·蓋茨,。

比爾·蓋茨：今天我們將主要關(guān)注人工智能，因?yàn)樗绱肆钊伺d奮,，人們同時(shí)也對(duì)它感到擔(dān)憂,。歡迎,，薩姆。

薩姆·奧爾特曼：非常感謝你邀請(qǐng)我來參加節(jié)目,。

比爾·蓋茨：我有幸見證了你們工作的進(jìn)展,，但開始的時(shí)候我是非常懷疑的，我也沒期待過ChatGPT能做得這么好,。它讓我十分驚訝,，我們實(shí)際上并不懂這種編碼方式。我們知道數(shù)字,，我們可以看到它相乘,，但如何把莎士比亞的作品編碼？你認(rèn)為我們能對(duì)這種表示有更深的理解嗎,？

薩姆·奧爾特曼：百分之百可以,。要在人腦中做到這一點(diǎn)非常難，你可以說這是一個(gè)類似的問題,，就是有這些神經(jīng)元,，它們彼此相連。但它們的連接在變化,，我們不可能切開你的大腦來觀察它是如何進(jìn)化的,，但我們可以完美地透視。目前在可解釋性方面已經(jīng)有一些非常好的工作,，而且我認(rèn)為隨著時(shí)間的推移會(huì)有更多的解釋出現(xiàn),。我認(rèn)為我們將能夠理解這些網(wǎng)絡(luò)，但我們目前的理解能力還很低,。而正如你所樂見的,，我們僅了解的那一點(diǎn)點(diǎn)已經(jīng)對(duì)改進(jìn)這些東西非常有幫助。撇開科學(xué)好奇心不談,，我們都有動(dòng)力去真正了解它們,，盡管它們的規(guī)模是如此龐大。我們還可以說,，莎士比亞（的作品）在你大腦的哪個(gè)位置編碼的，又是如何表現(xiàn)的,？

比爾·蓋茨：我們不知道,。

薩姆·奧爾特曼：我們確實(shí)不知道，甚至可以說在這些我們本應(yīng)能夠完美透視,、觀察并進(jìn)行任何測試的大量數(shù)字中我們還是找不到答案,，這就更讓人缺少滿足感。

比爾·蓋茨：我非常確信,，在接下來的五年內(nèi),，我們會(huì)理解它,。就訓(xùn)練效率和準(zhǔn)確性而言，這種理解將讓我們做得比今天能做的好得多,。

薩姆·奧爾特曼：百分之百同意,。你會(huì)在許多經(jīng)驗(yàn)性發(fā)現(xiàn)的技術(shù)發(fā)展史中看到這一點(diǎn)。他們雖然不知道發(fā)生了什么,，但顯然它行得通,。然后，隨著科學(xué)理解的加深,，他們可以使它變得更好,。

比爾·蓋茨：是的，在物理學(xué),、生物學(xué)中,，有時(shí)只是隨便一通亂試，然后就“哇”的一聲——這究竟是怎么實(shí)現(xiàn)的,？

薩姆·奧爾特曼：在我們的案例中,，構(gòu)建GPT-1的那個(gè)人自己解決了這個(gè)“哇”的問題，這有些令人印象深刻,，但并沒有深入理解它是如何工作的,，以及為什么它是有效的。然后我們有了拓展規(guī)律,，可以預(yù)測它會(huì)變得多好,。這就是為什么當(dāng)我們告訴你可以做一個(gè)演示時(shí)，我們相當(dāng)有信心它會(huì)成功,。我們還沒有訓(xùn)練模型,，但我們很有信心。這讓我們做了大量嘗試,，對(duì)正在發(fā)生的事情有了越來越科學(xué)的認(rèn)識(shí),。但這確實(shí)源于經(jīng)驗(yàn)結(jié)果先行。

比爾·蓋茨：當(dāng)你展望未來兩年,，你認(rèn)為會(huì)有哪些重要的里程碑,？

薩姆·奧爾特曼：多模態(tài)肯定會(huì)很重要。

比爾·蓋茨：你指的是語音輸入,、語音輸出,？

薩姆·奧爾特曼：語音輸入、語音輸出,，然后是圖像,，最終是視頻。顯然，人們真的需要這些,。我們已經(jīng)推出了圖像和音頻,，反響比我們的預(yù)期要強(qiáng)烈得多。我們能夠?qū)⑵渫七M(jìn)得更遠(yuǎn),，但也許最重要的進(jìn)步領(lǐng)域?qū)@推理能力展開?，F(xiàn)在，GPT-4的推理能力還非常有限,。還有可靠性,，如果你問GPT-4大部分問題10000次，這10000次中可能有一次回答得很好,，但它不一定知道是哪一次,。而你卻希望每次都能得到這10000次中最好的回答，因此可靠性的提升將非常重要,。

可定制性和個(gè)性化也將非常重要,。人們對(duì)GPT-4的需求各不相同：不同的風(fēng)格，不同的假設(shè)集,，我們將使所有這些成為可能,，然后還能讓它使用你自己的數(shù)據(jù)。它能夠了解你,、你的電子郵件,、你的日歷、你喜歡的預(yù)約方式,，并與其他外部數(shù)據(jù)源連接,，所有這些都將是最重要的改進(jìn)領(lǐng)域。

比爾·蓋茨：在目前的基礎(chǔ)算法中,，它只是在做簡單的前饋,、乘法，所以為了生成每一個(gè)新詞,，它本質(zhì)上都在做同樣的事情,。我會(huì)很感興趣的是，你們能夠像解決復(fù)雜的數(shù)學(xué)方程式那樣,，可能需要任意次數(shù)的應(yīng)用變換,，那么用于推理的控制邏輯可能需要比我們今天所做的復(fù)雜得多。

薩姆·奧爾特曼：至少,，我們似乎需要某種形式的自適應(yīng)計(jì)算?，F(xiàn)在，我們?cè)诿總€(gè)標(biāo)記上都花費(fèi)同樣多的計(jì)算資源,，不管它是一個(gè)簡單的標(biāo)記,，還是解決一些復(fù)雜的數(shù)學(xué)問題,。

比爾·蓋茨：是的,，比如說,，“解決黎曼假設(shè)……”

薩姆·奧爾特曼：那需要大量的計(jì)算。

比爾·蓋茨：但它用的計(jì)算資源跟說個(gè)“The”一樣,。

薩姆·奧爾特曼：對(duì),，我們至少得讓它能用。我們可能還需要在它之上更復(fù)雜的東西,。

比爾·蓋茨：你和我都參加過一個(gè)參議院的教育會(huì)議,，我很高興有大約30名參議員參加了那次會(huì)議，并幫助他們快速跟上進(jìn)展,，因?yàn)檫@是一個(gè)重大的變革推動(dòng)者,。我不認(rèn)為我們?yōu)榱宋鸵呀?jīng)做的過多。然而,，當(dāng)他們說,，“哦，我們?cè)谏缃幻襟w上搞砸了,，我們應(yīng)該做得更好”——這是一個(gè)巨大的挑戰(zhàn),，在兩極分化方面有非常負(fù)面的因素。即使是現(xiàn)在,，我也不確定我們?cè)撊绾螒?yīng)對(duì),。

薩姆·奧爾特曼：我不明白為什么政府在社交媒體方面不能更有效，但這似乎值得作為一個(gè)研究案例去理解,，因?yàn)樗麄儸F(xiàn)在將要面臨的是與AI相關(guān)的挑戰(zhàn),。

比爾·蓋茨：這是一個(gè)很好的研究案例，那么當(dāng)你談?wù)摫O(jiān)管時(shí),，你是否清楚該構(gòu)建哪種類型的監(jiān)管,？

薩姆·奧爾特曼：我認(rèn)為我們開始弄清楚了。在這個(gè)領(lǐng)域進(jìn)行過度監(jiān)管是非常容易的,，你也可以看到過去許多此類事情的發(fā)生,。但同樣的，如果我們是對(duì)的,，可能結(jié)果卻顯示我們錯(cuò)了,，但如果在最后我們是對(duì)的，這項(xiàng)技術(shù)發(fā)展到我們認(rèn)為它會(huì)達(dá)到的程度,，它將影響社會(huì),，影響地緣政治力量的平衡，以及其他許多事物,。對(duì)于這些仍然是假設(shè)性的,，但未來極其強(qiáng)大的系統(tǒng)——不是說GPT-4，而是針對(duì)計(jì)算能力是其10萬倍或100萬倍的系統(tǒng)，我們已經(jīng)接受了一個(gè)全球監(jiān)管機(jī)構(gòu)的想法,，這個(gè)機(jī)構(gòu)將緊盯這些超級(jí)強(qiáng)大的系統(tǒng),，因?yàn)樗鼈兇_實(shí)會(huì)產(chǎn)生如此大的全球影響。我們談到的一個(gè)模式就是類似國際原子能機(jī)構(gòu)的模式,。對(duì)于核能,，我們的決定也是如此。由于其潛在的全球影響,，它需要一個(gè)全球性的機(jī)構(gòu),，我認(rèn)為這是合理的。會(huì)有很多短期問題,，比如這些模式可以說什么,，不可以說什么？我們?nèi)绾慰创鏅?quán)問題,？不同的國家會(huì)有不同的考慮,，這沒問題。

比爾·蓋茨：有些人認(rèn)為,，如果一些模型非常強(qiáng)大,，我們就會(huì)對(duì)它們感到害怕——全球核監(jiān)管之所以行之有效，基本上是因?yàn)橹辽僭诿裼梅矫?，每個(gè)人都希望共享安全實(shí)踐,，而且這一點(diǎn)做得非常好。當(dāng)你涉及核武器方面時(shí),，就沒有這種情況了,。如果關(guān)鍵在于阻止整個(gè)世界做危險(xiǎn)的事情，你會(huì)希望有一個(gè)全球政府,，但今天對(duì)于許多問題,，如氣候問題、恐怖主義,，可以看到我們很難合作,。人們甚至援引中美競爭來解釋為什么任何放緩的想法都是不恰當(dāng)?shù)摹ｋy道任何放慢腳步的想法,，或者說放慢腳步到足夠謹(jǐn)慎的程度,，都難以實(shí)施嗎？

薩姆·奧爾特曼：是的,，我認(rèn)為要求其放慢速度是非常困難的,。如果改成“做你想做的事，但任何計(jì)算集群都不能超過一個(gè)特定的,、極高的功率門檻”——鑒于這里的成本,，我們可能只會(huì)看到五個(gè)這樣的集群——像這樣的任何集群都必須接受類似國際武器檢查員的審查,。那里的模型必須接受安全審計(jì)，通過訓(xùn)練期間的一些測試,，并在部署前通過審計(jì)和測試,。對(duì)我來說，這似乎是可能的,。我之前不太確定，但今年我進(jìn)行了一次環(huán)球之旅,，與需要參與這一計(jì)劃的許多國家的元首進(jìn)行了交談,，他們幾乎都表示了支持。這不會(huì)讓我們免于所有事情,，仍然會(huì)有一些問題出現(xiàn)在規(guī)模較小的系統(tǒng)上,，有些情況可能會(huì)出現(xiàn)相當(dāng)嚴(yán)重的錯(cuò)誤，但我認(rèn)為這可以幫助我們應(yīng)對(duì)最高層面的風(fēng)險(xiǎn),。

比爾·蓋茨：我確實(shí)認(rèn)為,，在最好的情況下，人工智能可以幫助我們解決一些難題,。

薩姆·奧爾特曼：當(dāng)然可以,。

比爾·蓋茨：包括兩極分化的問題，因?yàn)樗赡軙?huì)破壞民主,，而那將是一個(gè)極其糟糕的事情?，F(xiàn)在，我們看到人工智能帶來了很多生產(chǎn)力的提升,，這是非常好的事情,。你最興奮的領(lǐng)域是哪些？

薩姆·奧爾特曼：首先,，我始終認(rèn)為值得記住的是,，我們正處在這一長期、連續(xù)的曲線上?，F(xiàn)在,，我們有能夠完成任務(wù)的人工智能系統(tǒng)。它們當(dāng)然不能完成一個(gè)完整的工作（崗位所做的事情）,，但它們可以做些任務(wù),，并且在那里有生產(chǎn)力的提升。最終,，它們將能夠做更多類似今天人類工作的事情,，我們?nèi)祟惍?dāng)然也會(huì)找到新的、更好的工作,。我完全相信,，如果你給人們更強(qiáng)大的工具,，他們不僅僅可以工作得更快，還可以做一些本質(zhì)上不同的事情?，F(xiàn)在,，我們或許可以將程序員的工作速度提高三倍。這就是我們所看到的,，也是我們最興奮的領(lǐng)域之一,，它運(yùn)行得非常好。但是,，如果你能讓程序員的效率提高三倍,，那就不僅僅是他們能做的事情多了三倍，而是他們能在更高的抽象層次上,、使用更多的腦力去思考完全不同的事情,。這就好比從打孔卡到更高級(jí)的語言，不僅僅是讓我們的編程速度快了一點(diǎn),，而是讓我們得到了質(zhì)的提升,。我們確實(shí)看到了這一點(diǎn)。

當(dāng)我們看向這些能夠完成更完整任務(wù)的下一代人工智能時(shí),，你可以將它想象成一個(gè)小代理,，你可以對(duì)它說：“幫我寫這整個(gè)程序，我會(huì)在過程中問你幾個(gè)問題,，但它不僅僅是一次只寫幾個(gè)函數(shù)”,，這樣就會(huì)有很多新生事物出現(xiàn)。然后,，它還能做更復(fù)雜的事情,。有一天，也許會(huì)有一個(gè)人工智能,，你可以對(duì)它說：“幫我建立并運(yùn)營這家公司”,。然后有一天，也許會(huì)有一個(gè)人工智能,，你可以對(duì)它說：“去發(fā)現(xiàn)新的物理學(xué)”,。我們現(xiàn)在看到的東西既令人興奮又美妙，但我認(rèn)為把它放在這項(xiàng)技術(shù)的背景下是值得的,，至少在未來的五年或十年內(nèi),，這項(xiàng)技術(shù)將處于一個(gè)非常陡峭的成長曲線上。現(xiàn)有這些模型都將變成最愚蠢的模型,。

編程可能是我們今天感到最興奮的一個(gè)提高生產(chǎn)力的領(lǐng)域,。目前，它已經(jīng)被大規(guī)模部署和使用,。醫(yī)療保健和教育也是另外兩個(gè)我們非常期待的快速發(fā)展的領(lǐng)域,。

比爾·蓋茨：有點(diǎn)令人生畏的是,，與以往的技術(shù)改進(jìn)不同，這項(xiàng)技術(shù)的改進(jìn)速度非?？?，而且沒有上限。它可以在很多工作領(lǐng)域達(dá)到人類的水平,，即使做不出獨(dú)特的科學(xué)研究,，它也可以打客服電話和銷售電話。我想你和我確實(shí)有一些擔(dān)憂,，盡管這是一件好事,，但它將迫使我們比以往任何時(shí)候都要更快地適應(yīng)。

薩姆·奧爾特曼：這才是可怕的地方,。這并不是說我們必須適應(yīng)，并不是說人類沒有超強(qiáng)的適應(yīng)能力,。我們已經(jīng)經(jīng)歷過這些大規(guī)模的技術(shù)變革,，人們所從事的大量工作可能在幾代人的時(shí)間里發(fā)生變化，而在幾代人的時(shí)間里,，我們似乎可以很好地吸收這些變化,。在過去那些偉大的技術(shù)革命中，我們已經(jīng)看到了這一點(diǎn),。每一次技術(shù)革命都會(huì)變得更快,，而這次將是迄今為止最快的一次。這就是我覺得有點(diǎn)可怕的地方,，我們的社會(huì)需要以何種速度去適應(yīng)它的發(fā)展,，以及勞動(dòng)力市場將發(fā)生的變化。

比爾·蓋茨：人工智能的一個(gè)方面是機(jī)器人技術(shù)（學(xué)）,，或者說藍(lán)領(lǐng)工作,，當(dāng)你得到具有人類水平能力的手和腳時(shí)。ChatGPT令人難以置信的突破是讓我們開始關(guān)注白領(lǐng)工作,，這完全沒問題,，但我擔(dān)心人們會(huì)失去對(duì)藍(lán)領(lǐng)工作的關(guān)注。你如何看待機(jī)器人技術(shù),？

薩姆·奧爾特曼：我對(duì)此非常興奮,。我們太早開始研究機(jī)器人了，所以不得不擱置那個(gè)項(xiàng)目,。它也因?yàn)殄e(cuò)誤的原因而變得困難,，無助于我們?cè)跈C(jī)器學(xué)習(xí)研究的困難部分取得進(jìn)展。我們一直在處理糟糕的模擬器和肌腱斷裂之類的問題,。隨著時(shí)間的推移,，我們也越來越意識(shí)到,，我們首先需要的是智能和認(rèn)知，然后才能想辦法讓它適應(yīng)物理特性,。從我們構(gòu)建這些語言模型的方式來看,，從那開始更容易。但我們一直計(jì)劃回到這個(gè)問題上來,。

我們已經(jīng)開始對(duì)一些機(jī)器人公司進(jìn)行投資,。在物理硬件方面，我終于第一次看到了真正令人興奮的新平臺(tái)被建立起來,。到時(shí)候,，我們就能利用我們的模型，就像你剛才說的,，利用它們的語言理解能力和未來的視頻理解能力,，說：“好吧，讓我們用機(jī)器人做一些了不起的事情吧,?！?/p>

比爾·蓋茨：如果那些已經(jīng)把腿部做得很好的硬件人員真的把手臂、手掌和手指做出來,，然后我們?cè)侔阉鼈兘M合起來,，而且價(jià)格也不會(huì)貴得離譜，那么這將會(huì)迅速改變很多藍(lán)領(lǐng)類工作的就業(yè)市場,。

薩姆·奧爾特曼：是的,。當(dāng)然，如果我們回溯七到十年,，共識(shí)性的預(yù)測是其影響的首先是藍(lán)領(lǐng)工作,，其次是白領(lǐng)工作，創(chuàng)造力可能永遠(yuǎn)不會(huì),，起碼是最后一個(gè),，因?yàn)槟鞘悄Хê腿祟惖膹?qiáng)項(xiàng)。

顯然,，現(xiàn)在的情況正好相反,。我認(rèn)為這其中有很多有趣的原因能夠解釋它為什么會(huì)發(fā)生。創(chuàng)造性工作,，GPT模型的幻覺是一個(gè)特性,，而不是缺陷，它能讓你發(fā)現(xiàn)一些新事物,。而如果你要讓機(jī)器人移動(dòng)重型機(jī)械,，你最好能做到非常精確。我認(rèn)為這只是一個(gè)你必須跟隨技術(shù)發(fā)展的案例,。你可能有一些先入為主的觀念,，但有時(shí)科學(xué)并不往那個(gè)方向發(fā)展,。

比爾·蓋茨：那么你手機(jī)上最常用的應(yīng)用是什么？

薩姆·奧爾特曼：Slack,。

比爾·蓋茨：真的嗎,？

薩姆·奧爾特曼：是的，我希望我能說是ChatGPT,。

比爾·蓋茨：【笑】甚至比電子郵件還多,？

薩姆·奧爾特曼：遠(yuǎn)遠(yuǎn)超過電子郵件。我認(rèn)為唯一可能超過它的是iMessages,，但確實(shí)Slack比iMessages還多,。

比爾·蓋茨：在OpenAI內(nèi)部，有很多協(xié)調(diào)工作要做,。

薩姆·奧爾特曼：是的,，那你呢？

比爾·蓋茨：我是Outlook,。我是傳統(tǒng)的電子郵件派,，要么就是瀏覽器，因?yàn)?，?dāng)然,，我的許多新聞都是通過瀏覽器看來的,。

薩姆·奧爾特曼：我沒有把瀏覽器算作一個(gè)應(yīng)用,，有可能我使用它的頻率更高，但我仍然打賭是Slack,，我整天都在使用它,。

比爾·蓋茨：不可思議。

比爾·蓋茨：好吧,，我們這里有一個(gè)黑膠唱片機(jī),。我像對(duì)其他嘉賓那樣，要求薩姆帶來一張他最喜歡的唱片,。那么,，你今天帶來了什么？

薩姆·奧爾特曼：我?guī)砹笋R克斯·里希特重新編曲的維瓦爾第的《新四季》,。我工作時(shí)喜歡無歌詞的音樂,，這張唱片既保留了維瓦爾第原作的舒適感，也有我非常熟悉的曲子,，但又有足夠多新的音符帶來完全不同的體驗(yàn),。有些音樂作品，你會(huì)因?yàn)樵谌松年P(guān)鍵時(shí)期大量地聽它們而形成強(qiáng)烈的情感依戀,，而《新四季》正是我在我們初創(chuàng)OpenAI時(shí)經(jīng)常聽的東西,。

我認(rèn)為這是非常美妙的音樂,，它高亢而樂觀，完美適配我工作時(shí)的需求,，我覺得新版本非常棒,。

比爾·蓋茨：這是由交響樂團(tuán)演奏的嗎？

薩姆·奧爾特曼：是的,，是由Chineke!樂團(tuán)演奏的,。

比爾·蓋茨：太棒了。

薩姆·奧爾特曼：現(xiàn)在就播嗎,？

比爾·蓋茨：是的,，我們來聽聽。

薩姆·奧爾特曼：這是我們要聽的樂章的序曲,。

比爾·蓋茨：你戴耳機(jī)嗎,？

薩姆·奧爾特曼：我戴。

比爾·蓋茨：你的同事們會(huì)因?yàn)槟懵牴诺湟魳范⌒δ銌幔?/p>

薩姆·奧爾特曼：我不認(rèn)為他們知道我在聽什么,，因?yàn)槲掖_實(shí)戴著耳機(jī),。在寂靜中工作對(duì)我來說非常困難，我可以做到,，但這不是我的自然狀態(tài),。

比爾·蓋茨：這很有趣。我同意,，帶歌詞的歌曲會(huì)讓我覺得分心,，但這更多是一種情緒類型的東西。

薩姆·奧爾特曼：是的,，而且我把它調(diào)得很輕,，我也不能聽響亮的音樂，不知為何這是我一直以來的習(xí)慣,。

比爾·蓋茨：太棒了,，感謝你帶來美妙的音樂。

比爾·蓋茨：現(xiàn)在,，對(duì)我來說,，如果你真的借助人工智能達(dá)到了令人難以置信的能力，AGI（通用人工智能）,，AGI+（超級(jí)通用人工智能）,，我擔(dān)心的有三件事：一是壞人控制了系統(tǒng)，如果我們有好人擁有同樣強(qiáng)大的系統(tǒng),，這有希望能最小化那個(gè)問題,；二是系統(tǒng)控制一切的可能性，出于某些原因，我不太擔(dān)心這個(gè)問題,，但我很高興其他人關(guān)注這個(gè)問題,；最讓我感到困惑的是人類的目的，我對(duì)這點(diǎn)感到非常興奮,，我很擅長研究瘧疾和根除瘧疾,，也很擅長召集聰明人并為此投入資源。當(dāng)機(jī)器人對(duì)我說：“比爾,，去打匹克球吧,，我能根除瘧疾。你只是個(gè)思維遲鈍的人,?！蹦菚r(shí)它就是一個(gè)哲學(xué)上令人困惑的事情。我們?nèi)绾谓M織社會(huì),？是的,，我們要改善教育，但教育要做什么,，如果你走向極端,，我們?nèi)匀挥泻艽蟮牟淮_定性。第一次,，這種情況可能在未來20年內(nèi)發(fā)生的機(jī)會(huì)不為零,。

薩姆·奧爾特曼：從事技術(shù)工作有很多心理上的困難，但你說的這些對(duì)我來說是最困難的,，因?yàn)槲乙矎闹蝎@得了很多滿足感,。

比爾·蓋茨：你確實(shí)帶來了價(jià)值。

薩姆·奧爾特曼：從某種意義上來說,，這可能是我做的最后一件難事,。

比爾·蓋茨：我們的思維如此依賴于稀缺性,，教師,、醫(yī)生和好的想法的稀缺，部分原因是,，我確實(shí)在想,，如果一代人在沒有這種稀缺的情況下成長，他們會(huì)對(duì)如何組織社會(huì)以及要做什么這個(gè)哲學(xué)概念會(huì)產(chǎn)生什么看法,，也許他們會(huì)想出一個(gè)解決方案,。我擔(dān)心我的思維如此受到稀缺性的影響，以至于我甚至很難思考這個(gè)問題,。

薩姆·奧爾特曼：這也是我告訴自己的,，而且我真心相信，雖然我們?cè)谀撤N意義上放棄了一些東西，但我們將會(huì)擁有比我們?nèi)祟惛斆鞯臇|西,。如果我們能進(jìn)入這個(gè)“后稀缺”世界,，我們將會(huì)找到新的事情去做。它們會(huì)感覺非常不同,。也許你不是在解決瘧疾問題,，而是在決定你喜歡哪個(gè)星系，以及你打算如何處理它,。我相信我們永遠(yuǎn)不會(huì)缺少問題,，不會(huì)缺少獲得滿足感和為彼此做事的方式，不會(huì)缺少對(duì)我們?nèi)绾螢槠渌送嫒祟愑螒虻姆绞降睦斫?，這將仍然非常重要,。這肯定會(huì)有所不同，但我認(rèn)為唯一的出路就是走下去,。我們必須去做這件事,，它必將會(huì)發(fā)生，且現(xiàn)在已經(jīng)是一個(gè)不可阻擋的技術(shù)進(jìn)程,，因?yàn)槠鋬r(jià)值太大了,。我非常非常有信心，我們會(huì)成功的,，但感覺確實(shí)會(huì)很不一樣,。

比爾·蓋茨：將這項(xiàng)技術(shù)應(yīng)用于某些當(dāng)前問題，比如為孩子們提供家教,，幫助激發(fā)他們的動(dòng)力,，或發(fā)現(xiàn)治療阿爾茨海默癥的藥物，我認(rèn)為如何做是非常清楚的,。無論人工智能能否幫助我們減少戰(zhàn)爭,，減少分化。你會(huì)認(rèn)為隨著智能的提升,，不分化是常識(shí),，不發(fā)動(dòng)戰(zhàn)爭也是常識(shí)，但我確實(shí)認(rèn)為很多人會(huì)持懷疑態(tài)度,。我很愿意讓人們致力于解決最困難的人類問題,，比如我們是否能和睦相處,。如果我們認(rèn)為人工智能可以幫助人類更好地相處,，我認(rèn)為那將是非常積極的,。

薩姆·奧爾特曼：我相信它會(huì)在這方面給我們帶來意外的驚喜。這項(xiàng)技術(shù)會(huì)讓我們驚訝于它能做的事情有多么多,。我們還得拭目以待,，但我非常樂觀。我同意你的看法，這將是非常大的貢獻(xiàn),。

比爾·蓋茨：就公平性而言,，技術(shù)通常很昂貴，比如個(gè)人電腦或互聯(lián)網(wǎng)連接,，而降低成本需要時(shí)間,。我想，運(yùn)行這些人工智能系統(tǒng)的成本看起來很不錯(cuò),，每次評(píng)估的成本會(huì)降低很多嗎,？

薩姆·奧爾特曼：它已經(jīng)降低了很多。GPT-3是我們推出時(shí)間最長,、優(yōu)化最久的模型,，在它推出的三年多時(shí)間里，我們已經(jīng)將成本降低了40倍,。對(duì)于三年的時(shí)間來說,，這是一個(gè)很好的開始。至于GPT-3.5版,，我敢打賭,，目前我們已經(jīng)將其成本降低了近10倍。GPT-4是新產(chǎn)品,，所以我們還沒有那么多時(shí)間來降低成本,，但我們會(huì)繼續(xù)。我認(rèn)為,，在我所知道的所有技術(shù)中,，我們的成本下降曲線是最陡峭的，優(yōu)于摩爾定律,。這不僅是因?yàn)槲覀兿氤隽巳绾巫屇Ｐ透咝У姆椒?，還因?yàn)槲覀儗?duì)研究有了更好的理解，我們可以在更小的模型中獲得更多的知識(shí)和能力,。我認(rèn)為,，我們將把智能的成本降低到接近于零的程度，這對(duì)社會(huì)來說將是一個(gè)改頭換面的轉(zhuǎn)變,。

現(xiàn)在,，我的世界基本模型由智能成本和能源成本組成,?！颈葼栃α恕窟@是影響生活質(zhì)量的兩個(gè)最大因素，尤其是對(duì)窮人而言,，但總體來看也是如此,。如果你能同時(shí)降低這兩方面的成本，你能擁有的東西就會(huì)更多，你能為人們帶來的改善就會(huì)更大,。我們正走在一條曲線上,，至少在智能方面，我們將真正實(shí)現(xiàn)這一承諾,。即使按照目前的價(jià)格（這也是有史以來最高的價(jià)格,，而且遠(yuǎn)遠(yuǎn)超出了我們的預(yù)期），每月20美元,，你就能獲得大量的GPT-4訪問權(quán)限,，而且價(jià)值遠(yuǎn)遠(yuǎn)超過20美元。我們已經(jīng)降得很低了,。

比爾·蓋茨：那競爭呢,？很多人一下子同時(shí)擠進(jìn)這個(gè)賽道是不是一件有趣的事情？

薩姆·奧爾特曼：既令人討厭,，又充滿動(dòng)力和樂趣,，【比爾笑了】我相信你也有過類似的感覺。這確實(shí)促使我們做得更快,、更好,，我們對(duì)自己的方法很有信心。我們有很多人,，我認(rèn)為他們都在往冰球所在的地方滑,，而我們也在往冰球要去的地方滑，這感覺很好,。

比爾·蓋茨：我認(rèn)為人們會(huì)對(duì)OpenAI的規(guī)模之小感到驚訝,。你們有多少員工？

薩姆·奧爾特曼：大約500人,，所以我們比以前稍微大一些,。

比爾·蓋茨：但那很小，【笑】要是以谷歌,、微軟,、蘋果的標(biāo)準(zhǔn)來看。

薩姆·奧爾特曼：確實(shí)很小,，我們不僅要經(jīng)營研究實(shí)驗(yàn)室,，現(xiàn)在還要經(jīng)營一家真正的企業(yè)和兩款產(chǎn)品。

比爾·蓋茨：你所有能力的擴(kuò)展,，包括與世界上所有的人交談,，傾聽所有支持者的聲音，這對(duì)你來說一定很有趣,。

薩姆·奧爾特曼：非常令人著迷,。

比爾·蓋茨：這是一家員工都很年輕的公司嗎,？

薩姆·奧爾特曼：比平均年齡要大一些。

比爾·蓋茨：好的,。

薩姆·奧爾特曼：這里不是一群24歲的程序員,。

比爾·蓋茨：的確，我的視角有些扭曲了,，因?yàn)槲乙呀?jīng)60多歲了,。我看到你，你比我年輕,，但你說得對(duì),，你們有很多人四十多歲了。

薩姆·奧爾特曼：三十多歲,、四十多歲,、五十多歲（的人）。

比爾·蓋茨：這不像早期的蘋果,、微軟,，那時(shí)我們真的還是孩子。

薩姆·奧爾特曼：不是的,，我也反思過這個(gè)問題,。我認(rèn)為公司普遍變老了，我不知道該如何看待這個(gè)問題,。我認(rèn)為這在某種程度上對(duì)社會(huì)是個(gè)不好的跡象,，但我在 YC（Y Combinator）追蹤過這個(gè)問題。隨著時(shí)間的推移,，最優(yōu)秀的創(chuàng)始人年齡都呈增長趨勢(shì),。

比爾·蓋茨：這很有意思。

薩姆·奧爾特曼：就我們的情況而言,，甚至還比平均年齡還要大一些,。

比爾·蓋茨：你在YC扮演的角色幫助這些公司學(xué)到了很多，我想這對(duì)你現(xiàn)在的工作也是很好的鍛煉,?！拘Α?/p>

薩姆·奧爾特曼：那非常有幫助。

比爾·蓋茨：包括看到錯(cuò)誤,。

薩姆·奧爾特曼：完全可以這么說,。OpenAI做了很多與YC建議的標(biāo)準(zhǔn)相反的事情。我們花了四年半時(shí)間才推出我們的第一個(gè)產(chǎn)品,。公司成立之初,，我們對(duì)產(chǎn)品沒有任何概念，我們沒有與用戶交流,。我仍然不建議大多數(shù)公司這樣做,，但在YC學(xué)習(xí)和見識(shí)過這些規(guī)則后,，我覺得自己明白了何時(shí),、如何以及為什么我們可以打破這些規(guī)則,，我們所做的事情真的與我見過的其他公司大相徑庭。

比爾·蓋茨：關(guān)鍵是你集結(jié)的人才團(tuán)隊(duì),，讓他們專注于大問題,，而不是某些短期的收益問題。

薩姆·奧爾特曼：我認(rèn)為硅谷的投資者不會(huì)在我們需要的水平上支持我們,，因?yàn)槲覀儽仨氃谘芯可匣ㄙM(fèi)如此多的資金才能推出產(chǎn)品,。我們只是說：“最終模型會(huì)足夠好，我們知道它會(huì)對(duì)人們有價(jià)值,?！钡覀兎浅８屑づc微軟的合作，因?yàn)檫@種超前投資并不是風(fēng)險(xiǎn)投資行業(yè)擅長的,。

比爾·蓋茨：確實(shí)不是,，而且資本成本相當(dāng)可觀，幾乎達(dá)到了風(fēng)險(xiǎn)投資所能承受的極限,。

薩姆·奧爾特曼：可能已經(jīng)超過了,。

比爾·蓋茨：確實(shí)可能。我非常贊同薩蒂亞對(duì)于“如何將這個(gè)杰出的人工智能組織與大型軟件公司結(jié)合起來,？”的思考,，甚至可以說一加一遠(yuǎn)遠(yuǎn)大于二。

薩姆·奧爾特曼：是的,，這很棒,。你真說到點(diǎn)上了，這也是我從YC學(xué)到的,。我們可以說要找世界上最好的人來做這件事,。我們要確保我們的目標(biāo)和AGI的使命是一致的。但除此之外,，我們要讓人們做自己的事情,。我們會(huì)意識(shí)到這將經(jīng)歷一些曲折，需要一段時(shí)間,。

我們有一個(gè)大致正確的理論,，但一路上的很多策略都被證明是大錯(cuò)特錯(cuò)的，我們只是試圖遵循科學(xué),。

比爾·蓋茨：我記得我去看了演示,，也確實(shí)想過這個(gè)項(xiàng)目的收入途徑是什么？是什么樣的,？在這個(gè)狂熱的時(shí)代,，你仍然手握一個(gè)令人難以置信的團(tuán)隊(duì),。

薩姆·奧爾特曼：是的，優(yōu)秀的人都希望與優(yōu)秀的同事共事,。

比爾·蓋茨：那是一種吸引力,。

薩姆·奧爾特曼：那里有一個(gè)很深的引力中心。此外,，這聽起來很陳詞濫調(diào),，每家公司都這么說，但人們感受到了深深地使命感,，每個(gè)人都想?yún)⑴cAGI的創(chuàng)建,。

比爾·蓋茨：那一定很激動(dòng)人心。當(dāng)你再次用演示震撼我時(shí),，我可以感受到那股能量,。我看到了新的人，新的想法,，而你們?nèi)砸苑浅２豢伤甲h的速度前進(jìn)著,。

薩姆·奧爾特曼：你最常給出的建議是什么？

比爾·蓋茨：才能可以分很多種,，在我職業(yè)生涯的早期,，我認(rèn)為只有純粹的智商，比如工程智商,，當(dāng)然,，你可以將其應(yīng)用于金融和銷售。但這種想法被證明是如此錯(cuò)誤,，建立一個(gè)擁有正確技能組合的團(tuán)隊(duì)是如此重要,。針對(duì)他們的問題，引導(dǎo)他們思考應(yīng)該如何建立一個(gè)擁有所有不同技能的團(tuán)隊(duì),，這可能是我認(rèn)為最有幫助的建議之一,。是的，告訴孩子們,，數(shù)學(xué),、科學(xué)很酷，如果你喜歡的話,，但真正讓我驚訝的是才能的混合,。

那你呢？你給出的建議是什么,？

薩姆·奧爾特曼：關(guān)于大多數(shù)人對(duì)風(fēng)險(xiǎn)的誤判,。他們害怕離開舒適的工作，去做他們真正想做的事情,。實(shí)際上,，如果他們不這樣做,，他們回顧自己的一生時(shí)就會(huì)想，“天啊,，我從來沒有去創(chuàng)辦我想創(chuàng)辦的公司,，或者我從未嘗試成為一名人工智能研究員?！蔽艺J(rèn)為實(shí)際上這樣風(fēng)險(xiǎn)更大,。

與此相關(guān)的是,，明確自己想要做什么,，并向別人提出自己的要求，會(huì)有意想不到的收獲,。很多人受困于把時(shí)間花在自己不想做的事情上,，而我最常給的建議可能就是想辦法解決這個(gè)問題。

比爾·蓋茨：如果你能讓人們從事一份讓他們感到有目標(biāo)的工作,，那會(huì)更有趣,。有時(shí)，他們就是這樣產(chǎn)生巨大影響的,。

薩姆·奧爾特曼：當(dāng)然,。

比爾·蓋茨：感謝你的到來，這是一次精彩的對(duì)話,。在未來的日子里,，我相信我們還會(huì)有更多的交流，因?yàn)槲覀冋σ宰詈玫姆绞剿茉烊斯ぶ悄堋?/p>

薩姆·奧爾特曼：非常感謝你的邀請(qǐng),，我真的很享受與你對(duì)話,。

比爾·蓋茨：《為自己解惑》是蓋茨筆記的一個(gè)節(jié)目。特別感謝我今天的嘉賓薩姆·奧爾特曼,。

比爾·蓋茨：告訴我你的第一臺(tái)電腦是什么,？

薩姆·奧爾特曼：是Mac LC2。

比爾·蓋茨：不錯(cuò)的選擇,。

薩姆·奧爾特曼：是個(gè)好東西,，我還留著它，它到現(xiàn)在還能用,。