來(lái)源：云云眾生s

Altman 認(rèn)為 OpenAI 的使命是構(gòu)建一個(gè)人工通用智能,，并廣泛傳播其好處。

譯自What OpenAI CEO Sam Altman Really Expects In AI’s Future，作者 David Cassel。

上周,，OpenAI發(fā)布了 GPT-4o,，這是功能強(qiáng)大的聊天機(jī)器人的最新語(yǔ)音交互版本,。但在發(fā)布前幾天,，OpenAI首席執(zhí)行官薩姆·阿爾特曼在“All-In”播客中接受了一個(gè)小時(shí)的采訪,，分享了一些出人意料的坦率想法,。

由一群高級(jí)風(fēng)險(xiǎn)投資家主持 ——Chamath Palihapitiya、Jason Calacanis,、David O. Sacks和David Friedberg—— 該播客讓阿爾特曼有機(jī)會(huì)在更具對(duì)話(huà)性的環(huán)境中暢所欲言,。

在長(zhǎng)達(dá)一小時(shí)的廣泛討論中，阿爾特曼提供了有關(guān)他對(duì) OpenAI 的長(zhǎng)期愿景的線索——甚至包括世界發(fā)展通用人工智能的可能軌跡,。作為世界頂級(jí)人工智能公司的負(fù)責(zé)人,，阿爾特曼回答了有關(guān)安全性,、可負(fù)擔(dān)性、經(jīng)濟(jì)模式和下一個(gè)偉大目標(biāo)的問(wèn)題,。

并且在某個(gè)過(guò)程中,，他可能還瞥見(jiàn)了未來(lái)的發(fā)展方向。

本質(zhì)上不同

當(dāng)宣布 GPT-4o時(shí),，阿爾特曼指出了它在 OpenAI 產(chǎn)品演變中的位置,。“最初的 ChatGPT 展示了語(yǔ)言界面可能實(shí)現(xiàn)的一絲希望,；這個(gè)新事物感覺(jué)本質(zhì)上不同,。它快速、智能,、有趣,、自然且有用。對(duì)我來(lái)說(shuō)，與計(jì)算機(jī)交談從未真正感覺(jué)自然,；現(xiàn)在感覺(jué)自然了,。”

但正是通過(guò)播客,，你才能感覺(jué)到這對(duì)他的長(zhǎng)期愿景有多么重要,。在討論人類(lèi)的下一個(gè)偉大技術(shù)是什么之后，阿爾特曼補(bǔ)充了這個(gè)發(fā)人深省的觀點(diǎn),?！拔艺J(rèn)為語(yǔ)音是下一個(gè)事物的一絲希望。

“比如,，如果你能使語(yǔ)音交互變得非常好,，它就會(huì)感覺(jué)——我認(rèn)為這感覺(jué)像是一種不同的使用計(jì)算機(jī)的方式?！?/p>

安全性如何,？

上周，OpenAI 還因解散他們10 個(gè)月前創(chuàng)建的團(tuán)隊(duì)而登上頭條,，該團(tuán)隊(duì)探索了解決方案,，“以引導(dǎo)和控制比我們聰明得多的 AI 系統(tǒng)”，因?yàn)樵搱F(tuán)隊(duì)的兩位領(lǐng)導(dǎo)人都已辭職,。（CNBC 指出,，Ilya Sutskever 是 11 月投票罷免阿爾特曼的董事會(huì)成員之一，而 Jan Leike在 Twitter 上抱怨星期五,，OpenAI 的“安全文化和流程已退居閃亮產(chǎn)品的次要地位,。”）

在過(guò)去的幾個(gè)月里,，我的團(tuán)隊(duì)一直在逆風(fēng)航行,。有時(shí)我們?yōu)橛?jì)算而苦苦掙扎，完成這項(xiàng)至關(guān)重要的研究變得越來(lái)越困難,。

— Jan Leike (@janleike) [2024 年 5 月 17 日]

因此,，在這些辭職宣布前幾天,，聽(tīng)到阿爾特曼對(duì)11 月罷免的評(píng)論很有趣,。“看,，顯然并非所有這些董事會(huì)成員都是我世界上最喜歡的人,。但我非常尊重他們對(duì)待 AGI 的嚴(yán)肅性以及正確實(shí)現(xiàn) AI 安全性的重要性。即使我強(qiáng)烈不同意他們的決策和行動(dòng),，但我確實(shí)不同意,，我從未懷疑過(guò)他們對(duì)安全和有益的 AGI 這種共同使命的正直或承諾。”

我在 OpenAI 的時(shí)光是我人生的轉(zhuǎn)折點(diǎn),，希望對(duì)世界也有一點(diǎn)幫助,。最重要的是，我喜歡與如此有才華的人共事,。

稍后會(huì)詳細(xì)介紹下一步計(jì)劃,。

— 薩姆·阿爾特曼 (@sama) [2023 年 11 月 17 日]

阿爾特曼還直接解決了風(fēng)險(xiǎn)問(wèn)題?！拔艺J(rèn)為在不久的將來(lái),，前沿 AI 系統(tǒng)將能夠造成重大的全球損害?！彼Ｍ氖且粋€(gè)國(guó)際機(jī)構(gòu),，確保對(duì)最強(qiáng)大的系統(tǒng)進(jìn)行“合理的安全性測(cè)試”，以便“你知道,，這些東西不會(huì)逃逸并遞歸地自我完善或其他……”他后來(lái)補(bǔ)充說(shuō),，“也許什么都不會(huì)發(fā)生。但我認(rèn)為,，談?wù)撐覀冋J(rèn)為可能發(fā)生的事情以及實(shí)現(xiàn)這一目標(biāo)需要什么,，是我們職責(zé)和使命的一部分……”

奧特曼將人工智能監(jiān)管比作對(duì)核武器或生物技術(shù)的現(xiàn)有監(jiān)督，“或那些真正可能產(chǎn)生非常負(fù)面影響,、遠(yuǎn)遠(yuǎn)超出某個(gè)國(guó)家范圍的事情”,。

他針對(duì)方法論提出了具體建議（例如對(duì)輸出進(jìn)行安全測(cè)試，而不是讓政府監(jiān)管機(jī)構(gòu)嘗試審查所有公司的內(nèi)部代碼庫(kù)并評(píng)估機(jī)器學(xué)習(xí)模型中使用的權(quán)重）,。但奧特曼還有另一個(gè)擔(dān)憂(yōu),。“我對(duì)此的監(jiān)管過(guò)度感到非常緊張,。我認(rèn)為我們可能通過(guò)做得太多,，甚至做得稍微多一點(diǎn)，而把這件事搞砸,?！?/p>

他立即承認(rèn)，我們也可以“通過(guò)做得不夠而把這件事搞砸”,。但奧特曼擔(dān)任創(chuàng)業(yè)加速器 YCombinator 總裁五年,，也認(rèn)識(shí)到了企業(yè)家的觀點(diǎn)?！拔覀円呀?jīng)看到監(jiān)管越權(quán)或捕獲在其他領(lǐng)域變得非常糟糕,。”

因此,，他希望看到監(jiān)管機(jī)構(gòu)關(guān)注例如成本超過(guò) 100 億美元的項(xiàng)目,。“我認(rèn)為這不會(huì)給初創(chuàng)企業(yè)帶來(lái)任何監(jiān)管負(fù)擔(dān)?！?/p>

“去創(chuàng)造未來(lái)”

在談話(huà)初期,，奧特曼重申，免費(fèi)提供先進(jìn)技術(shù)是“我們使命中非常重要的一部分”,。他不僅想構(gòu)建人工智能工具,，還希望“讓它們得到廣泛使用——免費(fèi)或，你知道,，不太貴,，無(wú)論是什么——這樣人們就可以使用它們?nèi)?chuàng)造未來(lái)，而不是天上的神奇 AGI 創(chuàng)造未來(lái),，并將其傾瀉在我們身上,。

“這似乎是一條更好的道路。這似乎是一條更鼓舞人心的道路,。我也認(rèn)為這是事情實(shí)際發(fā)展的方向,。因此，我們還沒(méi)有想出如何向免費(fèi)用戶(hù)提供 GPT4 級(jí)技術(shù),，這讓我感到遺憾,。這是我們真正想做的事情……”

問(wèn)：我想這只是非常昂貴？

薩姆·奧特曼：非常昂貴,。

但奧特曼仍然預(yù)測(cè),，我們會(huì)看到一個(gè)人工智能廉價(jià)的世界?！斑@對(duì)我們很重要,，對(duì)用戶(hù)顯然很重要，而且它將解鎖很多東西,?！?/p>

這是奧特曼上周在宣布 GPT-4o時(shí)重申的一個(gè)主題?！拔曳浅Ｗ院?，我們已在 ChatGPT 中免費(fèi)提供了世界上最好的模型，沒(méi)有廣告或類(lèi)似的東西,。

“我們?cè)趧?chuàng)辦 OpenAI 時(shí)的最初設(shè)想是,，我們將創(chuàng)造人工智能，并利用它為世界創(chuàng)造各種好處,。相反,，現(xiàn)在看來(lái)，我們將創(chuàng)造人工智能,，然后其他人將利用它創(chuàng)造出我們所有人都受益的各種驚人事物。

“我們是一家企業(yè)，會(huì)找到很多收費(fèi)的事情,，這將幫助我們?yōu)椋ㄏＭ?shù)十億人提供免費(fèi),、出色的 AI 服務(wù)?！?/p>

超越“全民基本收入”

奧特曼顯然一直在思考未來(lái)——關(guān)于顛覆,、經(jīng)濟(jì)模式以及世界將是什么樣子。在播客中,，奧特曼表示他對(duì)人工智能導(dǎo)師的可能性“非常興奮”,，以及“進(jìn)行更快、更好的科學(xué)發(fā)現(xiàn)的可能性……這將是一場(chǎng)勝利”,。

但奧特曼也以3000 人全民基本收入試驗(yàn)而聞名,。因此，聽(tīng)到他對(duì)包含人工智能的新變體的最新坦率想法很有趣,。

全民基本計(jì)算：人工智能時(shí)代全民基本收入的再構(gòu)想,，根據(jù)[@sama]

在上周的播客中，薩姆·奧特曼提出了對(duì)傳統(tǒng)全民基本收入的看法：

“現(xiàn)在我們看到人工智能發(fā)展的一些方式……我想知道未來(lái)是否看起來(lái)更像是全民基本…… —— All-In 播客 (@theallinpod) [2024 年 5 月 15 日]

首先,，他談到了全民基本收入的傳統(tǒng)觀念,。“給人們錢(qián)并不能解決所有問(wèn)題,，”奧特曼說(shuō),。“它肯定不會(huì)讓人們快樂(lè),。但它可能會(huì)解決一些問(wèn)題,，它可能會(huì)給人們一個(gè)更好的視野，以便幫助他們自己,?！?/p>

但奧特曼有另一個(gè)想法?！艾F(xiàn)在我們看到人工智能發(fā)展的一些方式……我想知道未來(lái)是否看起來(lái)更像是全民基本計(jì)算,，而不是全民基本收入……每個(gè)人都像得到了一塊 GPT-7 的計(jì)算能力，他們可以使用它,，他們可以轉(zhuǎn)售它,，他們可以捐贈(zèng)給某人用于癌癥研究。但你得到的是不是美元,，而是這部分,。

“你擁有部分生產(chǎn)力！”

保留我們關(guān)心的事物

偶爾甚至?xí)骋?jiàn)奧特曼的個(gè)人感受——比如當(dāng)他談到一個(gè)蘋(píng)果廣告時(shí),，藝術(shù)材料被壓碎在一個(gè)液壓機(jī)里（被一個(gè)蘋(píng)果平板電腦取代）,。

“我顯然非?？春萌斯ぶ悄堋矣X(jué)得人類(lèi)創(chuàng)造力和人類(lèi)藝術(shù)表達(dá)中有一些東西很美，”奧特曼說(shuō),?！澳阒溃瑢?duì)于一個(gè)只是做得更好的科學(xué)的人工智能來(lái)說(shuō),？很好,，那就去做吧。但一個(gè)人工智能將要進(jìn)行這種深刻而美麗的人類(lèi)創(chuàng)造性表達(dá),？我認(rèn)為我們應(yīng)該弄清楚……”

奧特曼在半句話(huà)中停頓了一下——然后說(shuō)“它會(huì)發(fā)生的,。它將成為一個(gè)工具，將我們帶到更高的創(chuàng)造性高度,。

“但我認(rèn)為我們應(yīng)該弄清楚如何以一種保留我們所有人在這里關(guān)心的精神的方式來(lái)做到這一點(diǎn),。”

還有一些關(guān)于版權(quán)和訓(xùn)練數(shù)據(jù)的討論,，奧特曼透露 OpenAI 決定“不做音樂(lè)……部分原因正是因?yàn)檫@些問(wèn)題,，你如何劃清界限?！?/p>

“這將發(fā)生”

那么,，當(dāng)我們最終達(dá)到 AGI 的圣杯——一臺(tái)能力與人類(lèi)智能相匹配或超越人類(lèi)智能的機(jī)器時(shí)，會(huì)發(fā)生什么,？“我認(rèn)為很多人都很害怕 AGI,，這是可以理解的，”奧特曼承認(rèn),?！盎蛘叻浅：ε律踔?i>當(dāng)前的人工智能，并且對(duì)它非常興奮——甚至更加害怕,，并且對(duì)它的發(fā)展方向更加興奮,。”

“我們正在與之抗?fàn)?，但我認(rèn)為這是不可避免的,，它將發(fā)生?！?/p>

他似乎意識(shí)到存在非常真實(shí)的破壞潛力,，并同意“很多東西都會(huì)改變。而改變對(duì)人們來(lái)說(shuō)非常不舒服,。所以有很多事情我們必須做對(duì),。”

盡管如此,，最終,，奧特曼也相信這一切將被證明“非常有益,。但我們確實(shí)必須找到一種合理的方法來(lái)實(shí)現(xiàn)這一目標(biāo)?！痹谝稽c(diǎn)上,，奧特曼甚至強(qiáng)調(diào) OpenAI 的使命“是建立 AGI——并找出如何廣泛地分配其好處,?！?/p>

在奧特曼在采訪中加入他對(duì)漫漫前路真誠(chéng)的熱情聲明之前，他沒(méi)有離開(kāi),?！拔艺娴暮荜P(guān)心 AGI——并認(rèn)為這是世界上最有趣的工作?！?/p>

本文在云云眾生（https://yylives.cc/）首發(fā),，歡迎大家訪問(wèn)。