來源：云云眾生s

Altman 認為 OpenAI 的使命是構(gòu)建一個人工通用智能,，并廣泛傳播其好處。

譯自What OpenAI CEO Sam Altman Really Expects In AI’s Future,，作者 David Cassel,。

上周,，OpenAI發(fā)布了 GPT-4o，這是功能強大的聊天機器人的最新語音交互版本,。但在發(fā)布前幾天,，OpenAI首席執(zhí)行官薩姆·阿爾特曼在“All-In”播客中接受了一個小時的采訪，分享了一些出人意料的坦率想法,。

由一群高級風(fēng)險投資家主持 ——Chamath Palihapitiya,、Jason Calacanis、David O. Sacks和David Friedberg—— 該播客讓阿爾特曼有機會在更具對話性的環(huán)境中暢所欲言,。

在長達一小時的廣泛討論中,，阿爾特曼提供了有關(guān)他對 OpenAI 的長期愿景的線索——甚至包括世界發(fā)展通用人工智能的可能軌跡。作為世界頂級人工智能公司的負責(zé)人，阿爾特曼回答了有關(guān)安全性,、可負擔(dān)性,、經(jīng)濟模式和下一個偉大目標的問題。

并且在某個過程中,，他可能還瞥見了未來的發(fā)展方向,。

本質(zhì)上不同

當宣布 GPT-4o時，阿爾特曼指出了它在 OpenAI 產(chǎn)品演變中的位置,?！白畛醯?ChatGPT 展示了語言界面可能實現(xiàn)的一絲希望；這個新事物感覺本質(zhì)上不同,。它快速,、智能、有趣,、自然且有用,。對我來說,，與計算機交談從未真正感覺自然；現(xiàn)在感覺自然了,?！?/p>

但正是通過播客，你才能感覺到這對他的長期愿景有多么重要,。在討論人類的下一個偉大技術(shù)是什么之后,，阿爾特曼補充了這個發(fā)人深省的觀點?！拔艺J為語音是下一個事物的一絲希望,。

“比如，如果你能使語音交互變得非常好,，它就會感覺——我認為這感覺像是一種不同的使用計算機的方式,。”

安全性如何,？

上周,，OpenAI 還因解散他們10 個月前創(chuàng)建的團隊而登上頭條,，該團隊探索了解決方案,，“以引導(dǎo)和控制比我們聰明得多的 AI 系統(tǒng)”，因為該團隊的兩位領(lǐng)導(dǎo)人都已辭職,。（CNBC 指出,，Ilya Sutskever 是 11 月投票罷免阿爾特曼的董事會成員之一，而 Jan Leike在 Twitter 上抱怨星期五,，OpenAI 的“安全文化和流程已退居閃亮產(chǎn)品的次要地位,。”）

在過去的幾個月里,，我的團隊一直在逆風(fēng)航行,。有時我們?yōu)橛嬎愣嗫鄴暝瓿蛇@項至關(guān)重要的研究變得越來越困難,。

— Jan Leike (@janleike) [2024 年 5 月 17 日]

因此,，在這些辭職宣布前幾天，聽到阿爾特曼對11 月罷免的評論很有趣,?！翱矗@然并非所有這些董事會成員都是我世界上最喜歡的人,。但我非常尊重他們對待 AGI 的嚴肅性以及正確實現(xiàn) AI 安全性的重要性,。即使我強烈不同意他們的決策和行動，但我確實不同意,，我從未懷疑過他們對安全和有益的 AGI 這種共同使命的正直或承諾,?！?/p>

我在 OpenAI 的時光是我人生的轉(zhuǎn)折點，希望對世界也有一點幫助,。最重要的是,，我喜歡與如此有才華的人共事。

稍后會詳細介紹下一步計劃,。

— 薩姆·阿爾特曼 (@sama) [2023 年 11 月 17 日]

阿爾特曼還直接解決了風(fēng)險問題,。“我認為在不久的將來,，前沿 AI 系統(tǒng)將能夠造成重大的全球損害,。”他希望的是一個國際機構(gòu),，確保對最強大的系統(tǒng)進行“合理的安全性測試”,，以便“你知道，這些東西不會逃逸并遞歸地自我完善或其他……”他后來補充說,，“也許什么都不會發(fā)生,。但我認為，談?wù)撐覀冋J為可能發(fā)生的事情以及實現(xiàn)這一目標需要什么,，是我們職責(zé)和使命的一部分……”

奧特曼將人工智能監(jiān)管比作對核武器或生物技術(shù)的現(xiàn)有監(jiān)督,，“或那些真正可能產(chǎn)生非常負面影響、遠遠超出某個國家范圍的事情”,。

他針對方法論提出了具體建議（例如對輸出進行安全測試,，而不是讓政府監(jiān)管機構(gòu)嘗試審查所有公司的內(nèi)部代碼庫并評估機器學(xué)習(xí)模型中使用的權(quán)重）。但奧特曼還有另一個擔(dān)憂,?！拔覍Υ说谋O(jiān)管過度感到非常緊張。我認為我們可能通過做得太多,，甚至做得稍微多一點,，而把這件事搞砸?！?/p>

他立即承認,，我們也可以“通過做得不夠而把這件事搞砸”。但奧特曼擔(dān)任創(chuàng)業(yè)加速器 YCombinator 總裁五年,，也認識到了企業(yè)家的觀點,。“我們已經(jīng)看到監(jiān)管越權(quán)或捕獲在其他領(lǐng)域變得非常糟糕,?！?/p>

因此，他希望看到監(jiān)管機構(gòu)關(guān)注例如成本超過 100 億美元的項目,?！拔艺J為這不會給初創(chuàng)企業(yè)帶來任何監(jiān)管負擔(dān),。”

“去創(chuàng)造未來”

在談話初期,，奧特曼重申,，免費提供先進技術(shù)是“我們使命中非常重要的一部分”。他不僅想構(gòu)建人工智能工具,，還希望“讓它們得到廣泛使用——免費或,，你知道，不太貴,，無論是什么——這樣人們就可以使用它們?nèi)?chuàng)造未來,，而不是天上的神奇 AGI 創(chuàng)造未來，并將其傾瀉在我們身上,。

“這似乎是一條更好的道路,。這似乎是一條更鼓舞人心的道路。我也認為這是事情實際發(fā)展的方向,。因此,，我們還沒有想出如何向免費用戶提供 GPT4 級技術(shù)，這讓我感到遺憾,。這是我們真正想做的事情……”

問：我想這只是非常昂貴,？

薩姆·奧特曼：非常昂貴。

但奧特曼仍然預(yù)測,，我們會看到一個人工智能廉價的世界,?！斑@對我們很重要,，對用戶顯然很重要，而且它將解鎖很多東西,?！?/p>

這是奧特曼上周在宣布 GPT-4o時重申的一個主題?！拔曳浅Ｗ院?，我們已在 ChatGPT 中免費提供了世界上最好的模型，沒有廣告或類似的東西,。

“我們在創(chuàng)辦 OpenAI 時的最初設(shè)想是,，我們將創(chuàng)造人工智能，并利用它為世界創(chuàng)造各種好處,。相反,，現(xiàn)在看來，我們將創(chuàng)造人工智能,，然后其他人將利用它創(chuàng)造出我們所有人都受益的各種驚人事物,。

“我們是一家企業(yè),，會找到很多收費的事情，這將幫助我們?yōu)椋ㄏＭ?shù)十億人提供免費,、出色的 AI 服務(wù),。”

超越“全民基本收入”

奧特曼顯然一直在思考未來——關(guān)于顛覆,、經(jīng)濟模式以及世界將是什么樣子,。在播客中，奧特曼表示他對人工智能導(dǎo)師的可能性“非常興奮”,，以及“進行更快,、更好的科學(xué)發(fā)現(xiàn)的可能性……這將是一場勝利”。

但奧特曼也以3000 人全民基本收入試驗而聞名,。因此,，聽到他對包含人工智能的新變體的最新坦率想法很有趣。

全民基本計算：人工智能時代全民基本收入的再構(gòu)想,，根據(jù)[@sama]

在上周的播客中,，薩姆·奧特曼提出了對傳統(tǒng)全民基本收入的看法：

“現(xiàn)在我們看到人工智能發(fā)展的一些方式……我想知道未來是否看起來更像是全民基本…… —— All-In 播客 (@theallinpod) [2024 年 5 月 15 日]

首先，他談到了全民基本收入的傳統(tǒng)觀念,?！敖o人們錢并不能解決所有問題，”奧特曼說,?！八隙ú粫屓藗兛鞓贰５赡軙鉀Q一些問題,，它可能會給人們一個更好的視野,，以便幫助他們自己?！?/p>

但奧特曼有另一個想法,。“現(xiàn)在我們看到人工智能發(fā)展的一些方式……我想知道未來是否看起來更像是全民基本計算,，而不是全民基本收入……每個人都像得到了一塊 GPT-7 的計算能力,，他們可以使用它，他們可以轉(zhuǎn)售它,，他們可以捐贈給某人用于癌癥研究,。但你得到的是不是美元，而是這部分,。

“你擁有部分生產(chǎn)力,！”

保留我們關(guān)心的事物

偶爾甚至?xí)骋妸W特曼的個人感受——比如當他談到一個蘋果廣告時，藝術(shù)材料被壓碎在一個液壓機里（被一個蘋果平板電腦取代）。

“我顯然非?？春萌斯ぶ悄堋矣X得人類創(chuàng)造力和人類藝術(shù)表達中有一些東西很美,，”奧特曼說?！澳阒?，對于一個只是做得更好的科學(xué)的人工智能來說？很好,，那就去做吧,。但一個人工智能將要進行這種深刻而美麗的人類創(chuàng)造性表達？我認為我們應(yīng)該弄清楚……”

奧特曼在半句話中停頓了一下——然后說“它會發(fā)生的,。它將成為一個工具,，將我們帶到更高的創(chuàng)造性高度。

“但我認為我們應(yīng)該弄清楚如何以一種保留我們所有人在這里關(guān)心的精神的方式來做到這一點,?！?/p>

還有一些關(guān)于版權(quán)和訓(xùn)練數(shù)據(jù)的討論，奧特曼透露 OpenAI 決定“不做音樂……部分原因正是因為這些問題,，你如何劃清界限,。”

“這將發(fā)生”

那么,，當我們最終達到 AGI 的圣杯——一臺能力與人類智能相匹配或超越人類智能的機器時,，會發(fā)生什么？“我認為很多人都很害怕 AGI,，這是可以理解的,，”奧特曼承認?！盎蛘叻浅：ε律踔?i>當前的人工智能,，并且對它非常興奮——甚至更加害怕，并且對它的發(fā)展方向更加興奮,?！?/p>

“我們正在與之抗爭，但我認為這是不可避免的,，它將發(fā)生?！?/p>

他似乎意識到存在非常真實的破壞潛力,，并同意“很多東西都會改變。而改變對人們來說非常不舒服,。所以有很多事情我們必須做對,。”

盡管如此，最終,，奧特曼也相信這一切將被證明“非常有益,。但我們確實必須找到一種合理的方法來實現(xiàn)這一目標?！痹谝稽c上,，奧特曼甚至強調(diào) OpenAI 的使命“是建立 AGI——并找出如何廣泛地分配其好處?！?/p>

在奧特曼在采訪中加入他對漫漫前路真誠的熱情聲明之前,，他沒有離開?！拔艺娴暮荜P(guān)心 AGI——并認為這是世界上最有趣的工作,。”

本文在云云眾生（https://yylives.cc/）首發(fā),，歡迎大家訪問,。