文章來源：甲子光年

作者：趙健

圖片來源：由無界AI生成

Sora 一夜之間爆火全球。但奇怪的是,，OpenAI 聯(lián)合創(chuàng)始人兼首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）卻在保持沉默,，沒有轉(zhuǎn)發(fā)任何一條關(guān)于 Sora 的視頻或推文。

Sora 目前沒有公開測試權(quán)限,，僅僅向公司內(nèi)部負(fù)責(zé)安全風(fēng)險(xiǎn)評(píng)估的紅隊(duì)成員（Red Teamers），以及極少數(shù)視覺藝術(shù)家,、設(shè)計(jì)師和電影制作人提供訪問權(quán)限,。因此模型發(fā)布當(dāng)天，OpenAI CEO 薩姆·奧爾特曼（Sam Altman）在社交平臺(tái) X 上在線接單,，基于用戶給出的提示詞一連發(fā)布了 8 條視頻,。

OpenAI 聯(lián)合創(chuàng)始人兼總裁格雷格·布羅克曼（Greg Brockman）、CTO 米拉·穆拉蒂（Mira Murati）等人,，也在積極為 Sora 宣傳,。

但伊爾亞的最后一條推文，停留在了 2023 年 12 月 15 日,。

OpenAI 在其官網(wǎng)上的 Sora 的文章后面留下了團(tuán)隊(duì)成員的名字,。在一串致謝名單中，我們看到了薩姆·奧爾特曼,、格雷格·布羅克曼,、米拉·穆拉蒂等人的名字，但唯獨(dú)沒有出現(xiàn)伊爾亞·蘇茨克維,。

這不禁讓人懷疑，伊爾亞究竟是在埋頭研究 GPT-5,，還是已經(jīng)離開了 OpenAI ,？

值得一提的是，OpenAI 創(chuàng)始成員之一,、AI 技術(shù)研究員安德烈·卡帕蒂（Andrej Karpathy）在Sora 發(fā)布前夕離職。有網(wǎng)友大膽猜想：“如果 Andrej 和 Ilya 創(chuàng)辦一家真正開放的人工智能公司怎么辦？”

1.“我們終于知道伊爾亞看到什么了”

今天,，OpenAI 最新發(fā)布的 Sora 模型再次讓人們感受到了人工智能的強(qiáng)大,，強(qiáng)大到令人害怕,。

Sora 不僅僅是一個(gè)視頻生成模型，它涌現(xiàn)出了對(duì)物理世界的理解能力（盡管還存在局限），OpenAI 直接將其定義為“世界模擬器”（world simulators）——它打開了一條通往模擬物理世界的有效路徑。不少人感慨,，“現(xiàn)實(shí)不存在了”,，“物理學(xué)不存在了”,。

人們似乎在這一刻終于理解了伊爾亞為什么一直執(zhí)著于人工智能的安全性研究,。強(qiáng)大的 AI 模型對(duì)世界帶來的風(fēng)險(xiǎn)并非遙不可及。

有網(wǎng)友表示：“現(xiàn)在,，我們知道伊爾亞看到什么了,?！卑Ｂ　ゑR斯克則在貼子里留下了一個(gè)表情：??。

去年,，隨著 GPT-4 以及后續(xù)一系列更強(qiáng)大的大語言模型的更新,，以伊爾亞為代表的 OpenAI 成員越來越多地考慮 AI 的可控性問題,。

為此,，OpenAI 在 2023 年 7 月 5日宣布成立一個(gè)新的團(tuán)隊(duì)“超級(jí)對(duì)齊”（Superalignment），來研究引導(dǎo)和控制比人類聰明得多的 AI 系統(tǒng)。這一項(xiàng)目由伊爾亞與同事簡·萊克（Jan Leike）共同領(lǐng)導(dǎo),，并將 OpenAI 20% 的算力專門用于該項(xiàng)目的研究,。

一般認(rèn)為,，去年 11 月鬧得沸沸揚(yáng)揚(yáng)的 OpenAI “宮斗事件”的導(dǎo)火索,，就是伊爾亞對(duì)于 AI 的發(fā)展理念與薩姆產(chǎn)生了分歧，伊爾亞越來越擔(dān)憂 OpenAI 的技術(shù)可能造成極度危險(xiǎn)的局面，他覺得薩姆對(duì)待 AI 應(yīng)該更加謹(jǐn)慎,。顯然,，薩姆并沒有停下來,。

在硅谷,，對(duì)于?AI?的不同態(tài)度把人群分成了保守派與激進(jìn)派,。保守派也被稱為EA（Effective Altruism,，有效利他主義），代表人物是“人工智能教父”杰弗里·辛頓（Geoffrey Hinton）,，伊爾亞就是他的學(xué)生,。

激進(jìn)派被稱為“e/acc（有效加速主義）”，很多知名的科技大佬,、AI 從業(yè)者都是 e/acc 主義的信徒,。薩姆并未公開表達(dá)過自己的立場，但考慮到他帶領(lǐng)下的 OpenAI 一系列激進(jìn)的產(chǎn)品發(fā)布節(jié)奏,，事實(shí)上他已經(jīng)成為 e/acc 的代言人,。

伊爾亞聯(lián)合董事會(huì)成員罷免了薩姆。但在大股東微軟的斡旋與 OpenAI 全體員工請辭的壓力下,，伊爾亞最終妥協(xié)讓步,，薩姆在幾天后重新回到了 OpenAI 并掌權(quán)，并重組了董事會(huì),。

宮斗事件結(jié)束后,，伊爾亞并沒有立即離開 OpenAI，薩姆希望繼續(xù)他們之間的工作關(guān)系,，并正在討論他如何繼續(xù)在 OpenAI 的工作,。

薩姆表達(dá)了對(duì)伊爾亞的謝意：“我尊重并熱愛著伊爾亞，我認(rèn)為他是這個(gè)領(lǐng)域的指路明燈,，也是人類的瑰寶,。我對(duì)他的惡意為零?！?/p>

但去年外媒一篇報(bào)道曾指出,，伊爾亞似乎處于一種“迷茫”的狀態(tài),，在 OpenAI 變得“隱形”,。自薩姆回歸以來，伊爾亞就沒有出現(xiàn)在 OpenAI 舊金山的辦公室內(nèi),。馬斯克也向伊爾亞拋出了橄欖枝,，他表示伊爾亞應(yīng)該加入特斯拉或他的 AI 公司 xAI。

伊爾亞對(duì)于人工智能安全的工作還在繼續(xù),。12 月 14 日,，OpenAI 發(fā)布了超級(jí)對(duì)齊項(xiàng)目的最新研究論文：使用 GPT-2 級(jí)別的小模型來監(jiān)督 GPT-4 級(jí)別的大模型，并獲得接近 GPT-3.5 級(jí)別的性能。同時(shí),，OpenAI 宣布與 Eric Schmidt 合作,，啟動(dòng)了一項(xiàng) 1000 萬美元的資助計(jì)劃支持技術(shù)研究，以確保超人類人工智能系統(tǒng)的一致性和安全性,。

作為該論文核心作者之一的伊爾亞,，也在 X 上轉(zhuǎn)發(fā)了相關(guān)內(nèi)容。但這是宮斗事件至今,，伊爾亞在 X上轉(zhuǎn)發(fā)的關(guān)于 OpenAI 進(jìn)展的唯一內(nèi)容,。

我們暫時(shí)無法得知伊爾亞是否已經(jīng)離開了 OpenAI ,，但他對(duì)于 Sora 的沉默態(tài)度似乎并不尋常,。

伊爾亞在簽名上寫著：“朝著擁抱人性多樣化的通用人工智能發(fā)展?！?/p>

2.人才是 OpenAI 的核心競爭力

雖然伊爾亞并不在 Sora 的研究團(tuán)隊(duì)中,，但 Sora 仍然表現(xiàn)出了壓倒性的性能優(yōu)勢，可見人才密度是 OpenAI 領(lǐng)先的重要因素,。

Sora 團(tuán)隊(duì)整體非常年輕。核心成員有三位,，分別是研究負(fù)責(zé)人Bill Peebles（比爾·皮布爾斯）與 Tim Brooks（蒂姆·布魯克斯）與系統(tǒng)主管 Connor Holmes,。

Conner Holmes 曾是微軟研究員，在微軟工作時(shí)以外援形式參與了 DALL·E 3 的推理優(yōu)化工作,，后來跳槽加入 OpenAI ,。

Bill Peebles 本科就讀于 MIT，主修計(jì)算機(jī)科學(xué),，參加了 GAN 和 text2video 的研究,，還在英偉達(dá)深度學(xué)習(xí)與自動(dòng)駕駛團(tuán)隊(duì)實(shí)習(xí)，研究計(jì)算機(jī)視覺,。畢業(yè)后正式開始讀博之前,，他還參加了 Adobe 的暑期實(shí)習(xí)，研究的依然是 GAN,。

2022年5月，Bill 到 Meta 進(jìn)行了為期半年的實(shí)習(xí),，和謝賽寧（ Bill 開始實(shí)習(xí)時(shí)還未離開 Meta）合作發(fā)表了 DiT 模型,，首次將 Transformer 與擴(kuò)散模型（Diffusion Model）結(jié)合到了一起。從加州大學(xué)伯克利分校博士畢業(yè)之后,，Bill 加入了 OpenAI,。

Sora 的模型架構(gòu)，就是參考了 Bill 與 謝賽寧合作發(fā)表的 DiT 論文。值得一提的是,，該論文主要聚焦在了 DiT 架構(gòu)在圖像生成領(lǐng)域的性能表現(xiàn),。有人推測，隨著 Bill 加入OpenAI ,，他很可能把自己在視頻領(lǐng)域的研究成果,，也帶到了 OpenAI 的 Sora 項(xiàng)目中。

Sora 的另一個(gè)核心作者是 Tim Brooks,，曾在 Google 負(fù)責(zé) Pixel 手機(jī)攝像頭的機(jī)器學(xué)習(xí)工作,，以及在英偉達(dá)負(fù)責(zé)視頻生成模型研究。

2023 年從加州大學(xué)伯克利分校博士畢業(yè)后,，Tim 加入 OpenAI,，參與了 DALL·E 3 相關(guān)研究。

在其他幾位作者中,，也包括兩位華人 Li Jing 與 Yufei Guo,。

今天，上海交大校友,、目前在紐約大學(xué)擔(dān)任助教的謝賽寧在朋友圈辟謠了自己是 Sora 作者之一的消息,。他表示，Sora 是 Bill 他們在 OpenAI 的嘔心瀝血之作,，雖然不知道細(xì)節(jié),，但他們每天基本不睡覺高強(qiáng)度工作了一年。

同時(shí),，謝賽寧也對(duì) Sora 發(fā)表了他的觀點(diǎn)：

第一,，對(duì)于 Sora 這樣的復(fù)雜系統(tǒng)，人才第一,，數(shù)據(jù)第二,，算力第三，其他都沒有什么是不可替代的,；

第二,，在問 Sora 為什么沒出現(xiàn)在中國的同時(shí)，可能也得問問假設(shè)真的出現(xiàn)了（可能很快）,，我們有沒有準(zhǔn)備好,？

如何能保證知識(shí)和創(chuàng)意的通暢準(zhǔn)確傳播讓每個(gè)人擁有講述和傳播自己故事的「超能力」，做到某種意義上的信息平權(quán),。但是又不被惡意利用,，變成某些人某些組織的謀利和操縱工具。oai 有一整套的 redteaming, safety guardrail 的研究部署,，歐美有逐漸成熟的監(jiān)管體系,，我們準(zhǔn)備好了嗎,？

這件事跟技術(shù)成熟前，生成點(diǎn)小打小鬧的漂亮圖片不是一個(gè)量級(jí),，真相捕捉和黑鏡里講的故事,，很有可能很快變成現(xiàn)實(shí)。