整理｜王奕昕 李錦輝

編輯｜李然

封面來(lái)源｜The Guardian

前OpenAI首席科學(xué)家Ilya終于官宣了自己的新動(dòng)向——成立一家致力于追求人工智能安全的新公司：Safe Superintelligence Inc.（SSI）。

彭博社報(bào)道截圖

今天Ilya在X上轉(zhuǎn)發(fā)了三位SSI聯(lián)合創(chuàng)始人的公開(kāi)信,，正式開(kāi)啟招聘。

超級(jí)智能觸手可及

構(gòu)建安全的超級(jí)智能（SSl）是我們這個(gè)時(shí)代最重要的技術(shù)問(wèn)題,。

我們已經(jīng)啟動(dòng)了世界上第一個(gè)直指超級(jí)智能安全實(shí)驗(yàn)室,，目標(biāo)和產(chǎn)品只有一個(gè)：安全的超級(jí)智能。

我們把它命名為安全超級(jí)智能公司,。

SSl是我們的使命,、名稱(chēng)和整個(gè)產(chǎn)品路線(xiàn)圖，因?yàn)樗俏覀兾ㄒ坏年P(guān)注點(diǎn),。

我們將安全和能力視為需要通過(guò)革命性的工程和科學(xué)突破來(lái)解決的技術(shù)問(wèn)題,。我們計(jì)劃在確保安全始終領(lǐng)先的同時(shí)，盡可能快地提高AI能力,。

這樣,，我們就能專(zhuān)心地?cái)U(kuò)大規(guī)模。

我們的專(zhuān)注意味著不會(huì)受到管理費(fèi)用或產(chǎn)品周期的干擾,，我們的業(yè)務(wù)模式意味著安全,、保障和進(jìn)步都不會(huì)受到短期商業(yè)壓力的影響。

我們是一家美國(guó)公司,，在帕洛阿爾托和特拉維夫設(shè)有辦事處,，在那里我們根基深厚，有能力招募頂尖技術(shù)人才,。

我們正在組建一支由世界上最優(yōu)秀的工程師和研究人員組成的精干,、嚴(yán)謹(jǐn)?shù)膱F(tuán)隊(duì)，專(zhuān)注于超級(jí)人工智能的安全。

如果你是這樣的人,，我們將為你提供一個(gè)完成這項(xiàng)畢生事業(yè)的機(jī)會(huì),，幫助你解決我們這個(gè)時(shí)代最重要的技術(shù)挑戰(zhàn)。

現(xiàn)在正是時(shí)候了,，請(qǐng)加入我們,。

最終，OpenAI的元老創(chuàng)始團(tuán)隊(duì)“一氣化三清”,，為世界貢獻(xiàn)了3股力量——OpenAI,，Anthropic，SSI,，分頭追求AGI和超越AGI的超級(jí)人工智能,。

而且值得注意的是,，Ilya在接受彭博社的專(zhuān)訪(fǎng)中專(zhuān)門(mén)提到：

來(lái)源：X

大模型將會(huì)在未來(lái)新的AI系統(tǒng)中扮演關(guān)鍵得角色,，但新的系統(tǒng)將會(huì)更加強(qiáng)大?，F(xiàn)在的大模型本質(zhì)的能力就是對(duì)話(huà)，但是未來(lái)他們做出的AI系統(tǒng)將會(huì)有更加通用的能力以及更強(qiáng)的規(guī)?；芰?。類(lèi)似于一個(gè)可以自主研發(fā)新技術(shù)的超級(jí)數(shù)據(jù)中心。

來(lái)源：X

SSI到底能夠?qū)崿F(xiàn)什么級(jí)別的AI,，非常令人期待。

OpenAI宮斗大結(jié)局

而我們把時(shí)間線(xiàn)慢慢往回?fù)?，捋一捋Ilya的出走過(guò)程,。

5月15日，因?yàn)镺penAI宮斗被雪藏快半年的Ilya,，終于正式官宣,，離開(kāi)它一手參與打造的OpenAI。當(dāng)時(shí)他沒(méi)有明確提出去向,，只是說(shuō)“會(huì)進(jìn)行下一個(gè)對(duì)于他個(gè)人來(lái)說(shuō)非常有意義的項(xiàng)目”,。

來(lái)源：網(wǎng)絡(luò)

現(xiàn)在看來(lái)，對(duì)于Ilya來(lái)說(shuō)，唯一有意義的事就是AI安全,。

來(lái)源：X

而從Ilya在公開(kāi)信中的措辭,，以及他對(duì)AI安全事業(yè)的堅(jiān)持，我們也能看出,，去年11月份,，OpenAI突發(fā)的“宮斗”事件，不僅僅是普通的權(quán)力和政治斗爭(zhēng),，而是OpenAI內(nèi)部對(duì)于前進(jìn)線(xiàn)路產(chǎn)生重大分歧后的矛盾爆發(fā),。

是否將產(chǎn)品發(fā)布和性能提升置于A(yíng)I安全之上，Ilya和Sam Altman一定是有不同意見(jiàn)的,。但是看著自己親手創(chuàng)建的OpenAI正在分崩離析,，他最后也選擇在聯(lián)名信上簽名，挽回Sam Altman,，即使他知道這樣做的代價(jià)是自己將離開(kāi)OpenAI,。

來(lái)源：Linkedin

現(xiàn)在回過(guò)頭來(lái)看Ilya在宮斗事件后發(fā)的道歉推文：要在世人面前公開(kāi)承認(rèn)自己因?yàn)樽非螽吷硐攵龅倪x擇（放逐Altman）是“錯(cuò)誤”的，還要因?yàn)榫S護(hù)OpenAI的完整性和聲譽(yù)不得不離開(kāi)自己曾經(jīng)戰(zhàn)斗過(guò)而現(xiàn)在也還深?lèi)?ài)著的地方,，是需要多么寬廣的胸懷啊,。

而最終，請(qǐng)回Sam Altman之后,，OpenAI董事會(huì)改組,。“AI安全派”董事被新的外部董事代替,，最高權(quán)力機(jī)構(gòu)中的制衡不復(fù)存在，OpenAI成了Sam Altman的OpenAI,。

另外兩位創(chuàng)始人介紹

再讓我們看看,，到底什么樣背景的人，能夠成為Ilya新公司的聯(lián)合創(chuàng)始人,。

Daniel Gross

來(lái)源：個(gè)人網(wǎng)站

Daniel Gross，出生于以色列,，是一名企業(yè)家和投資者,，以其對(duì)創(chuàng)新技術(shù)和早期創(chuàng)業(yè)項(xiàng)目的深刻洞察而聞名。他在美國(guó)接受教育,，開(kāi)展職業(yè)生涯,，曾在耶魯大學(xué)專(zhuān)攻計(jì)算機(jī)科學(xué)，并在此期間開(kāi)始了他的技術(shù)創(chuàng)業(yè)之旅,。Gross 的職業(yè)生涯跨越了技術(shù)創(chuàng)新,、風(fēng)險(xiǎn)投資和人工智能等多個(gè)領(lǐng)域。

職業(yè)經(jīng)歷：

△Cue 會(huì)智能地將人們最常使用的帳戶(hù)（包括電子郵件,、聯(lián)系人和日歷）中的有用信息整合在一起并在合適的時(shí)間顯示出來(lái)。人們可以一目了然地查看一整天的信息,，也可以使用 Cue 同時(shí)搜索所有帳戶(hù),。圖源：Y Combinator

Daniel Gross 在大學(xué)期間作為聯(lián)合創(chuàng)始人創(chuàng)立了 Cue（一款可以整合電子郵件、聯(lián)系信息和社交網(wǎng)絡(luò)數(shù)據(jù)的搜索引擎）,。2013年,，Cue 被蘋(píng)果公司以高達(dá)4000萬(wàn)美元的價(jià)格收購(gòu)。這次收購(gòu)不僅為 Gross 提供了資金,，也為他后續(xù)的事業(yè)打下了堅(jiān)實(shí)的基礎(chǔ),。

我們是一個(gè)小團(tuán)隊(duì),，致力于尋找和資助世界上富有創(chuàng)造力和雄心勃勃的局外人——這些人可以創(chuàng)建偉大的公司,，但可能沒(méi)有資源或機(jī)會(huì)。圖源：Pioneer官網(wǎng)

Cue 會(huì)智能地將人們最常使用的帳戶(hù)（包括電子郵件、聯(lián)系人和日歷）中的有用信息整合在一起并在合適的時(shí)間顯示出來(lái),。人們可以一目了然地查看一整天的信息,，也可以使用 Cue 同時(shí)搜索所有帳戶(hù)。圖源：Y Combinator

2013-2017年,，Gross 加入蘋(píng)果公司,，負(fù)責(zé)了多個(gè)與人工智能和搜索技術(shù)相關(guān)的項(xiàng)目，增強(qiáng)了他在 AI 領(lǐng)域的專(zhuān)業(yè)知識(shí)和經(jīng)驗(yàn),。

離開(kāi)蘋(píng)果后,，Gross 于2017年初加入 Y Combinator（著名的創(chuàng)業(yè)孵化器和風(fēng)險(xiǎn)投資公司）擔(dān)任合伙人。在 Y Combinator,，他在 AI 領(lǐng)域?qū)Ρ姸喑鮿?chuàng)企業(yè)進(jìn)行了篩選和指導(dǎo),，提供了大量幫助。

2018年,，Daniel Gross 創(chuàng)立了 Pioneer,，這是一個(gè)通過(guò)在線(xiàn)競(jìng)賽來(lái)發(fā)現(xiàn)和支持全球創(chuàng)新、創(chuàng)業(yè)人才的平臺(tái),。參與者需要提交他們的項(xiàng)目想法,，并通過(guò)一系列的挑戰(zhàn)和任務(wù)來(lái)展示他們的創(chuàng)新能力和執(zhí)行力。這些任務(wù)大多模擬創(chuàng)業(yè)過(guò)程中的各種挑戰(zhàn),，從而測(cè)試參與者的問(wèn)題解決能力和持久性,。

Daniel Levy

來(lái)源：個(gè)人Linkedin

Daniel Levy在2022年加入OpenAI,，擔(dān)任優(yōu)化團(tuán)隊(duì)（Optimization team）負(fù)責(zé)人,。

他于2015年，在巴黎綜合理工學(xué)院（Ecole Polytechnique）獲得理學(xué)學(xué)士,，專(zhuān)業(yè)為應(yīng)用數(shù)學(xué)（Applied Mathmetics）,。2018年，獲得計(jì)算機(jī)科學(xué)（Computer Science）碩士學(xué)位,，導(dǎo)師為斯蒂法諾·埃爾蒙（Stefano Ermon）,，碩士階段主要研究概率模型和強(qiáng)化學(xué)習(xí)（probabilistic models and reinforcement learning）。2021年,，繼續(xù)在斯坦福大學(xué)攻讀并獲得計(jì)算機(jī)科學(xué)（Computer Science）博士學(xué)位,，導(dǎo)師為約翰·杜奇（John Duchi），斯坦福大學(xué)統(tǒng)計(jì)和電子工程副教授,。攻讀博士期間經(jīng)過(guò)導(dǎo)師指導(dǎo),，研究領(lǐng)域是機(jī)器學(xué)習(xí)、優(yōu)化和隱私保護(hù)（machine learning, optimization, and privacy）的前沿技術(shù),。

職業(yè)經(jīng)歷：
2016年,，曾在Facebook應(yīng)用機(jī)器學(xué)習(xí)部門(mén)實(shí)習(xí),。

2017年，曾在Google Brain實(shí)習(xí),，期間與Jascha Sohl-Dickstein和Matt Hoffman共事,。

2020年，曾在Google Research實(shí)習(xí),，期間與Ananda Theertha Suresh,、Satyen Kale和Mehryar Mohri共事。