原文來(lái)源：新智元

圖片來(lái)源：由無(wú)界 AI生成

【導(dǎo)讀】Sam Altman在APEC上曾暗示,，OpenAI已經(jīng)開(kāi)發(fā)出比現(xiàn)在GPT-4更強(qiáng)大,、遠(yuǎn)遠(yuǎn)超出人們期待的東西。一天后,，他被解雇了,。一封據(jù)稱發(fā)給董事會(huì)的警告信也顯示，OpenAI的某個(gè)模型,，內(nèi)部已產(chǎn)生重大飛躍,。

Sam Alman被解雇，又曝出最新內(nèi)幕,！?

據(jù)路透社報(bào)道,，就在他被解雇的前四天，OpenAI內(nèi)部的研究員曾向董事會(huì)發(fā)了一封警告信，稱發(fā)現(xiàn)了一個(gè)可能威脅人類的強(qiáng)大人工智能。?

知情人士表示,，這封此前從未報(bào)道過(guò)的信,，也是董事會(huì)最終罷免Altman的導(dǎo)火索之一。?

據(jù)稱，曾任OpenAI臨時(shí)CEO的Mira Murati,，在周三提到了這個(gè)名為Q*（讀作Q-Star）的項(xiàng)目,，并且在「政變」發(fā)生之前給董事會(huì)寫過(guò)一封信。?

董事會(huì)覺(jué)得,，Altman瞞著董事會(huì)在推進(jìn)可能威脅人類的項(xiàng)目,。?

與此同時(shí)，有內(nèi)部研究員認(rèn)為,，OpenaAI在Q*上取得的進(jìn)展,，將會(huì)成為AGI的一個(gè)重要突破！?

不過(guò),，就在剛剛,，TradingStrategy.ai聯(lián)創(chuàng)表示，「AI重大突破」這個(gè)說(shuō)法已被OpenAI內(nèi)部人士打假,。?

APEC會(huì)議上的「危險(xiǎn)」發(fā)言

印證Q*項(xiàng)目的另一事件，是Sam Altman在被解雇的一天,，在APEC一次會(huì)議上的發(fā)言,。?

在那次會(huì)議上，他暗示了OpenAI已經(jīng)開(kāi)發(fā)出了比GPT-4更強(qiáng)大,、更難以想象的東西,，遠(yuǎn)超人們的期待。?

模型的能力將會(huì)有一個(gè)無(wú)人預(yù)料到的飛躍,。與人們的預(yù)期不同,，這個(gè)飛躍是驚人的！?

而這次發(fā)言,，很可能也是他被解雇的導(dǎo)火索之一,，會(huì)讓Ilya等董事會(huì)成員認(rèn)為，他隱瞞了許多信息,。?

現(xiàn)在正在發(fā)生的技術(shù)變革,，將徹底改變我們生活方式、經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)以及其他可能性限制……這在OpenAI的歷史上有四次 ,，而最近一次,，就是在過(guò)去幾周內(nèi)。?
在撥開(kāi)無(wú)知的面紗和探索未知的邊界時(shí),，我有幸在場(chǎng),， 這是我職業(yè)生涯中的榮幸。?

Q*就是AGI,？

其中一位知情人士說(shuō)，在與路透社聯(lián)系后,，拒絕置評(píng)的OpenAI在給員工的內(nèi)部消息中,，承認(rèn)了一個(gè)名為Q*的項(xiàng)目，并在周末的活動(dòng)前給董事會(huì)寫了一封信,。?

OpenAI的一位發(fā)言人表示,，這條消息由CTO Mira Murati發(fā)送，提醒員工注意某些媒體報(bào)道,，但并沒(méi)有對(duì)其準(zhǔn)確性發(fā)表評(píng)論,。?

其中一位知情人士告訴路透社，OpenAI的一些人認(rèn)為Q*（發(fā)音為Q-Star）可能是OpenAI在AGI上取得的一個(gè)突破,。?

在OpenAI看來(lái),，AIG可以定義為「在最具經(jīng)濟(jì)價(jià)值的任務(wù)中，超越人類的自主系統(tǒng)」,。?

因?yàn)榫薮蟮乃懔χС郑履Ｐ涂梢越鉀Q某些數(shù)學(xué)問(wèn)題,。雖然只是可以在小學(xué)水平上做數(shù)學(xué)題,，但通過(guò)這樣的測(cè)試,，讓研究者對(duì)Q*的未來(lái)非常樂(lè)觀。?

根據(jù)內(nèi)部人士透露,，在給董事會(huì)的信中,，研究人員標(biāo)記了AI的實(shí)力和潛在危險(xiǎn)，但沒(méi)有具體說(shuō)明信中提到的確切安全問(wèn)題,。?

另外,，研究人員還標(biāo)記了一個(gè)「人工智能科學(xué)家」團(tuán)隊(duì)的工作，有多個(gè)消息來(lái)源證實(shí)了該團(tuán)隊(duì)的存在,。?

30多年前，F(xiàn)odor和Pylyshyn提出的經(jīng)典論點(diǎn)——神經(jīng)網(wǎng)絡(luò)由于其統(tǒng)計(jì)性質(zhì)而從根本上缺乏人類的系統(tǒng)組合技能——給神經(jīng)網(wǎng)絡(luò)研究蒙上了長(zhǎng)長(zhǎng)的陰影?

其中一位知情人士說(shuō),，該小組由早期的「Code Gen」和「Math Gen」團(tuán)隊(duì)組成,，正在探索如何優(yōu)化現(xiàn)有的人工智能模型，以提高其推理能力,，并最終進(jìn)行科學(xué)工作,。?

項(xiàng)目由Ilya主導(dǎo)

據(jù)悉，一些OpenAI員工認(rèn)為,，Altman的言論應(yīng)該指的是公司早些時(shí)候的一項(xiàng)創(chuàng)新,，就是這項(xiàng)創(chuàng)新，能讓他們開(kāi)發(fā)出更強(qiáng)大的AI模型,。?

Ilya團(tuán)隊(duì)的這項(xiàng)工作,，此前從未被報(bào)道過(guò)。?

知情人士透露,，這項(xiàng)由OpenAI首席科學(xué)家Ilya Sutskever主導(dǎo)的技術(shù)突破,，引起了一些員工的擔(dān)憂。他們擔(dān)心公司沒(méi)有合適的保障措施,，來(lái)將這種先進(jìn)的AI模型商業(yè)化,。?

在接下來(lái)的幾個(gè)月里,，OpenAI的高級(jí)研究人員又利用這項(xiàng)創(chuàng)新,，建立了能夠解決基本數(shù)學(xué)問(wèn)題的系統(tǒng)。?

經(jīng)常用大模型的人都知道,，數(shù)學(xué)問(wèn)題對(duì)于現(xiàn)有的LLM,，都是一項(xiàng)艱巨的任務(wù)。?

根據(jù)The Information報(bào)道,，OpenAI的兩位研究員,，Jakub Pachocki和Symon Sidor，利用Ilya的工作成果建立了一個(gè)名為Q*(讀作「Q-Star」) 的模型,。?

據(jù)稱,，Q*模型能夠解決它以前從未見(jiàn)過(guò)的數(shù)學(xué)問(wèn)題，而這，是一個(gè)重要的技術(shù)里程碑,。?

最近幾周內(nèi),，該模型的演示一直在OpenAI內(nèi)部流傳，而AI的發(fā)展速度,，也讓安全研究人員感到震驚,。?

據(jù)內(nèi)部人士爆料,，Ilya的突破,，使OpenAI不再受限于獲取足夠的高質(zhì)量數(shù)據(jù)來(lái)訓(xùn)練新模型，而這,，正是開(kāi)發(fā)下一代模型的主要障礙,。?

這項(xiàng)研究涉及使用計(jì)算機(jī)生成的數(shù)據(jù)，而不是真實(shí)世界的數(shù)據(jù),，比如從互聯(lián)網(wǎng)上提取的文本或圖像,。?

多年來(lái)，Ilya一直在研究如何讓GPT-4解決涉及推理的任務(wù),，比如數(shù)學(xué)或科學(xué)問(wèn)題,。?

此前，Ilya在這個(gè)方向就有多年積累,。21年,，他啟動(dòng)了一個(gè)名為GPT-Zero的項(xiàng)目，這是對(duì)DeepMind AlphaZero的致敬,。?

GPT-Zero可以下國(guó)際象棋,、圍棋和將棋。而團(tuán)隊(duì)假設(shè),，只要給大模型更多的時(shí)間和算力,，假以時(shí)日，它們一定能達(dá)到新的學(xué)術(shù)突破,。?

而且在半年之前,，就有硅谷大佬扒出，OpenAI很有可能會(huì)將「實(shí)時(shí)檢索」和模型能力結(jié)合起來(lái),，創(chuàng)造出難以想象的AI能力,。?

尤其是針對(duì)LLM亟待提高的數(shù)理和推理能力，未來(lái)有可能會(huì)有極大提升,。?

在提出了這種可能性之后，他于兩周之后就加入了OpenAI,。?

對(duì)齊派 VS 加速派

而即使在昨天Altman重返CEO之位后,，高管之間的潛在分歧似乎仍未消除,，因?yàn)镺penAI內(nèi)部對(duì)工作進(jìn)度的緊張關(guān)系仍在持續(xù)。?

Ilya本人似乎對(duì)這項(xiàng)技術(shù)持保留意見(jiàn),。今年7月,，他組建了對(duì)齊團(tuán)隊(duì)，致力于限制AI系統(tǒng)可能給人類帶來(lái)的威脅,。?

在OpenAI的對(duì)齊團(tuán)隊(duì)看來(lái)，雖然超級(jí)AI還很遙遠(yuǎn),，但他們相信它會(huì)在十年內(nèi)到來(lái),。?

Pachocki和Sidor的立場(chǎng)，大概率是在Ilya對(duì)齊團(tuán)隊(duì)的反面,。?

上周Altman被解雇后,，兩人也迅速辭職。而Altman復(fù)職后,，兩人也隨之回到了公司,。?

而OpenAI總裁兼聯(lián)創(chuàng)Greg Brockman，對(duì)于這項(xiàng)技術(shù)也持支持態(tài)度,，致力于將其整合到新產(chǎn)品中,。他同樣是在Altman復(fù)職后，隨之回到了公司,。?

參考資料：?

https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/?

https://twitter.com/IntuitMachine/status/1726201563889242488?