硅谷的年度大戲《真還傳》結(jié)束了，不過(guò)相關(guān)的消息依然引人關(guān)注,。17日,，2023年APEC峰會(huì)在舊金山結(jié)束，奧爾特曼在會(huì)上曾暗示,，OpenAI正致力于比現(xiàn)在最新版GPT-4更強(qiáng)大,、遠(yuǎn)遠(yuǎn)超出人們期待的產(chǎn)品，第二天他就被解雇了,。另有一封據(jù)稱(chēng)發(fā)給董事會(huì)的警告信也顯示,，OpenAI的某個(gè)大模型內(nèi)部已實(shí)現(xiàn)重大飛躍。據(jù)路透社援引知情人士消息,，這封信是首次披露,，也是導(dǎo)致OpenAI董事會(huì)最終決定罷免奧爾特曼的重要原因之一,。

OpenAI的CTO,，第一任臨時(shí)CEO米拉·穆拉蒂（Mira Murati），在周三提到了這個(gè)名為Q*（讀作Q-Star）的項(xiàng)目,，并且在“政變”發(fā)生之前就給董事會(huì)寫(xiě)過(guò)一封信,。董事會(huì)由此生疑，認(rèn)為奧爾特曼在瞞著董事會(huì)推進(jìn)可能有威脅的項(xiàng)目,。同時(shí)也有內(nèi)部研究員認(rèn)為,，OpenaAI在Q*上取得的進(jìn)展，將會(huì)成為AGI的一個(gè)重要突破,，比現(xiàn)在的最新版GPT-4更接近目標(biāo),。不過(guò)很快的,，TradingStrategy.ai聯(lián)合創(chuàng)始人米克·奧塔馬表示，“重大突破”這個(gè)說(shuō)法已被OpenAI內(nèi)部人士打假,。

除了米拉的信，印證Q*項(xiàng)目的另一事件是奧爾特曼在APEC一次會(huì)議上的發(fā)言,。他暗示OpenAI已經(jīng)開(kāi)發(fā)出了比GPT-4更強(qiáng)大,、更難以想象的東西，遠(yuǎn)超人們的期待,。“大模型的能力將會(huì)有一個(gè)無(wú)人預(yù)料到的飛躍,，與人們的預(yù)期不同，這個(gè)飛躍是驚人的,。當(dāng)前正在發(fā)生的技術(shù)變革將徹底改變我們的生活方式,、經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)，以及其他一切可能的限制……這在OpenAI的歷史上有四次 ,，而最近一次就是在過(guò)去幾周內(nèi),。在撥開(kāi)無(wú)知的面紗和探索未知的邊界時(shí)，我有幸在場(chǎng),，這是我職業(yè)生涯中的榮幸,。”發(fā)言后的第二天他就被OpenAI董事會(huì)踹了,，兩件事前后腳的發(fā)生,，很難說(shuō)其中沒(méi)有關(guān)聯(lián)?；蛟S有人會(huì)說(shuō)奧爾特曼是泄露了自家的機(jī)密,，但OpenAI董事會(huì)中“不夠坦誠(chéng)”的說(shuō)法，明顯是在說(shuō)奧爾特曼陽(yáng)奉陰違,，背著董事會(huì)而推進(jìn)項(xiàng)目,。盡管現(xiàn)在看“不夠坦誠(chéng)”更像是欲加之罪。

OpenAI的一位發(fā)言人表示,，這條消息由CTO米拉發(fā)送,，提醒員工在面對(duì)媒體報(bào)道時(shí)注意措辭，但對(duì)其準(zhǔn)確性則不置可否,。另有消息指出,，在OpenAI內(nèi)部看來(lái)，AGI可以定義為“在最具經(jīng)濟(jì)價(jià)值的任務(wù)中,，超越人類(lèi)的自主系統(tǒng)”,。

因?yàn)榫薮蟮乃懔χС?，新款大模型可以解決某些數(shù)學(xué)問(wèn)題,。雖然不過(guò)是些小學(xué)水平的數(shù)學(xué)題,，但通過(guò)這樣的測(cè)試，讓研究者對(duì)Q*的未來(lái)非常樂(lè)觀,。根據(jù)內(nèi)部人士的透露,，在這封給董事會(huì)的信中，研究人員還標(biāo)記了AI的實(shí)力和潛在危險(xiǎn)性,，但沒(méi)有具體說(shuō)明信中提到的確切安全問(wèn)題,。另外研究人員還標(biāo)記了一個(gè)名為“AI科學(xué)家”團(tuán)隊(duì)的工作，此前已有多個(gè)消息證實(shí)了該團(tuán)隊(duì)的確存在,。

一些OpenAI員工認(rèn)為,，奧爾特曼的言論應(yīng)該指的是公司早些時(shí)候的一些創(chuàng)新性研究，而也就是這些創(chuàng)新,，能讓他們開(kāi)發(fā)出日益強(qiáng)大的GPT大模型,。這項(xiàng)工作由首席科學(xué)家伊爾亞團(tuán)隊(duì)主導(dǎo)，此前從未被報(bào)道過(guò),，也的確引起了一些員工的擔(dān)憂(yōu),。他們擔(dān)心公司目前沒(méi)有合適的保障措施，確保這種先進(jìn)的技術(shù)可用于商業(yè)化,。在之后的幾個(gè)月里,，OpenAI的高級(jí)研究人員又利用這項(xiàng)創(chuàng)新，建立了能夠解決基本數(shù)學(xué)問(wèn)題的系統(tǒng),。

根據(jù)The Information報(bào)道,，Q*其實(shí)是OpenAI的兩位研究員，雅格和西蒙,，利用伊爾亞的工作成果建立的大模型,，能夠解決它以前從未見(jiàn)過(guò)的數(shù)學(xué)問(wèn)題，而這可是一個(gè)重要的技術(shù)里程碑,。經(jīng)常用大模型的人都知道,，現(xiàn)在的大模型雖然普遍能說(shuō)會(huì)道，但數(shù)學(xué)題從來(lái)都是一項(xiàng)艱巨的任務(wù),。六月時(shí)用國(guó)內(nèi)外主流大模型做十道高考數(shù)學(xué)題,，GPT-4能對(duì)五道已經(jīng)是最好的成績(jī)了，尤其是在對(duì)比那些發(fā)布會(huì)上的“遙遙領(lǐng)先”,，最終卻是十道題全錯(cuò)的結(jié)果時(shí),。

最近幾周內(nèi),，Q*的演示一直在OpenAI內(nèi)部流傳，而AI自身飛快的發(fā)展速度,，也時(shí)常令安全研究人員驚掉下巴,。不僅如此,，Q*的這些突破也使OpenAI在訓(xùn)練新款大模型時(shí)可以不再受限于保質(zhì)保量的數(shù)據(jù)不足，而這正是困擾全球開(kāi)發(fā)者,，在攻克下一代大模型時(shí)的主要障礙,。

伊爾亞作為OpenAI的首席科學(xué)家，多年來(lái)一直在研究如何讓GPT-4解決涉及推理的任務(wù),，比如數(shù)學(xué)或科學(xué)問(wèn)題,。在加入OpenAI前，還在谷歌DeepMind的伊爾亞就在這個(gè)方向努力了多年,。2021年,，他啟動(dòng)了一個(gè)名為GPT-0的項(xiàng)目，這是對(duì)老東家AlphaGo Zero（阿爾法狗-0）的致敬,，而阿爾法狗-0是阿爾法狗的最后版本,。不僅圍棋，它也可以下國(guó)際象棋和將棋,。而當(dāng)時(shí)DeepMind團(tuán)隊(duì)假設(shè),，只要給大模型足夠多的時(shí)間和算力，它們一定能在有朝一日實(shí)現(xiàn)新的學(xué)術(shù)突破,。尤其是針對(duì)當(dāng)前大模型亟待提高的數(shù)理和推理能力時(shí),，未來(lái)有可能會(huì)有極大提升。此后不久,，伊爾亞就在馬斯克的鼓動(dòng)下加入了OpenAI,。

雖然在昨天奧爾特曼重返CEO之位后,，《真還傳》也告一段落,，但OpenAI高管間的矛盾似乎仍未消除，而且也可能延續(xù)許久,。究其原因,，主要是因?yàn)镺penAI內(nèi)部對(duì)工作進(jìn)度的緊張關(guān)系仍未緩解。伊爾亞本人素以聰明絕頂又人品正直著稱(chēng),，這點(diǎn)就連馬斯克都贊譽(yù)有加,，估計(jì)仍對(duì)這項(xiàng)技術(shù)持保留意見(jiàn)。今年夏天時(shí)他就組建了對(duì)齊團(tuán)隊(duì),，致力于限制AI系統(tǒng)可能給人類(lèi)帶來(lái)的威脅,。

在伊爾亞主導(dǎo)的對(duì)齊團(tuán)隊(duì)看來(lái)，雖然超級(jí)AI還很遙遠(yuǎn),，但可能會(huì)在未來(lái)十年內(nèi)實(shí)現(xiàn),。另外上周奧爾特曼被解雇后，有幾人也迅速辭職。而昨天奧爾特曼回歸后,，這些人也隨之回到了OpenAI公司,。而OpenAI董事長(zhǎng)兼聯(lián)合創(chuàng)始人布羅克曼，對(duì)于這項(xiàng)技術(shù)也持支持態(tài)度,，致力于將其整合到新產(chǎn)品中,。他和奧爾特曼也很鐵，“今晚就寫(xiě)代碼”正是昨天的發(fā)言,。