OpenAI的一位發(fā)言人表示,，這條消息由CTO米拉發(fā)送，提醒員工在面對媒體報道時注意措辭,，但對其準(zhǔn)確性則不置可否,。另有消息指出，在OpenAI內(nèi)部看來,，AGI可以定義為“在最具經(jīng)濟(jì)價值的任務(wù)中,，超越人類的自主系統(tǒng)”。

因為巨大的算力支持,，新款大模型可以解決某些數(shù)學(xué)問題。雖然不過是些小學(xué)水平的數(shù)學(xué)題,，但通過這樣的測試,，讓研究者對Q*的未來非常樂觀。根據(jù)內(nèi)部人士的透露,，在這封給董事會的信中,，研究人員還標(biāo)記了AI的實力和潛在危險性，但沒有具體說明信中提到的確切安全問題,。另外研究人員還標(biāo)記了一個名為“AI科學(xué)家”團(tuán)隊的工作,，此前已有多個消息證實了該團(tuán)隊的確存在。

一些OpenAI員工認(rèn)為,，奧爾特曼的言論應(yīng)該指的是公司早些時候的一些創(chuàng)新性研究,，而也就是這些創(chuàng)新，能讓他們開發(fā)出日益強(qiáng)大的GPT大模型,。這項工作由首席科學(xué)家伊爾亞團(tuán)隊主導(dǎo),，此前從未被報道過，也的確引起了一些員工的擔(dān)憂,。他們擔(dān)心公司目前沒有合適的保障措施,，確保這種先進(jìn)的技術(shù)可用于商業(yè)化。在之后的幾個月里,，OpenAI的高級研究人員又利用這項創(chuàng)新,，建立了能夠解決基本數(shù)學(xué)問題的系統(tǒng),。

根據(jù)The Information報道，Q*其實是OpenAI的兩位研究員,，雅格和西蒙,，利用伊爾亞的工作成果建立的大模型，能夠解決它以前從未見過的數(shù)學(xué)問題,，而這可是一個重要的技術(shù)里程碑,。經(jīng)常用大模型的人都知道，現(xiàn)在的大模型雖然普遍能說會道,，但數(shù)學(xué)題從來都是一項艱巨的任務(wù),。六月時用國內(nèi)外主流大模型做十道高考數(shù)學(xué)題，GPT-4能對五道已經(jīng)是最好的成績了,，尤其是在對比那些發(fā)布會上的“遙遙領(lǐng)先”,，最終卻是十道題全錯的結(jié)果時。

最近幾周內(nèi)，Q*的演示一直在OpenAI內(nèi)部流傳,，而AI自身飛快的發(fā)展速度,，也時常令安全研究人員驚掉下巴。不僅如此,，Q*的這些突破也使OpenAI在訓(xùn)練新款大模型時可以不再受限于保質(zhì)保量的數(shù)據(jù)不足,，而這正是困擾全球開發(fā)者，在攻克下一代大模型時的主要障礙,。

伊爾亞作為OpenAI的首席科學(xué)家,，多年來一直在研究如何讓GPT-4解決涉及推理的任務(wù)，比如數(shù)學(xué)或科學(xué)問題,。在加入OpenAI前,，還在谷歌DeepMind的伊爾亞就在這個方向努力了多年。2021年,，他啟動了一個名為GPT-0的項目,，這是對老東家AlphaGo Zero（阿爾法狗-0）的致敬，而阿爾法狗-0是阿爾法狗的最后版本,。不僅圍棋,，它也可以下國際象棋和將棋。而當(dāng)時DeepMind團(tuán)隊假設(shè),，只要給大模型足夠多的時間和算力,，它們一定能在有朝一日實現(xiàn)新的學(xué)術(shù)突破。尤其是針對當(dāng)前大模型亟待提高的數(shù)理和推理能力時,，未來有可能會有極大提升,。此后不久,，伊爾亞就在馬斯克的鼓動下加入了OpenAI。

雖然在昨天奧爾特曼重返CEO之位后,，《真還傳》也告一段落，但OpenAI高管間的矛盾似乎仍未消除,，而且也可能延續(xù)許久,。究其原因，主要是因為OpenAI內(nèi)部對工作進(jìn)度的緊張關(guān)系仍未緩解,。伊爾亞本人素以聰明絕頂又人品正直著稱,，這點就連馬斯克都贊譽(yù)有加，估計仍對這項技術(shù)持保留意見,。今年夏天時他就組建了對齊團(tuán)隊,，致力于限制AI系統(tǒng)可能給人類帶來的威脅。

在伊爾亞主導(dǎo)的對齊團(tuán)隊看來,，雖然超級AI還很遙遠(yuǎn),，但可能會在未來十年內(nèi)實現(xiàn)。另外上周奧爾特曼被解雇后,，有幾人也迅速辭職,。而昨天奧爾特曼回歸后，這些人也隨之回到了OpenAI公司,。而OpenAI董事長兼聯(lián)合創(chuàng)始人布羅克曼,，對于這項技術(shù)也持支持態(tài)度，致力于將其整合到新產(chǎn)品中,。他和奧爾特曼也很鐵,，“今晚就寫代碼”正是昨天的發(fā)言。