一個(gè)人工智能的超級智能會(huì)突然出現(xiàn)嗎，還是科學(xué)家能預(yù)見它的到來并來得及向全世界發(fā)出警報(bào),？隨著大型語言模型,，如ChatGPT的興起，這個(gè)問題最近受到了很多關(guān)注,。這些模型隨著規(guī)模的增長已經(jīng)獲得了大量新功能,。一些研究結(jié)果指向了“涌現(xiàn)”現(xiàn)象，即人工智能模型以一種驟然且不可預(yù)測的方式獲得了智能,。但最近一項(xiàng)研究將這種情況稱為“海市蜃樓”，即系統(tǒng)測試過程中產(chǎn)生的假象,，并認(rèn)為創(chuàng)新能力的增強(qiáng)是循序漸進(jìn)的,。研究人員近日在美國新奧爾良舉行的神經(jīng)信息處理系統(tǒng)大會(huì)（NeurIPS）機(jī)器學(xué)習(xí)會(huì)議上報(bào)告了這項(xiàng)工作?！拔艺J(rèn)為他們在說‘沒有什么神奇的事情發(fā)生’方面做得很好,。”謀智基金會(huì)研究人工智能審計(jì)的計(jì)算機(jī)科學(xué)家Deborah Raji說,，這是“一個(gè)非常好的,、堅(jiān)實(shí)的、基于衡量的評估”,。人們通常使用大量文本或其他信息訓(xùn)練大型語言模型,，并通過預(yù)測接下來發(fā)生什么生成現(xiàn)實(shí)的答案。即使沒有受過明確的訓(xùn)練,，它們也能翻譯語言,、解決數(shù)學(xué)問題、寫詩或編寫計(jì)算機(jī)代碼,。模型越大——有些模型的可調(diào)參數(shù)超過了1000億，性能就越好,。一些研究人員懷疑,，這些工具最終將實(shí)現(xiàn)通用人工智能，從而在大多數(shù)任務(wù)中與人類匹敵,，甚至超過人類,。這項(xiàng)新研究從幾個(gè)方面檢驗(yàn)了“涌現(xiàn)”的說法。在一種方法中,，研究人員比較了人工智能公司OpenAI的4種規(guī)模的GPT-3模型的4位數(shù)相加的能力,。從絕對精度來看，第三種和第四種模型的性能差異從接近0%到接近100%不等,。但如果考慮答案中正確預(yù)測的數(shù)字?jǐn)?shù)量,，這種趨勢就不那么極端了。研究人員還發(fā)現(xiàn),，可以通過給模型更多測試問題來抑制曲線,。在這種情況下，規(guī)模較小的模型有時(shí)會(huì)作出正確的回答。接下來,，研究人員觀察了谷歌公司的LaMDA語言模型在幾個(gè)任務(wù)中的表現(xiàn),。那些表現(xiàn)出明顯智能躍升的模型，比如在識別諷刺或翻譯諺語方面,，通常面對的是答案為對或錯(cuò)的多項(xiàng)選擇任務(wù),。相反，當(dāng)研究人員檢查模型在每個(gè)答案上的概率時(shí),，“涌現(xiàn)”的跡象消失了,。最后，研究人員轉(zhuǎn)向了計(jì)算機(jī)視覺,，這一領(lǐng)域“涌現(xiàn)”的說法較少,。他們訓(xùn)練模型壓縮然后重建圖像。僅僅通過為正確性設(shè)定一個(gè)嚴(yán)格的閾值,，他們就可以誘導(dǎo)明顯的“涌現(xiàn)”現(xiàn)象,。新研究合作者、美國斯坦福大學(xué)計(jì)算機(jī)科學(xué)家Sanmi Koyejo表示,，考慮到一些系統(tǒng)表現(xiàn)出突然的“相變”,，人們接受“涌現(xiàn)”的想法并非沒有道理。他還指出,，這項(xiàng)研究不能在大型語言模型中完全排除這種可能性,，更不用說在未來的系統(tǒng)中了?！捌駷橹沟目茖W(xué)研究有力地證明,，語言模型的大多數(shù)方面確實(shí)是可預(yù)測的?！盞oyejo補(bǔ)充道,。這項(xiàng)研究還對人工智能的安全和政策產(chǎn)生了影響。Raji說：“通用人工智能的支持者一直在利用新興能力的說法,。毫無根據(jù)的恐懼可能導(dǎo)致令人窒息的監(jiān)管,，或者轉(zhuǎn)移人們對更緊迫風(fēng)險(xiǎn)的注意力?！薄斑@些模型正在改進(jìn),，且改進(jìn)是有用的?！盧aji說,，“但它們還沒有接近意識?！保ㄍ醴剑﹣碓矗褐袊茖W(xué)報(bào)