近日,，一個名叫生命未來研究所的網(wǎng)站發(fā)布了一篇名為《暫停大型人工智能研究》的公開聯(lián)名信，在公開信開頭我們看到,，“我們呼吁所有AI實驗室暫時停止訓(xùn)練比GPT-4還強(qiáng)大的AI,，至少6個月,?！苯刂劣浾甙l(fā)稿，該公開信已經(jīng)收到了1126個簽名,，其中不乏像馬斯克和蘋果聯(lián)合創(chuàng)始人Steve Wozniak這樣的名人,。

接著,，公開信闡述了研究所的立場：

最近這幾個月,，全球的AI實驗室已經(jīng)完全失控了，它們瘋狂地開展AI競賽,，來開發(fā)和部署更強(qiáng)大的AI,，而沒有任何人可以理解、預(yù)測,、控制這些AI,，連它們的創(chuàng)造者都不能。

人工智能系統(tǒng)對社會和人類構(gòu)成較大的風(fēng)險,。盡管最近幾個月人工智能實驗室掀起AI狂潮,，開發(fā)和部署越來越強(qiáng)大的數(shù)字大腦，但目前沒有人能理解,、預(yù)測或可靠地控制AI系統(tǒng),，也沒有相應(yīng)水平的規(guī)劃和管理。人工智能實驗室和獨(dú)立專家應(yīng)在暫停期間,，共同制定和實施一套先進(jìn)的人工智能設(shè)計和開發(fā)的共享安全協(xié)議,，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。

簡單說，就是得到頂級AI實驗室的認(rèn)可,、具有人類競爭智能的AI系統(tǒng),，可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險。

在科技界被廣泛認(rèn)可的AsilomarAI原則提到,，高級人工智能可能代表著地球上生命歷史的深刻變革,，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進(jìn)行規(guī)劃和管理。

前兩天,，馬云探訪云谷學(xué)校時曾提出,，ChatGPT這一類技術(shù)已經(jīng)對教育帶來挑戰(zhàn)，但是ChatGPT這一類技術(shù)只是AI時代的開始,。我們要用人工智能去解決問題,，而不是被人工智能所控制，雖然人的體力,、腦力比不過機(jī)器,，但機(jī)器只有“芯”，而人有“心”,。

他說,，工業(yè)時代是知識驅(qū)動，知識的競爭,；數(shù)字時代,，是智慧驅(qū)動，是創(chuàng)造力和想象力的競爭,，是領(lǐng)導(dǎo)力,、擔(dān)當(dāng)力、責(zé)任的競爭,，是獨(dú)立思考的競爭,。

以前我們只能在電影當(dāng)中看到各種各樣似乎屬于未來的人工智能，但是現(xiàn)在,，它就在我們眼前,，以目前的發(fā)展速度下去，AI將擁有怎么樣的能力,，我們不得而知,，所以我們也許真的得像公開信中說的那樣對它充滿畏懼，提高警惕,。

Open　AI　CEO　Sam　Altman在這個月中旬進(jìn)行的一次訪談中說：“我對AI感到有點害怕?！?/p>

半個月前,，GPT-4在科技界產(chǎn)生了如此大的影響,，那么肯定會有人問：會有GPT-5，6甚至7嗎,？其實早就有團(tuán)隊預(yù)測,，OpenAI團(tuán)隊將在2023年9月或10月推出一個過渡版本GPT-4.5,，它將能處理更復(fù)雜的文本,，提高連貫性，給用戶更準(zhǔn)確的回答,。經(jīng)過億萬級訓(xùn)練之后的GPT,只會比以往更強(qiáng)大,，更智能，更專業(yè),。

在公開信的最后作者提到：人類可以享受AI帶來的繁榮未來。在成功創(chuàng)建了強(qiáng)大的AI系統(tǒng)后,，我們可以享受“AI之夏”收獲回報,，設(shè)計上述系統(tǒng)，以造福所有人,，給全人類一個適應(yīng)的機(jī)會?，F(xiàn)在，我們的社會已經(jīng)暫停其他可能造成災(zāi)難性影響的技術(shù),。對于AI,，我們也該如此。讓我們享受一個漫長的AI夏天,，而不是毫無準(zhǔn)備地進(jìn)入秋天,。

那么，這些AI團(tuán)隊,，包括OpenAI,會“聽”公開信的建議嗎,？

“轉(zhuǎn)載請注明出處”