【文/觀(guān)察者網(wǎng) 周毅 編輯 呂棟】

馬斯克等1000名科技人士,，日前簽署了一封特殊的公開(kāi)信。

據(jù)未來(lái)生命研究所（Future of Life Institute）網(wǎng)站披露,，該網(wǎng)站曾以公開(kāi)信的方式發(fā)起倡議，呼吁所有AI（人工智能）實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月,。截至北京時(shí)間3月29日下午13時(shí)許,，在該網(wǎng)站上，這封公開(kāi)信獲得了包括馬斯克在內(nèi)的1126名人士的聯(lián)名簽署,。

綜合目前的公開(kāi)資料來(lái)看,，這項(xiàng)倡議的宗旨在于為人類(lèi)留出時(shí)間，思考AI開(kāi)發(fā)的合規(guī)性和安全性,，并助力人類(lèi)展開(kāi)相關(guān)的工作,。對(duì)于此，GPT-4認(rèn)為,，“6個(gè)月的時(shí)間可能對(duì)于實(shí)現(xiàn)這一目的具有一定的挑戰(zhàn)性,。”

未來(lái)生命研究所網(wǎng)站截圖

公開(kāi)信認(rèn)為,，高級(jí)AI可能代表地球生命史上的深刻變化，人類(lèi)應(yīng)以相應(yīng)的關(guān)懷和資源進(jìn)行規(guī)劃和管理——但不幸的是,，對(duì)應(yīng)級(jí)別的規(guī)劃和管理并沒(méi)有發(fā)生,。此外，最近幾個(gè)月AI實(shí)驗(yàn)室們陷入了一場(chǎng)失控的競(jìng)賽（an out-of-control race）,，但包括這些AI系統(tǒng)的創(chuàng)造者們,，都無(wú)法完全去理解、預(yù)測(cè)或者可靠地控制（reliably control）它們。

公開(kāi)信寫(xiě)道,，廣泛的研究表明,，具有與人類(lèi)競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn),，這一觀(guān)點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。

公開(kāi)信表示,，人們只應(yīng)在這樣的背景下去開(kāi)發(fā)強(qiáng)大的人工系統(tǒng)：確信它們的影響是積極的,，確信它們的風(fēng)險(xiǎn)是可控的。信件還援引了OpenAI（ChatGPT的開(kāi)發(fā)者）在其最新聲明中的表態(tài),，“在某個(gè)時(shí)候,，在開(kāi)始訓(xùn)練未來(lái)的AI系統(tǒng)之前，對(duì)它進(jìn)行獨(dú)立審查可能很重要,?！?/p>

“現(xiàn)在就是那個(gè)時(shí)候?！惫_(kāi)信認(rèn)為,。

公開(kāi)信呼吁，所有AI實(shí)驗(yàn)室立即暫停至少6個(gè)月的訓(xùn)練工作——對(duì)象是那些比GPT-4更強(qiáng)大的AI系統(tǒng),。公開(kāi)信稱(chēng),，這種暫停應(yīng)該是公開(kāi)的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者,。如果不能迅速實(shí)施這樣的暫停，政府應(yīng)該介入并暫停,。

“這并不意味著總體上暫停AI開(kāi)發(fā),，”公開(kāi)信表示，AI實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)該利用這次暫停，共同開(kāi)發(fā)和實(shí)施一套用于高級(jí)AI設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議,，并由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督,。此外，公開(kāi)信還呼吁,，AI開(kāi)發(fā)人員必須與政策制定者合作,，以顯著加快開(kāi)發(fā)強(qiáng)大的AI治理系統(tǒng)。

未來(lái)生命研究所網(wǎng)站顯示,，該組織成立于2014年,，它的目標(biāo)是“引導(dǎo)變革性技術(shù)造福于生活，遠(yuǎn)離極端大規(guī)模的風(fēng)險(xiǎn),?！本W(wǎng)站信息顯示，其注冊(cè)地址在美國(guó)賓夕法尼亞州蒙哥馬利縣,。經(jīng)查證,，在2020年6月聯(lián)合國(guó)發(fā)布的《數(shù)字合作路線(xiàn)圖》中，該機(jī)構(gòu)是該活動(dòng)在AI領(lǐng)域的民間倡議者（Champions）之一,。

網(wǎng)站最新頁(yè)面顯示,，在該公開(kāi)信的聯(lián)合簽名欄，有眾多大學(xué)學(xué)者,、工程師和企業(yè)創(chuàng)始人和高管在列,。例如“圖靈獎(jiǎng)”獲得者約書(shū)亞·本希奧、特斯拉CEO馬斯克,、蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等,。這份名單中也包括一些記者、教師和學(xué)生的名字,。

未來(lái)生命研究所網(wǎng)站截圖

對(duì)于此事，“GPT-4怎么看”,？

ChatGPT在回答提問(wèn)時(shí)表示,，其原因?yàn)榇_保AI研究在安全和倫理方面的合規(guī)性，防止技術(shù)濫用,，為制定有效規(guī)范和監(jiān)管措施留出時(shí)間,。對(duì)于這一行動(dòng)的影響，GPT-4稱(chēng),，這將提高AI領(lǐng)域的安全意識(shí),，推動(dòng)政策制定和監(jiān)管措施的完善，促使AI技術(shù)更加負(fù)責(zé)任地發(fā)展,。

當(dāng)被問(wèn)道,，“在你看來(lái),，6個(gè)月的時(shí)間是否足以讓人們實(shí)現(xiàn)這一目的？”GPT-4認(rèn)為,，雖然這段時(shí)間可以讓政策制定者,、研究人員和社會(huì)討論開(kāi)始關(guān)注AI安全和倫理問(wèn)題，但要完全解決這些問(wèn)題并制定全面的規(guī)范和監(jiān)管措施可能需要更長(zhǎng)時(shí)間,。然而,，6個(gè)月的暫停確實(shí)可以作為一個(gè)良好的起點(diǎn)，引發(fā)關(guān)注并推動(dòng)相關(guān)方面加快行動(dòng),。

“6個(gè)月的時(shí)間可能對(duì)于實(shí)現(xiàn)這一目的具有一定的挑戰(zhàn)性,。”

OpenAI網(wǎng)站截圖

本文系觀(guān)察者網(wǎng)獨(dú)家稿件,，未經(jīng)授權(quán)，不得轉(zhuǎn)載,。