【文/觀察者網(wǎng) 周毅 編輯 呂棟】

馬斯克等1000名科技人士,，日前簽署了一封特殊的公開信。

據(jù)未來生命研究所（Future of Life Institute）網(wǎng)站披露,，該網(wǎng)站曾以公開信的方式發(fā)起倡議,，呼吁所有AI（人工智能）實驗室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個月。截至北京時間3月29日下午13時許,，在該網(wǎng)站上,，這封公開信獲得了包括馬斯克在內(nèi)的1126名人士的聯(lián)名簽署。

綜合目前的公開資料來看,，這項倡議的宗旨在于為人類留出時間,，思考AI開發(fā)的合規(guī)性和安全性，并助力人類展開相關(guān)的工作,。對于此,，GPT-4認(rèn)為，“6個月的時間可能對于實現(xiàn)這一目的具有一定的挑戰(zhàn)性,?！?/p>

未來生命研究所網(wǎng)站截圖

公開信認(rèn)為,，高級AI可能代表地球生命史上的深刻變化,，人類應(yīng)以相應(yīng)的關(guān)懷和資源進(jìn)行規(guī)劃和管理——但不幸的是，對應(yīng)級別的規(guī)劃和管理并沒有發(fā)生,。此外,，最近幾個月AI實驗室們陷入了一場失控的競賽（an out-of-control race），但包括這些AI系統(tǒng)的創(chuàng)造者們,，都無法完全去理解,、預(yù)測或者可靠地控制（reliably control）它們。

公開信寫道,，廣泛的研究表明,，具有與人類競爭智能的人工智能系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險,，這一觀點得到了頂級人工智能實驗室的承認(rèn),。

公開信表示，人們只應(yīng)在這樣的背景下去開發(fā)強(qiáng)大的人工系統(tǒng)：確信它們的影響是積極的,，確信它們的風(fēng)險是可控的,。信件還援引了OpenAI（ChatGPT的開發(fā)者）在其最新聲明中的表態(tài)，“在某個時候,，在開始訓(xùn)練未來的AI系統(tǒng)之前,，對它進(jìn)行獨立審查可能很重要?！?/p>

“現(xiàn)在就是那個時候,。”公開信認(rèn)為,。

公開信呼吁,，所有AI實驗室立即暫停至少6個月的訓(xùn)練工作——對象是那些比GPT-4更強(qiáng)大的AI系統(tǒng)。公開信稱,，這種暫停應(yīng)該是公開的和可驗證的,，并且包括所有關(guān)鍵參與者。如果不能迅速實施這樣的暫停,，政府應(yīng)該介入并暫停,。

“這并不意味著總體上暫停AI開發(fā)，”公開信表示,，AI實驗室和獨立專家應(yīng)該利用這次暫停,，共同開發(fā)和實施一套用于高級AI設(shè)計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進(jìn)行嚴(yán)格審計和監(jiān)督,。此外,，公開信還呼吁，AI開發(fā)人員必須與政策制定者合作,，以顯著加快開發(fā)強(qiáng)大的AI治理系統(tǒng),。

未來生命研究所網(wǎng)站顯示，該組織成立于2014年,，它的目標(biāo)是“引導(dǎo)變革性技術(shù)造福于生活,，遠(yuǎn)離極端大規(guī)模的風(fēng)險。”網(wǎng)站信息顯示,，其注冊地址在美國賓夕法尼亞州蒙哥馬利縣,。經(jīng)查證，在2020年6月聯(lián)合國發(fā)布的《數(shù)字合作路線圖》中,，該機(jī)構(gòu)是該活動在AI領(lǐng)域的民間倡議者（Champions）之一,。

網(wǎng)站最新頁面顯示,，在該公開信的聯(lián)合簽名欄,，有眾多大學(xué)學(xué)者、工程師和企業(yè)創(chuàng)始人和高管在列,。例如“圖靈獎”獲得者約書亞·本希奧,、特斯拉CEO馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等,。這份名單中也包括一些記者,、教師和學(xué)生的名字。

未來生命研究所網(wǎng)站截圖

對于此事,，“GPT-4怎么看”？

ChatGPT在回答提問時表示,，其原因為確保AI研究在安全和倫理方面的合規(guī)性,，防止技術(shù)濫用，為制定有效規(guī)范和監(jiān)管措施留出時間,。對于這一行動的影響,，GPT-4稱，這將提高AI領(lǐng)域的安全意識,，推動政策制定和監(jiān)管措施的完善,，促使AI技術(shù)更加負(fù)責(zé)任地發(fā)展。

當(dāng)被問道,，“在你看來,，6個月的時間是否足以讓人們實現(xiàn)這一目的？”GPT-4認(rèn)為,，雖然這段時間可以讓政策制定者,、研究人員和社會討論開始關(guān)注AI安全和倫理問題，但要完全解決這些問題并制定全面的規(guī)范和監(jiān)管措施可能需要更長時間,。然而,，6個月的暫停確實可以作為一個良好的起點，引發(fā)關(guān)注并推動相關(guān)方面加快行動,。

“6個月的時間可能對于實現(xiàn)這一目的具有一定的挑戰(zhàn)性,。”

OpenAI網(wǎng)站截圖

本文系觀察者網(wǎng)獨家稿件,，未經(jīng)授權(quán),，不得轉(zhuǎn)載。