“OpenAI的人工智能系統(tǒng)已經(jīng)接近人類智能水平,，通用人工智能AGI有50%的可能性在2027年就會問世，而不是此前預(yù)測的2050年,！”6月4日，一封由13名來自O(shè)penAI和Google DeepMind的前員工與現(xiàn)員工聯(lián)合發(fā)布的一封公開信再次將人工智能“蒙眼狂奔”的危險(xiǎn)呈現(xiàn)在大眾眼前。有聲音認(rèn)為,，當(dāng)OpenAI的內(nèi)部人事糾紛以首席執(zhí)行官山姆奧特曼勝出結(jié)束后,，該公司已經(jīng)走向了一條更偏向激進(jìn)發(fā)展與財(cái)務(wù)利益的路，而將安全與對人類的責(zé)任拋諸腦后,。一個(gè)可能的佐證是，過去一個(gè)月內(nèi)，OpenAI曾經(jīng)的首席科學(xué)家和超級對齊負(fù)責(zé)人相繼離職,，員工們也迎來了一波離職潮,，其中負(fù)責(zé)AI安全的員工的流失最為嚴(yán)重,。6月6日,，新京報(bào)貝殼財(cái)經(jīng)記者注意到,，OpenAI發(fā)布了一份“為保護(hù)研究基礎(chǔ)設(shè)施和前沿模型訓(xùn)練而設(shè)計(jì)的安全架構(gòu)”的簡介，OpenAI稱,，“希望這將使其他AI研究室和安全專業(yè)人員受益?！辈⒈硎灸壳罢杖彼捻?xiàng)職位：安全方向軟件工程師,、安全工程師,、企業(yè)安全工程師和隱私安全工程師,，希望招聘相關(guān)從業(yè)人員。來自13名頂尖人工智能機(jī)構(gòu)員工的擔(dān)憂：不相信AI公司“我們是各大前沿AI公司的現(xiàn)任和前任員工，我們相信AI技術(shù)有潛力為人類帶來前所未有的好處,。我們也理解這些技術(shù)帶來的嚴(yán)重風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)包括加劇現(xiàn)有的不平等,、操縱和誤導(dǎo)信息以及失控的自主AI系統(tǒng)可能導(dǎo)致人類滅絕?！痹谶@封聯(lián)名信的開頭,，11名聯(lián)名信簽署者就開宗明義地表達(dá)了自己的擔(dān)憂,。信中寫道，希望這些風(fēng)險(xiǎn)能夠在科學(xué)界,、政策制定者和公眾的充分指導(dǎo)下得到有效的緩解,，“然而，AI公司有強(qiáng)烈的財(cái)務(wù)動(dòng)機(jī)避免有效的監(jiān)督,，我們不相信公司為自己量身定制的治理結(jié)構(gòu)能夠改變這一點(diǎn),。AI公司擁有大量關(guān)于其系統(tǒng)能力和局限性的非公開信息，這些信息涉及系統(tǒng)的保護(hù)措施以及系統(tǒng)的各種風(fēng)險(xiǎn)水平,。然而,，他們目前只需要向政府分享部分信息，并不背負(fù)著向政府匯報(bào)的強(qiáng)烈義務(wù),，更沒有義務(wù)向社會公眾分享任何信息,。我們不認(rèn)為他們可以完全自愿地分享這些信息?！甭?lián)名信呼吁先進(jìn)AI公司承諾以下原則：一,、公司不會簽訂或執(zhí)行任何禁止因風(fēng)險(xiǎn)相關(guān)問題而對公司進(jìn)行詆毀或批評的協(xié)議,，也不會通過阻礙任何既得經(jīng)濟(jì)利益來報(bào)復(fù)風(fēng)險(xiǎn)相關(guān)的批評。二,、公司將創(chuàng)建一個(gè)可驗(yàn)證的匿名流程,，使現(xiàn)任和前任員工能夠向公司的董事會、監(jiān)管機(jī)構(gòu)以及具有相關(guān)專業(yè)知識的適當(dāng)獨(dú)立組織提出風(fēng)險(xiǎn)相關(guān)的擔(dān)憂,；三,、公司將支持公開批評的文化，并允許現(xiàn)任和前任員工向公眾,、公司的董事會,、監(jiān)管機(jī)構(gòu)或具有相關(guān)專業(yè)知識的適當(dāng)獨(dú)立組織提出他們對技術(shù)風(fēng)險(xiǎn)的相關(guān)擔(dān)憂，只要適當(dāng)保護(hù)商業(yè)秘密和其他知識產(chǎn)權(quán)利益即可,；四、公司不會報(bào)復(fù)那些在其他流程失敗后,，公開分享風(fēng)險(xiǎn)相關(guān)機(jī)密信息的現(xiàn)任和前任員工,。我們知道，任何報(bào)告風(fēng)險(xiǎn)相關(guān)擔(dān)憂的努力都應(yīng)避免不必要地泄露機(jī)密信息。因此,，一旦存在一個(gè)足夠安全的匿名提出擔(dān)憂的流程，現(xiàn)任和前任員工應(yīng)首先通過此類流程提出擔(dān)憂,。然而，只要此類流程不存在,，現(xiàn)任和前任員工應(yīng)保留向公眾報(bào)告其擔(dān)憂的自由,。前員工要做“吹哨人” OpenAI急招安全員13名聯(lián)名信簽署者認(rèn)為，只要AI公司沒有有效的政府監(jiān)督,，那現(xiàn)任和前任員工就是少數(shù)能夠讓公司負(fù)起責(zé)任的公眾人士之一。因此自己必須肩負(fù)起AI“吹哨人”的責(zé)任,。在這13人中,，有11名來自O(shè)penAI,，其中6名是OpenAI的現(xiàn)任員工,，但因擔(dān)心被打擊報(bào)復(fù)而采取了匿名發(fā)布的方式。另一方面,，保密協(xié)議也阻止了這些員工表達(dá)擔(dān)憂,，例如OpenAI前員工阿申布倫納（Leopold Aschenbrenner）就因“泄露公司機(jī)密”遭到解雇。6月6日,，他也發(fā)布了他對人工智能風(fēng)險(xiǎn)的回應(yīng)：既不能采取“永遠(yuǎn)封鎖”的方法,，也不能放任自流，而是需要找到一種更聰明的方式來應(yīng)對AGI的潛在風(fēng)險(xiǎn),，而其中關(guān)鍵是解決對齊問題,。OpenAI前員工阿申布倫納（Leopold Aschenbrenner） 圖片來源：個(gè)人網(wǎng)站首頁丹尼爾·科科塔約洛（Daniel Kokotajlo）是聯(lián)名簽署此封公開信的OpenAI前員工之一。他在2022年加入OpenAI,，所任職務(wù)是公司的治理研究員,。今年4月份他正式從OpenAI辭職，原因是他對公司“失去了信心,，認(rèn)為OpenAI無法在AI系統(tǒng)實(shí)現(xiàn)接近人類水平表現(xiàn)時(shí)負(fù)責(zé)任地行事”,。在OpenAI，科科塔約洛看到,，盡管公司已經(jīng)制定了安全相關(guān)的規(guī)章制度,，但這些規(guī)章制度常常處于被架空的狀態(tài)。例如,，OpenAI與微軟共同建立了部署安全委員會,，此委員會的主要目的是為了在正式發(fā)布模型之前評估新模型中可能包含的種種風(fēng)險(xiǎn)，但這一委員會似乎并沒有起到應(yīng)有的作用,?！笆澜邕€沒有準(zhǔn)備好（迎接如此高級的AI智能），我們也沒有準(zhǔn)備好，我擔(dān)心（這些商業(yè)公司）將不管不顧地一意孤行,，并為自己的行為尋找借口,。先進(jìn)的人工智能毀滅人類或?qū)θ祟愒斐蔀?zāi)難性傷害的可能性高達(dá)70%?！笨瓶扑s洛說,。也許是受到了輿論壓力，也許是安全相關(guān)的雇員真的已經(jīng)“所剩無幾”,。6月6日,，OpenAI發(fā)布了一份簡要說明，介紹了自己在威脅模型,、架構(gòu),、安全模型權(quán)重、審核測試等方面的工作,，并表示將“確保我們領(lǐng)先于新出現(xiàn)的威脅,，并繼續(xù)增強(qiáng)人工智能基礎(chǔ)設(shè)施的安全性”。值得注意的事,，OpenAI在文章開頭和末尾兩次強(qiáng)調(diào),，自己正在招聘相關(guān)的安全人員職位。記者聯(lián)系郵箱：[email protected]新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹編輯 岳彩周校對 柳寶慶