“OpenAI的人工智能系統(tǒng)已經(jīng)接近人類智能水平,，通用人工智能AGI有50%的可能性在2027年就會問世，而不是此前預(yù)測的2050年,！”6月4日,，一封由13名來自O(shè)penAI和Google DeepMind的前員工與現(xiàn)員工聯(lián)合發(fā)布的一封公開信再次將人工智能“蒙眼狂奔”的危險呈現(xiàn)在大眾眼前。有聲音認(rèn)為,，當(dāng)OpenAI的內(nèi)部人事糾紛以首席執(zhí)行官山姆奧特曼勝出結(jié)束后,，該公司已經(jīng)走向了一條更偏向激進(jìn)發(fā)展與財務(wù)利益的路，而將安全與對人類的責(zé)任拋諸腦后,。一個可能的佐證是,，過去一個月內(nèi)，OpenAI曾經(jīng)的首席科學(xué)家和超級對齊負(fù)責(zé)人相繼離職，員工們也迎來了一波離職潮,，其中負(fù)責(zé)AI安全的員工的流失最為嚴(yán)重,。6月6日，新京報貝殼財經(jīng)記者注意到,，OpenAI發(fā)布了一份“為保護研究基礎(chǔ)設(shè)施和前沿模型訓(xùn)練而設(shè)計的安全架構(gòu)”的簡介,，OpenAI稱，“希望這將使其他AI研究室和安全專業(yè)人員受益,?！辈⒈硎灸壳罢杖彼捻椔毼唬喊踩较蜍浖こ處煛踩こ處?、企業(yè)安全工程師和隱私安全工程師,，希望招聘相關(guān)從業(yè)人員。來自13名頂尖人工智能機構(gòu)員工的擔(dān)憂：不相信AI公司“我們是各大前沿AI公司的現(xiàn)任和前任員工,，我們相信AI技術(shù)有潛力為人類帶來前所未有的好處,。我們也理解這些技術(shù)帶來的嚴(yán)重風(fēng)險。這些風(fēng)險包括加劇現(xiàn)有的不平等,、操縱和誤導(dǎo)信息以及失控的自主AI系統(tǒng)可能導(dǎo)致人類滅絕,。”在這封聯(lián)名信的開頭,，11名聯(lián)名信簽署者就開宗明義地表達(dá)了自己的擔(dān)憂,。信中寫道，希望這些風(fēng)險能夠在科學(xué)界,、政策制定者和公眾的充分指導(dǎo)下得到有效的緩解,，“然而，AI公司有強烈的財務(wù)動機避免有效的監(jiān)督,，我們不相信公司為自己量身定制的治理結(jié)構(gòu)能夠改變這一點,。AI公司擁有大量關(guān)于其系統(tǒng)能力和局限性的非公開信息，這些信息涉及系統(tǒng)的保護措施以及系統(tǒng)的各種風(fēng)險水平,。然而,，他們目前只需要向政府分享部分信息，并不背負(fù)著向政府匯報的強烈義務(wù),，更沒有義務(wù)向社會公眾分享任何信息,。我們不認(rèn)為他們可以完全自愿地分享這些信息?！甭?lián)名信呼吁先進(jìn)AI公司承諾以下原則：一,、公司不會簽訂或執(zhí)行任何禁止因風(fēng)險相關(guān)問題而對公司進(jìn)行詆毀或批評的協(xié)議，也不會通過阻礙任何既得經(jīng)濟利益來報復(fù)風(fēng)險相關(guān)的批評,。二,、公司將創(chuàng)建一個可驗證的匿名流程,，使現(xiàn)任和前任員工能夠向公司的董事會、監(jiān)管機構(gòu)以及具有相關(guān)專業(yè)知識的適當(dāng)獨立組織提出風(fēng)險相關(guān)的擔(dān)憂,；三,、公司將支持公開批評的文化，并允許現(xiàn)任和前任員工向公眾,、公司的董事會,、監(jiān)管機構(gòu)或具有相關(guān)專業(yè)知識的適當(dāng)獨立組織提出他們對技術(shù)風(fēng)險的相關(guān)擔(dān)憂，只要適當(dāng)保護商業(yè)秘密和其他知識產(chǎn)權(quán)利益即可,；四,、公司不會報復(fù)那些在其他流程失敗后，公開分享風(fēng)險相關(guān)機密信息的現(xiàn)任和前任員工,。我們知道,，任何報告風(fēng)險相關(guān)擔(dān)憂的努力都應(yīng)避免不必要地泄露機密信息。因此,，一旦存在一個足夠安全的匿名提出擔(dān)憂的流程,，現(xiàn)任和前任員工應(yīng)首先通過此類流程提出擔(dān)憂。然而,，只要此類流程不存在，現(xiàn)任和前任員工應(yīng)保留向公眾報告其擔(dān)憂的自由,。前員工要做“吹哨人” OpenAI急招安全員13名聯(lián)名信簽署者認(rèn)為,，只要AI公司沒有有效的政府監(jiān)督，那現(xiàn)任和前任員工就是少數(shù)能夠讓公司負(fù)起責(zé)任的公眾人士之一,。因此自己必須肩負(fù)起AI“吹哨人”的責(zé)任,。在這13人中，有11名來自O(shè)penAI,，其中6名是OpenAI的現(xiàn)任員工,，但因擔(dān)心被打擊報復(fù)而采取了匿名發(fā)布的方式。另一方面,，保密協(xié)議也阻止了這些員工表達(dá)擔(dān)憂,，例如OpenAI前員工阿申布倫納（Leopold Aschenbrenner）就因“泄露公司機密”遭到解雇。6月6日,，他也發(fā)布了他對人工智能風(fēng)險的回應(yīng)：既不能采取“永遠(yuǎn)封鎖”的方法,，也不能放任自流，而是需要找到一種更聰明的方式來應(yīng)對AGI的潛在風(fēng)險,，而其中關(guān)鍵是解決對齊問題,。OpenAI前員工阿申布倫納（Leopold Aschenbrenner） 圖片來源：個人網(wǎng)站首頁丹尼爾·科科塔約洛（Daniel Kokotajlo）是聯(lián)名簽署此封公開信的OpenAI前員工之一。他在2022年加入OpenAI,，所任職務(wù)是公司的治理研究員,。今年4月份他正式從OpenAI辭職,，原因是他對公司“失去了信心，認(rèn)為OpenAI無法在AI系統(tǒng)實現(xiàn)接近人類水平表現(xiàn)時負(fù)責(zé)任地行事”,。在OpenAI,，科科塔約洛看到，盡管公司已經(jīng)制定了安全相關(guān)的規(guī)章制度,，但這些規(guī)章制度常常處于被架空的狀態(tài),。例如，OpenAI與微軟共同建立了部署安全委員會,，此委員會的主要目的是為了在正式發(fā)布模型之前評估新模型中可能包含的種種風(fēng)險,，但這一委員會似乎并沒有起到應(yīng)有的作用?！笆澜邕€沒有準(zhǔn)備好（迎接如此高級的AI智能）,，我們也沒有準(zhǔn)備好，我擔(dān)心（這些商業(yè)公司）將不管不顧地一意孤行,，并為自己的行為尋找借口,。先進(jìn)的人工智能毀滅人類或?qū)θ祟愒斐蔀?zāi)難性傷害的可能性高達(dá)70%?！笨瓶扑s洛說,。也許是受到了輿論壓力，也許是安全相關(guān)的雇員真的已經(jīng)“所剩無幾”,。6月6日,，OpenAI發(fā)布了一份簡要說明，介紹了自己在威脅模型,、架構(gòu),、安全模型權(quán)重、審核測試等方面的工作,，并表示將“確保我們領(lǐng)先于新出現(xiàn)的威脅,，并繼續(xù)增強人工智能基礎(chǔ)設(shè)施的安全性”。值得注意的事,，OpenAI在文章開頭和末尾兩次強調(diào),，自己正在招聘相關(guān)的安全人員職位。記者聯(lián)系郵箱：[email protected]新京報貝殼財經(jīng)記者 羅亦丹編輯 岳彩周校對 柳寶慶