“OpenAI的人工智能系統(tǒng)已經接近人類智能水平,，通用人工智能AGI有50%的可能性在2027年就會問世,，而不是此前預測的2050年！”6月4日,，一封由13名來自OpenAI和Google DeepMind的前員工與現(xiàn)員工聯(lián)合發(fā)布的一封公開信再次將人工智能“蒙眼狂奔”的危險呈現(xiàn)在大眾眼前,。有聲音認為，當OpenAI的內部人事糾紛以首席執(zhí)行官山姆奧特曼勝出結束后,，該公司已經走向了一條更偏向激進發(fā)展與財務利益的路,，而將安全與對人類的責任拋諸腦后。一個可能的佐證是,，過去一個月內,，OpenAI曾經的首席科學家和超級對齊負責人相繼離職，員工們也迎來了一波離職潮,，其中負責AI安全的員工的流失最為嚴重,。6月6日，新京報貝殼財經記者注意到,，OpenAI發(fā)布了一份“為保護研究基礎設施和前沿模型訓練而設計的安全架構”的簡介,，OpenAI稱，“希望這將使其他AI研究室和安全專業(yè)人員受益,?！辈⒈硎灸壳罢杖彼捻椔毼唬喊踩较蜍浖こ處煛踩こ處煛⑵髽I(yè)安全工程師和隱私安全工程師,，希望招聘相關從業(yè)人員,。來自13名頂尖人工智能機構員工的擔憂：不相信AI公司“我們是各大前沿AI公司的現(xiàn)任和前任員工，我們相信AI技術有潛力為人類帶來前所未有的好處,。我們也理解這些技術帶來的嚴重風險,。這些風險包括加劇現(xiàn)有的不平等、操縱和誤導信息以及失控的自主AI系統(tǒng)可能導致人類滅絕,?！痹谶@封聯(lián)名信的開頭，11名聯(lián)名信簽署者就開宗明義地表達了自己的擔憂,。信中寫道,，希望這些風險能夠在科學界、政策制定者和公眾的充分指導下得到有效的緩解,，“然而,，AI公司有強烈的財務動機避免有效的監(jiān)督，我們不相信公司為自己量身定制的治理結構能夠改變這一點,。AI公司擁有大量關于其系統(tǒng)能力和局限性的非公開信息,，這些信息涉及系統(tǒng)的保護措施以及系統(tǒng)的各種風險水平。然而,，他們目前只需要向政府分享部分信息,，并不背負著向政府匯報的強烈義務，更沒有義務向社會公眾分享任何信息,。我們不認為他們可以完全自愿地分享這些信息,。”聯(lián)名信呼吁先進AI公司承諾以下原則：一,、公司不會簽訂或執(zhí)行任何禁止因風險相關問題而對公司進行詆毀或批評的協(xié)議,，也不會通過阻礙任何既得經濟利益來報復風險相關的批評。二,、公司將創(chuàng)建一個可驗證的匿名流程,，使現(xiàn)任和前任員工能夠向公司的董事會,、監(jiān)管機構以及具有相關專業(yè)知識的適當獨立組織提出風險相關的擔憂,；三、公司將支持公開批評的文化,，并允許現(xiàn)任和前任員工向公眾,、公司的董事會、監(jiān)管機構或具有相關專業(yè)知識的適當獨立組織提出他們對技術風險的相關擔憂,，只要適當保護商業(yè)秘密和其他知識產權利益即可,；四、公司不會報復那些在其他流程失敗后，公開分享風險相關機密信息的現(xiàn)任和前任員工,。我們知道,，任何報告風險相關擔憂的努力都應避免不必要地泄露機密信息。因此,，一旦存在一個足夠安全的匿名提出擔憂的流程,，現(xiàn)任和前任員工應首先通過此類流程提出擔憂。然而,，只要此類流程不存在,，現(xiàn)任和前任員工應保留向公眾報告其擔憂的自由。前員工要做“吹哨人” OpenAI急招安全員13名聯(lián)名信簽署者認為,，只要AI公司沒有有效的政府監(jiān)督,，那現(xiàn)任和前任員工就是少數能夠讓公司負起責任的公眾人士之一。因此自己必須肩負起AI“吹哨人”的責任,。在這13人中,，有11名來自OpenAI，其中6名是OpenAI的現(xiàn)任員工,，但因擔心被打擊報復而采取了匿名發(fā)布的方式,。另一方面，保密協(xié)議也阻止了這些員工表達擔憂,，例如OpenAI前員工阿申布倫納（Leopold Aschenbrenner）就因“泄露公司機密”遭到解雇,。6月6日，他也發(fā)布了他對人工智能風險的回應：既不能采取“永遠封鎖”的方法,，也不能放任自流,，而是需要找到一種更聰明的方式來應對AGI的潛在風險，而其中關鍵是解決對齊問題,。OpenAI前員工阿申布倫納（Leopold Aschenbrenner） 圖片來源：個人網站首頁丹尼爾·科科塔約洛（Daniel Kokotajlo）是聯(lián)名簽署此封公開信的OpenAI前員工之一,。他在2022年加入OpenAI，所任職務是公司的治理研究員,。今年4月份他正式從OpenAI辭職,，原因是他對公司“失去了信心，認為OpenAI無法在AI系統(tǒng)實現(xiàn)接近人類水平表現(xiàn)時負責任地行事”,。在OpenAI,，科科塔約洛看到，盡管公司已經制定了安全相關的規(guī)章制度,，但這些規(guī)章制度常常處于被架空的狀態(tài),。例如，OpenAI與微軟共同建立了部署安全委員會,，此委員會的主要目的是為了在正式發(fā)布模型之前評估新模型中可能包含的種種風險,，但這一委員會似乎并沒有起到應有的作用,。“世界還沒有準備好（迎接如此高級的AI智能）,，我們也沒有準備好,，我擔心（這些商業(yè)公司）將不管不顧地一意孤行，并為自己的行為尋找借口,。先進的人工智能毀滅人類或對人類造成災難性傷害的可能性高達70%,。”科科塔約洛說,。也許是受到了輿論壓力,，也許是安全相關的雇員真的已經“所剩無幾”。6月6日,，OpenAI發(fā)布了一份簡要說明,，介紹了自己在威脅模型、架構,、安全模型權重,、審核測試等方面的工作，并表示將“確保我們領先于新出現(xiàn)的威脅,，并繼續(xù)增強人工智能基礎設施的安全性”,。值得注意的事，OpenAI在文章開頭和末尾兩次強調,，自己正在招聘相關的安全人員職位,。記者聯(lián)系郵箱：[email protected]新京報貝殼財經記者 羅亦丹編輯 岳彩周校對 柳寶慶