本報(bào)記者 曲忠芳 李正豪 北京報(bào)道

6月6日，國(guó)際非營(yíng)利組織“人工智能安全中心”（Center for AI Safety,，以下簡(jiǎn)稱“CAIS”)主任丹·亨德里克斯通過社交媒體表示，上周已有數(shù)百名頂級(jí)人工智能科學(xué)家和知名公眾人物簽署了一份關(guān)于人工智能風(fēng)險(xiǎn)的公開聲明,，該聲明由CAIS撰寫，其內(nèi)容非常簡(jiǎn)短,，即“降低人工智能的滅絕風(fēng)險(xiǎn),，應(yīng)當(dāng)與流行病、核戰(zhàn)爭(zhēng)等其他大規(guī)模的風(fēng)險(xiǎn)一起納入全球優(yōu)先事項(xiàng)”,。

《中國(guó)經(jīng)營(yíng)報(bào)》記者從CAIS官網(wǎng)獲悉,，該份公開聲明的簽署者來自美國(guó)、中國(guó),、俄羅斯,、巴西、韓國(guó)等20多個(gè)國(guó)家,，涵蓋人工智能專家,、哲學(xué)家、法律專家,、企業(yè)家,、新聞?dòng)浾摺⒄稳宋锏?，其中包?018年圖靈獎(jiǎng)獲得者,、被稱為“深度學(xué)習(xí)三巨頭”中的杰弗里·辛頓 、約書亞·本吉奧,，微軟聯(lián)合創(chuàng)始人比爾·蓋茨,、谷歌DeepMind公司CEO戴米斯·哈薩比斯、OpenAI公司CEO山姆·奧特曼等,，來自中國(guó)的清華大學(xué)航空航天研究院院長(zhǎng)張亞勤,、中國(guó)科學(xué)院自動(dòng)化研究所教授曾毅等也在簽名者行列中。

值得注意的是,，隨著今年AI大模型及生成式AI的火爆,，AI的安全風(fēng)險(xiǎn)也越來越被廣泛地討論與重視。就在今年3月底,，非營(yíng)利組織“未來生命研究所”發(fā)出一封“呼吁所有AI實(shí)驗(yàn)室立即暫停對(duì)比GPT-4更強(qiáng)大的AI系統(tǒng)的訓(xùn)練至少6個(gè)月”的公開信,，特斯拉、Space X,、推特等公司CEO埃隆·馬斯克,，杰弗里·辛頓、約書亞·本吉奧等均在聯(lián)合署名者名單中,。

在丹·亨德里克斯創(chuàng)建的CAIS看來,，人工智能的典型風(fēng)險(xiǎn)集中表現(xiàn)在幾個(gè)方面：武器化——如將深度學(xué)習(xí)用于空戰(zhàn),、用機(jī)器學(xué)習(xí)來制造化學(xué)武器等；生成大量錯(cuò)誤信息——甚至產(chǎn)生一些有說服力的,、帶有任何偏見的內(nèi)容從而引發(fā)強(qiáng)烈的情緒反應(yīng),，導(dǎo)致激化矛盾、阻礙道德進(jìn)步,；未來先進(jìn)的AI系統(tǒng)產(chǎn)生意想不到的惡意行為,，人類可能會(huì)失去對(duì)AI的控制等等。丹·亨德里克斯援引一項(xiàng)民意調(diào)查稱,，約61%的美國(guó)人認(rèn)為人工智能威脅人類的未來,，人類必須解決各種各樣的人工智能風(fēng)險(xiǎn)。CAIS指出,，人工智能的“風(fēng)險(xiǎn)”包括錯(cuò)誤信息,、武器化、任意偏見,、網(wǎng)絡(luò)攻擊等,，“滅絕”是未來先進(jìn)的人工智能系統(tǒng)所帶來的最重要且緊迫的風(fēng)險(xiǎn)，因此CAIS在公開聲明中呼吁將人工智能的滅絕風(fēng)險(xiǎn)列入世界上最重要的問題,。

“人工智能不應(yīng)該是一場(chǎng)軍備競(jìng)賽,。想象一群人站在薄冰覆蓋的海上，在遙遠(yuǎn)的海岸,，他們看到了金銀財(cái)寶,。有些人可能會(huì)想沖刺，但他們會(huì)冒著破冰且跳入冰冷海水的風(fēng)險(xiǎn),。在這種情況下,，即使是自私的人也應(yīng)該謹(jǐn)慎行事?！钡ぁず嗟吕锟怂谷缡潜硎?。

對(duì)于CAIS的這份聲明，英國(guó)首相里?！ぬK納克率先在個(gè)人社交平臺(tái)轉(zhuǎn)發(fā)并表示,，英國(guó)政府正在非常仔細(xì)地研究這一問題。與此同時(shí),，他還透露，前不久他已經(jīng)“向AI企業(yè)強(qiáng)調(diào)了設(shè)置防護(hù)措施以確保AI開發(fā)安全可靠的重要性”,。此外,，6月5日據(jù)路透社報(bào)道，歐盟委員會(huì)副主席維拉·喬羅娃公開表示,，向包括谷歌,、微軟,、Meta、TikTok等超過40家科技企業(yè)要求,，檢測(cè)通過AI生成的文本,、圖片和視頻，并且向用戶提供明顯的標(biāo)識(shí),。喬羅娃稱,，此舉是歐盟委員會(huì)打擊虛假信息工作的重要內(nèi)容。另?yè)?jù)《華爾街日?qǐng)?bào)》報(bào)道,，5月23日,，美國(guó)政府正在尋求制定一項(xiàng)國(guó)家人工智能戰(zhàn)略，以防范錯(cuò)誤信息和該技術(shù)帶來的其他潛在問題,，目前正在向公眾征集意見,。種種跡象表明，AI新技術(shù)帶來的風(fēng)險(xiǎn)與挑戰(zhàn)已越來越引起各個(gè)國(guó)家和地區(qū)政策法律制定者的關(guān)注與重視,。

在對(duì)生成式AI的監(jiān)管規(guī)范方面,，國(guó)內(nèi)同樣也走在國(guó)際前列。今年4月11日,，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》,，向公眾征求意見的時(shí)間窗口已于5月10日結(jié)束。該文件中明確生成式AI應(yīng)遵循的合規(guī)要求,，重點(diǎn)強(qiáng)化了個(gè)人信息保護(hù)的相關(guān)要求,，明確個(gè)人信息處理者的法定責(zé)任和義務(wù)，還要求生成式AI產(chǎn)品或服務(wù)建立評(píng)估備案,、實(shí)名制,、投訴處理等機(jī)制，豐富了包括人工標(biāo)注,、防沉迷,、內(nèi)容標(biāo)識(shí)等管理措施，并且規(guī)定了相應(yīng)的處罰措施,。

不難預(yù)測(cè),，未來一段時(shí)間，AI大模型及各種新應(yīng)用,、新產(chǎn)業(yè)火爆發(fā)展的同時(shí),，AI由此帶來的風(fēng)險(xiǎn)也會(huì)更多地被重視，通過立法立規(guī)來約束技術(shù)邊界,、強(qiáng)化監(jiān)管和治理也將成為國(guó)際范圍內(nèi)的常態(tài),。

（編輯：吳清 校對(duì)：燕郁霞）