近日,，歐洲議會、歐盟成員國和歐盟委員會三方就《人工智能法案》達(dá)成協(xié)議,，這被認(rèn)為是全球首個(gè)全面監(jiān)管人工智能（AI）的法案,。在人工智能呈爆發(fā)式發(fā)展,，而國際社會對人工智能帶來的風(fēng)險(xiǎn)擔(dān)憂不斷加劇的當(dāng)下，這一法案的出爐受到全球矚目,?；陲L(fēng)險(xiǎn)分級的監(jiān)管“歷史性的！隨著《人工智能法案》政治協(xié)議在今天達(dá)成,，歐洲成為首個(gè)為AI使用設(shè)定明確規(guī)則的大陸,。”當(dāng)?shù)貢r(shí)間12月8日晚,，歐盟委員會內(nèi)部市場專員蒂埃里·布雷頓在社交媒體上發(fā)文稱,，《人工智能法案》不僅是一本規(guī)則手冊，也將成為歐盟初創(chuàng)企業(yè)和研究人員引領(lǐng)全球人工智能競賽的助推器,。在經(jīng)過長達(dá)36個(gè)小時(shí)的馬拉松式談判后,，歐洲議會、歐盟成員國和歐盟委員會于12月8日晚就《人工智能法案》達(dá)成協(xié)議,。歐盟委員會主席馮德萊恩對這項(xiàng)法案表示歡迎,。她在社交媒體上表示，“《人工智能法案》是全球首創(chuàng),，為值得信賴的人工智能發(fā)展設(shè)立了獨(dú)特的法律框架,，這也是為了公眾和企業(yè)的安全和基本權(quán)利?！边@項(xiàng)法案包括在歐盟內(nèi)使用AI的安全保障條款,，以及執(zhí)法機(jī)構(gòu)在使用AI方面的限制等內(nèi)容。用戶有權(quán)對AI的使用提出投訴,，AI相關(guān)企業(yè)違反相關(guān)條款則面臨罰款等懲罰,。據(jù)《衛(wèi)報(bào)》報(bào)道,，這項(xiàng)法案的核心是基于風(fēng)險(xiǎn)的分級系統(tǒng)，也就是將人工智能技術(shù)應(yīng)用根據(jù)風(fēng)險(xiǎn)類別分類,，從“不可接受”到高,、中、低風(fēng)險(xiǎn)人工智能,，不同風(fēng)險(xiǎn)的人工智能應(yīng)用對應(yīng)不同級別的監(jiān)管,。最高級別的監(jiān)管適用于那些對人類健康、安全,、人權(quán)造成嚴(yán)重威脅的AI系統(tǒng),，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為,、社會地位和個(gè)人特征等進(jìn)行評價(jià)的系統(tǒng)等,。較低級別的監(jiān)管也對人工智能服務(wù)系統(tǒng)規(guī)定了主要義務(wù)，包括披露相關(guān)數(shù)據(jù)的基本規(guī)則等,。在引發(fā)爭議的生物識別監(jiān)控技術(shù)方面,，布雷頓表示，歐洲議會禁止使用實(shí)時(shí)監(jiān)控和包括情感識別在內(nèi)的生物識別技術(shù),，但有三個(gè)例外,，包括面對意外恐怖威脅、需要搜尋受害者以及控訴嚴(yán)重犯罪這三種情況,。據(jù)法新社報(bào)道,，這項(xiàng)法案仍需要?dú)W洲議會和各成員國正式批準(zhǔn)，但外界認(rèn)為,，在8日晚達(dá)成了政治協(xié)議后,，法案通過只是時(shí)間問題。但是,，外界認(rèn)為,，歐盟《人工智能法案》最早也只能在2025年生效，這為人工智能的發(fā)展留足了時(shí)間,。歐盟將監(jiān)督法案的實(shí)施,，并通過新成立的歐盟人工智能辦公室（EU AI office）對那些違反規(guī)則的實(shí)體進(jìn)行懲罰，罰金為企業(yè)營業(yè)額的7%或3500萬歐元,，以較高者為準(zhǔn),。監(jiān)管法案仍存在爭議近些年來，隨著人工智能技術(shù)的不斷發(fā)展,，歐盟一直在全力推進(jìn)人工智能監(jiān)管,。2018年4月，歐盟發(fā)布了《歐盟人工智能戰(zhàn)略》,，此后成立人工智能高級小組,。2019年4月，歐盟發(fā)布了《可信賴人工智能倫理準(zhǔn)則》,。2020年2月,，歐盟出臺《人工智能白皮書》。2021年4月,，歐盟委員會首次提出《人工智能法案》提案的談判授權(quán)草案,。此后，歐洲議會和歐洲理事會就草案進(jìn)行了多輪修訂和討論,。去年12月,，歐洲理事會通過了關(guān)于《人工智能法案》的共同立場文件。今年6月,，歐洲議會高票通過了《人工智能法案》談判授權(quán)草案,，推動了該法案進(jìn)入立法程序的最后階段，即舉行歐洲議會,、歐盟成員國和歐盟委員會的三方談判,，以確定法案的最終條款。上周三,，三方為此展開了馬拉松式的閉門談判,，第一輪談判持續(xù)了22個(gè)小時(shí)，但未能達(dá)成協(xié)議,。第二輪談判于12月8日上午開始,，最終各方于當(dāng)天深夜達(dá)成協(xié)議。中國現(xiàn)代國際關(guān)系研究院科技與網(wǎng)絡(luò)安全研究所執(zhí)行所長,、研究員李艷在接受新京報(bào)記者采訪時(shí)表示,，歐洲國家在規(guī)則領(lǐng)域一直走在世界前列，尤其是在新興技術(shù)方面,，歐洲很注重倫理,、規(guī)則、監(jiān)管,，因此歐盟率先達(dá)成了《人工智能法案》符合其一貫的傳統(tǒng)和理念,。“今年人工智能領(lǐng)域突然出現(xiàn)了爆發(fā)式的發(fā)展,，在這股熱潮之下,，全球關(guān)于人工智能監(jiān)管的討論也越來越熱，主要的大國和國際組織也逐漸聚焦這一議題,?！崩钇G表示，“歐洲一直覺得自己在規(guī)則領(lǐng)域應(yīng)該發(fā)揮引領(lǐng)作用,，因此在內(nèi)外驅(qū)動之下,，最終于近期達(dá)成了這一協(xié)議,。”但是,，從歐盟“馬拉松式”長跑談判就可以看到,，其內(nèi)部對于這一法案仍存在爭議。李艷指出,，對人工智能這一新技術(shù)的監(jiān)管,，主要是為了實(shí)現(xiàn)安全與發(fā)展的平衡，但不同的利益群體對于這種平衡的理解各有不同,，在不同的階段大家的認(rèn)知也會有所差異,，因此爭議不可避免?！霸跉W盟內(nèi)部,，一些創(chuàng)新企業(yè)、技術(shù)社群天然的偏好就是,，希望讓新技術(shù)釋放足夠的生命力和創(chuàng)新力,，不要通過監(jiān)管阻礙其進(jìn)一步發(fā)展。但對于一些關(guān)注人權(quán)保護(hù)的傳統(tǒng)機(jī)構(gòu),，他們可能會覺得監(jiān)管力度不夠,，應(yīng)該進(jìn)行更嚴(yán)格的監(jiān)管?！崩钇G表示,。法新社報(bào)道指出，歐盟在對《人工智能法案》進(jìn)行談判的過程中,，遇到的一個(gè)最主要障礙就是如何監(jiān)管ChatGPT等通用人工智能系統(tǒng),。一些人擔(dān)心，過多的監(jiān)管會損害歐洲人工智能相關(guān)企業(yè)的發(fā)展,，讓歐洲的人工智能發(fā)展落后于其他地區(qū),。德國工業(yè)聯(lián)合會（BDI）表示，歐洲目前在人工智能關(guān)鍵技術(shù)方面面臨落后的危險(xiǎn),?！半S著對人工智能基礎(chǔ)模型及應(yīng)用的全面監(jiān)管，《人工智能法案》危及制造商和用戶雙方的競爭力和創(chuàng)新能力,?！盉DI相關(guān)負(fù)責(zé)人艾里斯·普洛格表示。一些人權(quán)組織則認(rèn)為法案內(nèi)容不夠成熟,，無法保護(hù)民眾免受AI系統(tǒng)帶來的傷害,。數(shù)字權(quán)利團(tuán)體Access Now高級政策分析師丹尼爾·洛伊弗表示，歐盟《人工智能法案》的最終文本存在“巨大缺陷”。李艷則認(rèn)為,，當(dāng)前,，歐盟只能盡量平衡各方觀點(diǎn)，做出一個(gè)符合現(xiàn)階段能夠達(dá)到的最佳平衡點(diǎn)的選擇,，后續(xù)其可能會在法案的具體實(shí)施過程中不斷進(jìn)行調(diào)整,，以更好地適應(yīng)人工智能現(xiàn)實(shí)發(fā)展的需要。全球人工智能監(jiān)管熱潮2022年底開始,，生成式AI系統(tǒng)如OpenAI的ChatGPT的快速發(fā)展引發(fā)世界警惕,，很多人擔(dān)心AI的過快發(fā)展將對就業(yè),、隱私,、著作權(quán)保護(hù)甚至人類生命都造成威脅。此后,，許多人工智能權(quán)威專家,、AI領(lǐng)域非營利組織都曾發(fā)表公開信，呼吁國際社會警惕人工智能帶來的風(fēng)險(xiǎn),。OpenAI ChatGPT,。圖/IC Photo國際AI領(lǐng)域非營利組織“人工智能安全中心”今年5月發(fā)布的一封公開信稱人工智能可能給人類帶來滅絕風(fēng)險(xiǎn),，呼吁將其和對抗大流行病、核戰(zhàn)爭等風(fēng)險(xiǎn)一同作為全球優(yōu)先事項(xiàng),。這封公開信獲得超過350人簽署,，包括三家全球頂尖AI公司的CEO——“ChatGPT之父”、OpenAI創(chuàng)始人兼CEO薩姆·阿爾特曼,，谷歌DeepMind公司CEO戴米斯·哈薩比斯,，以及美國Anthropic公司的CEO達(dá)里奧·阿莫代伊?！叭斯ぶ悄茏鳛橐豁?xiàng)前沿技術(shù),，其不確定性、模糊性非常大,。而在面對一個(gè)不確定性比較強(qiáng)的新興領(lǐng)域時(shí),，我們需要保持一種更加審慎的態(tài)度，以規(guī)避風(fēng)險(xiǎn),?！崩钇G解釋稱，這也是為何在面對全球性議題時(shí)需要前瞻性治理,，因?yàn)橐坏┌踩[患出現(xiàn)了,，相應(yīng)的治理成本、付出的代價(jià)都會非常高,。她進(jìn)一步表示,，今年人工智能發(fā)展迎來了新一輪高峰和熱潮,，由此大家開始從發(fā)展和安全兩個(gè)維度思考這項(xiàng)新技術(shù)，而監(jiān)管是其中非常重要的一個(gè)部分,。在全球范圍內(nèi),，隨著人工智能監(jiān)管變得愈加緊迫，包括中國,、美國,、英國以及許多國際組織都在加速推進(jìn)人工智能治理規(guī)則建設(shè)。今年7月,，中國國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，自8月15日起施行。10月,，美國總統(tǒng)拜登簽署了一項(xiàng)關(guān)于人工智能安全標(biāo)準(zhǔn)的行政命令——《關(guān)于安全,、可靠和可信的人工智能發(fā)展和使用》。11月,，英國舉辦了全球首屆人工智能安全峰會,。英國首相蘇納克曾表示，希望英國成為人工智能監(jiān)管領(lǐng)域的“地理中心”,。10月26日,，聯(lián)合國秘書長古特雷斯宣布成立人工智能高級別咨詢機(jī)構(gòu)（High-level Advisory Body on Artificial Intelligence），對這項(xiàng)技術(shù)帶來的風(fēng)險(xiǎn)和機(jī)遇進(jìn)行探討,，并為國際社會加強(qiáng)人工智能治理提供支持,。李艷表示，“人工智能監(jiān)管已經(jīng)成為一項(xiàng)全球性的議題,，主要大國都有責(zé)任推進(jìn)人工智能治理,。與此同時(shí)，人工智能監(jiān)管也需要各方盡可能地合作,、形成共識,。”以中歐為例,，雙方在人工智能領(lǐng)域就有著很大的合作空間,，一方面可以進(jìn)行人工智能監(jiān)管的經(jīng)驗(yàn)分享和交流，另一方面也可以共同推進(jìn)全球?qū)用娴墓餐卫?。歐盟方面認(rèn)為,，此次出爐的《人工智能法案》將具有全球引領(lǐng)作用。歐盟法律和數(shù)字監(jiān)管專家,、哥倫比亞法學(xué)院教授阿努·布拉德福德（Anu Bradford)表示,，歐盟的這一法案“可以為許多考慮對AI進(jìn)行監(jiān)管的政府樹立榜樣”，其他國家“可能不會復(fù)制所有條款，但可能會效仿其中的許多方面”,。但李艷認(rèn)為,，人工智能監(jiān)管領(lǐng)域可能也不可避免會出現(xiàn)全球競爭?！按蠹叶枷Ｍ约涸谛乱惠喌募夹g(shù)變革和創(chuàng)新中取得發(fā)展優(yōu)勢,，人工智能監(jiān)管也是如此。各國在推進(jìn)本國的治理時(shí),，也希望在國際上能有更大的話語權(quán)和規(guī)則影響力,。”李艷說,，“也因此,，在全球人工智能監(jiān)管方面，競爭與合作都不可避免,。但最終,，還是希望能就全球監(jiān)管達(dá)成共識,，共同推進(jìn)人工智能安全,、有利于全人類的發(fā)展?！毙戮﹫?bào)記者 謝蓮編輯 張磊 校對 劉越