近日，歐洲議會,、歐盟成員國和歐盟委員會三方就《人工智能法案》達成協(xié)議,，這被認為是全球首個全面監(jiān)管人工智能（AI）的法案,。在人工智能呈爆發(fā)式發(fā)展,，而國際社會對人工智能帶來的風(fēng)險擔憂不斷加劇的當下，這一法案的出爐受到全球矚目,。基于風(fēng)險分級的監(jiān)管“歷史性的,！隨著《人工智能法案》政治協(xié)議在今天達成,，歐洲成為首個為AI使用設(shè)定明確規(guī)則的大陸?！碑?shù)貢r間12月8日晚,，歐盟委員會內(nèi)部市場專員蒂埃里·布雷頓在社交媒體上發(fā)文稱，《人工智能法案》不僅是一本規(guī)則手冊,，也將成為歐盟初創(chuàng)企業(yè)和研究人員引領(lǐng)全球人工智能競賽的助推器,。在經(jīng)過長達36個小時的馬拉松式談判后，歐洲議會,、歐盟成員國和歐盟委員會于12月8日晚就《人工智能法案》達成協(xié)議,。歐盟委員會主席馮德萊恩對這項法案表示歡迎。她在社交媒體上表示,，“《人工智能法案》是全球首創(chuàng),，為值得信賴的人工智能發(fā)展設(shè)立了獨特的法律框架，這也是為了公眾和企業(yè)的安全和基本權(quán)利,?！边@項法案包括在歐盟內(nèi)使用AI的安全保障條款，以及執(zhí)法機構(gòu)在使用AI方面的限制等內(nèi)容。用戶有權(quán)對AI的使用提出投訴,，AI相關(guān)企業(yè)違反相關(guān)條款則面臨罰款等懲罰,。據(jù)《衛(wèi)報》報道，這項法案的核心是基于風(fēng)險的分級系統(tǒng),，也就是將人工智能技術(shù)應(yīng)用根據(jù)風(fēng)險類別分類,，從“不可接受”到高、中,、低風(fēng)險人工智能,，不同風(fēng)險的人工智能應(yīng)用對應(yīng)不同級別的監(jiān)管。最高級別的監(jiān)管適用于那些對人類健康,、安全,、人權(quán)造成嚴重威脅的AI系統(tǒng)，包括有目的地操縱技術(shù),、利用人性弱點或根據(jù)行為,、社會地位和個人特征等進行評價的系統(tǒng)等。較低級別的監(jiān)管也對人工智能服務(wù)系統(tǒng)規(guī)定了主要義務(wù),，包括披露相關(guān)數(shù)據(jù)的基本規(guī)則等,。在引發(fā)爭議的生物識別監(jiān)控技術(shù)方面，布雷頓表示,，歐洲議會禁止使用實時監(jiān)控和包括情感識別在內(nèi)的生物識別技術(shù),，但有三個例外，包括面對意外恐怖威脅,、需要搜尋受害者以及控訴嚴重犯罪這三種情況,。據(jù)法新社報道，這項法案仍需要歐洲議會和各成員國正式批準,，但外界認為,，在8日晚達成了政治協(xié)議后，法案通過只是時間問題,。但是,，外界認為，歐盟《人工智能法案》最早也只能在2025年生效,，這為人工智能的發(fā)展留足了時間,。歐盟將監(jiān)督法案的實施，并通過新成立的歐盟人工智能辦公室（EU AI office）對那些違反規(guī)則的實體進行懲罰,，罰金為企業(yè)營業(yè)額的7%或3500萬歐元,，以較高者為準。監(jiān)管法案仍存在爭議近些年來，隨著人工智能技術(shù)的不斷發(fā)展,，歐盟一直在全力推進人工智能監(jiān)管,。2018年4月，歐盟發(fā)布了《歐盟人工智能戰(zhàn)略》,，此后成立人工智能高級小組,。2019年4月，歐盟發(fā)布了《可信賴人工智能倫理準則》,。2020年2月,，歐盟出臺《人工智能白皮書》。2021年4月,，歐盟委員會首次提出《人工智能法案》提案的談判授權(quán)草案,。此后，歐洲議會和歐洲理事會就草案進行了多輪修訂和討論,。去年12月,，歐洲理事會通過了關(guān)于《人工智能法案》的共同立場文件。今年6月,，歐洲議會高票通過了《人工智能法案》談判授權(quán)草案,，推動了該法案進入立法程序的最后階段，即舉行歐洲議會,、歐盟成員國和歐盟委員會的三方談判,，以確定法案的最終條款。上周三,，三方為此展開了馬拉松式的閉門談判,，第一輪談判持續(xù)了22個小時，但未能達成協(xié)議,。第二輪談判于12月8日上午開始,，最終各方于當天深夜達成協(xié)議。中國現(xiàn)代國際關(guān)系研究院科技與網(wǎng)絡(luò)安全研究所執(zhí)行所長,、研究員李艷在接受新京報記者采訪時表示,，歐洲國家在規(guī)則領(lǐng)域一直走在世界前列，尤其是在新興技術(shù)方面,，歐洲很注重倫理,、規(guī)則、監(jiān)管,，因此歐盟率先達成了《人工智能法案》符合其一貫的傳統(tǒng)和理念,。“今年人工智能領(lǐng)域突然出現(xiàn)了爆發(fā)式的發(fā)展,，在這股熱潮之下,，全球關(guān)于人工智能監(jiān)管的討論也越來越熱,，主要的大國和國際組織也逐漸聚焦這一議題?！崩钇G表示,，“歐洲一直覺得自己在規(guī)則領(lǐng)域應(yīng)該發(fā)揮引領(lǐng)作用，因此在內(nèi)外驅(qū)動之下,，最終于近期達成了這一協(xié)議,。”但是,，從歐盟“馬拉松式”長跑談判就可以看到,，其內(nèi)部對于這一法案仍存在爭議。李艷指出,，對人工智能這一新技術(shù)的監(jiān)管,，主要是為了實現(xiàn)安全與發(fā)展的平衡，但不同的利益群體對于這種平衡的理解各有不同,，在不同的階段大家的認知也會有所差異,，因此爭議不可避免?！霸跉W盟內(nèi)部,，一些創(chuàng)新企業(yè)、技術(shù)社群天然的偏好就是,，希望讓新技術(shù)釋放足夠的生命力和創(chuàng)新力,，不要通過監(jiān)管阻礙其進一步發(fā)展。但對于一些關(guān)注人權(quán)保護的傳統(tǒng)機構(gòu),，他們可能會覺得監(jiān)管力度不夠,，應(yīng)該進行更嚴格的監(jiān)管?！崩钇G表示,。法新社報道指出，歐盟在對《人工智能法案》進行談判的過程中,，遇到的一個最主要障礙就是如何監(jiān)管ChatGPT等通用人工智能系統(tǒng),。一些人擔心，過多的監(jiān)管會損害歐洲人工智能相關(guān)企業(yè)的發(fā)展,，讓歐洲的人工智能發(fā)展落后于其他地區(qū),。德國工業(yè)聯(lián)合會（BDI）表示，歐洲目前在人工智能關(guān)鍵技術(shù)方面面臨落后的危險,?！半S著對人工智能基礎(chǔ)模型及應(yīng)用的全面監(jiān)管，《人工智能法案》危及制造商和用戶雙方的競爭力和創(chuàng)新能力,?！盉DI相關(guān)負責人艾里斯·普洛格表示,。一些人權(quán)組織則認為法案內(nèi)容不夠成熟，無法保護民眾免受AI系統(tǒng)帶來的傷害,。數(shù)字權(quán)利團體Access Now高級政策分析師丹尼爾·洛伊弗表示,，歐盟《人工智能法案》的最終文本存在“巨大缺陷”。李艷則認為,，當前，歐盟只能盡量平衡各方觀點,，做出一個符合現(xiàn)階段能夠達到的最佳平衡點的選擇,，后續(xù)其可能會在法案的具體實施過程中不斷進行調(diào)整，以更好地適應(yīng)人工智能現(xiàn)實發(fā)展的需要,。全球人工智能監(jiān)管熱潮2022年底開始,，生成式AI系統(tǒng)如OpenAI的ChatGPT的快速發(fā)展引發(fā)世界警惕,，很多人擔心AI的過快發(fā)展將對就業(yè)、隱私,、著作權(quán)保護甚至人類生命都造成威脅,。此后，許多人工智能權(quán)威專家,、AI領(lǐng)域非營利組織都曾發(fā)表公開信,，呼吁國際社會警惕人工智能帶來的風(fēng)險。OpenAI ChatGPT。圖/IC Photo國際AI領(lǐng)域非營利組織“人工智能安全中心”今年5月發(fā)布的一封公開信稱人工智能可能給人類帶來滅絕風(fēng)險,，呼吁將其和對抗大流行病,、核戰(zhàn)爭等風(fēng)險一同作為全球優(yōu)先事項。這封公開信獲得超過350人簽署,，包括三家全球頂尖AI公司的CEO——“ChatGPT之父”,、OpenAI創(chuàng)始人兼CEO薩姆·阿爾特曼，谷歌DeepMind公司CEO戴米斯·哈薩比斯,，以及美國Anthropic公司的CEO達里奧·阿莫代伊,。“人工智能作為一項前沿技術(shù),，其不確定性,、模糊性非常大。而在面對一個不確定性比較強的新興領(lǐng)域時,，我們需要保持一種更加審慎的態(tài)度,，以規(guī)避風(fēng)險,。”李艷解釋稱,，這也是為何在面對全球性議題時需要前瞻性治理,，因為一旦安全隱患出現(xiàn)了，相應(yīng)的治理成本,、付出的代價都會非常高,。她進一步表示，今年人工智能發(fā)展迎來了新一輪高峰和熱潮,，由此大家開始從發(fā)展和安全兩個維度思考這項新技術(shù),，而監(jiān)管是其中非常重要的一個部分。在全球范圍內(nèi),，隨著人工智能監(jiān)管變得愈加緊迫,，包括中國、美國,、英國以及許多國際組織都在加速推進人工智能治理規(guī)則建設(shè),。今年7月，中國國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，自8月15日起施行,。10月，美國總統(tǒng)拜登簽署了一項關(guān)于人工智能安全標準的行政命令——《關(guān)于安全,、可靠和可信的人工智能發(fā)展和使用》,。11月，英國舉辦了全球首屆人工智能安全峰會,。英國首相蘇納克曾表示,，希望英國成為人工智能監(jiān)管領(lǐng)域的“地理中心”。10月26日,，聯(lián)合國秘書長古特雷斯宣布成立人工智能高級別咨詢機構(gòu)（High-level Advisory Body on Artificial Intelligence）,，對這項技術(shù)帶來的風(fēng)險和機遇進行探討，并為國際社會加強人工智能治理提供支持,。李艷表示,，“人工智能監(jiān)管已經(jīng)成為一項全球性的議題，主要大國都有責任推進人工智能治理,。與此同時,，人工智能監(jiān)管也需要各方盡可能地合作、形成共識,?！币灾袣W為例，雙方在人工智能領(lǐng)域就有著很大的合作空間,，一方面可以進行人工智能監(jiān)管的經(jīng)驗分享和交流,，另一方面也可以共同推進全球?qū)用娴墓餐卫?。歐盟方面認為，此次出爐的《人工智能法案》將具有全球引領(lǐng)作用,。歐盟法律和數(shù)字監(jiān)管專家,、哥倫比亞法學(xué)院教授阿努·布拉德福德（Anu Bradford)表示，歐盟的這一法案“可以為許多考慮對AI進行監(jiān)管的政府樹立榜樣”,，其他國家“可能不會復(fù)制所有條款,，但可能會效仿其中的許多方面”。但李艷認為,，人工智能監(jiān)管領(lǐng)域可能也不可避免會出現(xiàn)全球競爭,。“大家都希望自己在新一輪的技術(shù)變革和創(chuàng)新中取得發(fā)展優(yōu)勢,，人工智能監(jiān)管也是如此。各國在推進本國的治理時,，也希望在國際上能有更大的話語權(quán)和規(guī)則影響力,。”李艷說,，“也因此,，在全球人工智能監(jiān)管方面，競爭與合作都不可避免,。但最終,，還是希望能就全球監(jiān)管達成共識，共同推進人工智能安全,、有利于全人類的發(fā)展,。”記者 | 謝蓮 編輯 | 張磊