近日,，歐洲議會(huì),、歐盟成員國(guó)和歐盟委員會(huì)三方就《人工智能法案》達(dá)成協(xié)議,，這被認(rèn)為是全球首個(gè)全面監(jiān)管人工智能（AI）的法案。在人工智能呈爆發(fā)式發(fā)展,，而國(guó)際社會(huì)對(duì)人工智能帶來的風(fēng)險(xiǎn)擔(dān)憂不斷加劇的當(dāng)下,，這一法案的出爐受到全球矚目?；陲L(fēng)險(xiǎn)分級(jí)的監(jiān)管“歷史性的,！隨著《人工智能法案》政治協(xié)議在今天達(dá)成，歐洲成為首個(gè)為AI使用設(shè)定明確規(guī)則的大陸,?！碑?dāng)?shù)貢r(shí)間12月8日晚，歐盟委員會(huì)內(nèi)部市場(chǎng)專員蒂埃里·布雷頓在社交媒體上發(fā)文稱,，《人工智能法案》不僅是一本規(guī)則手冊(cè),，也將成為歐盟初創(chuàng)企業(yè)和研究人員引領(lǐng)全球人工智能競(jìng)賽的助推器。在經(jīng)過長(zhǎng)達(dá)36個(gè)小時(shí)的馬拉松式談判后,，歐洲議會(huì),、歐盟成員國(guó)和歐盟委員會(huì)于12月8日晚就《人工智能法案》達(dá)成協(xié)議,。歐盟委員會(huì)主席馮德萊恩對(duì)這項(xiàng)法案表示歡迎,。她在社交媒體上表示,，“《人工智能法案》是全球首創(chuàng)，為值得信賴的人工智能發(fā)展設(shè)立了獨(dú)特的法律框架,，這也是為了公眾和企業(yè)的安全和基本權(quán)利,。”這項(xiàng)法案包括在歐盟內(nèi)使用AI的安全保障條款,，以及執(zhí)法機(jī)構(gòu)在使用AI方面的限制等內(nèi)容,。用戶有權(quán)對(duì)AI的使用提出投訴，AI相關(guān)企業(yè)違反相關(guān)條款則面臨罰款等懲罰,。據(jù)《衛(wèi)報(bào)》報(bào)道,，這項(xiàng)法案的核心是基于風(fēng)險(xiǎn)的分級(jí)系統(tǒng)，也就是將人工智能技術(shù)應(yīng)用根據(jù)風(fēng)險(xiǎn)類別分類,，從“不可接受”到高,、中、低風(fēng)險(xiǎn)人工智能,，不同風(fēng)險(xiǎn)的人工智能應(yīng)用對(duì)應(yīng)不同級(jí)別的監(jiān)管,。最高級(jí)別的監(jiān)管適用于那些對(duì)人類健康、安全,、人權(quán)造成嚴(yán)重威脅的AI系統(tǒng),，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為,、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等,。較低級(jí)別的監(jiān)管也對(duì)人工智能服務(wù)系統(tǒng)規(guī)定了主要義務(wù)，包括披露相關(guān)數(shù)據(jù)的基本規(guī)則等,。在引發(fā)爭(zhēng)議的生物識(shí)別監(jiān)控技術(shù)方面,，布雷頓表示，歐洲議會(huì)禁止使用實(shí)時(shí)監(jiān)控和包括情感識(shí)別在內(nèi)的生物識(shí)別技術(shù),，但有三個(gè)例外,，包括面對(duì)意外恐怖威脅、需要搜尋受害者以及控訴嚴(yán)重犯罪這三種情況,。據(jù)法新社報(bào)道,，這項(xiàng)法案仍需要?dú)W洲議會(huì)和各成員國(guó)正式批準(zhǔn)，但外界認(rèn)為,，在8日晚達(dá)成了政治協(xié)議后,，法案通過只是時(shí)間問題。但是,，外界認(rèn)為,，歐盟《人工智能法案》最早也只能在2025年生效，這為人工智能的發(fā)展留足了時(shí)間。歐盟將監(jiān)督法案的實(shí)施,，并通過新成立的歐盟人工智能辦公室（EU AI office）對(duì)那些違反規(guī)則的實(shí)體進(jìn)行懲罰,，罰金為企業(yè)營(yíng)業(yè)額的7%或3500萬歐元，以較高者為準(zhǔn),。監(jiān)管法案仍存在爭(zhēng)議近些年來,，隨著人工智能技術(shù)的不斷發(fā)展，歐盟一直在全力推進(jìn)人工智能監(jiān)管,。2018年4月,，歐盟發(fā)布了《歐盟人工智能戰(zhàn)略》，此后成立人工智能高級(jí)小組,。2019年4月,，歐盟發(fā)布了《可信賴人工智能倫理準(zhǔn)則》。2020年2月,，歐盟出臺(tái)《人工智能白皮書》,。2021年4月，歐盟委員會(huì)首次提出《人工智能法案》提案的談判授權(quán)草案,。此后,，歐洲議會(huì)和歐洲理事會(huì)就草案進(jìn)行了多輪修訂和討論。去年12月,，歐洲理事會(huì)通過了關(guān)于《人工智能法案》的共同立場(chǎng)文件,。今年6月，歐洲議會(huì)高票通過了《人工智能法案》談判授權(quán)草案,，推動(dòng)了該法案進(jìn)入立法程序的最后階段,，即舉行歐洲議會(huì)、歐盟成員國(guó)和歐盟委員會(huì)的三方談判,，以確定法案的最終條款,。上周三，三方為此展開了馬拉松式的閉門談判,，第一輪談判持續(xù)了22個(gè)小時(shí),，但未能達(dá)成協(xié)議。第二輪談判于12月8日上午開始,，最終各方于當(dāng)天深夜達(dá)成協(xié)議,。中國(guó)現(xiàn)代國(guó)際關(guān)系研究院科技與網(wǎng)絡(luò)安全研究所執(zhí)行所長(zhǎng)、研究員李艷在接受新京報(bào)記者采訪時(shí)表示,，歐洲國(guó)家在規(guī)則領(lǐng)域一直走在世界前列,，尤其是在新興技術(shù)方面，歐洲很注重倫理,、規(guī)則,、監(jiān)管,，因此歐盟率先達(dá)成了《人工智能法案》符合其一貫的傳統(tǒng)和理念?！敖衲耆斯ぶ悄茴I(lǐng)域突然出現(xiàn)了爆發(fā)式的發(fā)展,，在這股熱潮之下，全球關(guān)于人工智能監(jiān)管的討論也越來越熱,，主要的大國(guó)和國(guó)際組織也逐漸聚焦這一議題,?！崩钇G表示,，“歐洲一直覺得自己在規(guī)則領(lǐng)域應(yīng)該發(fā)揮引領(lǐng)作用，因此在內(nèi)外驅(qū)動(dòng)之下,，最終于近期達(dá)成了這一協(xié)議,。”但是,，從歐盟“馬拉松式”長(zhǎng)跑談判就可以看到,，其內(nèi)部對(duì)于這一法案仍存在爭(zhēng)議。李艷指出,，對(duì)人工智能這一新技術(shù)的監(jiān)管,，主要是為了實(shí)現(xiàn)安全與發(fā)展的平衡，但不同的利益群體對(duì)于這種平衡的理解各有不同,，在不同的階段大家的認(rèn)知也會(huì)有所差異,，因此爭(zhēng)議不可避免?！霸跉W盟內(nèi)部,，一些創(chuàng)新企業(yè)、技術(shù)社群天然的偏好就是,，希望讓新技術(shù)釋放足夠的生命力和創(chuàng)新力,，不要通過監(jiān)管阻礙其進(jìn)一步發(fā)展。但對(duì)于一些關(guān)注人權(quán)保護(hù)的傳統(tǒng)機(jī)構(gòu),，他們可能會(huì)覺得監(jiān)管力度不夠,，應(yīng)該進(jìn)行更嚴(yán)格的監(jiān)管?！崩钇G表示,。法新社報(bào)道指出，歐盟在對(duì)《人工智能法案》進(jìn)行談判的過程中,，遇到的一個(gè)最主要障礙就是如何監(jiān)管ChatGPT等通用人工智能系統(tǒng),。一些人擔(dān)心，過多的監(jiān)管會(huì)損害歐洲人工智能相關(guān)企業(yè)的發(fā)展,，讓歐洲的人工智能發(fā)展落后于其他地區(qū),。德國(guó)工業(yè)聯(lián)合會(huì)（BDI）表示,，歐洲目前在人工智能關(guān)鍵技術(shù)方面面臨落后的危險(xiǎn)?！半S著對(duì)人工智能基礎(chǔ)模型及應(yīng)用的全面監(jiān)管,，《人工智能法案》危及制造商和用戶雙方的競(jìng)爭(zhēng)力和創(chuàng)新能力?！盉DI相關(guān)負(fù)責(zé)人艾里斯·普洛格表示,。一些人權(quán)組織則認(rèn)為法案內(nèi)容不夠成熟，無法保護(hù)民眾免受AI系統(tǒng)帶來的傷害,。數(shù)字權(quán)利團(tuán)體Access Now高級(jí)政策分析師丹尼爾·洛伊弗表示,，歐盟《人工智能法案》的最終文本存在“巨大缺陷”。李艷則認(rèn)為,，當(dāng)前,，歐盟只能盡量平衡各方觀點(diǎn)，做出一個(gè)符合現(xiàn)階段能夠達(dá)到的最佳平衡點(diǎn)的選擇,，后續(xù)其可能會(huì)在法案的具體實(shí)施過程中不斷進(jìn)行調(diào)整,，以更好地適應(yīng)人工智能現(xiàn)實(shí)發(fā)展的需要。全球人工智能監(jiān)管熱潮2022年底開始,，生成式AI系統(tǒng)如OpenAI的ChatGPT的快速發(fā)展引發(fā)世界警惕,，很多人擔(dān)心AI的過快發(fā)展將對(duì)就業(yè)、隱私,、著作權(quán)保護(hù)甚至人類生命都造成威脅,。此后，許多人工智能權(quán)威專家,、AI領(lǐng)域非營(yíng)利組織都曾發(fā)表公開信,，呼吁國(guó)際社會(huì)警惕人工智能帶來的風(fēng)險(xiǎn)。OpenAI ChatGPT。圖/IC Photo國(guó)際AI領(lǐng)域非營(yíng)利組織“人工智能安全中心”今年5月發(fā)布的一封公開信稱人工智能可能給人類帶來滅絕風(fēng)險(xiǎn),，呼吁將其和對(duì)抗大流行病,、核戰(zhàn)爭(zhēng)等風(fēng)險(xiǎn)一同作為全球優(yōu)先事項(xiàng)。這封公開信獲得超過350人簽署,，包括三家全球頂尖AI公司的CEO——“ChatGPT之父”,、OpenAI創(chuàng)始人兼CEO薩姆·阿爾特曼，谷歌DeepMind公司CEO戴米斯·哈薩比斯,，以及美國(guó)Anthropic公司的CEO達(dá)里奧·阿莫代伊,。“人工智能作為一項(xiàng)前沿技術(shù),，其不確定性,、模糊性非常大,。而在面對(duì)一個(gè)不確定性比較強(qiáng)的新興領(lǐng)域時(shí)，我們需要保持一種更加審慎的態(tài)度,，以規(guī)避風(fēng)險(xiǎn),。”李艷解釋稱,，這也是為何在面對(duì)全球性議題時(shí)需要前瞻性治理,，因?yàn)橐坏┌踩[患出現(xiàn)了，相應(yīng)的治理成本,、付出的代價(jià)都會(huì)非常高,。她進(jìn)一步表示，今年人工智能發(fā)展迎來了新一輪高峰和熱潮，由此大家開始從發(fā)展和安全兩個(gè)維度思考這項(xiàng)新技術(shù)，而監(jiān)管是其中非常重要的一個(gè)部分,。在全球范圍內(nèi),，隨著人工智能監(jiān)管變得愈加緊迫，包括中國(guó),、美國(guó),、英國(guó)以及許多國(guó)際組織都在加速推進(jìn)人工智能治理規(guī)則建設(shè)。今年7月,，中國(guó)國(guó)家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，自8月15日起施行。10月,，美國(guó)總統(tǒng)拜登簽署了一項(xiàng)關(guān)于人工智能安全標(biāo)準(zhǔn)的行政命令——《關(guān)于安全,、可靠和可信的人工智能發(fā)展和使用》。11月,，英國(guó)舉辦了全球首屆人工智能安全峰會(huì),。英國(guó)首相蘇納克曾表示，希望英國(guó)成為人工智能監(jiān)管領(lǐng)域的“地理中心”,。10月26日,，聯(lián)合國(guó)秘書長(zhǎng)古特雷斯宣布成立人工智能高級(jí)別咨詢機(jī)構(gòu)（High-level Advisory Body on Artificial Intelligence），對(duì)這項(xiàng)技術(shù)帶來的風(fēng)險(xiǎn)和機(jī)遇進(jìn)行探討,，并為國(guó)際社會(huì)加強(qiáng)人工智能治理提供支持,。李艷表示，“人工智能監(jiān)管已經(jīng)成為一項(xiàng)全球性的議題,，主要大國(guó)都有責(zé)任推進(jìn)人工智能治理,。與此同時(shí)，人工智能監(jiān)管也需要各方盡可能地合作,、形成共識(shí),?！币灾袣W為例，雙方在人工智能領(lǐng)域就有著很大的合作空間,，一方面可以進(jìn)行人工智能監(jiān)管的經(jīng)驗(yàn)分享和交流,，另一方面也可以共同推進(jìn)全球?qū)用娴墓餐卫怼W盟方面認(rèn)為,，此次出爐的《人工智能法案》將具有全球引領(lǐng)作用,。歐盟法律和數(shù)字監(jiān)管專家、哥倫比亞法學(xué)院教授阿努·布拉德福德（Anu Bradford)表示,，歐盟的這一法案“可以為許多考慮對(duì)AI進(jìn)行監(jiān)管的政府樹立榜樣”,，其他國(guó)家“可能不會(huì)復(fù)制所有條款，但可能會(huì)效仿其中的許多方面”,。但李艷認(rèn)為,，人工智能監(jiān)管領(lǐng)域可能也不可避免會(huì)出現(xiàn)全球競(jìng)爭(zhēng)?！按蠹叶枷Ｍ约涸谛乱惠喌募夹g(shù)變革和創(chuàng)新中取得發(fā)展優(yōu)勢(shì),，人工智能監(jiān)管也是如此。各國(guó)在推進(jìn)本國(guó)的治理時(shí),，也希望在國(guó)際上能有更大的話語權(quán)和規(guī)則影響力,。”李艷說,，“也因此,，在全球人工智能監(jiān)管方面，競(jìng)爭(zhēng)與合作都不可避免,。但最終,，還是希望能就全球監(jiān)管達(dá)成共識(shí)，共同推進(jìn)人工智能安全,、有利于全人類的發(fā)展,。”新京報(bào)記者 謝蓮編輯 張磊 校對(duì) 劉越