本報(bào)記者 曲忠芳 北京報(bào)道

備受關(guān)注的《人工智能法案》（AI Act）在歷時(shí)近2年的立法程序后終于邁出了關(guān)鍵性的一步。當(dāng)?shù)貢r(shí)間3月13日，歐洲議會(huì)正式投票通過(guò)并批準(zhǔn)歐盟《人工智能法案》，成為人類(lèi)歷史上第一部針對(duì)人工智能技術(shù)的法案,。

歐盟在官方網(wǎng)站明確寫(xiě)道：“歐盟是世界上第一個(gè)嘗試制定人工智能法律的立法者,。作為此類(lèi)立法提案中的第一個(gè)，它可以為其他司法管轄區(qū)的人工智能監(jiān)管制定全球標(biāo)準(zhǔn),，就像GDPR（《通用數(shù)據(jù)保護(hù)條例》）對(duì)數(shù)據(jù)隱私所做的那樣,，從而在世界舞臺(tái)推廣歐洲的技術(shù)監(jiān)管方式?！?/p>

北京高勤律師事務(wù)所合伙人,、律師王源向《中國(guó)經(jīng)營(yíng)報(bào)》記者指出，歐盟“玩的是陽(yáng)謀”，在美國(guó)整體技術(shù)領(lǐng)先,、中國(guó)商業(yè)模式比較先進(jìn)的情況下,，歐洲在立法上搶先占領(lǐng)高地，在GDPR成功的基礎(chǔ)上,，歐洲希望在人工智能領(lǐng)域延續(xù)其一直以來(lái)的“布魯塞爾效應(yīng)”,，即歐盟通過(guò)單方面的市場(chǎng)規(guī)則能力，在無(wú)需其他國(guó)家,、國(guó)家機(jī)構(gòu)協(xié)作的情況下,，制定出全球市場(chǎng)遵循的規(guī)章制度，從而引領(lǐng)全球商業(yè)環(huán)境的形成,，甚至推動(dòng)全球商業(yè)重要方面的“歐洲化”,。

對(duì)我國(guó)立法的參考與借鑒

根據(jù)歐盟理事會(huì)官方發(fā)布的立法機(jī)構(gòu)示意圖，可以清晰地看出,，在《人工智能法案》生效后,，歐盟將增設(shè)一個(gè)“歐盟人工智能委員會(huì)”，由歐盟27個(gè)國(guó)家各派一名代表組成,，從而協(xié)助歐盟委員會(huì)的工作,。在歐盟人工智能委員會(huì)之下設(shè)立市場(chǎng)監(jiān)督機(jī)構(gòu)，以及歐洲數(shù)據(jù)保護(hù)專(zhuān)員公署（EDPS）和歐洲數(shù)據(jù)保護(hù)委員會(huì)（EDPB）,。除此之外,，在“歐盟委員會(huì)”之下新設(shè)一個(gè)“人工智能辦公室”，該辦公室還會(huì)設(shè)立“獨(dú)立科學(xué)小組”和“咨詢(xún)論壇”,，相當(dāng)于兩個(gè)咨詢(xún)機(jī)構(gòu),。

王源指出，《人工智能法案》最早是由歐盟在2021年4月21日提出,，進(jìn)入2023年后隨著新一輪生成式人工智能熱潮洶涌,，立法推進(jìn)的節(jié)奏明顯加快。今年3月13日由歐洲議會(huì)通過(guò)后,，還會(huì)有幾個(gè)程序性的環(huán)節(jié),，但整體結(jié)構(gòu)和內(nèi)容基本不會(huì)再變了?！度斯ぶ悄芊ò浮饭?80項(xiàng)條款,，8萬(wàn)字，將分階段實(shí)施,，最早在《歐洲聯(lián)盟公報(bào)》上公布后的第20天起施行,，而最晚生效后3年之內(nèi)全部適用。

從適用主體來(lái)看,，《人工智能法案》明確標(biāo)出了66類(lèi)主體及第三方主體,，統(tǒng)一稱(chēng)為“Operator”（經(jīng)營(yíng)者/運(yùn)營(yíng)者）,，涵蓋開(kāi)發(fā)AI系統(tǒng)或通用AI模型的提供商、部署者,、產(chǎn)品制造商,、授權(quán)代表、分銷(xiāo)商,、進(jìn)口商等,。在王源看來(lái)，《人工智能法案》從人工智能責(zé)任鏈方面,，將人工智能的提供者,、進(jìn)口商、分銷(xiāo)商,、部署者等整個(gè)價(jià)值鏈的各自責(zé)任分別列舉,，尤其是對(duì)使用人工智能的部署者也規(guī)定了遵守使用說(shuō)明這些詳細(xì)的義務(wù),。從地域來(lái)看,，無(wú)論是否位于歐盟境內(nèi)，只要在歐盟銷(xiāo)售或使用人工智能產(chǎn)品均要遵守該法律,。例如,，在歐盟境外的AI模型被進(jìn)口到歐盟在當(dāng)?shù)厥袌?chǎng)投入或部署，同樣要遵守這一法律,。

歐盟官網(wǎng)顯示,，《人工智能法案》將與人工智能特定用途相關(guān)的風(fēng)險(xiǎn)劃分成了4個(gè)級(jí)別，包括“不可接受的”“高風(fēng)險(xiǎn)”“中等風(fēng)險(xiǎn)”“最小風(fēng)險(xiǎn)”,，并相應(yīng)地制定了不同的規(guī)則,。王源認(rèn)為，這體現(xiàn)出“抓大放小”的立法考量,，對(duì)于挖掘潛意識(shí)的操縱和欺騙性技術(shù),、歧視性、生物特征識(shí)別技術(shù)等一些人工智能行業(yè)絕對(duì)禁止的行為,，將通行的國(guó)家投資和貿(mào)易規(guī)制手段引入到人工智能領(lǐng)域,。

毫無(wú)疑問(wèn)，《人工智能法案》的出臺(tái)在全球范圍內(nèi)對(duì)全行業(yè)產(chǎn)生一定的影響,。針對(duì)我國(guó)在人工智能領(lǐng)域的立法工作,，王源表示，歐盟《人工智能法案》至少在兩個(gè)方面可以提供借鑒意義：一是該法案的細(xì)致程度是可圈可點(diǎn),、環(huán)環(huán)相扣的,，在立法之外還會(huì)出臺(tái)相應(yīng)的行為守則和標(biāo)準(zhǔn)等配套指南，也就是說(shuō)“有了法律之后,，還要告訴應(yīng)該怎么做”,；二是值得指出的一點(diǎn)是,，歐盟在《人工智能法案》中專(zhuān)門(mén)規(guī)定了“支持創(chuàng)新的措施”，其中提到政府主導(dǎo)的人工智能監(jiān)管“沙盒”,，可以由中小企業(yè)參與,。目前，我國(guó)中小企業(yè)在各項(xiàng)政策中處于較弱勢(shì)地位,，從技術(shù)及商業(yè)創(chuàng)新的角度,，建議給中小企業(yè)提供更多的機(jī)會(huì)。

對(duì)我國(guó)出海企業(yè)的影響與提示

記者觀察到,，近幾年來(lái),，隨著全球各個(gè)國(guó)家和地區(qū)在個(gè)人信息保護(hù)、數(shù)據(jù)網(wǎng)絡(luò)安全等方面的立法進(jìn)程普遍加快,，大型科技企業(yè)以及中小型企業(yè)內(nèi)部越來(lái)越重視安全與合規(guī)問(wèn)題,，尤其是在“出海”和業(yè)務(wù)向全球化拓展的過(guò)程中,，安全合規(guī)更是第一道考驗(yàn),。

王源提醒，越來(lái)越多的國(guó)家已然意識(shí)到對(duì)人工智能立法監(jiān)管的重要性,，這將成為未來(lái)的大趨勢(shì),。《人工智能法案》盡管距離全部生效實(shí)施還有一個(gè)時(shí)間差,，但它對(duì)于各個(gè)行業(yè)的企業(yè)來(lái)說(shuō)都會(huì)產(chǎn)生直接或間接的影響,。對(duì)于AI系統(tǒng)、通用模型技術(shù)廠商,，可能從產(chǎn)品設(shè)計(jì)之初就須將人工智能合規(guī)考慮進(jìn)去,。使用AI系統(tǒng)、通用模型服務(wù)出海拓展市場(chǎng)的企業(yè),，要使用國(guó)內(nèi)的模型系統(tǒng),，還是使用當(dāng)?shù)氐姆?wù)，都會(huì)成為出海發(fā)展中要考慮的因素,。

“要注意,，《人工智能法案》有一個(gè)前提是適用于高風(fēng)險(xiǎn)的系統(tǒng)、有風(fēng)險(xiǎn)的系統(tǒng)模型,，以及生成式人工智能系統(tǒng),，對(duì)于一般的人工智能模型并不怎么管?！蓖踉磁e例解釋?zhuān)行┢髽I(yè)在招聘員工,、篩選簡(jiǎn)歷面試過(guò)程中會(huì)通過(guò)AI視覺(jué)識(shí)別技術(shù)或模型來(lái)探測(cè)面試者的情緒，那它很有可能是違法的,?！度斯ぶ悄芊ò浮穼?duì)于利用人工智能去探測(cè)人類(lèi)潛意識(shí)或者對(duì)人群進(jìn)行分類(lèi)方面有禁止性規(guī)定,，只有在醫(yī)療場(chǎng)景可以使用。對(duì)于教培類(lèi)的公司來(lái)說(shuō),，如果其產(chǎn)品面向?qū)W校,，用AI技術(shù)去分析學(xué)生的行為，哪些是可分析的,，哪些是不可分析的,，都應(yīng)當(dāng)格外慎重?？傊?，實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)是明確被禁止的，這意味著公司不能利用AI技術(shù)在歐盟境內(nèi)的公共場(chǎng)合進(jìn)行人臉識(shí)別,。

假如一個(gè)企業(yè)屬于高風(fēng)險(xiǎn)AI的提供商,，那么《人工智能法案》明確提出了在歐盟境內(nèi)必須履行的義務(wù)，涉及使用明顯,、清晰的數(shù)字CE標(biāo)識(shí),，建立質(zhì)量管理體系，文件保存10年,、自動(dòng)生成日志至少保存6個(gè)月,，糾正和召回不合規(guī)的高風(fēng)險(xiǎn)AI系統(tǒng),，配合監(jiān)管調(diào)查,，等等。同樣,，對(duì)于通用AI模型提供者,，法案中也明確了涵蓋技術(shù)文件、版權(quán),、摘要等方面的義務(wù),。在違法處罰方面，罰款金額與公司營(yíng)業(yè)額掛鉤,，對(duì)公司的最高罰款額可達(dá)到其上一財(cái)年全球市場(chǎng)的年?duì)I業(yè)總額,。

（編輯：吳清 校對(duì)：劉軍）