美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）于1月發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》（AI RMF）（以下簡(jiǎn)稱《框架》）1.0版，可供相關(guān)組織設(shè)計(jì)和管理的可信賴和負(fù)責(zé)任的人工智能,，旨在指導(dǎo)機(jī)構(gòu)組織在開(kāi)發(fā)和部署人工智能系統(tǒng)時(shí)降低安全風(fēng)險(xiǎn),，避免產(chǎn)生偏見(jiàn)和其他負(fù)面后果，提高人工智能可信度,。2月15日,，美國(guó)布魯金斯學(xué)會(huì)技術(shù)創(chuàng)新中心特聘客座研究員卡梅倫·克里（Cameron Kerry）于該機(jī)構(gòu)官網(wǎng)發(fā)文表示，《框架》代表了美國(guó)人工智能政策領(lǐng)域的新進(jìn)展,，有助于豐富當(dāng)前正在進(jìn)行的關(guān)于人工智能發(fā)展與政策的國(guó)際討論,。

　　核心功能與路線圖

　　NIST隸屬于美國(guó)商務(wù)部，主要從事物理,、生物和工程方面的基礎(chǔ)和應(yīng)用研究,，以及測(cè)量技術(shù)和測(cè)試方法方面的研究，并提供標(biāo)準(zhǔn)制定,、標(biāo)準(zhǔn)參考數(shù)據(jù)及有關(guān)服務(wù),。隨著科學(xué)技術(shù)在經(jīng)濟(jì)和社會(huì)中發(fā)揮的作用越來(lái)越大，NIST在政府,、科學(xué)技術(shù),、商業(yè)等交叉領(lǐng)域中的作用日益增強(qiáng)?！犊蚣堋返男纬芍饕琼憫?yīng)美國(guó)《國(guó)家人工智能倡議法》（National Artificial Intelligence Initiative Act）的要求,，并遵循了NIST此前發(fā)布的信息風(fēng)險(xiǎn)管理和治理框架模板，其中包括2014年的《網(wǎng)絡(luò)安全框架》與2020年的《隱私框架》,。

　　人工智能作為一種通用技術(shù),，涵蓋了廣泛的技術(shù)、數(shù)據(jù)源和各類應(yīng)用，其廣度給信息技術(shù)風(fēng)險(xiǎn)管理帶來(lái)了獨(dú)特的挑戰(zhàn),。因此，《框架》在其風(fēng)險(xiǎn)管理方法中引入了“社會(huì)技術(shù)”維度,，涵蓋了“社會(huì)動(dòng)態(tài)和人類行為”,，涉及廣泛的參與者和利益相關(guān)者。與此同時(shí),，人工智能的發(fā)展引發(fā)了人們對(duì)其帶來(lái)的風(fēng)險(xiǎn)與收益的廣泛討論,、對(duì)人工智能訓(xùn)練數(shù)據(jù)和輸出偏差的擔(dān)憂以及對(duì)什么是可靠和值得信賴的人工智能的思考。為此,，《框架》提供了應(yīng)對(duì)以上問(wèn)題的兩個(gè)視角,。

　　一是為識(shí)別人工智能環(huán)境中的風(fēng)險(xiǎn)提供了一個(gè)概念性路線圖，概述了與人工智能相關(guān)的一般風(fēng)險(xiǎn)類型與來(lái)源,，并列舉了可信賴的人工智能的七個(gè)關(guān)鍵特征：安全,、可靠和有韌性、可解釋性,、隱私增強(qiáng),、公平、負(fù)責(zé)任且透明,、有效且可靠,。二是提供了一套評(píng)估和管理風(fēng)險(xiǎn)的組織流程和活動(dòng)，將人工智能的“社會(huì)技術(shù)”維度與人工智能系統(tǒng)生命周期的各個(gè)階段,，以及相關(guān)參與者聯(lián)系起來(lái),。這些過(guò)程和活動(dòng)的關(guān)鍵步驟是“測(cè)試、評(píng)估,、驗(yàn)證和確認(rèn)”,，并被分解為治理、映射,、測(cè)量和管理四大核心功能,，每個(gè)功能項(xiàng)下還分為不同的類別和子類別，通過(guò)多元化展開(kāi),，幫助機(jī)構(gòu)組織在實(shí)踐中應(yīng)對(duì)人工智能系統(tǒng)帶來(lái)的風(fēng)險(xiǎn)和潛在影響,。

　　但是，《框架》作為“1.0版本”,，并非人工智能風(fēng)險(xiǎn)管理的最后版本,，反映了人工智能標(biāo)準(zhǔn)制定的早期階段，僅包括了對(duì)國(guó)際標(biāo)準(zhǔn)化組織（ISO）,、國(guó)際電工委員會(huì)（IEC）等國(guó)際標(biāo)準(zhǔn)機(jī)構(gòu)的標(biāo)準(zhǔn),，以及經(jīng)濟(jì)合作與發(fā)展組織（OECD）指導(dǎo)方針的少量參考。該機(jī)構(gòu)預(yù)計(jì)會(huì)在2028年之前進(jìn)行全面、正式的審查,，可能會(huì)產(chǎn)生2.0版本,。這種迭代方法可以幫助《框架》適應(yīng)人工智能技術(shù)的變化，并隨時(shí)作出調(diào)整,?！犊蚣堋肺募杏嘘P(guān)可信任人工智能的特征，也有待進(jìn)一步了解,。從目前來(lái)看,，《框架》的核心功能及其項(xiàng)下的子類別就像路線圖，展示了通往可信任人工智能道路上的步驟,，但具體還要取決于應(yīng)用《框架》的組織機(jī)構(gòu)能否從這些路線中拼湊出自己的道路,。

　　制度基礎(chǔ)與實(shí)施機(jī)制

　　《框架》建立在《網(wǎng)絡(luò)安全框架》與《隱私框架》的基礎(chǔ)上?！毒W(wǎng)絡(luò)安全框架》的關(guān)鍵目標(biāo)是塑造和促進(jìn)網(wǎng)絡(luò)安全領(lǐng)域標(biāo)準(zhǔn)與實(shí)踐的發(fā)展,，該框架已被絕大多數(shù)美國(guó)公司應(yīng)用，包括美國(guó)證券交易委員會(huì)在內(nèi)的各種機(jī)構(gòu)將《網(wǎng)絡(luò)安全框架》作為受監(jiān)管行業(yè)健全網(wǎng)絡(luò)安全實(shí)踐的基準(zhǔn),。然而,，《隱私框架》并沒(méi)有產(chǎn)生與《網(wǎng)絡(luò)安全框架》相同的影響。當(dāng)《隱私框架》發(fā)布時(shí),，歐盟的《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation）和《加州消費(fèi)者隱私法案》（California Consumer Privacy Act）都已經(jīng)生效,，引發(fā)了許多美國(guó)公司制定隱私設(shè)計(jì)和合規(guī)計(jì)劃。這種較為完善的環(huán)境限制了《隱私框架》在隱私和數(shù)據(jù)保護(hù)標(biāo)準(zhǔn),、實(shí)踐和流程領(lǐng)域發(fā)揮作用的空間,。

　　歐盟和加拿大都在對(duì)人工智能進(jìn)行立法，新加坡為可信賴的人工智能制定了自愿測(cè)試框架,，經(jīng)合組織的一個(gè)工作組建立了可信賴的人工智能工具包,。《框架》發(fā)布之前,，美國(guó)于2022年10月發(fā)布了《人工智能權(quán)利法案藍(lán)圖》（以下簡(jiǎn)稱《藍(lán)圖》）,，這是一套保護(hù)個(gè)人免受傷害和歧視的原則，并配有相關(guān)技術(shù)方案,，確定了人工智能系統(tǒng)影響這些原則的具體方式,，以及應(yīng)對(duì)不利影響的一般步驟。而《框架》提供了在各種組織中實(shí)施《藍(lán)圖》原則的工具,。

　　與歐盟的人工智能立法相比,，《框架》不具有法律效力，從性質(zhì)上來(lái)講是非強(qiáng)制性的指導(dǎo)性文件,，供設(shè)計(jì),、開(kāi)發(fā),、部署、使用人工智能系統(tǒng)的機(jī)構(gòu)組織自愿使用,。此類框架比約束性法律更容易在應(yīng)用中實(shí)現(xiàn)更新迭代,，但需要依靠軟法機(jī)制來(lái)發(fā)揮其影響力，無(wú)法確保一定會(huì)被采用,。在歐盟擬議的人工智能法案下,，人工智能系統(tǒng)屬于高風(fēng)險(xiǎn)類別，需要接受全面評(píng)估,，其中涉及人工智能定義的范圍、通用人工智能的應(yīng)對(duì)等,，已經(jīng)成為歐盟立法辯論的癥結(jié)所在,，而且具有法律約束力的框架往往對(duì)措辭的準(zhǔn)確性要求較高，同時(shí)不容易提供定制方案,?？偟膩?lái)看，無(wú)論是歐盟的“硬”監(jiān)管,，還是美國(guó)的“軟”治理,，各國(guó)政府和社會(huì)都剛剛開(kāi)始理解人工智能，其監(jiān)管仍然處于摸索階段,，未來(lái)還有很長(zhǎng)的一段路要走,。

　　（龍豪/編譯）

作者：龍豪 來(lái)源：中國(guó)社會(huì)科學(xué)網(wǎng)-中國(guó)社會(huì)科學(xué)報(bào)