美國國家標準與技術(shù)研究院（NIST）于1月發(fā)布了《人工智能風(fēng)險管理框架》（AI RMF）（以下簡稱《框架》）1.0版，可供相關(guān)組織設(shè)計和管理的可信賴和負責任的人工智能，旨在指導(dǎo)機構(gòu)組織在開發(fā)和部署人工智能系統(tǒng)時降低安全風(fēng)險,，避免產(chǎn)生偏見和其他負面后果,，提高人工智能可信度。2月15日,，美國布魯金斯學(xué)會技術(shù)創(chuàng)新中心特聘客座研究員卡梅倫·克里（Cameron Kerry）于該機構(gòu)官網(wǎng)發(fā)文表示,，《框架》代表了美國人工智能政策領(lǐng)域的新進展，有助于豐富當前正在進行的關(guān)于人工智能發(fā)展與政策的國際討論,。

　　核心功能與路線圖

　　NIST隸屬于美國商務(wù)部,，主要從事物理、生物和工程方面的基礎(chǔ)和應(yīng)用研究,，以及測量技術(shù)和測試方法方面的研究,，并提供標準制定、標準參考數(shù)據(jù)及有關(guān)服務(wù),。隨著科學(xué)技術(shù)在經(jīng)濟和社會中發(fā)揮的作用越來越大,，NIST在政府、科學(xué)技術(shù),、商業(yè)等交叉領(lǐng)域中的作用日益增強,。《框架》的形成主要是響應(yīng)美國《國家人工智能倡議法》（National Artificial Intelligence Initiative Act）的要求,，并遵循了NIST此前發(fā)布的信息風(fēng)險管理和治理框架模板,，其中包括2014年的《網(wǎng)絡(luò)安全框架》與2020年的《隱私框架》。

　　人工智能作為一種通用技術(shù),，涵蓋了廣泛的技術(shù),、數(shù)據(jù)源和各類應(yīng)用，其廣度給信息技術(shù)風(fēng)險管理帶來了獨特的挑戰(zhàn),。因此,，《框架》在其風(fēng)險管理方法中引入了“社會技術(shù)”維度，涵蓋了“社會動態(tài)和人類行為”,，涉及廣泛的參與者和利益相關(guān)者,。與此同時，人工智能的發(fā)展引發(fā)了人們對其帶來的風(fēng)險與收益的廣泛討論,、對人工智能訓(xùn)練數(shù)據(jù)和輸出偏差的擔憂以及對什么是可靠和值得信賴的人工智能的思考,。為此，《框架》提供了應(yīng)對以上問題的兩個視角。

　　一是為識別人工智能環(huán)境中的風(fēng)險提供了一個概念性路線圖,，概述了與人工智能相關(guān)的一般風(fēng)險類型與來源,，并列舉了可信賴的人工智能的七個關(guān)鍵特征：安全、可靠和有韌性,、可解釋性、隱私增強,、公平,、負責任且透明、有效且可靠,。二是提供了一套評估和管理風(fēng)險的組織流程和活動,，將人工智能的“社會技術(shù)”維度與人工智能系統(tǒng)生命周期的各個階段，以及相關(guān)參與者聯(lián)系起來,。這些過程和活動的關(guān)鍵步驟是“測試,、評估、驗證和確認”,，并被分解為治理,、映射、測量和管理四大核心功能,，每個功能項下還分為不同的類別和子類別,，通過多元化展開，幫助機構(gòu)組織在實踐中應(yīng)對人工智能系統(tǒng)帶來的風(fēng)險和潛在影響,。

　　但是,，《框架》作為“1.0版本”，并非人工智能風(fēng)險管理的最后版本,，反映了人工智能標準制定的早期階段,，僅包括了對國際標準化組織（ISO）、國際電工委員會（IEC）等國際標準機構(gòu)的標準,，以及經(jīng)濟合作與發(fā)展組織（OECD）指導(dǎo)方針的少量參考,。該機構(gòu)預(yù)計會在2028年之前進行全面、正式的審查,，可能會產(chǎn)生2.0版本,。這種迭代方法可以幫助《框架》適應(yīng)人工智能技術(shù)的變化，并隨時作出調(diào)整,?！犊蚣堋肺募杏嘘P(guān)可信任人工智能的特征，也有待進一步了解,。從目前來看,，《框架》的核心功能及其項下的子類別就像路線圖，展示了通往可信任人工智能道路上的步驟,，但具體還要取決于應(yīng)用《框架》的組織機構(gòu)能否從這些路線中拼湊出自己的道路,。

　　制度基礎(chǔ)與實施機制

　　《框架》建立在《網(wǎng)絡(luò)安全框架》與《隱私框架》的基礎(chǔ)上,。《網(wǎng)絡(luò)安全框架》的關(guān)鍵目標是塑造和促進網(wǎng)絡(luò)安全領(lǐng)域標準與實踐的發(fā)展,，該框架已被絕大多數(shù)美國公司應(yīng)用,，包括美國證券交易委員會在內(nèi)的各種機構(gòu)將《網(wǎng)絡(luò)安全框架》作為受監(jiān)管行業(yè)健全網(wǎng)絡(luò)安全實踐的基準。然而,，《隱私框架》并沒有產(chǎn)生與《網(wǎng)絡(luò)安全框架》相同的影響,。當《隱私框架》發(fā)布時，歐盟的《通用數(shù)據(jù)保護條例》（General Data Protection Regulation）和《加州消費者隱私法案》（California Consumer Privacy Act）都已經(jīng)生效,，引發(fā)了許多美國公司制定隱私設(shè)計和合規(guī)計劃,。這種較為完善的環(huán)境限制了《隱私框架》在隱私和數(shù)據(jù)保護標準、實踐和流程領(lǐng)域發(fā)揮作用的空間,。

　　歐盟和加拿大都在對人工智能進行立法,，新加坡為可信賴的人工智能制定了自愿測試框架，經(jīng)合組織的一個工作組建立了可信賴的人工智能工具包,?！犊蚣堋钒l(fā)布之前，美國于2022年10月發(fā)布了《人工智能權(quán)利法案藍圖》（以下簡稱《藍圖》）,，這是一套保護個人免受傷害和歧視的原則,，并配有相關(guān)技術(shù)方案，確定了人工智能系統(tǒng)影響這些原則的具體方式,，以及應(yīng)對不利影響的一般步驟,。而《框架》提供了在各種組織中實施《藍圖》原則的工具。

　　與歐盟的人工智能立法相比,，《框架》不具有法律效力,，從性質(zhì)上來講是非強制性的指導(dǎo)性文件，供設(shè)計,、開發(fā),、部署、使用人工智能系統(tǒng)的機構(gòu)組織自愿使用,。此類框架比約束性法律更容易在應(yīng)用中實現(xiàn)更新迭代,，但需要依靠軟法機制來發(fā)揮其影響力，無法確保一定會被采用,。在歐盟擬議的人工智能法案下,，人工智能系統(tǒng)屬于高風(fēng)險類別，需要接受全面評估,，其中涉及人工智能定義的范圍,、通用人工智能的應(yīng)對等，已經(jīng)成為歐盟立法辯論的癥結(jié)所在，而且具有法律約束力的框架往往對措辭的準確性要求較高,，同時不容易提供定制方案,。總的來看,，無論是歐盟的“硬”監(jiān)管,，還是美國的“軟”治理，各國政府和社會都剛剛開始理解人工智能,，其監(jiān)管仍然處于摸索階段,，未來還有很長的一段路要走。

　?。埡?編譯）

作者：龍豪 來源：中國社會科學(xué)網(wǎng)-中國社會科學(xué)報