美國國家標準與技術研究院（NIST）于1月發(fā)布了《人工智能風險管理框架》（AI RMF）（以下簡稱《框架》）1.0版，可供相關組織設計和管理的可信賴和負責任的人工智能，旨在指導機構組織在開發(fā)和部署人工智能系統(tǒng)時降低安全風險,，避免產生偏見和其他負面后果,，提高人工智能可信度。2月15日,，美國布魯金斯學會技術創(chuàng)新中心特聘客座研究員卡梅倫·克里（Cameron Kerry）于該機構官網(wǎng)發(fā)文表示,，《框架》代表了美國人工智能政策領域的新進展，有助于豐富當前正在進行的關于人工智能發(fā)展與政策的國際討論,。

　　核心功能與路線圖

　　NIST隸屬于美國商務部,，主要從事物理、生物和工程方面的基礎和應用研究,，以及測量技術和測試方法方面的研究,，并提供標準制定,、標準參考數(shù)據(jù)及有關服務。隨著科學技術在經(jīng)濟和社會中發(fā)揮的作用越來越大,，NIST在政府,、科學技術、商業(yè)等交叉領域中的作用日益增強,?！犊蚣堋返男纬芍饕琼憫绹秶胰斯ぶ悄艹h法》（National Artificial Intelligence Initiative Act）的要求，并遵循了NIST此前發(fā)布的信息風險管理和治理框架模板,，其中包括2014年的《網(wǎng)絡安全框架》與2020年的《隱私框架》,。

　　人工智能作為一種通用技術，涵蓋了廣泛的技術,、數(shù)據(jù)源和各類應用,，其廣度給信息技術風險管理帶來了獨特的挑戰(zhàn)。因此,，《框架》在其風險管理方法中引入了“社會技術”維度,，涵蓋了“社會動態(tài)和人類行為”，涉及廣泛的參與者和利益相關者,。與此同時,，人工智能的發(fā)展引發(fā)了人們對其帶來的風險與收益的廣泛討論、對人工智能訓練數(shù)據(jù)和輸出偏差的擔憂以及對什么是可靠和值得信賴的人工智能的思考,。為此,，《框架》提供了應對以上問題的兩個視角。

　　一是為識別人工智能環(huán)境中的風險提供了一個概念性路線圖,，概述了與人工智能相關的一般風險類型與來源,，并列舉了可信賴的人工智能的七個關鍵特征：安全、可靠和有韌性,、可解釋性,、隱私增強、公平,、負責任且透明,、有效且可靠。二是提供了一套評估和管理風險的組織流程和活動,，將人工智能的“社會技術”維度與人工智能系統(tǒng)生命周期的各個階段,，以及相關參與者聯(lián)系起來。這些過程和活動的關鍵步驟是“測試,、評估,、驗證和確認”，并被分解為治理,、映射,、測量和管理四大核心功能,，每個功能項下還分為不同的類別和子類別，通過多元化展開,，幫助機構組織在實踐中應對人工智能系統(tǒng)帶來的風險和潛在影響,。

　　但是，《框架》作為“1.0版本”,，并非人工智能風險管理的最后版本,，反映了人工智能標準制定的早期階段，僅包括了對國際標準化組織（ISO）,、國際電工委員會（IEC）等國際標準機構的標準,，以及經(jīng)濟合作與發(fā)展組織（OECD）指導方針的少量參考。該機構預計會在2028年之前進行全面,、正式的審查,，可能會產生2.0版本,。這種迭代方法可以幫助《框架》適應人工智能技術的變化,，并隨時作出調整?！犊蚣堋肺募杏嘘P可信任人工智能的特征,，也有待進一步了解。從目前來看,，《框架》的核心功能及其項下的子類別就像路線圖,，展示了通往可信任人工智能道路上的步驟，但具體還要取決于應用《框架》的組織機構能否從這些路線中拼湊出自己的道路,。

　　制度基礎與實施機制

　　《框架》建立在《網(wǎng)絡安全框架》與《隱私框架》的基礎上,。《網(wǎng)絡安全框架》的關鍵目標是塑造和促進網(wǎng)絡安全領域標準與實踐的發(fā)展,，該框架已被絕大多數(shù)美國公司應用,，包括美國證券交易委員會在內的各種機構將《網(wǎng)絡安全框架》作為受監(jiān)管行業(yè)健全網(wǎng)絡安全實踐的基準。然而,，《隱私框架》并沒有產生與《網(wǎng)絡安全框架》相同的影響,。當《隱私框架》發(fā)布時，歐盟的《通用數(shù)據(jù)保護條例》（General Data Protection Regulation）和《加州消費者隱私法案》（California Consumer Privacy Act）都已經(jīng)生效,，引發(fā)了許多美國公司制定隱私設計和合規(guī)計劃,。這種較為完善的環(huán)境限制了《隱私框架》在隱私和數(shù)據(jù)保護標準、實踐和流程領域發(fā)揮作用的空間,。

　　歐盟和加拿大都在對人工智能進行立法,，新加坡為可信賴的人工智能制定了自愿測試框架，經(jīng)合組織的一個工作組建立了可信賴的人工智能工具包,?！犊蚣堋钒l(fā)布之前,，美國于2022年10月發(fā)布了《人工智能權利法案藍圖》（以下簡稱《藍圖》），這是一套保護個人免受傷害和歧視的原則,，并配有相關技術方案,，確定了人工智能系統(tǒng)影響這些原則的具體方式，以及應對不利影響的一般步驟,。而《框架》提供了在各種組織中實施《藍圖》原則的工具,。

　　與歐盟的人工智能立法相比，《框架》不具有法律效力,，從性質上來講是非強制性的指導性文件,，供設計、開發(fā),、部署,、使用人工智能系統(tǒng)的機構組織自愿使用。此類框架比約束性法律更容易在應用中實現(xiàn)更新迭代,，但需要依靠軟法機制來發(fā)揮其影響力,，無法確保一定會被采用。在歐盟擬議的人工智能法案下,，人工智能系統(tǒng)屬于高風險類別,，需要接受全面評估，其中涉及人工智能定義的范圍,、通用人工智能的應對等,，已經(jīng)成為歐盟立法辯論的癥結所在，而且具有法律約束力的框架往往對措辭的準確性要求較高,，同時不容易提供定制方案,。總的來看,，無論是歐盟的“硬”監(jiān)管,，還是美國的“軟”治理，各國政府和社會都剛剛開始理解人工智能,，其監(jiān)管仍然處于摸索階段,，未來還有很長的一段路要走。

　?。埡?編譯）

作者：龍豪 來源：中國社會科學網(wǎng)-中國社會科學報