光明圖片/視覺中國(guó)光明圖片/視覺中國(guó)光明圖片/視覺中國(guó)光明圖片/視覺中國(guó)【環(huán)球科技視野】人工智能（AI)作為引領(lǐng)未來的戰(zhàn)略新興技術(shù)，已經(jīng)成為發(fā)展新質(zhì)生產(chǎn)力,、推動(dòng)科技革命和產(chǎn)業(yè)升級(jí)的核心引擎,。隨著人工智能領(lǐng)域的高速發(fā)展,，尤其是生成式人工智能的突破，其復(fù)雜效應(yīng)也不斷顯現(xiàn),，既釋放巨大的技術(shù)紅利,，也衍生出超越以往范疇的安全問題。2023年以來,，全球人工智能安全治理的努力大幅增加,，治理進(jìn)程正在不斷加速，并且形成了各國(guó)政府主導(dǎo),、國(guó)際組織積極推進(jìn),、科技企業(yè)協(xié)同治理的多方參與格局,。推進(jìn)“軟性”倫理規(guī)范走向“硬性”法律監(jiān)管歐盟展現(xiàn)了領(lǐng)先全球的立法速度。2024年3月,，其發(fā)布的《人工智能法案》被認(rèn)為是全球首部綜合性人工智能治理立法,。該法案對(duì)人工智能系統(tǒng)進(jìn)行了分類，并根據(jù)風(fēng)險(xiǎn)等級(jí)制定了相應(yīng)的監(jiān)管要求,，設(shè)定了普適,、全面的人工智能監(jiān)管方法,，包括數(shù)據(jù)管理,、透明度、可解釋性,、人類監(jiān)督等方面,。歐盟2024年新設(shè)了人工智能辦公室，推動(dòng)實(shí)施《人工智能法案》,。此外,，歐盟《人工智能責(zé)任指令》在2024年也將出現(xiàn)更多的進(jìn)展。與歐盟《人工智能法案》以風(fēng)險(xiǎn)預(yù)防和責(zé)任追究為中心的立法不同,，中國(guó)采取了更加包容審慎的治理方式,，且采取了“小切口”的立法策略，深入特定應(yīng)用領(lǐng)域提出監(jiān)管要求,，體現(xiàn)了中國(guó)在人工智能領(lǐng)域的敏捷治理理念,。2023年8月，《生成式人工智能服務(wù)管理暫行辦法》開始施行,，中國(guó)成為世界上首個(gè)為生成式大模型立法的國(guó)家,。美國(guó)人工智能治理則總體寬松溫和，以促進(jìn)發(fā)展為主,，兜底風(fēng)險(xiǎn)為輔,，立法滯后。近年來,，在生成式預(yù)訓(xùn)練人工智能及相關(guān)技術(shù)引發(fā)越來越多關(guān)注和擔(dān)憂后,，美國(guó)政府逐步加強(qiáng)監(jiān)管。2023年1月,，美國(guó)商務(wù)部國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《人工智能風(fēng)險(xiǎn)管理框架》,，旨在對(duì)人工智能系統(tǒng)全生命周期實(shí)行有效的風(fēng)險(xiǎn)管理。2023年10月,，美國(guó)第一次在政治對(duì)話中真正納入人工智能的議程,，并發(fā)布總統(tǒng)行政令《安全、可靠和值得信賴的人工智能開發(fā)和使用》,，明確了美國(guó)政府治理人工智能的政策法律框架,，具有里程碑意義,。最受矚目的一點(diǎn)是該行政令動(dòng)用《國(guó)防生產(chǎn)法》的緊急權(quán)力，強(qiáng)制要求人工智能企業(yè)進(jìn)行安全測(cè)試并與政府分享測(cè)試結(jié)果,。2024年5月,，美國(guó)參議院人工智能工作組發(fā)布《推動(dòng)美國(guó)在AI領(lǐng)域的創(chuàng)新：參議院AI政策路線圖》。一系列行動(dòng),，標(biāo)志著美國(guó)通過“全面立法”治理人工智能的戰(zhàn)略努力,。2024年，疊加人工智能對(duì)美國(guó)大選年的重大威脅,，人工智能立法將成為美國(guó)重頭戲,。推動(dòng)形成全球人工智能安全治理共識(shí)和創(chuàng)新合作全球共商機(jī)制初步建立。一直以來,，如何推出能被廣泛接受的人工智能治理原則挑戰(zhàn)重重,。從經(jīng)合組織到聯(lián)合國(guó)，國(guó)際層面始終在努力推進(jìn)這一議程,。2023年以來,，聯(lián)合國(guó)積極參與、推動(dòng)人工智能全球監(jiān)管機(jī)構(gòu)和治理機(jī)制的構(gòu)建,，以期探索全球監(jiān)管的“公約數(shù)”,。聯(lián)合國(guó)秘書長(zhǎng)出席聯(lián)合國(guó)安理會(huì)人工智能與安全問題高級(jí)別公開會(huì)，呼吁管控人工智能技術(shù)風(fēng)險(xiǎn),，成立新的聯(lián)合國(guó)機(jī)構(gòu)強(qiáng)化人工智能全球治理,。2023年，聯(lián)合國(guó)成立全球人工智能監(jiān)管咨詢委員會(huì),，該委員會(huì)包括科技行業(yè)領(lǐng)袖,、政府代表和學(xué)者，以及知名科技企業(yè)的高管,，旨在處理全球人工智能監(jiān)管事宜,。中國(guó)、巴西,、俄羅斯,、印度和南非則同意成立“人工智能研究小組”。歐洲委員會(huì)一直在制定一項(xiàng)具有法律約束力的人工智能與人權(quán)國(guó)際公約,，并于2024年3月敲定《人工智能,、人權(quán)、民主和法治框架公約》最終草案,，這是第一個(gè)國(guó)際人工智能條約,。英國(guó)率先成立英國(guó)人工智能安全研究所，旨在促進(jìn)全球?qū)ο冗M(jìn)人工智能的了解。2024年5月,，在人工智能首爾峰會(huì)上,，美國(guó)、英國(guó),、加拿大,、日本、韓國(guó)等10個(gè)國(guó)家以及歐盟共同簽署《首爾聲明》,，呼吁加強(qiáng)國(guó)際人工智能治理合作以及治理框架之間的互操作性,，倡導(dǎo)以風(fēng)險(xiǎn)為基礎(chǔ)的政策和治理框架，支持啟動(dòng)首個(gè)國(guó)際人工智能安全研究所網(wǎng)絡(luò),，促使國(guó)家間形成對(duì)人工智能安全的共同理解,，并在研究、標(biāo)準(zhǔn)和測(cè)試方面進(jìn)行協(xié)調(diào),。新的合作模式如何形成至關(guān)重要,。以哪一方案作為未來共同監(jiān)管架構(gòu)模板成為焦點(diǎn)。大國(guó)博弈背景下,，率先形成人工智能治理范本，可獲得人工智能監(jiān)管主導(dǎo)權(quán),。2023年以來,，以聯(lián)合國(guó)、歐盟,、美國(guó),、英國(guó)以及中國(guó)的相關(guān)政策或策略性行動(dòng)為標(biāo)志，各國(guó)政府和國(guó)際組織在人工智能全球治理領(lǐng)域的參與程度和戰(zhàn)略部署明顯提升,，試圖影響全球范圍內(nèi)人工智能技術(shù)標(biāo)準(zhǔn),、應(yīng)用規(guī)范、治理準(zhǔn)則,。各方均在主動(dòng)發(fā)力,，擴(kuò)大自身治理模式的影響。美國(guó)在全球人工智能安全峰會(huì)前,，推動(dòng)七國(guó)集團(tuán)取得一致立場(chǎng),，并重返聯(lián)合國(guó)教科文組織參與人工智能規(guī)則建設(shè)。歐盟《人工智能法案》將給全球人工智能立法格局帶來重大影響,，為人工智能定下監(jiān)管基調(diào),，在治理規(guī)制方面幫助歐盟另辟蹊徑，在全球人工智能領(lǐng)域進(jìn)行更深層次的布局,。創(chuàng)新政府對(duì)人工智能的安全監(jiān)管形式多層級(jí),、多部門聯(lián)手治理。在頂層設(shè)計(jì)的指導(dǎo)下，美國(guó)參議院,、眾議院和國(guó)會(huì)研究處,、國(guó)會(huì)國(guó)家人工智能研究資源工作組等部門圍繞人工智能應(yīng)用可能帶來的安全風(fēng)險(xiǎn)開展研究和布局，聯(lián)邦政府下獨(dú)立行政機(jī)構(gòu)美國(guó)聯(lián)邦貿(mào)易委員會(huì),、美國(guó)證券交易委員會(huì),、美國(guó)平等就業(yè)機(jī)會(huì)委員會(huì)、美國(guó)聯(lián)邦通信委員會(huì)積極探索人工智能監(jiān)管新模式,，國(guó)務(wù)院,、財(cái)政部、國(guó)防部,、國(guó)土安全部,、司法部、教育部,、商務(wù)部,、能源部等部門及其下屬機(jī)構(gòu)圍繞自身負(fù)責(zé)領(lǐng)域研究出臺(tái)促進(jìn)人工智能負(fù)責(zé)任應(yīng)用的相關(guān)文件。此外,，特別成立了美國(guó)人工智能安全研究所,、國(guó)防部人工智能安全中心、國(guó)防部生成式人工智能工作組等機(jī)構(gòu),，圍繞人工智能安全開展專門研究及突破,。設(shè)立“首席人工智能官”。美國(guó)總統(tǒng)行政令提出,，要大力推進(jìn)聯(lián)邦政府使用人工智能,，要求美國(guó)管理和預(yù)算辦公室建立聯(lián)邦政府人工智能使用指南，各職能政府部門設(shè)首席人工智能官,，并提升聯(lián)邦政府內(nèi)人工智能人才密度,。該制度既延續(xù)了以往美國(guó)在管理領(lǐng)域設(shè)立“首席官”的監(jiān)管范式，又創(chuàng)新了政府對(duì)人工智能領(lǐng)域的監(jiān)管形式,。當(dāng)前,，美國(guó)聯(lián)邦機(jī)構(gòu)正密集任命首席人工智能官，提升政府的“含AI量”,?？v覽已推出的首席人工智能官，任命形式各有不同,，其具體職責(zé)主要圍繞“協(xié)同協(xié)調(diào),、技術(shù)創(chuàng)新、風(fēng)險(xiǎn)管理”三個(gè)方面展開,。設(shè)置人工智能監(jiān)管沙盒,。監(jiān)管沙盒是由監(jiān)管機(jī)構(gòu)提供的一種實(shí)驗(yàn)平臺(tái)，是探索人工智能可控發(fā)展的創(chuàng)新手段，通過設(shè)立限定性條件,，以真實(shí)用戶為對(duì)象進(jìn)行深度測(cè)試,，降低監(jiān)管不確定性。監(jiān)管沙盒既有利于企業(yè)技術(shù)創(chuàng)新實(shí)踐應(yīng)用,，也有利于更早地發(fā)現(xiàn)前沿技術(shù)引發(fā)的合規(guī)風(fēng)險(xiǎn),。歐盟《人工智能法案》明確了建立人工智能監(jiān)管沙盒的相關(guān)要求，目前歐洲已有多個(gè)國(guó)家在積極推進(jìn)人工智能監(jiān)管沙盒試點(diǎn),。2023年11月,，西班牙建立第一個(gè)歐盟人工智能監(jiān)管沙盒。2024中關(guān)村論壇發(fā)布中國(guó)首例人工智能領(lǐng)域監(jiān)管沙盒,，首批入盒模型企業(yè)包括中科聞歌,、拓爾思、靈犀云等,。成立人工智能驗(yàn)證基金會(huì),。新加坡2023年成立了人工智能驗(yàn)證基金會(huì)，發(fā)揮聯(lián)系政府,、企業(yè)和學(xué)術(shù)專家的平臺(tái)作用,。該基金會(huì)與IBM、微軟和谷歌等企業(yè)合作開發(fā)人工智能測(cè)試工具,，合作制定人工智能國(guó)際標(biāo)準(zhǔn),。推進(jìn)產(chǎn)業(yè)一線企業(yè)開展負(fù)責(zé)任的研究與創(chuàng)新歐盟嚴(yán)格禁止銷售和使用對(duì)人們安全、生計(jì)構(gòu)成明顯威脅的人工智能技術(shù),，違規(guī)公司可能被處以其全球年?duì)I業(yè)額的7%或4000萬(wàn)歐元的高額罰款。美國(guó)總統(tǒng)行政令推動(dòng)美國(guó)生成式人工智能科技企業(yè)踐行自愿承諾的監(jiān)管路徑,，谷歌,、Meta、微軟等15家人工智能頭部科技企業(yè)隨即在關(guān)于推動(dòng)人工智能技術(shù)的安全,、可靠和可信的發(fā)展方面進(jìn)行承諾,。在首爾人工智能峰會(huì)上，亞馬遜,、微軟,、谷歌、中國(guó)的智譜AI等全球領(lǐng)先的科技企業(yè)就人工智能安全作出“前沿人工智能安全承諾”,，將努力確保其最先進(jìn)的人工智能模型安全性,，并實(shí)施負(fù)責(zé)任的治理。人工智能倫理委員會(huì)機(jī)制不僅是企業(yè)自律的重要體現(xiàn),，也是落實(shí)人工智能倫理治理的重要制度保障,。全球多家頭部企業(yè)探索人工智能倫理委員會(huì)的建設(shè)落地。微軟負(fù)責(zé)任人工智能辦公室、人工智能倫理委員會(huì)分別負(fù)責(zé)制定內(nèi)部的人工智能倫理準(zhǔn)則,、審查敏感應(yīng)用案例,，對(duì)特定人工智能倫理問題進(jìn)行研究、主動(dòng)制定內(nèi)部政策,。谷歌技術(shù)發(fā)布前置倫理審查中心,，監(jiān)管人工智能與新興技術(shù)倫理準(zhǔn)則。DeepMind倫理與社會(huì)團(tuán)隊(duì)的獨(dú)立顧問小組包含多名不同背景與學(xué)科的外國(guó)專家,，針對(duì)人工智能倫理問題提供反饋與指導(dǎo),。京東探索研究院，華為可信理論,、技術(shù)與工程實(shí)驗(yàn)室都關(guān)注可信人工智能研究,。2024年5月28日，“開放人工智能”新成立安全委員會(huì),，就其項(xiàng)目和運(yùn)營(yíng)的“關(guān)鍵安全決策”提供建議,。（作者：李輝，系北京市習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想研究中心特約研究員,，北京市科學(xué)技術(shù)研究院研究員）