光明圖片/視覺中國光明圖片/視覺中國光明圖片/視覺中國光明圖片/視覺中國【環(huán)球科技視野】人工智能（AI)作為引領(lǐng)未來的戰(zhàn)略新興技術(shù),，已經(jīng)成為發(fā)展新質(zhì)生產(chǎn)力,、推動(dòng)科技革命和產(chǎn)業(yè)升級的核心引擎。隨著人工智能領(lǐng)域的高速發(fā)展，尤其是生成式人工智能的突破,，其復(fù)雜效應(yīng)也不斷顯現(xiàn),，既釋放巨大的技術(shù)紅利，也衍生出超越以往范疇的安全問題,。2023年以來,，全球人工智能安全治理的努力大幅增加，治理進(jìn)程正在不斷加速,，并且形成了各國政府主導(dǎo),、國際組織積極推進(jìn)、科技企業(yè)協(xié)同治理的多方參與格局,。推進(jìn)“軟性”倫理規(guī)范走向“硬性”法律監(jiān)管歐盟展現(xiàn)了領(lǐng)先全球的立法速度,。2024年3月，其發(fā)布的《人工智能法案》被認(rèn)為是全球首部綜合性人工智能治理立法,。該法案對人工智能系統(tǒng)進(jìn)行了分類,，并根據(jù)風(fēng)險(xiǎn)等級制定了相應(yīng)的監(jiān)管要求，設(shè)定了普適,、全面的人工智能監(jiān)管方法,，包括數(shù)據(jù)管理、透明度,、可解釋性,、人類監(jiān)督等方面。歐盟2024年新設(shè)了人工智能辦公室,，推動(dòng)實(shí)施《人工智能法案》,。此外，歐盟《人工智能責(zé)任指令》在2024年也將出現(xiàn)更多的進(jìn)展,。與歐盟《人工智能法案》以風(fēng)險(xiǎn)預(yù)防和責(zé)任追究為中心的立法不同,，中國采取了更加包容審慎的治理方式，且采取了“小切口”的立法策略,，深入特定應(yīng)用領(lǐng)域提出監(jiān)管要求,，體現(xiàn)了中國在人工智能領(lǐng)域的敏捷治理理念。2023年8月，《生成式人工智能服務(wù)管理暫行辦法》開始施行,，中國成為世界上首個(gè)為生成式大模型立法的國家,。美國人工智能治理則總體寬松溫和，以促進(jìn)發(fā)展為主,，兜底風(fēng)險(xiǎn)為輔,，立法滯后。近年來,，在生成式預(yù)訓(xùn)練人工智能及相關(guān)技術(shù)引發(fā)越來越多關(guān)注和擔(dān)憂后,，美國政府逐步加強(qiáng)監(jiān)管。2023年1月,，美國商務(wù)部國家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《人工智能風(fēng)險(xiǎn)管理框架》,，旨在對人工智能系統(tǒng)全生命周期實(shí)行有效的風(fēng)險(xiǎn)管理。2023年10月,，美國第一次在政治對話中真正納入人工智能的議程,，并發(fā)布總統(tǒng)行政令《安全、可靠和值得信賴的人工智能開發(fā)和使用》,，明確了美國政府治理人工智能的政策法律框架，具有里程碑意義,。最受矚目的一點(diǎn)是該行政令動(dòng)用《國防生產(chǎn)法》的緊急權(quán)力,，強(qiáng)制要求人工智能企業(yè)進(jìn)行安全測試并與政府分享測試結(jié)果。2024年5月,，美國參議院人工智能工作組發(fā)布《推動(dòng)美國在AI領(lǐng)域的創(chuàng)新：參議院AI政策路線圖》,。一系列行動(dòng)，標(biāo)志著美國通過“全面立法”治理人工智能的戰(zhàn)略努力,。2024年,，疊加人工智能對美國大選年的重大威脅，人工智能立法將成為美國重頭戲,。推動(dòng)形成全球人工智能安全治理共識和創(chuàng)新合作全球共商機(jī)制初步建立,。一直以來，如何推出能被廣泛接受的人工智能治理原則挑戰(zhàn)重重,。從經(jīng)合組織到聯(lián)合國,，國際層面始終在努力推進(jìn)這一議程。2023年以來,，聯(lián)合國積極參與,、推動(dòng)人工智能全球監(jiān)管機(jī)構(gòu)和治理機(jī)制的構(gòu)建，以期探索全球監(jiān)管的“公約數(shù)”,。聯(lián)合國秘書長出席聯(lián)合國安理會(huì)人工智能與安全問題高級別公開會(huì),，呼吁管控人工智能技術(shù)風(fēng)險(xiǎn)，成立新的聯(lián)合國機(jī)構(gòu)強(qiáng)化人工智能全球治理。2023年,，聯(lián)合國成立全球人工智能監(jiān)管咨詢委員會(huì),，該委員會(huì)包括科技行業(yè)領(lǐng)袖、政府代表和學(xué)者,，以及知名科技企業(yè)的高管,，旨在處理全球人工智能監(jiān)管事宜。中國,、巴西,、俄羅斯、印度和南非則同意成立“人工智能研究小組”,。歐洲委員會(huì)一直在制定一項(xiàng)具有法律約束力的人工智能與人權(quán)國際公約,，并于2024年3月敲定《人工智能、人權(quán),、民主和法治框架公約》最終草案,，這是第一個(gè)國際人工智能條約。英國率先成立英國人工智能安全研究所,，旨在促進(jìn)全球?qū)ο冗M(jìn)人工智能的了解,。2024年5月，在人工智能首爾峰會(huì)上,，美國,、英國、加拿大,、日本,、韓國等10個(gè)國家以及歐盟共同簽署《首爾聲明》，呼吁加強(qiáng)國際人工智能治理合作以及治理框架之間的互操作性,，倡導(dǎo)以風(fēng)險(xiǎn)為基礎(chǔ)的政策和治理框架,，支持啟動(dòng)首個(gè)國際人工智能安全研究所網(wǎng)絡(luò)，促使國家間形成對人工智能安全的共同理解,，并在研究,、標(biāo)準(zhǔn)和測試方面進(jìn)行協(xié)調(diào)。新的合作模式如何形成至關(guān)重要,。以哪一方案作為未來共同監(jiān)管架構(gòu)模板成為焦點(diǎn),。大國博弈背景下，率先形成人工智能治理范本,，可獲得人工智能監(jiān)管主導(dǎo)權(quán),。2023年以來，以聯(lián)合國,、歐盟,、美國、英國以及中國的相關(guān)政策或策略性行動(dòng)為標(biāo)志，各國政府和國際組織在人工智能全球治理領(lǐng)域的參與程度和戰(zhàn)略部署明顯提升,，試圖影響全球范圍內(nèi)人工智能技術(shù)標(biāo)準(zhǔn),、應(yīng)用規(guī)范、治理準(zhǔn)則,。各方均在主動(dòng)發(fā)力,，擴(kuò)大自身治理模式的影響。美國在全球人工智能安全峰會(huì)前,，推動(dòng)七國集團(tuán)取得一致立場,，并重返聯(lián)合國教科文組織參與人工智能規(guī)則建設(shè)。歐盟《人工智能法案》將給全球人工智能立法格局帶來重大影響,，為人工智能定下監(jiān)管基調(diào),，在治理規(guī)制方面幫助歐盟另辟蹊徑，在全球人工智能領(lǐng)域進(jìn)行更深層次的布局,。創(chuàng)新政府對人工智能的安全監(jiān)管形式多層級,、多部門聯(lián)手治理。在頂層設(shè)計(jì)的指導(dǎo)下,，美國參議院,、眾議院和國會(huì)研究處、國會(huì)國家人工智能研究資源工作組等部門圍繞人工智能應(yīng)用可能帶來的安全風(fēng)險(xiǎn)開展研究和布局,，聯(lián)邦政府下獨(dú)立行政機(jī)構(gòu)美國聯(lián)邦貿(mào)易委員會(huì),、美國證券交易委員會(huì)、美國平等就業(yè)機(jī)會(huì)委員會(huì),、美國聯(lián)邦通信委員會(huì)積極探索人工智能監(jiān)管新模式，國務(wù)院,、財(cái)政部,、國防部、國土安全部,、司法部,、教育部、商務(wù)部,、能源部等部門及其下屬機(jī)構(gòu)圍繞自身負(fù)責(zé)領(lǐng)域研究出臺促進(jìn)人工智能負(fù)責(zé)任應(yīng)用的相關(guān)文件,。此外，特別成立了美國人工智能安全研究所,、國防部人工智能安全中心,、國防部生成式人工智能工作組等機(jī)構(gòu)，圍繞人工智能安全開展專門研究及突破,。設(shè)立“首席人工智能官”,。美國總統(tǒng)行政令提出，要大力推進(jìn)聯(lián)邦政府使用人工智能，要求美國管理和預(yù)算辦公室建立聯(lián)邦政府人工智能使用指南,，各職能政府部門設(shè)首席人工智能官,，并提升聯(lián)邦政府內(nèi)人工智能人才密度。該制度既延續(xù)了以往美國在管理領(lǐng)域設(shè)立“首席官”的監(jiān)管范式,，又創(chuàng)新了政府對人工智能領(lǐng)域的監(jiān)管形式,。當(dāng)前，美國聯(lián)邦機(jī)構(gòu)正密集任命首席人工智能官,，提升政府的“含AI量”,。縱覽已推出的首席人工智能官,，任命形式各有不同,，其具體職責(zé)主要圍繞“協(xié)同協(xié)調(diào)、技術(shù)創(chuàng)新,、風(fēng)險(xiǎn)管理”三個(gè)方面展開,。設(shè)置人工智能監(jiān)管沙盒。監(jiān)管沙盒是由監(jiān)管機(jī)構(gòu)提供的一種實(shí)驗(yàn)平臺,，是探索人工智能可控發(fā)展的創(chuàng)新手段,，通過設(shè)立限定性條件，以真實(shí)用戶為對象進(jìn)行深度測試,，降低監(jiān)管不確定性,。監(jiān)管沙盒既有利于企業(yè)技術(shù)創(chuàng)新實(shí)踐應(yīng)用，也有利于更早地發(fā)現(xiàn)前沿技術(shù)引發(fā)的合規(guī)風(fēng)險(xiǎn),。歐盟《人工智能法案》明確了建立人工智能監(jiān)管沙盒的相關(guān)要求,，目前歐洲已有多個(gè)國家在積極推進(jìn)人工智能監(jiān)管沙盒試點(diǎn)。2023年11月,，西班牙建立第一個(gè)歐盟人工智能監(jiān)管沙盒,。2024中關(guān)村論壇發(fā)布中國首例人工智能領(lǐng)域監(jiān)管沙盒，首批入盒模型企業(yè)包括中科聞歌,、拓爾思,、靈犀云等。成立人工智能驗(yàn)證基金會(huì),。新加坡2023年成立了人工智能驗(yàn)證基金會(huì),，發(fā)揮聯(lián)系政府、企業(yè)和學(xué)術(shù)專家的平臺作用,。該基金會(huì)與IBM,、微軟和谷歌等企業(yè)合作開發(fā)人工智能測試工具，合作制定人工智能國際標(biāo)準(zhǔn),。推進(jìn)產(chǎn)業(yè)一線企業(yè)開展負(fù)責(zé)任的研究與創(chuàng)新歐盟嚴(yán)格禁止銷售和使用對人們安全,、生計(jì)構(gòu)成明顯威脅的人工智能技術(shù),，違規(guī)公司可能被處以其全球年?duì)I業(yè)額的7%或4000萬歐元的高額罰款。美國總統(tǒng)行政令推動(dòng)美國生成式人工智能科技企業(yè)踐行自愿承諾的監(jiān)管路徑,，谷歌,、Meta、微軟等15家人工智能頭部科技企業(yè)隨即在關(guān)于推動(dòng)人工智能技術(shù)的安全,、可靠和可信的發(fā)展方面進(jìn)行承諾,。在首爾人工智能峰會(huì)上，亞馬遜,、微軟,、谷歌、中國的智譜AI等全球領(lǐng)先的科技企業(yè)就人工智能安全作出“前沿人工智能安全承諾”,，將努力確保其最先進(jìn)的人工智能模型安全性,，并實(shí)施負(fù)責(zé)任的治理。人工智能倫理委員會(huì)機(jī)制不僅是企業(yè)自律的重要體現(xiàn),，也是落實(shí)人工智能倫理治理的重要制度保障,。全球多家頭部企業(yè)探索人工智能倫理委員會(huì)的建設(shè)落地。微軟負(fù)責(zé)任人工智能辦公室,、人工智能倫理委員會(huì)分別負(fù)責(zé)制定內(nèi)部的人工智能倫理準(zhǔn)則,、審查敏感應(yīng)用案例，對特定人工智能倫理問題進(jìn)行研究,、主動(dòng)制定內(nèi)部政策,。谷歌技術(shù)發(fā)布前置倫理審查中心，監(jiān)管人工智能與新興技術(shù)倫理準(zhǔn)則,。DeepMind倫理與社會(huì)團(tuán)隊(duì)的獨(dú)立顧問小組包含多名不同背景與學(xué)科的外國專家,，針對人工智能倫理問題提供反饋與指導(dǎo)。京東探索研究院,，華為可信理論,、技術(shù)與工程實(shí)驗(yàn)室都關(guān)注可信人工智能研究。2024年5月28日,，“開放人工智能”新成立安全委員會(huì)，就其項(xiàng)目和運(yùn)營的“關(guān)鍵安全決策”提供建議,。（作者：李輝,，系北京市習(xí)近平新時(shí)代中國特色社會(huì)主義思想研究中心特約研究員，北京市科學(xué)技術(shù)研究院研究員）（來源：光明日報(bào)）