近年來,，隨著人工智能技術不斷取得迭代式發(fā)展,，國際社會與各國政府也在加速推進對人工智能技術加以有效監(jiān)管的探索,。在這一過程中，如何通過多方對話協調,，最終實現具有包容性的全球人工智能技術治理框架,，或將在很大程度上決定，這項技術會增進人類福祉與團結,，還是不幸與之相反,。一當地時間5月21日，“人工智能首爾峰會”在韓國首爾開幕,。此次峰會作為去年11月在英國召開的全球人工智能安全峰會的后續(xù)會議,，由韓國與英國共同主辦，以“安全,、創(chuàng)新,、包容”為主題。聯合國秘書長古特雷斯在峰會開幕式上表示,，自去年英國布萊切利峰會召開以來,，“我們看到了改變生活的技術進步,，也看到了威脅生命的新風險”。他認為,，需要就人工智能問題制定普適的防護措施,，并定期開展對話。有媒體指出,，在去年的英國會議召開期間,，人工智能技術還主要以單模態(tài)生成式人工智能（如文本、視頻）為代表,，風險與安全方面的關注點也聚焦在單模態(tài)內容方面,。而此后短短數月間，多模態(tài)生成式人工智能已經成為行業(yè)發(fā)展的新重點,，這令其生成內容的真?zhèn)胃y以鑒別,，人工智能技術的風險，也變得更加難以預測和難以控制,。在21日的線上峰會之后,，與會各方發(fā)布人工智能《首爾宣言》，呼吁加強國際人工智能治理合作以及治理框架之間的互操作性,，支持啟動首個國際人工智能安全研究所網絡,，促使國家間形成對人工智能安全的共同理解，并在研究,、標準和測試方面進行協調,。同日，包括微軟,、亞馬遜,、OpenAI等科技巨頭在內的16家全球領先的人工智能科技公司，在峰會期間作出“前沿人工智能安全承諾”,，將努力確保其最先進的人工智能模型的安全性,，并實施負責任的治理，實現公開透明,。根據這項協議,，一旦發(fā)生利用人工智能技術實施自動網絡攻擊等極端情況，且無法保證降低其風險,，這些企業(yè)將打開“緊急停止開關”,，叫停人工智能模型的開發(fā)與部署進程。二就在首爾峰會召開的同日,，歐洲理事會批準了歐盟《人工智能法案》,，這是世界上首部對人工智能進行全面監(jiān)管的法案。該法案由歐盟委員會在2021年提出,，經過多輪談判和協商后,，歐洲議會于今年3月13日批準該法案,。在獲得歐洲理事會批準后，該法案還需經歐洲議會和歐洲理事會主席簽署,，于近日在歐盟官方公報上公布,，并在公布20天后生效。歐盟發(fā)布信息的顯示,，《人工智能法案》采用基于風險的方法,，對不同風險等級的人工智能系統(tǒng)實施分類監(jiān)管。風險分為四類,，風險等級越高，管控越嚴格,。此外,，歐盟的《人工智能法案》規(guī)定“適用于區(qū)域外”，這意味著在歐洲開展業(yè)務的各國企業(yè)都必須遵守該法案,。歐盟的目標是,，在2026年內全面施行《人工智能法案》。不過,，風險級別最高的“禁止”條款預計率先于2024年底啟動適用,。除了本次通過的法案之外，此前歐盟在人工智能監(jiān)管領域還推出了一系列相關或配套的法律措施,。例如,，歐盟通過的《人工智能框架公約》，提出了一個涵蓋人工智能系統(tǒng)全生命周期的監(jiān)管法律框架,；此外,，歐盟還制定了《人工智能契約》，旨在幫助企業(yè)為剛剛通過的《人工智能法案》實施做好準備,。有分析人士指出,，從《通用數據保護條例》（GDPR）到《數字服務法案》《數字市場法案》，再到《人工智能法案》,，歐盟在數字經濟監(jiān)管上的創(chuàng)新不僅僅體現在具體的監(jiān)管措施,，其規(guī)則輸出的“布魯塞爾效應”也愈發(fā)凸顯，其嚴格的人工智能監(jiān)管模式或將對全球人工智能發(fā)展與應用產生深遠影響,。三自2022年11月ChatGPT橫空出世以來,，各類人工智能技術進入應用爆發(fā)階段。從文生文,，到文生圖（諸如 Midjourney）,，再到文生視頻（Sora大模型），乃至文生音樂（Suno V3大模型）,，人工智能產業(yè)發(fā)展已顯現出無限想象空間,。咨詢機構麥肯錫預計,，人工智能技術將給全球經濟帶來超過7.9萬億美元價值，到2030年之前,，如果生成式人工智能技術應用于各行業(yè),，每年總經濟效益高達6.1萬億美元至7.9萬億美元。然而,，就在首爾人工智能安全峰會召開之際,，《科學》雜志發(fā)表了一篇由全球25位人工智能領域科學家撰寫的專家共識論文。文章認為,，當今全球在保護人類免受人工智能技術可能滋生的風險方面做得還不夠,。文章建議，對于未來異常強大的人工智能系統(tǒng),，全球各國政府必須準備好在監(jiān)管方面發(fā)揮帶頭作用,。更早些時候，一份由30多個國家的專家支持的全球人工智能安全報告顯示,，如果人工智能技術的應用得不到有效監(jiān)管,，勞動力市場遭受大規(guī)模沖擊，利用人工智能技術實施的黑客攻擊或生物攻擊,，以及社會對人工智能失去控制等風險可能會出現,。在人工智能技術提速發(fā)展，以及與之相伴的越來越多的安全預警面前,，全球人工智能技術監(jiān)管與治理體系的完善,，也愈加成為迫在眉睫的嚴肅課題。今年5月30日至31日,，負責信息通信事務的聯合國專門機構國際電信聯盟,，將主辦人工智能向善峰會，邀請各國相關領域的領軍人物共商今后人工智能善治之道,；今年9月,，聯合國未來峰會也計劃通過《全球數字契約》作為峰會成果之一。