“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對”論壇

7月4日,，2024年世界人工智能大會（WAIC2024）在上海世博中心舉行,。36氪在“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對”論壇上獲悉，《中國人工智能重大應(yīng)用場景白皮書》及“智能向善全球伙伴計劃”正式啟動,，該研究及行動旨在促進人工智能與重大應(yīng)用場景高效結(jié)合,，加快人工智能技術(shù)的成果轉(zhuǎn)化?！栋灼返陌咐骷瘓竺熬幹乒ぷ鲌竺肟谝苍谡搲F(xiàn)場正式對外公布,。

作為深耕中國創(chuàng)新創(chuàng)業(yè)市場的新經(jīng)濟服務(wù)平臺，36氪也將與清華大學(xué)人工智能國際治理研究院等機構(gòu)密切溝通合作,，基于即將啟動的“未來城市大獎2024”,，通過場景征集、案例互薦,、成果聯(lián)合發(fā)布等形式,，共同助力《白皮書》的編著及推廣。

在論壇的演講環(huán)節(jié),，圖靈獎得主,、中國科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長,、上海期智研究院院長姚期智,，聯(lián)合國副秘書長、聯(lián)合國大學(xué)校長Tshilidzi Marwala,，香港科技大學(xué)首席副校長,、英國皇家工程院院士郭毅可發(fā)表了主旨演講,，論壇參與各方也就人工智能安全與治理問題進行了深入探討。

圖靈獎得主,、中國科學(xué)院院士,、清華大學(xué)人工智能學(xué)院院長、上海期智研究院院長姚期智

來自清華大學(xué)的姚期智院士作題為《人工智能安全治理的研究方向》的主旨演講,，介紹了前沿大模型帶來的信息,、物理、生物智能風(fēng)險與生存風(fēng)險,，引申出AI的系統(tǒng)安全與確保人的利益問題,，提出從技術(shù)和路徑的維度進行分類治理；以大模型時代的數(shù)據(jù)安全研究舉例,，指出大模型會記住隱私數(shù)據(jù),，而保護用戶隱私的研究尚處在較原始階段，重要方向是為大模型數(shù)據(jù)安全開發(fā)出一組核心技術(shù),；以有益的通用人工智能（Beneficial AGI）和可證明的安全通用人工智能（Provably Safe AGI）為例,，介紹了AI安全治理的大格局理論研究。

姚期智院士強調(diào),，AI安全治理的當(dāng)務(wù)之急在于發(fā)展AI對齊與相應(yīng)的評估方法,、結(jié)合中國優(yōu)勢來建立符合國情的AI治理框架。

聯(lián)合國副秘書長,、聯(lián)合國大學(xué)校長Tshilidzi Marwala在視頻演講中指出,，聯(lián)合國一直致力于人工智能治理以造福人類，2021年聯(lián)合國教科文組織發(fā)布了人工智能倫理建議,，即將以此為基礎(chǔ)提出“全球數(shù)字契約”,。2024年4月，聯(lián)合國大學(xué)啟動了全球人工智能網(wǎng)絡(luò),，它擁有來自19個以上國家和地區(qū)的40多名創(chuàng)始成員,，清華大學(xué)人工智能國際治理研究院是其創(chuàng)始成員之一，期待中國學(xué)者和實踐者的積極加入,。

香港科技大學(xué)首席副校長,、英國皇家工程院院士郭毅可

香港科技大學(xué)的郭毅可院士認為，數(shù)據(jù)安全治理是人工智能和數(shù)字轉(zhuǎn)型時代一個至關(guān)重要且不斷演進的議題,。積極地來看,，可以通過區(qū)塊鏈增強數(shù)據(jù)安全、敏感數(shù)據(jù)風(fēng)險防控,、加密和匿名化等技術(shù)手段進行有效數(shù)據(jù)治理,，其中訪問控制和權(quán)限管理、敏感數(shù)據(jù)監(jiān)控和審計對確保數(shù)據(jù)安全至關(guān)重要,。

論壇的研究成果發(fā)布環(huán)節(jié)由清華大學(xué)人工智能國際治理研究院副院長梁正主持,。《全球人工智能治理與中國方案》研究報告（征求意見稿）在現(xiàn)場發(fā)布,，清華大學(xué)文科資深教授,、清華大學(xué)人工智能國際治理研究院院長薛瀾教授對報告進行了解讀。

清華大學(xué)文科資深教授,、清華大學(xué)人工智能國際治理研究院院長薛瀾

薛瀾表示,，本輪人工智能浪潮處于“工具化末期、產(chǎn)品化初期”階段,，“發(fā)展治理”和“安全治理”受到高度關(guān)注,。在此背景下，中國實踐能夠為全球人工智能治理注入動力,，包括發(fā)展中國特色人工智能治理體系，引領(lǐng)國際治理變革,；加快科技創(chuàng)新和產(chǎn)業(yè)應(yīng)用,，推動全球人工智能發(fā)展；發(fā)出全球人工智能治理倡議,，提出全球治理“中國方案”,。

中國發(fā)展出版社社長王忠宏

由薛瀾擔(dān)任顧問、梁正主編的《前沿人工智能：發(fā)展與治理》新書也在論壇現(xiàn)場正式發(fā)布,。中國發(fā)展出版社社長王忠宏指出,，在清華大學(xué)人工智能國際治理研究院的支持下，該書覆蓋了人工智能的發(fā)展全景,、產(chǎn)業(yè)應(yīng)用,，深入探討了人工智能的潛在風(fēng)險和國際治理等多個關(guān)鍵議題，介紹了前沿人工智能產(chǎn)業(yè)生態(tài)發(fā)展軌跡及商業(yè)變革趨勢,，展示了人工智能在工業(yè),、政務(wù)、教育等多個領(lǐng)域的實際應(yīng)用案例和成效,，同時也探討了人工智能國際治理議題，提出了構(gòu)建開放包容的國際治理體系的策略與方法,。

隨后,，《中國人工智能重大應(yīng)用場景白皮書》及“智能向善全球伙伴計劃”啟動儀式在論壇現(xiàn)場舉行。之江智慧場景研究中心主任陶海青就清華大學(xué)人工智能國際治理研究院聯(lián)合多家機構(gòu)共同開展的《白皮書》研究工作進行介紹。

之江智慧場景研究中心主任陶海青

陶海青表示，《白皮書》將圍繞“智能制造”“智慧農(nóng)業(yè)”“智慧商貿(mào)物流”等重大人工智能應(yīng)用場景,，涵蓋場景總體架構(gòu)與子場景組成,、AI+整體技術(shù)架構(gòu),、關(guān)鍵領(lǐng)域技術(shù)創(chuàng)新與趨勢、國際與中國代表性場景案例分析等分支內(nèi)容,，促進人工智能與重大應(yīng)用場景高效結(jié)合,，加快人工智能技術(shù)成果轉(zhuǎn)化。與此同時,，多家機構(gòu)共同參與的“智能向善全球伙伴計劃”將在政策咨詢,、國際交流,、人才培育等方面發(fā)揮作用,，以進一步擴大《白皮書》的影響力與實用價值。

《中國人工智能重大應(yīng)用場景白皮書》及“智能向善全球伙伴計劃”啟動儀式

中國移動集團副總經(jīng)理李慧鏑,、中國投融資擔(dān)保有限公司董事長鄧星斌,、中國電信研究院黨委書記閆麗莉、阿里巴巴集團副總裁李倩,、華信永道董事長劉景郁,、華為戰(zhàn)略研究院人工智能治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪作為企業(yè)代表登臺,，與薛瀾,、王忠宏、梁正,、魯俊群,、陶海青等學(xué)界代表共同見證了《中國人工智能重大應(yīng)用場景白皮書》及“智能向善全球伙伴計劃”的正式啟動,。