“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)”論壇

7月4日，2024年世界人工智能大會(huì)（WAIC2024）在上海世博中心舉行,。36氪在“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)”論壇上獲悉，《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書(shū)》及“智能向善全球伙伴計(jì)劃”正式啟動(dòng),，該研究及行動(dòng)旨在促進(jìn)人工智能與重大應(yīng)用場(chǎng)景高效結(jié)合,，加快人工智能技術(shù)的成果轉(zhuǎn)化?！栋灼?shū)》的案例征集報(bào)名及編制工作報(bào)名入口也在論壇現(xiàn)場(chǎng)正式對(duì)外公布,。

作為深耕中國(guó)創(chuàng)新創(chuàng)業(yè)市場(chǎng)的新經(jīng)濟(jì)服務(wù)平臺(tái)，36氪也將與清華大學(xué)人工智能國(guó)際治理研究院等機(jī)構(gòu)密切溝通合作,，基于即將啟動(dòng)的“未來(lái)城市大獎(jiǎng)2024”,，通過(guò)場(chǎng)景征集、案例互薦,、成果聯(lián)合發(fā)布等形式,，共同助力《白皮書(shū)》的編著及推廣。

在論壇的演講環(huán)節(jié),，圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士,、清華大學(xué)人工智能學(xué)院院長(zhǎng),、上海期智研究院院長(zhǎng)姚期智，聯(lián)合國(guó)副秘書(shū)長(zhǎng),、聯(lián)合國(guó)大學(xué)校長(zhǎng)Tshilidzi Marwala,，香港科技大學(xué)首席副校長(zhǎng)、英國(guó)皇家工程院院士郭毅可發(fā)表了主旨演講,，論壇參與各方也就人工智能安全與治理問(wèn)題進(jìn)行了深入探討,。

圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長(zhǎng),、上海期智研究院院長(zhǎng)姚期智

來(lái)自清華大學(xué)的姚期智院士作題為《人工智能安全治理的研究方向》的主旨演講,，介紹了前沿大模型帶來(lái)的信息、物理,、生物智能風(fēng)險(xiǎn)與生存風(fēng)險(xiǎn),，引申出AI的系統(tǒng)安全與確保人的利益問(wèn)題，提出從技術(shù)和路徑的維度進(jìn)行分類治理,；以大模型時(shí)代的數(shù)據(jù)安全研究舉例,，指出大模型會(huì)記住隱私數(shù)據(jù)，而保護(hù)用戶隱私的研究尚處在較原始階段,，重要方向是為大模型數(shù)據(jù)安全開(kāi)發(fā)出一組核心技術(shù),；以有益的通用人工智能（Beneficial AGI）和可證明的安全通用人工智能（Provably Safe AGI）為例，介紹了AI安全治理的大格局理論研究,。

姚期智院士強(qiáng)調(diào),，AI安全治理的當(dāng)務(wù)之急在于發(fā)展AI對(duì)齊與相應(yīng)的評(píng)估方法、結(jié)合中國(guó)優(yōu)勢(shì)來(lái)建立符合國(guó)情的AI治理框架,。

聯(lián)合國(guó)副秘書(shū)長(zhǎng),、聯(lián)合國(guó)大學(xué)校長(zhǎng)Tshilidzi Marwala在視頻演講中指出，聯(lián)合國(guó)一直致力于人工智能治理以造福人類,，2021年聯(lián)合國(guó)教科文組織發(fā)布了人工智能倫理建議,，即將以此為基礎(chǔ)提出“全球數(shù)字契約”。2024年4月,，聯(lián)合國(guó)大學(xué)啟動(dòng)了全球人工智能網(wǎng)絡(luò),，它擁有來(lái)自19個(gè)以上國(guó)家和地區(qū)的40多名創(chuàng)始成員，清華大學(xué)人工智能國(guó)際治理研究院是其創(chuàng)始成員之一,，期待中國(guó)學(xué)者和實(shí)踐者的積極加入,。

香港科技大學(xué)首席副校長(zhǎng)、英國(guó)皇家工程院院士郭毅可

香港科技大學(xué)的郭毅可院士認(rèn)為,，數(shù)據(jù)安全治理是人工智能和數(shù)字轉(zhuǎn)型時(shí)代一個(gè)至關(guān)重要且不斷演進(jìn)的議題,。積極地來(lái)看，可以通過(guò)區(qū)塊鏈增強(qiáng)數(shù)據(jù)安全,、敏感數(shù)據(jù)風(fēng)險(xiǎn)防控,、加密和匿名化等技術(shù)手段進(jìn)行有效數(shù)據(jù)治理，其中訪問(wèn)控制和權(quán)限管理,、敏感數(shù)據(jù)監(jiān)控和審計(jì)對(duì)確保數(shù)據(jù)安全至關(guān)重要,。

論壇的研究成果發(fā)布環(huán)節(jié)由清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)梁正主持?！度蛉斯ぶ悄苤卫砼c中國(guó)方案》研究報(bào)告（征求意見(jiàn)稿）在現(xiàn)場(chǎng)發(fā)布,，清華大學(xué)文科資深教授、清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾教授對(duì)報(bào)告進(jìn)行了解讀,。

清華大學(xué)文科資深教授,、清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾

薛瀾表示，本輪人工智能浪潮處于“工具化末期,、產(chǎn)品化初期”階段,，“發(fā)展治理”和“安全治理”受到高度關(guān)注。在此背景下,，中國(guó)實(shí)踐能夠?yàn)槿蛉斯ぶ悄苤卫碜⑷雱?dòng)力,，包括發(fā)展中國(guó)特色人工智能治理體系，引領(lǐng)國(guó)際治理變革,；加快科技創(chuàng)新和產(chǎn)業(yè)應(yīng)用,，推動(dòng)全球人工智能發(fā)展；發(fā)出全球人工智能治理倡議,，提出全球治理“中國(guó)方案”,。

中國(guó)發(fā)展出版社社長(zhǎng)王忠宏

由薛瀾擔(dān)任顧問(wèn)、梁正主編的《前沿人工智能：發(fā)展與治理》新書(shū)也在論壇現(xiàn)場(chǎng)正式發(fā)布,。中國(guó)發(fā)展出版社社長(zhǎng)王忠宏指出,，在清華大學(xué)人工智能國(guó)際治理研究院的支持下，該書(shū)覆蓋了人工智能的發(fā)展全景,、產(chǎn)業(yè)應(yīng)用,，深入探討了人工智能的潛在風(fēng)險(xiǎn)和國(guó)際治理等多個(gè)關(guān)鍵議題，介紹了前沿人工智能產(chǎn)業(yè)生態(tài)發(fā)展軌跡及商業(yè)變革趨勢(shì),，展示了人工智能在工業(yè),、政務(wù)、教育等多個(gè)領(lǐng)域的實(shí)際應(yīng)用案例和成效,，同時(shí)也探討了人工智能國(guó)際治理議題，提出了構(gòu)建開(kāi)放包容的國(guó)際治理體系的策略與方法,。

隨后,，《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書(shū)》及“智能向善全球伙伴計(jì)劃”啟動(dòng)儀式在論壇現(xiàn)場(chǎng)舉行,。之江智慧場(chǎng)景研究中心主任陶海青就清華大學(xué)人工智能國(guó)際治理研究院聯(lián)合多家機(jī)構(gòu)共同開(kāi)展的《白皮書(shū)》研究工作進(jìn)行介紹。

之江智慧場(chǎng)景研究中心主任陶海青

陶海青表示,，《白皮書(shū)》將圍繞“智能制造”“智慧農(nóng)業(yè)”“智慧商貿(mào)物流”等重大人工智能應(yīng)用場(chǎng)景,，涵蓋場(chǎng)景總體架構(gòu)與子場(chǎng)景組成、AI+整體技術(shù)架構(gòu),、關(guān)鍵領(lǐng)域技術(shù)創(chuàng)新與趨勢(shì),、國(guó)際與中國(guó)代表性場(chǎng)景案例分析等分支內(nèi)容，促進(jìn)人工智能與重大應(yīng)用場(chǎng)景高效結(jié)合,，加快人工智能技術(shù)成果轉(zhuǎn)化,。與此同時(shí)，多家機(jī)構(gòu)共同參與的“智能向善全球伙伴計(jì)劃”將在政策咨詢,、國(guó)際交流,、人才培育等方面發(fā)揮作用，以進(jìn)一步擴(kuò)大《白皮書(shū)》的影響力與實(shí)用價(jià)值,。

《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書(shū)》及“智能向善全球伙伴計(jì)劃”啟動(dòng)儀式

中國(guó)移動(dòng)集團(tuán)副總經(jīng)理李慧鏑,、中國(guó)投融資擔(dān)保有限公司董事長(zhǎng)鄧星斌、中國(guó)電信研究院黨委書(shū)記閆麗莉,、阿里巴巴集團(tuán)副總裁李倩,、華信永道董事長(zhǎng)劉景郁、華為戰(zhàn)略研究院人工智能治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪作為企業(yè)代表登臺(tái),，與薛瀾,、王忠宏、梁正,、魯俊群,、陶海青等學(xué)界代表共同見(jiàn)證了《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書(shū)》及“智能向善全球伙伴計(jì)劃”的正式啟動(dòng)。