“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)”論壇

7月4日，2024年世界人工智能大會(huì)（WAIC2024）在上海世博中心舉行。36氪在“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)”論壇上獲悉,，《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書》及“智能向善全球伙伴計(jì)劃”正式啟動(dòng),，該研究及行動(dòng)旨在促進(jìn)人工智能與重大應(yīng)用場(chǎng)景高效結(jié)合，加快人工智能技術(shù)的成果轉(zhuǎn)化,?！栋灼返陌咐骷瘓?bào)名及編制工作報(bào)名入口也在論壇現(xiàn)場(chǎng)正式對(duì)外公布。

作為深耕中國(guó)創(chuàng)新創(chuàng)業(yè)市場(chǎng)的新經(jīng)濟(jì)服務(wù)平臺(tái),，36氪也將與清華大學(xué)人工智能國(guó)際治理研究院等機(jī)構(gòu)密切溝通合作,，基于即將啟動(dòng)的“未來(lái)城市大獎(jiǎng)2024”，通過(guò)場(chǎng)景征集,、案例互薦,、成果聯(lián)合發(fā)布等形式，共同助力《白皮書》的編著及推廣,。

在論壇的演講環(huán)節(jié),，圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士,、清華大學(xué)人工智能學(xué)院院長(zhǎng),、上海期智研究院院長(zhǎng)姚期智，聯(lián)合國(guó)副秘書長(zhǎng),、聯(lián)合國(guó)大學(xué)校長(zhǎng)Tshilidzi Marwala,，香港科技大學(xué)首席副校長(zhǎng)、英國(guó)皇家工程院院士郭毅可發(fā)表了主旨演講，論壇參與各方也就人工智能安全與治理問(wèn)題進(jìn)行了深入探討,。

圖靈獎(jiǎng)得主,、中國(guó)科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長(zhǎng),、上海期智研究院院長(zhǎng)姚期智

來(lái)自清華大學(xué)的姚期智院士作題為《人工智能安全治理的研究方向》的主旨演講,，介紹了前沿大模型帶來(lái)的信息、物理,、生物智能風(fēng)險(xiǎn)與生存風(fēng)險(xiǎn),，引申出AI的系統(tǒng)安全與確保人的利益問(wèn)題,，提出從技術(shù)和路徑的維度進(jìn)行分類治理,；以大模型時(shí)代的數(shù)據(jù)安全研究舉例，指出大模型會(huì)記住隱私數(shù)據(jù),，而保護(hù)用戶隱私的研究尚處在較原始階段,，重要方向是為大模型數(shù)據(jù)安全開發(fā)出一組核心技術(shù)；以有益的通用人工智能（Beneficial AGI）和可證明的安全通用人工智能（Provably Safe AGI）為例,，介紹了AI安全治理的大格局理論研究,。

姚期智院士強(qiáng)調(diào)，AI安全治理的當(dāng)務(wù)之急在于發(fā)展AI對(duì)齊與相應(yīng)的評(píng)估方法,、結(jié)合中國(guó)優(yōu)勢(shì)來(lái)建立符合國(guó)情的AI治理框架,。

聯(lián)合國(guó)副秘書長(zhǎng)、聯(lián)合國(guó)大學(xué)校長(zhǎng)Tshilidzi Marwala在視頻演講中指出,，聯(lián)合國(guó)一直致力于人工智能治理以造福人類,，2021年聯(lián)合國(guó)教科文組織發(fā)布了人工智能倫理建議，即將以此為基礎(chǔ)提出“全球數(shù)字契約”,。2024年4月，聯(lián)合國(guó)大學(xué)啟動(dòng)了全球人工智能網(wǎng)絡(luò),，它擁有來(lái)自19個(gè)以上國(guó)家和地區(qū)的40多名創(chuàng)始成員,，清華大學(xué)人工智能國(guó)際治理研究院是其創(chuàng)始成員之一，期待中國(guó)學(xué)者和實(shí)踐者的積極加入,。

香港科技大學(xué)首席副校長(zhǎng),、英國(guó)皇家工程院院士郭毅可

香港科技大學(xué)的郭毅可院士認(rèn)為，數(shù)據(jù)安全治理是人工智能和數(shù)字轉(zhuǎn)型時(shí)代一個(gè)至關(guān)重要且不斷演進(jìn)的議題,。積極地來(lái)看,，可以通過(guò)區(qū)塊鏈增強(qiáng)數(shù)據(jù)安全,、敏感數(shù)據(jù)風(fēng)險(xiǎn)防控,、加密和匿名化等技術(shù)手段進(jìn)行有效數(shù)據(jù)治理,，其中訪問(wèn)控制和權(quán)限管理,、敏感數(shù)據(jù)監(jiān)控和審計(jì)對(duì)確保數(shù)據(jù)安全至關(guān)重要,。

論壇的研究成果發(fā)布環(huán)節(jié)由清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)梁正主持?！度蛉斯ぶ悄苤卫砼c中國(guó)方案》研究報(bào)告（征求意見(jiàn)稿）在現(xiàn)場(chǎng)發(fā)布，清華大學(xué)文科資深教授,、清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾教授對(duì)報(bào)告進(jìn)行了解讀,。

清華大學(xué)文科資深教授,、清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾

薛瀾表示,，本輪人工智能浪潮處于“工具化末期、產(chǎn)品化初期”階段,，“發(fā)展治理”和“安全治理”受到高度關(guān)注,。在此背景下，中國(guó)實(shí)踐能夠?yàn)槿蛉斯ぶ悄苤卫碜⑷雱?dòng)力,，包括發(fā)展中國(guó)特色人工智能治理體系,，引領(lǐng)國(guó)際治理變革；加快科技創(chuàng)新和產(chǎn)業(yè)應(yīng)用,，推動(dòng)全球人工智能發(fā)展,；發(fā)出全球人工智能治理倡議，提出全球治理“中國(guó)方案”,。

中國(guó)發(fā)展出版社社長(zhǎng)王忠宏

由薛瀾擔(dān)任顧問(wèn)、梁正主編的《前沿人工智能：發(fā)展與治理》新書也在論壇現(xiàn)場(chǎng)正式發(fā)布,。中國(guó)發(fā)展出版社社長(zhǎng)王忠宏指出,，在清華大學(xué)人工智能國(guó)際治理研究院的支持下,，該書覆蓋了人工智能的發(fā)展全景、產(chǎn)業(yè)應(yīng)用,，深入探討了人工智能的潛在風(fēng)險(xiǎn)和國(guó)際治理等多個(gè)關(guān)鍵議題,，介紹了前沿人工智能產(chǎn)業(yè)生態(tài)發(fā)展軌跡及商業(yè)變革趨勢(shì)，展示了人工智能在工業(yè),、政務(wù),、教育等多個(gè)領(lǐng)域的實(shí)際應(yīng)用案例和成效，同時(shí)也探討了人工智能國(guó)際治理議題,，提出了構(gòu)建開放包容的國(guó)際治理體系的策略與方法,。

隨后，《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書》及“智能向善全球伙伴計(jì)劃”啟動(dòng)儀式在論壇現(xiàn)場(chǎng)舉行,。之江智慧場(chǎng)景研究中心主任陶海青就清華大學(xué)人工智能國(guó)際治理研究院聯(lián)合多家機(jī)構(gòu)共同開展的《白皮書》研究工作進(jìn)行介紹,。

之江智慧場(chǎng)景研究中心主任陶海青

陶海青表示，《白皮書》將圍繞“智能制造”“智慧農(nóng)業(yè)”“智慧商貿(mào)物流”等重大人工智能應(yīng)用場(chǎng)景,，涵蓋場(chǎng)景總體架構(gòu)與子場(chǎng)景組成,、AI+整體技術(shù)架構(gòu),、關(guān)鍵領(lǐng)域技術(shù)創(chuàng)新與趨勢(shì),、國(guó)際與中國(guó)代表性場(chǎng)景案例分析等分支內(nèi)容，促進(jìn)人工智能與重大應(yīng)用場(chǎng)景高效結(jié)合,，加快人工智能技術(shù)成果轉(zhuǎn)化,。與此同時(shí)，多家機(jī)構(gòu)共同參與的“智能向善全球伙伴計(jì)劃”將在政策咨詢,、國(guó)際交流,、人才培育等方面發(fā)揮作用，以進(jìn)一步擴(kuò)大《白皮書》的影響力與實(shí)用價(jià)值,。

《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書》及“智能向善全球伙伴計(jì)劃”啟動(dòng)儀式

中國(guó)移動(dòng)集團(tuán)副總經(jīng)理李慧鏑,、中國(guó)投融資擔(dān)保有限公司董事長(zhǎng)鄧星斌、中國(guó)電信研究院黨委書記閆麗莉,、阿里巴巴集團(tuán)副總裁李倩,、華信永道董事長(zhǎng)劉景郁、華為戰(zhàn)略研究院人工智能治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪作為企業(yè)代表登臺(tái),，與薛瀾,、王忠宏、梁正,、魯俊群,、陶海青等學(xué)界代表共同見(jiàn)證了《中國(guó)人工智能重大應(yīng)用場(chǎng)景白皮書》及“智能向善全球伙伴計(jì)劃”的正式啟動(dòng)。