7月4日,，以“以共商促共享,，以善治促善智”為主題的2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議（WAIC 2024）在上海開(kāi)幕。開(kāi)幕式上,，發(fā)布了《人工智能全球治理上海宣言》,，聯(lián)合國(guó)工業(yè)發(fā)展組織全球工業(yè)人工智能聯(lián)盟卓越中心也宣告成立。本次大會(huì)依舊星光熠熠,，9位圖靈獎(jiǎng),、菲爾茲獎(jiǎng)、諾貝爾獎(jiǎng)得主和88位國(guó)內(nèi)外院士，與聯(lián)合國(guó)以及各國(guó)政府代表,、專業(yè)國(guó)際組織代表,，企業(yè)家、投資家1000余人共話AI的發(fā)展,、安全與治理,。在當(dāng)天上午舉辦的大會(huì)全體會(huì)議上,，清華大學(xué)蘇世民書(shū)院院長(zhǎng),、清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾的開(kāi)場(chǎng)演講引人注目。薛瀾指出,，AI的發(fā)展也面臨著基礎(chǔ)設(shè)施,、數(shù)字素養(yǎng)以及技術(shù)本身不均衡發(fā)展等多重挑戰(zhàn)，這些挑戰(zhàn)被形象地稱為“鴻溝”,，對(duì)全球治理的統(tǒng)一性和效率構(gòu)成威脅,。薛瀾分析，全球范圍內(nèi)的AI發(fā)展不平衡現(xiàn)象日益凸顯,。一方面,，部分地區(qū)由于基礎(chǔ)設(shè)施落后，無(wú)法充分釋放AI技術(shù)的潛力,；另一方面,，數(shù)字素養(yǎng)的差距也在加劇，導(dǎo)致社會(huì)群體間的數(shù)字鴻溝日益擴(kuò)大,。此外,，AI技術(shù)發(fā)展的不均衡，也引發(fā)了全球范圍內(nèi)的智力資源不均等問(wèn)題,?！斑@些挑戰(zhàn)并非局限于單一國(guó)家或地區(qū)，而是具有全球性的普遍影響,。在全球化的今天,，一個(gè)國(guó)家的風(fēng)險(xiǎn)往往能迅速轉(zhuǎn)化為全球性的風(fēng)險(xiǎn)。因此,，國(guó)際社會(huì)需要共同應(yīng)對(duì)這些挑戰(zhàn),，推動(dòng)全球AI的均衡、健康發(fā)展,?！毖懡ㄗh，首先,，國(guó)際社會(huì)在推動(dòng)AI發(fā)展的同時(shí),，應(yīng)高度重視安全問(wèn)題，將安全與發(fā)展置于同等重要的地位。各國(guó)政府和企業(yè)應(yīng)共同加強(qiáng)網(wǎng)絡(luò)安全防護(hù),，確保AI技術(shù)的安全可控,。其次，加強(qiáng)國(guó)際交流與合作,。通過(guò)多邊對(duì)話機(jī)制,，加強(qiáng)政府間的交流與合作，分享經(jīng)驗(yàn),、傳播知識(shí),，共同應(yīng)對(duì)全球性的AI挑戰(zhàn)。同時(shí),，鼓勵(lì)國(guó)際科技力量參與全球AI治理,，推動(dòng)全球AI的均衡發(fā)展。此外,，發(fā)揮科學(xué)共同體的作用,。薛瀾表示，應(yīng)借助科學(xué)界的力量,，推動(dòng)國(guó)際機(jī)制的完善與改進(jìn),，為AI的健康發(fā)展提供有力保障。同時(shí),，加強(qiáng)科研合作,，共同攻克AI領(lǐng)域的技術(shù)難題?！罢?、企業(yè)以及科研機(jī)構(gòu)應(yīng)攜手合作，共同推動(dòng)AI技術(shù)的創(chuàng)新與應(yīng)用,。通過(guò)加強(qiáng)國(guó)際合作,，打破技術(shù)壁壘，推動(dòng)全球AI產(chǎn)業(yè)的繁榮發(fā)展,?！鄙虾Ｈ斯ぶ悄軐?shí)驗(yàn)室主任、首席科學(xué)家,，清華大學(xué)惠妍講席教授周伯文談到AI潛在風(fēng)險(xiǎn),，包括數(shù)據(jù)風(fēng)險(xiǎn),、惡意使用風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn),、社會(huì)系統(tǒng)性風(fēng)險(xiǎn),、可能的未來(lái)風(fēng)險(xiǎn)等5大風(fēng)險(xiǎn)，比如數(shù)據(jù)泄露、數(shù)據(jù)濫用,、隱私侵犯,、版權(quán)爭(zhēng)議、偏見(jiàn)歧視,、價(jià)值觀偏差,、信息繭房、就業(yè)變化,、資源消耗、智能鴻溝,、深度偽造,、虛假信息,、網(wǎng)絡(luò)攻擊,、網(wǎng)絡(luò)欺詐等，因此他主張?zhí)剿魅斯ぶ悄?5°平衡律,，即AI安全優(yōu)先,，又能保證AI性能長(zhǎng)期發(fā)展的技術(shù)體系,。周伯文介紹，實(shí)現(xiàn)人工智能45°平衡律也許有多種技術(shù)路徑,。上海AI實(shí)驗(yàn)室最近在探索一條以因果為核心的路徑，取名為：可信AGI的“因果之梯”，可信AGI的“因果之梯”將可信AGI的發(fā)展分為三個(gè)遞進(jìn)階段：泛對(duì)齊,、可干預(yù),、能反思?！胺簩?duì)齊”主要包含當(dāng)前最前沿的人類偏好對(duì)齊技術(shù),；“可干預(yù)”主要包含通過(guò)對(duì)AI系統(tǒng)進(jìn)行干預(yù)，探究其因果機(jī)制的安全技術(shù),；“能反思”則要求AI系統(tǒng)不僅追求高效執(zhí)行任務(wù),，還能審視自身行為的影響和潛在風(fēng)險(xiǎn)，從而在追求性能的同時(shí),，確保安全和道德邊界不被突破,。“目前,，AI安全和性能技術(shù)發(fā)展主要停留第一階段,，部分在嘗試第二階段,，但要真正實(shí)現(xiàn)AI的安全與性能平衡,，我們必須完善第二階段并勇于攀登第三階段,。沿著可信AGI的‘因果之梯’拾級(jí)而上，我們相信可以構(gòu)建真正可信AGI,，實(shí)現(xiàn)人工智能的安全與卓越性能的完美平衡,，并通過(guò)深入理解AI的內(nèi)在機(jī)理和因果過(guò)程，從而安全且有效地開(kāi)發(fā)和使用這項(xiàng)革命性技術(shù),?！敝懿谋硎尽Ｔ谌蛑卫韴D靈圓桌環(huán)節(jié)上,，原微軟執(zhí)行副總裁,、美國(guó)國(guó)家工程院外籍院士沈向洋作為話題引領(lǐng)人，與姚期智,、羅杰·瑞迪,、曼紐爾·布盧姆等三位圖靈獎(jiǎng)得主，共同以《共論共享共治：治理協(xié)同創(chuàng)新探索》為主題,，圍繞人工智能的發(fā)展,、風(fēng)險(xiǎn)以及政府治理等話題進(jìn)行了探討。姚期智認(rèn)為AI風(fēng)險(xiǎn)確實(shí)存在,，在人工智能時(shí)代,，網(wǎng)絡(luò)數(shù)據(jù)管理將更困難，人類社會(huì)結(jié)構(gòu)也可能將在短時(shí)間內(nèi)被破壞,，面臨更危險(xiǎn)的生存挑戰(zhàn),。“事實(shí)上,，是我們自己創(chuàng)造了一種強(qiáng)大的新‘物種’,，如果我們什么都不做,，那必然會(huì)被淘汰,，無(wú)論是因?yàn)橛?jì)算機(jī)的內(nèi)在機(jī)理還是惡意行為者操縱,。因此，我們需要精準(zhǔn)把握管理和運(yùn)用AI的正確方式,，而這也是科學(xué)家們必須面臨的深刻問(wèn)題,。”羅杰·瑞迪表示雖然很高興大家關(guān)注到人工智能所帶來(lái)的風(fēng)險(xiǎn),，但他更希望外界將目光投向人工智能為人類社會(huì)創(chuàng)造的便利及價(jià)值,。“不要恐懼AI的發(fā)展,，AI歸根結(jié)底只是增強(qiáng)人類能力的工具,，如何使用這些工具提高效率更值得我們思考。未來(lái),，或許因?yàn)锳I的助力,，世界上每個(gè)人的生產(chǎn)效率都將上漲10倍?！蓖瑫r(shí),，他提到人才培養(yǎng)對(duì)于應(yīng)對(duì)人工智能未來(lái)發(fā)展的重要價(jià)值，并認(rèn)為當(dāng)前的教育體系在一定程度上顯得有些跟不上步伐,，未能與人工智能的迅猛發(fā)展實(shí)現(xiàn)同步對(duì)接,，為此他倡導(dǎo)對(duì)現(xiàn)有教育制度進(jìn)行革新和完善，以培養(yǎng)出更多能夠適應(yīng)AI時(shí)代需求的人才,。文/廣州日?qǐng)?bào)新花城記者：李曉璐,、陳慶輝、張露,、文靜圖/廣州日?qǐng)?bào)新花城記者：李曉璐,、陳慶輝、張露,、文靜廣州日?qǐng)?bào)新花城編輯：李曉璐