7月4日，以“以共商促共享，以善治促善智”為主題的2024世界人工智能大會暨人工智能全球治理高級別會議（WAIC 2024）在上海開幕,。開幕式上,，發(fā)布了《人工智能全球治理上海宣言》，聯(lián)合國工業(yè)發(fā)展組織全球工業(yè)人工智能聯(lián)盟卓越中心也宣告成立,。本次大會依舊星光熠熠,，9位圖靈獎、菲爾茲獎,、諾貝爾獎得主和88位國內(nèi)外院士,，與聯(lián)合國以及各國政府代表、專業(yè)國際組織代表,，企業(yè)家,、投資家1000余人共話AI的發(fā)展、安全與治理,。在當(dāng)天上午舉辦的大會全體會議上，清華大學(xué)蘇世民書院院長,、清華大學(xué)人工智能國際治理研究院院長薛瀾的開場演講引人注目,。薛瀾指出，AI的發(fā)展也面臨著基礎(chǔ)設(shè)施,、數(shù)字素養(yǎng)以及技術(shù)本身不均衡發(fā)展等多重挑戰(zhàn),，這些挑戰(zhàn)被形象地稱為“鴻溝”,，對全球治理的統(tǒng)一性和效率構(gòu)成威脅。薛瀾分析,，全球范圍內(nèi)的AI發(fā)展不平衡現(xiàn)象日益凸顯,。一方面，部分地區(qū)由于基礎(chǔ)設(shè)施落后,，無法充分釋放AI技術(shù)的潛力,；另一方面，數(shù)字素養(yǎng)的差距也在加劇,，導(dǎo)致社會群體間的數(shù)字鴻溝日益擴(kuò)大,。此外，AI技術(shù)發(fā)展的不均衡,，也引發(fā)了全球范圍內(nèi)的智力資源不均等問題,。“這些挑戰(zhàn)并非局限于單一國家或地區(qū),，而是具有全球性的普遍影響,。在全球化的今天，一個(gè)國家的風(fēng)險(xiǎn)往往能迅速轉(zhuǎn)化為全球性的風(fēng)險(xiǎn),。因此,，國際社會需要共同應(yīng)對這些挑戰(zhàn)，推動全球AI的均衡,、健康發(fā)展,。”薛瀾建議,，首先,，國際社會在推動AI發(fā)展的同時(shí)，應(yīng)高度重視安全問題,，將安全與發(fā)展置于同等重要的地位,。各國政府和企業(yè)應(yīng)共同加強(qiáng)網(wǎng)絡(luò)安全防護(hù)，確保AI技術(shù)的安全可控,。其次,，加強(qiáng)國際交流與合作。通過多邊對話機(jī)制,，加強(qiáng)政府間的交流與合作,，分享經(jīng)驗(yàn),、傳播知識,，共同應(yīng)對全球性的AI挑戰(zhàn)。同時(shí),，鼓勵國際科技力量參與全球AI治理,，推動全球AI的均衡發(fā)展,。此外，發(fā)揮科學(xué)共同體的作用,。薛瀾表示,，應(yīng)借助科學(xué)界的力量，推動國際機(jī)制的完善與改進(jìn),，為AI的健康發(fā)展提供有力保障,。同時(shí)，加強(qiáng)科研合作,，共同攻克AI領(lǐng)域的技術(shù)難題,。“政府,、企業(yè)以及科研機(jī)構(gòu)應(yīng)攜手合作,，共同推動AI技術(shù)的創(chuàng)新與應(yīng)用。通過加強(qiáng)國際合作,，打破技術(shù)壁壘,，推動全球AI產(chǎn)業(yè)的繁榮發(fā)展?！鄙虾Ｈ斯ぶ悄軐?shí)驗(yàn)室主任,、首席科學(xué)家，清華大學(xué)惠妍講席教授周伯文談到AI潛在風(fēng)險(xiǎn),，包括數(shù)據(jù)風(fēng)險(xiǎn),、惡意使用風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn),、社會系統(tǒng)性風(fēng)險(xiǎn),、可能的未來風(fēng)險(xiǎn)等5大風(fēng)險(xiǎn)，比如數(shù)據(jù)泄露,、數(shù)據(jù)濫用,、隱私侵犯、版權(quán)爭議,、偏見歧視,、價(jià)值觀偏差、信息繭房,、就業(yè)變化,、資源消耗、智能鴻溝,、深度偽造,、虛假信息、網(wǎng)絡(luò)攻擊,、網(wǎng)絡(luò)欺詐等,，因此他主張?zhí)剿魅斯ぶ悄?5°平衡律,，即AI安全優(yōu)先，又能保證AI性能長期發(fā)展的技術(shù)體系,。周伯文介紹,，實(shí)現(xiàn)人工智能45°平衡律也許有多種技術(shù)路徑。上海AI實(shí)驗(yàn)室最近在探索一條以因果為核心的路徑,，取名為：可信AGI的“因果之梯”,，可信AGI的“因果之梯”將可信AGI的發(fā)展分為三個(gè)遞進(jìn)階段：泛對齊、可干預(yù),、能反思,。“泛對齊”主要包含當(dāng)前最前沿的人類偏好對齊技術(shù),；“可干預(yù)”主要包含通過對AI系統(tǒng)進(jìn)行干預(yù),，探究其因果機(jī)制的安全技術(shù)；“能反思”則要求AI系統(tǒng)不僅追求高效執(zhí)行任務(wù),，還能審視自身行為的影響和潛在風(fēng)險(xiǎn),，從而在追求性能的同時(shí)，確保安全和道德邊界不被突破,?！澳壳埃珹I安全和性能技術(shù)發(fā)展主要停留第一階段,，部分在嘗試第二階段,，但要真正實(shí)現(xiàn)AI的安全與性能平衡，我們必須完善第二階段并勇于攀登第三階段,。沿著可信AGI的‘因果之梯’拾級而上,，我們相信可以構(gòu)建真正可信AGI，實(shí)現(xiàn)人工智能的安全與卓越性能的完美平衡,，并通過深入理解AI的內(nèi)在機(jī)理和因果過程,，從而安全且有效地開發(fā)和使用這項(xiàng)革命性技術(shù)?！敝懿谋硎?。在全球治理圖靈圓桌環(huán)節(jié)上，原微軟執(zhí)行副總裁,、美國國家工程院外籍院士沈向洋作為話題引領(lǐng)人,，與姚期智、羅杰·瑞迪,、曼紐爾·布盧姆等三位圖靈獎得主,，共同以《共論共享共治：治理協(xié)同創(chuàng)新探索》為主題，圍繞人工智能的發(fā)展、風(fēng)險(xiǎn)以及政府治理等話題進(jìn)行了探討,。姚期智認(rèn)為AI風(fēng)險(xiǎn)確實(shí)存在，在人工智能時(shí)代,，網(wǎng)絡(luò)數(shù)據(jù)管理將更困難,，人類社會結(jié)構(gòu)也可能將在短時(shí)間內(nèi)被破壞，面臨更危險(xiǎn)的生存挑戰(zhàn),?！笆聦?shí)上，是我們自己創(chuàng)造了一種強(qiáng)大的新‘物種’,，如果我們什么都不做,，那必然會被淘汰，無論是因?yàn)橛?jì)算機(jī)的內(nèi)在機(jī)理還是惡意行為者操縱,。因此,，我們需要精準(zhǔn)把握管理和運(yùn)用AI的正確方式，而這也是科學(xué)家們必須面臨的深刻問題,?！绷_杰·瑞迪表示雖然很高興大家關(guān)注到人工智能所帶來的風(fēng)險(xiǎn)，但他更希望外界將目光投向人工智能為人類社會創(chuàng)造的便利及價(jià)值,?！安灰謶諥I的發(fā)展，AI歸根結(jié)底只是增強(qiáng)人類能力的工具,，如何使用這些工具提高效率更值得我們思考,。未來，或許因?yàn)锳I的助力,，世界上每個(gè)人的生產(chǎn)效率都將上漲10倍,。”同時(shí),，他提到人才培養(yǎng)對于應(yīng)對人工智能未來發(fā)展的重要價(jià)值,，并認(rèn)為當(dāng)前的教育體系在一定程度上顯得有些跟不上步伐，未能與人工智能的迅猛發(fā)展實(shí)現(xiàn)同步對接,，為此他倡導(dǎo)對現(xiàn)有教育制度進(jìn)行革新和完善,，以培養(yǎng)出更多能夠適應(yīng)AI時(shí)代需求的人才。文/廣州日報(bào)新花城記者：李曉璐,、陳慶輝,、張露、文靜圖/廣州日報(bào)新花城記者：李曉璐,、陳慶輝,、張露、文靜廣州日報(bào)新花城編輯：李曉璐