7月4日,，以“以共商促共享,，以善治促善智”為主題的2024世界人工智能大會暨人工智能全球治理高級別會議（WAIC 2024）在上海開幕。開幕式上,，發(fā)布了《人工智能全球治理上海宣言》,，聯(lián)合國工業(yè)發(fā)展組織全球工業(yè)人工智能聯(lián)盟卓越中心也宣告成立。本次大會依舊星光熠熠,，9位圖靈獎,、菲爾茲獎、諾貝爾獎得主和88位國內(nèi)外院士,，與聯(lián)合國以及各國政府代表,、專業(yè)國際組織代表，企業(yè)家,、投資家1000余人共話AI的發(fā)展,、安全與治理。在當天上午舉辦的大會全體會議上,，清華大學蘇世民書院院長、清華大學人工智能國際治理研究院院長薛瀾的開場演講引人注目,。薛瀾指出,，AI的發(fā)展也面臨著基礎(chǔ)設(shè)施,、數(shù)字素養(yǎng)以及技術(shù)本身不均衡發(fā)展等多重挑戰(zhàn)，這些挑戰(zhàn)被形象地稱為“鴻溝”,，對全球治理的統(tǒng)一性和效率構(gòu)成威脅,。薛瀾分析，全球范圍內(nèi)的AI發(fā)展不平衡現(xiàn)象日益凸顯,。一方面,，部分地區(qū)由于基礎(chǔ)設(shè)施落后，無法充分釋放AI技術(shù)的潛力,；另一方面,，數(shù)字素養(yǎng)的差距也在加劇，導致社會群體間的數(shù)字鴻溝日益擴大,。此外,，AI技術(shù)發(fā)展的不均衡,，也引發(fā)了全球范圍內(nèi)的智力資源不均等問題,。“這些挑戰(zhàn)并非局限于單一國家或地區(qū),，而是具有全球性的普遍影響,。在全球化的今天，一個國家的風險往往能迅速轉(zhuǎn)化為全球性的風險,。因此,，國際社會需要共同應(yīng)對這些挑戰(zhàn)，推動全球AI的均衡,、健康發(fā)展,。”薛瀾建議,，首先,，國際社會在推動AI發(fā)展的同時，應(yīng)高度重視安全問題,，將安全與發(fā)展置于同等重要的地位,。各國政府和企業(yè)應(yīng)共同加強網(wǎng)絡(luò)安全防護，確保AI技術(shù)的安全可控,。其次,，加強國際交流與合作。通過多邊對話機制,，加強政府間的交流與合作,，分享經(jīng)驗、傳播知識,，共同應(yīng)對全球性的AI挑戰(zhàn),。同時,，鼓勵國際科技力量參與全球AI治理，推動全球AI的均衡發(fā)展,。此外,，發(fā)揮科學共同體的作用。薛瀾表示,，應(yīng)借助科學界的力量,，推動國際機制的完善與改進，為AI的健康發(fā)展提供有力保障,。同時,，加強科研合作，共同攻克AI領(lǐng)域的技術(shù)難題,?！罢⑵髽I(yè)以及科研機構(gòu)應(yīng)攜手合作,，共同推動AI技術(shù)的創(chuàng)新與應(yīng)用,。通過加強國際合作，打破技術(shù)壁壘,，推動全球AI產(chǎn)業(yè)的繁榮發(fā)展,。”上海人工智能實驗室主任,、首席科學家,，清華大學惠妍講席教授周伯文談到AI潛在風險，包括數(shù)據(jù)風險,、惡意使用風險,、倫理風險、社會系統(tǒng)性風險,、可能的未來風險等5大風險,，比如數(shù)據(jù)泄露、數(shù)據(jù)濫用,、隱私侵犯,、版權(quán)爭議、偏見歧視,、價值觀偏差,、信息繭房、就業(yè)變化,、資源消耗,、智能鴻溝、深度偽造,、虛假信息,、網(wǎng)絡(luò)攻擊,、網(wǎng)絡(luò)欺詐等，因此他主張?zhí)剿魅斯ぶ悄?5°平衡律,，即AI安全優(yōu)先,，又能保證AI性能長期發(fā)展的技術(shù)體系。周伯文介紹,，實現(xiàn)人工智能45°平衡律也許有多種技術(shù)路徑,。上海AI實驗室最近在探索一條以因果為核心的路徑，取名為：可信AGI的“因果之梯”,，可信AGI的“因果之梯”將可信AGI的發(fā)展分為三個遞進階段：泛對齊,、可干預、能反思,?！胺簩R”主要包含當前最前沿的人類偏好對齊技術(shù)；“可干預”主要包含通過對AI系統(tǒng)進行干預,，探究其因果機制的安全技術(shù),；“能反思”則要求AI系統(tǒng)不僅追求高效執(zhí)行任務(wù)，還能審視自身行為的影響和潛在風險,，從而在追求性能的同時,，確保安全和道德邊界不被突破,?！澳壳埃珹I安全和性能技術(shù)發(fā)展主要停留第一階段,，部分在嘗試第二階段,，但要真正實現(xiàn)AI的安全與性能平衡，我們必須完善第二階段并勇于攀登第三階段,。沿著可信AGI的‘因果之梯’拾級而上,，我們相信可以構(gòu)建真正可信AGI，實現(xiàn)人工智能的安全與卓越性能的完美平衡,，并通過深入理解AI的內(nèi)在機理和因果過程,，從而安全且有效地開發(fā)和使用這項革命性技術(shù)?！敝懿谋硎?。在全球治理圖靈圓桌環(huán)節(jié)上，原微軟執(zhí)行副總裁,、美國國家工程院外籍院士沈向洋作為話題引領(lǐng)人,，與姚期智、羅杰·瑞迪,、曼紐爾·布盧姆等三位圖靈獎得主,，共同以《共論共享共治：治理協(xié)同創(chuàng)新探索》為主題,，圍繞人工智能的發(fā)展、風險以及政府治理等話題進行了探討,。姚期智認為AI風險確實存在,，在人工智能時代，網(wǎng)絡(luò)數(shù)據(jù)管理將更困難,，人類社會結(jié)構(gòu)也可能將在短時間內(nèi)被破壞,，面臨更危險的生存挑戰(zhàn)?！笆聦嵣?，是我們自己創(chuàng)造了一種強大的新‘物種’，如果我們什么都不做,，那必然會被淘汰,，無論是因為計算機的內(nèi)在機理還是惡意行為者操縱。因此,，我們需要精準把握管理和運用AI的正確方式,，而這也是科學家們必須面臨的深刻問題?！绷_杰·瑞迪表示雖然很高興大家關(guān)注到人工智能所帶來的風險,，但他更希望外界將目光投向人工智能為人類社會創(chuàng)造的便利及價值?！安灰謶諥I的發(fā)展,，AI歸根結(jié)底只是增強人類能力的工具，如何使用這些工具提高效率更值得我們思考,。未來,，或許因為AI的助力，世界上每個人的生產(chǎn)效率都將上漲10倍,?！蓖瑫r，他提到人才培養(yǎng)對于應(yīng)對人工智能未來發(fā)展的重要價值,，并認為當前的教育體系在一定程度上顯得有些跟不上步伐,，未能與人工智能的迅猛發(fā)展實現(xiàn)同步對接，為此他倡導對現(xiàn)有教育制度進行革新和完善,，以培養(yǎng)出更多能夠適應(yīng)AI時代需求的人才,。文/廣州日報新花城記者：李曉璐、陳慶輝,、張露,、文靜圖/廣州日報新花城記者：李曉璐、陳慶輝、張露,、文靜廣州日報新花城編輯：李曉璐