WAIC2024人工智能前沿技術的治理挑戰(zhàn)與應對?

作者／ IT時報記者毛宇

編輯／王昕

人工智能猶如一顆璀璨的新星,，引領著第四次工業(yè)革命的浪潮,。

然而，隨著其影響力與日俱增,，AI治理問題也日益凸顯,，成為橫亙在各國政府、產(chǎn)業(yè)和社會面前的一道復雜難題,。尤其在生成式AI這一前沿領域,，其發(fā)展速度之迅猛已超過現(xiàn)有監(jiān)管框架的范圍，AI治理話題考驗著各國政府的智慧與決斷,，也呼喚著全球范圍內(nèi)的合作與共識,。

7月4日，在2024世界人工智能大會“人工智能前沿技術的治理挑戰(zhàn)與應對”論壇上,，關于AI倫理,、隱私保護,、算法偏見及安全風險的討論，體現(xiàn)出全球業(yè)界在AI治理領域前瞻性思考和探索,。

技術與發(fā)展的動態(tài)平衡

隨著ChatGPT等超大型語言模型的出現(xiàn)，AI領域的安全治理正面臨前所未有的挑戰(zhàn),，尤其在數(shù)據(jù)安全,、誤導信息傳播、知識產(chǎn)權侵犯及潛在的物理生物智能風險等方面,。在論壇上,，很多專家紛紛指出，安全治理的核心難題在于系統(tǒng)安全的保障與AI對人類利益的潛在損害,。

對此,，圖靈獎獲得者、中國科學院院士,、清華大學教授姚期智表示,，當前AI治理的緊迫任務在于尋求技術發(fā)展與規(guī)范約束之間的動態(tài)平衡。短期內(nèi),，工程和系統(tǒng)層面的傳統(tǒng)信息安全技術與管控措施仍是應對即時威脅的關鍵,；長期而言，需深入研究AI的核心理論,，探索內(nèi)生安全機制,，同時配合相關政策法規(guī)，形成技術與治理的雙重防護網(wǎng),。

“我覺得國際上有兩種觀點值得深入去研究,。一是Stuart Russell（加州大學伯克利分校教授）提出的Beneficial AGI（有益的通用人工智能）概念，通過博弈論確保AI在設計之初,，就與人類利益一致,；二是由MIT（麻省理工學院）學者倡導的可證明安全的AGI，利用計算理論和自動定理證明技術,，追求AI系統(tǒng)的絕對安全,。這兩個方向均指向了AI安全治理的長期愿景——構建一個既高效又安全的人工智能生態(tài)?！币ζ谥钦f。

聯(lián)合國副秘書長兼人工智能高級別咨詢委員會成員Tshilidzi Marwala提出相似意見,。他認為,，針對AI治理路徑，應將AI發(fā)展與聯(lián)合國憲章,、人權原則相統(tǒng)一,，倡導和平,、公平與合作的價值觀。他建議設立全球AI監(jiān)管實體,，如國際AI治理組織,，負責制定統(tǒng)一標準、監(jiān)測合規(guī)性并促進國際合作,。此外,，國際社會各方應強化法律框架，確保AI應用遵循道德準則,，保護個人隱私,，避免歧視，成為當務之急,。

為數(shù)據(jù)安全與隱私保護

“上手段”

當下,，各國正探索適應本國國情的數(shù)據(jù)安全與隱私保護路徑,，力求在保障數(shù)據(jù)安全的同時，促進AI技術創(chuàng)新,。歐盟的《人工智能法案》展現(xiàn)了對高風險AI系統(tǒng)的嚴格規(guī)制,，而英美等國則傾向于市場驅(qū)動的靈活策略，強調(diào)創(chuàng)新與合規(guī)并重,。

“面對AI與大模型帶來的數(shù)據(jù)安全挑戰(zhàn),，國際化組織需實施嚴格的安全措施，包括數(shù)據(jù)匿名化,、用戶授權,、加密技術和訪問控制，以防范未授權訪問和數(shù)據(jù)泄露,。數(shù)據(jù)分類,、訪問權限管理和持續(xù)監(jiān)控審計成為確保數(shù)據(jù)安全的關鍵環(huán)節(jié)?！闭搲?，香港科技大學首席副校長郭毅可雖未到場，但卻以鮮活的“數(shù)字分身”形象亮相,，面向與會者分享了自己的觀點,。

論壇上,，一系列專業(yè)的技術解決方案引起與會者的關注和討論,。其中，區(qū)塊鏈技術被行業(yè)專家認為是一種有前景的解決方案,，它能提供數(shù)據(jù)完整性和防篡改特性,，被視為提升數(shù)據(jù)安全的前沿方案，在各行業(yè)應用中展現(xiàn)出巨大潛力,。

此外,，利用差分隱私或數(shù)據(jù)屏蔽的匿名化技術來保護個人身份信息，可以確保數(shù)據(jù)的機密性,，同時保留人工智能模型訓練的有用性,。

在數(shù)據(jù)安全治理方面，訪問控制和權限管理是確保數(shù)據(jù)安全的關鍵因素,。實時監(jiān)控,、定期審計人工智能模型的活動和數(shù)據(jù)訪問，有助于檢測未經(jīng)授權的訪問嘗試等異常模式,。目前,，中國香港深層次人工智能研發(fā)中心正致力于深化數(shù)據(jù)安全治理，通過撰寫《香港深層次人工智能治理建議》,，助力構建安全可信的AI環(huán)境,，促進中國香港乃至整個大灣區(qū)的科技創(chuàng)新與經(jīng)濟發(fā)展。

全球合作方能安全共贏

當前,，任何單一國家或組織難以獨自應對AI帶來的全方位挑戰(zhàn)，越來越多的聲音呼吁,，唯有各國摒棄零和博弈思維,，秉持開放包容的態(tài)度，才能在AI治理的道路上邁出堅實步伐,。

在此背景下,，加強國與國之間在AI治理領域的溝通與協(xié)作，探索建立適應全球化時代的共同規(guī)則與標準,，已成為當下AI治理國際議程中的重要議題,。

在這一過程中，中國作為全球AI領域的積極參與者與貢獻者,，正以實際行動詮釋著大國的責任與擔當,。去年年底，習近平主席提出的《全球人工智能治理倡議》,，系統(tǒng)闡述了人工智能治理的中國方案,。通過推動國內(nèi)AI倫理規(guī)范的建設、加強與國際伙伴的交流合作,、倡導建立公平合理的全球AI治理體系,，中國正致力于塑造一個既有利于科技創(chuàng)新，又能有效防范風險的AI發(fā)展環(huán)境,。

“AI治理是當務之急,，應充分利用中國的獨特優(yōu)勢，如完善實名制身份驗證系統(tǒng),，吸取數(shù)據(jù)管制方面的成熟經(jīng)驗,，探索適合國情的AI治理體系?！币ζ谥钦J為,，應建立AI大模型的分級體系，實行全產(chǎn)業(yè)鏈監(jiān)控,，并倡導構建跨學科的學術研究環(huán)境,，共同推進AI安全治理的理論與實踐。

Tshilidzi Marwala也呼吁,，國際需要一套治理框架來更好地監(jiān)管AI,。IPCC（聯(lián)合國政府間氣候變化專門委員會）、國際原子能機構等,，需要對AI進行更加有效的監(jiān)管,，這些監(jiān)管實體可以設定全球AI標準，促進國際合作,。與此同時,，構建一整套法律框架，有利于AI有道德,、負責任地被使用,。而AI標準應包括但不限于，AI設計方面的指南,、AI開發(fā)和部署的標準,，以及質(zhì)量技術、道德考量,、相容性等方面的標準,。

排版／ 季嘉穎

圖片／ WAIC

來源／《IT時報》公眾號vittimes

E N D