WAIC2024人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對?

作者／ IT時報記者毛宇

編輯／王昕

人工智能猶如一顆璀璨的新星,，引領(lǐng)著第四次工業(yè)革命的浪潮,。

然而，隨著其影響力與日俱增,，AI治理問題也日益凸顯,，成為橫亙在各國政府、產(chǎn)業(yè)和社會面前的一道復(fù)雜難題,。尤其在生成式AI這一前沿領(lǐng)域,，其發(fā)展速度之迅猛已超過現(xiàn)有監(jiān)管框架的范圍，AI治理話題考驗著各國政府的智慧與決斷,，也呼喚著全球范圍內(nèi)的合作與共識,。

7月4日，在2024世界人工智能大會“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對”論壇上,，關(guān)于AI倫理,、隱私保護(hù)、算法偏見及安全風(fēng)險的討論,，體現(xiàn)出全球業(yè)界在AI治理領(lǐng)域前瞻性思考和探索,。

技術(shù)與發(fā)展的動態(tài)平衡

隨著ChatGPT等超大型語言模型的出現(xiàn)，AI領(lǐng)域的安全治理正面臨前所未有的挑戰(zhàn),，尤其在數(shù)據(jù)安全,、誤導(dǎo)信息傳播、知識產(chǎn)權(quán)侵犯及潛在的物理生物智能風(fēng)險等方面,。在論壇上,，很多專家紛紛指出，安全治理的核心難題在于系統(tǒng)安全的保障與AI對人類利益的潛在損害,。

對此,，圖靈獎獲得者、中國科學(xué)院院士,、清華大學(xué)教授姚期智表示,，當(dāng)前AI治理的緊迫任務(wù)在于尋求技術(shù)發(fā)展與規(guī)范約束之間的動態(tài)平衡。短期內(nèi),，工程和系統(tǒng)層面的傳統(tǒng)信息安全技術(shù)與管控措施仍是應(yīng)對即時威脅的關(guān)鍵,；長期而言，需深入研究AI的核心理論,，探索內(nèi)生安全機(jī)制,，同時配合相關(guān)政策法規(guī)，形成技術(shù)與治理的雙重防護(hù)網(wǎng),。

“我覺得國際上有兩種觀點(diǎn)值得深入去研究,。一是Stuart Russell（加州大學(xué)伯克利分校教授）提出的Beneficial AGI（有益的通用人工智能）概念，通過博弈論確保AI在設(shè)計之初,，就與人類利益一致,；二是由MIT（麻省理工學(xué)院）學(xué)者倡導(dǎo)的可證明安全的AGI，利用計算理論和自動定理證明技術(shù),，追求AI系統(tǒng)的絕對安全,。這兩個方向均指向了AI安全治理的長期愿景——構(gòu)建一個既高效又安全的人工智能生態(tài)?！币ζ谥钦f,。

聯(lián)合國副秘書長兼人工智能高級別咨詢委員會成員Tshilidzi Marwala提出相似意見。他認(rèn)為,，針對AI治理路徑,，應(yīng)將AI發(fā)展與聯(lián)合國憲章、人權(quán)原則相統(tǒng)一,，倡導(dǎo)和平,、公平與合作的價值觀。他建議設(shè)立全球AI監(jiān)管實體,，如國際AI治理組織,，負(fù)責(zé)制定統(tǒng)一標(biāo)準(zhǔn)、監(jiān)測合規(guī)性并促進(jìn)國際合作。此外,，國際社會各方應(yīng)強(qiáng)化法律框架,，確保AI應(yīng)用遵循道德準(zhǔn)則，保護(hù)個人隱私,，避免歧視,，成為當(dāng)務(wù)之急。

為數(shù)據(jù)安全與隱私保護(hù)

“上手段”

當(dāng)下，各國正探索適應(yīng)本國國情的數(shù)據(jù)安全與隱私保護(hù)路徑,，力求在保障數(shù)據(jù)安全的同時,，促進(jìn)AI技術(shù)創(chuàng)新。歐盟的《人工智能法案》展現(xiàn)了對高風(fēng)險AI系統(tǒng)的嚴(yán)格規(guī)制,，而英美等國則傾向于市場驅(qū)動的靈活策略，強(qiáng)調(diào)創(chuàng)新與合規(guī)并重,。

“面對AI與大模型帶來的數(shù)據(jù)安全挑戰(zhàn),，國際化組織需實施嚴(yán)格的安全措施，包括數(shù)據(jù)匿名化,、用戶授權(quán),、加密技術(shù)和訪問控制，以防范未授權(quán)訪問和數(shù)據(jù)泄露,。數(shù)據(jù)分類,、訪問權(quán)限管理和持續(xù)監(jiān)控審計成為確保數(shù)據(jù)安全的關(guān)鍵環(huán)節(jié)?！闭搲?，香港科技大學(xué)首席副校長郭毅可雖未到場，但卻以鮮活的“數(shù)字分身”形象亮相,，面向與會者分享了自己的觀點(diǎn),。

論壇上,，一系列專業(yè)的技術(shù)解決方案引起與會者的關(guān)注和討論,。其中，區(qū)塊鏈技術(shù)被行業(yè)專家認(rèn)為是一種有前景的解決方案,，它能提供數(shù)據(jù)完整性和防篡改特性,，被視為提升數(shù)據(jù)安全的前沿方案，在各行業(yè)應(yīng)用中展現(xiàn)出巨大潛力,。

此外,，利用差分隱私或數(shù)據(jù)屏蔽的匿名化技術(shù)來保護(hù)個人身份信息，可以確保數(shù)據(jù)的機(jī)密性,，同時保留人工智能模型訓(xùn)練的有用性,。

在數(shù)據(jù)安全治理方面，訪問控制和權(quán)限管理是確保數(shù)據(jù)安全的關(guān)鍵因素,。實時監(jiān)控,、定期審計人工智能模型的活動和數(shù)據(jù)訪問，有助于檢測未經(jīng)授權(quán)的訪問嘗試等異常模式,。目前,，中國香港深層次人工智能研發(fā)中心正致力于深化數(shù)據(jù)安全治理，通過撰寫《香港深層次人工智能治理建議》,，助力構(gòu)建安全可信的AI環(huán)境,，促進(jìn)中國香港乃至整個大灣區(qū)的科技創(chuàng)新與經(jīng)濟(jì)發(fā)展。

全球合作方能安全共贏

當(dāng)前,，任何單一國家或組織難以獨(dú)自應(yīng)對AI帶來的全方位挑戰(zhàn)，越來越多的聲音呼吁,，唯有各國摒棄零和博弈思維,，秉持開放包容的態(tài)度，才能在AI治理的道路上邁出堅實步伐,。

在此背景下,，加強(qiáng)國與國之間在AI治理領(lǐng)域的溝通與協(xié)作，探索建立適應(yīng)全球化時代的共同規(guī)則與標(biāo)準(zhǔn),，已成為當(dāng)下AI治理國際議程中的重要議題,。

在這一過程中，中國作為全球AI領(lǐng)域的積極參與者與貢獻(xiàn)者,，正以實際行動詮釋著大國的責(zé)任與擔(dān)當(dāng),。去年年底，習(xí)近平主席提出的《全球人工智能治理倡議》,，系統(tǒng)闡述了人工智能治理的中國方案,。通過推動國內(nèi)AI倫理規(guī)范的建設(shè),、加強(qiáng)與國際伙伴的交流合作、倡導(dǎo)建立公平合理的全球AI治理體系,，中國正致力于塑造一個既有利于科技創(chuàng)新,，又能有效防范風(fēng)險的AI發(fā)展環(huán)境。

“AI治理是當(dāng)務(wù)之急,，應(yīng)充分利用中國的獨(dú)特優(yōu)勢,，如完善實名制身份驗證系統(tǒng)，吸取數(shù)據(jù)管制方面的成熟經(jīng)驗,，探索適合國情的AI治理體系,。”姚期智認(rèn)為,，應(yīng)建立AI大模型的分級體系,，實行全產(chǎn)業(yè)鏈監(jiān)控，并倡導(dǎo)構(gòu)建跨學(xué)科的學(xué)術(shù)研究環(huán)境,，共同推進(jìn)AI安全治理的理論與實踐,。

Tshilidzi Marwala也呼吁，國際需要一套治理框架來更好地監(jiān)管AI,。IPCC（聯(lián)合國政府間氣候變化專門委員會）,、國際原子能機(jī)構(gòu)等，需要對AI進(jìn)行更加有效的監(jiān)管,，這些監(jiān)管實體可以設(shè)定全球AI標(biāo)準(zhǔn)，促進(jìn)國際合作,。與此同時,，構(gòu)建一整套法律框架，有利于AI有道德,、負(fù)責(zé)任地被使用,。而AI標(biāo)準(zhǔn)應(yīng)包括但不限于，AI設(shè)計方面的指南,、AI開發(fā)和部署的標(biāo)準(zhǔn),，以及質(zhì)量技術(shù)、道德考量,、相容性等方面的標(biāo)準(zhǔn),。

排版／ 季嘉穎

圖片／ WAIC

來源／《IT時報》公眾號vittimes

E N D