WAIC2024人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)?

作者／ IT時(shí)報(bào)記者毛宇

編輯／王昕

人工智能猶如一顆璀璨的新星,，引領(lǐng)著第四次工業(yè)革命的浪潮。

然而,，隨著其影響力與日俱增,，AI治理問題也日益凸顯，成為橫亙?cè)诟鲊?、產(chǎn)業(yè)和社會(huì)面前的一道復(fù)雜難題,。尤其在生成式AI這一前沿領(lǐng)域，其發(fā)展速度之迅猛已超過現(xiàn)有監(jiān)管框架的范圍,，AI治理話題考驗(yàn)著各國政府的智慧與決斷,，也呼喚著全球范圍內(nèi)的合作與共識(shí)。

7月4日，在2024世界人工智能大會(huì)“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)”論壇上,，關(guān)于AI倫理,、隱私保護(hù)、算法偏見及安全風(fēng)險(xiǎn)的討論,，體現(xiàn)出全球業(yè)界在AI治理領(lǐng)域前瞻性思考和探索,。

技術(shù)與發(fā)展的動(dòng)態(tài)平衡

隨著ChatGPT等超大型語言模型的出現(xiàn),，AI領(lǐng)域的安全治理正面臨前所未有的挑戰(zhàn),，尤其在數(shù)據(jù)安全、誤導(dǎo)信息傳播,、知識(shí)產(chǎn)權(quán)侵犯及潛在的物理生物智能風(fēng)險(xiǎn)等方面,。在論壇上，很多專家紛紛指出,，安全治理的核心難題在于系統(tǒng)安全的保障與AI對(duì)人類利益的潛在損害,。

對(duì)此，圖靈獎(jiǎng)獲得者,、中國科學(xué)院院士,、清華大學(xué)教授姚期智表示，當(dāng)前AI治理的緊迫任務(wù)在于尋求技術(shù)發(fā)展與規(guī)范約束之間的動(dòng)態(tài)平衡,。短期內(nèi),，工程和系統(tǒng)層面的傳統(tǒng)信息安全技術(shù)與管控措施仍是應(yīng)對(duì)即時(shí)威脅的關(guān)鍵；長期而言,，需深入研究AI的核心理論,，探索內(nèi)生安全機(jī)制，同時(shí)配合相關(guān)政策法規(guī),，形成技術(shù)與治理的雙重防護(hù)網(wǎng),。

“我覺得國際上有兩種觀點(diǎn)值得深入去研究。一是Stuart Russell（加州大學(xué)伯克利分校教授）提出的Beneficial AGI（有益的通用人工智能）概念,，通過博弈論確保AI在設(shè)計(jì)之初,，就與人類利益一致；二是由MIT（麻省理工學(xué)院）學(xué)者倡導(dǎo)的可證明安全的AGI,，利用計(jì)算理論和自動(dòng)定理證明技術(shù)，追求AI系統(tǒng)的絕對(duì)安全,。這兩個(gè)方向均指向了AI安全治理的長期愿景——構(gòu)建一個(gè)既高效又安全的人工智能生態(tài),。”姚期智說,。

聯(lián)合國副秘書長兼人工智能高級(jí)別咨詢委員會(huì)成員Tshilidzi Marwala提出相似意見,。他認(rèn)為，針對(duì)AI治理路徑,，應(yīng)將AI發(fā)展與聯(lián)合國憲章,、人權(quán)原則相統(tǒng)一,，倡導(dǎo)和平、公平與合作的價(jià)值觀,。他建議設(shè)立全球AI監(jiān)管實(shí)體,，如國際AI治理組織，負(fù)責(zé)制定統(tǒng)一標(biāo)準(zhǔn),、監(jiān)測(cè)合規(guī)性并促進(jìn)國際合作,。此外，國際社會(huì)各方應(yīng)強(qiáng)化法律框架,，確保AI應(yīng)用遵循道德準(zhǔn)則,，保護(hù)個(gè)人隱私，避免歧視,，成為當(dāng)務(wù)之急,。

為數(shù)據(jù)安全與隱私保護(hù)

“上手段”

當(dāng)下,，各國正探索適應(yīng)本國國情的數(shù)據(jù)安全與隱私保護(hù)路徑，力求在保障數(shù)據(jù)安全的同時(shí),，促進(jìn)AI技術(shù)創(chuàng)新,。歐盟的《人工智能法案》展現(xiàn)了對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的嚴(yán)格規(guī)制，而英美等國則傾向于市場(chǎng)驅(qū)動(dòng)的靈活策略,，強(qiáng)調(diào)創(chuàng)新與合規(guī)并重,。

“面對(duì)AI與大模型帶來的數(shù)據(jù)安全挑戰(zhàn)，國際化組織需實(shí)施嚴(yán)格的安全措施,，包括數(shù)據(jù)匿名化,、用戶授權(quán)、加密技術(shù)和訪問控制,，以防范未授權(quán)訪問和數(shù)據(jù)泄露,。數(shù)據(jù)分類、訪問權(quán)限管理和持續(xù)監(jiān)控審計(jì)成為確保數(shù)據(jù)安全的關(guān)鍵環(huán)節(jié),?！闭搲希愀劭萍即髮W(xué)首席副校長郭毅可雖未到場(chǎng),，但卻以鮮活的“數(shù)字分身”形象亮相,，面向與會(huì)者分享了自己的觀點(diǎn)。

論壇上,，一系列專業(yè)的技術(shù)解決方案引起與會(huì)者的關(guān)注和討論。其中，區(qū)塊鏈技術(shù)被行業(yè)專家認(rèn)為是一種有前景的解決方案,，它能提供數(shù)據(jù)完整性和防篡改特性，被視為提升數(shù)據(jù)安全的前沿方案,，在各行業(yè)應(yīng)用中展現(xiàn)出巨大潛力,。

此外，利用差分隱私或數(shù)據(jù)屏蔽的匿名化技術(shù)來保護(hù)個(gè)人身份信息,，可以確保數(shù)據(jù)的機(jī)密性,，同時(shí)保留人工智能模型訓(xùn)練的有用性。

在數(shù)據(jù)安全治理方面,，訪問控制和權(quán)限管理是確保數(shù)據(jù)安全的關(guān)鍵因素,。實(shí)時(shí)監(jiān)控、定期審計(jì)人工智能模型的活動(dòng)和數(shù)據(jù)訪問,，有助于檢測(cè)未經(jīng)授權(quán)的訪問嘗試等異常模式,。目前，中國香港深層次人工智能研發(fā)中心正致力于深化數(shù)據(jù)安全治理,，通過撰寫《香港深層次人工智能治理建議》,，助力構(gòu)建安全可信的AI環(huán)境，促進(jìn)中國香港乃至整個(gè)大灣區(qū)的科技創(chuàng)新與經(jīng)濟(jì)發(fā)展,。

全球合作方能安全共贏

當(dāng)前，任何單一國家或組織難以獨(dú)自應(yīng)對(duì)AI帶來的全方位挑戰(zhàn),，越來越多的聲音呼吁,，唯有各國摒棄零和博弈思維，秉持開放包容的態(tài)度,，才能在AI治理的道路上邁出堅(jiān)實(shí)步伐,。

在此背景下，加強(qiáng)國與國之間在AI治理領(lǐng)域的溝通與協(xié)作,，探索建立適應(yīng)全球化時(shí)代的共同規(guī)則與標(biāo)準(zhǔn)，已成為當(dāng)下AI治理國際議程中的重要議題。

在這一過程中,，中國作為全球AI領(lǐng)域的積極參與者與貢獻(xiàn)者,，正以實(shí)際行動(dòng)詮釋著大國的責(zé)任與擔(dān)當(dāng)。去年年底,，習(xí)近平主席提出的《全球人工智能治理倡議》,，系統(tǒng)闡述了人工智能治理的中國方案。通過推動(dòng)國內(nèi)AI倫理規(guī)范的建設(shè),、加強(qiáng)與國際伙伴的交流合作,、倡導(dǎo)建立公平合理的全球AI治理體系，中國正致力于塑造一個(gè)既有利于科技創(chuàng)新,，又能有效防范風(fēng)險(xiǎn)的AI發(fā)展環(huán)境,。

“AI治理是當(dāng)務(wù)之急，應(yīng)充分利用中國的獨(dú)特優(yōu)勢(shì),，如完善實(shí)名制身份驗(yàn)證系統(tǒng),，吸取數(shù)據(jù)管制方面的成熟經(jīng)驗(yàn)，探索適合國情的AI治理體系,?！币ζ谥钦J(rèn)為，應(yīng)建立AI大模型的分級(jí)體系,，實(shí)行全產(chǎn)業(yè)鏈監(jiān)控,，并倡導(dǎo)構(gòu)建跨學(xué)科的學(xué)術(shù)研究環(huán)境，共同推進(jìn)AI安全治理的理論與實(shí)踐,。

Tshilidzi Marwala也呼吁,，國際需要一套治理框架來更好地監(jiān)管AI。IPCC（聯(lián)合國政府間氣候變化專門委員會(huì)）,、國際原子能機(jī)構(gòu)等,，需要對(duì)AI進(jìn)行更加有效的監(jiān)管，這些監(jiān)管實(shí)體可以設(shè)定全球AI標(biāo)準(zhǔn),，促進(jìn)國際合作,。與此同時(shí)，構(gòu)建一整套法律框架,，有利于AI有道德,、負(fù)責(zé)任地被使用。而AI標(biāo)準(zhǔn)應(yīng)包括但不限于,，AI設(shè)計(jì)方面的指南,、AI開發(fā)和部署的標(biāo)準(zhǔn)，以及質(zhì)量技術(shù),、道德考量,、相容性等方面的標(biāo)準(zhǔn),。

排版／ 季嘉穎

圖片／ WAIC

來源／《IT時(shí)報(bào)》公眾號(hào)vittimes

E N D