本報(bào)記者 于布林 北京報(bào)道

人工智能已經(jīng)成為國際治理的重要議題,。

7月18日，聯(lián)合國安理會舉行9831次會議,，圍繞“人工智能：國際和平與安全的機(jī)遇與風(fēng)險(xiǎn)”進(jìn)行公開辯論,。來自中國科學(xué)院自動(dòng)化研究所的曾毅在會議上就相關(guān)議題做了通報(bào)，中國駐聯(lián)合國大使張軍參會并做重要發(fā)言,。

他強(qiáng)調(diào),，發(fā)展中國家平等獲取和利用人工智能技術(shù)、產(chǎn)品和服務(wù),，對于彌合南北技術(shù)鴻溝,、數(shù)字鴻溝、發(fā)展鴻溝至關(guān)重要,。個(gè)別發(fā)達(dá)國家為謀求科技霸權(quán),，構(gòu)建排他性小圈子，以種種借口和行動(dòng)惡意阻撓他國技術(shù)發(fā)展,，人為制造科技壁壘,，中方對此堅(jiān)決反對。

2017年,，中國政府頒布《新一代人工智能發(fā)展規(guī)劃》,，明確提出科技引領(lǐng),、系統(tǒng)布局、市場主導(dǎo),、開源開放等基本原則,。近年來，中國不斷完善相關(guān)法律法規(guī),、倫理規(guī)范,、知識產(chǎn)權(quán)標(biāo)準(zhǔn)、安全監(jiān)測與評估措施等,，充分保障人工智能健康有序發(fā)展,。

這是聯(lián)合國安理會就人工智能議題的首場公開辯論。聯(lián)合國秘書長古鐵雷斯表示,，世界在減緩人工智能帶來的風(fēng)險(xiǎn)方面已經(jīng)有了起點(diǎn),，包括通過《特定常規(guī)武器公約》就致命自主武器系統(tǒng)達(dá)成的指導(dǎo)性原則，以及由教科文組織會員國一致通過的《人工智能倫理問題建議書》,。

據(jù)了解,，部分聯(lián)合國成員國提出，建立新的聯(lián)合國機(jī)構(gòu)來治理人工智能,。古鐵雷斯對這一建議表示歡迎,。這一機(jī)構(gòu)的設(shè)立模式，或?qū)⒖紘H原子能機(jī)構(gòu),、國際民航組織或政府間氣候變化委員會的模式,。

他表示，這一機(jī)構(gòu)的總體目標(biāo)將是“支持各國最大限度地受益于人工智能,，減緩現(xiàn)有和潛在的風(fēng)險(xiǎn),，并制定和管理國際商定的監(jiān)測與治理機(jī)制”。

記者掌握的情況表明,，在設(shè)立這一機(jī)構(gòu)之前,，聯(lián)合國目前已經(jīng)準(zhǔn)備召集人工智能高級別咨詢委員會，由包含各利益相關(guān)方的人員參加,。這個(gè)委員會的任務(wù)是在今年年底前,，為全球人工智能治理的選項(xiàng)提供一份報(bào)告。

聯(lián)合國傾向于在2026年之前完成一項(xiàng)具有法律約束力的國際文書的談判工作,，以禁止在沒有人類控制或監(jiān)督的情況下運(yùn)行致命自主武器系統(tǒng),。

張軍在發(fā)言中也談及了人工智能與武器之間的關(guān)系。他表示,，人工智能在軍事領(lǐng)域可能引發(fā)作戰(zhàn)方式和戰(zhàn)爭形態(tài)的重大變革,，各國應(yīng)秉持負(fù)責(zé)任的國防政策，反對利用人工智能謀求軍事霸權(quán)、破壞他國主權(quán)和領(lǐng)土完整,，避免濫用,、誤用甚至惡用人工智能武器系統(tǒng)。

張軍表示,，人工智能的潛在影響可能超出人類的認(rèn)知邊界,，要確保這一技術(shù)始終造福人類，就必須將“以人為本”,、“智能向善”作為基本準(zhǔn)則,，用以規(guī)范人工智能的發(fā)展方向，避免這一技術(shù)成為“脫韁的野馬”,。在這兩個(gè)準(zhǔn)則的基礎(chǔ)上,，逐步建立并完善人工智能倫理規(guī)范、法律法規(guī)和政策體系,，同時(shí)允許各國立足自身發(fā)展階段和社會文化特點(diǎn),，建立符合自身國情的人工智能治理體系。

“人工智能相關(guān)技術(shù)發(fā)展和應(yīng)用存在諸多不確定性,，安全是必須守住的底線。國際社會要強(qiáng)化風(fēng)險(xiǎn)意識,，建立有效的風(fēng)險(xiǎn)預(yù)警和應(yīng)對機(jī)制,，確保不發(fā)生超出人類掌控的風(fēng)險(xiǎn)，確保不出現(xiàn)機(jī)器自主殺人,。要加強(qiáng)對人工智能全生命周期的檢測與評估,，確保在關(guān)鍵時(shí)刻人類有能力摁下停止鍵。技術(shù)領(lǐng)先企業(yè)要明確責(zé)任主體,，健全問責(zé)追責(zé)機(jī)制,，避免發(fā)展或使用可能產(chǎn)生嚴(yán)重消極后果的風(fēng)險(xiǎn)技術(shù)?！彼f,。

近期以來，中國,、美國等國家均出臺了政策,，加強(qiáng)對人工智能的治理。7月13日,，國家網(wǎng)信辦等七部委員發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（下稱《暫行辦法》）,，明確了包容審慎、分類監(jiān)管的治理原則,，對個(gè)人信息保護(hù),、生成式人工智能服務(wù)提供者的合規(guī)義務(wù)、來源于境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律法規(guī)規(guī)定時(shí)的處置辦法等提出了具體要求。

同期,，美國聯(lián)邦貿(mào)易委員會（FTC）對推出ChatGPT的公司OpenAI發(fā)起數(shù)據(jù)安全調(diào)查,，7月13日，OpenAI的CEO薩姆·奧特曼（Sam Altman）做出回應(yīng),，將配合FTC的調(diào)查工作,。

除安全外，人工智能技術(shù)可能帶來的不平等也引起全球范圍內(nèi)的關(guān)注,。張軍在發(fā)言中表示,，科技發(fā)展要在推動(dòng)技術(shù)進(jìn)步和保障安全應(yīng)用兩方面取得相對平衡，最佳路徑是保持開放合作,，鼓勵(lì)跨學(xué)科,、跨領(lǐng)域、跨地區(qū),、跨國界的交流對話,，反對各種形式的“小院高墻”、“脫鉤斷鏈”,。我們要在聯(lián)合國框架下,，推動(dòng)國際組織、政府部門,、科研和教育機(jī)構(gòu),、企業(yè)、公眾在人工智能發(fā)展與治理領(lǐng)域加強(qiáng)協(xié)調(diào)互動(dòng),，共同打造開放,、包容、公正,、非歧視的科技發(fā)展環(huán)境,。