在機(jī)器人“三大法則”的限制下，人類與機(jī)器人和諧相處,，但在一起離奇的兇殺案發(fā)生后,，警探調(diào)查發(fā)現(xiàn)機(jī)器人產(chǎn)生了自我意識，隨時可能成為人類的“公敵”……近年來,，隨著通用人工智能迅速發(fā)展,，二十年前上映的電影《我，機(jī)器人》中的恐怖劇情,，成為現(xiàn)實(shí)的概率正逐漸增加,。但對于人工智能國際治理的具體準(zhǔn)則,，國際社會仍未達(dá)成共識。

2024年3月7日,，中共中央政治局委員,、外交部部長王毅在全國兩會記者會上表示，人工智能進(jìn)入爆發(fā)式發(fā)展的關(guān)鍵階段。我們主張發(fā)展與安全并重,，既要擁抱新事物新機(jī)遇,，也要裝好剎車再上路，共同推進(jìn)人工智能全球治理,。

實(shí)現(xiàn)人工智能全球治理難在何處,？人類真的需要經(jīng)歷一場危機(jī)才能意識到人工智能的安全風(fēng)險嗎？怎樣幫助發(fā)展中國家在人工智能發(fā)展中不掉隊(duì),？近日,，就這些問題，《中國新聞周刊》專訪了清華大學(xué)文科資深教授,、國家新一代人工智能治理專業(yè)委員會主任薛瀾,。

薛瀾,。圖/受訪者提供

分歧與共識

中國新聞周刊：過去一年來,，人工智能全球治理成為國際社會的熱門話題，中美領(lǐng)導(dǎo)人舊金山會晤就此達(dá)成重要共識,，中國發(fā)布《全球人工智能治理倡議》,，提出“確保有益，確保安全,，確保公平”的基本原則,。與此同時，歐盟,、英國等也推動召開了多次關(guān)于人工智能議題的峰會,。在此背景下，我們距離形成一個全球性的人工智能治理共識還有多遠(yuǎn),？

薛瀾：一方面，各國對人工智能全球治理的宏觀原則存在基本共識,。中國,、美國、歐盟提出的人工智能治理原則,，都以負(fù)責(zé),、包容、平等,、安全等理念為核心,。但另一方面，世界各主要經(jīng)濟(jì)體還沒有進(jìn)入到就人工智能全球治理的具體措施進(jìn)行充分,、深入交流的階段,。各國各自出臺了人工智能國內(nèi)治理的法律或措施，但還沒有把這些規(guī)則拿到桌面上進(jìn)行對比，看看對共識性原則的理解在實(shí)踐中是否有差異,、是否可以協(xié)調(diào)形成全球性規(guī)則,。

關(guān)于未來可能達(dá)成的全球性共識，我們首先要明確,，人工智能治理有兩個核心內(nèi)容,。一是發(fā)展問題，即如何構(gòu)建良好的制度規(guī)則,，推動人工智能創(chuàng)新發(fā)展,，科技向善；一是安全問題,，包括保證安全底線和防范其他風(fēng)險,。這是所有治理邏輯都必須依托的出發(fā)點(diǎn)。

在安全底線問題上,，全球有明顯的共同利益,。大家都擔(dān)心人工智能未來可能不受人類社會控制。所以,，大家會尋找為了維護(hù)共同利益而必須遵守的規(guī)則,。但在一般的社會應(yīng)用層面的風(fēng)險問題上，各國對不同風(fēng)險的評判不同,，價值觀念不同等,，會存在不同的立場。比如爭議很大的人臉識別技術(shù),，有些社會反應(yīng)比較強(qiáng)烈,，擔(dān)心會侵犯個人隱私及泄露個人信息；但也有些社會感覺如果應(yīng)用恰當(dāng)并加上合理的規(guī)制,，承擔(dān)一些不高的風(fēng)險可以換取更加方便的社會應(yīng)用,。

在發(fā)展問題上，各方的差別更大一些,。以美國為例,，相比中國和歐盟，美國一般來說比較強(qiáng)調(diào)自由市場的力量,，依靠市場推動科技創(chuàng)新,。在人工智能發(fā)展和治理方面，態(tài)度比較寬松,，沒有進(jìn)行單獨(dú)立法,，而是以白宮行政令的形式要求企業(yè)遵循一系列規(guī)則。所以在人工智能規(guī)則制定方面,，美國表現(xiàn)不算積極,。

考慮到種種分歧,，各方最終能否形成治理人工智能的全球性規(guī)則，還要打一個問號,。一個可能的結(jié)果是：各國在安全底線問題上達(dá)成共識并建立機(jī)制,，但在其他問題上，各國會按照各自的治理邏輯進(jìn)行規(guī)制,，并在一定程度上協(xié)調(diào),。

2023年11月24日,，浙江杭州市,，第二屆全球數(shù)字貿(mào)易博覽會前沿趨勢館內(nèi)，阿里,、華為,、騰訊、科大訊飛等數(shù)十家企業(yè)重點(diǎn)展示大語言,、視覺,、生物、多模態(tài)等各類人工智能大模型,。圖/IC

何處停步,？

中國新聞周刊：人工智能的安全問題，和歷史上新技術(shù)帶給人類的安全挑戰(zhàn)相比,，有什么不同之處,？歷史上是否有什么技術(shù)安全治理的經(jīng)驗(yàn)可以汲取,？

薛瀾：人類社會走到今天,，在科技發(fā)展方面始終面臨著一個關(guān)鍵問題，即需要對新科技的發(fā)展進(jìn)行收益和風(fēng)險的評估和權(quán)衡,。有些技術(shù)固然可以幫助我們實(shí)現(xiàn)更好的生活,，但也可能帶來更大的安全風(fēng)險，所以我們必須考慮在什么地方停步,。

以生命科學(xué)領(lǐng)域的基因編輯技術(shù)為例,，像賀建奎事件所體現(xiàn)的那樣，對人類基因進(jìn)行編輯改造的事情在技術(shù)上是可能的,，但在其背后的倫理和社會責(zé)任問題想清楚之前,，世界各國的學(xué)術(shù)共同體和醫(yī)務(wù)界都認(rèn)為這個技術(shù)不能再“向前一步”,。通用人工智能技術(shù)從本質(zhì)上說也是潛在風(fēng)險極高,，一旦出錯其后果可能是無法挽回的，屬于人類社會必須面對的終極技術(shù),。

因此,，對于有極高風(fēng)險的技術(shù)，我們需要持續(xù)關(guān)注安全問題。這方面的典型案例是核技術(shù),。核技術(shù)的產(chǎn)生就與戰(zhàn)爭緊密相關(guān),，并且被直接應(yīng)用于戰(zhàn)爭，讓全世界所有人都看到了它所帶來的巨大傷亡和毀滅性風(fēng)險,。之后,，從切爾諾貝利事故到福島核事故，一系列核事故帶來的災(zāi)難一再提醒人們關(guān)注核技術(shù)的風(fēng)險防控,。據(jù)說目前全球核技術(shù)領(lǐng)域95％的研發(fā)經(jīng)費(fèi)都被用在安全防控的研發(fā)上,。

中國新聞周刊：核技術(shù)確實(shí)是一個很好的例子，但對其安全問題的重視是發(fā)生在災(zāi)難發(fā)生后,。人類社會是否必須經(jīng)歷一場大災(zāi)難,，才能真正推動對某項(xiàng)新技術(shù)的安全風(fēng)險防控？

薛瀾：社會對于新技術(shù)的風(fēng)險認(rèn)識確實(shí)存在滯后性,。所以,，如何讓社會公眾對新技術(shù)的潛在危害程度有更清晰的認(rèn)識，是一個巨大的挑戰(zhàn),。

人工智能技術(shù)和其他技術(shù)的安全風(fēng)險還不太一樣,。即使是原子彈這樣的核技術(shù)應(yīng)用,，它帶來的危害還是在人類控制之下的。而如果通用人工智能系統(tǒng)產(chǎn)生了自我保護(hù)、自我發(fā)展的意識,，不再受人類控制，乃至無法接受人類是它主人的現(xiàn)實(shí),，那我們所有人類的生存都將面臨危險,，這種安全問題一旦失控就是不可挽回的。所以,，我們希望千萬不要走到這一步,。

當(dāng)然，如何幫助全社會對新興技術(shù)的風(fēng)險建立一個全面客觀的認(rèn)識也是刻不容緩的事情,。一些文學(xué)藝術(shù)作品或科幻作品對于人工智能技術(shù)的風(fēng)險也有一些不切實(shí)際的夸大,，使得社會部分人群也對人工智能技術(shù)產(chǎn)生不必要的恐懼，這樣的情況也是需要注意的,。

中國新聞周刊：在人工智能自主武器的治理上,，以美國為代表的部分技術(shù)先進(jìn)國家和其他國家之間的觀點(diǎn)并不相同。一些國家為了自己的軍事優(yōu)勢,，不希望禁止對高風(fēng)險技術(shù)的研發(fā)和應(yīng)用,。這種難題如何破解？

薛瀾：提到人工智能在軍事沖突中的應(yīng)用,，我認(rèn)為禁止人工智能在軍事領(lǐng)域的應(yīng)用是我們大家共同努力的方向,。只有這樣,，才能最大程度地降低安全失控的風(fēng)險。中國自2014年以來積極參與《特定常規(guī)武器條約》締約國關(guān)于致命性自主武器系統(tǒng)的討論,，是最早提出應(yīng)禁止開發(fā)和應(yīng)用完全自主的致命性武器的國家之一,。

但是，一些世界主要國家,，特別是聯(lián)合國安理會的其他常任理事國,，并沒有加入中國這一呼吁。之后,，國際社會又提出禁止應(yīng)用完全自主的大規(guī)模致命性武器（但不禁止開發(fā)）等主張,，依然沒有得到除中國以外的其他大國的響應(yīng)。

國際政治的現(xiàn)實(shí)是,，一些國家認(rèn)為自主武器是在戰(zhàn)爭中減少人員傷亡的好辦法,，是讓自己形成戰(zhàn)略優(yōu)勢的好工具。所以對于應(yīng)當(dāng)如何限制自主武器的開發(fā)應(yīng)用,，各國還存在不同的判斷,。但即使這樣，有些安全問題是大家需要共同面對的,。

一旦人工智能系統(tǒng)不受人類控制,，我們面對的問題就不再是國家和國家之間沖突的問題，而是“碳基和硅基的對抗”,。此外,，主權(quán)國家之間的沖突可能還會受到各種國際公約和規(guī)則的制約，但如果有極端組織或者個人出于對社會的不滿,，使用人工智能技術(shù)報復(fù)社會,，其后果將不堪設(shè)想。面對這些問題,，全人類的利益一致,，所采納的風(fēng)險防控機(jī)制和政策也應(yīng)一致。這就如同民航業(yè)的安全檢查,，各國都會按照統(tǒng)一的國際標(biāo)準(zhǔn)執(zhí)行,。

在人工智能全球治理的交流上,，各國應(yīng)該深入對話,，增進(jìn)共識。圖/視覺中國

復(fù)雜的“機(jī)制復(fù)合體”

中國新聞周刊：在人工智能全球治理的發(fā)展問題上,，中共中央政治局委員,、外交部部長王毅在兩會記者會上強(qiáng)調(diào)，要促進(jìn)各方加強(qiáng)技術(shù)共享,，努力彌合智能鴻溝,，不讓任何國家掉隊(duì)。你認(rèn)為應(yīng)如何保證“全球南方”國家不在人工智能技術(shù)革命中落后,？

薛瀾：首先,，在風(fēng)險防控問題上，要讓人類社會的所有成員表達(dá)自己的意愿,。即使沒有掌握新技術(shù)的國家,，也有權(quán)利和義務(wù)就技術(shù)安全問題作出自己的判斷，表達(dá)自己的意愿并參與規(guī)則制定,。

其次,，人工智能發(fā)展會帶來巨大的經(jīng)濟(jì)社會利益，要保證發(fā)展中國家在技術(shù)革命的過程中也能分享紅利,。發(fā)展中國家在這個問題上的意愿是非常強(qiáng)烈的,。2022年，我在埃及作了一個關(guān)于中國人工智能發(fā)展的報告,，埃及政府的許多官員,、學(xué)者對此非常感興趣，特別希望和中國加強(qiáng)合作,，希望埃及也能“趕上”,。

在具體操作層面，這就需要中國,、美國等人工智能“第一梯隊(duì)”國家在全球技術(shù)共享上采取更多的積極措施,。這包括和發(fā)展中國家的相關(guān)機(jī)構(gòu)、高校及企業(yè)合作,，使他們盡快掌握和應(yīng)用人工智能技術(shù),，為社會造福，同時也要保證他們能安全地使用新技術(shù),。

但是,，目前技術(shù)轉(zhuǎn)移主要依賴市場手段，而國際技術(shù)轉(zhuǎn)移的市場還是有很多障礙的,。我們未來也許應(yīng)該考慮將更多的資源投入到發(fā)展中國家的科技創(chuàng)新能力建設(shè)上,。如果沒有更好的教育、創(chuàng)新和研發(fā)環(huán)境,，即使技術(shù)轉(zhuǎn)移到發(fā)展中國家,，也難以發(fā)揮最大的作用。所以,，人工智能全球治理,，也包括推動發(fā)展中國家建立能接納人工智能技術(shù)落地的教育和創(chuàng)新體系。

中國新聞周刊：你曾提出,，人工智能技術(shù)發(fā)展變化迅速,，因此政府需要“敏捷治理”,。但在國際層面，治理規(guī)則的形成,、新的國際組織的建設(shè)總是曠日持久,。如何破解國際多邊談判速度跟不上技術(shù)發(fā)展速度的難題？

薛瀾：是的,，人工智能全球治理也需要“敏捷性”,。之前國際社會缺乏這種緊迫感。在ChatGPT發(fā)布之前,，人們覺得通用人工智能距離我們還比較遙遠(yuǎn),。但現(xiàn)在，大家已經(jīng)意識到通用人工智能實(shí)現(xiàn)的可能性已經(jīng)越來越大,，不受人類控制的,、有自主意識的系統(tǒng)出現(xiàn)的可能性也越來越大。

所以,，最近一兩年,，在ChatGPT等產(chǎn)品發(fā)布后，人工智能的全球治理,、特別是風(fēng)險防控,，得到的關(guān)注已經(jīng)越來越多。最近,，我參與了一些著名人工智能技術(shù)專家和治理專家的共同努力,，撰寫一篇提交給《科學(xué)》（Science）的論文。這篇論文就指出,，我們已經(jīng)到了刻不容緩需要推動人工智能全球治理的階段,。

但現(xiàn)實(shí)情況是，由于一些全球治理問題非常復(fù)雜,，很多治理機(jī)制會同時參與,、介入對其治理，形成“機(jī)制復(fù)合體”,。人工智能就有這種問題,。從聯(lián)合國到各個國際組織、各國政府,、行業(yè)標(biāo)準(zhǔn)組織,、非政府組織等都提出了不同的要求和規(guī)則。

這種情況的特點(diǎn)是,，不同治理機(jī)制之間存在重疊和沖突,，彼此又沒有清晰的從屬關(guān)系。聯(lián)合國不是“世界政府”，并非對所有參與者和社會主體都有普遍約束力,。這使得問題的討論和解決變得更加復(fù)雜,。在這種情況下，各方需要特別注意包容性,，盡可能容納更多不同的社群和觀點(diǎn),，以尋找真正的共識。

我希望人類社會的智慧可以讓我們盡快找到建立國際機(jī)制的可行方案,。同時，很多專家也在呼吁人工智能技術(shù)公司放慢發(fā)展步伐,，在不能確保安全,、缺乏規(guī)制的情況下不要輕易推進(jìn)技術(shù)前沿。當(dāng)然,，未來人工智能安全本身可能也會形成一個市場,，全社會也需要加強(qiáng)對人工智能安全領(lǐng)域的研發(fā)投入，使得有更多的技術(shù)公司參與監(jiān)測和評估人工智能的安全性,，政府監(jiān)管部門也有更加有效的工具來防范相關(guān)風(fēng)險,。

加強(qiáng)中美對話

中國新聞周刊：過去幾年，中美雙方就人工智能全球治理進(jìn)行了多個層次的交流對話,。你覺得目前中美之間關(guān)于人工智能全球治理的討論是否充分,？去年，美國在荷蘭舉行的“軍事領(lǐng)域負(fù)責(zé)任人工智能”峰會期間發(fā)布《政治宣言》,，試圖和其全球伙伴先行商定一些人工智能全球治理共識,，從而引領(lǐng)、主導(dǎo)國際社會的規(guī)則制定,。中方應(yīng)如何應(yīng)對美國的“搶跑”活動,？

薛瀾：在人工智能全球治理的交流上，2023年11月舉行的中美元首舊金山會晤達(dá)成了重要共識,。此前,，中美學(xué)術(shù)界和企業(yè)界關(guān)于人工智能全球治理有多層次的交流，去年7月基辛格先生訪華時,，也就人工智能安全問題和各個方面進(jìn)行了溝通,。但總的來說，中美兩國在人工智能全球治理問題上缺乏系統(tǒng)性的,、有組織的,、全面深入的對話，也缺乏一軌對話機(jī)制,。而現(xiàn)在,，在中美元首舊金山會晤的共識中，雙方明確提出建立人工智能政府間對話機(jī)制,，這是一個很重要的進(jìn)展,。

歷史上看,，美國等西方國家在全球治理規(guī)則制定上一直希望占據(jù)主導(dǎo)地位，在人工智能治理領(lǐng)域也不例外,。對此,，中國應(yīng)當(dāng)加強(qiáng)對人工智能全球治理的研究，形成真正有價值的,、站在人類命運(yùn)共同體立場上的想法和建議,，讓包括美國等西方國家的國際社會對中國的建議產(chǎn)生共鳴。

當(dāng)然,，如果美國等西方國家的規(guī)則確實(shí)反映了世界各國的意愿,，我們也應(yīng)該持支持態(tài)度。也就是說,，在人工智能領(lǐng)域的全球治理規(guī)則上,，不應(yīng)該以國家或意識形態(tài)劃線，而應(yīng)該以人類社會的共同利益作為判斷的基準(zhǔn),。

近年來,，中國政府為此進(jìn)行了大量工作，發(fā)布了《全球人工智能治理倡議》等立場文件?，F(xiàn)在,，我們要在此基礎(chǔ)上進(jìn)一步研究如何落實(shí)這些原則。不可否認(rèn)的是,，美國的學(xué)術(shù)界和政策界在規(guī)則研究方面做了大量工作,，并在國際社會上非常活躍地推動和宣傳他們的想法,。而中國的學(xué)術(shù)界和政策界還應(yīng)該解放思想,，加強(qiáng)在這方面的研究和宣傳工作。

我們需要在一定程度上跳出熟悉的國內(nèi)話語體系,、跳出一些約束和限制,，能夠站在人類命運(yùn)共同體的立場上，形成推動全球各方達(dá)成共識的想法,，讓世界能充分意識到“中國倡議”的價值,。

此外，在國際政策輿論場中,，西方國家的一些前政要,、前官員、前商界領(lǐng)袖發(fā)揮著重要作用,。他們有豐富的政策經(jīng)驗(yàn),，能提出切實(shí)可行的方案。中國也有很多非常有能力的政策界人士，可以在國際上發(fā)揮更大的作用,。未來,，如果形成人工智能的全球治理機(jī)構(gòu)，他們也可以深入?yún)⑴c工作,，擴(kuò)大中國的話語權(quán)和影響力,。

總的來說，我認(rèn)為中國不必特別擔(dān)心所謂美國“搶跑”的問題,。我們需要加強(qiáng)和美國等西方國家在人工智能領(lǐng)域的對話,。一方面，大國競爭和地緣政治是現(xiàn)實(shí)問題,，美國及其盟友在很多方面排斥中國或給中國施加壓力,，中國需要在對話中明確我們的底線，捍衛(wèi)我們的立場,，不接受不平等的規(guī)則,；另一方面,，我們也要搭建更多平臺,，加強(qiáng)對話，在有共同利益的問題上增進(jìn)共識,，推進(jìn)人工智能全球治理框架的形成,。

發(fā)于2024.3.18總第1132期《中國新聞周刊》雜志

雜志標(biāo)題：薛瀾：人工智能全球治理 如何平衡安全與發(fā)展？

記者：曹然

編輯：徐方清