6月9日-10日，AI內(nèi)行頂級盛會“北京智源大會”在北京舉辦,。智源大會是智源研究院主辦的年度國際性人工智能高端專業(yè)交流活動,，業(yè)界學(xué)界共200余位人工智能頂尖專家到場,。 ChatGPT讓公眾直觀領(lǐng)受到AI的力量,，它展現(xiàn)出強(qiáng)大的翻譯、理解,、推理能力,，在多項(xiàng)考試中超過人類平均水平，在帶來AGI（通用人工智能,，像人一樣思考,、從事多種用途的人工智能）曙光的同時，也帶來大家對AI侵犯隱私,、導(dǎo)致失業(yè),，甚至取代人類等問題的擔(dān)憂。

一,、超級AI所帶來的近憂和遠(yuǎn)慮

近憂1：侵犯個人隱私

目前來說,，人工智能至少可通過三種方式侵犯隱私，即非法監(jiān)控,、非法侵入個人空間或住宅以及非法干擾個人行為,。

1.非法監(jiān)控

監(jiān)控不僅包括對物理空間的監(jiān)控，也包括對虛擬空間的監(jiān)控,。虛擬空間是指網(wǎng)絡(luò)空間,，它獨(dú)立于物理空間而存在。盡管非法監(jiān)控與非法侵入個人空間或住宅存在交叉,，但不論是對物理空間還是對網(wǎng)絡(luò)空間的監(jiān)控,，非法監(jiān)控所涉及的隱私領(lǐng)域主要是信息隱私，而非法侵入個人空間或住宅主要涉及空間隱私,。在非法監(jiān)控中,，對物理空間或網(wǎng)絡(luò)空間的侵入只是手段，終極目的在于獲取未公開的個人信息,。

2.非法侵入個人空間或住宅

這里所指的個人空間僅限于實(shí)體空間,，并不包括網(wǎng)絡(luò)空間。傳統(tǒng)的侵入個人空間或住宅的方法比較有限,，如監(jiān)視,、竊聽、刺探,、秘密進(jìn)入等,，這些方法都需要人力來完成,。然而，人工智能可以通過侵入住宅內(nèi)的監(jiān)控?cái)z像頭,、通訊網(wǎng)絡(luò)設(shè)備、智能家居系統(tǒng)等方式侵?jǐn)_個人空間或住宅,，且不留下任何外部物跡,。

3. 非法干擾個人行為

眾所周知，互聯(lián)網(wǎng)上存在大量的實(shí)名或未實(shí)名的用戶數(shù)據(jù),，人工智能通過一定的技術(shù)手段對用戶數(shù)據(jù)進(jìn)行收集與分析,，可以準(zhǔn)確分析出用戶的興趣愛好、行為蹤跡等信息,，并進(jìn)行信息推薦,，而這些信息用戶并未主動提供，顯而易見,，用戶是根本不愿意這些信息被其他主體知曉,，這勢必侵犯個人隱私。

近憂2：造成失業(yè)與壟斷

從失業(yè)的角度來說,，主要是因?yàn)槌壢斯ぶ悄艿某霈F(xiàn)造成了勞動力的供大于求,。人工智能的普及必然取代社會中原有的部分勞動力，且由于人工智能的低成本,、高效率等突出特性,，更易受到用人單位的青睞，造成以出賣勞動力為主的社會底層居民喪失勞動和就業(yè)機(jī)會,，極大壓縮其生存的空間,，使其成為社會中的不穩(wěn)定因素，進(jìn)而引發(fā)不同群體間的對立和沖突,。從形成行業(yè)壟斷的角度來看,，在市場中，資本與技術(shù)結(jié)合共謀實(shí)施行業(yè)壟斷是時常發(fā)生的情形,，由于掌握先進(jìn)技術(shù),，部分企業(yè)可以借此獲得壟斷或支配地位，肆意打壓中小企業(yè)或歧視性地對待合作商家而謀取巨額利益,，進(jìn)而嚴(yán)重破壞市場公平公正的競爭秩序,。

遠(yuǎn)慮：存在毀滅性風(fēng)險

總部位于舊金山的人工智能安全非營利組織（CAIS），一直在為“如何降低人工智能（AI）的社會規(guī)模風(fēng)險”而努力,。5月30日,，該機(jī)構(gòu)發(fā)布了一份《AI風(fēng)險聲明》，呼吁全世界應(yīng)該像控制大流行病和核戰(zhàn)爭那樣,，降低AI帶給人類滅頂之災(zāi)的風(fēng)險,，并且把優(yōu)先級調(diào)到最高,。在ChatGPT走紅全球之后，75歲的辛頓從谷歌辭職,，便拉響AI的警報(bào),，更自由地討論AI給人類帶來的風(fēng)險。當(dāng)時,，他出席美國麻省理工大學(xué)（MIT）的一場論壇時表示：“如果AI模型比人類聰明得多,，它將善于操縱人類，你都不會意識到發(fā)生了什么,?！痹谧顗那闆r下，“人類只是智能進(jìn)化的一個過場”,，在生物智能進(jìn)化出數(shù)字智能后,，數(shù)字智能將吸收人類創(chuàng)造的一切，并開始直接接觸世界,。當(dāng)AI變得比人類更聰明時,，就有可能會導(dǎo)致人類面臨生存威脅。

二,、強(qiáng)化對超級人工智能監(jiān)管的必要性分析

細(xì)化法律法規(guī),，監(jiān)管技術(shù)齊驅(qū)

盡管新一代AI技術(shù)提出了諸多挑戰(zhàn)，具有較大的監(jiān)管難度,，但是我們卻不能聽之任之和置之不理,。如果任由ChatGPT等新一代AI技術(shù)如脫韁的野馬一樣橫沖直撞，那么就可能出現(xiàn)難以挽回的損失甚至是災(zāi)難性后果,。只有未雨綢繆地對新一代AI技術(shù)的發(fā)展趨勢和應(yīng)用前景進(jìn)行研判和分析,，提前做好監(jiān)管準(zhǔn)備，才能避免“兵來將擋水來土掩”式的被動響應(yīng),。當(dāng)我們建立和完善一攬子的新一代AI技術(shù)監(jiān)管制度體系后,，監(jiān)管創(chuàng)新便能跟上技術(shù)進(jìn)步的步伐，避免監(jiān)管被技術(shù)甩在后面,。否則,，監(jiān)管技術(shù)的落后將直接決定技術(shù)監(jiān)管的失敗，也必然會導(dǎo)致新一代AI技術(shù)的失控和無序發(fā)展,。

新一代AI技術(shù)具有很強(qiáng)的不確定性,，使政府監(jiān)管難以下手。首先,，新一代AI技術(shù)的高度不確定性意味著一般的政府部門難以預(yù)判其風(fēng)險,，政府部門的監(jiān)管往往是針對既有問題而展開的，而新興技術(shù)提出的監(jiān)管挑戰(zhàn)則可能不在其監(jiān)管框架之內(nèi)。在這種監(jiān)管機(jī)制存在局限的情況下,，政府部門對新興技術(shù)的監(jiān)管經(jīng)常陷入被動響應(yīng)的尷尬局面,。其次，當(dāng)新一代AI技術(shù)應(yīng)用于各個領(lǐng)域時,，它會成為新的操作系統(tǒng),、數(shù)字基礎(chǔ)設(shè)施或技術(shù)平臺，使其同相關(guān)業(yè)務(wù)難以切割,。這使政府部門的監(jiān)管不得不通盤考慮技術(shù)應(yīng)用的廣泛性和深入性,，而不能采取一技一策的方式進(jìn)行監(jiān)管。而在這種情況下,，由專門部門去細(xì)化相關(guān)的責(zé)任顯得尤為必要。

加強(qiáng)國際合作,，共度AI深秋

在全球化時代,，由于人工智能技術(shù)呈現(xiàn)出跨國家、跨文化和跨領(lǐng)域特點(diǎn),，應(yīng)對人工智能技術(shù)挑戰(zhàn)并非完全取決于個別的國家日,，因此加強(qiáng)國際間的相互合作也就成為人工智能監(jiān)管的必然趨勢。這種國際間的相互合作應(yīng)該主要表現(xiàn)為兩方面:一方面是主權(quán)國家之間的相互協(xié)調(diào),，以美國為主的部分西方國家以所謂的“意識形態(tài)”“共同價值觀”為合作紐帶,，以應(yīng)對中國在人工智能領(lǐng)域不斷提升的影響，確保其在該領(lǐng)域的領(lǐng)導(dǎo)地位,。如美國不僅計(jì)劃與歐盟在跨大西洋合作方面積極展開關(guān)于人工智能技術(shù)發(fā)展,、規(guī)制的討論與合作，還在與韓國來往時多次強(qiáng)調(diào)希望促進(jìn)韓美兩國在人工智能等新興技術(shù)方面的合作,。另一方面是產(chǎn)業(yè)界,、學(xué)術(shù)界等形成的行業(yè)宣言，如在首屆全球數(shù)字經(jīng)濟(jì)大會人工智能產(chǎn)業(yè)治理論壇上發(fā)布的《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》,，便是企業(yè)與學(xué)術(shù)機(jī)構(gòu)在共同商討下形成的倡議性文件,。

三、加強(qiáng)國際合作具體規(guī)范設(shè)想

AGI擁有徹底改造文明的能力,，因此,，有意義的國際合作非常必要。作為地球上的一員,，我們需要投資AGI安全,、謹(jǐn)慎協(xié)調(diào)才能實(shí)現(xiàn)并享受這個未來。作為一項(xiàng)全球性的技術(shù),，輕率合作帶來的后果,，將影響所有人。因此,，在國際合作中,，這三個關(guān)鍵領(lǐng)域最為重要,。

建立國際規(guī)范，注重過程包容

我國應(yīng)注重運(yùn)用在人工智能相關(guān)領(lǐng)域的技術(shù)優(yōu)勢,，積極參與人工智能技術(shù)相關(guān)國際標(biāo)準(zhǔn)的制定工作,，包括規(guī)范術(shù)語、技術(shù)框架,、產(chǎn)品服務(wù)等,，逐步實(shí)現(xiàn)我國在人工智能技術(shù)標(biāo)準(zhǔn)方面的國際化。同時,，鑒于人工智能國際標(biāo)準(zhǔn)在國際上具有一定敏感性,，在標(biāo)準(zhǔn)化立項(xiàng)和推進(jìn)過程中要秉承積極協(xié)商、靈活應(yīng)對,、推進(jìn)共識的工作策略,，保障國際標(biāo)準(zhǔn)工作的順利推進(jìn)。在推動共同國際規(guī)范和標(biāo)準(zhǔn)建立的過程中,，應(yīng)從相互依存,、命運(yùn)與共的“共同體”意識出發(fā)，同時注意各國之間的差異性,，在制定規(guī)制的過程中,，留下一定變通的空間。

加強(qiáng)人才互通,，建立交流機(jī)制

千里之行,，始于足下。我認(rèn)為,，最有建設(shè)性的第一步,，是國際科學(xué)界、技術(shù)界展開合作,。我們應(yīng)該在AGI安全領(lǐng)域,，推動建立增加透明度和知識共享的機(jī)制。發(fā)現(xiàn)緊急情況的研究人員應(yīng)該為了共同的利益,，共享新進(jìn)展,。另外，我們也應(yīng)仔細(xì)考慮,，如何在尊重和保護(hù)知識產(chǎn)權(quán)的同時鼓勵這種做法,。更廣泛地說，我們應(yīng)該推動,、引導(dǎo)AI對齊和安全研究,。

同時，我國應(yīng)緊密跟蹤研究國內(nèi)外人工智能安全標(biāo)準(zhǔn)化工作動態(tài)和發(fā)展趨勢，把握人工智能安全領(lǐng)域國際標(biāo)準(zhǔn)研究態(tài)勢和重點(diǎn)方向,。建立人工智能重點(diǎn)難點(diǎn)標(biāo)準(zhǔn)合作交流機(jī)制,，借鑒各國在國際標(biāo)準(zhǔn)組織中的工作經(jīng)驗(yàn)，參考形成我國人工智能安全國際標(biāo)準(zhǔn)化工作推進(jìn)策略,。充分吸收國外人工智能安全領(lǐng)域標(biāo)準(zhǔn)研究成果,，借助國際力量豐富和推進(jìn)我國人工智能安全標(biāo)準(zhǔn)制定，保持國家/行業(yè)標(biāo)準(zhǔn)與國際標(biāo)準(zhǔn)之間的協(xié)調(diào)一致,，提高我國標(biāo)準(zhǔn)的先進(jìn)性,、規(guī)范性，確保人工智能安全標(biāo)準(zhǔn)能夠及時滿足人工智能安全保障和新興技術(shù)產(chǎn)業(yè)發(fā)展的需求,。借助于雙邊或多邊的合作契機(jī),，邀請人工智能相關(guān)領(lǐng)域?qū)＜业轿覈_展交流研究，不斷向世界輸出人類命運(yùn)共同體的合作理念和價值,，搭建校企之間,、科研院所之間等廣泛的交流合作機(jī)制，推動構(gòu)建人工智能國際監(jiān)管的合作框架,，為人工智能監(jiān)管貢獻(xiàn)中國方案，發(fā)出中國聲音,。

來源：中國日報(bào)網(wǎng)