6月9日-10日，AI內(nèi)行頂級(jí)盛會(huì)“北京智源大會(huì)”在北京舉辦。智源大會(huì)是智源研究院主辦的年度國(guó)際性人工智能高端專(zhuān)業(yè)交流活動(dòng),，業(yè)界學(xué)界共200余位人工智能頂尖專(zhuān)家到場(chǎng),。 ChatGPT讓公眾直觀領(lǐng)受到AI的力量,，它展現(xiàn)出強(qiáng)大的翻譯、理解,、推理能力,，在多項(xiàng)考試中超過(guò)人類(lèi)平均水平，在帶來(lái)AGI（通用人工智能,，像人一樣思考,、從事多種用途的人工智能）曙光的同時(shí)，也帶來(lái)大家對(duì)AI侵犯隱私,、導(dǎo)致失業(yè),，甚至取代人類(lèi)等問(wèn)題的擔(dān)憂。

一,、超級(jí)AI所帶來(lái)的近憂和遠(yuǎn)慮

近憂1：侵犯?jìng)€(gè)人隱私

目前來(lái)說(shuō),，人工智能至少可通過(guò)三種方式侵犯隱私，即非法監(jiān)控,、非法侵入個(gè)人空間或住宅以及非法干擾個(gè)人行為,。

1.非法監(jiān)控

監(jiān)控不僅包括對(duì)物理空間的監(jiān)控，也包括對(duì)虛擬空間的監(jiān)控,。虛擬空間是指網(wǎng)絡(luò)空間,，它獨(dú)立于物理空間而存在。盡管非法監(jiān)控與非法侵入個(gè)人空間或住宅存在交叉,，但不論是對(duì)物理空間還是對(duì)網(wǎng)絡(luò)空間的監(jiān)控,，非法監(jiān)控所涉及的隱私領(lǐng)域主要是信息隱私，而非法侵入個(gè)人空間或住宅主要涉及空間隱私,。在非法監(jiān)控中,，對(duì)物理空間或網(wǎng)絡(luò)空間的侵入只是手段，終極目的在于獲取未公開(kāi)的個(gè)人信息,。

2.非法侵入個(gè)人空間或住宅

這里所指的個(gè)人空間僅限于實(shí)體空間,，并不包括網(wǎng)絡(luò)空間。傳統(tǒng)的侵入個(gè)人空間或住宅的方法比較有限,，如監(jiān)視,、竊聽(tīng),、刺探、秘密進(jìn)入等,，這些方法都需要人力來(lái)完成。然而,，人工智能可以通過(guò)侵入住宅內(nèi)的監(jiān)控?cái)z像頭,、通訊網(wǎng)絡(luò)設(shè)備、智能家居系統(tǒng)等方式侵?jǐn)_個(gè)人空間或住宅,，且不留下任何外部物跡,。

3. 非法干擾個(gè)人行為

眾所周知，互聯(lián)網(wǎng)上存在大量的實(shí)名或未實(shí)名的用戶數(shù)據(jù),，人工智能通過(guò)一定的技術(shù)手段對(duì)用戶數(shù)據(jù)進(jìn)行收集與分析,，可以準(zhǔn)確分析出用戶的興趣愛(ài)好、行為蹤跡等信息,，并進(jìn)行信息推薦,，而這些信息用戶并未主動(dòng)提供，顯而易見(jiàn),，用戶是根本不愿意這些信息被其他主體知曉,，這勢(shì)必侵犯?jìng)€(gè)人隱私。

近憂2：造成失業(yè)與壟斷

從失業(yè)的角度來(lái)說(shuō),，主要是因?yàn)槌?jí)人工智能的出現(xiàn)造成了勞動(dòng)力的供大于求,。人工智能的普及必然取代社會(huì)中原有的部分勞動(dòng)力，且由于人工智能的低成本,、高效率等突出特性,，更易受到用人單位的青睞，造成以出賣(mài)勞動(dòng)力為主的社會(huì)底層居民喪失勞動(dòng)和就業(yè)機(jī)會(huì),，極大壓縮其生存的空間,，使其成為社會(huì)中的不穩(wěn)定因素，進(jìn)而引發(fā)不同群體間的對(duì)立和沖突,。從形成行業(yè)壟斷的角度來(lái)看,，在市場(chǎng)中，資本與技術(shù)結(jié)合共謀實(shí)施行業(yè)壟斷是時(shí)常發(fā)生的情形,，由于掌握先進(jìn)技術(shù),，部分企業(yè)可以借此獲得壟斷或支配地位，肆意打壓中小企業(yè)或歧視性地對(duì)待合作商家而謀取巨額利益,，進(jìn)而嚴(yán)重破壞市場(chǎng)公平公正的競(jìng)爭(zhēng)秩序,。

遠(yuǎn)慮：存在毀滅性風(fēng)險(xiǎn)

總部位于舊金山的人工智能安全非營(yíng)利組織（CAIS），一直在為“如何降低人工智能（AI）的社會(huì)規(guī)模風(fēng)險(xiǎn)”而努力,。5月30日,，該機(jī)構(gòu)發(fā)布了一份《AI風(fēng)險(xiǎn)聲明》,，呼吁全世界應(yīng)該像控制大流行病和核戰(zhàn)爭(zhēng)那樣，降低AI帶給人類(lèi)滅頂之災(zāi)的風(fēng)險(xiǎn),，并且把優(yōu)先級(jí)調(diào)到最高,。在ChatGPT走紅全球之后，75歲的辛頓從谷歌辭職,，便拉響AI的警報(bào),，更自由地討論AI給人類(lèi)帶來(lái)的風(fēng)險(xiǎn)。當(dāng)時(shí),，他出席美國(guó)麻省理工大學(xué)（MIT）的一場(chǎng)論壇時(shí)表示：“如果AI模型比人類(lèi)聰明得多,，它將善于操縱人類(lèi)，你都不會(huì)意識(shí)到發(fā)生了什么,?！痹谧顗那闆r下，“人類(lèi)只是智能進(jìn)化的一個(gè)過(guò)場(chǎng)”,，在生物智能進(jìn)化出數(shù)字智能后,，數(shù)字智能將吸收人類(lèi)創(chuàng)造的一切，并開(kāi)始直接接觸世界,。當(dāng)AI變得比人類(lèi)更聰明時(shí),，就有可能會(huì)導(dǎo)致人類(lèi)面臨生存威脅。

二,、強(qiáng)化對(duì)超級(jí)人工智能監(jiān)管的必要性分析

細(xì)化法律法規(guī),，監(jiān)管技術(shù)齊驅(qū)

盡管新一代AI技術(shù)提出了諸多挑戰(zhàn)，具有較大的監(jiān)管難度,，但是我們卻不能聽(tīng)之任之和置之不理,。如果任由ChatGPT等新一代AI技術(shù)如脫韁的野馬一樣橫沖直撞，那么就可能出現(xiàn)難以挽回的損失甚至是災(zāi)難性后果,。只有未雨綢繆地對(duì)新一代AI技術(shù)的發(fā)展趨勢(shì)和應(yīng)用前景進(jìn)行研判和分析,，提前做好監(jiān)管準(zhǔn)備，才能避免“兵來(lái)將擋水來(lái)土掩”式的被動(dòng)響應(yīng),。當(dāng)我們建立和完善一攬子的新一代AI技術(shù)監(jiān)管制度體系后,，監(jiān)管創(chuàng)新便能跟上技術(shù)進(jìn)步的步伐，避免監(jiān)管被技術(shù)甩在后面,。否則,，監(jiān)管技術(shù)的落后將直接決定技術(shù)監(jiān)管的失敗，也必然會(huì)導(dǎo)致新一代AI技術(shù)的失控和無(wú)序發(fā)展,。

新一代AI技術(shù)具有很強(qiáng)的不確定性,，使政府監(jiān)管難以下手。首先,，新一代AI技術(shù)的高度不確定性意味著一般的政府部門(mén)難以預(yù)判其風(fēng)險(xiǎn),，政府部門(mén)的監(jiān)管往往是針對(duì)既有問(wèn)題而展開(kāi)的,，而新興技術(shù)提出的監(jiān)管挑戰(zhàn)則可能不在其監(jiān)管框架之內(nèi)。在這種監(jiān)管機(jī)制存在局限的情況下,，政府部門(mén)對(duì)新興技術(shù)的監(jiān)管經(jīng)常陷入被動(dòng)響應(yīng)的尷尬局面,。其次，當(dāng)新一代AI技術(shù)應(yīng)用于各個(gè)領(lǐng)域時(shí),，它會(huì)成為新的操作系統(tǒng),、數(shù)字基礎(chǔ)設(shè)施或技術(shù)平臺(tái)，使其同相關(guān)業(yè)務(wù)難以切割,。這使政府部門(mén)的監(jiān)管不得不通盤(pán)考慮技術(shù)應(yīng)用的廣泛性和深入性，而不能采取一技一策的方式進(jìn)行監(jiān)管,。而在這種情況下,，由專(zhuān)門(mén)部門(mén)去細(xì)化相關(guān)的責(zé)任顯得尤為必要。

加強(qiáng)國(guó)際合作,，共度AI深秋

在全球化時(shí)代,，由于人工智能技術(shù)呈現(xiàn)出跨國(guó)家、跨文化和跨領(lǐng)域特點(diǎn),，應(yīng)對(duì)人工智能技術(shù)挑戰(zhàn)并非完全取決于個(gè)別的國(guó)家日,，因此加強(qiáng)國(guó)際間的相互合作也就成為人工智能監(jiān)管的必然趨勢(shì)。這種國(guó)際間的相互合作應(yīng)該主要表現(xiàn)為兩方面:一方面是主權(quán)國(guó)家之間的相互協(xié)調(diào),，以美國(guó)為主的部分西方國(guó)家以所謂的“意識(shí)形態(tài)”“共同價(jià)值觀”為合作紐帶,，以應(yīng)對(duì)中國(guó)在人工智能領(lǐng)域不斷提升的影響，確保其在該領(lǐng)域的領(lǐng)導(dǎo)地位,。如美國(guó)不僅計(jì)劃與歐盟在跨大西洋合作方面積極展開(kāi)關(guān)于人工智能技術(shù)發(fā)展,、規(guī)制的討論與合作，還在與韓國(guó)來(lái)往時(shí)多次強(qiáng)調(diào)希望促進(jìn)韓美兩國(guó)在人工智能等新興技術(shù)方面的合作,。另一方面是產(chǎn)業(yè)界,、學(xué)術(shù)界等形成的行業(yè)宣言，如在首屆全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能產(chǎn)業(yè)治理論壇上發(fā)布的《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》,，便是企業(yè)與學(xué)術(shù)機(jī)構(gòu)在共同商討下形成的倡議性文件,。

三、加強(qiáng)國(guó)際合作具體規(guī)范設(shè)想

AGI擁有徹底改造文明的能力,，因此,，有意義的國(guó)際合作非常必要。作為地球上的一員,，我們需要投資AGI安全,、謹(jǐn)慎協(xié)調(diào)才能實(shí)現(xiàn)并享受這個(gè)未來(lái)。作為一項(xiàng)全球性的技術(shù),，輕率合作帶來(lái)的后果,，將影響所有人,。因此，在國(guó)際合作中,，這三個(gè)關(guān)鍵領(lǐng)域最為重要,。

建立國(guó)際規(guī)范，注重過(guò)程包容

我國(guó)應(yīng)注重運(yùn)用在人工智能相關(guān)領(lǐng)域的技術(shù)優(yōu)勢(shì),，積極參與人工智能技術(shù)相關(guān)國(guó)際標(biāo)準(zhǔn)的制定工作,，包括規(guī)范術(shù)語(yǔ)、技術(shù)框架,、產(chǎn)品服務(wù)等,，逐步實(shí)現(xiàn)我國(guó)在人工智能技術(shù)標(biāo)準(zhǔn)方面的國(guó)際化。同時(shí),，鑒于人工智能?chē)?guó)際標(biāo)準(zhǔn)在國(guó)際上具有一定敏感性,，在標(biāo)準(zhǔn)化立項(xiàng)和推進(jìn)過(guò)程中要秉承積極協(xié)商、靈活應(yīng)對(duì),、推進(jìn)共識(shí)的工作策略,，保障國(guó)際標(biāo)準(zhǔn)工作的順利推進(jìn)。在推動(dòng)共同國(guó)際規(guī)范和標(biāo)準(zhǔn)建立的過(guò)程中,，應(yīng)從相互依存,、命運(yùn)與共的“共同體”意識(shí)出發(fā)，同時(shí)注意各國(guó)之間的差異性,，在制定規(guī)制的過(guò)程中,，留下一定變通的空間。

加強(qiáng)人才互通,，建立交流機(jī)制

千里之行,，始于足下。我認(rèn)為,，最有建設(shè)性的第一步,，是國(guó)際科學(xué)界、技術(shù)界展開(kāi)合作,。我們應(yīng)該在AGI安全領(lǐng)域,，推動(dòng)建立增加透明度和知識(shí)共享的機(jī)制。發(fā)現(xiàn)緊急情況的研究人員應(yīng)該為了共同的利益,，共享新進(jìn)展,。另外，我們也應(yīng)仔細(xì)考慮,，如何在尊重和保護(hù)知識(shí)產(chǎn)權(quán)的同時(shí)鼓勵(lì)這種做法,。更廣泛地說(shuō)，我們應(yīng)該推動(dòng),、引導(dǎo)AI對(duì)齊和安全研究,。

同時(shí),，我國(guó)應(yīng)緊密跟蹤研究國(guó)內(nèi)外人工智能安全標(biāo)準(zhǔn)化工作動(dòng)態(tài)和發(fā)展趨勢(shì)，把握人工智能安全領(lǐng)域國(guó)際標(biāo)準(zhǔn)研究態(tài)勢(shì)和重點(diǎn)方向,。建立人工智能重點(diǎn)難點(diǎn)標(biāo)準(zhǔn)合作交流機(jī)制,，借鑒各國(guó)在國(guó)際標(biāo)準(zhǔn)組織中的工作經(jīng)驗(yàn)，參考形成我國(guó)人工智能安全國(guó)際標(biāo)準(zhǔn)化工作推進(jìn)策略,。充分吸收國(guó)外人工智能安全領(lǐng)域標(biāo)準(zhǔn)研究成果,，借助國(guó)際力量豐富和推進(jìn)我國(guó)人工智能安全標(biāo)準(zhǔn)制定，保持國(guó)家/行業(yè)標(biāo)準(zhǔn)與國(guó)際標(biāo)準(zhǔn)之間的協(xié)調(diào)一致,，提高我國(guó)標(biāo)準(zhǔn)的先進(jìn)性,、規(guī)范性，確保人工智能安全標(biāo)準(zhǔn)能夠及時(shí)滿足人工智能安全保障和新興技術(shù)產(chǎn)業(yè)發(fā)展的需求,。借助于雙邊或多邊的合作契機(jī),，邀請(qǐng)人工智能相關(guān)領(lǐng)域?qū)＜业轿覈?guó)開(kāi)展交流研究，不斷向世界輸出人類(lèi)命運(yùn)共同體的合作理念和價(jià)值,，搭建校企之間、科研院所之間等廣泛的交流合作機(jī)制,，推動(dòng)構(gòu)建人工智能?chē)?guó)際監(jiān)管的合作框架,，為人工智能監(jiān)管貢獻(xiàn)中國(guó)方案，發(fā)出中國(guó)聲音,。

來(lái)源：中國(guó)日?qǐng)?bào)網(wǎng)