(經(jīng)濟(jì)觀察)AI技術(shù)變革進(jìn)入快車(chē)道,，發(fā)展與安全如何兼顧？

中新社北京7月22日電 (記者 劉育英)在本周北京舉行的2023中國(guó)互聯(lián)網(wǎng)大會(huì)上,，以ChatGPT為代表的人工智能(AI)帶來(lái)怎樣的風(fēng)險(xiǎn),，以及如何管控這些風(fēng)險(xiǎn)，成為與會(huì)者熱議的話題,。

對(duì)于AI的發(fā)展前景,，北京智源人工智能研究院院長(zhǎng),、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍表示,，今天ChatGPT有強(qiáng)大的智能，影響深遠(yuǎn),，未來(lái)3年,，除語(yǔ)言外，大模型正在迅速擴(kuò)展視覺(jué),、聽(tīng)覺(jué),、具身、行動(dòng)等通用智能,，影響將更大,。

黃鐵軍預(yù)測(cè)，未來(lái)10年,，智力革命已經(jīng)打響,，就像工業(yè)革命解放體力，就像電力革命解決能源流通,，全新生態(tài)將構(gòu)建,，開(kāi)源開(kāi)放生態(tài)終將勝利。ChatGPT是數(shù)據(jù)驅(qū)動(dòng)的靜態(tài)智能,，未來(lái)20年是時(shí)空環(huán)境驅(qū)動(dòng)的具身智能,，智能載體將是類腦的脈沖神經(jīng)網(wǎng)絡(luò)，有望像生物大腦一樣涌現(xiàn)出更強(qiáng)的智能,。

由于大語(yǔ)言模型的智能“涌現(xiàn)”,，科學(xué)家尚不可解釋其機(jī)理，黃鐵軍認(rèn)為,，“只要AI超過(guò)人類,，人類想進(jìn)行管控是不可能的”，因此不少業(yè)界專家反對(duì)訓(xùn)練GPT-5,。

北京市通信管理局副局長(zhǎng)王暉認(rèn)為,，人工智能在賦能產(chǎn)業(yè)過(guò)程中，帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)有數(shù)據(jù)安全問(wèn)題,、算法安全問(wèn)題,、應(yīng)用安全問(wèn)題和行業(yè)安全問(wèn)題。

中國(guó)電信集團(tuán)網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛表示，隨著AI尤其大模型的廣泛應(yīng)用,，網(wǎng)絡(luò)攻擊、數(shù)據(jù)泄露等風(fēng)險(xiǎn)日益凸顯,，過(guò)度采集,、歧視性算法，濫用深度偽造等問(wèn)題可能會(huì)帶來(lái)影響社會(huì)經(jīng)濟(jì)運(yùn)行的嚴(yán)重問(wèn)題,。

AI風(fēng)險(xiǎn)問(wèn)題已經(jīng)引起國(guó)際社會(huì)的關(guān)注,。據(jù)媒體報(bào)道，當(dāng)?shù)貢r(shí)間7月21日,，美國(guó)七家領(lǐng)先的人工智能公司,，包括亞馬遜、Anthropic,、谷歌,、Inflection、Meta,、微軟和OpenAI承諾接受白宮要求,，幫助實(shí)現(xiàn)人工智能技術(shù)安全、可靠和透明的發(fā)展,。

近日,，聯(lián)合國(guó)安理會(huì)首次就人工智能問(wèn)題舉行會(huì)議，來(lái)自15個(gè)成員國(guó)的外交官和人工智能領(lǐng)域的專家參與了這次會(huì)議,，中方提出了五項(xiàng)原則,。

大模型在中國(guó)得到快速發(fā)展。根據(jù)5月份發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》,，中國(guó)10億參數(shù)規(guī)模以上的大模型已經(jīng)發(fā)布79個(gè),，研發(fā)的大模型數(shù)量排名全球第二，僅次于美國(guó),。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)常務(wù)副秘書(shū)長(zhǎng)陳家春表示,，中國(guó)大模型發(fā)展活躍且快速，具體表現(xiàn)為計(jì)算能力不斷提高,、數(shù)據(jù)量不斷增加,、應(yīng)用場(chǎng)景不斷拓展以及研究方向不斷深入。

中國(guó)從監(jiān)管層到產(chǎn)業(yè)界,，都高度關(guān)注防范AI風(fēng)險(xiǎn)方面并做出探索,。7月13日，中國(guó)出臺(tái)了首份生成式人工智能監(jiān)管發(fā)展文件《生成式人工智能服務(wù)管理暫行辦法》,，提出堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則。

奇安信集團(tuán)副總裁張卓接受采訪時(shí)表示，從《辦法》可以看出,，數(shù)據(jù)安全和隱私保護(hù)貫穿于生成式人工智能數(shù)據(jù)的標(biāo)注,、模型預(yù)訓(xùn)練、模型訓(xùn)練,、提供服務(wù)等各個(gè)環(huán)節(jié),，避免了監(jiān)管盲區(qū)導(dǎo)致的安全風(fēng)險(xiǎn)。

中國(guó)國(guó)內(nèi)啟明星辰,、天融信,、深信服等公司嘗試把大語(yǔ)言模型用于網(wǎng)絡(luò)安全。有些公司專門(mén)訓(xùn)練網(wǎng)絡(luò)安全領(lǐng)域垂直的大模型,，有些公司把大語(yǔ)言模型用于產(chǎn)品形態(tài)中,。

如何管控大模型帶來(lái)的風(fēng)險(xiǎn)現(xiàn)在還沒(méi)有答案?！叭斯ぶ悄苊媾R失控風(fēng)險(xiǎn),，但不用它是不可能的，如何控制AI的使用,，確實(shí)是一個(gè)問(wèn)題,。”國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)入侵防范中心主任張玉清表示,。

黃鐵軍表示,，AI越來(lái)越強(qiáng)，風(fēng)險(xiǎn)與日俱增,。如何構(gòu)建安全的AI,，現(xiàn)在還沒(méi)有完整準(zhǔn)確的答案。面對(duì)AI越來(lái)越強(qiáng)的智能程度,，人類面臨全新的挑戰(zhàn),。(完)