(經(jīng)濟觀察)AI技術(shù)變革進入快車道,，發(fā)展與安全如何兼顧,？

中新社北京7月22日電 (記者 劉育英)在本周北京舉行的2023中國互聯(lián)網(wǎng)大會上，以ChatGPT為代表的人工智能(AI)帶來怎樣的風(fēng)險，以及如何管控這些風(fēng)險，成為與會者熱議的話題。

對于AI的發(fā)展前景,，北京智源人工智能研究院院長,、北京大學(xué)計算機學(xué)院教授黃鐵軍表示，今天ChatGPT有強大的智能,，影響深遠(yuǎn),，未來3年，除語言外,，大模型正在迅速擴展視覺,、聽覺、具身,、行動等通用智能,，影響將更大。

黃鐵軍預(yù)測，未來10年,，智力革命已經(jīng)打響,，就像工業(yè)革命解放體力，就像電力革命解決能源流通,，全新生態(tài)將構(gòu)建，開源開放生態(tài)終將勝利,。ChatGPT是數(shù)據(jù)驅(qū)動的靜態(tài)智能,，未來20年是時空環(huán)境驅(qū)動的具身智能，智能載體將是類腦的脈沖神經(jīng)網(wǎng)絡(luò),，有望像生物大腦一樣涌現(xiàn)出更強的智能,。

由于大語言模型的智能“涌現(xiàn)”，科學(xué)家尚不可解釋其機理,，黃鐵軍認(rèn)為,，“只要AI超過人類，人類想進行管控是不可能的”,，因此不少業(yè)界專家反對訓(xùn)練GPT-5,。

北京市通信管理局副局長王暉認(rèn)為，人工智能在賦能產(chǎn)業(yè)過程中,，帶來的風(fēng)險挑戰(zhàn)有數(shù)據(jù)安全問題,、算法安全問題、應(yīng)用安全問題和行業(yè)安全問題,。

中國電信集團網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛表示,，隨著AI尤其大模型的廣泛應(yīng)用，網(wǎng)絡(luò)攻擊,、數(shù)據(jù)泄露等風(fēng)險日益凸顯,，過度采集、歧視性算法,，濫用深度偽造等問題可能會帶來影響社會經(jīng)濟運行的嚴(yán)重問題,。

AI風(fēng)險問題已經(jīng)引起國際社會的關(guān)注。據(jù)媒體報道,，當(dāng)?shù)貢r間7月21日,，美國七家領(lǐng)先的人工智能公司，包括亞馬遜,、Anthropic,、谷歌、Inflection,、Meta,、微軟和OpenAI承諾接受白宮要求，幫助實現(xiàn)人工智能技術(shù)安全,、可靠和透明的發(fā)展,。

近日,，聯(lián)合國安理會首次就人工智能問題舉行會議，來自15個成員國的外交官和人工智能領(lǐng)域的專家參與了這次會議,，中方提出了五項原則,。

大模型在中國得到快速發(fā)展。根據(jù)5月份發(fā)布的《中國人工智能大模型地圖研究報告》,，中國10億參數(shù)規(guī)模以上的大模型已經(jīng)發(fā)布79個,，研發(fā)的大模型數(shù)量排名全球第二，僅次于美國,。

中國互聯(lián)網(wǎng)協(xié)會常務(wù)副秘書長陳家春表示,，中國大模型發(fā)展活躍且快速，具體表現(xiàn)為計算能力不斷提高,、數(shù)據(jù)量不斷增加,、應(yīng)用場景不斷拓展以及研究方向不斷深入。

中國從監(jiān)管層到產(chǎn)業(yè)界,，都高度關(guān)注防范AI風(fēng)險方面并做出探索,。7月13日，中國出臺了首份生成式人工智能監(jiān)管發(fā)展文件《生成式人工智能服務(wù)管理暫行辦法》,，提出堅持發(fā)展和安全并重,、促進創(chuàng)新和依法治理相結(jié)合的原則。

奇安信集團副總裁張卓接受采訪時表示,，從《辦法》可以看出,，數(shù)據(jù)安全和隱私保護貫穿于生成式人工智能數(shù)據(jù)的標(biāo)注、模型預(yù)訓(xùn)練,、模型訓(xùn)練,、提供服務(wù)等各個環(huán)節(jié)，避免了監(jiān)管盲區(qū)導(dǎo)致的安全風(fēng)險,。

中國國內(nèi)啟明星辰,、天融信、深信服等公司嘗試把大語言模型用于網(wǎng)絡(luò)安全,。有些公司專門訓(xùn)練網(wǎng)絡(luò)安全領(lǐng)域垂直的大模型,，有些公司把大語言模型用于產(chǎn)品形態(tài)中。

如何管控大模型帶來的風(fēng)險現(xiàn)在還沒有答案,?！叭斯ぶ悄苊媾R失控風(fēng)險，但不用它是不可能的,，如何控制AI的使用,，確實是一個問題。”國家計算機網(wǎng)絡(luò)入侵防范中心主任張玉清表示,。

黃鐵軍表示,，AI越來越強，風(fēng)險與日俱增,。如何構(gòu)建安全的AI,，現(xiàn)在還沒有完整準(zhǔn)確的答案。面對AI越來越強的智能程度,，人類面臨全新的挑戰(zhàn),。(完)