《科創(chuàng)板日報》7月4日訊（記者 李明明） 近日,，由北京市人民政府聯(lián)合工業(yè)和信息化部,、國家網(wǎng)信辦,、商務(wù)部、中國科協(xié)共同主辦的2023全球數(shù)字經(jīng)濟大會人工智能高峰論壇舉辦,。清華大學(xué)計算機系長聘教授、清華大學(xué)人工智能研究院副院長、瑞萊智慧/生數(shù)科技首席科學(xué)家朱軍分享了對人工智能目前的發(fā)展狀態(tài)以及安全態(tài)勢的思考和探索,。

在朱軍看來,，ChatGPT的發(fā)展，可以追溯到1978年技術(shù)架構(gòu)的突破和GPT系列的發(fā)展,，去年年底Chat版本的發(fā)布,，從根本上解決了意圖理解和可用性、好用性的問題,。今年的發(fā)展速度會更快,。大模型的三個關(guān)鍵技術(shù)分為別內(nèi)容學(xué)習(xí)、思維鏈和指令學(xué)習(xí),，還有基于人類反饋的強化學(xué)習(xí),。

過去十年，人工智能最大的變化趨勢就是從小模型變成大模型,?！皺C器學(xué)習(xí)常用的模型的規(guī)模，發(fā)生了巨大的變化,，呈現(xiàn)指數(shù)型增長的趨勢,。最受關(guān)注的典型成果，就是ChatGPT大語言模型的橫空出世,。它解決過去機器學(xué)習(xí)模型從不好用到好用,，能夠理解意圖和上下文等等,，已經(jīng)成了人工智能最受關(guān)注、使用最廣泛的產(chǎn)品,?！彼f。

目前大眾非常關(guān)注多模態(tài)發(fā)展,，朱軍總結(jié)：首先以大腦為參照,，人是多模態(tài)感知的系統(tǒng)，天然希望能夠處理多模態(tài)數(shù)據(jù),。其次,，很多復(fù)雜工程問題中，也會遇到圖像,、文本,、語音，甚至是觸覺等等各種模態(tài)的數(shù)據(jù),，所以從應(yīng)用和理論上都需要關(guān)注多模態(tài)模型的發(fā)展,，可能這些是未來更強的技術(shù)基座形態(tài)?！澳壳皝砜?，文本的進展是相對最成熟的，其它模態(tài)也是快速發(fā)展的過程中,，圖像,、語音、視頻,、3D,，甚至包括分子結(jié)構(gòu)等等，大家都在嘗試訓(xùn)練和擁抱這種大規(guī)模預(yù)訓(xùn)練模型,?！?/p>

朱軍介紹，團隊在探索大模型如何解決垂直領(lǐng)域的一些問題,，即所謂的私域服務(wù),。與公域、通用域不同,，私域問題的聚焦度更集中,，提供的專業(yè)深度更強，對數(shù)據(jù)的要求也更高,。這些都是未來比較早的布局,，團隊也具有一定的優(yōu)勢。

談及大模型的安全風(fēng)險，他指出,，AIGC特別是ChatGPT出現(xiàn)以后,，安全問題越來越嚴重。大模型本身可能會對Prompt Injection（一種攻擊技術(shù)）攻擊風(fēng)險,，加入少量編輯就會被誤導(dǎo),，同時也存在數(shù)據(jù)泄露的風(fēng)險，ChatGPT會把很多隱私數(shù)據(jù)上傳?，F(xiàn)在還出現(xiàn)了用AIGC技術(shù)來提升詐騙手段,，通過虛假內(nèi)容來實現(xiàn)黑產(chǎn)攻擊，包括代碼生成實現(xiàn)網(wǎng)絡(luò)攻擊,。而且生成的虛假內(nèi)容本身是不良的，存在誤導(dǎo)性和欺騙性,。

“此外,，算法本身是否存在政治偏見和數(shù)字鴻溝，數(shù)據(jù)采集的過程中會不會侵犯知識產(chǎn)權(quán),，這些在大模型時代都在變得越來越重要和受關(guān)注,。”

因此,，國家對人工智能相關(guān)治理非常重視,，近期發(fā)布了一系列重要規(guī)定和法律，包括《AIGC服務(wù)管理辦法（征求意見稿）》《深核管理規(guī)定》等等,。

那么,，究竟有哪些思路和嘗試可以解決這些問題？

朱軍認為,，首先是從通過基礎(chǔ)理論研究突破,、提高內(nèi)在安全性能來持續(xù)構(gòu)建第三代人工智能。從人工智能基礎(chǔ)嘗試,，針對深度學(xué)習(xí),、深度神經(jīng)網(wǎng)絡(luò)，學(xué)術(shù)界一直在探索第三代人工智能新范式,，希望能夠?qū)?shù)據(jù)和知識有機融合在一起,，發(fā)展更加安全可靠的人工智能框架。

其次是不斷提升大模型安全評測能力,。主要關(guān)注對抗攻擊評測,、角色扮演與誘導(dǎo)欺騙評測、混淆指令欺騙評測等方面,。

三是構(gòu)建人工智能安全治理有效工具——人工智能安全靶場,。前期團隊對此做了探索，包括人工智能本身的安全平臺，安全評測,、防御和整個態(tài)勢的評估,，包括對抗樣本這些場景，可以通過平臺化方式,，對人工智能的算法和服務(wù)進行評測,。而特殊專業(yè)的應(yīng)用場景，可專門針對對抗樣本檢測,，偽造視頻檢測等等進行防護,，即人臉識別的防火墻，現(xiàn)在金融行業(yè)也在部署和應(yīng)用,。