《科創(chuàng)板日?qǐng)?bào)》7月4日訊（記者 李明明） 近日，由北京市人民政府聯(lián)合工業(yè)和信息化部,、國(guó)家網(wǎng)信辦,、商務(wù)部、中國(guó)科協(xié)共同主辦的2023全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能高峰論壇舉辦,。清華大學(xué)計(jì)算機(jī)系長(zhǎng)聘教授,、清華大學(xué)人工智能研究院副院長(zhǎng),、瑞萊智慧/生數(shù)科技首席科學(xué)家朱軍分享了對(duì)人工智能目前的發(fā)展?fàn)顟B(tài)以及安全態(tài)勢(shì)的思考和探索。

在朱軍看來,，ChatGPT的發(fā)展,，可以追溯到1978年技術(shù)架構(gòu)的突破和GPT系列的發(fā)展，去年年底Chat版本的發(fā)布,，從根本上解決了意圖理解和可用性,、好用性的問題。今年的發(fā)展速度會(huì)更快,。大模型的三個(gè)關(guān)鍵技術(shù)分為別內(nèi)容學(xué)習(xí),、思維鏈和指令學(xué)習(xí)，還有基于人類反饋的強(qiáng)化學(xué)習(xí),。

過去十年,，人工智能最大的變化趨勢(shì)就是從小模型變成大模型。“機(jī)器學(xué)習(xí)常用的模型的規(guī)模，發(fā)生了巨大的變化，呈現(xiàn)指數(shù)型增長(zhǎng)的趨勢(shì)。最受關(guān)注的典型成果,，就是ChatGPT大語言模型的橫空出世,。它解決過去機(jī)器學(xué)習(xí)模型從不好用到好用，能夠理解意圖和上下文等等,，已經(jīng)成了人工智能最受關(guān)注,、使用最廣泛的產(chǎn)品,?！彼f,。

目前大眾非常關(guān)注多模態(tài)發(fā)展，朱軍總結(jié)：首先以大腦為參照，人是多模態(tài)感知的系統(tǒng),，天然希望能夠處理多模態(tài)數(shù)據(jù),。其次,，很多復(fù)雜工程問題中,，也會(huì)遇到圖像,、文本,、語音,，甚至是觸覺等等各種模態(tài)的數(shù)據(jù)，所以從應(yīng)用和理論上都需要關(guān)注多模態(tài)模型的發(fā)展,，可能這些是未來更強(qiáng)的技術(shù)基座形態(tài),。“目前來看,，文本的進(jìn)展是相對(duì)最成熟的,，其它模態(tài)也是快速發(fā)展的過程中，圖像,、語音、視頻、3D，甚至包括分子結(jié)構(gòu)等等，大家都在嘗試訓(xùn)練和擁抱這種大規(guī)模預(yù)訓(xùn)練模型?！?/p>

朱軍介紹,，團(tuán)隊(duì)在探索大模型如何解決垂直領(lǐng)域的一些問題，即所謂的私域服務(wù),。與公域,、通用域不同,，私域問題的聚焦度更集中，提供的專業(yè)深度更強(qiáng),，對(duì)數(shù)據(jù)的要求也更高,。這些都是未來比較早的布局，團(tuán)隊(duì)也具有一定的優(yōu)勢(shì),。

談及大模型的安全風(fēng)險(xiǎn),，他指出，AIGC特別是ChatGPT出現(xiàn)以后,，安全問題越來越嚴(yán)重,。大模型本身可能會(huì)對(duì)Prompt Injection（一種攻擊技術(shù)）攻擊風(fēng)險(xiǎn),，加入少量編輯就會(huì)被誤導(dǎo)，同時(shí)也存在數(shù)據(jù)泄露的風(fēng)險(xiǎn),，ChatGPT會(huì)把很多隱私數(shù)據(jù)上傳?，F(xiàn)在還出現(xiàn)了用AIGC技術(shù)來提升詐騙手段，通過虛假內(nèi)容來實(shí)現(xiàn)黑產(chǎn)攻擊,，包括代碼生成實(shí)現(xiàn)網(wǎng)絡(luò)攻擊,。而且生成的虛假內(nèi)容本身是不良的，存在誤導(dǎo)性和欺騙性,。

“此外,，算法本身是否存在政治偏見和數(shù)字鴻溝，數(shù)據(jù)采集的過程中會(huì)不會(huì)侵犯知識(shí)產(chǎn)權(quán),，這些在大模型時(shí)代都在變得越來越重要和受關(guān)注,。”

因此,，國(guó)家對(duì)人工智能相關(guān)治理非常重視,，近期發(fā)布了一系列重要規(guī)定和法律，包括《AIGC服務(wù)管理辦法（征求意見稿）》《深核管理規(guī)定》等等,。

那么，究竟有哪些思路和嘗試可以解決這些問題,？

朱軍認(rèn)為,，首先是從通過基礎(chǔ)理論研究突破、提高內(nèi)在安全性能來持續(xù)構(gòu)建第三代人工智能,。從人工智能基礎(chǔ)嘗試,，針對(duì)深度學(xué)習(xí)、深度神經(jīng)網(wǎng)絡(luò),，學(xué)術(shù)界一直在探索第三代人工智能新范式,，希望能夠?qū)?shù)據(jù)和知識(shí)有機(jī)融合在一起，發(fā)展更加安全可靠的人工智能框架,。

其次是不斷提升大模型安全評(píng)測(cè)能力,。主要關(guān)注對(duì)抗攻擊評(píng)測(cè)、角色扮演與誘導(dǎo)欺騙評(píng)測(cè),、混淆指令欺騙評(píng)測(cè)等方面,。

三是構(gòu)建人工智能安全治理有效工具——人工智能安全靶場(chǎng)。前期團(tuán)隊(duì)對(duì)此做了探索,，包括人工智能本身的安全平臺(tái),，安全評(píng)測(cè)、防御和整個(gè)態(tài)勢(shì)的評(píng)估,，包括對(duì)抗樣本這些場(chǎng)景,，可以通過平臺(tái)化方式,，對(duì)人工智能的算法和服務(wù)進(jìn)行評(píng)測(cè)。而特殊專業(yè)的應(yīng)用場(chǎng)景,，可專門針對(duì)對(duì)抗樣本檢測(cè),，偽造視頻檢測(cè)等等進(jìn)行防護(hù)，即人臉識(shí)別的防火墻,，現(xiàn)在金融行業(yè)也在部署和應(yīng)用,。