本報記者 李暉 北京報道

人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的核心技術(shù),，正成為驅(qū)動新質(zhì)生產(chǎn)力的重要引擎,。

2024年政府工作報告中提到，深入推進(jìn)數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展，深化大數(shù)據(jù),、人工智能等研發(fā)應(yīng)用,，并首次提到開展 “人工智能＋”行動,。與此同時，政府工作報告也提出,，要進(jìn)一步提高網(wǎng)絡(luò),、數(shù)據(jù)等重點(diǎn)領(lǐng)域的安全保障能力。

我國一直高度重視人工智能的安全治理,。就在兩會前,，《生成式人工智能服務(wù)安全基本要求》發(fā)布，從技術(shù)層面為人工智能安全發(fā)展設(shè)置邊界,。

《中國經(jīng)營報》記者在2024年全國兩會期間采訪了解到,，多位代表委員針對人工智能安全發(fā)展帶來了建議，不少市場機(jī)構(gòu)也開始在AI+安全上加碼投入,。面對人工智能帶來的技術(shù)沖擊波,，除了依賴法律機(jī)制建設(shè)筑牢安全籬笆，市場也積極尋求通過“以技治技”,，推動人工智能在發(fā)展中不斷規(guī)范,。

警惕技術(shù)雙刃劍

隨著ChatGPT、Sora等大模型的開放和應(yīng)用,，AI生成技術(shù)使用的門檻持續(xù)降低,，也進(jìn)一步增加了各界對人工智能安全與合規(guī)的擔(dān)憂。網(wǎng)絡(luò)安全公司Darktrace報告顯示,，ChatGPT 這樣的生成式 AI 導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊增長135%,。

此外，“深度偽造”技術(shù)利用機(jī)器的深度學(xué)習(xí)，實(shí)現(xiàn)了圖像,、聲音,、視頻的篡改、偽造,，可產(chǎn)生高度逼真且難以辨識的內(nèi)容,，對公眾認(rèn)知和判斷造成嚴(yán)重干擾。

記者從一家權(quán)威機(jī)構(gòu)處獲悉,，過去兩年其開展了人臉識別安全評測情況統(tǒng)計(jì),。數(shù)據(jù)顯示,，多家機(jī)構(gòu)產(chǎn)品首次送檢突破概率高達(dá)71%,，二次突破概率也有25%。

“歷史經(jīng)驗(yàn)表明,，越是先進(jìn)的東西,，出現(xiàn)安全事故帶來的損失和影響就越大。數(shù)字工廠出現(xiàn)網(wǎng)絡(luò)安全事故,，損失遠(yuǎn)遠(yuǎn)大于傳統(tǒng)工廠,。”全國政協(xié)委員,、奇安信（688561.SH）董事長齊向東接受記者采訪時表示,。

在他看來，人工智能帶來了三大挑戰(zhàn)：一是AI投毒安全隱患加重,，攻擊者可以通過在訓(xùn)練數(shù)據(jù)中加入精心構(gòu)造的異常數(shù)據(jù),，破壞訓(xùn)練數(shù)據(jù)集的準(zhǔn)確性；二是數(shù)據(jù)篡改隱患加重,，AI的大規(guī)模內(nèi)容生產(chǎn)能力可能產(chǎn)生真假難辨的信息,，控制社交軟件乃至媒體的輿論聲音，激化意識形態(tài)矛盾,；三是數(shù)據(jù)泄露隱患加重,，在向人工智能投喂數(shù)據(jù)的過程中，也會產(chǎn)生商業(yè)機(jī)密泄露問題,，進(jìn)而導(dǎo)致企業(yè)喪失核心競爭力,。

上述挑戰(zhàn)也引發(fā)學(xué)界關(guān)注。中國社會科學(xué)院大學(xué)數(shù)字中國研究院近期發(fā)布的《數(shù)字時代安全科技價值報告》（以下簡稱《價值報告》）將AI安全風(fēng)險分為三類：第一類是人工智能系統(tǒng)內(nèi)部所產(chǎn)生的“內(nèi)生安全問題”,，如“數(shù)據(jù)有毒”“價值對齊”“決策黑盒”等問題,；第二類是“衍生安全問題”，比如生成假新聞,、深度合成偽造進(jìn)行詐騙或釣魚攻擊,，涉及隱私保護(hù)、國家安全、倫理道德等與社會治理有關(guān)的挑戰(zhàn)性問題,；第三類是“外生安全問題”,，即面向人工智能系統(tǒng)的外部網(wǎng)絡(luò)攻擊對抗。

中國社會科學(xué)院大學(xué)數(shù)字中國研究院執(zhí)行院長呂鵬認(rèn)為：有新技術(shù)的地方,，就有新的安全風(fēng)險,，兩者是不可分割的伴生關(guān)系。人工智能作為最具顛覆性和戰(zhàn)略性的核心關(guān)鍵技術(shù),，能夠幫助各行各業(yè)在數(shù)字化的基礎(chǔ)上進(jìn)一步實(shí)現(xiàn)智能化,，成為未來的發(fā)動機(jī)。而安全科技將作為方向盤,，始終將各種新興科技控制在向善的道路上,。

事實(shí)上，上述安全科技的提法與2024年政府工作報告中“人工智能+”與“提高網(wǎng)絡(luò),、數(shù)據(jù)等安全保障能力”的表述不謀而合,。

《價值報告》認(rèn)為：安全已成為AI產(chǎn)業(yè)發(fā)展的核心要素，安全科技具有“壓艙石”與“助燃劑”的兩重價值：“壓艙石”指的是守住技術(shù)的安全底線,，防御外部風(fēng)險隱患,，讓技術(shù)“難作惡”，支撐數(shù)字社會穩(wěn)步運(yùn)行,?！爸紕斌w現(xiàn)在提高技術(shù)的安全上限，降低技術(shù)運(yùn)行的成本,，讓產(chǎn)業(yè)煥發(fā)新機(jī),，讓更多人受益。

但需要看到,，當(dāng)前市場對于人工智能的安全治理以及“以技治技”能力還需持續(xù)探索,。

中國信息通信研究院自2019年起持續(xù)跟蹤人工智能+安全的技術(shù)和產(chǎn)業(yè)發(fā)展，目前已經(jīng)完成了不良信息檢測,、深度合成檢測,、生物特征識別安全等方面的標(biāo)準(zhǔn)規(guī)范十余份。

信通院人工智能研究中心安全與元宇宙部業(yè)務(wù)主管陳文弢向記者透露：當(dāng)前國內(nèi)企業(yè)對于如何將較為抽象的法律法規(guī),、倫理原則,，落實(shí)到技術(shù)、產(chǎn)品和應(yīng)用中較為困難,，尤其是在模型算法的全生命周期中能夠切實(shí)防范各類安全風(fēng)險尚存不足,。此外，產(chǎn)業(yè)界較為傾向于采取防御措施,，注重預(yù)防漏洞和抵御攻擊,，尚缺乏主動研發(fā)安全技術(shù),，探索“以技治技”的技術(shù)手段。

在齊向東看來,，解決AI帶來的安全問題,，既要發(fā)揮人的引領(lǐng)作用，也要充分利用極其強(qiáng)大的智能分析和自動研判能力,。他也建議：應(yīng)該大力推進(jìn)“AI＋安全”的科技創(chuàng)新能力,，把AI安全技術(shù)融入數(shù)字化場景當(dāng)中，鼓勵頭部企業(yè)與專業(yè)安全廠商在關(guān)鍵行業(yè)選取典型場景開展聯(lián)合創(chuàng)新,。鼓勵企業(yè)和高校把最新的AI科研成果和網(wǎng)絡(luò)安全攻防技術(shù)相融合,。

記者注意到，全國人大代表,、科大訊飛（002230.SZ）董事長劉慶峰在2024年全國兩會期間也提出：要瞄準(zhǔn)中國通用人工智能發(fā)展中需要重點(diǎn)補(bǔ)上的短板進(jìn)行設(shè)計(jì),，系統(tǒng)性制定國家層面的《通用人工智能發(fā)展規(guī)劃》。

針對安全問題,，他建議：圍繞大模型的數(shù)據(jù)安全,、隱私泄露,、可靠性,、知識產(chǎn)權(quán)等幾大關(guān)鍵方面制定法律法規(guī)，同時,，完善向社會開放的大模型的準(zhǔn)入和運(yùn)行規(guī)則,，明確責(zé)任分配與問責(zé)機(jī)制。

對于從事人工智能研發(fā)和應(yīng)用的市場機(jī)構(gòu),，風(fēng)險保障需要滲透到業(yè)務(wù)的每個環(huán)節(jié),。螞蟻集團(tuán)安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)在接受記者采訪時表示：保障AI技術(shù)的安全性與可靠性主要有三個關(guān)鍵環(huán)節(jié)：一是從訓(xùn)練數(shù)據(jù)源頭消毒，這些數(shù)據(jù)關(guān)乎AI技術(shù)應(yīng)用后是否公正,、有效,。二是做模型的可控質(zhì)檢及護(hù)欄加固，防止模型推理過程黑盒的不可控問題,；三是在具體應(yīng)用場景中,，面對外部誘導(dǎo)的對抗攻擊，做一些對抗攻擊的測試和防范,。

用AI解決AI帶來的安全問題

市場共識在于,，隨著全球?qū)θ斯ぶ悄馨踩卫淼闹匾暥忍嵘矔苿影踩I(lǐng)域更多技術(shù)發(fā)展和商業(yè)化服務(wù)的繁榮,。

陳文弢告訴記者,，近年來，人工智能已經(jīng)應(yīng)用在了眾多的安全場景中,，其中最典型的是不良信息檢測,、生物特征識別,、網(wǎng)絡(luò)安全等。

“比如不良信息檢測是使用內(nèi)容識別模型提取文本,、圖片,、音視頻中的特征，實(shí)現(xiàn)違法和不良信息的自動識別,，已經(jīng)廣泛應(yīng)用在了互聯(lián)網(wǎng)平臺中,；生物特征識別主要應(yīng)用在金融、安防等行業(yè)中,，通過比對人臉,、指紋、聲紋等實(shí)現(xiàn)身份的認(rèn)證,?！彼a(bǔ)充說。

記者注意到,，隨著大語言模型的快速發(fā)展,，一些市場機(jī)構(gòu)近年來已經(jīng)開始將大模型與網(wǎng)絡(luò)安全相結(jié)合，提升網(wǎng)絡(luò)威脅,、系統(tǒng)漏洞等方面防護(hù)的效率,，降低人工成本。

螞蟻集團(tuán)從2015年起投入可信AI技術(shù)的研究,，2016年全面啟動人工智能風(fēng)控防御戰(zhàn)略,。在去年9月其對外推出了業(yè)界首個大模型安全一體化解決方案“蟻天鑒”——包含大模型安全檢測平臺“蟻鑒”和大模型風(fēng)險防御平臺“天鑒”，目前已實(shí)現(xiàn)產(chǎn)業(yè)級應(yīng)用,。

據(jù)王維強(qiáng)介紹,，“蟻鑒”采用智能對抗技術(shù)自動生成百萬級測試集，提供大模型安全測評,、AI魯棒性及可解釋性測評,、AIGC（生成式人工智能）檢測等一站式測評；“天鑒”基于智能風(fēng)控技術(shù),，提供一體化實(shí)時的大模型安全防御,，可精確召回20多類提問風(fēng)險意圖，風(fēng)險召回率大于99%,。

在信貸類安全級別較高的場景,，這種用AI解決AI安全問題的方式也已付諸實(shí)踐。

“過去一年,，我們通過采用神經(jīng)網(wǎng)絡(luò)模型架構(gòu)進(jìn)行模型算子改造,，結(jié)合自動建模工具促進(jìn)模型深度理解潛在攻擊模式，將模型訓(xùn)練時間縮短至原來的1/10,，增強(qiáng)對新穎欺詐模式的識別能力,?！彼_摩耶?dāng)?shù)科創(chuàng)始人林建明向記者表示。

據(jù)其透露,，通過將深化預(yù)訓(xùn)練,、對抗學(xué)習(xí)、可解釋性技術(shù)與大模型API（應(yīng)用程序編程接口）能力融合,，公司模型基礎(chǔ)能力增加了66%,，提升攻擊防堵效率50%以上，避免欺詐損失近10億元,。

據(jù)悉,，奇富科技（03660.HK）于2023年實(shí)現(xiàn)了數(shù)據(jù)可信平臺，該平臺集成了數(shù)字水印,、隱私數(shù)據(jù)識別,、動態(tài)脫敏、分級審核等多種安全策略,。奇富科技大模型應(yīng)用負(fù)責(zé)人表示：提升AI模型的穩(wěn)定性和準(zhǔn)確性是關(guān)鍵,，需要通過不斷優(yōu)化算法和引入更多真實(shí)場景數(shù)據(jù)來降低機(jī)器幻覺的出現(xiàn)頻率。此外,，建立嚴(yán)格的合規(guī)管理體系至關(guān)重要,，包括制定詳細(xì)的合規(guī)政策、實(shí)施嚴(yán)格的合規(guī)審核以及定期進(jìn)行合規(guī)培訓(xùn)等,，以確保AI應(yīng)用符合相關(guān)法律法規(guī)的要求,。

在陳文弢看來,，各個行業(yè)的多個場景都對安全技術(shù)有著極大的需求,。同時，不斷發(fā)展的人工智能技術(shù)正在賦能安全技術(shù)和水平的快速提升,，整體看,，全球的人工智能+安全具有非常廣闊的市場和良好的發(fā)展前景。