本報記者 李暉 北京報道

人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的核心技術(shù),，正成為驅(qū)動新質(zhì)生產(chǎn)力的重要引擎,。

2024年政府工作報告中提到，深入推進數(shù)字經(jīng)濟創(chuàng)新發(fā)展,，深化大數(shù)據(jù),、人工智能等研發(fā)應(yīng)用，并首次提到開展 “人工智能＋”行動,。與此同時,，政府工作報告也提出，要進一步提高網(wǎng)絡(luò),、數(shù)據(jù)等重點領(lǐng)域的安全保障能力,。

我國一直高度重視人工智能的安全治理。就在兩會前,，《生成式人工智能服務(wù)安全基本要求》發(fā)布,，從技術(shù)層面為人工智能安全發(fā)展設(shè)置邊界。

《中國經(jīng)營報》記者在2024年全國兩會期間采訪了解到,，多位代表委員針對人工智能安全發(fā)展帶來了建議,，不少市場機構(gòu)也開始在AI+安全上加碼投入。面對人工智能帶來的技術(shù)沖擊波,，除了依賴法律機制建設(shè)筑牢安全籬笆,，市場也積極尋求通過“以技治技”，推動人工智能在發(fā)展中不斷規(guī)范,。

警惕技術(shù)雙刃劍

隨著ChatGPT,、Sora等大模型的開放和應(yīng)用，AI生成技術(shù)使用的門檻持續(xù)降低,，也進一步增加了各界對人工智能安全與合規(guī)的擔憂,。網(wǎng)絡(luò)安全公司Darktrace報告顯示，ChatGPT 這樣的生成式 AI 導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊增長135%,。

此外,，“深度偽造”技術(shù)利用機器的深度學(xué)習(xí)，實現(xiàn)了圖像,、聲音,、視頻的篡改,、偽造，可產(chǎn)生高度逼真且難以辨識的內(nèi)容,，對公眾認知和判斷造成嚴重干擾,。

記者從一家權(quán)威機構(gòu)處獲悉，過去兩年其開展了人臉識別安全評測情況統(tǒng)計,。數(shù)據(jù)顯示,，多家機構(gòu)產(chǎn)品首次送檢突破概率高達71%，二次突破概率也有25%,。

“歷史經(jīng)驗表明,，越是先進的東西，出現(xiàn)安全事故帶來的損失和影響就越大,。數(shù)字工廠出現(xiàn)網(wǎng)絡(luò)安全事故,，損失遠遠大于傳統(tǒng)工廠?！比珖f(xié)委員,、奇安信（688561.SH）董事長齊向東接受記者采訪時表示。

在他看來,，人工智能帶來了三大挑戰(zhàn)：一是AI投毒安全隱患加重,，攻擊者可以通過在訓(xùn)練數(shù)據(jù)中加入精心構(gòu)造的異常數(shù)據(jù)，破壞訓(xùn)練數(shù)據(jù)集的準確性,；二是數(shù)據(jù)篡改隱患加重,，AI的大規(guī)模內(nèi)容生產(chǎn)能力可能產(chǎn)生真假難辨的信息，控制社交軟件乃至媒體的輿論聲音,，激化意識形態(tài)矛盾,；三是數(shù)據(jù)泄露隱患加重，在向人工智能投喂數(shù)據(jù)的過程中,，也會產(chǎn)生商業(yè)機密泄露問題,，進而導(dǎo)致企業(yè)喪失核心競爭力。

上述挑戰(zhàn)也引發(fā)學(xué)界關(guān)注,。中國社會科學(xué)院大學(xué)數(shù)字中國研究院近期發(fā)布的《數(shù)字時代安全科技價值報告》（以下簡稱《價值報告》）將AI安全風(fēng)險分為三類：第一類是人工智能系統(tǒng)內(nèi)部所產(chǎn)生的“內(nèi)生安全問題”,，如“數(shù)據(jù)有毒”“價值對齊”“決策黑盒”等問題；第二類是“衍生安全問題”,，比如生成假新聞,、深度合成偽造進行詐騙或釣魚攻擊，涉及隱私保護,、國家安全,、倫理道德等與社會治理有關(guān)的挑戰(zhàn)性問題；第三類是“外生安全問題”，即面向人工智能系統(tǒng)的外部網(wǎng)絡(luò)攻擊對抗,。

中國社會科學(xué)院大學(xué)數(shù)字中國研究院執(zhí)行院長呂鵬認為：有新技術(shù)的地方,，就有新的安全風(fēng)險，兩者是不可分割的伴生關(guān)系,。人工智能作為最具顛覆性和戰(zhàn)略性的核心關(guān)鍵技術(shù),，能夠幫助各行各業(yè)在數(shù)字化的基礎(chǔ)上進一步實現(xiàn)智能化，成為未來的發(fā)動機,。而安全科技將作為方向盤,，始終將各種新興科技控制在向善的道路上。

事實上,，上述安全科技的提法與2024年政府工作報告中“人工智能+”與“提高網(wǎng)絡(luò)、數(shù)據(jù)等安全保障能力”的表述不謀而合,。

《價值報告》認為：安全已成為AI產(chǎn)業(yè)發(fā)展的核心要素,，安全科技具有“壓艙石”與“助燃劑”的兩重價值：“壓艙石”指的是守住技術(shù)的安全底線，防御外部風(fēng)險隱患,，讓技術(shù)“難作惡”,，支撐數(shù)字社會穩(wěn)步運行?！爸紕斌w現(xiàn)在提高技術(shù)的安全上限,，降低技術(shù)運行的成本，讓產(chǎn)業(yè)煥發(fā)新機,，讓更多人受益,。

但需要看到，當前市場對于人工智能的安全治理以及“以技治技”能力還需持續(xù)探索,。

中國信息通信研究院自2019年起持續(xù)跟蹤人工智能+安全的技術(shù)和產(chǎn)業(yè)發(fā)展,，目前已經(jīng)完成了不良信息檢測、深度合成檢測,、生物特征識別安全等方面的標準規(guī)范十余份,。

信通院人工智能研究中心安全與元宇宙部業(yè)務(wù)主管陳文弢向記者透露：當前國內(nèi)企業(yè)對于如何將較為抽象的法律法規(guī)、倫理原則,，落實到技術(shù),、產(chǎn)品和應(yīng)用中較為困難，尤其是在模型算法的全生命周期中能夠切實防范各類安全風(fēng)險尚存不足,。此外,，產(chǎn)業(yè)界較為傾向于采取防御措施，注重預(yù)防漏洞和抵御攻擊,，尚缺乏主動研發(fā)安全技術(shù),，探索“以技治技”的技術(shù)手段。

在齊向東看來，解決AI帶來的安全問題,，既要發(fā)揮人的引領(lǐng)作用,，也要充分利用極其強大的智能分析和自動研判能力。他也建議：應(yīng)該大力推進“AI＋安全”的科技創(chuàng)新能力,，把AI安全技術(shù)融入數(shù)字化場景當中,，鼓勵頭部企業(yè)與專業(yè)安全廠商在關(guān)鍵行業(yè)選取典型場景開展聯(lián)合創(chuàng)新。鼓勵企業(yè)和高校把最新的AI科研成果和網(wǎng)絡(luò)安全攻防技術(shù)相融合,。

記者注意到,，全國人大代表、科大訊飛（002230.SZ）董事長劉慶峰在2024年全國兩會期間也提出：要瞄準中國通用人工智能發(fā)展中需要重點補上的短板進行設(shè)計,，系統(tǒng)性制定國家層面的《通用人工智能發(fā)展規(guī)劃》,。

針對安全問題，他建議：圍繞大模型的數(shù)據(jù)安全,、隱私泄露,、可靠性、知識產(chǎn)權(quán)等幾大關(guān)鍵方面制定法律法規(guī),，同時,，完善向社會開放的大模型的準入和運行規(guī)則，明確責(zé)任分配與問責(zé)機制,。

對于從事人工智能研發(fā)和應(yīng)用的市場機構(gòu),，風(fēng)險保障需要滲透到業(yè)務(wù)的每個環(huán)節(jié)。螞蟻集團安全實驗室首席科學(xué)家王維強在接受記者采訪時表示：保障AI技術(shù)的安全性與可靠性主要有三個關(guān)鍵環(huán)節(jié)：一是從訓(xùn)練數(shù)據(jù)源頭消毒,，這些數(shù)據(jù)關(guān)乎AI技術(shù)應(yīng)用后是否公正,、有效。二是做模型的可控質(zhì)檢及護欄加固,，防止模型推理過程黑盒的不可控問題,；三是在具體應(yīng)用場景中，面對外部誘導(dǎo)的對抗攻擊,，做一些對抗攻擊的測試和防范,。

用AI解決AI帶來的安全問題

市場共識在于，隨著全球?qū)θ斯ぶ悄馨踩卫淼闹匾暥忍嵘?，也會推動安全領(lǐng)域更多技術(shù)發(fā)展和商業(yè)化服務(wù)的繁榮,。

陳文弢告訴記者，近年來,，人工智能已經(jīng)應(yīng)用在了眾多的安全場景中,，其中最典型的是不良信息檢測,、生物特征識別、網(wǎng)絡(luò)安全等,。

“比如不良信息檢測是使用內(nèi)容識別模型提取文本、圖片,、音視頻中的特征，實現(xiàn)違法和不良信息的自動識別,，已經(jīng)廣泛應(yīng)用在了互聯(lián)網(wǎng)平臺中；生物特征識別主要應(yīng)用在金融,、安防等行業(yè)中，通過比對人臉,、指紋、聲紋等實現(xiàn)身份的認證,?！彼a充說。

記者注意到,，隨著大語言模型的快速發(fā)展，一些市場機構(gòu)近年來已經(jīng)開始將大模型與網(wǎng)絡(luò)安全相結(jié)合,，提升網(wǎng)絡(luò)威脅、系統(tǒng)漏洞等方面防護的效率,，降低人工成本,。

螞蟻集團從2015年起投入可信AI技術(shù)的研究，2016年全面啟動人工智能風(fēng)控防御戰(zhàn)略,。在去年9月其對外推出了業(yè)界首個大模型安全一體化解決方案“蟻天鑒”——包含大模型安全檢測平臺“蟻鑒”和大模型風(fēng)險防御平臺“天鑒”,，目前已實現(xiàn)產(chǎn)業(yè)級應(yīng)用,。

據(jù)王維強介紹,，“蟻鑒”采用智能對抗技術(shù)自動生成百萬級測試集,，提供大模型安全測評,、AI魯棒性及可解釋性測評、AIGC（生成式人工智能）檢測等一站式測評,；“天鑒”基于智能風(fēng)控技術(shù),，提供一體化實時的大模型安全防御，可精確召回20多類提問風(fēng)險意圖,，風(fēng)險召回率大于99%。

在信貸類安全級別較高的場景,，這種用AI解決AI安全問題的方式也已付諸實踐,。

“過去一年，我們通過采用神經(jīng)網(wǎng)絡(luò)模型架構(gòu)進行模型算子改造,，結(jié)合自動建模工具促進模型深度理解潛在攻擊模式,，將模型訓(xùn)練時間縮短至原來的1/10，增強對新穎欺詐模式的識別能力,。”薩摩耶數(shù)科創(chuàng)始人林建明向記者表示,。

據(jù)其透露,，通過將深化預(yù)訓(xùn)練,、對抗學(xué)習(xí),、可解釋性技術(shù)與大模型API（應(yīng)用程序編程接口）能力融合,，公司模型基礎(chǔ)能力增加了66%，提升攻擊防堵效率50%以上,，避免欺詐損失近10億元,。

據(jù)悉，奇富科技（03660.HK）于2023年實現(xiàn)了數(shù)據(jù)可信平臺,，該平臺集成了數(shù)字水印,、隱私數(shù)據(jù)識別、動態(tài)脫敏,、分級審核等多種安全策略。奇富科技大模型應(yīng)用負責(zé)人表示：提升AI模型的穩(wěn)定性和準確性是關(guān)鍵,，需要通過不斷優(yōu)化算法和引入更多真實場景數(shù)據(jù)來降低機器幻覺的出現(xiàn)頻率,。此外，建立嚴格的合規(guī)管理體系至關(guān)重要,，包括制定詳細的合規(guī)政策,、實施嚴格的合規(guī)審核以及定期進行合規(guī)培訓(xùn)等，以確保AI應(yīng)用符合相關(guān)法律法規(guī)的要求,。

在陳文弢看來,，各個行業(yè)的多個場景都對安全技術(shù)有著極大的需求,。同時,，不斷發(fā)展的人工智能技術(shù)正在賦能安全技術(shù)和水平的快速提升,，整體看,，全球的人工智能+安全具有非常廣闊的市場和良好的發(fā)展前景。