文 / 本刊記者　齊力

近期，隨著ChatGPT走向火熱,，AI發(fā)展的核心組成——數(shù)據(jù)要素得到越來越多的關(guān)注,，數(shù)據(jù)安全被頻繁提起,。

今年兩會,，數(shù)字經(jīng)濟的發(fā)展定調(diào)不變,。發(fā)展和安全成為數(shù)字經(jīng)濟的一體之兩翼,。兩會的建議,、提案中,，關(guān)于人工智能、數(shù)據(jù)安全,、大模型ChatGPT等網(wǎng)絡(luò)空間安全領(lǐng)域的熱點詞匯高頻顯現(xiàn),。

圍繞數(shù)據(jù)安全的頂層設(shè)計

隨著數(shù)據(jù)安全愈發(fā)得到重視，數(shù)據(jù)安全已經(jīng)成為網(wǎng)絡(luò)安全領(lǐng)域最為熱門的新興領(lǐng)域,。

2022年12月,，中共中央、國務(wù)院正式發(fā)布《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》,，明確了堅持促進數(shù)據(jù)合規(guī)高效流通使用,、賦能實體經(jīng)濟這一主線。

今年1月,，工信部,、國家網(wǎng)信辦、國家發(fā)改委等16部門印發(fā)《關(guān)于促進數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》,，提出到2025年,，數(shù)據(jù)安全產(chǎn)業(yè)基礎(chǔ)能力和綜合實力明顯增強，數(shù)據(jù)安全產(chǎn)業(yè)規(guī)模超過1500億元,，加速數(shù)據(jù)要素市場培育和價值釋放,。2月末，中共中央,、國務(wù)院又印發(fā)了《數(shù)字中國整體布局規(guī)劃》,，明確了建設(shè)數(shù)字中國對于推進中國式現(xiàn)代化的核心地位，同時將數(shù)字安全屏障與數(shù)字技術(shù)創(chuàng)新體系并列為“兩大能力”,，凸顯了數(shù)據(jù)安全在數(shù)字中國中的核心和底座作用,。

然而，人工智能的高速發(fā)展及應(yīng)用,，使我們正在步入人工智能驅(qū)動的時代。大數(shù)據(jù)是人工智能技術(shù)研發(fā)和落地的基礎(chǔ),，隨著數(shù)據(jù)在各場景中被收集和利用,，數(shù)據(jù)安全和隱私保護面臨著巨大的風(fēng)險與挑戰(zhàn)。

財政部明確要求政企機構(gòu)在新增IT預(yù)算中10%用于網(wǎng)絡(luò)安全建設(shè),。目前我國網(wǎng)絡(luò)安全預(yù)算和發(fā)達國家有差距,，美國非國防聯(lián)邦機構(gòu)2023財年網(wǎng)安預(yù)算占IT預(yù)算比例為16.57%，而我國在3%左右,，差距較大,，需填平補齊。

全國政協(xié)委員,、奇安信董事長齊向東稱,，人工智能技術(shù)極大提高了生產(chǎn)力,，但也會提高黑客的攻擊水平,，帶來新的安全隱患。他表示,，這不僅是科學(xué)技術(shù)領(lǐng)域的問題,，還面臨著社會、倫理,、道德方面的考驗,，需要人類進一步研究探討。人工智能降低了黑客攻擊的門檻,，會讓攻擊的數(shù)量激增,，給網(wǎng)絡(luò)安全帶來巨大挑戰(zhàn)。他在提案中建議,，國家要制定標(biāo)準(zhǔn)規(guī)范,、明確網(wǎng)絡(luò)安全投入占比、建設(shè)縱深防御的內(nèi)生安全系統(tǒng),，以“零事故”目標(biāo),，筑牢網(wǎng)絡(luò)安全防線。

全國政協(xié)委員,、民建四川省委副主委,、西南財經(jīng)大學(xué)大數(shù)據(jù)研究院院長寇綱提出，人工智能通用基石模型依托海量數(shù)據(jù)庫信息存在,，可能帶來數(shù)據(jù)泄露,、虛假信息、版權(quán)侵權(quán)等隱患,。他建議,，修訂《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全審計法》等已有互聯(lián)網(wǎng)法律法規(guī),，明確人工智能通用基石模型及生成式AI技術(shù)和應(yīng)用中涉及政治、民族,、宗教和互聯(lián)網(wǎng)等相關(guān)的法律底線和紅線問題,。

人工智能帶來了哪些數(shù)據(jù)安全風(fēng)險,？

隨著數(shù)據(jù)在各場景中被收集和利用，數(shù)據(jù)安全和隱私保護面臨著巨大的風(fēng)險與挑戰(zhàn),。

談到人工智能給哪些人群帶來直接的挑戰(zhàn),，安永（中國）大中華區(qū)網(wǎng)絡(luò)安全與隱私保護咨詢服務(wù)主管合伙人高軼峰稱，隨著人工智能技術(shù)在企業(yè)的應(yīng)用與普及,，企業(yè)的涉密人員正在成為數(shù)據(jù)安全風(fēng)險的主要群體,，與智能對話機器人分享的機密信息可能被用于未來人工智能模型的迭代訓(xùn)練，這將可能會導(dǎo)致該模型輸出的內(nèi)容可能包含機密信息,，例如用戶隱私數(shù)據(jù),、企業(yè)機密數(shù)據(jù)等，從而造成敏感數(shù)據(jù)泄漏的風(fēng)險,。

2022年11月,，某國際大型電子商務(wù)公司律師就警告員工不要與智能對話機器人分享機密數(shù)據(jù)，因為這將會被其用來作為迭代訓(xùn)練的數(shù)據(jù),。2023年1月,，新一代人工智能對話機器人母公司一名員工在內(nèi)部論壇上詢問是否可以用智能對話機器人工作時，其首席技術(shù)官辦公室的一位高級程序員回復(fù),，只要不與其分享機密信息,，是可以被允許的。

高軼峰表示,，目前智能對話機器人的使用條款尚不明確,，其中雖然會提示用戶將收集使用過程中的信息，但并沒有說明收集信息的具體用途,；雖然承諾刪除所有個人身份信息,，但未說明刪除方式。這將會為人工智能企業(yè)帶來合規(guī)風(fēng)險,，同時為用戶帶來個人信息泄露或濫用的風(fēng)險,。

另外，還有其他一些場景會有個人信息泄露風(fēng)險,。如,，用戶與智能對話機器人交互過程中，可能會提供個人敏感信息，包括姓名,、電話,、地址等，還可能包括用戶的心理狀態(tài),、偏好等其他個人信息,。收集到的個人信息可能以實名或匿名的形式，流向模型的開發(fā)者,、數(shù)據(jù)標(biāo)注團隊,。這些數(shù)據(jù)有可能沒有進行人工過濾及標(biāo)注，并在輸出時可能包含這些個人信息,，從而使其他用戶可能獲得這些數(shù)據(jù),。

在模型訓(xùn)練場景中，用戶和智能對話機器人的所有交互數(shù)據(jù)都會被記錄,、分析,。通過用戶向機器人的不斷提問和機器人的不斷輸出，它們會得到充分的訓(xùn)練,，會更加全面地了解用戶,，這將會引發(fā)不法分子對用戶信息買賣的風(fēng)險，從而實現(xiàn)精準(zhǔn)營銷的商業(yè)目的,。

企業(yè)如何降低數(shù)據(jù)安全風(fēng)險,？

人工智能實現(xiàn)了科技的革新，同時也引發(fā)了上述數(shù)據(jù)安全風(fēng)險,。企業(yè)應(yīng)該如何在利用人工智能技術(shù)的同時降低數(shù)據(jù)安全風(fēng)險是值得思考的問題,。

針對縱深防御的內(nèi)生安全系統(tǒng)，齊向東解釋,，縱深是保證多道網(wǎng)絡(luò)安全防線聯(lián)動,，一道防線被突破，還有其他若干防線攔截攻擊,；內(nèi)生是把安全能力內(nèi)置到網(wǎng)絡(luò)的全鏈條中,，內(nèi)置到業(yè)務(wù)系統(tǒng)中，及時識別并阻斷網(wǎng)絡(luò)攻擊,。

安永建議,，企業(yè)在管理層面應(yīng)重視法律法規(guī)的落實，在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》的法律法規(guī)要求下,，應(yīng)關(guān)注并落實人工智能算法領(lǐng)域的法律法規(guī)及行業(yè)標(biāo)準(zhǔn)的延伸,，尤其是針對境內(nèi)提供類似對話服務(wù)的人工智能企業(yè)應(yīng)強化數(shù)據(jù)安全和個人信息濫用情況的監(jiān)管，避免利用真實個人信息數(shù)據(jù)進行模型訓(xùn)練而造成的個人信息泄露,、濫用等情形,。

同時,，生成式人工智能技術(shù)及產(chǎn)品的監(jiān)管必須將算法監(jiān)管和數(shù)據(jù)監(jiān)管結(jié)合起來。在算法監(jiān)管機制的未來探索中,，應(yīng)充分考慮算法決策的主體類型和作用類別,，并探索場景化和精細(xì)化的算法治理機制。此外,，通過定義不同類型的數(shù)據(jù)以確定各類數(shù)據(jù)的保護級別和保護措施,。對所有信息資產(chǎn)，包括硬件資產(chǎn),、軟件資產(chǎn)和數(shù)據(jù)資產(chǎn)等進行全面梳理,，為進一步對敏感數(shù)據(jù)分析、數(shù)據(jù)保護措施的制定,、數(shù)據(jù)泄露風(fēng)險監(jiān)測做好基礎(chǔ)準(zhǔn)備,。

在技術(shù)層面，安永建議,，企業(yè)利用技術(shù)工具,，例如使用自動化監(jiān)控、沙盒,、行為分析等技術(shù)或攻擊,，抵御各種高級惡意軟件；針對黑客經(jīng)常利用編寫不當(dāng)?shù)拇a來尋找漏洞,，可能會導(dǎo)致系統(tǒng)崩潰或泄漏數(shù)據(jù),，NLP/NLC算法可能會發(fā)現(xiàn)這些可利用的缺陷并生成警報；通過研究智能機器人編寫釣魚郵件的語言模型與規(guī)律,，分析傳入的外部電子郵件和消息的文本,，從而檢測出新的網(wǎng)絡(luò)釣魚嘗試；將人工智能語言模型用作分析,，從各種社交媒體等數(shù)據(jù)源來分析并識別潛在的網(wǎng)絡(luò)威脅,，并了解攻擊者使用的戰(zhàn)術(shù)、技術(shù)及程序,；通過對網(wǎng)絡(luò)威脅情報的識別,，可以使用它進行自動響應(yīng)，例如阻止IP地址或關(guān)閉服務(wù)等,。