文 / 本刊記者　齊力

近期,，隨著ChatGPT走向火熱,，AI發(fā)展的核心組成——數(shù)據(jù)要素得到越來越多的關(guān)注,，數(shù)據(jù)安全被頻繁提起,。

今年兩會(huì),，數(shù)字經(jīng)濟(jì)的發(fā)展定調(diào)不變,。發(fā)展和安全成為數(shù)字經(jīng)濟(jì)的一體之兩翼,。兩會(huì)的建議,、提案中，關(guān)于人工智能,、數(shù)據(jù)安全,、大模型ChatGPT等網(wǎng)絡(luò)空間安全領(lǐng)域的熱點(diǎn)詞匯高頻顯現(xiàn)。

圍繞數(shù)據(jù)安全的頂層設(shè)計(jì)

隨著數(shù)據(jù)安全愈發(fā)得到重視,，數(shù)據(jù)安全已經(jīng)成為網(wǎng)絡(luò)安全領(lǐng)域最為熱門的新興領(lǐng)域,。

2022年12月，中共中央,、國務(wù)院正式發(fā)布《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》,，明確了堅(jiān)持促進(jìn)數(shù)據(jù)合規(guī)高效流通使用、賦能實(shí)體經(jīng)濟(jì)這一主線,。

今年1月,，工信部、國家網(wǎng)信辦,、國家發(fā)改委等16部門印發(fā)《關(guān)于促進(jìn)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》,，提出到2025年，數(shù)據(jù)安全產(chǎn)業(yè)基礎(chǔ)能力和綜合實(shí)力明顯增強(qiáng),，數(shù)據(jù)安全產(chǎn)業(yè)規(guī)模超過1500億元,，加速數(shù)據(jù)要素市場培育和價(jià)值釋放。2月末,，中共中央、國務(wù)院又印發(fā)了《數(shù)字中國整體布局規(guī)劃》,，明確了建設(shè)數(shù)字中國對(duì)于推進(jìn)中國式現(xiàn)代化的核心地位,，同時(shí)將數(shù)字安全屏障與數(shù)字技術(shù)創(chuàng)新體系并列為“兩大能力”，凸顯了數(shù)據(jù)安全在數(shù)字中國中的核心和底座作用,。

然而,，人工智能的高速發(fā)展及應(yīng)用,，使我們正在步入人工智能驅(qū)動(dòng)的時(shí)代,。大數(shù)據(jù)是人工智能技術(shù)研發(fā)和落地的基礎(chǔ)，隨著數(shù)據(jù)在各場景中被收集和利用,，數(shù)據(jù)安全和隱私保護(hù)面臨著巨大的風(fēng)險(xiǎn)與挑戰(zhàn),。

財(cái)政部明確要求政企機(jī)構(gòu)在新增IT預(yù)算中10%用于網(wǎng)絡(luò)安全建設(shè)。目前我國網(wǎng)絡(luò)安全預(yù)算和發(fā)達(dá)國家有差距,，美國非國防聯(lián)邦機(jī)構(gòu)2023財(cái)年網(wǎng)安預(yù)算占IT預(yù)算比例為16.57%,，而我國在3%左右，差距較大,，需填平補(bǔ)齊,。

全國政協(xié)委員、奇安信董事長齊向東稱,，人工智能技術(shù)極大提高了生產(chǎn)力,，但也會(huì)提高黑客的攻擊水平，帶來新的安全隱患,。他表示,，這不僅是科學(xué)技術(shù)領(lǐng)域的問題，還面臨著社會(huì),、倫理,、道德方面的考驗(yàn)，需要人類進(jìn)一步研究探討,。人工智能降低了黑客攻擊的門檻,，會(huì)讓攻擊的數(shù)量激增，給網(wǎng)絡(luò)安全帶來巨大挑戰(zhàn),。他在提案中建議,，國家要制定標(biāo)準(zhǔn)規(guī)范、明確網(wǎng)絡(luò)安全投入占比,、建設(shè)縱深防御的內(nèi)生安全系統(tǒng),，以“零事故”目標(biāo),，筑牢網(wǎng)絡(luò)安全防線。

全國政協(xié)委員,、民建四川省委副主委,、西南財(cái)經(jīng)大學(xué)大數(shù)據(jù)研究院院長寇綱提出，人工智能通用基石模型依托海量數(shù)據(jù)庫信息存在,，可能帶來數(shù)據(jù)泄露,、虛假信息、版權(quán)侵權(quán)等隱患,。他建議,，修訂《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全審計(jì)法》等已有互聯(lián)網(wǎng)法律法規(guī)，明確人工智能通用基石模型及生成式AI技術(shù)和應(yīng)用中涉及政治,、民族,、宗教和互聯(lián)網(wǎng)等相關(guān)的法律底線和紅線問題。

人工智能帶來了哪些數(shù)據(jù)安全風(fēng)險(xiǎn)？

隨著數(shù)據(jù)在各場景中被收集和利用,，數(shù)據(jù)安全和隱私保護(hù)面臨著巨大的風(fēng)險(xiǎn)與挑戰(zhàn),。

談到人工智能給哪些人群帶來直接的挑戰(zhàn)，安永（中國）大中華區(qū)網(wǎng)絡(luò)安全與隱私保護(hù)咨詢服務(wù)主管合伙人高軼峰稱,，隨著人工智能技術(shù)在企業(yè)的應(yīng)用與普及,，企業(yè)的涉密人員正在成為數(shù)據(jù)安全風(fēng)險(xiǎn)的主要群體，與智能對(duì)話機(jī)器人分享的機(jī)密信息可能被用于未來人工智能模型的迭代訓(xùn)練,，這將可能會(huì)導(dǎo)致該模型輸出的內(nèi)容可能包含機(jī)密信息,，例如用戶隱私數(shù)據(jù)、企業(yè)機(jī)密數(shù)據(jù)等,，從而造成敏感數(shù)據(jù)泄漏的風(fēng)險(xiǎn),。

2022年11月，某國際大型電子商務(wù)公司律師就警告員工不要與智能對(duì)話機(jī)器人分享機(jī)密數(shù)據(jù),，因?yàn)檫@將會(huì)被其用來作為迭代訓(xùn)練的數(shù)據(jù),。2023年1月，新一代人工智能對(duì)話機(jī)器人母公司一名員工在內(nèi)部論壇上詢問是否可以用智能對(duì)話機(jī)器人工作時(shí),，其首席技術(shù)官辦公室的一位高級(jí)程序員回復(fù),，只要不與其分享機(jī)密信息，是可以被允許的,。

高軼峰表示,，目前智能對(duì)話機(jī)器人的使用條款尚不明確,，其中雖然會(huì)提示用戶將收集使用過程中的信息,，但并沒有說明收集信息的具體用途,；雖然承諾刪除所有個(gè)人身份信息，但未說明刪除方式,。這將會(huì)為人工智能企業(yè)帶來合規(guī)風(fēng)險(xiǎn),，同時(shí)為用戶帶來個(gè)人信息泄露或?yàn)E用的風(fēng)險(xiǎn)。

另外,，還有其他一些場景會(huì)有個(gè)人信息泄露風(fēng)險(xiǎn),。如，用戶與智能對(duì)話機(jī)器人交互過程中,，可能會(huì)提供個(gè)人敏感信息,，包括姓名、電話,、地址等,，還可能包括用戶的心理狀態(tài)、偏好等其他個(gè)人信息,。收集到的個(gè)人信息可能以實(shí)名或匿名的形式,，流向模型的開發(fā)者、數(shù)據(jù)標(biāo)注團(tuán)隊(duì),。這些數(shù)據(jù)有可能沒有進(jìn)行人工過濾及標(biāo)注,，并在輸出時(shí)可能包含這些個(gè)人信息，從而使其他用戶可能獲得這些數(shù)據(jù),。

在模型訓(xùn)練場景中,，用戶和智能對(duì)話機(jī)器人的所有交互數(shù)據(jù)都會(huì)被記錄、分析,。通過用戶向機(jī)器人的不斷提問和機(jī)器人的不斷輸出,，它們會(huì)得到充分的訓(xùn)練，會(huì)更加全面地了解用戶,，這將會(huì)引發(fā)不法分子對(duì)用戶信息買賣的風(fēng)險(xiǎn),，從而實(shí)現(xiàn)精準(zhǔn)營銷的商業(yè)目的。

企業(yè)如何降低數(shù)據(jù)安全風(fēng)險(xiǎn)？

人工智能實(shí)現(xiàn)了科技的革新,，同時(shí)也引發(fā)了上述數(shù)據(jù)安全風(fēng)險(xiǎn),。企業(yè)應(yīng)該如何在利用人工智能技術(shù)的同時(shí)降低數(shù)據(jù)安全風(fēng)險(xiǎn)是值得思考的問題。

針對(duì)縱深防御的內(nèi)生安全系統(tǒng),，齊向東解釋,，縱深是保證多道網(wǎng)絡(luò)安全防線聯(lián)動(dòng)，一道防線被突破,，還有其他若干防線攔截攻擊,；內(nèi)生是把安全能力內(nèi)置到網(wǎng)絡(luò)的全鏈條中,，內(nèi)置到業(yè)務(wù)系統(tǒng)中，及時(shí)識(shí)別并阻斷網(wǎng)絡(luò)攻擊,。

安永建議,，企業(yè)在管理層面應(yīng)重視法律法規(guī)的落實(shí)，在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》的法律法規(guī)要求下,，應(yīng)關(guān)注并落實(shí)人工智能算法領(lǐng)域的法律法規(guī)及行業(yè)標(biāo)準(zhǔn)的延伸,，尤其是針對(duì)境內(nèi)提供類似對(duì)話服務(wù)的人工智能企業(yè)應(yīng)強(qiáng)化數(shù)據(jù)安全和個(gè)人信息濫用情況的監(jiān)管，避免利用真實(shí)個(gè)人信息數(shù)據(jù)進(jìn)行模型訓(xùn)練而造成的個(gè)人信息泄露,、濫用等情形,。

同時(shí)，生成式人工智能技術(shù)及產(chǎn)品的監(jiān)管必須將算法監(jiān)管和數(shù)據(jù)監(jiān)管結(jié)合起來,。在算法監(jiān)管機(jī)制的未來探索中,，應(yīng)充分考慮算法決策的主體類型和作用類別，并探索場景化和精細(xì)化的算法治理機(jī)制,。此外,，通過定義不同類型的數(shù)據(jù)以確定各類數(shù)據(jù)的保護(hù)級(jí)別和保護(hù)措施。對(duì)所有信息資產(chǎn),，包括硬件資產(chǎn),、軟件資產(chǎn)和數(shù)據(jù)資產(chǎn)等進(jìn)行全面梳理，為進(jìn)一步對(duì)敏感數(shù)據(jù)分析,、數(shù)據(jù)保護(hù)措施的制定,、數(shù)據(jù)泄露風(fēng)險(xiǎn)監(jiān)測做好基礎(chǔ)準(zhǔn)備。

在技術(shù)層面,，安永建議,，企業(yè)利用技術(shù)工具，例如使用自動(dòng)化監(jiān)控,、沙盒,、行為分析等技術(shù)或攻擊，抵御各種高級(jí)惡意軟件,；針對(duì)黑客經(jīng)常利用編寫不當(dāng)?shù)拇a來尋找漏洞,，可能會(huì)導(dǎo)致系統(tǒng)崩潰或泄漏數(shù)據(jù)，NLP/NLC算法可能會(huì)發(fā)現(xiàn)這些可利用的缺陷并生成警報(bào),；通過研究智能機(jī)器人編寫釣魚郵件的語言模型與規(guī)律,，分析傳入的外部電子郵件和消息的文本，從而檢測出新的網(wǎng)絡(luò)釣魚嘗試,；將人工智能語言模型用作分析,，從各種社交媒體等數(shù)據(jù)源來分析并識(shí)別潛在的網(wǎng)絡(luò)威脅，并了解攻擊者使用的戰(zhàn)術(shù)、技術(shù)及程序,；通過對(duì)網(wǎng)絡(luò)威脅情報(bào)的識(shí)別,，可以使用它進(jìn)行自動(dòng)響應(yīng)，例如阻止IP地址或關(guān)閉服務(wù)等,。