文 / 本刊記者　齊力

近期，隨著ChatGPT走向火熱，AI發(fā)展的核心組成——數(shù)據(jù)要素得到越來(lái)越多的關(guān)注,，數(shù)據(jù)安全被頻繁提起。

今年兩會(huì),，數(shù)字經(jīng)濟(jì)的發(fā)展定調(diào)不變,。發(fā)展和安全成為數(shù)字經(jīng)濟(jì)的一體之兩翼。兩會(huì)的建議,、提案中,，關(guān)于人工智能、數(shù)據(jù)安全,、大模型ChatGPT等網(wǎng)絡(luò)空間安全領(lǐng)域的熱點(diǎn)詞匯高頻顯現(xiàn),。

圍繞數(shù)據(jù)安全的頂層設(shè)計(jì)

隨著數(shù)據(jù)安全愈發(fā)得到重視，數(shù)據(jù)安全已經(jīng)成為網(wǎng)絡(luò)安全領(lǐng)域最為熱門的新興領(lǐng)域,。

2022年12月,，中共中央、國(guó)務(wù)院正式發(fā)布《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》,，明確了堅(jiān)持促進(jìn)數(shù)據(jù)合規(guī)高效流通使用,、賦能實(shí)體經(jīng)濟(jì)這一主線。

今年1月,，工信部,、國(guó)家網(wǎng)信辦、國(guó)家發(fā)改委等16部門印發(fā)《關(guān)于促進(jìn)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》,，提出到2025年,，數(shù)據(jù)安全產(chǎn)業(yè)基礎(chǔ)能力和綜合實(shí)力明顯增強(qiáng)，數(shù)據(jù)安全產(chǎn)業(yè)規(guī)模超過(guò)1500億元,，加速數(shù)據(jù)要素市場(chǎng)培育和價(jià)值釋放,。2月末，中共中央,、國(guó)務(wù)院又印發(fā)了《數(shù)字中國(guó)整體布局規(guī)劃》,，明確了建設(shè)數(shù)字中國(guó)對(duì)于推進(jìn)中國(guó)式現(xiàn)代化的核心地位，同時(shí)將數(shù)字安全屏障與數(shù)字技術(shù)創(chuàng)新體系并列為“兩大能力”,，凸顯了數(shù)據(jù)安全在數(shù)字中國(guó)中的核心和底座作用,。

然而，人工智能的高速發(fā)展及應(yīng)用,，使我們正在步入人工智能驅(qū)動(dòng)的時(shí)代。大數(shù)據(jù)是人工智能技術(shù)研發(fā)和落地的基礎(chǔ),，隨著數(shù)據(jù)在各場(chǎng)景中被收集和利用,，數(shù)據(jù)安全和隱私保護(hù)面臨著巨大的風(fēng)險(xiǎn)與挑戰(zhàn)。

財(cái)政部明確要求政企機(jī)構(gòu)在新增IT預(yù)算中10%用于網(wǎng)絡(luò)安全建設(shè),。目前我國(guó)網(wǎng)絡(luò)安全預(yù)算和發(fā)達(dá)國(guó)家有差距,，美國(guó)非國(guó)防聯(lián)邦機(jī)構(gòu)2023財(cái)年網(wǎng)安預(yù)算占IT預(yù)算比例為16.57%，而我國(guó)在3%左右,，差距較大,，需填平補(bǔ)齊。

全國(guó)政協(xié)委員,、奇安信董事長(zhǎng)齊向東稱,，人工智能技術(shù)極大提高了生產(chǎn)力，但也會(huì)提高黑客的攻擊水平,，帶來(lái)新的安全隱患,。他表示，這不僅是科學(xué)技術(shù)領(lǐng)域的問(wèn)題,，還面臨著社會(huì),、倫理、道德方面的考驗(yàn),，需要人類進(jìn)一步研究探討,。人工智能降低了黑客攻擊的門檻，會(huì)讓攻擊的數(shù)量激增,，給網(wǎng)絡(luò)安全帶來(lái)巨大挑戰(zhàn),。他在提案中建議，國(guó)家要制定標(biāo)準(zhǔn)規(guī)范,、明確網(wǎng)絡(luò)安全投入占比,、建設(shè)縱深防御的內(nèi)生安全系統(tǒng),，以“零事故”目標(biāo)，筑牢網(wǎng)絡(luò)安全防線,。

全國(guó)政協(xié)委員、民建四川省委副主委,、西南財(cái)經(jīng)大學(xué)大數(shù)據(jù)研究院院長(zhǎng)寇綱提出,，人工智能通用基石模型依托海量數(shù)據(jù)庫(kù)信息存在，可能帶來(lái)數(shù)據(jù)泄露,、虛假信息,、版權(quán)侵權(quán)等隱患。他建議,，修訂《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全審計(jì)法》等已有互聯(lián)網(wǎng)法律法規(guī),，明確人工智能通用基石模型及生成式AI技術(shù)和應(yīng)用中涉及政治、民族,、宗教和互聯(lián)網(wǎng)等相關(guān)的法律底線和紅線問(wèn)題,。

人工智能帶來(lái)了哪些數(shù)據(jù)安全風(fēng)險(xiǎn),？

隨著數(shù)據(jù)在各場(chǎng)景中被收集和利用，數(shù)據(jù)安全和隱私保護(hù)面臨著巨大的風(fēng)險(xiǎn)與挑戰(zhàn),。

談到人工智能給哪些人群帶來(lái)直接的挑戰(zhàn),，安永（中國(guó)）大中華區(qū)網(wǎng)絡(luò)安全與隱私保護(hù)咨詢服務(wù)主管合伙人高軼峰稱，隨著人工智能技術(shù)在企業(yè)的應(yīng)用與普及,，企業(yè)的涉密人員正在成為數(shù)據(jù)安全風(fēng)險(xiǎn)的主要群體,，與智能對(duì)話機(jī)器人分享的機(jī)密信息可能被用于未來(lái)人工智能模型的迭代訓(xùn)練，這將可能會(huì)導(dǎo)致該模型輸出的內(nèi)容可能包含機(jī)密信息,，例如用戶隱私數(shù)據(jù),、企業(yè)機(jī)密數(shù)據(jù)等，從而造成敏感數(shù)據(jù)泄漏的風(fēng)險(xiǎn),。

2022年11月,，某國(guó)際大型電子商務(wù)公司律師就警告員工不要與智能對(duì)話機(jī)器人分享機(jī)密數(shù)據(jù)，因?yàn)檫@將會(huì)被其用來(lái)作為迭代訓(xùn)練的數(shù)據(jù),。2023年1月,，新一代人工智能對(duì)話機(jī)器人母公司一名員工在內(nèi)部論壇上詢問(wèn)是否可以用智能對(duì)話機(jī)器人工作時(shí)，其首席技術(shù)官辦公室的一位高級(jí)程序員回復(fù),，只要不與其分享機(jī)密信息,，是可以被允許的。

高軼峰表示,，目前智能對(duì)話機(jī)器人的使用條款尚不明確,，其中雖然會(huì)提示用戶將收集使用過(guò)程中的信息,，但并沒(méi)有說(shuō)明收集信息的具體用途；雖然承諾刪除所有個(gè)人身份信息,，但未說(shuō)明刪除方式,。這將會(huì)為人工智能企業(yè)帶來(lái)合規(guī)風(fēng)險(xiǎn)，同時(shí)為用戶帶來(lái)個(gè)人信息泄露或?yàn)E用的風(fēng)險(xiǎn),。

另外,，還有其他一些場(chǎng)景會(huì)有個(gè)人信息泄露風(fēng)險(xiǎn)。如,，用戶與智能對(duì)話機(jī)器人交互過(guò)程中,，可能會(huì)提供個(gè)人敏感信息，包括姓名,、電話,、地址等，還可能包括用戶的心理狀態(tài),、偏好等其他個(gè)人信息,。收集到的個(gè)人信息可能以實(shí)名或匿名的形式，流向模型的開發(fā)者,、數(shù)據(jù)標(biāo)注團(tuán)隊(duì),。這些數(shù)據(jù)有可能沒(méi)有進(jìn)行人工過(guò)濾及標(biāo)注，并在輸出時(shí)可能包含這些個(gè)人信息,，從而使其他用戶可能獲得這些數(shù)據(jù),。

在模型訓(xùn)練場(chǎng)景中，用戶和智能對(duì)話機(jī)器人的所有交互數(shù)據(jù)都會(huì)被記錄,、分析,。通過(guò)用戶向機(jī)器人的不斷提問(wèn)和機(jī)器人的不斷輸出，它們會(huì)得到充分的訓(xùn)練,，會(huì)更加全面地了解用戶,，這將會(huì)引發(fā)不法分子對(duì)用戶信息買賣的風(fēng)險(xiǎn)，從而實(shí)現(xiàn)精準(zhǔn)營(yíng)銷的商業(yè)目的,。

企業(yè)如何降低數(shù)據(jù)安全風(fēng)險(xiǎn),？

人工智能實(shí)現(xiàn)了科技的革新,，同時(shí)也引發(fā)了上述數(shù)據(jù)安全風(fēng)險(xiǎn)。企業(yè)應(yīng)該如何在利用人工智能技術(shù)的同時(shí)降低數(shù)據(jù)安全風(fēng)險(xiǎn)是值得思考的問(wèn)題,。

針對(duì)縱深防御的內(nèi)生安全系統(tǒng),，齊向東解釋，縱深是保證多道網(wǎng)絡(luò)安全防線聯(lián)動(dòng),，一道防線被突破,，還有其他若干防線攔截攻擊,；內(nèi)生是把安全能力內(nèi)置到網(wǎng)絡(luò)的全鏈條中，內(nèi)置到業(yè)務(wù)系統(tǒng)中,，及時(shí)識(shí)別并阻斷網(wǎng)絡(luò)攻擊,。

安永建議，企業(yè)在管理層面應(yīng)重視法律法規(guī)的落實(shí),，在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》的法律法規(guī)要求下,，應(yīng)關(guān)注并落實(shí)人工智能算法領(lǐng)域的法律法規(guī)及行業(yè)標(biāo)準(zhǔn)的延伸，尤其是針對(duì)境內(nèi)提供類似對(duì)話服務(wù)的人工智能企業(yè)應(yīng)強(qiáng)化數(shù)據(jù)安全和個(gè)人信息濫用情況的監(jiān)管,，避免利用真實(shí)個(gè)人信息數(shù)據(jù)進(jìn)行模型訓(xùn)練而造成的個(gè)人信息泄露、濫用等情形,。

同時(shí),，生成式人工智能技術(shù)及產(chǎn)品的監(jiān)管必須將算法監(jiān)管和數(shù)據(jù)監(jiān)管結(jié)合起來(lái)。在算法監(jiān)管機(jī)制的未來(lái)探索中,，應(yīng)充分考慮算法決策的主體類型和作用類別,，并探索場(chǎng)景化和精細(xì)化的算法治理機(jī)制。此外,，通過(guò)定義不同類型的數(shù)據(jù)以確定各類數(shù)據(jù)的保護(hù)級(jí)別和保護(hù)措施,。對(duì)所有信息資產(chǎn)，包括硬件資產(chǎn),、軟件資產(chǎn)和數(shù)據(jù)資產(chǎn)等進(jìn)行全面梳理,，為進(jìn)一步對(duì)敏感數(shù)據(jù)分析、數(shù)據(jù)保護(hù)措施的制定,、數(shù)據(jù)泄露風(fēng)險(xiǎn)監(jiān)測(cè)做好基礎(chǔ)準(zhǔn)備,。

在技術(shù)層面，安永建議,，企業(yè)利用技術(shù)工具,，例如使用自動(dòng)化監(jiān)控、沙盒,、行為分析等技術(shù)或攻擊,，抵御各種高級(jí)惡意軟件；針對(duì)黑客經(jīng)常利用編寫不當(dāng)?shù)拇a來(lái)尋找漏洞,，可能會(huì)導(dǎo)致系統(tǒng)崩潰或泄漏數(shù)據(jù),，NLP/NLC算法可能會(huì)發(fā)現(xiàn)這些可利用的缺陷并生成警報(bào)；通過(guò)研究智能機(jī)器人編寫釣魚郵件的語(yǔ)言模型與規(guī)律,，分析傳入的外部電子郵件和消息的文本,，從而檢測(cè)出新的網(wǎng)絡(luò)釣魚嘗試；將人工智能語(yǔ)言模型用作分析,，從各種社交媒體等數(shù)據(jù)源來(lái)分析并識(shí)別潛在的網(wǎng)絡(luò)威脅,，并了解攻擊者使用的戰(zhàn)術(shù),、技術(shù)及程序；通過(guò)對(duì)網(wǎng)絡(luò)威脅情報(bào)的識(shí)別,，可以使用它進(jìn)行自動(dòng)響應(yīng),，例如阻止IP地址或關(guān)閉服務(wù)等。