近日,，國家網(wǎng)信辦聯(lián)手國家發(fā)展改革委,、教育部、科技部,、工業(yè)和信息化部,、公安部、廣電總局,，共同發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》）,。管理新規(guī)將于2023年8月15日開始執(zhí)行。

《辦法》明確了對生成式人工智能的數(shù)據(jù)安全治理規(guī)范,，對預(yù)訓(xùn)練、優(yōu)化訓(xùn)練階段的數(shù)據(jù)處理活動,，涉侵犯個人信息,、知識產(chǎn)權(quán)問題，數(shù)據(jù)來源合法性,，數(shù)據(jù)內(nèi)容真實(shí)性,、準(zhǔn)確性等“數(shù)據(jù)源風(fēng)險(xiǎn)”提出了明確的要求。

在AI監(jiān)管趨嚴(yán)的背景下,，安恒信息(688023)高級副總裁,、首席科學(xué)家劉博在參加2023世界人工智能大會時曾表示：“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行，才能有效保障人工智能更可靠,、更安全地服務(wù)于企業(yè)”,。

AI利刃有風(fēng)險(xiǎn) 數(shù)據(jù)分類勇迎挑戰(zhàn)

安恒信息是國內(nèi)領(lǐng)先的新一代網(wǎng)絡(luò)安全服務(wù)商，公司主營業(yè)務(wù)包括數(shù)據(jù)安全,、信創(chuàng)安全,、密碼安全、MSS和終端安全等業(yè)務(wù),。公司致力于持續(xù)為AI新監(jiān)管,、數(shù)字經(jīng)濟(jì)、數(shù)字政府,、數(shù)字要素創(chuàng)新,、信創(chuàng)等國家戰(zhàn)略提供強(qiáng)有力的支撐和保障。

公司在人工智能領(lǐng)域擁有多年的積累和豐富的實(shí)踐經(jīng)驗(yàn),，也一直致力于前沿技術(shù)的研發(fā)投入,，公司所屬中央研究院下設(shè)10個不同研究領(lǐng)域的實(shí)驗(yàn)室，其中啟鑒實(shí)驗(yàn)室專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究,，深度探索“AI+安全”,。

公司高級副總裁、中央研究院院長王欣指出,，在人工智能時代下,，大模型技術(shù)存在著“矛”與“盾”的兩面性。

AI和大模型技術(shù)如“利刃”打破原有安全壁壘,，安全需求與應(yīng)用場景發(fā)生重大變革,。在與生成式人工智能交互的過程中，用戶常常無意識暴露個人信息,、商業(yè)機(jī)密等隱私數(shù)據(jù),，得到的卻是暗藏平臺價值判斷的內(nèi)容反饋,。個體在認(rèn)知判斷、行為決策以及價值取向等多個方面,，很可能會受到單一算法的不良影響,。如果任由生成式人工智能如脫韁野馬一般肆意發(fā)展，虛假信息,、偏見歧視乃至意識滲透等問題無法避免,，對個人、機(jī)構(gòu)乃至國家安全都存在極大的風(fēng)險(xiǎn),。

例如,，企業(yè)用戶在使用AI大模型過程中，可能會不小心造成數(shù)據(jù)泄露,，或是在訓(xùn)練模型過程中,，存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識歸屬問題。針對此類數(shù)據(jù)合規(guī)風(fēng)險(xiǎn),，公司在已有成熟的數(shù)據(jù)安全管控平臺產(chǎn)品基礎(chǔ)上,，將大模型應(yīng)用與智能數(shù)據(jù)分類分級結(jié)合，致力于解決行業(yè)的數(shù)據(jù)泄露風(fēng)險(xiǎn),。同時,，公司繼續(xù)對算法模型內(nèi)生的可靠性與穩(wěn)健性、透明性與可解釋性,、準(zhǔn)確性與公平性等風(fēng)險(xiǎn)進(jìn)行持續(xù)性深入研發(fā),，將來在行業(yè)能有更廣泛的應(yīng)用。

保護(hù)與挑戰(zhàn)并存 AI賦能網(wǎng)絡(luò)安全

AI和大模型技術(shù)也促進(jìn)了安全產(chǎn)品和服務(wù)革新,，有助于網(wǎng)絡(luò)安全防護(hù)“盾”優(yōu)化升級。在當(dāng)今的數(shù)字化時代,，網(wǎng)絡(luò)安全已經(jīng)成為了每個行業(yè)都無法避免的挑戰(zhàn),。人工智能技術(shù)對于網(wǎng)絡(luò)安全的賦能,，能夠解決一系列核心問題,。人工智能時代已來,，網(wǎng)絡(luò)安全在這個時代也將發(fā)生巨變,，新的攻擊形式層出不窮,，對檢測及防護(hù)能力也必將提出新的要求,。

AI可以對大數(shù)據(jù)進(jìn)行深度分析，識別并預(yù)測潛在的安全威脅,，這在一定程度上可以解決傳統(tǒng)安全措施無法應(yīng)對日益復(fù)雜的網(wǎng)絡(luò)攻擊的問題。同時,，AI可以實(shí)現(xiàn)實(shí)時監(jiān)控與自動響應(yīng),，大大縮短了對網(wǎng)絡(luò)攻擊的響應(yīng)時間,，有效避免了因延誤導(dǎo)致的更大損失,。因此,，AI的應(yīng)用無疑為網(wǎng)絡(luò)安全行業(yè)提供了新的,，高效且有力的解決方案,。

安恒信息也在利用人工智能技術(shù)賦能安全,，將防御網(wǎng)絡(luò)安全的“盾”落實(shí),。公司不斷實(shí)現(xiàn)產(chǎn)品智能化、自動化,，加強(qiáng)AI智能數(shù)據(jù)分析,、AI智能自動響應(yīng),、AI智能安全等前沿技術(shù)的融合,。公司已經(jīng)將類大模型應(yīng)用于智能數(shù)據(jù)分類分級,、智能生成檢測規(guī)則、智能告警處置分析,、安全專家問答系統(tǒng),、智能釣魚郵件分析、智能加密流量檢測等數(shù)十個場景,，推進(jìn)研究并逐步落地到產(chǎn)品中,。

未來，安恒信息將牢牢把握時代發(fā)展機(jī)遇,，專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究,，以創(chuàng)新方式擁抱AI變化,，積極推動產(chǎn)品AI智能化,，推進(jìn)“服務(wù)+AI”、“治理+AI”,、“產(chǎn)業(yè)+AI”等應(yīng)用場景安全升級，為數(shù)字經(jīng)濟(jì)發(fā)展注入源源不斷的安全動能。