本報(bào)記者 李暉 北京報(bào)道

人工智能（AI）是新一輪科技革命和產(chǎn)業(yè)變革的核心技術(shù),，將為推進(jìn)中國(guó)式現(xiàn)代化注入強(qiáng)大動(dòng)力。但隨著AI技術(shù)不斷發(fā)展,，數(shù)據(jù)泄露,、“深偽”詐騙等安全威脅加劇，針對(duì)和利用AI的網(wǎng)絡(luò)攻擊,、AI武器化等安全問題日益凸顯,，安全防護(hù)難度激增。

《中國(guó)經(jīng)營(yíng)報(bào)》記者日前從齊安信(688561.SH)方面獲悉,，針對(duì)上述問題,，全國(guó)政協(xié)委員、齊安信董事長(zhǎng)齊向東在2024年全國(guó)兩會(huì)帶來了《創(chuàng)新發(fā)展“AI+安全” 護(hù)航中國(guó)式現(xiàn)代化》的提案,。

齊向東認(rèn)為,，網(wǎng)絡(luò)和數(shù)據(jù)安全是數(shù)字經(jīng)濟(jì)發(fā)展的底板工程，他建議：針對(duì)AI帶來的安全威脅,、攻防失衡和軍事威脅,，應(yīng)大力探索“AI+安全”創(chuàng)新應(yīng)用，比如鼓勵(lì)各行業(yè)頭部企業(yè)與專業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體,，并針對(duì)“AI+安全”發(fā)展設(shè)置專項(xiàng)基金,。

AI攻防失衡威脅加劇

生成式AI 正在席卷全球，在為行業(yè)效率帶來跨越式提升的同時(shí)也醞釀著安全風(fēng)險(xiǎn),?！把垡娢幢貫閷?shí)”成為常態(tài)，數(shù)據(jù)泄露,、欺詐攻擊,、AI武器化等問題開始顯露。

齊向東在調(diào)研中發(fā)現(xiàn),，以ChatGPT為代表的生成式AI能快速生成釣魚郵件,、編寫惡意軟件與代碼等，已經(jīng)導(dǎo)致攻擊數(shù)量增加,，AI欺詐事件頻發(fā),。相關(guān)數(shù)據(jù)顯示，與ChatGPT類似的生成式AI導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊增長(zhǎng)135%,。

此外,，生成式AI還帶來了數(shù)據(jù)非法獲取、數(shù)據(jù)泄露及惡意濫用等數(shù)據(jù)安全問題,，如ChatGPT在對(duì)話交互過程中能獲取用戶數(shù)據(jù),，加劇數(shù)據(jù)泄露風(fēng)險(xiǎn)。不法分子還能利用“深度偽造”換臉變聲,、偽造視頻,，網(wǎng)絡(luò)詐騙大增，甚至引發(fā)社會(huì)認(rèn)知混亂,。

此外,，齊向東認(rèn)為，隨著針對(duì)AI的攻擊層出不窮,，網(wǎng)絡(luò)安全“易攻難守”,。在AI惡意利用方面，人工智能大幅降低了網(wǎng)絡(luò)攻擊門檻，比如,，利用AI制作惡意軟件,、生成規(guī)避殺毒軟件檢測(cè)的代碼等，網(wǎng)絡(luò)攻擊能力將出現(xiàn)躍升,，由于算法黑箱和算法漏洞的存在,，這些攻擊往往難以檢測(cè)和防范。

特別需要注意的是,，近年來AI武器化趨勢(shì)開始冒頭,。目前越來越多國(guó)家開始探索AI在軍事領(lǐng)域的應(yīng)用。公開數(shù)據(jù)顯示,，2024財(cái)年,，美國(guó)國(guó)防部計(jì)劃增加與AI相關(guān)的網(wǎng)絡(luò)安全投資，總額約2457億美元,，其中674億美元用于網(wǎng)絡(luò)IT和電子戰(zhàn)能力,。

“一方面，人工智能可以被用在機(jī)器人殺手等致命性自主武器(LAW)上,，通過自主識(shí)別攻擊目標(biāo),、遠(yuǎn)程自動(dòng)化操作等,，隱藏攻擊者來源、建立對(duì)抗優(yōu)勢(shì),；另一方面,，人工智能可以將網(wǎng)絡(luò)、決策者和操作者相連接,，讓軍事行動(dòng)針對(duì)性更強(qiáng),、目標(biāo)更明確、打擊范圍更廣,?！饼R向東指出。

需求,、供給,、人才三管齊下

針對(duì)上述問題，齊向東認(rèn)為,，應(yīng)該抓住三個(gè)關(guān)鍵,，創(chuàng)新發(fā)展“AI+安全”，提高應(yīng)對(duì)網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)與不確定性的能力,，護(hù)航中國(guó)式現(xiàn)代化,。

從供給側(cè)看，齊向東建議鼓勵(lì)各行業(yè)頭部企業(yè)與專業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體,，在關(guān)鍵行業(yè)選取典型場(chǎng)景開展聯(lián)合創(chuàng)新,，共同探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測(cè)、漏洞挖掘,、指揮研判等方面的應(yīng)用,，在實(shí)戰(zhàn)中推動(dòng)“AI+安全”進(jìn)入越用越強(qiáng)的良性循環(huán)。

從需求側(cè)看,，積極的政策引導(dǎo)是推動(dòng)新事物落地應(yīng)用,、成長(zhǎng)壯大的催化劑。齊向東建議,，像支持新能源汽車的發(fā)展一樣,，支持“AI+安全”發(fā)展，設(shè)置專項(xiàng)基金,，對(duì)研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè),，給予政府基金、貼息貸款或科研項(xiàng)目等支持,；對(duì)率先取得技術(shù)突破,，實(shí)現(xiàn)成果轉(zhuǎn)化的科研機(jī)構(gòu)和企業(yè)給予獎(jiǎng)勵(lì)；對(duì)積極使用相關(guān)技術(shù),、產(chǎn)品和服務(wù)的企業(yè)給予相應(yīng)補(bǔ)貼,，推動(dòng)“AI+安全”相關(guān)產(chǎn)業(yè)取得更多科技創(chuàng)新成果,。

此外，從人才儲(chǔ)備看,，工信部數(shù)據(jù)顯示,，人工智能不同技術(shù)方向崗位的人才供需比均低于0.4,，其中智能語(yǔ)音和計(jì)算機(jī)視覺的崗位人才供需比分別為0.08,、0.09，相關(guān)人才極度稀缺,。

對(duì)此,，齊向東建議，應(yīng)充分發(fā)揮民營(yíng)企業(yè)在人才培養(yǎng)上的優(yōu)勢(shì),，鼓勵(lì)成立校企共同體,，在實(shí)踐中培養(yǎng)更多大數(shù)據(jù)、人工智能,、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才,，為我國(guó)搶抓人工智能機(jī)遇培育人才。

齊向東認(rèn)為：新質(zhì)生產(chǎn)力離不開數(shù)據(jù)和網(wǎng)絡(luò),，高質(zhì)量發(fā)展離不開高水平網(wǎng)絡(luò)數(shù)據(jù)安全,。面對(duì)新技術(shù)可能帶來的安全風(fēng)險(xiǎn)，不僅要筑起一道用智能對(duì)抗智能的防線,，更重要的是要做到人和機(jī)器的協(xié)同發(fā)展,，既發(fā)揮人的引領(lǐng)作用，也要充分利用機(jī)器強(qiáng)大的智能分析和自動(dòng)研判能力,。不能盲目陷入技術(shù)決定論,，只有人與機(jī)器的力量有機(jī)結(jié)合，生產(chǎn)力才能真正的新質(zhì),、高質(zhì),。

（編輯：何莎莎 校對(duì)：燕郁霞）