本報記者 李暉 北京報道

人工智能（AI）是新一輪科技革命和產(chǎn)業(yè)變革的核心技術(shù),，將為推進中國式現(xiàn)代化注入強大動力,。但隨著AI技術(shù)不斷發(fā)展，數(shù)據(jù)泄露,、“深偽”詐騙等安全威脅加劇,，針對和利用AI的網(wǎng)絡攻擊,、AI武器化等安全問題日益凸顯,，安全防護難度激增,。

《中國經(jīng)營報》記者日前從齊安信(688561.SH)方面獲悉，針對上述問題,，全國政協(xié)委員,、齊安信董事長齊向東在2024年全國兩會帶來了《創(chuàng)新發(fā)展“AI+安全” 護航中國式現(xiàn)代化》的提案,。

齊向東認為，網(wǎng)絡和數(shù)據(jù)安全是數(shù)字經(jīng)濟發(fā)展的底板工程,，他建議：針對AI帶來的安全威脅、攻防失衡和軍事威脅,，應大力探索“AI+安全”創(chuàng)新應用,，比如鼓勵各行業(yè)頭部企業(yè)與專業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體，并針對“AI+安全”發(fā)展設置專項基金,。

AI攻防失衡威脅加劇

生成式AI 正在席卷全球,，在為行業(yè)效率帶來跨越式提升的同時也醞釀著安全風險?！把垡娢幢貫閷崱背蔀槌B(tài),，數(shù)據(jù)泄露、欺詐攻擊,、AI武器化等問題開始顯露,。

齊向東在調(diào)研中發(fā)現(xiàn)，以ChatGPT為代表的生成式AI能快速生成釣魚郵件,、編寫惡意軟件與代碼等,，已經(jīng)導致攻擊數(shù)量增加，AI欺詐事件頻發(fā),。相關數(shù)據(jù)顯示,，與ChatGPT類似的生成式AI導致網(wǎng)絡釣魚郵件攻擊增長135%。

此外,，生成式AI還帶來了數(shù)據(jù)非法獲取,、數(shù)據(jù)泄露及惡意濫用等數(shù)據(jù)安全問題，如ChatGPT在對話交互過程中能獲取用戶數(shù)據(jù),，加劇數(shù)據(jù)泄露風險,。不法分子還能利用“深度偽造”換臉變聲、偽造視頻,，網(wǎng)絡詐騙大增,，甚至引發(fā)社會認知混亂。

此外,，齊向東認為,，隨著針對AI的攻擊層出不窮，網(wǎng)絡安全“易攻難守”,。在AI惡意利用方面,，人工智能大幅降低了網(wǎng)絡攻擊門檻,，比如,，利用AI制作惡意軟件、生成規(guī)避殺毒軟件檢測的代碼等,，網(wǎng)絡攻擊能力將出現(xiàn)躍升,，由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防范,。

特別需要注意的是,，近年來AI武器化趨勢開始冒頭。目前越來越多國家開始探索AI在軍事領域的應用,。公開數(shù)據(jù)顯示,，2024財年，美國國防部計劃增加與AI相關的網(wǎng)絡安全投資,，總額約2457億美元,，其中674億美元用于網(wǎng)絡IT和電子戰(zhàn)能力。

“一方面,，人工智能可以被用在機器人殺手等致命性自主武器(LAW)上,，通過自主識別攻擊目標、遠程自動化操作等,，隱藏攻擊者來源,、建立對抗優(yōu)勢；另一方面,，人工智能可以將網(wǎng)絡,、決策者和操作者相連接，讓軍事行動針對性更強,、目標更明確,、打擊范圍更廣。”齊向東指出,。

需求,、供給、人才三管齊下

針對上述問題,，齊向東認為,，應該抓住三個關鍵，創(chuàng)新發(fā)展“AI+安全”,，提高應對網(wǎng)絡空間安全風險與不確定性的能力,，護航中國式現(xiàn)代化。

從供給側(cè)看,，齊向東建議鼓勵各行業(yè)頭部企業(yè)與專業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體，在關鍵行業(yè)選取典型場景開展聯(lián)合創(chuàng)新,，共同探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測,、漏洞挖掘、指揮研判等方面的應用,，在實戰(zhàn)中推動“AI+安全”進入越用越強的良性循環(huán),。

從需求側(cè)看，積極的政策引導是推動新事物落地應用,、成長壯大的催化劑,。齊向東建議，像支持新能源汽車的發(fā)展一樣,，支持“AI+安全”發(fā)展,，設置專項基金，對研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè),，給予政府基金,、貼息貸款或科研項目等支持；對率先取得技術(shù)突破,，實現(xiàn)成果轉(zhuǎn)化的科研機構(gòu)和企業(yè)給予獎勵,；對積極使用相關技術(shù)、產(chǎn)品和服務的企業(yè)給予相應補貼,，推動“AI+安全”相關產(chǎn)業(yè)取得更多科技創(chuàng)新成果,。

此外，從人才儲備看,，工信部數(shù)據(jù)顯示,，人工智能不同技術(shù)方向崗位的人才供需比均低于0.4，其中智能語音和計算機視覺的崗位人才供需比分別為0.08,、0.09,，相關人才極度稀缺。

對此，齊向東建議,，應充分發(fā)揮民營企業(yè)在人才培養(yǎng)上的優(yōu)勢,，鼓勵成立校企共同體，在實踐中培養(yǎng)更多大數(shù)據(jù),、人工智能,、網(wǎng)絡安全等新興產(chǎn)業(yè)領軍人才，為我國搶抓人工智能機遇培育人才,。

齊向東認為：新質(zhì)生產(chǎn)力離不開數(shù)據(jù)和網(wǎng)絡,，高質(zhì)量發(fā)展離不開高水平網(wǎng)絡數(shù)據(jù)安全。面對新技術(shù)可能帶來的安全風險,，不僅要筑起一道用智能對抗智能的防線,，更重要的是要做到人和機器的協(xié)同發(fā)展，既發(fā)揮人的引領作用,，也要充分利用機器強大的智能分析和自動研判能力,。不能盲目陷入技術(shù)決定論，只有人與機器的力量有機結(jié)合,，生產(chǎn)力才能真正的新質(zhì),、高質(zhì)。

（編輯：何莎莎 校對：燕郁霞）