文 | 楊召奎近日，寧夏固原彭陽(yáng)縣發(fā)生的一起AI（人工智能）換臉換聲詐騙案件引發(fā)社會(huì)關(guān)注,。詐騙分子通過(guò)AI換臉和擬聲技術(shù)，佯裝成受害者親戚對(duì)其實(shí)施詐騙,，導(dǎo)致受害者被騙1.5萬(wàn)元,。類似AI換臉詐騙案件已經(jīng)發(fā)生多起。當(dāng)前,，人工智能技術(shù)變革加快,，在賦能各行各業(yè)的同時(shí)也帶來(lái)了前所未有的安全挑戰(zhàn),。網(wǎng)絡(luò)攻擊、數(shù)據(jù)泄露等安全風(fēng)險(xiǎn)日益凸顯,，過(guò)度采集,、歧視性算法、濫用深度偽造等問(wèn)題可能給社會(huì)經(jīng)濟(jì)的運(yùn)行帶來(lái)風(fēng)險(xiǎn),。今年正值網(wǎng)絡(luò)強(qiáng)國(guó)戰(zhàn)略提出10周年,、中國(guó)接入國(guó)際互聯(lián)網(wǎng)30載。站在新的時(shí)代起點(diǎn),、迎接新的風(fēng)險(xiǎn)挑戰(zhàn),，亟須新的應(yīng)對(duì)策略。5月18日,，在以“智繪安全 乘數(shù)而上”為主題的2024第十二屆西湖論劍·數(shù)字安全大會(huì)上,，與會(huì)專家深入探討了AI技術(shù)變革帶來(lái)的安全挑戰(zhàn)并尋求有效的應(yīng)對(duì)策略。中國(guó)工程院院士鄔江興指出,，人類社會(huì)正在進(jìn)入以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)時(shí)代,，傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性日益凸顯,，急需數(shù)字生態(tài)系統(tǒng)底層驅(qū)動(dòng)范式轉(zhuǎn)型，即建立一種可防御且富有彈性和韌性的數(shù)字生態(tài)系統(tǒng),，使其更容易形成內(nèi)在防御能力,，能讓攻擊方付出比防御方更高的代價(jià)，實(shí)現(xiàn)防御優(yōu)勢(shì)的轉(zhuǎn)變,，從而挫敗數(shù)字生態(tài)系統(tǒng)面臨的種種威脅,。中國(guó)工程院院士吳世忠則指出，在AI時(shí)代,，安全問(wèn)題不僅涵蓋了傳統(tǒng)的信息安全,，也包括系統(tǒng)運(yùn)行的穩(wěn)定性和可靠性，還包括倫理安全,，即技術(shù)應(yīng)用必須符合道德倫理標(biāo)準(zhǔn),。這三者交織融合，對(duì)個(gè)人隱私保護(hù),、社會(huì)穩(wěn)定、國(guó)家發(fā)展以及國(guó)際合作等方面都提出了新的挑戰(zhàn)和要求,。因此,，構(gòu)建一個(gè)安全、堅(jiān)韌,、可信的人工智能發(fā)展生態(tài)至關(guān)重要,，這就要求必須在推動(dòng)技術(shù)發(fā)展的同時(shí)，充分考慮到安全保障,，實(shí)現(xiàn)發(fā)展與安全統(tǒng)籌兼顧,。近年來(lái)，從監(jiān)管層,、學(xué)界到產(chǎn)業(yè)界,，都非常關(guān)注AI帶來(lái)的潛在風(fēng)險(xiǎn)。2023年7月,，國(guó)家網(wǎng)信辦等七部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，堅(jiān)持發(fā)展和安全并重，在鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展的同時(shí),，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。AI和大模型會(huì)帶來(lái)網(wǎng)絡(luò)安全新的挑戰(zhàn)，但利用好也可以實(shí)現(xiàn)更智能的安全防控,。在產(chǎn)業(yè)界方面,，西湖論劍·數(shù)字安全大會(huì)發(fā)布了“共建網(wǎng)絡(luò)強(qiáng)國(guó)：AI時(shí)代數(shù)字安全共識(shí)”，其中就包括以AI對(duì)AI,、以AI管AI,，積極應(yīng)用AI等數(shù)字技術(shù),，助力數(shù)字安全保障能力持續(xù)提升。目前,，一些企業(yè)已發(fā)布融合AI技術(shù)的防火墻,、入侵防御、數(shù)據(jù)防泄露等創(chuàng)新型產(chǎn)品,。還有企業(yè)發(fā)布了安全大模型,，通過(guò)大量安全知識(shí)和數(shù)據(jù)的訓(xùn)練，將通用大模型訓(xùn)練成“安全專家”,。筑牢AI時(shí)代的安全底線,，人才隊(duì)伍建設(shè)是關(guān)鍵。教育部最新公布的數(shù)據(jù)顯示,，到2027年我國(guó)網(wǎng)絡(luò)安全人員缺口將達(dá)327萬(wàn),。安恒信息首席人才官、高級(jí)副總裁苗春雨表示,，培養(yǎng)一個(gè)復(fù)合型網(wǎng)絡(luò)安全人才非常難,，需要滿足強(qiáng)實(shí)戰(zhàn)、高技能,、重協(xié)同,、跨領(lǐng)域等條件。目前,，工信部教育與考試中心,、安恒信息已達(dá)成戰(zhàn)略合作協(xié)議，聯(lián)合打造“賽訓(xùn)研培一體化”合作模式,，共同推進(jìn)數(shù)字安全領(lǐng)域的人才選拔,、能力提升、教學(xué)研究與人才培養(yǎng)等相關(guān)工作,。期待更多政府部門(mén),、機(jī)構(gòu)、高校和企業(yè)參與進(jìn)來(lái),，構(gòu)建多層次,、跨領(lǐng)域的數(shù)字安全人才培養(yǎng)體系和產(chǎn)教融合共同體，盡快打破數(shù)字安全領(lǐng)域人才短缺的瓶頸,。