本報(bào)記者 秦梟 北京報(bào)道

所有數(shù)字化技術(shù)都是雙刃劍,，相比一般的數(shù)字技術(shù),，人工智能面臨的安全問(wèn)題要更加復(fù)雜，包括網(wǎng)絡(luò)攻擊、漏洞攻擊,、數(shù)據(jù)攻擊，以及內(nèi)容安全問(wèn)題等,。特別是當(dāng)一大批人工智能研究領(lǐng)域的高科技公司將人工智能技術(shù)平民化后,，新技術(shù)帶來(lái)的隱患也在引起越來(lái)越多的關(guān)注,。

派拓網(wǎng)絡(luò)Unit 42顧問(wèn)總監(jiān)劉俊佃在接受《中國(guó)經(jīng)營(yíng)報(bào)》記者采訪時(shí)表示，包括AI在內(nèi)的任何科學(xué)技術(shù)都是中立的,，既可以向善也可以向惡,，關(guān)鍵是被誰(shuí)所用。目前來(lái)看,，AI在提供便捷的同時(shí),，也大大增加了網(wǎng)絡(luò)攻擊更快、更強(qiáng),、更精準(zhǔn)的攻擊模式,。之前所了解和熟知的一些防御模式和方法需要改變，必須利用AI去對(duì)抗AI,。

AI使網(wǎng)絡(luò)勒索更加逼真

隨著生成式AI技術(shù)的不斷發(fā)展,，網(wǎng)絡(luò)犯罪分子正在利用這些技術(shù)來(lái)提高他們的攻擊能力。網(wǎng)絡(luò)釣魚(yú)是一種常見(jiàn)的網(wǎng)絡(luò)攻擊方式,，而生成式AI技術(shù)使得這種攻擊變得更加逼真和難以識(shí)別,。犯罪分子可以利用生成式AI技術(shù)來(lái)創(chuàng)建高度逼真的電子郵件，這些電子郵件可以偽裝成來(lái)自可信的來(lái)源,，如銀行,、社交媒體或政府機(jī)構(gòu)。這些偽造的電子郵件通常會(huì)要求受害者提供敏感信息，如密碼,、賬戶號(hào)碼或身份信息,，以便犯罪分子可以訪問(wèn)受害者的賬戶或身份。

劉俊佃介紹,，生成式AI技術(shù)還可以幫助犯罪分子創(chuàng)建高度逼真的惡意軟件或病毒,，這些惡意軟件或病毒可以感染受害者的計(jì)算機(jī)或移動(dòng)設(shè)備，并竊取敏感信息或破壞數(shù)據(jù),。此外,，生成式AI技術(shù)還可以幫助犯罪分子創(chuàng)建假冒網(wǎng)站或應(yīng)用程序，這些網(wǎng)站或應(yīng)用程序可以欺騙受害者提供個(gè)人信息或資金,。

此前,，三星公司引入ChatGPT不到20天，發(fā)生了三起半導(dǎo)體機(jī)密資料外泄事件,，隨后要求員工不得在工作場(chǎng)所使用生成式人工智能,；由于數(shù)據(jù)隱私問(wèn)題，意大利對(duì)ChatGPT涉嫌違反數(shù)據(jù)收集規(guī)則開(kāi)展調(diào)查,，并暫時(shí)限制OpenAI處理意大利用戶數(shù)據(jù),。也引發(fā)了行業(yè)對(duì)于這類(lèi)大模型技術(shù)帶來(lái)的數(shù)據(jù)隱私和安全問(wèn)題的討論。

2023年10月28日,，網(wǎng)絡(luò)勒索組織Akira聲稱(chēng)他們攻擊了斯坦福大學(xué)并竊取了430GB內(nèi)部數(shù)據(jù),，威脅學(xué)校支付贖金，否則就將信息公開(kāi),。該組織稱(chēng),，斯坦福大學(xué)過(guò)去“以其企業(yè)家精神而聞名”，如今卻要因內(nèi)部數(shù)據(jù)泄露而登上頭條了,。斯坦福校方回應(yīng)稱(chēng),，這起事件與10月初該校安全防火墻遭到入侵有關(guān)，被攻擊的防火墻得到了及時(shí)維護(hù),，且數(shù)據(jù)泄露的影響范圍有限,，并未擴(kuò)散。

劉俊佃對(duì)記者表示,，任何一個(gè)工具都可以既向善也向惡,，我們當(dāng)然希望科技向善，可是如果這些科技的工具在一些壞分子或者網(wǎng)絡(luò)攻擊者的手里作為一個(gè)武器來(lái)使用,，科技就會(huì)變得向惡,。而現(xiàn)在的AI則大大增強(qiáng)了想要作惡的這些人的能力。AI正促進(jìn)網(wǎng)絡(luò)勒索技術(shù)的更新與迭代,。一方面,，生成式人工智能（AIGC）降低了勒索軟件的開(kāi)發(fā)準(zhǔn)入門(mén)檻。另一方面，機(jī)器學(xué)習(xí),、智能生成等功能或創(chuàng)造更復(fù)雜,、更高效的勒索攻擊技術(shù)，傳統(tǒng)的網(wǎng)絡(luò)安全防御措施恐難以檢測(cè)并防范此類(lèi)新型攻擊,。

以AI對(duì)抗AI

AI是否會(huì)逐漸失去控制,，甚至對(duì)人類(lèi)構(gòu)成威脅？在這樣的風(fēng)險(xiǎn)形勢(shì)下,，企業(yè)必須采取創(chuàng)新的方法，探索一種全新的應(yīng)對(duì)策略——以AI對(duì)抗AI,。

劉俊佃認(rèn)為,，AI讓我們看到更快、更強(qiáng),、更精準(zhǔn)的攻擊模式,，我們之前所了解和熟知的一些防御模式和方法需要改變，不可能利用人力去阻擋AI攻擊,，我們必須利用AI去對(duì)抗AI,。以AI對(duì)抗AI，意味著利用AI技術(shù)來(lái)檢測(cè)并糾正AI的錯(cuò)誤,，企業(yè)需要采取由AI驅(qū)動(dòng)的網(wǎng)絡(luò)彈性解決方案,，以防范AI驅(qū)動(dòng)的攻擊并守護(hù)企業(yè)數(shù)據(jù)安全。這種解決方案需要具備強(qiáng)大的防御能力,、智能化的防御機(jī)制和高效的安全管理機(jī)制,，以便為企業(yè)提供更加全面、高效和可靠的安全保障,。

從網(wǎng)絡(luò)基礎(chǔ)架構(gòu)來(lái)講,，網(wǎng)絡(luò)是AI基礎(chǔ)架構(gòu)的關(guān)鍵組成部分。深度學(xué)習(xí)算法高度依賴(lài)通信,，隨著AI技術(shù)進(jìn)步的發(fā)展,，網(wǎng)絡(luò)也需要跟上步伐。這就是為什么AI服務(wù)器優(yōu)先選擇網(wǎng)絡(luò)可伸縮性強(qiáng)的原因,。高帶寬,、低延遲的網(wǎng)絡(luò)環(huán)境，可以確保所有地區(qū)的服務(wù)包裝和技術(shù)堆棧都一致,。

從工具上講,，相比單點(diǎn)安全產(chǎn)品的大量疊加，平臺(tái)化的解決方案可以實(shí)現(xiàn)全面,、自動(dòng)化的安全防御,，真正做到主動(dòng)有效地保護(hù)企業(yè)的網(wǎng)絡(luò)安全。

劉俊佃表示，派拓網(wǎng)絡(luò)有一個(gè)安全公式：零信任+平臺(tái)=前瞻性,。零信任指的是杜絕任何隱含信任并以持續(xù)驗(yàn)證為基礎(chǔ)的策略,；平臺(tái)指的是根據(jù)需求連接不同類(lèi)型的最佳功能，實(shí)現(xiàn)最大的可見(jiàn)性,、控制和效率,；前瞻性指的是輕松安全轉(zhuǎn)型，讓企業(yè)在安全的環(huán)境下高效地運(yùn)營(yíng)和創(chuàng)新,。

劉俊佃介紹道：“派拓網(wǎng)絡(luò)的下一代網(wǎng)絡(luò)安全平臺(tái)可以從網(wǎng)絡(luò),、云、端點(diǎn)三個(gè)維度應(yīng)對(duì)數(shù)字經(jīng)濟(jì)時(shí)代的安全挑戰(zhàn),，并在所有安全方案之上提供一套自動(dòng)化安全運(yùn)營(yíng)分析系統(tǒng),。這一切都是依托于派拓網(wǎng)絡(luò)在全球的安全威脅情報(bào)網(wǎng)絡(luò)Unit 42，對(duì)全球發(fā)生的安全事件和情報(bào)進(jìn)行及時(shí)的分析和響應(yīng),?！?/p>

（編輯：張靖超 校對(duì)：顏京寧）