來源：通信信息報

（圖片來源：攝圖網(wǎng)）

（記者 陳洲）近日，第六屆C3安全大會在南京舉行,，大會以“安全AI未來”為主題,，聚焦“數(shù)據(jù)驅(qū)動，AI原生”議題,，深入探討AI技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的創(chuàng)新應(yīng)用,，以及如何打造適應(yīng)數(shù)字經(jīng)濟時代的全面安全防護體系,。

當前，AI+已逐漸融入各行各業(yè),，相關(guān)風險等級也在遞增,，如何用AI原生創(chuàng)新力構(gòu)建可持續(xù)的AI安全框架值得業(yè)內(nèi)深思……

AI安全面臨的風險與難題

AI技術(shù)的發(fā)展和應(yīng)用，為社會的各個領(lǐng)域帶來了巨大的變革和便利,。

不過,，隨著AI技術(shù)的深入，我們也逐漸意識到其中存在的多種安全風險,。

首先最受關(guān)注的是數(shù)據(jù)安全問題,，AI系統(tǒng)的訓練和應(yīng)用依賴于大量數(shù)據(jù)，這些數(shù)據(jù)往往包含著個人隱私,、企業(yè)機密等敏感信息,。數(shù)據(jù)泄露、濫用或被惡意篡改的風險不斷增加,，對個人隱私和企業(yè)機密構(gòu)成嚴重威脅,。例如，AI系統(tǒng)可能被黑客攻擊,，導致大量用戶數(shù)據(jù)泄露,，給個人和企業(yè)帶來巨大的損失。

除此之外,，AI系統(tǒng)的決策過程也存在著不透明性和不可解釋性,，這可能導致AI系統(tǒng)在處理關(guān)鍵問題時出現(xiàn)偏差，甚至產(chǎn)生嚴重后果,，這不禁讓使用者背后一涼,。例如，AI系統(tǒng)在醫(yī)療領(lǐng)域診斷疾病時,，可能會因為數(shù)據(jù)的偏差而導致錯誤的診斷結(jié)果,，給患者帶來健康風險。同時,，AI系統(tǒng)還可能受到對抗性攻擊,，攻擊者通過精心設(shè)計的輸入數(shù)據(jù)，使AI系統(tǒng)做出錯誤的決策,。

華裔人工智能科學家,、斯坦福大學教授李飛飛就明確指出：“我們必須清醒地認識到，AI的進步如同雙刃劍,，它在帶來便捷與效率的同時,，也可能引發(fā)隱私泄露、就業(yè)結(jié)構(gòu)變化等復雜問題,?！?/p>

各類AI風險是AI時代所面臨的且無法逃避的問題,，更是對AI技術(shù)應(yīng)用的安全性和可靠性提出的挑戰(zhàn)，如何化干戈為玉帛,？或許是下一步需要解決的一大社會性課題,。

探索AI原生創(chuàng)新力

面對AI技術(shù)的安全風險，我們需要探索AI原生的創(chuàng)新力,，以AI技術(shù)自身的能力來防御和對抗這些風險,。這需要我們構(gòu)建一個以海量數(shù)據(jù)驅(qū)動的AI原生安全生態(tài)體系，通過大數(shù)據(jù)分析和深度學習等技術(shù)手段,，提前發(fā)現(xiàn)和防范可能由AI支持的大規(guī)模信息安全威脅,。例如，我們可以利用AI技術(shù)來監(jiān)測和識別異常的網(wǎng)絡(luò)行為,，預防網(wǎng)絡(luò)攻擊和數(shù)據(jù)泄露,。

同時，我們還需要推動AI技術(shù)的創(chuàng)新,，開發(fā)出更加安全,、可靠的AI系統(tǒng),。這包括對AI系統(tǒng)的決策過程進行優(yōu)化,，提高其透明度和可解釋性，使其在處理關(guān)鍵問題時能夠做出更加公正,、合理的決策,。例如，我們可以開發(fā)新的算法和模型,，使AI系統(tǒng)的決策過程更加可解釋,，提高人們對AI系統(tǒng)的信任度。此外,，我們還需要加強對AI系統(tǒng)的安全防護,，提高其對抗對抗性攻擊的能力。例如,，我們可以開發(fā)新的防御機制,，使AI系統(tǒng)能夠識別和抵御對抗性攻擊，保護系統(tǒng)的安全性和可靠性,。

從具體案例來看,，我們以天翼云電腦升級為天翼AI云電腦為例，中國電信通過探索AI原生創(chuàng)新力,，構(gòu)建了開放平臺,，匯聚多模態(tài)AI大模型應(yīng)用，將AI之力充分賦能云電腦,，實現(xiàn)了云電腦能力的全面升級,。升級后的天翼AI云電腦具備端云彈性算力,、企業(yè)級端云智能體、模型數(shù)據(jù)安全,、開放的企業(yè)級大模型和開放生態(tài)五大特征,。尤其在模型和數(shù)據(jù)安全方面，中國電信對云電腦內(nèi)運行的模型和數(shù)據(jù)進行了加密保護,，確保企業(yè)內(nèi)安全閉環(huán),，無需擔心重要信息資產(chǎn)泄露，真正為用戶帶來更加極致的產(chǎn)品與服務(wù)體驗,。

中國電信集團網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛指出,，“當前中國電信廣泛在網(wǎng)信安全領(lǐng)域應(yīng)用AI，主要集中在云網(wǎng)安全的防護以及反詐方面,?！逼涓毖缘溃磥淼木W(wǎng)絡(luò)安全防守體系最終極有可能是比拼AI能力和算法,。因此,，中國電信在不久前還參與了業(yè)界首個《共建安全大模型高質(zhì)量數(shù)據(jù)集倡議書》的發(fā)布，旨在促進AI安全產(chǎn)業(yè)的合理有序發(fā)展,。

此外,，在數(shù)月前，中國電信還與華為等30余家機構(gòu)共同發(fā)起了AI安全工作組,，致力于解決AI技術(shù)快速發(fā)展所帶來的安全難題,。這個工作組的主要職責是研究和編制與AI安全相關(guān)的技術(shù)安全威脅和風險、AI數(shù)據(jù)安全與隱私保護,、AI技術(shù)助力安全應(yīng)用,、AI倫理和AI合規(guī)等方面的材料。

綜上所述,，中國電信在推動AI技術(shù)發(fā)展以及實際落地應(yīng)用的同時,，也在積極應(yīng)對和解決相關(guān)的安全問題，用AI原生創(chuàng)新力守護AI安全,。

構(gòu)建可持續(xù)的AI安全框架

展望未來,，我們需要構(gòu)建一個全面、多層次的AI安全框架,，以應(yīng)對AI技術(shù)帶來的安全挑戰(zhàn),。這一框架應(yīng)包括法律法規(guī)、行業(yè)標準,、技術(shù)措施和社會倫理等多個方面,。

法律法規(guī)方面，我們需要不斷更新和完善相關(guān)法律法規(guī),，以適應(yīng)AI技術(shù)的快速發(fā)展和新型安全威脅,。例如,，制定數(shù)據(jù)保護法規(guī)，嚴格規(guī)范數(shù)據(jù)的收集,、存儲和使用,，保護個人隱私和企業(yè)機密。同時,，還需要明確AI系統(tǒng)的責任和義務(wù),，確保其在處理數(shù)據(jù)時遵守法律法規(guī)。

行業(yè)標準方面,，我們需要制定統(tǒng)一的行業(yè)標準,，引導企業(yè)和研究機構(gòu)采取一致的安全措施。這有助于提高整個行業(yè)的安全水平,，減少安全風險,。例如，制定AI系統(tǒng)的安全標準和評估體系,，確保AI系統(tǒng)的安全性和可靠性,。

技術(shù)措施方面，我們需要不斷創(chuàng)新和改進技術(shù)手段,，提高AI系統(tǒng)的安全性和可靠性,。例如，開發(fā)新的加密技術(shù)和安全協(xié)議,，保護數(shù)據(jù)的機密性和完整性,；開發(fā)新的檢測和防御技術(shù),，提高AI系統(tǒng)對抗對抗性攻擊的能力,。

社會倫理方面，我們需要加強對AI技術(shù)的倫理教育,，提高公眾對AI技術(shù)的認識和素養(yǎng),。這有助于形成良好的社會氛圍，推動AI技術(shù)的健康發(fā)展,。例如,，開展AI倫理教育和培訓，提高公眾對AI技術(shù)的理解和接受度,；建立AI倫理審查機制,，確保AI系統(tǒng)的應(yīng)用符合社會倫理標準。

總之,，面對AI技術(shù)的安全風險和挑戰(zhàn),，我們需要從多個層面構(gòu)建一個全面、可持續(xù)的AI安全框架,，以保障AI技術(shù)的安全,、可靠和健康發(fā)展,。