來源：通信信息報(bào)

（圖片來源：攝圖網(wǎng)）

（記者 陳洲）近日,，第六屆C3安全大會(huì)在南京舉行,，大會(huì)以“安全AI未來”為主題，聚焦“數(shù)據(jù)驅(qū)動(dòng),，AI原生”議題,，深入探討AI技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的創(chuàng)新應(yīng)用,，以及如何打造適應(yīng)數(shù)字經(jīng)濟(jì)時(shí)代的全面安全防護(hù)體系。

當(dāng)前,，AI+已逐漸融入各行各業(yè),，相關(guān)風(fēng)險(xiǎn)等級(jí)也在遞增，如何用AI原生創(chuàng)新力構(gòu)建可持續(xù)的AI安全框架值得業(yè)內(nèi)深思……

AI安全面臨的風(fēng)險(xiǎn)與難題

AI技術(shù)的發(fā)展和應(yīng)用,，為社會(huì)的各個(gè)領(lǐng)域帶來了巨大的變革和便利,。

不過，隨著AI技術(shù)的深入,，我們也逐漸意識(shí)到其中存在的多種安全風(fēng)險(xiǎn),。

首先最受關(guān)注的是數(shù)據(jù)安全問題，AI系統(tǒng)的訓(xùn)練和應(yīng)用依賴于大量數(shù)據(jù),，這些數(shù)據(jù)往往包含著個(gè)人隱私,、企業(yè)機(jī)密等敏感信息。數(shù)據(jù)泄露,、濫用或被惡意篡改的風(fēng)險(xiǎn)不斷增加,，對(duì)個(gè)人隱私和企業(yè)機(jī)密構(gòu)成嚴(yán)重威脅。例如,，AI系統(tǒng)可能被黑客攻擊，導(dǎo)致大量用戶數(shù)據(jù)泄露,，給個(gè)人和企業(yè)帶來巨大的損失,。

除此之外，AI系統(tǒng)的決策過程也存在著不透明性和不可解釋性,，這可能導(dǎo)致AI系統(tǒng)在處理關(guān)鍵問題時(shí)出現(xiàn)偏差,，甚至產(chǎn)生嚴(yán)重后果，這不禁讓使用者背后一涼,。例如,，AI系統(tǒng)在醫(yī)療領(lǐng)域診斷疾病時(shí),，可能會(huì)因?yàn)閿?shù)據(jù)的偏差而導(dǎo)致錯(cuò)誤的診斷結(jié)果，給患者帶來健康風(fēng)險(xiǎn),。同時(shí),，AI系統(tǒng)還可能受到對(duì)抗性攻擊，攻擊者通過精心設(shè)計(jì)的輸入數(shù)據(jù),，使AI系統(tǒng)做出錯(cuò)誤的決策,。

華裔人工智能科學(xué)家、斯坦福大學(xué)教授李飛飛就明確指出：“我們必須清醒地認(rèn)識(shí)到,，AI的進(jìn)步如同雙刃劍,，它在帶來便捷與效率的同時(shí)，也可能引發(fā)隱私泄露,、就業(yè)結(jié)構(gòu)變化等復(fù)雜問題,。”

各類AI風(fēng)險(xiǎn)是AI時(shí)代所面臨的且無法逃避的問題,，更是對(duì)AI技術(shù)應(yīng)用的安全性和可靠性提出的挑戰(zhàn),，如何化干戈為玉帛？或許是下一步需要解決的一大社會(huì)性課題,。

探索AI原生創(chuàng)新力

面對(duì)AI技術(shù)的安全風(fēng)險(xiǎn),，我們需要探索AI原生的創(chuàng)新力，以AI技術(shù)自身的能力來防御和對(duì)抗這些風(fēng)險(xiǎn),。這需要我們構(gòu)建一個(gè)以海量數(shù)據(jù)驅(qū)動(dòng)的AI原生安全生態(tài)體系,，通過大數(shù)據(jù)分析和深度學(xué)習(xí)等技術(shù)手段，提前發(fā)現(xiàn)和防范可能由AI支持的大規(guī)模信息安全威脅,。例如,，我們可以利用AI技術(shù)來監(jiān)測(cè)和識(shí)別異常的網(wǎng)絡(luò)行為，預(yù)防網(wǎng)絡(luò)攻擊和數(shù)據(jù)泄露,。

同時(shí),，我們還需要推動(dòng)AI技術(shù)的創(chuàng)新，開發(fā)出更加安全,、可靠的AI系統(tǒng),。這包括對(duì)AI系統(tǒng)的決策過程進(jìn)行優(yōu)化，提高其透明度和可解釋性,，使其在處理關(guān)鍵問題時(shí)能夠做出更加公正,、合理的決策。例如,，我們可以開發(fā)新的算法和模型,，使AI系統(tǒng)的決策過程更加可解釋，提高人們對(duì)AI系統(tǒng)的信任度,。此外,，我們還需要加強(qiáng)對(duì)AI系統(tǒng)的安全防護(hù),，提高其對(duì)抗對(duì)抗性攻擊的能力。例如,，我們可以開發(fā)新的防御機(jī)制,，使AI系統(tǒng)能夠識(shí)別和抵御對(duì)抗性攻擊，保護(hù)系統(tǒng)的安全性和可靠性,。

從具體案例來看,，我們以天翼云電腦升級(jí)為天翼AI云電腦為例，中國電信通過探索AI原生創(chuàng)新力,，構(gòu)建了開放平臺(tái),，匯聚多模態(tài)AI大模型應(yīng)用，將AI之力充分賦能云電腦,，實(shí)現(xiàn)了云電腦能力的全面升級(jí),。升級(jí)后的天翼AI云電腦具備端云彈性算力、企業(yè)級(jí)端云智能體,、模型數(shù)據(jù)安全,、開放的企業(yè)級(jí)大模型和開放生態(tài)五大特征,。尤其在模型和數(shù)據(jù)安全方面,，中國電信對(duì)云電腦內(nèi)運(yùn)行的模型和數(shù)據(jù)進(jìn)行了加密保護(hù),，確保企業(yè)內(nèi)安全閉環(huán),，無需擔(dān)心重要信息資產(chǎn)泄露,，真正為用戶帶來更加極致的產(chǎn)品與服務(wù)體驗(yàn),。

中國電信集團(tuán)網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛指出，“當(dāng)前中國電信廣泛在網(wǎng)信安全領(lǐng)域應(yīng)用AI，主要集中在云網(wǎng)安全的防護(hù)以及反詐方面,?！逼涓毖缘?，未來的網(wǎng)絡(luò)安全防守體系最終極有可能是比拼AI能力和算法,。因此,，中國電信在不久前還參與了業(yè)界首個(gè)《共建安全大模型高質(zhì)量數(shù)據(jù)集倡議書》的發(fā)布，旨在促進(jìn)AI安全產(chǎn)業(yè)的合理有序發(fā)展,。

此外,，在數(shù)月前，中國電信還與華為等30余家機(jī)構(gòu)共同發(fā)起了AI安全工作組,，致力于解決AI技術(shù)快速發(fā)展所帶來的安全難題,。這個(gè)工作組的主要職責(zé)是研究和編制與AI安全相關(guān)的技術(shù)安全威脅和風(fēng)險(xiǎn),、AI數(shù)據(jù)安全與隱私保護(hù)、AI技術(shù)助力安全應(yīng)用,、AI倫理和AI合規(guī)等方面的材料。

綜上所述,，中國電信在推動(dòng)AI技術(shù)發(fā)展以及實(shí)際落地應(yīng)用的同時(shí)，也在積極應(yīng)對(duì)和解決相關(guān)的安全問題，用AI原生創(chuàng)新力守護(hù)AI安全。

構(gòu)建可持續(xù)的AI安全框架

展望未來,，我們需要構(gòu)建一個(gè)全面,、多層次的AI安全框架,，以應(yīng)對(duì)AI技術(shù)帶來的安全挑戰(zhàn)。這一框架應(yīng)包括法律法規(guī),、行業(yè)標(biāo)準(zhǔn),、技術(shù)措施和社會(huì)倫理等多個(gè)方面,。

法律法規(guī)方面,，我們需要不斷更新和完善相關(guān)法律法規(guī)，以適應(yīng)AI技術(shù)的快速發(fā)展和新型安全威脅,。例如,，制定數(shù)據(jù)保護(hù)法規(guī)，嚴(yán)格規(guī)范數(shù)據(jù)的收集、存儲(chǔ)和使用,，保護(hù)個(gè)人隱私和企業(yè)機(jī)密,。同時(shí)，還需要明確AI系統(tǒng)的責(zé)任和義務(wù),，確保其在處理數(shù)據(jù)時(shí)遵守法律法規(guī),。

行業(yè)標(biāo)準(zhǔn)方面，我們需要制定統(tǒng)一的行業(yè)標(biāo)準(zhǔn),，引導(dǎo)企業(yè)和研究機(jī)構(gòu)采取一致的安全措施,。這有助于提高整個(gè)行業(yè)的安全水平,，減少安全風(fēng)險(xiǎn),。例如,，制定AI系統(tǒng)的安全標(biāo)準(zhǔn)和評(píng)估體系,，確保AI系統(tǒng)的安全性和可靠性。

技術(shù)措施方面,，我們需要不斷創(chuàng)新和改進(jìn)技術(shù)手段,，提高AI系統(tǒng)的安全性和可靠性。例如,，開發(fā)新的加密技術(shù)和安全協(xié)議，保護(hù)數(shù)據(jù)的機(jī)密性和完整性,；開發(fā)新的檢測(cè)和防御技術(shù),，提高AI系統(tǒng)對(duì)抗對(duì)抗性攻擊的能力,。

社會(huì)倫理方面,，我們需要加強(qiáng)對(duì)AI技術(shù)的倫理教育，提高公眾對(duì)AI技術(shù)的認(rèn)識(shí)和素養(yǎng)。這有助于形成良好的社會(huì)氛圍,，推動(dòng)AI技術(shù)的健康發(fā)展,。例如，開展AI倫理教育和培訓(xùn),，提高公眾對(duì)AI技術(shù)的理解和接受度,；建立AI倫理審查機(jī)制,，確保AI系統(tǒng)的應(yīng)用符合社會(huì)倫理標(biāo)準(zhǔn),。

總之,，面對(duì)AI技術(shù)的安全風(fēng)險(xiǎn)和挑戰(zhàn)，我們需要從多個(gè)層面構(gòu)建一個(gè)全面,、可持續(xù)的AI安全框架,，以保障AI技術(shù)的安全、可靠和健康發(fā)展,。