《科創(chuàng)板日報》2月14日訊（編輯 鄭遠(yuǎn)方）在13日的北京人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展大會上,，國家工業(yè)信息安全發(fā)展研究中心聯(lián)合北京市門頭溝區(qū)政府,、中關(guān)村發(fā)展集團(tuán),、華為公司，共同發(fā)起“人工智能安全可信護(hù)航計劃”,，旨在聯(lián)合有關(guān)單位共同探索人工智能安全可信管理解決方案,。

中國聯(lián)通、奇安信,、綠盟科技,、山石網(wǎng)科、麒麟軟件,、格靈深瞳,、軟通動力等31家首批伙伴加入，未來將參與理論研究,、標(biāo)準(zhǔn)制定,、評估評測等相關(guān)工作,。

該計劃將面向不同行業(yè)和地區(qū)，設(shè)立“生態(tài)發(fā)展中心”,，其中北京昇騰人工智能生態(tài)創(chuàng)新中心成為首個中心,，重點面向北京市開展人工智能安全可信管理實踐試點和推廣應(yīng)用工作。

什么是“安全可信”,？

根據(jù)公開論文定義,，安全可信指的是網(wǎng)絡(luò)設(shè)備所具備的安全性能。即在設(shè)備工作的同時,，內(nèi)含的安全部件進(jìn)行動態(tài)并行實時全方位安全檢驗,，確保計算過程及資源不被破壞和篡改，正確完成計算任務(wù),。

這是“雙面”人工智能的另一個切面——AI帶來技術(shù)便利性的同時,，風(fēng)險也相伴而生。

以ChatGPT為例,，這一聊天機器“黑馬”一路狂飆爆火之后,，其安全可靠問題備受關(guān)注，美國國會議員也正考慮是否應(yīng)該對其加強監(jiān)管,，套上“韁繩”,。

美國眾議院科學(xué)委員會民主黨籍眾議員Ted Lieu日前試著用ChatGPT起草了一項決議，內(nèi)容為國會應(yīng)該關(guān)注人工智能,，以確保人工智能的開發(fā)和部署符合安全和道德等原則,，在尊重所有美國人的權(quán)利和隱私的同時，其收益能夠廣泛分配,。

同樣,，積極為其“帶貨”的微軟和亞馬遜允許員工使用ChatGPT，但也禁止員工向ChatGPT分享敏感數(shù)據(jù),，以防后者的輸出包含或出現(xiàn)類似公司機密信息——這是AI安全問題的一類,，即獲取數(shù)據(jù)方面的問題。

“數(shù)據(jù)投毒”則是這一方面問題的另一個案例,。AI算法對數(shù)據(jù)具有較強依賴性,，而“投毒”指在人工AI智能訓(xùn)練數(shù)據(jù)中加入偽裝數(shù)據(jù)、惡意樣本等,，導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差,。由微軟推出的另一聊天機器人Tay曾在這一問題上“翻車”。彼時,，Tay發(fā)出歧視性和攻擊性言論而被關(guān)閉,，主要原因便是對話數(shù)據(jù)集中被惡意增加不當(dāng)數(shù)據(jù)。

另一類,，則是惡意應(yīng)用導(dǎo)致的問題,。近年來,，通過深度合成和生成式AI技術(shù)制造虛假音視頻圖像進(jìn)行誣陷、誹謗,、詐騙,、勒索等違法行為已屢見不鮮。

▌AI安全可信成為全球共識 海內(nèi)外政策多點開花

隨著AI技術(shù)迭代與應(yīng)用規(guī)模擴(kuò)大,，發(fā)展安全可信的人工智能正在成為全球共識,。

G20已提出“G20 人工智能原則”，強調(diào)要以人為本,、發(fā)展可信人工智能,；歐盟和美國也都將增強用戶信任、發(fā)展可信人工智能放在其人工智能倫理和治理的核心位置,。

同時,，我國網(wǎng)信辦等三部門已出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，其中針對深度合成技術(shù)服務(wù)提出的要求和管理措施,，諸如禁止性要求,、標(biāo)識要求、安全評估等,，亦適用于AIGC,。

此前，國家工業(yè)信息安全發(fā)展研究中心已聯(lián)合華為等,，發(fā)布《人工智能算力基礎(chǔ)設(shè)施安全發(fā)展白皮書》指出,，人工智能算力基礎(chǔ)設(shè)施不同于傳統(tǒng)的算力基礎(chǔ)設(shè)施，既是“基礎(chǔ)設(shè)施”又是“人工智能算力”也是“公共設(shè)施”,，具有基建屬性,、技術(shù)屬性、公共屬性三重屬性,。

至于如何推進(jìn)AI安全可信,？

北京航空航天大學(xué)劉祥龍教授表示，從技術(shù)上來看應(yīng)形成從安全性測試到安全性分析與安全性加固的完整技術(shù)手段,，最終形成標(biāo)準(zhǔn)化的測試流程,。未來的人工智能安全應(yīng)該圍繞從數(shù)據(jù)、算法到系統(tǒng)各個層次上的全面評測,，同時配合一套整體的從硬件到軟件的安全可信計算環(huán)境。

落實到具體標(biāo)的上,，除去本文開頭提到的公司之外,，民生證券還建議關(guān)注底層數(shù)據(jù)及算法安全廠商，包括電科網(wǎng)安,、吉大正元,、中新賽克,、浩瀚深度、美亞柏科等,。