《科創(chuàng)板日?qǐng)?bào)》2月14日訊（編輯 鄭遠(yuǎn)方）在13日的北京人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展大會(huì)上,，國(guó)家工業(yè)信息安全發(fā)展研究中心聯(lián)合北京市門(mén)頭溝區(qū)政府,、中關(guān)村發(fā)展集團(tuán)、華為公司,，共同發(fā)起“人工智能安全可信護(hù)航計(jì)劃”,，旨在聯(lián)合有關(guān)單位共同探索人工智能安全可信管理解決方案,。

中國(guó)聯(lián)通、奇安信,、綠盟科技,、山石網(wǎng)科,、麒麟軟件、格靈深瞳,、軟通動(dòng)力等31家首批伙伴加入,，未來(lái)將參與理論研究、標(biāo)準(zhǔn)制定,、評(píng)估評(píng)測(cè)等相關(guān)工作,。

該計(jì)劃將面向不同行業(yè)和地區(qū)，設(shè)立“生態(tài)發(fā)展中心”,，其中北京昇騰人工智能生態(tài)創(chuàng)新中心成為首個(gè)中心,，重點(diǎn)面向北京市開(kāi)展人工智能安全可信管理實(shí)踐試點(diǎn)和推廣應(yīng)用工作。

什么是“安全可信”,？

根據(jù)公開(kāi)論文定義,，安全可信指的是網(wǎng)絡(luò)設(shè)備所具備的安全性能。即在設(shè)備工作的同時(shí),，內(nèi)含的安全部件進(jìn)行動(dòng)態(tài)并行實(shí)時(shí)全方位安全檢驗(yàn),，確保計(jì)算過(guò)程及資源不被破壞和篡改，正確完成計(jì)算任務(wù),。

這是“雙面”人工智能的另一個(gè)切面——AI帶來(lái)技術(shù)便利性的同時(shí),，風(fēng)險(xiǎn)也相伴而生。

以ChatGPT為例,，這一聊天機(jī)器“黑馬”一路狂飆爆火之后,，其安全可靠問(wèn)題備受關(guān)注，美國(guó)國(guó)會(huì)議員也正考慮是否應(yīng)該對(duì)其加強(qiáng)監(jiān)管,，套上“韁繩”,。

美國(guó)眾議院科學(xué)委員會(huì)民主黨籍眾議員Ted Lieu日前試著用ChatGPT起草了一項(xiàng)決議，內(nèi)容為國(guó)會(huì)應(yīng)該關(guān)注人工智能,，以確保人工智能的開(kāi)發(fā)和部署符合安全和道德等原則,，在尊重所有美國(guó)人的權(quán)利和隱私的同時(shí)，其收益能夠廣泛分配,。

同樣,，積極為其“帶貨”的微軟和亞馬遜允許員工使用ChatGPT，但也禁止員工向ChatGPT分享敏感數(shù)據(jù),，以防后者的輸出包含或出現(xiàn)類(lèi)似公司機(jī)密信息——這是AI安全問(wèn)題的一類(lèi),，即獲取數(shù)據(jù)方面的問(wèn)題。

“數(shù)據(jù)投毒”則是這一方面問(wèn)題的另一個(gè)案例,。AI算法對(duì)數(shù)據(jù)具有較強(qiáng)依賴(lài)性,，而“投毒”指在人工AI智能訓(xùn)練數(shù)據(jù)中加入偽裝數(shù)據(jù)、惡意樣本等,，導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差,。由微軟推出的另一聊天機(jī)器人Tay曾在這一問(wèn)題上“翻車(chē)”,。彼時(shí)，Tay發(fā)出歧視性和攻擊性言論而被關(guān)閉,，主要原因便是對(duì)話(huà)數(shù)據(jù)集中被惡意增加不當(dāng)數(shù)據(jù),。

另一類(lèi)，則是惡意應(yīng)用導(dǎo)致的問(wèn)題,。近年來(lái),，通過(guò)深度合成和生成式AI技術(shù)制造虛假音視頻圖像進(jìn)行誣陷、誹謗,、詐騙,、勒索等違法行為已屢見(jiàn)不鮮。

▌AI安全可信成為全球共識(shí) 海內(nèi)外政策多點(diǎn)開(kāi)花

隨著AI技術(shù)迭代與應(yīng)用規(guī)模擴(kuò)大,，發(fā)展安全可信的人工智能正在成為全球共識(shí),。

G20已提出“G20 人工智能原則”,，強(qiáng)調(diào)要以人為本,、發(fā)展可信人工智能；歐盟和美國(guó)也都將增強(qiáng)用戶(hù)信任,、發(fā)展可信人工智能放在其人工智能倫理和治理的核心位置,。

同時(shí)，我國(guó)網(wǎng)信辦等三部門(mén)已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,，其中針對(duì)深度合成技術(shù)服務(wù)提出的要求和管理措施,，諸如禁止性要求、標(biāo)識(shí)要求,、安全評(píng)估等,，亦適用于AIGC。

此前,，國(guó)家工業(yè)信息安全發(fā)展研究中心已聯(lián)合華為等,，發(fā)布《人工智能算力基礎(chǔ)設(shè)施安全發(fā)展白皮書(shū)》指出，人工智能算力基礎(chǔ)設(shè)施不同于傳統(tǒng)的算力基礎(chǔ)設(shè)施,，既是“基礎(chǔ)設(shè)施”又是“人工智能算力”也是“公共設(shè)施”,，具有基建屬性、技術(shù)屬性,、公共屬性三重屬性,。

至于如何推進(jìn)AI安全可信？

北京航空航天大學(xué)劉祥龍教授表示,，從技術(shù)上來(lái)看應(yīng)形成從安全性測(cè)試到安全性分析與安全性加固的完整技術(shù)手段,，最終形成標(biāo)準(zhǔn)化的測(cè)試流程。未來(lái)的人工智能安全應(yīng)該圍繞從數(shù)據(jù),、算法到系統(tǒng)各個(gè)層次上的全面評(píng)測(cè),，同時(shí)配合一套整體的從硬件到軟件的安全可信計(jì)算環(huán)境,。

落實(shí)到具體標(biāo)的上，除去本文開(kāi)頭提到的公司之外,，民生證券還建議關(guān)注底層數(shù)據(jù)及算法安全廠(chǎng)商,，包括電科網(wǎng)安、吉大正元,、中新賽克,、浩瀚深度、美亞柏科等,。