來源：媒體滾動(dòng)

　　2023年已過半，上半年最火爆的莫過于以ChatGPT為代表的生成式人工智能,，其也被認(rèn)為是2023年十大新興技術(shù)之一,，更是人工智能1.0時(shí)代進(jìn)入2.0時(shí)代的重要標(biāo)志,。

　　生成式人工智能是一種通過學(xué)習(xí)大規(guī)模數(shù)據(jù)集生成新的原創(chuàng)內(nèi)容的新型人工智能,。其中,，ChatGPT推出2個(gè)月后,，月活躍用戶就達(dá)到了1億，成為有史以來增長最快的應(yīng)用程序,。

　　與此同時(shí),，人工智能快速發(fā)展可能帶來的安全風(fēng)險(xiǎn)也引發(fā)廣泛關(guān)注，摩根士丹利指出人工智能為網(wǎng)絡(luò)安全市場帶來300億美元機(jī)會,。

　　就在7月7日,，數(shù)字安全測試評估賽道領(lǐng)跑企業(yè)永信至誠（688244.SH）與全球領(lǐng)先的人工智能軟件公司商湯科技（0020.HK）的戰(zhàn)略合作消息引發(fā)關(guān)注，這場面向未來的跨領(lǐng)域合作將聚焦人工智能安全測試,，為我國人工智能安全發(fā)展保駕護(hù)航,。

　　AI大模型加速落地 人工智能應(yīng)用潛在安全風(fēng)險(xiǎn)加劇

　　大模型是指具有大量參數(shù)的機(jī)器學(xué)習(xí)模型，可以在訓(xùn)練過程中處理大規(guī)模的數(shù)據(jù)集,，被用來構(gòu)建GPT這樣的人工智能模型,。根據(jù)科技部新一代人工智能發(fā)展研究中心《中國人工智能大模型地圖研究報(bào)告》，我國10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè),，幾乎進(jìn)入“百模大戰(zhàn)”,。

　　人工智能快速發(fā)展在為用戶帶來技術(shù)便利、提高生產(chǎn)效率的同時(shí),，其可能帶來的安全風(fēng)險(xiǎn)也引發(fā)廣泛關(guān)注,。

　　一，ChatGPT類技術(shù)輔助寫代碼的能力大大降低了攻擊者的技術(shù)門檻,，可以對漏洞攻擊,、釣魚攻擊、魚叉攻擊等常用的攻擊方式進(jìn)行快速上手和創(chuàng)新,，增加了攻擊風(fēng)險(xiǎn),。

　　二，生成式人工智能通常采用大量的數(shù)據(jù)進(jìn)行訓(xùn)練和預(yù)測，若這些數(shù)據(jù)若被不當(dāng)收集存儲或使用,，會造成數(shù)據(jù)泄露風(fēng)險(xiǎn),。

　　三，AI可以利用人工智能技術(shù)模仿他人面貌,、聲音或語言,，繼而實(shí)現(xiàn)欺騙或詐騙行為。今年5月,，便有人10分鐘被騙430萬元,。

　　四，AI需要通過大量數(shù)據(jù)模型訓(xùn)練才能獲得能力,，如果用黑客污染過的數(shù)據(jù)進(jìn)行訓(xùn)練,，訓(xùn)練出的模型可以存在漏洞,。

　　雖然面臨不少風(fēng)險(xiǎn),，但人工智能可以推動(dòng)企業(yè)降本,、提質(zhì)、增效等,，因此在工業(yè)生產(chǎn),、社會治理的應(yīng)用探索正在快速涌現(xiàn)，發(fā)展勢頭勢不可擋,。據(jù)有關(guān)數(shù)據(jù)預(yù)測,，2030年我國人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億元人民幣，全球人工智能市場規(guī)模將達(dá)到16萬億美元,。

　　我國高度重視人工智能發(fā)展,，早在2017年就發(fā)布了《新一代人工智能發(fā)展規(guī)劃》。近期在人工智能治理方面也發(fā)布了《AIGC服務(wù)管理辦法（征求意見稿）》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等,。

　　強(qiáng)強(qiáng)聯(lián)合 聚焦人工智能安全測試

　　如何在搶抓AI發(fā)展重大機(jī)遇的同時(shí),，有效應(yīng)對安全挑戰(zhàn)，成為社會各界需要通力解決的重要命題,。

　　于去年10月在科創(chuàng)板上市的永信至誠作為在網(wǎng)絡(luò)靶場,、人才建設(shè)、測試評估方面領(lǐng)跑的網(wǎng)絡(luò)安全企業(yè),，其在安全領(lǐng)域方面一直保持極強(qiáng)的洞察力,，在人工智能安全領(lǐng)域已有一些成果。

　　一方面,，永信至誠網(wǎng)絡(luò)靶場和數(shù)字風(fēng)洞產(chǎn)品均是人工智能（AI）安全測試評估的基礎(chǔ)設(shè)施平臺,；其次公司研發(fā)的人工智能靶場能為為AI漏洞挖掘及利用進(jìn)行能力和安全性測評,，獲得了學(xué)術(shù)界和工業(yè)界的專家好評,；而且自2017年起來,，就開始組織人工智能網(wǎng)絡(luò)攻防對抗領(lǐng)域的測試驗(yàn)證活動(dòng)，不斷吸引更多研究者通過公司的 RHG 靶場平臺對其研究成果進(jìn)行測試和驗(yàn)證,。

　　在人工智能技術(shù)以AIGC,、大模型為核心迎來歷史性跨越的背景下，不斷提升大模型安全測評能力成為解決人工智能安全問題的重要路徑之一,。

　　永信至誠結(jié)合自身網(wǎng)絡(luò)靶場和人才建設(shè)領(lǐng)軍優(yōu)勢,，從人工智能安全測試角度出發(fā)，與全球領(lǐng)先的人工智能軟件公司商湯科技簽署戰(zhàn)略合作協(xié)議,，雙方將充分發(fā)揮各自在產(chǎn)業(yè)的專業(yè)優(yōu)勢,，圍繞人工智能安全測試評估、大模型場景化安全應(yīng)用及人工智能攻防對抗等方面展開長期深度合作,，共同推動(dòng)人工智能技術(shù)在數(shù)字經(jīng)濟(jì)中的安全落地,。

　　據(jù)介紹，商湯科技是全球領(lǐng)先的人工智能軟件公司,，在感知智能,、自然語言處理、決策智能,、AIGC,、AI算力基礎(chǔ)設(shè)施等關(guān)鍵技術(shù)領(lǐng)域具有獨(dú)特優(yōu)勢，目前已經(jīng)形成智慧城市,、智慧生活,、智慧汽車、智慧商業(yè)四大業(yè)務(wù)板塊,，和國內(nèi)外1000多家世界知名企業(yè)及機(jī)構(gòu)建立了合作,。在上海舉辦的第六屆世界人工智能大會（WAIC 2023）商湯人工智能論壇上，商湯科技重磅揭曉“商湯日日新SenseNova”大模型體系2.0版本,，并表示已在千行百業(yè)中“落地開花”,。

　　大模型安全也是本次永信至誠與商湯科技合作的重要內(nèi)容之一，永信至誠將依托“數(shù)字風(fēng)洞”產(chǎn)品體系為商湯大模型的數(shù)據(jù)安全和網(wǎng)絡(luò)安全的全生命周期安全提供測試評估服務(wù),；

　　其二,，永信至誠成為商湯對外提供大模型服務(wù)中的安全增值能力提供方；

　　第三,，雙方也表示,，將共同打造用于網(wǎng)絡(luò)安全攻防對抗和漏洞挖掘等領(lǐng)域的大模型應(yīng)用，并實(shí)現(xiàn)產(chǎn)品化,，以推動(dòng)人工智能技術(shù)在網(wǎng)絡(luò)和數(shù)據(jù)安全產(chǎn)業(yè)的創(chuàng)新化,、規(guī)模化應(yīng)用與落地。

　　這也意味著永信至誠在數(shù)據(jù)安全,、工業(yè)互聯(lián)網(wǎng)安全之外,，將在人工智能安全測試方面迎來重大突破。

　　來源：濟(jì)源網(wǎng)