來源：媒體滾動(dòng)

　　2023年已過半,，上半年最火爆的莫過于以ChatGPT為代表的生成式人工智能,，其也被認(rèn)為是2023年十大新興技術(shù)之一，更是人工智能1.0時(shí)代進(jìn)入2.0時(shí)代的重要標(biāo)志。

　　生成式人工智能是一種通過學(xué)習(xí)大規(guī)模數(shù)據(jù)集生成新的原創(chuàng)內(nèi)容的新型人工智能,。其中,，ChatGPT推出2個(gè)月后，月活躍用戶就達(dá)到了1億,，成為有史以來增長(zhǎng)最快的應(yīng)用程序,。

　　與此同時(shí)，人工智能快速發(fā)展可能帶來的安全風(fēng)險(xiǎn)也引發(fā)廣泛關(guān)注,，摩根士丹利指出人工智能為網(wǎng)絡(luò)安全市場(chǎng)帶來300億美元機(jī)會(huì),。

　　就在7月7日,，數(shù)字安全測(cè)試評(píng)估賽道領(lǐng)跑企業(yè)永信至誠（688244.SH）與全球領(lǐng)先的人工智能軟件公司商湯科技（0020.HK）的戰(zhàn)略合作消息引發(fā)關(guān)注，這場(chǎng)面向未來的跨領(lǐng)域合作將聚焦人工智能安全測(cè)試,，為我國(guó)人工智能安全發(fā)展保駕護(hù)航,。

　　AI大模型加速落地 人工智能應(yīng)用潛在安全風(fēng)險(xiǎn)加劇

　　大模型是指具有大量參數(shù)的機(jī)器學(xué)習(xí)模型，可以在訓(xùn)練過程中處理大規(guī)模的數(shù)據(jù)集,，被用來構(gòu)建GPT這樣的人工智能模型,。根據(jù)科技部新一代人工智能發(fā)展研究中心《中國(guó)人工智能大模型地圖研究報(bào)告》，我國(guó)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè),，幾乎進(jìn)入“百模大戰(zhàn)”,。

　　人工智能快速發(fā)展在為用戶帶來技術(shù)便利、提高生產(chǎn)效率的同時(shí),，其可能帶來的安全風(fēng)險(xiǎn)也引發(fā)廣泛關(guān)注。

　　一,，ChatGPT類技術(shù)輔助寫代碼的能力大大降低了攻擊者的技術(shù)門檻,，可以對(duì)漏洞攻擊、釣魚攻擊,、魚叉攻擊等常用的攻擊方式進(jìn)行快速上手和創(chuàng)新,，增加了攻擊風(fēng)險(xiǎn)。

　　二,，生成式人工智能通常采用大量的數(shù)據(jù)進(jìn)行訓(xùn)練和預(yù)測(cè),，若這些數(shù)據(jù)若被不當(dāng)收集存儲(chǔ)或使用，會(huì)造成數(shù)據(jù)泄露風(fēng)險(xiǎn),。

　　三,，AI可以利用人工智能技術(shù)模仿他人面貌、聲音或語言,，繼而實(shí)現(xiàn)欺騙或詐騙行為,。今年5月，便有人10分鐘被騙430萬元,。

　　四,，AI需要通過大量數(shù)據(jù)模型訓(xùn)練才能獲得能力，如果用黑客污染過的數(shù)據(jù)進(jìn)行訓(xùn)練,，訓(xùn)練出的模型可以存在漏洞,。

　　雖然面臨不少風(fēng)險(xiǎn)，但人工智能可以推動(dòng)企業(yè)降本,、提質(zhì),、增效等，因此在工業(yè)生產(chǎn),、社會(huì)治理的應(yīng)用探索正在快速涌現(xiàn),，發(fā)展勢(shì)頭勢(shì)不可擋,。據(jù)有關(guān)數(shù)據(jù)預(yù)測(cè)，2030年我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億元人民幣,，全球人工智能市場(chǎng)規(guī)模將達(dá)到16萬億美元,。

　　我國(guó)高度重視人工智能發(fā)展，早在2017年就發(fā)布了《新一代人工智能發(fā)展規(guī)劃》,。近期在人工智能治理方面也發(fā)布了《AIGC服務(wù)管理辦法（征求意見稿）》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等,。

　　強(qiáng)強(qiáng)聯(lián)合 聚焦人工智能安全測(cè)試

　　如何在搶抓AI發(fā)展重大機(jī)遇的同時(shí)，有效應(yīng)對(duì)安全挑戰(zhàn),，成為社會(huì)各界需要通力解決的重要命題,。

　　于去年10月在科創(chuàng)板上市的永信至誠作為在網(wǎng)絡(luò)靶場(chǎng)、人才建設(shè),、測(cè)試評(píng)估方面領(lǐng)跑的網(wǎng)絡(luò)安全企業(yè),，其在安全領(lǐng)域方面一直保持極強(qiáng)的洞察力，在人工智能安全領(lǐng)域已有一些成果,。

　　一方面,，永信至誠網(wǎng)絡(luò)靶場(chǎng)和數(shù)字風(fēng)洞產(chǎn)品均是人工智能（AI）安全測(cè)試評(píng)估的基礎(chǔ)設(shè)施平臺(tái)；其次公司研發(fā)的人工智能靶場(chǎng)能為為AI漏洞挖掘及利用進(jìn)行能力和安全性測(cè)評(píng),，獲得了學(xué)術(shù)界和工業(yè)界的專家好評(píng),；而且自2017年起來，就開始組織人工智能網(wǎng)絡(luò)攻防對(duì)抗領(lǐng)域的測(cè)試驗(yàn)證活動(dòng),，不斷吸引更多研究者通過公司的 RHG 靶場(chǎng)平臺(tái)對(duì)其研究成果進(jìn)行測(cè)試和驗(yàn)證,。

　　在人工智能技術(shù)以AIGC、大模型為核心迎來歷史性跨越的背景下,，不斷提升大模型安全測(cè)評(píng)能力成為解決人工智能安全問題的重要路徑之一,。

　　永信至誠結(jié)合自身網(wǎng)絡(luò)靶場(chǎng)和人才建設(shè)領(lǐng)軍優(yōu)勢(shì)，從人工智能安全測(cè)試角度出發(fā),，與全球領(lǐng)先的人工智能軟件公司商湯科技簽署戰(zhàn)略合作協(xié)議,，雙方將充分發(fā)揮各自在產(chǎn)業(yè)的專業(yè)優(yōu)勢(shì)，圍繞人工智能安全測(cè)試評(píng)估,、大模型場(chǎng)景化安全應(yīng)用及人工智能攻防對(duì)抗等方面展開長(zhǎng)期深度合作,，共同推動(dòng)人工智能技術(shù)在數(shù)字經(jīng)濟(jì)中的安全落地。

　　據(jù)介紹,，商湯科技是全球領(lǐng)先的人工智能軟件公司,，在感知智能、自然語言處理,、決策智能,、AIGC、AI算力基礎(chǔ)設(shè)施等關(guān)鍵技術(shù)領(lǐng)域具有獨(dú)特優(yōu)勢(shì),，目前已經(jīng)形成智慧城市,、智慧生活,、智慧汽車、智慧商業(yè)四大業(yè)務(wù)板塊,，和國(guó)內(nèi)外1000多家世界知名企業(yè)及機(jī)構(gòu)建立了合作,。在上海舉辦的第六屆世界人工智能大會(huì)（WAIC 2023）商湯人工智能論壇上，商湯科技重磅揭曉“商湯日日新SenseNova”大模型體系2.0版本,，并表示已在千行百業(yè)中“落地開花”,。

　　大模型安全也是本次永信至誠與商湯科技合作的重要內(nèi)容之一，永信至誠將依托“數(shù)字風(fēng)洞”產(chǎn)品體系為商湯大模型的數(shù)據(jù)安全和網(wǎng)絡(luò)安全的全生命周期安全提供測(cè)試評(píng)估服務(wù),；

　　其二,，永信至誠成為商湯對(duì)外提供大模型服務(wù)中的安全增值能力提供方；

　　第三,，雙方也表示,，將共同打造用于網(wǎng)絡(luò)安全攻防對(duì)抗和漏洞挖掘等領(lǐng)域的大模型應(yīng)用，并實(shí)現(xiàn)產(chǎn)品化,，以推動(dòng)人工智能技術(shù)在網(wǎng)絡(luò)和數(shù)據(jù)安全產(chǎn)業(yè)的創(chuàng)新化,、規(guī)模化應(yīng)用與落地,。

　　這也意味著永信至誠在數(shù)據(jù)安全、工業(yè)互聯(lián)網(wǎng)安全之外,，將在人工智能安全測(cè)試方面迎來重大突破,。

　　來源：濟(jì)源網(wǎng)