◎本報(bào)記者付麗麗“當(dāng)前，AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險(xiǎn)嚴(yán)重失衡,。”7月31日,，在由中國互聯(lián)網(wǎng)協(xié)會(huì)、360互聯(lián)網(wǎng)安全中心主辦的第十二屆互聯(lián)網(wǎng)安全大會(huì)上,，中國工程院院士,、國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任鄔江興說。這也是眾多與會(huì)者的心聲,。人工智能技術(shù)的廣泛應(yīng)用正推動(dòng)著各行各業(yè)轉(zhuǎn)型升級(jí),，但也給網(wǎng)絡(luò)安全治理帶來新的挑戰(zhàn)。為此,，大會(huì)以“打造安全大模型,，引領(lǐng)安全行業(yè)革命”為主題，呼吁行業(yè)以大模型重塑安全體系,，守護(hù)數(shù)字經(jīng)濟(jì)穩(wěn)健發(fā)展,。多位專家及業(yè)內(nèi)人士深入剖析人工智能技術(shù)發(fā)展帶來的安全挑戰(zhàn)，共同探索安全大模型驅(qū)動(dòng)數(shù)字安全發(fā)展新路徑,。產(chǎn)研攜手共探新解法面對(duì)AI系統(tǒng)面臨的窘境,，鄔江興提出，基于內(nèi)生安全架構(gòu)可發(fā)現(xiàn)或糾正AI應(yīng)用系統(tǒng)安全問題,，AI應(yīng)用系統(tǒng)中必須包含必要多樣性和相對(duì)正確公理的內(nèi)生安全構(gòu)造,，在不可信的過程中找到相對(duì)可信的結(jié)果,。智能時(shí)代需要選擇正確的技術(shù)路徑，打造更安全的AI應(yīng)用系統(tǒng),。中國工程院院士吳世忠在主題演講中表示,，由AI技術(shù)帶來的新型安全問題已成為現(xiàn)實(shí)，安全行業(yè)將迅速邁進(jìn)AI驅(qū)動(dòng)的新時(shí)代,。然而,，大模型安全研究可以說才剛剛開始。無論是安全研究還是安全產(chǎn)業(yè),，都必須緊跟科技進(jìn)步和應(yīng)用創(chuàng)新,，才能服務(wù)好發(fā)展，保障好發(fā)展,。隨著生成式人工智能驅(qū)動(dòng)AI發(fā)展進(jìn)入新階段,，AI治理隨之也變成了一個(gè)突出問題。先進(jìn)計(jì)算與關(guān)鍵軟件（信創(chuàng)）海河實(shí)驗(yàn)室主任,、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克指出,，AI治理應(yīng)遵循有利發(fā)展、為人服務(wù)和基于倫理三點(diǎn)原則,，要清楚認(rèn)識(shí)到技術(shù)自身的不足,，以及人對(duì)AI技術(shù)的惡用、濫用,、誤用等風(fēng)險(xiǎn),。他強(qiáng)調(diào)，防止AI“作惡”要建立明確的倫理標(biāo)準(zhǔn),、提高透明度和問責(zé)制,、完善法律法規(guī)、內(nèi)置安全機(jī)制等,。此外,，要堅(jiān)持開放創(chuàng)新，在信創(chuàng)基礎(chǔ)上發(fā)展安全可控的AI生態(tài),。安全大模型落地關(guān)鍵要找準(zhǔn)“明星場景”人工智能等前沿?cái)?shù)字技術(shù)正在重新定義內(nèi)容的生產(chǎn)與消費(fèi)模式,，大模型在企業(yè)運(yùn)營中的應(yīng)用日益廣泛。中國工程院院士鄔賀銓在致辭中指出,，大模型提供方與垂直行業(yè)合作開發(fā)行業(yè)大模型,，將大模型拆分成模塊提供服務(wù)，將有利于中小型企業(yè)更容易地應(yīng)用AI大模型,。此外,，要注重創(chuàng)新升級(jí)數(shù)字安全防護(hù)措施?！鞍l(fā)展安全大模型是安全邁向‘自動(dòng)駕駛’的必由之路,，也是成功之路,，而落地安全大模型的關(guān)鍵是找準(zhǔn)‘明星場景’?！贝髸?huì)主席,、360集團(tuán)創(chuàng)始人周鴻祎說。周鴻祎認(rèn)為,，面對(duì)愈加復(fù)雜的傳統(tǒng)安全問題和大模型帶來新的安全問題,，必須用AI重塑安全，以模治模,，用安全大模型解決“新老”安全問題,。借鑒傳統(tǒng)汽車的自動(dòng)駕駛，周鴻祎表示,，用AI升級(jí)安全也要提出類似自動(dòng)駕駛的L1-L5級(jí)別目標(biāo),，通過數(shù)據(jù)和知識(shí)的訓(xùn)練，讓自動(dòng)駕駛?cè)〉猛黄?。受制于知識(shí),、成本等因素，周鴻祎建議,，不要追求用一個(gè)大模型解決所有問題,，應(yīng)該讓專業(yè)大模型解決專業(yè)問題。2024年是場景之年,，關(guān)鍵要結(jié)合業(yè)務(wù)找“明星場景”,，然后根據(jù)場景設(shè)計(jì)功能，根據(jù)功能需求對(duì)大模型進(jìn)行專項(xiàng)訓(xùn)練,。當(dāng)前,，人工智能跨越式發(fā)展，業(yè)界主流模型從千億稠密到萬億稀疏,，并逐步走向百萬級(jí)超長序列和多模態(tài),。華為副總裁,、ISP與互聯(lián)網(wǎng)系統(tǒng)部總裁岳坤表示,，如何在智能時(shí)代的早期保證相應(yīng)的服務(wù)能力和服務(wù)水平，將是首批智能應(yīng)用面臨的核心挑戰(zhàn)之一,。他強(qiáng)調(diào),，提升安全水平是保障智能化服務(wù)能力和服務(wù)水平的關(guān)鍵，而原生技術(shù)是人工智能時(shí)代最大的安全,。華為今年發(fā)布了昇騰原生計(jì)劃,，將投入專項(xiàng)資金，以技術(shù)+商業(yè)驅(qū)動(dòng)生態(tài)繁榮,，為客戶打造更加匹配場景需求的方案,，加速AI模型的應(yīng)用,。