自動駕駛的汽車安全穿行在城市的車流中,，人工智能（AI）生成的文章與圖片在社交媒體上頻頻出現(xiàn),，工廠里搭載著智能系統(tǒng)的流水線以前所未有的高效率運轉……人工智能正在成為重塑生產生活,、引領時代變革的重要力量。與此同時,，隨著人工智能技術的持續(xù)發(fā)展,，應用場景不斷拓展,，一系列安全風險與挑戰(zhàn)隨之產生。如何讓人工智能在安全,、穩(wěn)定,、高效的軌道上良性發(fā)展，成為業(yè)界普遍關注的問題,。垂直領域機遇空前作為先進技術的標桿,，人工智能領域的任何風吹草動都可能引發(fā)全球關注。從ChatGPT橫空出世到Sora刷新認知,，只用了1年多的時間,。在此期間，國內的“百模大戰(zhàn)”打得如火如荼,，一批通過備案的大模型已經向各行業(yè)及社會公眾開放,。全球范圍內，人工智能的競爭日趨激烈,。咨詢機構麥肯錫預計,，以AIGC為代表的AI技術將給全球經濟帶來超過7.9萬億美元價值，到2030年之前,，如果生成式AI應用于各行業(yè),，每年總經濟效益高達6.1萬億美元至7.9萬億美元。近日,，在中國發(fā)展高層論壇2024年年會“人工智能發(fā)展與治理專題研討會”上,，中國科學院副院長吳朝暉表示，人工智能將成為第四次工業(yè)革命的標配,，將加速傳統(tǒng)產業(yè)的轉型升級,，實現(xiàn)質量變革、效益變革和動力變革,，重塑工業(yè)的基礎再造,、生產和服務模式創(chuàng)新的各個環(huán)節(jié)，引領新型工業(yè)化發(fā)展,，為智能經濟發(fā)展提供全新動能,。如何在新一輪產業(yè)革命中搶占先機？這是機遇,，也是挑戰(zhàn),。人工智能作為一種技術工具，需要與產業(yè)結合,，推動產業(yè)數字化轉型,，從而促進經濟社會發(fā)展。我國龐大的人口規(guī)模,、應用場景與完整的產業(yè)鏈,，為產業(yè)落地提供了堅實的環(huán)境支持,。360集團創(chuàng)始人周鴻祎表示，如果企業(yè)在某個業(yè)務領域有獨特的業(yè)務數據,，就應在這一垂直領域把大模型訓練好,，并將其與企業(yè)業(yè)務工具結合在一起。未來,，企業(yè)里將不會只有一個超級大模型,，而是有多個小規(guī)模的、百億級的大模型,，每個大模型只從事一個場景的工作,。充分發(fā)揮場景落地優(yōu)勢，在垂直領域發(fā)力,，正成為當前國內企業(yè)發(fā)展人工智能的共識,。騰訊云副總裁、騰訊云智能負責人,、優(yōu)圖實驗室負責人吳運聲介紹,，目前，騰訊已將AI大模型應用到多個業(yè)務場景中,，在產業(yè)落地方面,，基于騰訊云TI平臺推出的行業(yè)大模型,，通過結合行業(yè)專業(yè)知識和數據訓練,，以及企業(yè)自身的數據進行精調，幫助企業(yè)快速生成專屬模型,，目前已經面向20多個行業(yè)輸出了超過50個行業(yè)大模型解決方案,。3月27日，百度智能云“AI Cloud Day：大模型應用產品發(fā)布會”發(fā)布通過大模型重構和升級之后的7款產品,，覆蓋營銷內容的創(chuàng)作,、數字人、智能客服等七大垂直領域,。百度智能云副總裁喻友平表示,，大模型作為一種普適性的應用，一定要和場景緊密結合,。當前業(yè)界普遍思考,，怎樣把大模型用到企業(yè)中去。業(yè)內人士認為,，對多數企業(yè),，特別是中小微企業(yè)而言，以小規(guī)模,、垂直化的大模型作為切入點,，可以高效快速實現(xiàn)人工智能對產業(yè)的數字化賦能,。同時將企業(yè)在垂直領域的智能化應用開發(fā)交給專業(yè)的智能產品服務商，使“專才”更專,，效率更高,。作為生產智能化產品和解決方案的服務商，山東浪潮智能生產技術有限公司基于基礎通用模型,，正在訓練研發(fā)圍繞智能生產的“智產大模型”,。浪潮智能生產總經理宋志剛表示，對于制造業(yè)來說,，以人工智能與行業(yè)場景的深度融合為主線,，與制造業(yè)企業(yè)生產環(huán)節(jié)深度結合，充分發(fā)揮深度學習,、自主決策等優(yōu)勢,，才能提升生產過程的智能化水平。浪潮智能生產以智產大模型為支撐,，以“多維數據融合與智能優(yōu)化引擎”為技術核心,，打造了智能生產數據分析平臺，并已實際應用于多家制造業(yè)企業(yè),，對生產效率有顯著提升作用,。據了解，專精于發(fā)動機活塞環(huán)制造的福建東亞機械有限公司在采用該智能平臺后,，通過機器視覺數據與行業(yè)數據集微調,，生產效率提高20%，產品合格率由之前的90%提升到99%,。監(jiān)管面臨新的挑戰(zhàn)人工智能在創(chuàng)造前所未有機遇的同時,，也伴隨著超越以往范疇的風險，對監(jiān)管提出了嚴峻考驗,。人工智能帶來的安全問題,，呈現(xiàn)在AI模型的數據獲取、數據訓練以及應用上線運營全過程,。吳運聲認為,，AI本體安全或AI內生安全，要重點關注AI模型和算法自身在可靠性,、公平性,、可解釋性、透明性等方面的安全缺陷,；AI應用安全,，是AI模型從開發(fā)、測試、部署到運行交互等完整生命周期內的應用安全,；AI衍生安全,，也叫AIGC內容安全，主要是生成內容的涉黃,、涉暴等違法違規(guī)內容的審核,。長期來看，伴隨著生成式AI的發(fā)展,，AI倫理和AGI可控性將是AI安全的焦點,。百度法律研究中心主任陳晨表示，隨著大模型的普及和快速迭代,，確保其輸出的內容符合用戶預期和法律要求變得至關重要,。大模型的內容輸出風險，本質上是模型的推理能力和邏輯風險,。這些風險主要體現(xiàn)在模型可能出現(xiàn)“偏見”“誤判”“幻覺”等現(xiàn)實情況,。因此，多元數據集對大模型發(fā)展至關重要,。當前,，我國生成式人工智能和大模型技術創(chuàng)新仍處于初級階段，數據訓練需要盡可能地包容和多樣,，而高質量,、具有良好價值觀的數據往往具有版權。如果因為高質量內容的缺失,，而使生成式人工智能產生某種偏見,，產生推理邏輯風險，將不利于產業(yè)的深度融合和公共服務水平的提升,。從企業(yè)角度出發(fā),，宋志剛認為,，數據是一個核心點,。智能模型的決策，建立在訓練數據基礎之上,，一方面,，訓練數據的不準確會影響智能模型的決策，而用于訓練樣本的數據則面臨被泄露或者被篡改的風險,。他建議,，可以基于傳感器等生產智能化設備，多維度采集數據,，建立起與數據準確性,、完整性、有效性相關的管理機制,。同時,，加強技術攻關,，基于小樣本數據進行快速學習，不斷調優(yōu)模型參數,。此外,，還可以建立數據多重授權和安全防護機制來保障數據安全。隨著人工智能越來越廣泛應用于生產生活的方方面面,，在使用中產生的關于真實性,、道德要求、權責歸屬等議題的討論逐漸增多,。大模型具有工具屬性,，既可以成為好人的幫手，也可能成為壞人的幫兇,。周鴻祎表示,，合理的監(jiān)管，可以對人工智能帶來正向的推動作用,。除了監(jiān)管,，還要尋找技術方法，比如在AI生產視頻里加入不可更改,、不可替換,、不可修改的內部水印等。中國政法大學數據法治研究院教授張凌寒認為,，應通過技術發(fā)展回應和解決安全問題,。不發(fā)展是最大的不安全，我們在技術和產業(yè)的國際競爭中必須以發(fā)展為制度設計的總目標,。治理體系逐步完善人工智能的安全與治理問題,，關乎產業(yè)發(fā)展方向與速度，關乎供給雙方權利與義務,，更關乎國際競爭中的優(yōu)勢與主動,。北京航空航天大學法學院院長助理、副教授趙精武表示,，一國對人工智能的法律規(guī)制不僅影響著本國的產業(yè)發(fā)展和風險治理,，更決定著該國在全球人工智能治理中的話語權。同時,，在全球化的背景下,，人工智能技術的發(fā)展和應用的跨國特性也要求國際社會共同面對和解決技術發(fā)展帶來的挑戰(zhàn)。2023年10月18日,，我國發(fā)布《全球人工智能治理倡議》,，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案,。倡議提出,，人工智能技術帶來難以預知的各種風險和復雜挑戰(zhàn)，各國應在人工智能治理中加強信息交流和技術合作,，不斷提升人工智能技術的安全性,、可靠性、可控性,、公平性,。行之有效的治理方案，既能夠為人工智能的創(chuàng)新發(fā)展與產業(yè)應用提供良好的發(fā)展環(huán)境,，還能妥善應對技術發(fā)展過程中的風險與問題,。中國信通院政策與經濟研究所高級工程師程瑩告訴記者，算法治理是在已有成熟業(yè)態(tài)之后,，圍繞網絡平臺展開的相對穩(wěn)定,、清晰、可預期的治理,。當下的大模型具有擴展性強,、迭代快速、商業(yè)模式尚在探索的階段特性,，全球主要經濟體共同面臨著“邊發(fā)展邊摸索邊治理”的重大挑戰(zhàn),。在我國，人工智能治理正從原則理念轉化為可落地的規(guī)則規(guī)范,。立法層面,，既有民法典、個人信息保護法,、電子商務法等條款針對深度偽造,、大數據殺熟等具體問題的治理，也有在部門規(guī)章層面關于算法推薦,、深度合成,、AIGC領域的要求。倫理層面,，在《關于加強科技倫理治理的意見》規(guī)范下,，進一步推進《科技倫理審查辦法（征求意見稿）》落地實施。標準層面,，我國發(fā)布了《國家新一代人工智能標準體系建設指南》《生成式人工智能服務安全基本要求》等，對人工智能提出了具體落地要求,。人工智能領域的專門法也在逐步推進中,。今年，在十四屆全國人大二次會議新聞發(fā)布會上，大會發(fā)言人婁勤儉表示,，下一步將研究推進科技創(chuàng)新方面的立法,，特別是深入研究人工智能、生物技術等前沿科技領域有關倫理,、道德,、安全等重要問題，不斷完善科技法律體系,。 （本文來源：經濟日報 作者：中國經濟網記者 梁 木 李 方 許 怡）來源：經濟日報