自動(dòng)駕駛的汽車安全穿行在城市的車流中,，人工智能（AI）生成的文章與圖片在社交媒體上頻頻出現(xiàn),，工廠里搭載著智能系統(tǒng)的流水線以前所未有的高效率運(yùn)轉(zhuǎn)……人工智能正在成為重塑生產(chǎn)生活,、引領(lǐng)時(shí)代變革的重要力量,。與此同時(shí)，隨著人工智能技術(shù)的持續(xù)發(fā)展,，應(yīng)用場(chǎng)景不斷拓展,，一系列安全風(fēng)險(xiǎn)與挑戰(zhàn)隨之產(chǎn)生。如何讓人工智能在安全,、穩(wěn)定,、高效的軌道上良性發(fā)展,，成為業(yè)界普遍關(guān)注的問(wèn)題。垂直領(lǐng)域機(jī)遇空前作為先進(jìn)技術(shù)的標(biāo)桿,，人工智能領(lǐng)域的任何風(fēng)吹草動(dòng)都可能引發(fā)全球關(guān)注,。從ChatGPT橫空出世到Sora刷新認(rèn)知，只用了1年多的時(shí)間,。在此期間,，國(guó)內(nèi)的“百模大戰(zhàn)”打得如火如荼，一批通過(guò)備案的大模型已經(jīng)向各行業(yè)及社會(huì)公眾開(kāi)放,。全球范圍內(nèi),，人工智能的競(jìng)爭(zhēng)日趨激烈。咨詢機(jī)構(gòu)麥肯錫預(yù)計(jì),，以AIGC為代表的AI技術(shù)將給全球經(jīng)濟(jì)帶來(lái)超過(guò)7.9萬(wàn)億美元價(jià)值,，到2030年之前，如果生成式AI應(yīng)用于各行業(yè),，每年總經(jīng)濟(jì)效益高達(dá)6.1萬(wàn)億美元至7.9萬(wàn)億美元,。近日，在中國(guó)發(fā)展高層論壇2024年年會(huì)“人工智能發(fā)展與治理專題研討會(huì)”上,，中國(guó)科學(xué)院副院長(zhǎng)吳朝暉表示，人工智能將成為第四次工業(yè)革命的標(biāo)配,，將加速傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型升級(jí),，實(shí)現(xiàn)質(zhì)量變革、效益變革和動(dòng)力變革,，重塑工業(yè)的基礎(chǔ)再造,、生產(chǎn)和服務(wù)模式創(chuàng)新的各個(gè)環(huán)節(jié)，引領(lǐng)新型工業(yè)化發(fā)展,，為智能經(jīng)濟(jì)發(fā)展提供全新動(dòng)能,。如何在新一輪產(chǎn)業(yè)革命中搶占先機(jī)？這是機(jī)遇,，也是挑戰(zhàn),。人工智能作為一種技術(shù)工具，需要與產(chǎn)業(yè)結(jié)合,，推動(dòng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型,，從而促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展。我國(guó)龐大的人口規(guī)模,、應(yīng)用場(chǎng)景與完整的產(chǎn)業(yè)鏈,，為產(chǎn)業(yè)落地提供了堅(jiān)實(shí)的環(huán)境支持。360集團(tuán)創(chuàng)始人周鴻祎表示,，如果企業(yè)在某個(gè)業(yè)務(wù)領(lǐng)域有獨(dú)特的業(yè)務(wù)數(shù)據(jù),，就應(yīng)在這一垂直領(lǐng)域把大模型訓(xùn)練好,，并將其與企業(yè)業(yè)務(wù)工具結(jié)合在一起。未來(lái),，企業(yè)里將不會(huì)只有一個(gè)超級(jí)大模型,，而是有多個(gè)小規(guī)模的、百億級(jí)的大模型,，每個(gè)大模型只從事一個(gè)場(chǎng)景的工作,。充分發(fā)揮場(chǎng)景落地優(yōu)勢(shì)，在垂直領(lǐng)域發(fā)力,，正成為當(dāng)前國(guó)內(nèi)企業(yè)發(fā)展人工智能的共識(shí),。騰訊云副總裁、騰訊云智能負(fù)責(zé)人,、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲介紹,，目前，騰訊已將AI大模型應(yīng)用到多個(gè)業(yè)務(wù)場(chǎng)景中,，在產(chǎn)業(yè)落地方面,，基于騰訊云TI平臺(tái)推出的行業(yè)大模型，通過(guò)結(jié)合行業(yè)專業(yè)知識(shí)和數(shù)據(jù)訓(xùn)練,，以及企業(yè)自身的數(shù)據(jù)進(jìn)行精調(diào),，幫助企業(yè)快速生成專屬模型，目前已經(jīng)面向20多個(gè)行業(yè)輸出了超過(guò)50個(gè)行業(yè)大模型解決方案,。3月27日,，百度智能云“AI Cloud Day：大模型應(yīng)用產(chǎn)品發(fā)布會(huì)”發(fā)布通過(guò)大模型重構(gòu)和升級(jí)之后的7款產(chǎn)品，覆蓋營(yíng)銷內(nèi)容的創(chuàng)作,、數(shù)字人,、智能客服等七大垂直領(lǐng)域。百度智能云副總裁喻友平表示,，大模型作為一種普適性的應(yīng)用,，一定要和場(chǎng)景緊密結(jié)合。當(dāng)前業(yè)界普遍思考,，怎樣把大模型用到企業(yè)中去,。業(yè)內(nèi)人士認(rèn)為，對(duì)多數(shù)企業(yè),，特別是中小微企業(yè)而言,，以小規(guī)模、垂直化的大模型作為切入點(diǎn),，可以高效快速實(shí)現(xiàn)人工智能對(duì)產(chǎn)業(yè)的數(shù)字化賦能,。同時(shí)將企業(yè)在垂直領(lǐng)域的智能化應(yīng)用開(kāi)發(fā)交給專業(yè)的智能產(chǎn)品服務(wù)商，使“專才”更專,，效率更高,。作為生產(chǎn)智能化產(chǎn)品和解決方案的服務(wù)商,，山東浪潮智能生產(chǎn)技術(shù)有限公司基于基礎(chǔ)通用模型，正在訓(xùn)練研發(fā)圍繞智能生產(chǎn)的“智產(chǎn)大模型”,。浪潮智能生產(chǎn)總經(jīng)理宋志剛表示,，對(duì)于制造業(yè)來(lái)說(shuō)，以人工智能與行業(yè)場(chǎng)景的深度融合為主線,，與制造業(yè)企業(yè)生產(chǎn)環(huán)節(jié)深度結(jié)合,，充分發(fā)揮深度學(xué)習(xí)、自主決策等優(yōu)勢(shì),，才能提升生產(chǎn)過(guò)程的智能化水平,。浪潮智能生產(chǎn)以智產(chǎn)大模型為支撐，以“多維數(shù)據(jù)融合與智能優(yōu)化引擎”為技術(shù)核心,，打造了智能生產(chǎn)數(shù)據(jù)分析平臺(tái),，并已實(shí)際應(yīng)用于多家制造業(yè)企業(yè)，對(duì)生產(chǎn)效率有顯著提升作用,。據(jù)了解,，專精于發(fā)動(dòng)機(jī)活塞環(huán)制造的福建東亞機(jī)械有限公司在采用該智能平臺(tái)后,，通過(guò)機(jī)器視覺(jué)數(shù)據(jù)與行業(yè)數(shù)據(jù)集微調(diào),，生產(chǎn)效率提高20%，產(chǎn)品合格率由之前的90%提升到99%,。監(jiān)管面臨新的挑戰(zhàn)人工智能在創(chuàng)造前所未有機(jī)遇的同時(shí),，也伴隨著超越以往范疇的風(fēng)險(xiǎn)，對(duì)監(jiān)管提出了嚴(yán)峻考驗(yàn),。人工智能帶來(lái)的安全問(wèn)題,，呈現(xiàn)在AI模型的數(shù)據(jù)獲取、數(shù)據(jù)訓(xùn)練以及應(yīng)用上線運(yùn)營(yíng)全過(guò)程,。吳運(yùn)聲認(rèn)為,，AI本體安全或AI內(nèi)生安全，要重點(diǎn)關(guān)注AI模型和算法自身在可靠性,、公平性、可解釋性,、透明性等方面的安全缺陷,；AI應(yīng)用安全,，是AI模型從開(kāi)發(fā)、測(cè)試,、部署到運(yùn)行交互等完整生命周期內(nèi)的應(yīng)用安全,；AI衍生安全，也叫AIGC內(nèi)容安全,，主要是生成內(nèi)容的涉黃,、涉暴等違法違規(guī)內(nèi)容的審核。長(zhǎng)期來(lái)看,，伴隨著生成式AI的發(fā)展,，AI倫理和AGI可控性將是AI安全的焦點(diǎn)。百度法律研究中心主任陳晨表示,，隨著大模型的普及和快速迭代,，確保其輸出的內(nèi)容符合用戶預(yù)期和法律要求變得至關(guān)重要。大模型的內(nèi)容輸出風(fēng)險(xiǎn),，本質(zhì)上是模型的推理能力和邏輯風(fēng)險(xiǎn),。這些風(fēng)險(xiǎn)主要體現(xiàn)在模型可能出現(xiàn)“偏見(jiàn)”“誤判”“幻覺(jué)”等現(xiàn)實(shí)情況。因此,，多元數(shù)據(jù)集對(duì)大模型發(fā)展至關(guān)重要,。當(dāng)前，我國(guó)生成式人工智能和大模型技術(shù)創(chuàng)新仍處于初級(jí)階段,，數(shù)據(jù)訓(xùn)練需要盡可能地包容和多樣,，而高質(zhì)量、具有良好價(jià)值觀的數(shù)據(jù)往往具有版權(quán),。如果因?yàn)楦哔|(zhì)量?jī)?nèi)容的缺失,，而使生成式人工智能產(chǎn)生某種偏見(jiàn)，產(chǎn)生推理邏輯風(fēng)險(xiǎn),，將不利于產(chǎn)業(yè)的深度融合和公共服務(wù)水平的提升,。從企業(yè)角度出發(fā)，宋志剛認(rèn)為,，數(shù)據(jù)是一個(gè)核心點(diǎn),。智能模型的決策，建立在訓(xùn)練數(shù)據(jù)基礎(chǔ)之上,，一方面,，訓(xùn)練數(shù)據(jù)的不準(zhǔn)確會(huì)影響智能模型的決策，而用于訓(xùn)練樣本的數(shù)據(jù)則面臨被泄露或者被篡改的風(fēng)險(xiǎn)。他建議，可以基于傳感器等生產(chǎn)智能化設(shè)備,，多維度采集數(shù)據(jù),，建立起與數(shù)據(jù)準(zhǔn)確性,、完整性,、有效性相關(guān)的管理機(jī)制,。同時(shí),，加強(qiáng)技術(shù)攻關(guān),，基于小樣本數(shù)據(jù)進(jìn)行快速學(xué)習(xí)，不斷調(diào)優(yōu)模型參數(shù)。此外，還可以建立數(shù)據(jù)多重授權(quán)和安全防護(hù)機(jī)制來(lái)保障數(shù)據(jù)安全。隨著人工智能越來(lái)越廣泛應(yīng)用于生產(chǎn)生活的方方面面,，在使用中產(chǎn)生的關(guān)于真實(shí)性、道德要求,、權(quán)責(zé)歸屬等議題的討論逐漸增多,。大模型具有工具屬性，既可以成為好人的幫手，也可能成為壞人的幫兇,。周鴻祎表示,，合理的監(jiān)管，可以對(duì)人工智能帶來(lái)正向的推動(dòng)作用,。除了監(jiān)管,，還要尋找技術(shù)方法，比如在AI生產(chǎn)視頻里加入不可更改,、不可替換,、不可修改的內(nèi)部水印等。中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒認(rèn)為,，應(yīng)通過(guò)技術(shù)發(fā)展回應(yīng)和解決安全問(wèn)題,。不發(fā)展是最大的不安全，我們?cè)诩夹g(shù)和產(chǎn)業(yè)的國(guó)際競(jìng)爭(zhēng)中必須以發(fā)展為制度設(shè)計(jì)的總目標(biāo),。治理體系逐步完善人工智能的安全與治理問(wèn)題,，關(guān)乎產(chǎn)業(yè)發(fā)展方向與速度,，關(guān)乎供給雙方權(quán)利與義務(wù)，更關(guān)乎國(guó)際競(jìng)爭(zhēng)中的優(yōu)勢(shì)與主動(dòng),。北京航空航天大學(xué)法學(xué)院院長(zhǎng)助理、副教授趙精武表示,，一國(guó)對(duì)人工智能的法律規(guī)制不僅影響著本國(guó)的產(chǎn)業(yè)發(fā)展和風(fēng)險(xiǎn)治理，更決定著該國(guó)在全球人工智能治理中的話語(yǔ)權(quán),。同時(shí),，在全球化的背景下,，人工智能技術(shù)的發(fā)展和應(yīng)用的跨國(guó)特性也要求國(guó)際社會(huì)共同面對(duì)和解決技術(shù)發(fā)展帶來(lái)的挑戰(zhàn),。2023年10月18日，我國(guó)發(fā)布《全球人工智能治理倡議》,，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國(guó)方案,。倡議提出,，人工智能技術(shù)帶來(lái)難以預(yù)知的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn),，各國(guó)應(yīng)在人工智能治理中加強(qiáng)信息交流和技術(shù)合作,，不斷提升人工智能技術(shù)的安全性,、可靠性,、可控性,、公平性,。行之有效的治理方案,，既能夠?yàn)槿斯ぶ悄艿膭?chuàng)新發(fā)展與產(chǎn)業(yè)應(yīng)用提供良好的發(fā)展環(huán)境，還能妥善應(yīng)對(duì)技術(shù)發(fā)展過(guò)程中的風(fēng)險(xiǎn)與問(wèn)題,。中國(guó)信通院政策與經(jīng)濟(jì)研究所高級(jí)工程師程瑩告訴記者,，算法治理是在已有成熟業(yè)態(tài)之后，圍繞網(wǎng)絡(luò)平臺(tái)展開(kāi)的相對(duì)穩(wěn)定,、清晰,、可預(yù)期的治理。當(dāng)下的大模型具有擴(kuò)展性強(qiáng),、迭代快速,、商業(yè)模式尚在探索的階段特性，全球主要經(jīng)濟(jì)體共同面臨著“邊發(fā)展邊摸索邊治理”的重大挑戰(zhàn),。在我國(guó),，人工智能治理正從原則理念轉(zhuǎn)化為可落地的規(guī)則規(guī)范。立法層面,，既有民法典、個(gè)人信息保護(hù)法,、電子商務(wù)法等條款針對(duì)深度偽造,、大數(shù)據(jù)殺熟等具體問(wèn)題的治理,，也有在部門(mén)規(guī)章層面關(guān)于算法推薦,、深度合成、AIGC領(lǐng)域的要求,。倫理層面，在《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》規(guī)范下，進(jìn)一步推進(jìn)《科技倫理審查辦法（征求意見(jiàn)稿）》落地實(shí)施。標(biāo)準(zhǔn)層面,，我國(guó)發(fā)布了《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》《生成式人工智能服務(wù)安全基本要求》等，對(duì)人工智能提出了具體落地要求,。人工智能領(lǐng)域的專門(mén)法也在逐步推進(jìn)中。今年，在十四屆全國(guó)人大二次會(huì)議新聞發(fā)布會(huì)上,，大會(huì)發(fā)言人婁勤儉表示，下一步將研究推進(jìn)科技創(chuàng)新方面的立法，特別是深入研究人工智能,、生物技術(shù)等前沿科技領(lǐng)域有關(guān)倫理、道德、安全等重要問(wèn)題,，不斷完善科技法律體系。 （本文來(lái)源：經(jīng)濟(jì)日?qǐng)?bào) 作者：中國(guó)經(jīng)濟(jì)網(wǎng)記者 梁 木 李 方 許 怡）來(lái)源：經(jīng)濟(jì)日?qǐng)?bào)