本報(bào)記者 李 貞在第二屆全球數(shù)字貿(mào)易博覽會(huì)數(shù)字技術(shù)館,，觀眾了解一款AI生成圖像的AIGC智能平臺(tái),。 新華社記者 劉嶺逸攝在浙江省寧波市北侖區(qū)生態(tài)環(huán)境監(jiān)測(cè)AI智能實(shí)驗(yàn)室，數(shù)字化智慧信息管理平臺(tái)全程動(dòng)態(tài)跟蹤和分析結(jié)果顯示,。 蔣曉東攝(人民圖片)日前舉行的中央經(jīng)濟(jì)工作會(huì)議指出,，2024年要“加快推動(dòng)人工智能發(fā)展”。當(dāng)前,，人工智能(AI)已廣泛滲透到各行各業(yè)，從醫(yī)療保健,、交通運(yùn)輸,，到教育培訓(xùn)、娛樂休閑等,。那么AI技術(shù)有哪些新趨勢(shì),，未來該如何更安全地發(fā)展？2023年12月27日,，AI發(fā)展與治理創(chuàng)新研討會(huì)在北京舉行,，與會(huì)專家與相關(guān)從業(yè)者圍繞AI技術(shù)創(chuàng)新發(fā)展進(jìn)行了分享與討論。新模式新業(yè)態(tài)不斷涌現(xiàn)“人工智能已成為引領(lǐng)產(chǎn)業(yè)發(fā)展,、驅(qū)動(dòng)經(jīng)濟(jì)增長(zhǎng),、連接全球合作的重要新興技術(shù)方向?！敝袊?guó)電子技術(shù)標(biāo)準(zhǔn)化研究院信息技術(shù)研究中心主任范科峰認(rèn)為,，當(dāng)前，AI技術(shù)新模式新業(yè)態(tài)不斷涌現(xiàn),，產(chǎn)品和服務(wù)逐漸完善,，在經(jīng)濟(jì)社會(huì)各領(lǐng)域廣泛應(yīng)用，與實(shí)體經(jīng)濟(jì)融合持續(xù)深化,，正深刻改變著人類的生產(chǎn)生活方式,。在研討會(huì)上，多項(xiàng)AI技術(shù)在各領(lǐng)域?qū)嶋H應(yīng)用的案例令人眼前一亮,。AI技術(shù)能幫人更好地做生意,。對(duì)從事家具外貿(mào)電商業(yè)務(wù)的黃凱來說，他的日常工作就離不開AI技術(shù)的幫助?！斑^去,，要上架一款家具，我們得先完成設(shè)計(jì),、做出樣品,，再進(jìn)行產(chǎn)品拍攝。這個(gè)過程不僅時(shí)間長(zhǎng),，而且花費(fèi)的成本也很高,。但現(xiàn)在，有了AI技術(shù)的幫助,，只需要輸入數(shù)據(jù),，就能很簡(jiǎn)單地做出產(chǎn)品圖，并且能隨意模擬產(chǎn)品在客廳,、商場(chǎng)等不同場(chǎng)景下擺放的效果,，效率得到了極大提升?！贝送?，AI技術(shù)還幫助黃凱的公司降低了招聘運(yùn)營(yíng)人員的難度。據(jù)黃凱介紹,，以前,，從事外貿(mào)生意對(duì)運(yùn)營(yíng)人員的外語水平、工作經(jīng)驗(yàn)要求較高,，但有了AI工具做輔助,，新員工也可以很快上手完成工作了。在醫(yī)療領(lǐng)域,，AI技術(shù)大有用武之地,。胰腺癌是一種生存率較低的惡性腫瘤，并且早期篩查容易出現(xiàn)漏診或誤診?，F(xiàn)在,，來自浙大醫(yī)學(xué)院附屬第一醫(yī)院、復(fù)旦大學(xué)附屬腫瘤醫(yī)院的醫(yī)學(xué)團(tuán)隊(duì),，已開始采用“平掃CT+AI”的方法,，進(jìn)行大規(guī)模胰腺癌早期篩查。在2萬多人的真實(shí)病例試驗(yàn)中,，發(fā)現(xiàn)了31例臨床漏診病變,，其中2例早期病患很快就完成了手術(shù)。該項(xiàng)研究成果也已發(fā)表在國(guó)際醫(yī)學(xué)期刊上,。在影視制作領(lǐng)域,，AI技術(shù)未來可期,。阿里大文娛團(tuán)隊(duì)借助AI技術(shù),，在虛擬拍攝,、數(shù)字人、超高清視聽體驗(yàn)等領(lǐng)域取得了創(chuàng)新突破,。相對(duì)傳統(tǒng)制作方式,，借助虛擬拍攝，制作效率可以提升40%,?！昂芏噙^去想到但做不到、甚至創(chuàng)作者也沒想到的場(chǎng)景,，都在AI的助力下呈現(xiàn)在我們的面前,。可以預(yù)見,，AI技術(shù)將全面提升中國(guó)影視制作的水平,。”阿里巴巴科技倫理治理委員會(huì)委員薛暉說,。風(fēng)險(xiǎn)與挑戰(zhàn)不容忽視隨著AI技術(shù)的快速發(fā)展,，技術(shù)風(fēng)險(xiǎn)、隱私保護(hù)等安全問題也愈加受到關(guān)注,。在研討會(huì)上,，阿里巴巴集團(tuán)與中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院聯(lián)合發(fā)布了《生成式人工智能(AIGC)治理與實(shí)踐白皮書》，系統(tǒng)分析大模型和AIGC主要風(fēng)險(xiǎn),，并從應(yīng)用角度提出針對(duì)性治理建議和可操作性實(shí)踐方案,。所謂生成式人工智能是指基于人工智能的技術(shù)方法，通過對(duì)已有數(shù)據(jù)的學(xué)習(xí)和識(shí)別,，生成相關(guān)內(nèi)容的技術(shù),。中國(guó)科學(xué)院信息工程研究所技術(shù)副總師韓冀中認(rèn)為，這項(xiàng)技術(shù)最主要的特點(diǎn),，是改變了信息的生成方式和信息的獲取方式,。“每一次信息獲取方式的變化,，都會(huì)帶來整個(gè)信息產(chǎn)業(yè)的變革,。比如我們?cè)缙讷@取信息可能通過黃頁(yè)，后來是搜索引擎,，現(xiàn)在有了更新的渠道,，即ChatGPT這樣的技術(shù)，會(huì)讓整個(gè)信息產(chǎn)業(yè)產(chǎn)生巨大變化,?！卑⒗锇桶腿斯ぶ悄苤卫砗涂沙掷m(xù)發(fā)展研究中心首席科學(xué)家何源認(rèn)為，生成式人工智能技術(shù)應(yīng)用中，可能存在的安全風(fēng)險(xiǎn)與每個(gè)人息息相關(guān),。據(jù)何源介紹,，生成式人工智能可以通過交互的方式低成本、快速地生產(chǎn)內(nèi)容,，比如可以很容易地生成并傳播謠言,，這給內(nèi)容安全的防控帶來了新挑戰(zhàn)。在隱私和版權(quán)方面,，大模型應(yīng)用的海量互聯(lián)網(wǎng)數(shù)據(jù),，很難逐一確認(rèn)樣本授權(quán)，容易造成隱私泄露和侵權(quán)問題,。另外,，生成式人工智能還降低了很多專業(yè)領(lǐng)域的技術(shù)門檻，有可能被濫用于黑客攻擊,、網(wǎng)絡(luò)犯罪等,。因此，業(yè)內(nèi)專家認(rèn)為,，建立相關(guān)安全治理體系十分必要,。“多元協(xié)同,、開放共治”為規(guī)范生成式人工智能技術(shù)發(fā)展,，2023年7月，國(guó)家網(wǎng)信辦聯(lián)合多部委公布了《生成式人工智能服務(wù)管理暫行辦法》,。該《辦法》一方面明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容,，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系,。同時(shí),，也明確“生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),，使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán),；涉及個(gè)人信息的,，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形,；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性”等,。在研討會(huì)上，多位專家就生成式人工智能的安全治理提出自己的觀點(diǎn),。中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院信息技術(shù)研究中心副主任董建提到，當(dāng)前,，國(guó)內(nèi)外都在推動(dòng)研發(fā)生成式人工智能的治理工具,，但如何通過技術(shù)深層次解決治理問題，尚需進(jìn)一步探索,。中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會(huì)專委會(huì)副主委潘恩榮認(rèn)為,，生成式人工智能對(duì)人類的經(jīng)濟(jì)社會(huì)發(fā)展觀念帶來了巨大沖擊，規(guī)范其發(fā)展“宜疏不宜堵”,。一方面,，必須克服各種恐懼和臆想，克制“堵”的沖動(dòng),；另一方面,，要在實(shí)踐中，小步快跑地迭代出各種“疏”的方式,。復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授張謐指出,，科技行業(yè)應(yīng)該負(fù)責(zé)任地發(fā)展AI，兼顧AI發(fā)展和風(fēng)險(xiǎn)管控?，F(xiàn)在全球范圍內(nèi)有AI競(jìng)賽的氛圍,，各方應(yīng)該立足長(zhǎng)遠(yuǎn)，攜手營(yíng)造有序競(jìng)爭(zhēng),，保障AI技術(shù)發(fā)展處于安全區(qū)域,。“關(guān)于AI,，我們不知道的比知道的多,，難以想象的比可以預(yù)測(cè)的多?！毖煴硎?，生成式人工智能帶來了前所未有的挑戰(zhàn)，需要前瞻性地應(yīng)對(duì),，“多元協(xié)同,、開放共治”是AI發(fā)展和治理的必經(jīng)之路。