編者按 人工智能治理正前所未有地成為一項(xiàng)全球性議程,。近日舉辦的世界經(jīng)濟(jì)論壇2024年年會(huì)把“人工智能推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展”作為四大關(guān)鍵議題之一,。這個(gè)足以改變?nèi)祟?lèi)未來(lái)的技術(shù)領(lǐng)域,，引起會(huì)場(chǎng)內(nèi)外、國(guó)際國(guó)內(nèi)相關(guān)機(jī)構(gòu)和智庫(kù)的共同關(guān)切,，他們?cè)谟邢灿畜@,、又愛(ài)又怕中，表達(dá)了對(duì)人工智能的復(fù)雜感情,。人工智能風(fēng)險(xiǎn)引全球關(guān)切閱讀提示人工智能將改變?nèi)蚪?jīng)濟(jì),，這是國(guó)內(nèi)外各大機(jī)構(gòu)和智庫(kù)的共識(shí)。多家機(jī)構(gòu)的研究認(rèn)為,，即將迎來(lái)的這場(chǎng)技術(shù)革命可以提振生產(chǎn)力和創(chuàng)新,，促進(jìn)全球經(jīng)濟(jì)增長(zhǎng)。然而,，人工智能的難預(yù)測(cè)性,，也令這些機(jī)構(gòu)擔(dān)憂。福禍之間,，技術(shù)向善的關(guān)鍵保障成為全球機(jī)構(gòu)和智庫(kù)的呼聲,。擔(dān)憂體現(xiàn)在就業(yè)方面。國(guó)際貨幣基金組織研究了人工智能對(duì)全球勞動(dòng)力市場(chǎng)的潛在影響,。該機(jī)構(gòu)對(duì)人工智能可能取代一些工作崗位并加深“智能鴻溝”表達(dá)了不安。擔(dān)憂也體現(xiàn)在“智能鴻溝”方面,。世界經(jīng)濟(jì)論壇在對(duì)首席經(jīng)濟(jì)學(xué)家們進(jìn)行意見(jiàn)調(diào)查后發(fā)現(xiàn),，人工智能給高收入經(jīng)濟(jì)體和低收入經(jīng)濟(jì)體帶來(lái)的收益存在廣泛差異,。受訪專家傾向于認(rèn)為人工智能會(huì)給高收入經(jīng)濟(jì)體創(chuàng)造更高價(jià)值,。擔(dān)憂還體現(xiàn)在醫(yī)療領(lǐng)域,。世界衛(wèi)生組織在新指南中介紹了多模態(tài)大模型在倫理上的新傾向和管理方面的問(wèn)題,，同時(shí)提出了如何安全使用該技術(shù)的建議。國(guó)際貨幣基金組織：人工智能將影響全球近40%的就業(yè)國(guó)際貨幣基金組織1月14日發(fā)布的《Gen-AI：人工智能與未來(lái)的工作》顯示,，全球近40%的就業(yè)將受到人工智能的影響,。與新興市場(chǎng)和發(fā)展中經(jīng)濟(jì)體相比，發(fā)達(dá)經(jīng)濟(jì)體面臨著人工智能帶來(lái)的更大風(fēng)險(xiǎn),，但也有更多機(jī)會(huì)利用它的好處。在發(fā)達(dá)經(jīng)濟(jì)體中,，大約60%的工作崗位可能受到人工智能的影響,。其中，約有一半可能受益于人工智能集成,，從而提高生產(chǎn)力,。對(duì)于另一半,，人工智能應(yīng)用程序可能會(huì)執(zhí)行目前由人類(lèi)從事的關(guān)鍵任務(wù)，這可能會(huì)降低勞動(dòng)力需求,，導(dǎo)致工資下降和招聘減少,。在最極端的情況下，一些工作崗位可能會(huì)消失,。相比之下,，在新興市場(chǎng)和低收入國(guó)家，受到人工智能影響的工作崗位預(yù)計(jì)分別占40%和26%,。盡管許多新興市場(chǎng)和發(fā)展中經(jīng)濟(jì)體可能不會(huì)立即遭遇來(lái)自人工智能的直接破壞,，但是鑒于許多國(guó)家缺乏相關(guān)基礎(chǔ)設(shè)施或具備技能的勞動(dòng)力，沒(méi)能具備抓住人工智能的優(yōu)勢(shì),，長(zhǎng)期而言,，這可能導(dǎo)致數(shù)字鴻溝和跨國(guó)收入差距的加劇,。人工智能還可能影響國(guó)家內(nèi)部的收入和財(cái)富不平等,，加劇不同收入階層之間的兩極分化——能夠利用人工智能的勞動(dòng)者的生產(chǎn)率和工資將提高,，而那些不會(huì)利用人工智能的勞動(dòng)者則會(huì)落在后面,。這可能取決于年齡、學(xué)習(xí)能力,、工作經(jīng)驗(yàn)等多個(gè)方面。例如,，人工智能可以幫助經(jīng)驗(yàn)不足的勞動(dòng)者更快地提高生產(chǎn)率,。年輕的勞動(dòng)者可能會(huì)發(fā)現(xiàn)更容易利用有關(guān)機(jī)會(huì),，而年長(zhǎng)的勞動(dòng)者則可能難以適應(yīng)。世界經(jīng)濟(jì)論壇：高收入經(jīng)濟(jì)體或受益人工智能更多世界經(jīng)濟(jì)論壇2024年年會(huì)發(fā)布的《首席經(jīng)濟(jì)學(xué)家展望》顯示,，金融形勢(shì)的緊張,、地緣政治的分裂和生成式人工智能的快速發(fā)展繼續(xù)影響全球經(jīng)濟(jì)，導(dǎo)致經(jīng)濟(jì)前景依然暗淡并充滿不確定性,。盡管生成式人工智能有望提振生產(chǎn)力和創(chuàng)新,，但受訪專家傾向于認(rèn)為人工智能會(huì)給高收入經(jīng)濟(jì)體創(chuàng)造更高價(jià)值,。首席經(jīng)濟(jì)學(xué)家預(yù)計(jì)人工智能給不同收入群體帶來(lái)的收益存在廣泛差異,，對(duì)于其給高收入經(jīng)濟(jì)體帶來(lái)的價(jià)值持更加樂(lè)觀的態(tài)度,。絕大多數(shù)受訪者認(rèn)為，生成式人工智能今年能提高高收入經(jīng)濟(jì)體生產(chǎn)（79%）和創(chuàng)新（74%）的效率,。展望未來(lái)五年,，94%的受訪者認(rèn)為上述生產(chǎn)力紅利能給高收入經(jīng)濟(jì)體帶來(lái)巨大的經(jīng)濟(jì)效益，而只有53%的受訪者認(rèn)為低收入經(jīng)濟(jì)體能獲得同樣巨大的經(jīng)濟(jì)效益,。近四分之三（73%）的受訪者認(rèn)為人工智能不會(huì)給低收入經(jīng)濟(jì)體的就業(yè)帶來(lái)凈積極影響,，而對(duì)于高收入經(jīng)濟(jì)體，持有這一觀點(diǎn)的受訪者比例僅為47%,。在生成式人工智能能否提高生活水平和降低信任方面,，受訪者的意見(jiàn)分歧更大，但均認(rèn)為高收入市場(chǎng)發(fā)生上述兩種情形的概率略高一些,。世界衛(wèi)生組織：人工智能將改變醫(yī)療但需警惕風(fēng)險(xiǎn)世界衛(wèi)生組織1月18日發(fā)布的多模態(tài)大模型治理相關(guān)新指南稱,，人工智能在醫(yī)療衛(wèi)生領(lǐng)域應(yīng)用前景廣闊，但同時(shí)也要防范其中可能出現(xiàn)的諸如“自動(dòng)化偏見(jiàn)”導(dǎo)致的過(guò)度依賴等風(fēng)險(xiǎn),。這份新指南概述了多模態(tài)大模型在醫(yī)療衛(wèi)生領(lǐng)域的五大應(yīng)用場(chǎng)景：診斷和臨床護(hù)理,、患者自主使用、文書(shū)和行政工作,、醫(yī)療和護(hù)理教育、科學(xué)研究和藥物研發(fā),。多模態(tài)大模型盡管擁有巨大的應(yīng)用潛力,，但同時(shí)可能帶來(lái)“虛假、不正確,、歪曲或不完整”的結(jié)果,。新指南指出了醫(yī)療系統(tǒng)面臨的相關(guān)風(fēng)險(xiǎn)：表現(xiàn)最佳的多模態(tài)大模型的可及性和可負(fù)擔(dān)性；多模態(tài)大模型可能助長(zhǎng)“自動(dòng)化偏見(jiàn)”,，使醫(yī)療專業(yè)人員和患者過(guò)于依賴人工智能，忽略原本可以由人發(fā)現(xiàn)的差錯(cuò),，或把困難的選擇不恰當(dāng)?shù)亟唤o多模態(tài)大模型,；多模態(tài)大模型與其他形式的人工智能一樣，也容易受到網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的影響,，從而危及患者信息安全,、有損算法的可信度等。為了創(chuàng)造安全有效的多模態(tài)大模型,，世界衛(wèi)生組織建議,，政府、科技公司,、醫(yī)療服務(wù)提供者,、患者等利益攸關(guān)方需要參與相關(guān)技術(shù)研發(fā)和部署的各個(gè)階段，對(duì)多模態(tài)大模型進(jìn)行監(jiān)管并制定相關(guān)規(guī)范,。以“善治”促“善智”是大道閱讀提示人工智能是未來(lái)生產(chǎn)力的發(fā)動(dòng)機(jī),。面對(duì)技術(shù)進(jìn)步帶來(lái)的挑戰(zhàn)和風(fēng)險(xiǎn)，以“善治”促“善智”,，引導(dǎo)人工智能朝著有利于人類(lèi)文明進(jìn)步的方向發(fā)展,，被多家智庫(kù)認(rèn)為是大道。大道體現(xiàn)在全球人工智能治理方面,。中國(guó)信息通信研究院的研究認(rèn)為,，大國(guó)共識(shí)推動(dòng)全球人工智能治理的合作進(jìn)程。人工智能的安全合作正拉開(kāi)序幕,，預(yù)計(jì)人工智能對(duì)話磋商未來(lái)將密集展開(kāi),。大道也體現(xiàn)在發(fā)展和安全的平衡方面。中國(guó)社會(huì)科學(xué)院大學(xué)數(shù)字中國(guó)研究院的研究認(rèn)為,，提高社會(huì)對(duì)于安全科技的認(rèn)知,、重視與參與非常必要。該機(jī)構(gòu)認(rèn)為,，人工智能和安全科技將會(huì)是未來(lái)的兩項(xiàng)通用技術(shù),，并提出將安全科技視作新型公共產(chǎn)品的新思路。大道還體現(xiàn)在創(chuàng)新發(fā)展方面,。賽迪顧問(wèn)的研究認(rèn)為,，隨著中國(guó)加快打造更可信、可控,、可解釋的人工智能應(yīng)用,，中國(guó)人工智能產(chǎn)業(yè)將迎來(lái)更大的發(fā)展空間，預(yù)計(jì)中國(guó)人工智能產(chǎn)業(yè)未來(lái)將呈現(xiàn)十大發(fā)展趨勢(shì),。中國(guó)信息通信研究院：全球人工智能對(duì)話磋商預(yù)計(jì)將密集展開(kāi)中國(guó)信息通信研究院1月初發(fā)布的《全球數(shù)字治理白皮書(shū)（2023年）》認(rèn)為,，各方未來(lái)在聯(lián)合國(guó)等多邊機(jī)構(gòu)下的合作進(jìn)展、對(duì)新的全球人工智能治理架構(gòu)的參與,，可能成為判斷全球數(shù)字治理發(fā)展方向的重要根據(jù),。2023年,，全球數(shù)字治理面臨復(fù)雜多變的新形勢(shì)。前沿人工智能“飛躍”突破敲響安全警鐘,，人工智能技術(shù)軍民兩用,、危險(xiǎn)難預(yù)測(cè)、轉(zhuǎn)移難監(jiān)測(cè),、私營(yíng)部門(mén)主導(dǎo)等特性放大了倫理偏見(jiàn),、虛假信息、隱私泄露,、版權(quán)侵權(quán)等風(fēng)險(xiǎn),，引發(fā)數(shù)據(jù)主權(quán)、文化多樣性,、勞動(dòng)替代等討論,。展望未來(lái)，各方圍繞人工智能在軍事和信息內(nèi)容領(lǐng)域的應(yīng)用可能成為對(duì)話磋商的優(yōu)先領(lǐng)域,。據(jù)不完全統(tǒng)計(jì),，2024年全球?qū)⒂?0多個(gè)國(guó)家和地區(qū)舉行大選，利用人工智能制造虛假信息將對(duì)各國(guó)政治生態(tài)造成嚴(yán)重沖擊,。如何化解這些重大風(fēng)險(xiǎn)將成為各方對(duì)話磋商的重點(diǎn),。國(guó)際治理機(jī)構(gòu)將加快醞釀。聯(lián)合國(guó)正在組建新的全球性人工智能治理機(jī)構(gòu),，新機(jī)構(gòu)將如何與聯(lián)合國(guó)系統(tǒng)內(nèi)機(jī)構(gòu)合作,、如何與其他國(guó)際進(jìn)程協(xié)調(diào)，值得高度關(guān)注,。各國(guó)治理框架間協(xié)調(diào)值得高度關(guān)注,。盡管人工智能治理正在加速?gòu)脑瓌t走向落地實(shí)施，但是各國(guó)對(duì)治理關(guān)鍵環(huán)節(jié),、重要主體,、治理工具有著不同的認(rèn)識(shí)。未來(lái),，不同治理框架之間能否形成全球性的規(guī)則共識(shí),，仍有待觀察。中國(guó)社會(huì)科學(xué)院大學(xué)數(shù)字中國(guó)研究院：人工智能潮流下安全科技的價(jià)值在放大中國(guó)社會(huì)科學(xué)院大學(xué)數(shù)字中國(guó)研究院聯(lián)合螞蟻集團(tuán)1月18日發(fā)布的《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》認(rèn)為,，在人工智能大模型及深度數(shù)字化趨勢(shì)下,，安全科技的價(jià)值在放大。人工智能和安全科技將會(huì)是未來(lái)的兩項(xiàng)通用技術(shù),。數(shù)字化安全風(fēng)險(xiǎn)已經(jīng)進(jìn)入快迭代,、高智能、全覆蓋的新格局。例如,，伴隨人工智能大模型的誕生,，一個(gè)新的安全技術(shù)研究領(lǐng)域逐漸形成，含數(shù)據(jù)去毒,、模型安全,、AIGC檢測(cè)技術(shù)等。近幾年,，面對(duì)新的安全威脅和新的應(yīng)用需求，一大批新的安全技術(shù)不斷涌現(xiàn),。中國(guó)科學(xué)院院士馮登國(guó)將這些新技術(shù)呈現(xiàn)出的特征概括為智能化,、零化、彈性化,、匿名化,、量子化。安全科技正處在時(shí)代的轉(zhuǎn)折點(diǎn),，從傳統(tǒng)的網(wǎng)絡(luò)安全技術(shù)發(fā)展成當(dāng)前更為通用,，包含多個(gè)領(lǐng)域，多種前沿技術(shù)的復(fù)雜系統(tǒng)性技術(shù),。安全科技本質(zhì)上是一種伴生技術(shù),。根據(jù)技術(shù)成熟性與前沿性，安全科技可以被分為四大板塊——基礎(chǔ)安全,、業(yè)務(wù)安全,、AI安全、未來(lái)安全,。該研究建議,，以公共品的定位來(lái)判斷安全科技的價(jià)值，推動(dòng)其發(fā)展,。政企合作是安全科技成為公共品的核心驅(qū)動(dòng)力,。要通過(guò)更多的公共力量投入，構(gòu)建更好的安全科技實(shí)力和制度,。賽迪顧問(wèn)：人工智能鋪平數(shù)字經(jīng)濟(jì)發(fā)展的“快軌”賽迪顧問(wèn)人工智能與大數(shù)據(jù)研究中心1月16日發(fā)布的《2024年人工智能行業(yè)趨勢(shì)洞察》顯示,，隨著數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)的高速發(fā)展，中國(guó)人工智能產(chǎn)業(yè)將迎來(lái)更大的發(fā)展空間,。同時(shí),，預(yù)計(jì)中國(guó)未來(lái)將加快推動(dòng)基于“代碼規(guī)制代碼”的算法監(jiān)管技術(shù)、倫理治理等路線的人工智能治理,，打造更可信,、可控、可解釋的人工智能應(yīng)用。該研究預(yù)計(jì),，中國(guó)人工智能產(chǎn)業(yè)未來(lái)將呈現(xiàn)十大發(fā)展趨勢(shì)：中國(guó)人工智能產(chǎn)業(yè)將在未來(lái)10年到15年取得長(zhǎng)足發(fā)展；大模型將借助多模態(tài)技術(shù)實(shí)現(xiàn)全面感知,；在生成式人工智能的推動(dòng)下,，中國(guó)的“數(shù)字中點(diǎn)”將有望提前10年到來(lái)；AI Agent將重構(gòu)人機(jī)交互方式,；具身智能將成為顛覆制造業(yè)的下一個(gè)浪潮,；智算中心連點(diǎn)成面，人工智能算力網(wǎng)絡(luò)統(tǒng)籌加速部署,；各行業(yè)應(yīng)用加速向人工智能原生轉(zhuǎn)型,，場(chǎng)景賦能持續(xù)創(chuàng)新；人工智能人才將從“算法型”向“復(fù)合應(yīng)用型”躍升,；人工智能治理將打造更可信,、可控的產(chǎn)業(yè)應(yīng)用；MaaS將成為人工智能產(chǎn)業(yè)生態(tài)構(gòu)建的核心,。這一研究同時(shí)提醒,，中國(guó)人工智能的發(fā)展需要關(guān)注四方面問(wèn)題：基于大模型創(chuàng)新應(yīng)用的算力資源供給不足；通用人工智能應(yīng)用場(chǎng)景建設(shè)進(jìn)度遲緩,；重點(diǎn)產(chǎn)品的評(píng)測(cè)體系尚不健全,；圍繞垂直行業(yè)應(yīng)用產(chǎn)品的孵育優(yōu)化能力不足。