編者按 人工智能治理正前所未有地成為一項全球性議程。近日舉辦的世界經(jīng)濟論壇2024年年會把“人工智能推動經(jīng)濟社會發(fā)展”作為四大關鍵議題之一。這個足以改變?nèi)祟愇磥淼募夹g領域,，引起會場內(nèi)外,、國際國內(nèi)相關機構(gòu)和智庫的共同關切，他們在有喜有驚,、又愛又怕中，表達了對人工智能的復雜感情,。人工智能風險引全球關切閱讀提示人工智能將改變?nèi)蚪?jīng)濟，這是國內(nèi)外各大機構(gòu)和智庫的共識,。多家機構(gòu)的研究認為,，即將迎來的這場技術革命可以提振生產(chǎn)力和創(chuàng)新，促進全球經(jīng)濟增長,。然而,，人工智能的難預測性，也令這些機構(gòu)擔憂,。福禍之間,，技術向善的關鍵保障成為全球機構(gòu)和智庫的呼聲,。擔憂體現(xiàn)在就業(yè)方面,。國際貨幣基金組織研究了人工智能對全球勞動力市場的潛在影響,。該機構(gòu)對人工智能可能取代一些工作崗位并加深“智能鴻溝”表達了不安,。擔憂也體現(xiàn)在“智能鴻溝”方面。世界經(jīng)濟論壇在對首席經(jīng)濟學家們進行意見調(diào)查后發(fā)現(xiàn),，人工智能給高收入經(jīng)濟體和低收入經(jīng)濟體帶來的收益存在廣泛差異。受訪專家傾向于認為人工智能會給高收入經(jīng)濟體創(chuàng)造更高價值,。擔憂還體現(xiàn)在醫(yī)療領域。世界衛(wèi)生組織在新指南中介紹了多模態(tài)大模型在倫理上的新傾向和管理方面的問題,，同時提出了如何安全使用該技術的建議,。國際貨幣基金組織：人工智能將影響全球近40%的就業(yè)國際貨幣基金組織1月14日發(fā)布的《Gen-AI：人工智能與未來的工作》顯示，全球近40%的就業(yè)將受到人工智能的影響,。與新興市場和發(fā)展中經(jīng)濟體相比,，發(fā)達經(jīng)濟體面臨著人工智能帶來的更大風險，但也有更多機會利用它的好處,。在發(fā)達經(jīng)濟體中,，大約60%的工作崗位可能受到人工智能的影響。其中,，約有一半可能受益于人工智能集成,，從而提高生產(chǎn)力,。對于另一半，人工智能應用程序可能會執(zhí)行目前由人類從事的關鍵任務,，這可能會降低勞動力需求，導致工資下降和招聘減少,。在最極端的情況下，一些工作崗位可能會消失,。相比之下，在新興市場和低收入國家,，受到人工智能影響的工作崗位預計分別占40%和26%,。盡管許多新興市場和發(fā)展中經(jīng)濟體可能不會立即遭遇來自人工智能的直接破壞,，但是鑒于許多國家缺乏相關基礎設施或具備技能的勞動力，沒能具備抓住人工智能的優(yōu)勢,，長期而言，這可能導致數(shù)字鴻溝和跨國收入差距的加劇,。人工智能還可能影響國家內(nèi)部的收入和財富不平等,，加劇不同收入階層之間的兩極分化——能夠利用人工智能的勞動者的生產(chǎn)率和工資將提高,，而那些不會利用人工智能的勞動者則會落在后面,。這可能取決于年齡、學習能力,、工作經(jīng)驗等多個方面。例如,，人工智能可以幫助經(jīng)驗不足的勞動者更快地提高生產(chǎn)率,。年輕的勞動者可能會發(fā)現(xiàn)更容易利用有關機會，而年長的勞動者則可能難以適應,。世界經(jīng)濟論壇：高收入經(jīng)濟體或受益人工智能更多世界經(jīng)濟論壇2024年年會發(fā)布的《首席經(jīng)濟學家展望》顯示，金融形勢的緊張,、地緣政治的分裂和生成式人工智能的快速發(fā)展繼續(xù)影響全球經(jīng)濟,，導致經(jīng)濟前景依然暗淡并充滿不確定性,。盡管生成式人工智能有望提振生產(chǎn)力和創(chuàng)新，但受訪專家傾向于認為人工智能會給高收入經(jīng)濟體創(chuàng)造更高價值,。首席經(jīng)濟學家預計人工智能給不同收入群體帶來的收益存在廣泛差異,，對于其給高收入經(jīng)濟體帶來的價值持更加樂觀的態(tài)度。絕大多數(shù)受訪者認為,，生成式人工智能今年能提高高收入經(jīng)濟體生產(chǎn)（79%）和創(chuàng)新（74%）的效率,。展望未來五年,，94%的受訪者認為上述生產(chǎn)力紅利能給高收入經(jīng)濟體帶來巨大的經(jīng)濟效益,，而只有53%的受訪者認為低收入經(jīng)濟體能獲得同樣巨大的經(jīng)濟效益,。近四分之三（73%）的受訪者認為人工智能不會給低收入經(jīng)濟體的就業(yè)帶來凈積極影響，而對于高收入經(jīng)濟體,，持有這一觀點的受訪者比例僅為47%,。在生成式人工智能能否提高生活水平和降低信任方面，受訪者的意見分歧更大,，但均認為高收入市場發(fā)生上述兩種情形的概率略高一些,。世界衛(wèi)生組織：人工智能將改變醫(yī)療但需警惕風險世界衛(wèi)生組織1月18日發(fā)布的多模態(tài)大模型治理相關新指南稱，人工智能在醫(yī)療衛(wèi)生領域應用前景廣闊,，但同時也要防范其中可能出現(xiàn)的諸如“自動化偏見”導致的過度依賴等風險。這份新指南概述了多模態(tài)大模型在醫(yī)療衛(wèi)生領域的五大應用場景：診斷和臨床護理,、患者自主使用,、文書和行政工作,、醫(yī)療和護理教育、科學研究和藥物研發(fā),。多模態(tài)大模型盡管擁有巨大的應用潛力,，但同時可能帶來“虛假、不正確,、歪曲或不完整”的結(jié)果,。新指南指出了醫(yī)療系統(tǒng)面臨的相關風險：表現(xiàn)最佳的多模態(tài)大模型的可及性和可負擔性；多模態(tài)大模型可能助長“自動化偏見”,，使醫(yī)療專業(yè)人員和患者過于依賴人工智能,，忽略原本可以由人發(fā)現(xiàn)的差錯，或把困難的選擇不恰當?shù)亟唤o多模態(tài)大模型,；多模態(tài)大模型與其他形式的人工智能一樣,，也容易受到網(wǎng)絡安全風險的影響，從而危及患者信息安全、有損算法的可信度等,。為了創(chuàng)造安全有效的多模態(tài)大模型,，世界衛(wèi)生組織建議，政府,、科技公司,、醫(yī)療服務提供者、患者等利益攸關方需要參與相關技術研發(fā)和部署的各個階段,，對多模態(tài)大模型進行監(jiān)管并制定相關規(guī)范,。以“善治”促“善智”是大道閱讀提示人工智能是未來生產(chǎn)力的發(fā)動機。面對技術進步帶來的挑戰(zhàn)和風險,，以“善治”促“善智”,，引導人工智能朝著有利于人類文明進步的方向發(fā)展，被多家智庫認為是大道,。大道體現(xiàn)在全球人工智能治理方面,。中國信息通信研究院的研究認為，大國共識推動全球人工智能治理的合作進程,。人工智能的安全合作正拉開序幕,，預計人工智能對話磋商未來將密集展開。大道也體現(xiàn)在發(fā)展和安全的平衡方面,。中國社會科學院大學數(shù)字中國研究院的研究認為,，提高社會對于安全科技的認知、重視與參與非常必要,。該機構(gòu)認為，人工智能和安全科技將會是未來的兩項通用技術,，并提出將安全科技視作新型公共產(chǎn)品的新思路,。大道還體現(xiàn)在創(chuàng)新發(fā)展方面。賽迪顧問的研究認為,，隨著中國加快打造更可信,、可控、可解釋的人工智能應用,，中國人工智能產(chǎn)業(yè)將迎來更大的發(fā)展空間,，預計中國人工智能產(chǎn)業(yè)未來將呈現(xiàn)十大發(fā)展趨勢。中國信息通信研究院：全球人工智能對話磋商預計將密集展開中國信息通信研究院1月初發(fā)布的《全球數(shù)字治理白皮書（2023年）》認為,，各方未來在聯(lián)合國等多邊機構(gòu)下的合作進展,、對新的全球人工智能治理架構(gòu)的參與，可能成為判斷全球數(shù)字治理發(fā)展方向的重要根據(jù),。2023年,，全球數(shù)字治理面臨復雜多變的新形勢。前沿人工智能“飛躍”突破敲響安全警鐘,，人工智能技術軍民兩用,、危險難預測,、轉(zhuǎn)移難監(jiān)測、私營部門主導等特性放大了倫理偏見,、虛假信息,、隱私泄露、版權(quán)侵權(quán)等風險,，引發(fā)數(shù)據(jù)主權(quán),、文化多樣性、勞動替代等討論,。展望未來,，各方圍繞人工智能在軍事和信息內(nèi)容領域的應用可能成為對話磋商的優(yōu)先領域。據(jù)不完全統(tǒng)計,，2024年全球?qū)⒂?0多個國家和地區(qū)舉行大選,，利用人工智能制造虛假信息將對各國政治生態(tài)造成嚴重沖擊。如何化解這些重大風險將成為各方對話磋商的重點,。國際治理機構(gòu)將加快醞釀,。聯(lián)合國正在組建新的全球性人工智能治理機構(gòu)，新機構(gòu)將如何與聯(lián)合國系統(tǒng)內(nèi)機構(gòu)合作,、如何與其他國際進程協(xié)調(diào),，值得高度關注。各國治理框架間協(xié)調(diào)值得高度關注,。盡管人工智能治理正在加速從原則走向落地實施,，但是各國對治理關鍵環(huán)節(jié)、重要主體,、治理工具有著不同的認識,。未來，不同治理框架之間能否形成全球性的規(guī)則共識,，仍有待觀察,。中國社會科學院大學數(shù)字中國研究院：人工智能潮流下安全科技的價值在放大中國社會科學院大學數(shù)字中國研究院聯(lián)合螞蟻集團1月18日發(fā)布的《數(shù)字時代安全科技價值報告》認為，在人工智能大模型及深度數(shù)字化趨勢下,，安全科技的價值在放大,。人工智能和安全科技將會是未來的兩項通用技術。數(shù)字化安全風險已經(jīng)進入快迭代,、高智能,、全覆蓋的新格局。例如,，伴隨人工智能大模型的誕生,，一個新的安全技術研究領域逐漸形成，含數(shù)據(jù)去毒、模型安全,、AIGC檢測技術等,。近幾年，面對新的安全威脅和新的應用需求,，一大批新的安全技術不斷涌現(xiàn),。中國科學院院士馮登國將這些新技術呈現(xiàn)出的特征概括為智能化、零化,、彈性化,、匿名化、量子化,。安全科技正處在時代的轉(zhuǎn)折點,，從傳統(tǒng)的網(wǎng)絡安全技術發(fā)展成當前更為通用，包含多個領域,，多種前沿技術的復雜系統(tǒng)性技術,。安全科技本質(zhì)上是一種伴生技術。根據(jù)技術成熟性與前沿性,，安全科技可以被分為四大板塊——基礎安全,、業(yè)務安全、AI安全,、未來安全,。該研究建議，以公共品的定位來判斷安全科技的價值,，推動其發(fā)展,。政企合作是安全科技成為公共品的核心驅(qū)動力。要通過更多的公共力量投入,，構(gòu)建更好的安全科技實力和制度,。賽迪顧問：人工智能鋪平數(shù)字經(jīng)濟發(fā)展的“快軌”賽迪顧問人工智能與大數(shù)據(jù)研究中心1月16日發(fā)布的《2024年人工智能行業(yè)趨勢洞察》顯示，隨著數(shù)字經(jīng)濟產(chǎn)業(yè)的高速發(fā)展,，中國人工智能產(chǎn)業(yè)將迎來更大的發(fā)展空間。同時,，預計中國未來將加快推動基于“代碼規(guī)制代碼”的算法監(jiān)管技術,、倫理治理等路線的人工智能治理，打造更可信,、可控,、可解釋的人工智能應用。該研究預計,，中國人工智能產(chǎn)業(yè)未來將呈現(xiàn)十大發(fā)展趨勢：中國人工智能產(chǎn)業(yè)將在未來10年到15年取得長足發(fā)展,；大模型將借助多模態(tài)技術實現(xiàn)全面感知；在生成式人工智能的推動下，中國的“數(shù)字中點”將有望提前10年到來,；AI Agent將重構(gòu)人機交互方式,；具身智能將成為顛覆制造業(yè)的下一個浪潮；智算中心連點成面,，人工智能算力網(wǎng)絡統(tǒng)籌加速部署,；各行業(yè)應用加速向人工智能原生轉(zhuǎn)型，場景賦能持續(xù)創(chuàng)新,；人工智能人才將從“算法型”向“復合應用型”躍升,；人工智能治理將打造更可信、可控的產(chǎn)業(yè)應用,；MaaS將成為人工智能產(chǎn)業(yè)生態(tài)構(gòu)建的核心,。這一研究同時提醒，中國人工智能的發(fā)展需要關注四方面問題：基于大模型創(chuàng)新應用的算力資源供給不足,；通用人工智能應用場景建設進度遲緩,；重點產(chǎn)品的評測體系尚不健全；圍繞垂直行業(yè)應用產(chǎn)品的孵育優(yōu)化能力不足,。