當前,，生成式人工智能正在加速發(fā)展,，不斷催生新場景,、新業(yè)態(tài),、新模式和新市場,，賦能千行百業(yè),。與此同時,，其暴露出的安全風險也引發(fā)了各國監(jiān)管部門的廣泛關注,，意大利,、德國,、法國、西班牙等多個國家的數(shù)據(jù)保護監(jiān)管機構對ChatGPT表達擔憂或發(fā)起調(diào)查,。近日,，國家網(wǎng)信辦聯(lián)合國家有關部門公布了《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）,?！掇k法》是我國促進生成式人工智能健康發(fā)展和規(guī)范應用的專門立法，界定了生成式人工智能技術的基本概念,，規(guī)定了生成式人工智能服務提供者的制度要求,，為生成式人工智能的健康發(fā)展指明了方向。

一,、促進發(fā)展,，鼓勵生成式人工智能研發(fā)創(chuàng)新

新一代人工智能是推動科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級,、生產(chǎn)力整體躍升的驅(qū)動力量,。習近平總書記高度重視人工智能技術發(fā)展，指出要加快新能源,、人工智能,、生物制造、綠色低碳,、量子計算等前沿技術研發(fā)和應用推廣,。中共中央政治局4月28日召開會議強調(diào)，“要重視通用人工智能發(fā)展,，營造創(chuàng)新生態(tài),，重視防范風險”。

《辦法》立足于促進生成式人工智能健康發(fā)展和規(guī)范應用,，在總則中明確了國家堅持發(fā)展和安全并重,、促進創(chuàng)新和依法治理相結合的原則，并在技術發(fā)展與治理一章中提出了一系列鼓勵措施,。 一是鼓勵創(chuàng)新應用,。生成式人工智能應用場景豐富，可以與各行業(yè)深度結合,，助力實現(xiàn)各行業(yè)智能化變革,。《辦法》明確提出鼓勵生成式人工智能技術在各行業(yè),、各領域的創(chuàng)新應用,，有助于生成式人工智能賦能千行百業(yè)。 二是鼓勵多方協(xié)作。生成式人工智能在技術創(chuàng)新,、數(shù)據(jù)資源建設,、轉(zhuǎn)化應用、風險防范等方面涉及多方主體,，為此,，《辦法》鼓勵行業(yè)組織,、企業(yè)以及各個相關機構之間開展協(xié)作。 三是鼓勵自主創(chuàng)新與國際合作,。生成式人工智能尚處于發(fā)展階段,，而我國在生成式人工智能相關算法,、芯片等技術研發(fā)方面起步相對較晚,?！掇k法》一方面鼓勵生成式人工智能相關基礎技術的自主創(chuàng)新，另一方面鼓勵平等互利開展國際交流與合作,，從而促進我國人工智能技術發(fā)展。 四是鼓勵資源共享。算力是支撐數(shù)字經(jīng)濟蓬勃發(fā)展的重要“底座”,，數(shù)據(jù)是生成式人工智能的重要資源,。為此，《辦法》提出推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設的措施,，促進算力資源協(xié)同共享，提升算力資源利用效能。

二,、劃定底線,，推動生成式人工智能向上向善

以ChatGPT為代表的生成式人工智能在社會變革中的具有重要作用,，但其可能存在的數(shù)據(jù)違法收集、知識產(chǎn)權侵權,、生成虛假信息等問題同樣不容忽視,。

《辦法》積極回應生成式人工智能帶來的社會問題，明確提供和使用生成式人工智能服務的法律底線,。一是不得生成違法內(nèi)容,?！掇k法》落實《網(wǎng)絡安全法》等法律的規(guī)定，強調(diào)提供和使用生成式人工智能服務應當堅持社會主義核心價值觀,，不得生成法律,、行政法規(guī)禁止的內(nèi)容,。 二是防止歧視,。訓練數(shù)據(jù)本身存在歧視內(nèi)容,、算法更傾向于某些特征值、標注人員的主觀判斷等因素可能導致歧視問題，給社會帶來不良后果，如邊緣化弱勢人群或者煽動仇恨與暴力。為減少歧視現(xiàn)象發(fā)生，《辦法》要求在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務等過程中，采取有效措施防止歧視,。 三是尊重知識產(chǎn)權和他人合法權益,。生成式人工智能在個人信息的處理過程中，可能存在違法收集,、使用個人信息等風險,；生成式人工智能的訓練數(shù)據(jù)中如包括他人已發(fā)表并享有著作權的作品，也可能給知識產(chǎn)權造成侵害,。為減少侵權事件的發(fā)生,，《辦法》強調(diào)尊重知識產(chǎn)權、商業(yè)道德,；尊重他人合法權益，不得危害他人身心健康,，不得侵害他人肖像權,、名譽權、榮譽權,、隱私權和個人信息權益,。 四是提高生成內(nèi)容準確性和可靠性。自生成式人工智能面世之初,，其存在的“一本正經(jīng)地胡說八道”現(xiàn)象便引起了人們的警惕,。這種虛假信息的產(chǎn)生很可能會誤導用戶，加劇社會對共享信息的不信任,。如何保障生成內(nèi)容的真實性,，既是產(chǎn)業(yè)界為進一步擴大生成式人工智能商用范圍需要克服的技術難題，也是監(jiān)管部門需要重點考量的問題,?！掇k法》要求生成式人工智能服務提供者（以下簡稱“提供者”）基于服務類型特點,，采取有效措施，提升生成式人工智能服務的透明度,，提高生成內(nèi)容的準確性和可靠性,。這一要求充分體現(xiàn)了發(fā)展與安全并重的原則，符合生成式人工智能的技術原理與產(chǎn)業(yè)需要,。

三,、細化責任，構建生成式人工智能治理體系

生成式人工智能從研發(fā)到落地需要經(jīng)歷多個環(huán)節(jié),，包括訓練數(shù)據(jù)處理,、數(shù)據(jù)標注、提供服務等,。清晰界定不同環(huán)節(jié)的要求更有利于降低生成式人工智能的安全風險,，增強制度的可落地性。

《辦法》明確提供者的義務與責任,，提供者是利用生成式人工智能技術提供生成式人工智能服務的組織,、個人，包括通過提供可編程接口等方式提供生成式人工智能服務的組織,、個人,。在訓練數(shù)據(jù)處理環(huán)節(jié)，提供者應當使用具有合法來源的數(shù)據(jù)和基礎模型,，并采取有效措施提高訓練數(shù)據(jù)質(zhì)量,，增強訓練數(shù)據(jù)的真實性、準確性,、客觀性,、多樣性。在數(shù)據(jù)標注環(huán)節(jié),，提供者應當制定標注規(guī)則,，開展數(shù)據(jù)標注質(zhì)量評估，并對標注人員進行培訓,。在提供服務環(huán)節(jié),，提供者應依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片,、視頻等生成內(nèi)容進行標識,；發(fā)現(xiàn)違法內(nèi)容的，應當及時采取處置措施,、進行整改并向有關主管部門報告,；應依法承擔個人信息處理者責任，對生成式人工智能服務使用者的輸入信息和使用記錄依法履行保護義務,，及時受理和處理個人關于查閱,、復制,、更正、補充,、刪除其個人信息等的請求,；應履行用戶管理義務，明確并公開服務適用情況,，指導使用者科學理性認識和依法使用技術,，采取未成年人防沉迷措施，依法處置從事違法活動的使用者,，建立健全投訴,、舉報機制；應提供安全,、穩(wěn)定,、持續(xù)的服務。

四,、強化披露,，明確生成式人工智能監(jiān)管手段

人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控,、決策機制難以解釋,，給人工智能監(jiān)管帶來了一定困難。為此,，《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等規(guī)范已經(jīng)明確了算法備案,、安全評估等監(jiān)管手段，提高算法的透明度與可問責性,。

《辦法》與現(xiàn)有規(guī)范一脈相承,，延續(xù)了此前監(jiān)管手段，同時明確了分類分級監(jiān)管的原則,，健全了我國人工智能治理體系,。一是明確了安全評估與算法備案要求。為有效應對算法“黑箱”問題,，《辦法》對提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，提出了安全評估與算法備案要求,。 二是明確了信息披露要求,。《辦法》明確了提供者應配合主管部門的監(jiān)督檢查,，按要求對訓練數(shù)據(jù)來源,、規(guī)模、類型,、標注規(guī)則,、算法機制機理等予以說明,。

《辦法》是在區(qū)塊鏈,、汽車數(shù)據(jù),、算法推薦、深度合成等立法之后,，我國對新興領域立法的又一次探索,。《辦法》充分協(xié)調(diào)了發(fā)展與安全之間的關系,，一方面提出了生成式人工智能發(fā)展的鼓勵措施,，另一方面明確了生成式人工智能的法律底線，構建了生成式人工智能精細化治理體系,，有利于推動生成式人工智能健康有序發(fā)展,，為世界貢獻人工智能治理的中國智慧和中國方案。

作者：辛勇飛　中國信息通信研究院政策與經(jīng)濟研究所所長

來源：“網(wǎng)信中國”微信公眾號

審核：李佳民

編輯：王林晨

校對：陳金丹

來源：網(wǎng)信中國