生成式人工智能是人類科學技術(shù)發(fā)展的重要成果，為引領(lǐng)和帶動新一輪產(chǎn)業(yè)變革提供了可能,。近年來,，生成式人工智能技術(shù)不斷成熟,，展現(xiàn)出全方位提升人類生產(chǎn)生活效率的重要潛力,，揭開人類社會智能化演進的趨勢。然而,，生成式人工智能也在網(wǎng)絡安全方面帶來新挑戰(zhàn),、新風險。如何發(fā)展好,、運用好、管理好生成式人工智能,，已經(jīng)成為全世界面臨的共同挑戰(zhàn),。

在此背景下，國家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）,。《辦法》的出臺將從政策法規(guī)層面為我國生成式人工智能健康發(fā)展保駕護航,，是統(tǒng)籌發(fā)展和安全的重要舉措。同時,，《辦法》作為國際上首先出臺的積極應對生成式人工智能安全風險的專門立法，為有序開展相關(guān)管理工作明確了方向,。

一,、《辦法》明確生成式人工智能服務安全要求

（一）聚焦生成內(nèi)容安全，引導服務向上向善

生成式人工智能服務已成為用戶在網(wǎng)絡獲取知識的重要途徑之一,，服務所提供的內(nèi)容將直接影響用戶對事物的認知，《辦法》明確堅持社會主義核心價值觀,，要求服務提供者不得生成違法信息,，并明確提出防歧視等要求。生成式人工智能服務所產(chǎn)生內(nèi)容的質(zhì)量高低,、安全與否主要取決于訓練數(shù)據(jù),，《辦法》要求服務提供者采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強數(shù)據(jù)的真實性,、準確性,、客觀性、多樣性，并指導服務提供者做好數(shù)據(jù)處理,、數(shù)據(jù)標注等方面的安全管理工作,。

（二）聚焦用戶權(quán)益保護，保障服務合法合規(guī)

生成式人工智能服務帶來新的安全問題,、安全風險,，為保護用戶權(quán)益，服務的過程和形式需要正確的引導,，《辦法》提出服務提供者需明確并公開服務的適用人群,、場合、用途,，防范未成年人用戶過度依賴或者沉迷,。生成式人工智能服務因其技術(shù)特點,，易涉及用戶敏感數(shù)據(jù)，需進行重點保護,，《辦法》圍繞商業(yè)秘密,、用戶個人信息保護提出要求，并明確了服務提供者對用戶輸入信息和使用記錄的保護義務,，為用戶安全使用服務提供保障,。

（三）聚焦使用模式管理，防范服務濫用誤用

生成式人工智能服務涉及的用戶數(shù)量多,、業(yè)務跨度大,，用戶的服務使用情況需受到合理監(jiān)督，《辦法》明確了服務提供者發(fā)現(xiàn)使用者利用生成式人工智能服務從事違法活動的,，應當依法依約采取警示,、限制功能、暫?；蛘呓K止向其提供服務等處置措施,，保存有關(guān)記錄，并向有關(guān)主管部門報告,。生成式人工智能服務產(chǎn)生的內(nèi)容逼真度高,、迷惑性強，極易誤導用戶,，《辦法》提出針對圖片,、視頻等生成內(nèi)容進行明顯標識的要求，防止用戶誤用生成內(nèi)容,。

二,、《辦法》引導構(gòu)建生成式人工智能安全治理環(huán)境

（一）鼓勵創(chuàng)新應用，統(tǒng)籌發(fā)展和安全

當前，我國生成式人工智能處于關(guān)鍵發(fā)展時期,，需以安全保發(fā)展,、以發(fā)展促安全，推動生成式人工智能穩(wěn)步快速發(fā)展,?！掇k法》一是進一步明確了發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,，對生成式人工智能實行包容審慎的監(jiān)管,；二是鼓勵生成式人工智能在各行業(yè)領(lǐng)域創(chuàng)新應用，探索優(yōu)化應用場景,，支持專業(yè)機構(gòu)在技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設、轉(zhuǎn)化應用,、風險防范等方面開展跨行業(yè)領(lǐng)域協(xié)作,，構(gòu)建應用生態(tài)體系；三是鼓勵算法,、框架,、芯片、配套軟件等基礎技術(shù)自主創(chuàng)新,，推動全產(chǎn)業(yè)鏈持續(xù)發(fā)展,。

（二）強化主體責任，構(gòu)建多方治理架構(gòu)

生成式人工智能服務產(chǎn)業(yè)鏈條正在逐步形成,，需要進一步強化主體責任,，促進各環(huán)節(jié)安全水平提升?！掇k法》一是明確了提供者應依法承擔網(wǎng)絡安全信息內(nèi)容生產(chǎn)者責任,，履行網(wǎng)絡信息安全義務；二是明確了涉及個人信息的,，提供者應依法承擔個人信息處理者責任,，履行個人信息保護義務；三是規(guī)定了提供者與使用者應簽訂服務協(xié)議,，明確雙方權(quán)利義務,。《辦法》從多角度明確治理規(guī)則,、強調(diào)治理要求,，明確了用戶對服務的監(jiān)督作用，要求提供者建立投訴舉報機制,，強調(diào)使用者有權(quán)向有關(guān)部門投訴舉報,。

（三）推動標準工作,，支撐《辦法》細化落地

與《辦法》相關(guān)工作同步，配套支撐《辦法》細化落地的網(wǎng)絡安全相關(guān)國家標準已提前布局,、統(tǒng)一推動,。全國信息安全標準化技術(shù)委員會已發(fā)布《信息安全技術(shù)生成式人工智能預訓練和優(yōu)化訓練數(shù)據(jù)安全規(guī)范》、《信息安全技術(shù) 生成式人工智能人工標注安全規(guī)范》標準需求,，并推動《信息安全技術(shù)生成式人工智能服務安全總體要求》標準研制工作,，對防范生成式人工智能重大安全風險、提升生成式人工智能總體安全水平起到規(guī)范引導作用,。

三,、加快推動《辦法》貫徹落實

《辦法》的公布為我國生成式人工智能服務的健康發(fā)展提供了重要法制保障，建議加快《辦法》的貫徹落實,。

一是全面推動《辦法》宣貫培訓,。面向互聯(lián)網(wǎng)企業(yè)、人工智能以及其他智能相關(guān)重點行業(yè)領(lǐng)域,，開展針對性宣傳解讀,，充分宣傳《辦法》精神，廣泛凝聚安全共識,，促進行業(yè)自律發(fā)展,。面向社會全面開展科普培訓,，促進生成式人工智能服務使用者理解國家政策,、提高安全意識，促進形成多方參與,、共同治理的良好局面,。

二是建立生成式人工智能服務安全評估機制。推動《辦法》配套安全評估機制及配套評估力量建設,，督促具有輿論屬性或者社會動員能力的服務提供者開展安全評估,，及時發(fā)現(xiàn)安全風險、整改安全問題,、提高安全水平,。

三是加強生成式人工智能服務安全標準化工作。加快開展《辦法》配套網(wǎng)絡安全相關(guān)國家標準研制工作,。積極推動安全總體要求,、訓練數(shù)據(jù)集安全、人工標注安全等標準工作的研究制定,，進一步發(fā)揮標準對生成式人工智能管理工作的支撐作用,；同步開展標準化前瞻研究，圍繞生成式人工智能分類分級,、生成內(nèi)容標識,、使用者服務協(xié)議等方面開展預研,，不斷提升標準化工作的科學性、引領(lǐng)性,、前瞻性,。

作者：楊建軍　中國電子技術(shù)標準化研究院黨委書記

來源：“網(wǎng)信中國”微信公眾號

審核：李佳民

編輯：王林晨

校對：陳金丹

來源：網(wǎng)信中國