生成式人工智能是人類科學技術(shù)發(fā)展的重要成果，為引領(lǐng)和帶動新一輪產(chǎn)業(yè)變革提供了可能。近年來，生成式人工智能技術(shù)不斷成熟,，展現(xiàn)出全方位提升人類生產(chǎn)生活效率的重要潛力,，揭開人類社會智能化演進的趨勢。然而,，生成式人工智能也在網(wǎng)絡(luò)安全方面帶來新挑戰(zhàn),、新風險,。如何發(fā)展好,、運用好、管理好生成式人工智能,，已經(jīng)成為全世界面臨的共同挑戰(zhàn),。

在此背景下，國家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》）,?！掇k法》的出臺將從政策法規(guī)層面為我國生成式人工智能健康發(fā)展保駕護航，是統(tǒng)籌發(fā)展和安全的重要舉措,。同時,，《辦法》作為國際上首先出臺的積極應(yīng)對生成式人工智能安全風險的專門立法,，為有序開展相關(guān)管理工作明確了方向。

一,、《辦法》明確生成式人工智能服務(wù)安全要求

（一）聚焦生成內(nèi)容安全,，引導服務(wù)向上向善

生成式人工智能服務(wù)已成為用戶在網(wǎng)絡(luò)獲取知識的重要途徑之一，服務(wù)所提供的內(nèi)容將直接影響用戶對事物的認知,，《辦法》明確堅持社會主義核心價值觀,，要求服務(wù)提供者不得生成違法信息，并明確提出防歧視等要求,。生成式人工智能服務(wù)所產(chǎn)生內(nèi)容的質(zhì)量高低,、安全與否主要取決于訓練數(shù)據(jù)，《辦法》要求服務(wù)提供者采取有效措施提高訓練數(shù)據(jù)質(zhì)量,，增強數(shù)據(jù)的真實性,、準確性、客觀性,、多樣性,，并指導服務(wù)提供者做好數(shù)據(jù)處理、數(shù)據(jù)標注等方面的安全管理工作,。

（二）聚焦用戶權(quán)益保護,，保障服務(wù)合法合規(guī)

生成式人工智能服務(wù)帶來新的安全問題、安全風險,，為保護用戶權(quán)益,，服務(wù)的過程和形式需要正確的引導，《辦法》提出服務(wù)提供者需明確并公開服務(wù)的適用人群,、場合,、用途，防范未成年人用戶過度依賴或者沉迷,。生成式人工智能服務(wù)因其技術(shù)特點,，易涉及用戶敏感數(shù)據(jù)，需進行重點保護,，《辦法》圍繞商業(yè)秘密,、用戶個人信息保護提出要求，并明確了服務(wù)提供者對用戶輸入信息和使用記錄的保護義務(wù),，為用戶安全使用服務(wù)提供保障,。

（三）聚焦使用模式管理，防范服務(wù)濫用誤用

生成式人工智能服務(wù)涉及的用戶數(shù)量多,、業(yè)務(wù)跨度大,，用戶的服務(wù)使用情況需受到合理監(jiān)督，《辦法》明確了服務(wù)提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當依法依約采取警示,、限制功能,、暫停或者終止向其提供服務(wù)等處置措施,，保存有關(guān)記錄,，并向有關(guān)主管部門報告。生成式人工智能服務(wù)產(chǎn)生的內(nèi)容逼真度高,、迷惑性強,，極易誤導用戶，《辦法》提出針對圖片,、視頻等生成內(nèi)容進行明顯標識的要求,，防止用戶誤用生成內(nèi)容。

二,、《辦法》引導構(gòu)建生成式人工智能安全治理環(huán)境

（一）鼓勵創(chuàng)新應(yīng)用,，統(tǒng)籌發(fā)展和安全

當前，我國生成式人工智能處于關(guān)鍵發(fā)展時期,，需以安全保發(fā)展,、以發(fā)展促安全，推動生成式人工智能穩(wěn)步快速發(fā)展,?！掇k法》一是進一步明確了發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,，對生成式人工智能實行包容審慎的監(jiān)管,；二是鼓勵生成式人工智能在各行業(yè)領(lǐng)域創(chuàng)新應(yīng)用，探索優(yōu)化應(yīng)用場景,，支持專業(yè)機構(gòu)在技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用,、風險防范等方面開展跨行業(yè)領(lǐng)域協(xié)作,，構(gòu)建應(yīng)用生態(tài)體系；三是鼓勵算法,、框架,、芯片、配套軟件等基礎(chǔ)技術(shù)自主創(chuàng)新,，推動全產(chǎn)業(yè)鏈持續(xù)發(fā)展,。

（二）強化主體責任，構(gòu)建多方治理架構(gòu)

生成式人工智能服務(wù)產(chǎn)業(yè)鏈條正在逐步形成,，需要進一步強化主體責任，促進各環(huán)節(jié)安全水平提升?！掇k法》一是明確了提供者應(yīng)依法承擔網(wǎng)絡(luò)安全信息內(nèi)容生產(chǎn)者責任,，履行網(wǎng)絡(luò)信息安全義務(wù)；二是明確了涉及個人信息的,，提供者應(yīng)依法承擔個人信息處理者責任,，履行個人信息保護義務(wù)；三是規(guī)定了提供者與使用者應(yīng)簽訂服務(wù)協(xié)議,，明確雙方權(quán)利義務(wù),。《辦法》從多角度明確治理規(guī)則,、強調(diào)治理要求,，明確了用戶對服務(wù)的監(jiān)督作用，要求提供者建立投訴舉報機制,，強調(diào)使用者有權(quán)向有關(guān)部門投訴舉報,。

（三）推動標準工作，支撐《辦法》細化落地

與《辦法》相關(guān)工作同步,，配套支撐《辦法》細化落地的網(wǎng)絡(luò)安全相關(guān)國家標準已提前布局,、統(tǒng)一推動。全國信息安全標準化技術(shù)委員會已發(fā)布《信息安全技術(shù)生成式人工智能預(yù)訓練和優(yōu)化訓練數(shù)據(jù)安全規(guī)范》,、《信息安全技術(shù) 生成式人工智能人工標注安全規(guī)范》標準需求,，并推動《信息安全技術(shù)生成式人工智能服務(wù)安全總體要求》標準研制工作，對防范生成式人工智能重大安全風險,、提升生成式人工智能總體安全水平起到規(guī)范引導作用,。

三、加快推動《辦法》貫徹落實

《辦法》的公布為我國生成式人工智能服務(wù)的健康發(fā)展提供了重要法制保障,，建議加快《辦法》的貫徹落實,。

一是全面推動《辦法》宣貫培訓。面向互聯(lián)網(wǎng)企業(yè),、人工智能以及其他智能相關(guān)重點行業(yè)領(lǐng)域,，開展針對性宣傳解讀，充分宣傳《辦法》精神,，廣泛凝聚安全共識,，促進行業(yè)自律發(fā)展。面向社會全面開展科普培訓,，促進生成式人工智能服務(wù)使用者理解國家政策,、提高安全意識，促進形成多方參與,、共同治理的良好局面,。

二是建立生成式人工智能服務(wù)安全評估機制。推動《辦法》配套安全評估機制及配套評估力量建設(shè)，督促具有輿論屬性或者社會動員能力的服務(wù)提供者開展安全評估,，及時發(fā)現(xiàn)安全風險,、整改安全問題、提高安全水平,。

三是加強生成式人工智能服務(wù)安全標準化工作,。加快開展《辦法》配套網(wǎng)絡(luò)安全相關(guān)國家標準研制工作。積極推動安全總體要求,、訓練數(shù)據(jù)集安全,、人工標注安全等標準工作的研究制定，進一步發(fā)揮標準對生成式人工智能管理工作的支撐作用,；同步開展標準化前瞻研究,，圍繞生成式人工智能分類分級、生成內(nèi)容標識,、使用者服務(wù)協(xié)議等方面開展預(yù)研,，不斷提升標準化工作的科學性、引領(lǐng)性,、前瞻性,。

作者：楊建軍　中國電子技術(shù)標準化研究院黨委書記

來源：“網(wǎng)信中國”微信公眾號

審核：李佳民

編輯：王林晨

校對：陳金丹

來源：網(wǎng)信中國