生成式人工智能是人類科學(xué)技術(shù)發(fā)展的重要成果,，為引領(lǐng)和帶動(dòng)新一輪產(chǎn)業(yè)變革提供了可能,。近年來，生成式人工智能技術(shù)不斷成熟，展現(xiàn)出全方位提升人類生產(chǎn)生活效率的重要潛力,，揭開人類社會(huì)智能化演進(jìn)的趨勢(shì),。然而，生成式人工智能也在網(wǎng)絡(luò)安全方面帶來新挑戰(zhàn),、新風(fēng)險(xiǎn),。如何發(fā)展好、運(yùn)用好,、管理好生成式人工智能,，已經(jīng)成為全世界面臨的共同挑戰(zhàn)。

在此背景下,，國(guó)家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）,。《辦法》的出臺(tái)將從政策法規(guī)層面為我國(guó)生成式人工智能健康發(fā)展保駕護(hù)航,，是統(tǒng)籌發(fā)展和安全的重要舉措,。同時(shí)，《辦法》作為國(guó)際上首先出臺(tái)的積極應(yīng)對(duì)生成式人工智能安全風(fēng)險(xiǎn)的專門立法,，為有序開展相關(guān)管理工作明確了方向,。

一、《辦法》明確生成式人工智能服務(wù)安全要求

（一）聚焦生成內(nèi)容安全，引導(dǎo)服務(wù)向上向善

生成式人工智能服務(wù)已成為用戶在網(wǎng)絡(luò)獲取知識(shí)的重要途徑之一,，服務(wù)所提供的內(nèi)容將直接影響用戶對(duì)事物的認(rèn)知,，《辦法》明確堅(jiān)持社會(huì)主義核心價(jià)值觀，要求服務(wù)提供者不得生成違法信息,，并明確提出防歧視等要求,。生成式人工智能服務(wù)所產(chǎn)生內(nèi)容的質(zhì)量高低、安全與否主要取決于訓(xùn)練數(shù)據(jù),，《辦法》要求服務(wù)提供者采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)數(shù)據(jù)的真實(shí)性、準(zhǔn)確性,、客觀性,、多樣性，并指導(dǎo)服務(wù)提供者做好數(shù)據(jù)處理,、數(shù)據(jù)標(biāo)注等方面的安全管理工作。

（二）聚焦用戶權(quán)益保護(hù),，保障服務(wù)合法合規(guī)

生成式人工智能服務(wù)帶來新的安全問題,、安全風(fēng)險(xiǎn)，為保護(hù)用戶權(quán)益,，服務(wù)的過程和形式需要正確的引導(dǎo),，《辦法》提出服務(wù)提供者需明確并公開服務(wù)的適用人群、場(chǎng)合,、用途,，防范未成年人用戶過度依賴或者沉迷。生成式人工智能服務(wù)因其技術(shù)特點(diǎn),，易涉及用戶敏感數(shù)據(jù),，需進(jìn)行重點(diǎn)保護(hù)，《辦法》圍繞商業(yè)秘密,、用戶個(gè)人信息保護(hù)提出要求,，并明確了服務(wù)提供者對(duì)用戶輸入信息和使用記錄的保護(hù)義務(wù)，為用戶安全使用服務(wù)提供保障,。

（三）聚焦使用模式管理,，防范服務(wù)濫用誤用

生成式人工智能服務(wù)涉及的用戶數(shù)量多、業(yè)務(wù)跨度大,，用戶的服務(wù)使用情況需受到合理監(jiān)督,，《辦法》明確了服務(wù)提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示,、限制功能,、暫停或者終止向其提供服務(wù)等處置措施，保存有關(guān)記錄,，并向有關(guān)主管部門報(bào)告,。生成式人工智能服務(wù)產(chǎn)生的內(nèi)容逼真度高、迷惑性強(qiáng),，極易誤導(dǎo)用戶,，《辦法》提出針對(duì)圖片、視頻等生成內(nèi)容進(jìn)行明顯標(biāo)識(shí)的要求,，防止用戶誤用生成內(nèi)容,。

二、《辦法》引導(dǎo)構(gòu)建生成式人工智能安全治理環(huán)境

（一）鼓勵(lì)創(chuàng)新應(yīng)用,，統(tǒng)籌發(fā)展和安全

當(dāng)前,，我國(guó)生成式人工智能處于關(guān)鍵發(fā)展時(shí)期，需以安全保發(fā)展,、以發(fā)展促安全,，推動(dòng)生成式人工智能穩(wěn)步快速發(fā)展?！掇k法》一是進(jìn)一步明確了發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，對(duì)生成式人工智能實(shí)行包容審慎的監(jiān)管,；二是鼓勵(lì)生成式人工智能在各行業(yè)領(lǐng)域創(chuàng)新應(yīng)用,，探索優(yōu)化應(yīng)用場(chǎng)景，支持專業(yè)機(jī)構(gòu)在技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展跨行業(yè)領(lǐng)域協(xié)作,，構(gòu)建應(yīng)用生態(tài)體系,；三是鼓勵(lì)算法、框架,、芯片,、配套軟件等基礎(chǔ)技術(shù)自主創(chuàng)新，推動(dòng)全產(chǎn)業(yè)鏈持續(xù)發(fā)展,。

（二）強(qiáng)化主體責(zé)任,，構(gòu)建多方治理架構(gòu)

生成式人工智能服務(wù)產(chǎn)業(yè)鏈條正在逐步形成，需要進(jìn)一步強(qiáng)化主體責(zé)任,，促進(jìn)各環(huán)節(jié)安全水平提升,。《辦法》一是明確了提供者應(yīng)依法承擔(dān)網(wǎng)絡(luò)安全信息內(nèi)容生產(chǎn)者責(zé)任,，履行網(wǎng)絡(luò)信息安全義務(wù),；二是明確了涉及個(gè)人信息的，提供者應(yīng)依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù),；三是規(guī)定了提供者與使用者應(yīng)簽訂服務(wù)協(xié)議,，明確雙方權(quán)利義務(wù)?！掇k法》從多角度明確治理規(guī)則,、強(qiáng)調(diào)治理要求，明確了用戶對(duì)服務(wù)的監(jiān)督作用,，要求提供者建立投訴舉報(bào)機(jī)制,，強(qiáng)調(diào)使用者有權(quán)向有關(guān)部門投訴舉報(bào)。

（三）推動(dòng)標(biāo)準(zhǔn)工作,，支撐《辦法》細(xì)化落地

與《辦法》相關(guān)工作同步,，配套支撐《辦法》細(xì)化落地的網(wǎng)絡(luò)安全相關(guān)國(guó)家標(biāo)準(zhǔn)已提前布局、統(tǒng)一推動(dòng),。全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)已發(fā)布《信息安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》,、《信息安全技術(shù) 生成式人工智能人工標(biāo)注安全規(guī)范》標(biāo)準(zhǔn)需求，并推動(dòng)《信息安全技術(shù)生成式人工智能服務(wù)安全總體要求》標(biāo)準(zhǔn)研制工作,，對(duì)防范生成式人工智能重大安全風(fēng)險(xiǎn),、提升生成式人工智能總體安全水平起到規(guī)范引導(dǎo)作用。

三,、加快推動(dòng)《辦法》貫徹落實(shí)

《辦法》的公布為我國(guó)生成式人工智能服務(wù)的健康發(fā)展提供了重要法制保障，建議加快《辦法》的貫徹落實(shí),。

一是全面推動(dòng)《辦法》宣貫培訓(xùn),。面向互聯(lián)網(wǎng)企業(yè)、人工智能以及其他智能相關(guān)重點(diǎn)行業(yè)領(lǐng)域,，開展針對(duì)性宣傳解讀,，充分宣傳《辦法》精神，廣泛凝聚安全共識(shí),，促進(jìn)行業(yè)自律發(fā)展,。面向社會(huì)全面開展科普培訓(xùn)，促進(jìn)生成式人工智能服務(wù)使用者理解國(guó)家政策,、提高安全意識(shí),，促進(jìn)形成多方參與、共同治理的良好局面,。

二是建立生成式人工智能服務(wù)安全評(píng)估機(jī)制,。推動(dòng)《辦法》配套安全評(píng)估機(jī)制及配套評(píng)估力量建設(shè)，督促具有輿論屬性或者社會(huì)動(dòng)員能力的服務(wù)提供者開展安全評(píng)估,，及時(shí)發(fā)現(xiàn)安全風(fēng)險(xiǎn),、整改安全問題、提高安全水平。

三是加強(qiáng)生成式人工智能服務(wù)安全標(biāo)準(zhǔn)化工作,。加快開展《辦法》配套網(wǎng)絡(luò)安全相關(guān)國(guó)家標(biāo)準(zhǔn)研制工作,。積極推動(dòng)安全總體要求、訓(xùn)練數(shù)據(jù)集安全,、人工標(biāo)注安全等標(biāo)準(zhǔn)工作的研究制定,，進(jìn)一步發(fā)揮標(biāo)準(zhǔn)對(duì)生成式人工智能管理工作的支撐作用；同步開展標(biāo)準(zhǔn)化前瞻研究,，圍繞生成式人工智能分類分級(jí),、生成內(nèi)容標(biāo)識(shí)、使用者服務(wù)協(xié)議等方面開展預(yù)研,，不斷提升標(biāo)準(zhǔn)化工作的科學(xué)性,、引領(lǐng)性、前瞻性,。

作者：楊建軍　中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記

來源：“網(wǎng)信中國(guó)”微信公眾號(hào)

審核：李佳民

編輯：王林晨

校對(duì)：陳金丹

來源：網(wǎng)信中國(guó)