以ChatGPT為代表的現(xiàn)象級互聯(lián)網(wǎng)應(yīng)用的出現(xiàn),，掀起了人工智能領(lǐng)域新一輪技術(shù)浪潮,。作為新一代信息技術(shù)，生成式人工智能通過對人類“腦力”的無限延伸,，賦予人們對于追求美好生活的更大想象空間。與此同時,，生成式人工智能被濫用帶來的數(shù)據(jù)泄露,、虛假信息等風險挑戰(zhàn)也紛至沓來，各國陸續(xù)推出或完善針對生成式人工智能的監(jiān)管方案,?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》（以下簡稱《辦法》），是對我國人工智能法律體系與算法治理體系的進一步完善,?！掇k法》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》在治理思路上一脈相承,，在治理制度方面創(chuàng)新推進,，堅持從生成式人工智能技術(shù)特點出發(fā)，提出了一系列針對性的發(fā)展與治理措施,。

一,、契合新技術(shù)新特性，有針對性地進行制度設(shè)計

與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》相比,，《辦法》更加關(guān)注生成式人工智能技術(shù)本身，主要與生成式人工智能技術(shù)自身特性有關(guān)： 一是生成式人工智能應(yīng)用場景具有通用性,。傳統(tǒng)算法應(yīng)用的處理模式與應(yīng)用場景相對固定,，有較為明確的服務(wù)邊界，但生成式人工智能應(yīng)用場景更為豐富,，如ChatGPT產(chǎn)品幾乎可以處理自然語言領(lǐng)域的所有任務(wù),，如果延續(xù)針對固定用途信息服務(wù)的管理思路，將難以充分切合實際監(jiān)管需求,。 二是生成式人工智能具有價值觀屬性,。生成式人工智能模型經(jīng)過訓練后,，對一些概念具備了較為穩(wěn)定的“認知”，圍繞相關(guān)概念的生成內(nèi)容往往表現(xiàn)出驚人的一致性,。一旦模型在訓練過程中引入偏見歧視等有害信息,，在模型實際應(yīng)用中很可能呈現(xiàn)放大化輸出。 三是生成式人工智能具備可引導(dǎo)性,。生成式人工智能模型在原有的人工智能“預(yù)訓練—微調(diào)”范式上,，增加了“對齊”的訓練環(huán)節(jié)。在提升模型能力方面,，通過在生成式人工智能模型訓練過程中調(diào)整模型輸出概率分布不斷趨近人類偏好,，但同時也存在被不法分子惡意利用的風險。

《辦法》充分結(jié)合生成式人工智能特性,，提出相應(yīng)管理要求：一是在生成內(nèi)容上,，《辦法》要求利用生成式人工智能生成的內(nèi)容應(yīng)當“堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán),、推翻社會主義制度,，危害國家安全和利益,、損害國家形象,，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定,，宣揚恐怖主義,、極端主義，宣揚民族仇恨,、民族歧視,，暴力、淫穢色情,，以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容”。 二是在算法設(shè)計等過程上,，《辦法》要求提供者在“算法設(shè)計,、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務(wù)等過程中,，采取有效措施防止出現(xiàn)民族、信仰,、國別,、地域、性別,、年齡,、職業(yè),、健康等歧視”，以及對尊重知識產(chǎn)權(quán),、商業(yè)道德和他人合法權(quán)益等方面提出了保護原則,。從這些要求看，《辦法》基本涵蓋了生成式人工智能服務(wù)在應(yīng)用過程中可能暴露出來的安全及倫理問題,。 三是在監(jiān)管方式上,，除了安全評估、算法備案,、標識等制度外,，還提出國家有關(guān)主管部門針對生成式人工智能技術(shù)特點及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學監(jiān)管方式,，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引,。

二、聚焦關(guān)鍵環(huán)節(jié),，高度重視性能與安全的平衡

《辦法》在技術(shù)監(jiān)管方面更為聚焦和深入,，以生成式人工智能模型訓練生產(chǎn)中的“對齊”這一關(guān)鍵技術(shù)環(huán)節(jié)為例，在傳統(tǒng)人工智能模型“預(yù)訓練—微調(diào)”生成范式中,，預(yù)訓練環(huán)節(jié)是利用海量無標注數(shù)據(jù)讓模型學習豐富的知識信息,，形成模型的底層知識來源。微調(diào)階段是根據(jù)應(yīng)用領(lǐng)域,，通過針對性定制的標注數(shù)據(jù)集,，引導(dǎo)模型形成回答問題的思路。當前,，生成式人工智能模型在原有訓練范式基礎(chǔ)上,，應(yīng)用人工智能模型“對齊”技術(shù)，能夠幫助生成式人工智能與人類偏好保持對齊并遵循人類意圖,，實現(xiàn)模型輸出內(nèi)容符合“有幫助的”,、“誠實的”和“無害的”準則。在追求生成式人工智能的性能與安全的平衡方面,，“對齊”技術(shù)的適當使用將發(fā)揮關(guān)鍵作用,。

《辦法》圍繞相關(guān)關(guān)鍵技術(shù)環(huán)節(jié)提出多項條款：一是明確了模型訓練及優(yōu)化的安全性要求，要求模型訓練要使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,，明確“涉及知識產(chǎn)權(quán)的,，不得侵害他人依法享有的知識產(chǎn)權(quán)”“涉及個人信息的，應(yīng)當取得個人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形”及采取有效措施提高訓練數(shù)據(jù)質(zhì)量等,，在提升訓練數(shù)據(jù)質(zhì)量等生成式人工智能模型重要基礎(chǔ)方面作出了詳細監(jiān)管說明。 二是明確在數(shù)據(jù)標注過程中,，應(yīng)制定清晰,、具體,、可操作的標注規(guī)則，以及開展數(shù)據(jù)標注質(zhì)量評估,、抽樣核驗標注內(nèi)容的準確性等要求,，在提供符合“對齊”要求的高質(zhì)量數(shù)據(jù)方面也提出明確要求。 三是在模型輸出信息出現(xiàn)違法內(nèi)容時,，要求提供者采取模型優(yōu)化訓練等措施進行整改,，體現(xiàn)了《辦法》與生成式人工智能技術(shù)特點及關(guān)鍵環(huán)節(jié)的高度適應(yīng)。

三,、強調(diào)促進創(chuàng)新與規(guī)范引導(dǎo)并重,，有力推動生成式人工智能技術(shù)健康發(fā)展

《辦法》的制定和出臺，是我國推進生成式人工智能服務(wù)領(lǐng)域治理,、促進產(chǎn)業(yè)規(guī)范健康發(fā)展,、引導(dǎo)技術(shù)向善的重要舉措?！掇k法》第三條指出,，生成式人工智能服務(wù)，堅持發(fā)展和安全并重,、促進創(chuàng)新和依法治理相結(jié)合的原則,；第五條明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，支持行業(yè)組織,、企業(yè),、教育和科研機構(gòu),、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)在生成式人工智能多個方面開展協(xié)作,；第六條提出鼓勵生成式人工智能算法,、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新及平等互利開展國際交流與合作,，參與生成式人工智能相關(guān)國際規(guī)則制定,。以上內(nèi)容均體現(xiàn)出我國高度重視生成式人工智能健康發(fā)展，科學合理規(guī)范引導(dǎo)生成式人工智能應(yīng)用的管理原則,。在人工智能技術(shù)迎來重要發(fā)展的時期,，我們不僅要讓相關(guān)新技術(shù)新應(yīng)用充分釋放出創(chuàng)新活力，也要在安全監(jiān)管與創(chuàng)新引導(dǎo)之間掌握好平衡,。一方面,，高度重視和充分研判生成式人工智能相關(guān)創(chuàng)新應(yīng)用對數(shù)據(jù)安全、公共利益,、知識產(chǎn)權(quán),、倫理道德等方面可能造成的影響,，進一步加強人工智能領(lǐng)域的行業(yè)自律，引導(dǎo)大數(shù)據(jù),、人工智能等先進技術(shù)在社會主義核心價值觀的引導(dǎo)下開展應(yīng)用創(chuàng)新,，加快制定相關(guān)行業(yè)標準和規(guī)范。另一方面,，充分支持人工智能領(lǐng)域研發(fā)主體開拓進取,，鼓勵和支持自主創(chuàng)新，培育國家級生成式人工智能技術(shù)生態(tài)和應(yīng)用生態(tài),，堅持包容和審慎相結(jié)合,，理性務(wù)實推進中國人工智能科技創(chuàng)新和數(shù)字經(jīng)濟的蓬勃發(fā)展。

作者：張震　國家計算機網(wǎng)絡(luò)與信息安全管理中心高級工程師

來源：“網(wǎng)信中國”微信公眾號

審核：李佳民

編輯：王林晨

校對：陳金丹

來源：網(wǎng)信中國