征求意見93天后,，全球第一部AIGC（AI生成內(nèi)容）管理辦法出臺了。

7月13日,，網(wǎng)信辦等七部門正式發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（下文簡稱“《辦法》”）,，該辦法自2023年8月15日起施行,。

中國互聯(lián)網(wǎng)協(xié)會研究中心副主任、北京師范大學(xué)法學(xué)院博士生導(dǎo)師吳沈括在接受新京報貝殼財經(jīng)記者采訪時表示,，相比較于征求意見稿階段,，《辦法》在發(fā)布主體、文件名稱,、內(nèi)容寬度上有很大的變化,，本身也反映了我們國家在治理決策層面對AGC治理的思路的進(jìn)一步深化和延伸，“它作為全球第一部AIGC法,，反映的是中國在數(shù)字治理和人工智能治理層面新的思路，強(qiáng)調(diào)的是一種生態(tài)式的治理方案,。”

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，《辦法》提出國家堅持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管,。

鼓勵生成式人工智能技術(shù)發(fā)展 鼓勵算法芯片等基礎(chǔ)技術(shù)自主創(chuàng)新

“我認(rèn)為《辦法》是積極的，總體來講是鼓勵深層次人工智能發(fā)展,，鼓勵我們自己發(fā)展芯片,，同時里面也有對尊重知識產(chǎn)權(quán)、個人信息包含等的相關(guān)要求,?！?談到對此次出臺《辦法》的感受，網(wǎng)絡(luò)安全研究專家,、北京漢華飛天信安科技有限公司總經(jīng)理彭根告訴新京報貝殼財經(jīng)記者,。

貝殼財經(jīng)記者注意到，在《辦法》第二章技術(shù)發(fā)展與治理中,，“鼓勵”一詞高頻出現(xiàn),。

如第五條提到“鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景,，構(gòu)建應(yīng)用生態(tài)體系,。”第六條提到“鼓勵生成式人工智能算法,、框架,、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作,，參與生成式人工智能相關(guān)國際規(guī)則制定,。”

對于《辦法》的發(fā)布,，北京理工大學(xué)法學(xué)院教授,、外交部國際法咨詢委員會委員洪延青在公眾號《網(wǎng)安尋路人》中簡評稱，整個《辦法》往促進(jìn)生成式AI發(fā)展這個方向,，靠了很大一步,，“第二條強(qiáng)調(diào)了‘面向公眾提供’服務(wù)，進(jìn)一步明確了監(jiān)管意圖,；第四條基本圍繞著內(nèi)容管理,、歧視性待遇、商業(yè)和市場秩序保護(hù),、個人合法權(quán)益保護(hù),，以及生成內(nèi)容的準(zhǔn)確性和可靠性；第七條依舊強(qiáng)調(diào)了訓(xùn)練數(shù)據(jù)的重要性,，這是生成式AI監(jiān)管的重要切入點(diǎn),。”

在回答《辦法》對促進(jìn)生成式人工智能健康發(fā)展有哪些考慮這一問題時,，國家網(wǎng)信辦有關(guān)負(fù)責(zé)人提到,，支持行業(yè)組織、企業(yè),、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用、風(fēng)險防范等方面開展協(xié)作,。推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè),。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能,。推動公共數(shù)據(jù)分類分級有序開放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。

吳沈括表示,，《辦法》強(qiáng)化了對AIGC生態(tài)基礎(chǔ)要素的支持，其中關(guān)于算力資源的共享,、公共數(shù)據(jù)資源的開放共享等反映了對AIGC發(fā)展的重視,。

對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管

吳沈括對貝殼財經(jīng)記者表示，在《辦法》的文本設(shè)計當(dāng)中,，對于產(chǎn)業(yè)生態(tài)的培育和促進(jìn),，對于各方主體合規(guī)治理的指引，以及對于安全底線的堅守是三個非常重要的制度基礎(chǔ)和切入的重點(diǎn),，其中值得注意的地方是《辦法》突出了關(guān)于AIGC的分類分級監(jiān)管思路,，以及后續(xù)細(xì)化監(jiān)管規(guī)則的持續(xù)出臺,。

根據(jù)《辦法》第十七條，提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的,，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估,，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù),。

洪延青表示,，第十七條事實(shí)上提出了生成式AI的分類分級管理思路，對具有輿論屬性和社會動員能力的生成式AI,，沿用網(wǎng)信辦過去的監(jiān)管工具。

貝殼財經(jīng)記者注意,，到《辦法》也提到了針對未成年人的服務(wù)規(guī)范,，第十條規(guī)定，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群,、場合,、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用生成式人工智能技術(shù),，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《辦法》在治理對象上,，針對生成式人工智能服務(wù),。在監(jiān)管方式上，提出對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管,，要求國家有關(guān)主管部門針對生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用,，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引,。此外,，《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。規(guī)定提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片,、視頻等生成內(nèi)容進(jìn)行標(biāo)識,。

“我最大的感受是《辦法》進(jìn)一步強(qiáng)調(diào)了深度合成管理規(guī)定的內(nèi)容，要對圖片和視頻進(jìn)行標(biāo)注,，讓我們能夠判斷出到底圖片視頻是由AI生成的,，還是人去錄制和拍攝的，這是一個很關(guān)鍵的一個地方,?！迸砀鶎ω悮へ斀?jīng)記者表示。

提供使用生成式人工智能服務(wù)應(yīng)當(dāng)堅持社會主義核心價值觀

貝殼財經(jīng)記者注意到,，從4月11日《辦法》征求意見稿出臺,，到本次《辦法》正式發(fā)布，在對大模型的內(nèi)容監(jiān)管方面，均明確提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)堅持社會主義核心價值觀,，不得生成煽動顛覆國家政權(quán)、民族歧視,，暴力色情,、虛假有害信息等法律和行政法規(guī)禁止的內(nèi)容。

但另一方面,，由于生成式AI底層算法的本質(zhì)就是“猜出”最符合上文內(nèi)容的“下文”,，具備一定隨機(jī)性，因此如何應(yīng)對生成式AI難以避免出現(xiàn)的“幻覺”問題也成為了難題,。

有大模型研發(fā)機(jī)構(gòu)工作人員對貝殼財經(jīng)記者表示,，要解決生成內(nèi)容的安全問題，就需要額外配備和訓(xùn)練AI人員人數(shù)相同的安全審核人員,，“其實(shí)國內(nèi)各個廠商都有生產(chǎn)大模型的技術(shù),，算力、硬件,、軟件都不是問題,，唯獨(dú)市場是否要放開，如何規(guī)避不安全的內(nèi)容存在問題,。目前來看解決辦法之一是在提問層就做一次審核,，不過這要付出額外的成本?！?/p>

對于難以避免的“幻覺”行為可能導(dǎo)致的內(nèi)容風(fēng)險,，《辦法》第十四條第二款規(guī)定，提供者發(fā)現(xiàn)違法內(nèi)容的,，應(yīng)當(dāng)及時采取停止生成,、停止傳輸、消除等處置措施,，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,，并向有關(guān)主管部門報告。

多位專家均向貝殼財經(jīng)表達(dá)了同一觀點(diǎn),，即AIGC內(nèi)容風(fēng)險也并非完全無法把控,，因為大模型生成的內(nèi)容的素材來源于其預(yù)訓(xùn)練數(shù)據(jù)，因此對這些數(shù)據(jù)進(jìn)行把控,，就能大概率降低生產(chǎn)內(nèi)容的風(fēng)險,，“以符合社會主義價值觀的內(nèi)容訓(xùn)練出的大模型，其生成的內(nèi)容也大概率會符合社會主義價值觀,?！?/p>

《辦法》第七條或體現(xiàn)了這一觀點(diǎn),，第七條規(guī)定，生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當(dāng)依法開展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動,，應(yīng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，涉及知識產(chǎn)權(quán)的,，不得侵害他人依法享有的知識產(chǎn)權(quán)等,。

洪延青認(rèn)為，《辦法》第七條依舊強(qiáng)調(diào)了訓(xùn)練數(shù)據(jù)的重要性,，這是生成式AI監(jiān)管的重要切入點(diǎn),，但對訓(xùn)練數(shù)據(jù)的質(zhì)量作出了盡職性的要求，而非結(jié)果式的要求,。

國家計算機(jī)網(wǎng)絡(luò)與信息安全管理中心高級工程師張震表示,，生成式人工智能模型經(jīng)過訓(xùn)練后，對一些概念具備了較為穩(wěn)定的“認(rèn)知”,，圍繞相關(guān)概念的生成內(nèi)容往往表現(xiàn)出驚人的一致性。一旦模型在訓(xùn)練過程中引入偏見歧視等有害信息,，在模型實(shí)際應(yīng)用中很可能呈現(xiàn)放大化輸出,。三是生成式人工智能具備可引導(dǎo)性。生成式人工智能模型在原有的人工智能“預(yù)訓(xùn)練—微調(diào)”范式上,，增加了“對齊”的訓(xùn)練環(huán)節(jié),。

值得注意的是，《辦法》除了對提供者提出義務(wù)外,，對生成式人工智能的用戶也提出了義務(wù),。

《辦法》第九條第二款規(guī)定，提供者應(yīng)當(dāng)與注冊其服務(wù)的生成式人工智能服務(wù)使用者（以下稱使用者）簽訂服務(wù)協(xié)議,，明確雙方權(quán)利義務(wù),。而第十四條第二款則規(guī)定，提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的,，應(yīng)當(dāng)依法依約采取警示,、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施,，保存有關(guān)記錄，并向有關(guān)主管部門報告,。

“《辦法》在安全層面堅持了技術(shù)要素層面的安全,、組織管理層面的安全以及數(shù)字內(nèi)容層面的安全，結(jié)合了安全性設(shè)計,、合法性設(shè)計和倫理性設(shè)計的綜合治理思路,。對于各方主體的合規(guī)義務(wù),、法律責(zé)任做出了明確的規(guī)定。同時,，對包括用戶數(shù)字素養(yǎng)在內(nèi)的基礎(chǔ)性生態(tài)要素也做出了專門的要求,。從這個意義上來講，目前的辦法在制度的寬度,、廣度和深度上都有顯著的延伸,。”吳沈括對貝殼財經(jīng)記者表示,。

記者聯(lián)系郵箱：[email protected]

新京報貝殼財經(jīng)記者 羅亦丹

編輯 宋鈺婷

校對 陳荻雁