征求意見93天后,，全球第一部AIGC（AI生成內(nèi)容）管理辦法出臺(tái)了,。

7月13日，網(wǎng)信辦等七部門正式發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（下文簡(jiǎn)稱“《辦法》”）,，該辦法自2023年8月15日起施行,。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任、北京師范大學(xué)法學(xué)院博士生導(dǎo)師吳沈括在接受新京報(bào)貝殼財(cái)經(jīng)記者采訪時(shí)表示,，相比較于征求意見稿階段,，《辦法》在發(fā)布主體、文件名稱,、內(nèi)容寬度上有很大的變化,，本身也反映了我們國(guó)家在治理決策層面對(duì)AGC治理的思路的進(jìn)一步深化和延伸，“它作為全球第一部AIGC法,，反映的是中國(guó)在數(shù)字治理和人工智能治理層面新的思路,，強(qiáng)調(diào)的是一種生態(tài)式的治理方案,。”

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。

鼓勵(lì)生成式人工智能技術(shù)發(fā)展 鼓勵(lì)算法芯片等基礎(chǔ)技術(shù)自主創(chuàng)新

“我認(rèn)為《辦法》是積極的，總體來(lái)講是鼓勵(lì)深層次人工智能發(fā)展,，鼓勵(lì)我們自己發(fā)展芯片,，同時(shí)里面也有對(duì)尊重知識(shí)產(chǎn)權(quán)、個(gè)人信息包含等的相關(guān)要求,?！?談到對(duì)此次出臺(tái)《辦法》的感受，網(wǎng)絡(luò)安全研究專家,、北京漢華飛天信安科技有限公司總經(jīng)理彭根告訴新京報(bào)貝殼財(cái)經(jīng)記者,。

貝殼財(cái)經(jīng)記者注意到，在《辦法》第二章技術(shù)發(fā)展與治理中,，“鼓勵(lì)”一詞高頻出現(xiàn),。

如第五條提到“鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景,，構(gòu)建應(yīng)用生態(tài)體系,。”第六條提到“鼓勵(lì)生成式人工智能算法,、框架,、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國(guó)際交流與合作,，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定,。”

對(duì)于《辦法》的發(fā)布，北京理工大學(xué)法學(xué)院教授,、外交部國(guó)際法咨詢委員會(huì)委員洪延青在公眾號(hào)《網(wǎng)安尋路人》中簡(jiǎn)評(píng)稱,，整個(gè)《辦法》往促進(jìn)生成式AI發(fā)展這個(gè)方向，靠了很大一步,，“第二條強(qiáng)調(diào)了‘面向公眾提供’服務(wù),，進(jìn)一步明確了監(jiān)管意圖；第四條基本圍繞著內(nèi)容管理,、歧視性待遇,、商業(yè)和市場(chǎng)秩序保護(hù)、個(gè)人合法權(quán)益保護(hù),，以及生成內(nèi)容的準(zhǔn)確性和可靠性,；第七條依舊強(qiáng)調(diào)了訓(xùn)練數(shù)據(jù)的重要性，這是生成式AI監(jiān)管的重要切入點(diǎn),?！?/p>

在回答《辦法》對(duì)促進(jìn)生成式人工智能健康發(fā)展有哪些考慮這一問題時(shí)，國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人提到,，支持行業(yè)組織,、企業(yè)、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面開展協(xié)作。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享,，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源,。鼓勵(lì)采用安全可信的芯片、軟件,、工具,、算力和數(shù)據(jù)資源。

吳沈括表示,，《辦法》強(qiáng)化了對(duì)AIGC生態(tài)基礎(chǔ)要素的支持,，其中關(guān)于算力資源的共享、公共數(shù)據(jù)資源的開放共享等反映了對(duì)AIGC發(fā)展的重視,。

對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管

吳沈括對(duì)貝殼財(cái)經(jīng)記者表示,，在《辦法》的文本設(shè)計(jì)當(dāng)中,，對(duì)于產(chǎn)業(yè)生態(tài)的培育和促進(jìn)，對(duì)于各方主體合規(guī)治理的指引,，以及對(duì)于安全底線的堅(jiān)守是三個(gè)非常重要的制度基礎(chǔ)和切入的重點(diǎn),，其中值得注意的地方是《辦法》突出了關(guān)于AIGC的分類分級(jí)監(jiān)管思路，以及后續(xù)細(xì)化監(jiān)管規(guī)則的持續(xù)出臺(tái),。

根據(jù)《辦法》第十七條，提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的,，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估,，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù),。

洪延青表示,，第十七條事實(shí)上提出了生成式AI的分類分級(jí)管理思路，對(duì)具有輿論屬性和社會(huì)動(dòng)員能力的生成式AI,，沿用網(wǎng)信辦過去的監(jiān)管工具,。

貝殼財(cái)經(jīng)記者注意，到《辦法》也提到了針對(duì)未成年人的服務(wù)規(guī)范,，第十條規(guī)定,，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場(chǎng)合,、用途,，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，《辦法》在治理對(duì)象上，針對(duì)生成式人工智能服務(wù),。在監(jiān)管方式上,，提出對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，要求國(guó)家有關(guān)主管部門針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用,，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式,，制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。此外,，《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),。規(guī)定提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí),。

“我最大的感受是《辦法》進(jìn)一步強(qiáng)調(diào)了深度合成管理規(guī)定的內(nèi)容,，要對(duì)圖片和視頻進(jìn)行標(biāo)注，讓我們能夠判斷出到底圖片視頻是由AI生成的,，還是人去錄制和拍攝的,，這是一個(gè)很關(guān)鍵的一個(gè)地方,。”彭根對(duì)貝殼財(cái)經(jīng)記者表示,。

提供使用生成式人工智能服務(wù)應(yīng)當(dāng)堅(jiān)持社會(huì)主義核心價(jià)值觀

貝殼財(cái)經(jīng)記者注意到,，從4月11日《辦法》征求意見稿出臺(tái)，到本次《辦法》正式發(fā)布,，在對(duì)大模型的內(nèi)容監(jiān)管方面,，均明確提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國(guó)家政權(quán),、民族歧視,，暴力色情、虛假有害信息等法律和行政法規(guī)禁止的內(nèi)容,。

但另一方面,，由于生成式AI底層算法的本質(zhì)就是“猜出”最符合上文內(nèi)容的“下文”，具備一定隨機(jī)性,，因此如何應(yīng)對(duì)生成式AI難以避免出現(xiàn)的“幻覺”問題也成為了難題,。

有大模型研發(fā)機(jī)構(gòu)工作人員對(duì)貝殼財(cái)經(jīng)記者表示，要解決生成內(nèi)容的安全問題,，就需要額外配備和訓(xùn)練AI人員人數(shù)相同的安全審核人員,，“其實(shí)國(guó)內(nèi)各個(gè)廠商都有生產(chǎn)大模型的技術(shù)，算力,、硬件,、軟件都不是問題，唯獨(dú)市場(chǎng)是否要放開,，如何規(guī)避不安全的內(nèi)容存在問題,。目前來(lái)看解決辦法之一是在提問層就做一次審核，不過這要付出額外的成本,?！?/p>

對(duì)于難以避免的“幻覺”行為可能導(dǎo)致的內(nèi)容風(fēng)險(xiǎn)，《辦法》第十四條第二款規(guī)定,，提供者發(fā)現(xiàn)違法內(nèi)容的,，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸,、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,，并向有關(guān)主管部門報(bào)告,。

多位專家均向貝殼財(cái)經(jīng)表達(dá)了同一觀點(diǎn)，即AIGC內(nèi)容風(fēng)險(xiǎn)也并非完全無(wú)法把控,，因?yàn)榇竽Ｐ蜕傻膬?nèi)容的素材來(lái)源于其預(yù)訓(xùn)練數(shù)據(jù),，因此對(duì)這些數(shù)據(jù)進(jìn)行把控,，就能大概率降低生產(chǎn)內(nèi)容的風(fēng)險(xiǎn)，“以符合社會(huì)主義價(jià)值觀的內(nèi)容訓(xùn)練出的大模型,，其生成的內(nèi)容也大概率會(huì)符合社會(huì)主義價(jià)值觀,。”

《辦法》第七條或體現(xiàn)了這一觀點(diǎn),，第七條規(guī)定，生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當(dāng)依法開展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),，應(yīng)使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型,，涉及知識(shí)產(chǎn)權(quán)的,，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)等。

洪延青認(rèn)為,，《辦法》第七條依舊強(qiáng)調(diào)了訓(xùn)練數(shù)據(jù)的重要性,，這是生成式AI監(jiān)管的重要切入點(diǎn)，但對(duì)訓(xùn)練數(shù)據(jù)的質(zhì)量作出了盡職性的要求,，而非結(jié)果式的要求,。

國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)與信息安全管理中心高級(jí)工程師張震表示,，生成式人工智能模型經(jīng)過訓(xùn)練后,，對(duì)一些概念具備了較為穩(wěn)定的“認(rèn)知”，圍繞相關(guān)概念的生成內(nèi)容往往表現(xiàn)出驚人的一致性,。一旦模型在訓(xùn)練過程中引入偏見歧視等有害信息,，在模型實(shí)際應(yīng)用中很可能呈現(xiàn)放大化輸出。三是生成式人工智能具備可引導(dǎo)性,。生成式人工智能模型在原有的人工智能“預(yù)訓(xùn)練—微調(diào)”范式上，增加了“對(duì)齊”的訓(xùn)練環(huán)節(jié),。

值得注意的是,，《辦法》除了對(duì)提供者提出義務(wù)外，對(duì)生成式人工智能的用戶也提出了義務(wù),。

《辦法》第九條第二款規(guī)定,，提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的生成式人工智能服務(wù)使用者（以下稱使用者）簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù),。而第十四條第二款則規(guī)定,，提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的,，應(yīng)當(dāng)依法依約采取警示、限制功能,、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄,，并向有關(guān)主管部門報(bào)告,。

“《辦法》在安全層面堅(jiān)持了技術(shù)要素層面的安全、組織管理層面的安全以及數(shù)字內(nèi)容層面的安全,，結(jié)合了安全性設(shè)計(jì),、合法性設(shè)計(jì)和倫理性設(shè)計(jì)的綜合治理思路。對(duì)于各方主體的合規(guī)義務(wù),、法律責(zé)任做出了明確的規(guī)定,。同時(shí)，對(duì)包括用戶數(shù)字素養(yǎng)在內(nèi)的基礎(chǔ)性生態(tài)要素也做出了專門的要求,。從這個(gè)意義上來(lái)講,，目前的辦法在制度的寬度、廣度和深度上都有顯著的延伸,?！眳巧蚶▽?duì)貝殼財(cái)經(jīng)記者表示。

記者聯(lián)系郵箱：[email protected]

新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹

編輯 宋鈺婷

校對(duì) 陳荻雁