7月13日,，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（下稱《辦法》），自2023年8月15日起施行,。

《辦法》共23條,，包括技術(shù)發(fā)展與治理、服務(wù)規(guī)范,、監(jiān)督檢查和法律責(zé)任等,。其中明確，國家堅(jiān)持發(fā)展和安全并重,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管,，明確了提供和使用生成式人工智能服務(wù)總體要求,。

同時(shí),，《辦法》提出促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施,，明確訓(xùn)練數(shù)據(jù)處理活動(dòng)和數(shù)據(jù)標(biāo)注等要求。規(guī)定生成式人工智能服務(wù)規(guī)范,，明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),。

鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展

《辦法》明確， 國家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管,。

《辦法》指出,，提供和使用生成式人工智能服務(wù)，應(yīng)遵守法律,、行政法規(guī),，尊重社會(huì)公德和倫理道德，遵守以下規(guī)定：

（一）堅(jiān)持社會(huì)主義核心價(jià)值觀,，不得生成煽動(dòng)顛覆國家政權(quán),、推翻社會(huì)主義制度，危害國家安全和利益,、損害國家形象,，煽動(dòng)分裂國家、破壞國家統(tǒng)一和社會(huì)穩(wěn)定,，宣揚(yáng)恐怖主義,、極端主義，宣揚(yáng)民族仇恨,、民族歧視,，暴力、淫穢色情,，以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容；

（二）在算法設(shè)計(jì),、訓(xùn)練數(shù)據(jù)選擇,、模型生成和優(yōu)化、提供服務(wù)等過程中,，采取有效措施防止產(chǎn)生民族,、信仰,、國別、地域,、性別,、年齡、職業(yè),、健康等歧視,；

（三）尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德,，保守商業(yè)秘密,，不得利用算法、數(shù)據(jù),、平臺(tái)等優(yōu)勢,，實(shí)施壟斷和不正當(dāng)競爭行為；

（四）尊重他人合法權(quán)益,，不得危害他人身心健康,，不得侵害他人肖像權(quán)、名譽(yù)權(quán),、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益；

（五）基于服務(wù)類型特點(diǎn),，采取有效措施,，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性,。

探索生成式人工智能技術(shù)應(yīng)用場景

《辦法》明確,，鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，探索優(yōu)化應(yīng)用場景,，構(gòu)建應(yīng)用生態(tài)體系。

《辦法》 鼓勵(lì)生成式人工智能算法,、框架,、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享,，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級有序開放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源,。鼓勵(lì)采用安全可信的芯片、軟件,、工具,、算力和數(shù)據(jù)資源,。

近日，在2023全球數(shù)字經(jīng)濟(jì)大會(huì)——人工智能高峰論壇上,，360公司創(chuàng)始人周鴻祎表示,，大模型是一場新的工業(yè)革命，它直接提高每個(gè)人,、每個(gè)組織的勞動(dòng)生產(chǎn)力,，同時(shí)實(shí)現(xiàn)了一種通用人工智能能力的賦能。首先要把大模型目前最擅長,、最成熟的能力用好,。政府和企業(yè)使用大模型時(shí)應(yīng)該先從問答對話,、寫作生成等成熟角度切入,。

周鴻祎建議，從痛點(diǎn),、剛需選擇場景,，如面向員工的企業(yè)知識(shí)搜索、知識(shí)管理和培訓(xùn),；面向領(lǐng)導(dǎo)的信息決策和輿情分析,。對內(nèi)有辦公生成辦公協(xié)作，對外有提高用戶體驗(yàn)的智能客服,。目前企業(yè)的數(shù)字化,、智能化程度不高的情況下，這些場景是企業(yè)辦公的痛點(diǎn),，也是大模型最能夠提高效率的地方,。

促進(jìn)生成式人工智能規(guī)范應(yīng)用

在加強(qiáng)生成式人工智能技術(shù)治理方面，《辦法》提出,，生成式人工智能服務(wù)提供者（下稱“提供者”）應(yīng)當(dāng)依法開展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)。使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,；涉及知識(shí)產(chǎn)權(quán)的,，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性,；涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形,。

《辦法》提出,，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成,、停止傳輸,、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,，并向有關(guān)主管部門報(bào)告,。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示,、限制功能,、暫停或者終止向其提供服務(wù)等處置措施,，保存有關(guān)記錄,，并向有關(guān)主管部門報(bào)告。

清華大學(xué)人工智能研究院副院長朱軍此前表示,，生成式人工智能特別是ChatGPT出現(xiàn)后,，安全問題越來越嚴(yán)重?！按竽Ｐ痛嬖跀?shù)據(jù)泄露的風(fēng)險(xiǎn),，ChatGPT會(huì)把很多隱私數(shù)據(jù)上傳。現(xiàn)在也有用生成式人工智能技術(shù)提升詐騙手段,，通過虛假內(nèi)容實(shí)現(xiàn)黑產(chǎn)攻擊,，包括代碼生成實(shí)現(xiàn)網(wǎng)絡(luò)攻擊。生成的虛假內(nèi)容本身是不良的,，存在誤導(dǎo)性和欺騙性,。”

對此,，朱軍建議,，從人工智能基礎(chǔ)嘗試，針對深度學(xué)習(xí),、深度神經(jīng)網(wǎng)絡(luò),，探索第三代人工智能新范式，提高內(nèi)在安全性能,。同時(shí),，提升安全評測能力，關(guān)注對抗攻擊評測,、角色扮演與誘導(dǎo)欺騙評測,、混淆指令欺騙評測、標(biāo)識(shí)性能評測、數(shù)據(jù)安全評測,、倫理安全評測方面,。此外，還可構(gòu)建人工智能安全治理有效工具,，如人工智能本身的安全平臺(tái),，安全評測、防御和整個(gè)態(tài)勢的評估,，可以通過平臺(tái)化的方式對人工智能的算法和服務(wù)進(jìn)行評測,。