《辦法》共23條,，包括技術(shù)發(fā)展與治理,、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任等,。其中明確,，國(guó)家堅(jiān)持發(fā)展和安全并重，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,，明確了提供和使用生成式人工智能服務(wù)總體要求,。

同時(shí)，《辦法》提出促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施,，明確訓(xùn)練數(shù)據(jù)處理活動(dòng)和數(shù)據(jù)標(biāo)注等要求,。規(guī)定生成式人工智能服務(wù)規(guī)范，明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù),。

《辦法》明確,， 國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。

《辦法》指出,，提供和使用生成式人工智能服務(wù),，應(yīng)遵守法律、行政法規(guī),，尊重社會(huì)公德和倫理道德,，遵守以下規(guī)定：

《辦法》明確，鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用,，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系,。

《辦法》 鼓勵(lì)生成式人工智能算法,、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能,。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。

近日,，在2023全球數(shù)字經(jīng)濟(jì)大會(huì)——人工智能高峰論壇上，360公司創(chuàng)始人周鴻祎表示,，大模型是一場(chǎng)新的工業(yè)革命,，它直接提高每個(gè)人、每個(gè)組織的勞動(dòng)生產(chǎn)力,，同時(shí)實(shí)現(xiàn)了一種通用人工智能能力的賦能,。首先要把大模型目前最擅長(zhǎng)、最成熟的能力用好,。政府和企業(yè)使用大模型時(shí)應(yīng)該先從問(wèn)答對(duì)話,、寫(xiě)作生成等成熟角度切入。

周鴻祎建議,，從痛點(diǎn),、剛需選擇場(chǎng)景，如，面向員工的企業(yè)知識(shí)搜索,、知識(shí)管理和培訓(xùn)；面向領(lǐng)導(dǎo)的信息決策和輿情分析,。對(duì)內(nèi)有辦公生成辦公協(xié)作,，對(duì)外有提高用戶體驗(yàn)的智能客服。目前企業(yè)的數(shù)字化,、智能化程度不高的情況下，這些場(chǎng)景是企業(yè)辦公的痛點(diǎn),，也是大模型最能夠提高效率的地方,。

在加強(qiáng)生成式人工智能技術(shù)治理方面，《辦法》提出,，生成式人工智能服務(wù)提供者（下稱“提供者”）應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),。使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型,；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán),；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性；涉及個(gè)人信息的,，應(yīng)當(dāng)取得個(gè)人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形,。

《辦法》提出，提供者發(fā)現(xiàn)違法內(nèi)容的,，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸,、消除等處置措施,，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報(bào)告。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的,，應(yīng)當(dāng)依法依約采取警示,、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施,，保存有關(guān)記錄，并向有關(guān)主管部門(mén)報(bào)告,。

清華大學(xué)人工智能研究院副院長(zhǎng)朱軍此前表示,，生成式人工智能特別是ChatGPT出現(xiàn)后，安全問(wèn)題越來(lái)越嚴(yán)重,?！按竽Ｐ痛嬖跀?shù)據(jù)泄露的風(fēng)險(xiǎn)，ChatGPT會(huì)把很多隱私數(shù)據(jù)上傳?，F(xiàn)在也有用生成式人工智能技術(shù)提升詐騙手段,，通過(guò)虛假內(nèi)容實(shí)現(xiàn)黑產(chǎn)攻擊，包括代碼生成實(shí)現(xiàn)網(wǎng)絡(luò)攻擊,。生成的虛假內(nèi)容本身是不良的,，存在誤導(dǎo)性和欺騙性?！?/p>

對(duì)此,，朱軍建議，從人工智能基礎(chǔ)嘗試,，針對(duì)深度學(xué)習(xí),、深度神經(jīng)網(wǎng)絡(luò)，探索第三代人工智能新范式,，提高內(nèi)在安全性能,。同時(shí)，提升安全評(píng)測(cè)能力,，關(guān)注對(duì)抗攻擊評(píng)測(cè),、角色扮演與誘導(dǎo)欺騙評(píng)測(cè)、混淆指令欺騙評(píng)測(cè),、標(biāo)識(shí)性能評(píng)測(cè),、數(shù)據(jù)安全評(píng)測(cè)、倫理安全評(píng)測(cè)方面,。此外,，還可構(gòu)建人工智能安全治理有效工具，如人工智能本身的安全平臺(tái),，安全評(píng)測(cè),、防御和整個(gè)態(tài)勢(shì)的評(píng)估，可以通過(guò)平臺(tái)化的方式對(duì)人工智能的算法和服務(wù)進(jìn)行評(píng)測(cè)。