《辦法》共23條,，包括技術(shù)發(fā)展與治理、服務(wù)規(guī)范,、監(jiān)督檢查和法律責任等,。其中明確，國家堅持發(fā)展和安全并重,，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管,，明確了提供和使用生成式人工智能服務(wù)總體要求,。

同時，《辦法》提出促進生成式人工智能技術(shù)發(fā)展的具體措施,，明確訓練數(shù)據(jù)處理活動和數(shù)據(jù)標注等要求,。規(guī)定生成式人工智能服務(wù)規(guī)范，明確生成式人工智能服務(wù)提供者應(yīng)當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),。

《辦法》明確,， 國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。

《辦法》指出,，提供和使用生成式人工智能服務(wù),，應(yīng)遵守法律、行政法規(guī),，尊重社會公德和倫理道德,，遵守以下規(guī)定：

《辦法》明確,，鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，探索優(yōu)化應(yīng)用場景,，構(gòu)建應(yīng)用生態(tài)體系。

《辦法》 鼓勵生成式人工智能算法、框架,、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新,。推動生成式人工智能基礎(chǔ)設(shè)施和公共訓練數(shù)據(jù)資源平臺建設(shè)。促進算力資源協(xié)同共享,，提升算力資源利用效能,。推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源,。鼓勵采用安全可信的芯片,、軟件、工具,、算力和數(shù)據(jù)資源,。

近日，在2023全球數(shù)字經(jīng)濟大會——人工智能高峰論壇上,，360公司創(chuàng)始人周鴻祎表示,，大模型是一場新的工業(yè)革命，它直接提高每個人,、每個組織的勞動生產(chǎn)力,，同時實現(xiàn)了一種通用人工智能能力的賦能。首先要把大模型目前最擅長,、最成熟的能力用好,。政府和企業(yè)使用大模型時應(yīng)該先從問答對話、寫作生成等成熟角度切入,。

周鴻祎建議,，從痛點、剛需選擇場景,，如,，面向員工的企業(yè)知識搜索、知識管理和培訓,；面向領(lǐng)導的信息決策和輿情分析,。對內(nèi)有辦公生成辦公協(xié)作，對外有提高用戶體驗的智能客服,。目前企業(yè)的數(shù)字化,、智能化程度不高的情況下，這些場景是企業(yè)辦公的痛點,，也是大模型最能夠提高效率的地方,。

在加強生成式人工智能技術(shù)治理方面，《辦法》提出,，生成式人工智能服務(wù)提供者（下稱“提供者”）應(yīng)當依法開展預(yù)訓練,、優(yōu)化訓練等訓練數(shù)據(jù)處理活動,。使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識產(chǎn)權(quán)的,，不得侵害他人依法享有的知識產(chǎn)權(quán),；采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性,、準確性,、客觀性、多樣性,；涉及個人信息的,，應(yīng)當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形,。

《辦法》提出,，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當及時采取停止生成,、停止傳輸,、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改,，并向有關(guān)主管部門報告,。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當依法依約采取警示,、限制功能,、暫停或者終止向其提供服務(wù)等處置措施,，保存有關(guān)記錄,，并向有關(guān)主管部門報告。

清華大學人工智能研究院副院長朱軍此前表示,，生成式人工智能特別是ChatGPT出現(xiàn)后，安全問題越來越嚴重,?！按竽Ｐ痛嬖跀?shù)據(jù)泄露的風險，ChatGPT會把很多隱私數(shù)據(jù)上傳?，F(xiàn)在也有用生成式人工智能技術(shù)提升詐騙手段,，通過虛假內(nèi)容實現(xiàn)黑產(chǎn)攻擊，包括代碼生成實現(xiàn)網(wǎng)絡(luò)攻擊,。生成的虛假內(nèi)容本身是不良的,，存在誤導性和欺騙性?！?/p>

對此,，朱軍建議，從人工智能基礎(chǔ)嘗試，針對深度學習,、深度神經(jīng)網(wǎng)絡(luò),，探索第三代人工智能新范式，提高內(nèi)在安全性能,。同時,，提升安全評測能力，關(guān)注對抗攻擊評測,、角色扮演與誘導欺騙評測,、混淆指令欺騙評測、標識性能評測,、數(shù)據(jù)安全評測,、倫理安全評測方面。此外,，還可構(gòu)建人工智能安全治理有效工具,，如人工智能本身的安全平臺，安全評測,、防御和整個態(tài)勢的評估,，可以通過平臺化的方式對人工智能的算法和服務(wù)進行評測。