《辦法》共23條，包括技術發(fā)展與治理,、服務規(guī)范,、監(jiān)督檢查和法律責任等,。其中明確，國家堅持發(fā)展和安全并重,，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務總體要求,。

同時,，《辦法》提出促進生成式人工智能技術發(fā)展的具體措施，明確訓練數(shù)據(jù)處理活動和數(shù)據(jù)標注等要求,。規(guī)定生成式人工智能服務規(guī)范,，明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

《辦法》明確,， 國家堅持發(fā)展和安全并重,、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管,。

《辦法》指出，提供和使用生成式人工智能服務,，應遵守法律,、行政法規(guī)，尊重社會公德和倫理道德,，遵守以下規(guī)定：

《辦法》明確,，鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用,，探索優(yōu)化應用場景,，構建應用生態(tài)體系。

《辦法》 鼓勵生成式人工智能算法,、框架,、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新。推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設,。促進算力資源協(xié)同共享,，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放,，擴展高質量的公共訓練數(shù)據(jù)資源,。鼓勵采用安全可信的芯片、軟件,、工具,、算力和數(shù)據(jù)資源。

近日,，在2023全球數(shù)字經濟大會——人工智能高峰論壇上,，360公司創(chuàng)始人周鴻祎表示，大模型是一場新的工業(yè)革命,，它直接提高每個人、每個組織的勞動生產力,，同時實現(xiàn)了一種通用人工智能能力的賦能,。首先要把大模型目前最擅長、最成熟的能力用好,。政府和企業(yè)使用大模型時應該先從問答對話,、寫作生成等成熟角度切入。

周鴻祎建議,，從痛點,、剛需選擇場景，如,，面向員工的企業(yè)知識搜索,、知識管理和培訓；面向領導的信息決策和輿情分析,。對內有辦公生成辦公協(xié)作,，對外有提高用戶體驗的智能客服。目前企業(yè)的數(shù)字化、智能化程度不高的情況下,，這些場景是企業(yè)辦公的痛點,，也是大模型最能夠提高效率的地方。

在加強生成式人工智能技術治理方面,，《辦法》提出,，生成式人工智能服務提供者（下稱“提供者”）應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動,。使用具有合法來源的數(shù)據(jù)和基礎模型,；涉及知識產權的，不得侵害他人依法享有的知識產權,；采取有效措施提高訓練數(shù)據(jù)質量,，增強訓練數(shù)據(jù)的真實性、準確性,、客觀性,、多樣性；涉及個人信息的,，應當取得個人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形。

《辦法》提出,，提供者發(fā)現(xiàn)違法內容的,，應當及時采取停止生成、停止傳輸,、消除等處置措施,，采取模型優(yōu)化訓練等措施進行整改，并向有關主管部門報告,。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務從事違法活動的,，應當依法依約采取警示、限制功能,、暫?；蛘呓K止向其提供服務等處置措施，保存有關記錄,，并向有關主管部門報告,。

清華大學人工智能研究院副院長朱軍此前表示，生成式人工智能特別是ChatGPT出現(xiàn)后,，安全問題越來越嚴重,。“大模型存在數(shù)據(jù)泄露的風險,，ChatGPT會把很多隱私數(shù)據(jù)上傳?，F(xiàn)在也有用生成式人工智能技術提升詐騙手段,，通過虛假內容實現(xiàn)黑產攻擊，包括代碼生成實現(xiàn)網絡攻擊,。生成的虛假內容本身是不良的,，存在誤導性和欺騙性?！?/p>

對此,，朱軍建議，從人工智能基礎嘗試,，針對深度學習,、深度神經網絡，探索第三代人工智能新范式,，提高內在安全性能,。同時，提升安全評測能力,，關注對抗攻擊評測,、角色扮演與誘導欺騙評測、混淆指令欺騙評測,、標識性能評測,、數(shù)據(jù)安全評測、倫理安全評測方面,。此外,，還可構建人工智能安全治理有效工具，如人工智能本身的安全平臺,，安全評測,、防御和整個態(tài)勢的評估，可以通過平臺化的方式對人工智能的算法和服務進行評測,。