國家互聯(lián)網(wǎng)信息辦公室近日聯(lián)合國家發(fā)展改革委、教育部,、科技部,、工業(yè)和信息化部、公安部,、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）,，自2023年8月15日起施行。

據(jù)國家互聯(lián)網(wǎng)信息辦公室有關負責人介紹,，該《辦法》旨在促進生成式人工智能健康發(fā)展和規(guī)范應用,，維護國家安全和社會公共利益,，保護公民、法人和其他組織的合法權(quán)益,。

統(tǒng)籌生成式人工智能發(fā)展和安全

隨著生成式人工智能技術的快速發(fā)展,，其在為經(jīng)濟社會發(fā)展帶來新機遇的同時,，也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益,、數(shù)據(jù)安全和偏見歧視等問題,。如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關注。該負責人指出,，出臺《辦法》,，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現(xiàn)實需要,。

《辦法》涵蓋了技術發(fā)展與治理,、服務規(guī)范、監(jiān)督檢查和法律責任等方面,，共計五章24條,。

據(jù)介紹，《辦法》中所稱生成式人工智能技術,，是指具有文本,、圖片、音頻,、視頻等內(nèi)容生成能力的模型及相關技術,。生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織,、個人,。生成式人工智能服務使用者，是指使用生成式人工智能服務生成內(nèi)容的組織,、個人,。

據(jù)該負責人介紹，利用生成式人工智能技術向中華人民共和國境內(nèi)公眾提供生成文本,、圖片,、音頻、視頻等內(nèi)容的服務,，適用該《辦法》,。國家對利用生成式人工智能服務從事新聞出版、影視制作,、文藝創(chuàng)作等活動另有規(guī)定的,，從其規(guī)定,。行業(yè)組織,、企業(yè)、教育和科研機構(gòu)等研發(fā),、應用生成式人工智能技術,，未向境內(nèi)公眾提供生成式人工智能服務的,，不適用《辦法》。

《辦法》提出,，國家堅持發(fā)展和安全并重,、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管,。

鼓勵生成式人工智能創(chuàng)新發(fā)展

《辦法》明確，國家鼓勵生成式人工智能技術在各行業(yè),、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容,，探索優(yōu)化應用場景,，構(gòu)建應用生態(tài)體系。

據(jù)該負責人介紹,，針對生成式人工智能服務,，《辦法》在促進生成式人工智能健康發(fā)展方面有不同考慮：

在監(jiān)管方式上，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管,，要求國家有關主管部門針對生成式人工智能技術特點及其在有關行業(yè)和領域的服務應用,，完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，制定相應的分類分級監(jiān)管規(guī)則或者指引,。

在促進發(fā)展具體措施上,，明確鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景,，構(gòu)建應用生態(tài)體系,。

同時，支持行業(yè)組織,、企業(yè),、教育和科研機構(gòu)、公共文化機構(gòu),、有關專業(yè)機構(gòu)等在生成式人工智能技術創(chuàng)新,、數(shù)據(jù)資源建設、轉(zhuǎn)化應用,、風險防范等方面開展協(xié)作,。

此外，鼓勵生成式人工智能算法,、框架,、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新,，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定,。推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設,。促進算力資源協(xié)同共享，提升算力資源利用效能,。推動公共數(shù)據(jù)分類分級有序開放,，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源。鼓勵采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。

提供和使用生成式人工智能服務須依法依規(guī)

《辦法》明確,，提供和使用生成式人工智能服務，應當遵守法律,、行政法規(guī),，尊重社會公德和倫理道德。

首先,，在算法設計,、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務等過程中,，要采取有效措施防止產(chǎn)生民族、信仰,、國別,、地域、性別,、年齡,、職業(yè)、健康等歧視,。

其次,，尊重知識產(chǎn)權(quán)、商業(yè)道德,，保守商業(yè)秘密,，不得利用算法、數(shù)據(jù),、平臺等優(yōu)勢,，實施壟斷和不正當競爭行為。

再次，尊重他人合法權(quán)益,，不得危害他人身心健康，不得侵害他人肖像權(quán),、名譽權(quán),、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益,。

最后,，基于服務類型特點，采取有效措施,，提升生成式人工智能服務的透明度,，提高生成內(nèi)容的準確性和可靠性。

《辦法》明確,，生成式人工智能服務提供者應當依法開展預訓練,、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎模型,；涉及知識產(chǎn)權(quán)的,，不得侵害他人依法享有的知識產(chǎn)權(quán)。涉及個人信息的,，應當取得個人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓練數(shù)據(jù)質(zhì)量,，增強訓練數(shù)據(jù)的真實性,、準確性、客觀性,、多樣性,。此外，明確了數(shù)據(jù)標注的相關要求,。

值得一提的是,，在生成式人工智能服務規(guī)范方面，《辦法》要求,，要采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務,。

例如，提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片,、視頻等生成內(nèi)容進行標識,；發(fā)現(xiàn)違法內(nèi)容的，應當及時采取停止生成,、停止傳輸,、消除等處置措施并采取模型優(yōu)化訓練等措施進行整改；發(fā)現(xiàn)使用者利用生成式人工智能服務從事違法活動的,，應當依法依約采取有關處置措施,，保存有關記錄,，并向有關主管部門報告。

該負責人強調(diào),，《辦法》規(guī)定,，提供者應當建立健全投訴、舉報機制,，設置便捷的投訴,、舉報入口，公布處理流程和反饋時限,，及時受理,、處理公眾投訴舉報并反饋處理結(jié)果。使用者若發(fā)現(xiàn)生成式人工智能服務不符合法律,、行政法規(guī)和《辦法》規(guī)定,，有權(quán)向有關主管部門投訴、舉報,。（記者 張亞雄）

來源：光明日報