國(guó)家互聯(lián)網(wǎng)信息辦公室近日聯(lián)合國(guó)家發(fā)展改革委、教育部,、科技部,、工業(yè)和信息化部、公安部,、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）,，自2023年8月15日起施行。

據(jù)國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人介紹,，該《辦法》旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益,，保護(hù)公民,、法人和其他組織的合法權(quán)益。

統(tǒng)籌生成式人工智能發(fā)展和安全

隨著生成式人工智能技術(shù)的快速發(fā)展,，其在為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí),，也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題,。如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注。該負(fù)責(zé)人指出,，出臺(tái)《辦法》,，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要,。

《辦法》涵蓋了技術(shù)發(fā)展與治理,、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任等方面,，共計(jì)五章24條,。

據(jù)介紹，《辦法》中所稱生成式人工智能技術(shù),，是指具有文本,、圖片、音頻,、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù),。生成式人工智能服務(wù)提供者，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過(guò)提供可編程接口等方式提供生成式人工智能服務(wù)）的組織,、個(gè)人,。生成式人工智能服務(wù)使用者,，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織、個(gè)人,。

據(jù)該負(fù)責(zé)人介紹,，利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片,、音頻,、視頻等內(nèi)容的服務(wù)，適用該《辦法》,。國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版,、影視制作、文藝創(chuàng)作等活動(dòng)另有規(guī)定的,，從其規(guī)定,。行業(yè)組織、企業(yè),、教育和科研機(jī)構(gòu)等研發(fā),、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的,，不適用《辦法》,。

《辦法》提出，國(guó)家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。

鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展

《辦法》明確,，國(guó)家鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景,，構(gòu)建應(yīng)用生態(tài)體系,。

據(jù)該負(fù)責(zé)人介紹，針對(duì)生成式人工智能服務(wù),，《辦法》在促進(jìn)生成式人工智能健康發(fā)展方面有不同考慮：

在監(jiān)管方式上,，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，要求國(guó)家有關(guān)主管部門針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用,，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引,。

在促進(jìn)發(fā)展具體措施上,，明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容,，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系,。

同時(shí),，支持行業(yè)組織、企業(yè),、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作,。

此外,，鼓勵(lì)生成式人工智能算法、框架,、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,，平等互利開(kāi)展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定,。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能,。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。

提供和使用生成式人工智能服務(wù)須依法依規(guī)

《辦法》明確,，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律,、行政法規(guī),，尊重社會(huì)公德和倫理道德。

首先,，在算法設(shè)計(jì),、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務(wù)等過(guò)程中,，要采取有效措施防止產(chǎn)生民族,、信仰、國(guó)別,、地域,、性別、年齡,、職業(yè),、健康等歧視。

其次,，尊重知識(shí)產(chǎn)權(quán),、商業(yè)道德，保守商業(yè)秘密,，不得利用算法,、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì),，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為,。

再次，尊重他人合法權(quán)益,，不得危害他人身心健康,，不得侵害他人肖像權(quán)、名譽(yù)權(quán),、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益。

最后,，基于服務(wù)類型特點(diǎn),，采取有效措施，提升生成式人工智能服務(wù)的透明度,，提高生成內(nèi)容的準(zhǔn)確性和可靠性,。

《辦法》明確，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),，使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的,，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán),。涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形,；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性,、客觀性,、多樣性,。此外,，明確了數(shù)據(jù)標(biāo)注的相關(guān)要求。

值得一提的是,，在生成式人工智能服務(wù)規(guī)范方面,，《辦法》要求，要采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù),。

例如,，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí),；發(fā)現(xiàn)違法內(nèi)容的,，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸,、消除等處置措施并采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,；發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取有關(guān)處置措施,，保存有關(guān)記錄,，并向有關(guān)主管部門報(bào)告。

該負(fù)責(zé)人強(qiáng)調(diào),，《辦法》規(guī)定,，提供者應(yīng)當(dāng)建立健全投訴、舉報(bào)機(jī)制,，設(shè)置便捷的投訴,、舉報(bào)入口，公布處理流程和反饋時(shí)限,，及時(shí)受理,、處理公眾投訴舉報(bào)并反饋處理結(jié)果。使用者若發(fā)現(xiàn)生成式人工智能服務(wù)不符合法律,、行政法規(guī)和《辦法》規(guī)定,，有權(quán)向有關(guān)主管部門投訴、舉報(bào),。

（光明日?qǐng)?bào)北京7月13日電 記者 張亞雄）

來(lái)源：光明網(wǎng)-《光明日?qǐng)?bào)》