人民網(wǎng)北京4月11日電 （記者申佳平）據(jù)國家互聯(lián)網(wǎng)信息辦公室官網(wǎng)消息，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī),，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）,，其中提出生成式人工智能產(chǎn)品提供服務(wù)前需申報(bào)安全評(píng)估,。

生成式人工智能，是指基于算法,、模型,、規(guī)則生成文本、圖片,、聲音,、視頻、代碼等內(nèi)容的技術(shù),?！墩髑笠庖姼濉芬螅蒙墒饺斯ぶ悄墚a(chǎn)品向公眾提供服務(wù)前,，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國家網(wǎng)信部門申報(bào)安全評(píng)估,，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù),。

《征求意見稿》指出,，國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新,、推廣應(yīng)用,、國際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件,、工具,、計(jì)算和數(shù)據(jù)資源。

提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求,，尊重社會(huì)公德,、公序良俗，符合以下五方面要求。

一是利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀,，不得含有顛覆國家政權(quán),、推翻社會(huì)主義制度，煽動(dòng)分裂國家,、破壞國家統(tǒng)一,，宣揚(yáng)恐怖主義、極端主義,，宣揚(yáng)民族仇恨,、民族歧視，暴力,、淫穢色情信息,，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容,。

二是在算法設(shè)計(jì),、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務(wù)等過程中,，采取措施防止出現(xiàn)種族、民族,、信仰,、國別、地域,、性別,、年齡、職業(yè)等歧視,。

三是尊重知識(shí)產(chǎn)權(quán),、商業(yè)道德，不得利用算法,、數(shù)據(jù),、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競爭。

四是利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,，采取措施防止生成虛假信息,。

五是尊重他人合法利益，防止傷害他人身心健康,，損害肖像權(quán),、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán),。禁止非法獲取、披露,、利用個(gè)人信息和隱私,、商業(yè)秘密,。

此外，《征求意見稿》提出,， 提供者在提供服務(wù)過程中,，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息,，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像,，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的,，從其規(guī)定,。

提供者不得根據(jù)用戶的種族、國別,、性別等進(jìn)行帶有歧視性的內(nèi)容生成,。

附：生成式人工智能服務(wù)管理辦法（征求意見稿）

生成式人工智能服務(wù)管理辦法

（征求意見稿）

第一條 為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》等法律,、行政法規(guī),，制定本辦法。

第二條 研發(fā),、利用生成式人工智能產(chǎn)品,，面向中華人民共和國境內(nèi)公眾提供服務(wù)的，適用本辦法,。

本辦法所稱生成式人工智能,，是指基于算法、模型,、規(guī)則生成文本,、圖片、聲音,、視頻,、代碼等內(nèi)容的技術(shù)。

第三條 國家支持人工智能算法,、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新,、推廣應(yīng)用、國際合作,，鼓勵(lì)優(yōu)先采用安全可信的軟件,、工具、計(jì)算和數(shù)據(jù)資源,。

第四條 提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求,，尊重社會(huì)公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀,，不得含有顛覆國家政權(quán),、推翻社會(huì)主義制度，煽動(dòng)分裂國家,、破壞國家統(tǒng)一,，宣揚(yáng)恐怖主義、極端主義,，宣揚(yáng)民族仇恨,、民族歧視，暴力,、淫穢色情信息,，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容,。

（二）在算法設(shè)計(jì),、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務(wù)等過程中,，采取措施防止出現(xiàn)種族、民族,、信仰,、國別、地域,、性別,、年齡、職業(yè)等歧視,。

（三）尊重知識(shí)產(chǎn)權(quán),、商業(yè)道德，不得利用算法,、數(shù)據(jù),、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競爭。

（四）利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,，采取措施防止生成虛假信息,。

（五）尊重他人合法利益，防止傷害他人身心健康,，損害肖像權(quán),、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán),。禁止非法獲取,、披露,、利用個(gè)人信息和隱私、商業(yè)秘密,。

第五條 利用生成式人工智能產(chǎn)品提供聊天和文本,、圖像、聲音生成等服務(wù)的組織和個(gè)人（以下稱“提供者”）,，包括通過提供可編程接口等方式支持他人自行生成文本、圖像,、聲音等,，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；涉及個(gè)人信息的,，承擔(dān)個(gè)人信息處理者的法定責(zé)任,，履行個(gè)人信息保護(hù)義務(wù)。

第六條 利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國家網(wǎng)信部門申報(bào)安全評(píng)估,，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù),。

第七條 提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù),、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)。

用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練數(shù)據(jù),，應(yīng)滿足以下要求：

（一）符合《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)的要求；

（二）不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容,；

（三）數(shù)據(jù)包含個(gè)人信息的,，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形,；

（四）能夠保證數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性,；

（五）國家網(wǎng)信部門關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。

第八條 生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí),，提供者應(yīng)當(dāng)制定符合本辦法要求,，清晰、具體,、可操作的標(biāo)注規(guī)則,，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性,。

第九條 提供生成式人工智能服務(wù)應(yīng)當(dāng)按照《中華人民共和國網(wǎng)絡(luò)安全法》規(guī)定,，要求用戶提供真實(shí)身份信息,。

第十條 提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合,、用途,，采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容。

第十一條 提供者在提供服務(wù)過程中,，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù),。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像,，不得向他人提供用戶輸入信息,。法律法規(guī)另有規(guī)定的，從其規(guī)定,。

第十二條 提供者不得根據(jù)用戶的種族,、國別、性別等進(jìn)行帶有歧視性的內(nèi)容生成,。

第十三條 提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制,，及時(shí)處置個(gè)人關(guān)于更正、刪除,、屏蔽其個(gè)人信息的請(qǐng)求,；發(fā)現(xiàn)、知悉生成的文本,、圖片,、聲音、視頻等侵害他人肖像權(quán),、名譽(yù)權(quán),、個(gè)人隱私、商業(yè)秘密,，或者不符合本辦法要求時(shí),，應(yīng)當(dāng)采取措施，停止生成,，防止危害持續(xù),。

第十四條 提供者應(yīng)當(dāng)在生命周期內(nèi)，提供安全,、穩(wěn)健,、持續(xù)的服務(wù)，保障用戶正常使用,。

第十五條 對(duì)于運(yùn)行中發(fā)現(xiàn),、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外,，應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成,。

第十六條 提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片,、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)。

第十七條 提供者應(yīng)當(dāng)根據(jù)國家網(wǎng)信部門和有關(guān)主管部門的要求,，提供可以影響用戶信任,、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源,、規(guī)模,、類型、質(zhì)量等描述,，人工標(biāo)注規(guī)則,，人工標(biāo)注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等,。

第十八條 提供者應(yīng)當(dāng)指導(dǎo)用戶科學(xué)認(rèn)識(shí)和理性使用生成式人工智能生成的內(nèi)容，不利用生成內(nèi)容損害他人形象,、名譽(yù)以及其他合法權(quán)益,，不進(jìn)行商業(yè)炒作、不正當(dāng)營銷,。

用戶發(fā)現(xiàn)生成內(nèi)容不符合本辦法要求時(shí),，有權(quán)向網(wǎng)信部門或者有關(guān)主管部門舉報(bào)。

第十九條 提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī),，違背商業(yè)道德,、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作,、惡意發(fā)帖跟評(píng),、制造垃圾郵件、編寫惡意軟件,，實(shí)施不正當(dāng)?shù)纳虡I(yè)營銷等,，應(yīng)當(dāng)暫停或者終止服務(wù),。

第二十條 提供者違反本辦法規(guī)定的,，由網(wǎng)信部門和有關(guān)主管部門按照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰,。

法律,、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門依據(jù)職責(zé)給予警告,、通報(bào)批評(píng),，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的,，責(zé)令暫?；蛘呓K止其利用生成式人工智能提供服務(wù),，并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的,，依法給予治安管理處罰,；構(gòu)成犯罪的，依法追究刑事責(zé)任,。

第二十一條 本辦法自2023年 月 日起實(shí)施,。