7月13日,，國家網(wǎng)信辦等七部門聯(lián)合對外發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），在促進生成式人工智能發(fā)展的同時,，對傳播虛假信息、侵害個人信息權(quán)益,、數(shù)據(jù)安全和偏見歧視等問題作出回應(yīng)。

近年來,，生成式人工智能技術(shù)快速發(fā)展,，為經(jīng)濟社會發(fā)展帶來新的機遇，也產(chǎn)生了諸多問題,?？偟膩砜矗掇k法》對提供和使用生成式人工智能服務(wù)作出規(guī)范,，鼓勵其創(chuàng)新發(fā)展,，同時實行包容審慎和分類分級監(jiān)管?！掇k法》自2023年8月15日起施行,。

文本、圖片,、音頻,、視頻等均被納入規(guī)定范圍

《辦法》將利用生成式人工智能技術(shù)向境內(nèi)公眾提供生成文本、圖片,、音頻,、視頻等內(nèi)容的服務(wù)，納入規(guī)定范圍,，統(tǒng)稱為生成式人工智能服務(wù),，并提出五點總體要求。

其中提到,，不得生成煽動顛覆國家政權(quán),、推翻社會主義制度，危害國家安全和利益,、損害國家形象,，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定,，宣揚恐怖主義,、極端主義，宣揚民族仇恨,、民族歧視,，暴力、淫穢色情，以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容,。

此外還包括，不得利用算法,、數(shù)據(jù),、平臺等優(yōu)勢，實施壟斷和不正當(dāng)競爭行為,；不得侵害他人肖像權(quán),、名譽權(quán)、榮譽權(quán),、隱私權(quán)和個人信息權(quán)益,；防止產(chǎn)生民族、信仰,、國別,、地域、性別,、年齡,、職業(yè)、健康等歧視,；提升生成式人工智能服務(wù)的透明度,，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

明確服務(wù)提供者與使用者權(quán)責(zé),，要求對未成年人“防沉迷”

在生成式人工智能服務(wù)的兩端,，分別是服務(wù)的提供者和使用者,。《辦法》要求,，提供者應(yīng)當(dāng)與使用者簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù),。

比如,，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合,、用途,，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用生成式人工智能技術(shù),，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),。

提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當(dāng)依法依約采取警示,、限制功能,、暫停或者終止向其提供服務(wù)等處置措施,，保存有關(guān)記錄,，并向有關(guān)主管部門報告。同時,，對違法內(nèi)容應(yīng)當(dāng)及時采取停止生成,、停止傳輸、消除等處置措施,。

使用個人信息進行數(shù)據(jù)訓(xùn)練,，應(yīng)取得個人同意

《辦法》全文多處提及個人信息保護問題，要求服務(wù)提供者使用個人信息進行數(shù)據(jù)訓(xùn)練時,，需要取得個人同意,；提供服務(wù)時，依法保護使用者的輸入信息和使用記錄,，不得收集非必要個人信息等,。

具體包括，規(guī)定提供者在開展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動時,，涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形,。

在提供服務(wù)過程中,，提供者要履行個人信息保護義務(wù)。不得收集非必要個人信息,，不得非法留存能夠識別使用者身份的輸入信息和使用記錄,，不得非法向他人提供使用者的輸入信息和使用記錄。此外,，提供者應(yīng)當(dāng)依法及時受理和處理個人關(guān)于查閱,、復(fù)制、更正,、補充,、刪除其個人信息等的請求。

在監(jiān)督檢查環(huán)節(jié),，《辦法》還規(guī)定,，參與安全評估和監(jiān)督檢查的相關(guān)機構(gòu)和人員對在履行職責(zé)中知悉的國家秘密、商業(yè)秘密,、個人隱私和個人信息應(yīng)當(dāng)保密,，不得泄露或者非法向他人提供。

新京報記者 姜慧梓

編輯 劉夢婕 校對 李立軍