《生成式人工智能服務(wù)管理暫行辦法》發(fā)布

促進(jìn)產(chǎn)業(yè)健康發(fā)展和規(guī)范應(yīng)用

近日,，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部,、工業(yè)和信息化部,、公安部,、廣電總局公布了《生成式人工智能服務(wù)管理暫行辦法》（以下稱《辦法》），該《辦法》自2023年8月15日起施行,。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,，出臺《辦法》，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護(hù)國家安全和社會公共利益,，保護(hù)公民、法人和其他組織的合法權(quán)益,。

ChatGPT這一現(xiàn)象級的產(chǎn)品“騰空出世”,，在國內(nèi)外掀起了一場大語言模型產(chǎn)業(yè)和生成式人工智能產(chǎn)業(yè)的熱潮。然而,，熱潮背后,，通過生成式人工智能偽造內(nèi)容導(dǎo)致的詐騙事件也屢有發(fā)生?！?span id="a6otyhj" class="wpcom_tag_link">AI詐騙成功率接近100%”的話題甚至一度沖上熱搜,，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為引起社會關(guān)注,。

“作為今年最熱門的新技術(shù),，生成式人工智能給社會生產(chǎn)生活帶來了很多便利，但也給數(shù)據(jù)安全,、隱私保護(hù)帶來更加復(fù)雜的風(fēng)險和挑戰(zhàn),。”奇安信集團(tuán)副總裁張卓在接受記者采訪時表示,。

據(jù)悉,，《辦法》提出國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務(wù)總體要求,。張卓認(rèn)為,，促進(jìn)發(fā)展和防范風(fēng)險需要兩者并重,，從《辦法》中可以看出，數(shù)據(jù)安全和隱私保護(hù)貫穿于生成式人工智能數(shù)據(jù)的標(biāo)注,、模型預(yù)訓(xùn)練,、模型訓(xùn)練、提供服務(wù)等各個環(huán)節(jié),，避免了監(jiān)管盲區(qū)導(dǎo)致的安全風(fēng)險。

在張卓看來,，《辦法》從源頭層面對數(shù)據(jù)標(biāo)注提出了明確規(guī)范,。所謂數(shù)據(jù)標(biāo)注，指的是對未經(jīng)處理的語音,、圖片,、文本、視頻等原始數(shù)據(jù)進(jìn)行加工處理,，使其成為結(jié)構(gòu)化數(shù)據(jù)讓機(jī)器可識別的過程,。因此，它決定著生成式人工智能最底層“原材料”的安全屬性,?！掇k法》第八條要求，在生成式人工智能技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注的,，生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當(dāng)制定符合本辦法要求的清晰,、具體、可操作的標(biāo)注規(guī)則,；開展數(shù)據(jù)標(biāo)注質(zhì)量評估,，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性；對標(biāo)注人員進(jìn)行必要培訓(xùn),，提升尊法守法意識,，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開展標(biāo)注工作。

張卓表示,，《辦法》從數(shù)據(jù)訓(xùn)練處理環(huán)節(jié),，明確并細(xì)化了監(jiān)管要求?！掇k法》第七條指出,，提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動,，遵守以下規(guī)定：使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,；涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán),；涉及個人信息的,，應(yīng)當(dāng)取得個人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性,；遵守《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》等相關(guān)法律、行政法規(guī)以及相關(guān)監(jiān)管要求,。

“《辦法》從數(shù)據(jù)服務(wù)和使用環(huán)節(jié)形成了監(jiān)管閉環(huán),，避免了安全盲區(qū)?！掇k法》在第三章‘服務(wù)規(guī)范’第九條中指出,，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù),。涉及個人信息的,，依法承擔(dān)個人信息處理者責(zé)任，履行個人信息保護(hù)義務(wù),。第十一條指出,，提供者對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個人信息,。第十二條提出,，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識,。所有這些措施,，都充分考慮到了生成式人工智能的使用服務(wù)場景，尤其是面向公眾的場景,?！睆堊空f道。

“今年上半年以來,，世界各國出臺了一系列政策,，最新的政策就是我國發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》，我覺得這是相輔相成的,。人工智能的發(fā)展和人工智能風(fēng)險的管控要同時重視,，我們才可能迎來光明的未來?！北本┲窃慈斯ぶ悄苎芯吭涸洪L,、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍表示。

除了大眾普遍關(guān)心的數(shù)據(jù)安全、隱私保護(hù)等問題,，《辦法》也為生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用提供了方向。在中國政法大學(xué)法理學(xué)教授鄭玉雙看來,，此次政策出臺非常積極,。《辦法》明確

指出“鼓勵生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用”“對生成式人工智能服務(wù)實(shí)行分類分級監(jiān)管”,，這意味著百度、華為這類深耕行業(yè),、面向B端的大模型會被批給企業(yè)提供服務(wù),。

鄭玉雙分析稱，讓企業(yè)盡快用上用好大模型,、促進(jìn)數(shù)實(shí)融合，將成為《辦法》出臺的核心目標(biāo)之一,?！按竽Ｐ驼谶M(jìn)入產(chǎn)業(yè)落地期，根據(jù)百度,、華為等企業(yè)近期密集發(fā)聲的情況來看,，企業(yè)應(yīng)用大模型主要有三種方式。第一種是構(gòu)建基礎(chǔ)大模型,，只有少數(shù)企業(yè)會自建大模型,，因?yàn)橛?xùn)練大模型的成本和技術(shù)壁壘都非常高。第二種是建立行業(yè)大模型,，通常是了解行業(yè)know-how（專門知識,、技能）的企業(yè)，結(jié)合自身掌握的行業(yè)數(shù)據(jù),，用基礎(chǔ)大模型精調(diào)出更貼合實(shí)際場景的行業(yè)大模型,。第三種是在基礎(chǔ)大模型和行業(yè)大模型之上，開發(fā)AI應(yīng)用,，他們要思考的是如何在這個大模型之上做好提示詞工程,，解決特定應(yīng)用場景的問題，如何從模型效果,、迭代速度,、工具鏈這三大方面去選擇一個好的大模型?！编嵱耠p說,。

文 | 本報記者 王洋