《生成式人工智能服務(wù)管理暫行辦法》發(fā)布

促進(jìn)產(chǎn)業(yè)健康發(fā)展和規(guī)范應(yīng)用

近日，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部,、科技部,、工業(yè)和信息化部、公安部,、廣電總局公布了《生成式人工智能服務(wù)管理暫行辦法》（以下稱《辦法》）,，該《辦法》自2023年8月15日起施行,。

國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)《辦法》,，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民,、法人和其他組織的合法權(quán)益,。

ChatGPT這一現(xiàn)象級(jí)的產(chǎn)品“騰空出世”，在國(guó)內(nèi)外掀起了一場(chǎng)大語(yǔ)言模型產(chǎn)業(yè)和生成式人工智能產(chǎn)業(yè)的熱潮,。然而,，熱潮背后，通過生成式人工智能偽造內(nèi)容導(dǎo)致的詐騙事件也屢有發(fā)生,?！?span id="a6otyhj" class="wpcom_tag_link">AI詐騙成功率接近100%”的話題甚至一度沖上熱搜，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙,、誹謗的違法行為引起社會(huì)關(guān)注,。

“作為今年最熱門的新技術(shù)，生成式人工智能給社會(huì)生產(chǎn)生活帶來了很多便利,，但也給數(shù)據(jù)安全,、隱私保護(hù)帶來更加復(fù)雜的風(fēng)險(xiǎn)和挑戰(zhàn),。”奇安信集團(tuán)副總裁張卓在接受記者采訪時(shí)表示,。

據(jù)悉,，《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,，明確了提供和使用生成式人工智能服務(wù)總體要求,。張卓認(rèn)為，促進(jìn)發(fā)展和防范風(fēng)險(xiǎn)需要兩者并重,，從《辦法》中可以看出,，數(shù)據(jù)安全和隱私保護(hù)貫穿于生成式人工智能數(shù)據(jù)的標(biāo)注、模型預(yù)訓(xùn)練,、模型訓(xùn)練,、提供服務(wù)等各個(gè)環(huán)節(jié)，避免了監(jiān)管盲區(qū)導(dǎo)致的安全風(fēng)險(xiǎn),。

在張卓看來,，《辦法》從源頭層面對(duì)數(shù)據(jù)標(biāo)注提出了明確規(guī)范。所謂數(shù)據(jù)標(biāo)注,，指的是對(duì)未經(jīng)處理的語(yǔ)音,、圖片、文本,、視頻等原始數(shù)據(jù)進(jìn)行加工處理,，使其成為結(jié)構(gòu)化數(shù)據(jù)讓機(jī)器可識(shí)別的過程。因此,，它決定著生成式人工智能最底層“原材料”的安全屬性,。《辦法》第八條要求,，在生成式人工智能技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注的,，生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當(dāng)制定符合本辦法要求的清晰、具體,、可操作的標(biāo)注規(guī)則,；開展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性,；對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn),，提升尊法守法意識(shí)，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開展標(biāo)注工作,。

張卓表示,，《辦法》從數(shù)據(jù)訓(xùn)練處理環(huán)節(jié),，明確并細(xì)化了監(jiān)管要求?！掇k法》第七條指出,，提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),，遵守以下規(guī)定：使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán),；涉及個(gè)人信息的,，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形,；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性,、客觀性,、多樣性；遵守《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等相關(guān)法律,、行政法規(guī)以及相關(guān)監(jiān)管要求,。

“《辦法》從數(shù)據(jù)服務(wù)和使用環(huán)節(jié)形成了監(jiān)管閉環(huán)，避免了安全盲區(qū),?！掇k法》在第三章‘服務(wù)規(guī)范’第九條中指出，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,，履行網(wǎng)絡(luò)信息安全義務(wù),。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任,，履行個(gè)人信息保護(hù)義務(wù),。第十一條指出，提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù),，不得收集非必要個(gè)人信息,。第十二條提出，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片,、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí),。所有這些措施，都充分考慮到了生成式人工智能的使用服務(wù)場(chǎng)景,，尤其是面向公眾的場(chǎng)景,。”張卓說道,。

“今年上半年以來,，世界各國(guó)出臺(tái)了一系列政策,，最新的政策就是我國(guó)發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》，我覺得這是相輔相成的,。人工智能的發(fā)展和人工智能風(fēng)險(xiǎn)的管控要同時(shí)重視,，我們才可能迎來光明的未來?！北本┲窃慈斯ぶ悄苎芯吭涸洪L(zhǎng),、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍表示。

除了大眾普遍關(guān)心的數(shù)據(jù)安全,、隱私保護(hù)等問題,，《辦法》也為生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用提供了方向,。在中國(guó)政法大學(xué)法理學(xué)教授鄭玉雙看來,，此次政策出臺(tái)非常積極?！掇k法》明確

指出“鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用”“對(duì)生成式人工智能服務(wù)實(shí)行分類分級(jí)監(jiān)管”,，這意味著百度,、華為這類深耕行業(yè)、面向B端的大模型會(huì)被批給企業(yè)提供服務(wù),。

鄭玉雙分析稱,，讓企業(yè)盡快用上用好大模型、促進(jìn)數(shù)實(shí)融合,，將成為《辦法》出臺(tái)的核心目標(biāo)之一,。“大模型正在進(jìn)入產(chǎn)業(yè)落地期,，根據(jù)百度,、華為等企業(yè)近期密集發(fā)聲的情況來看，企業(yè)應(yīng)用大模型主要有三種方式,。第一種是構(gòu)建基礎(chǔ)大模型,，只有少數(shù)企業(yè)會(huì)自建大模型，因?yàn)橛?xùn)練大模型的成本和技術(shù)壁壘都非常高,。第二種是建立行業(yè)大模型,，通常是了解行業(yè)know-how（專門知識(shí)、技能）的企業(yè),，結(jié)合自身掌握的行業(yè)數(shù)據(jù),，用基礎(chǔ)大模型精調(diào)出更貼合實(shí)際場(chǎng)景的行業(yè)大模型。第三種是在基礎(chǔ)大模型和行業(yè)大模型之上,，開發(fā)AI應(yīng)用,，他們要思考的是如何在這個(gè)大模型之上做好提示詞工程,，解決特定應(yīng)用場(chǎng)景的問題，如何從模型效果,、迭代速度,、工具鏈這三大方面去選擇一個(gè)好的大模型?！编嵱耠p說,。

文 | 本報(bào)記者 王洋