北京日報(bào)客戶端 | 記者 孫奇茹

4月11日,，國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（簡稱：《征求意見稿》）公開征求意見，提出生成式人工智能產(chǎn)品提供服務(wù)前需申報(bào)安全評估和算法備案,。

近期,，以ChatGPT為代表的生成式人工智能（AIGC）是最為熱門的革命性新技術(shù)之一。然而,，與任何新技術(shù)一樣,，AIGC同樣會帶來數(shù)據(jù)安全、隱私風(fēng)險(xiǎn)和算法安全等問題,。奇安信安全專家認(rèn)為,，全球范圍內(nèi)發(fā)生了多起因使用ChatGPT導(dǎo)致的數(shù)據(jù)泄露事件，各國逐步開始重視AIGC數(shù)據(jù)安全風(fēng)險(xiǎn)的監(jiān)管審核,?！墩髑笠庖姼濉返陌l(fā)布，意味著國家對AIGC的監(jiān)管治理已經(jīng)提上日程,。

《征求意見稿》首先強(qiáng)調(diào)了安全評估和算法備案的前提性和必要性,。第六條指出，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,，應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報(bào)安全評估,，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù),。第四條還指出,，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求,，尊重社會公德、公序良俗,，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,，采取措施防止生成虛假信息。

《征求意見稿》還強(qiáng)調(diào)提供者需確保數(shù)據(jù)安全和個(gè)人信息保護(hù)合規(guī),，尤其是隱私保護(hù),。文件提到，用生成式人工智能產(chǎn)品提供聊天和文本,、圖像,、聲音生成等服務(wù)的組織和個(gè)人，涉及個(gè)人信息的,，承擔(dān)個(gè)人信息處理者的法定責(zé)任,，履行個(gè)人信息保護(hù)義務(wù)。在數(shù)據(jù)安全方面,，提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù),、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)。涉及個(gè)人信息的,，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律,、行政法規(guī)規(guī)定的其他情形等等。

在全球范圍內(nèi),，各國都在逐步重視對于AIGC的監(jiān)管力度,。美國商務(wù)部4月11日就相關(guān)問責(zé)措施正式公開征求意見，包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過認(rèn)證程序,。而意大利,、加拿大等國監(jiān)管機(jī)構(gòu)也先后宣布將關(guān)注ChatGPT及其背后公司OpenAI帶來的數(shù)據(jù)安全風(fēng)險(xiǎn)，并將開啟監(jiān)管調(diào)查,。

奇安信安全專家認(rèn)為,，《征求意見稿》的發(fā)布以及全球范圍內(nèi)對于AIGC的監(jiān)管力度加強(qiáng)，意味著數(shù)據(jù)安全和隱私保護(hù)已經(jīng)成為AIGC發(fā)展的前提和關(guān)鍵,。隨著AIGC技術(shù)的日益成熟和普及,，企業(yè)應(yīng)該更加重視數(shù)據(jù)安全和隱私保護(hù)問題。

浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任,、研究員盤和林認(rèn)為,，《征求意見稿》的發(fā)布，主要是明確了生成式人工智能先規(guī)范再發(fā)展的總基調(diào),，總體上是為了完善生成式AI的應(yīng)用環(huán)境,，為生成式AI在國內(nèi)應(yīng)用創(chuàng)造條件,。但從另一方面看,，當(dāng)前《征求意見稿》內(nèi)容還比較簡化,，部分條款的線條還比較粗，他建議未來需要進(jìn)一步完善意見稿內(nèi)容,，防止“一管就死,、一放就亂”的情況在生成式AI領(lǐng)域出現(xiàn)，在生成式AI的發(fā)展和安全有序推進(jìn)之間找到平衡點(diǎn),。