北京日報客戶端 | 記者 孫奇茹

4月11日,，國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（簡稱：《征求意見稿》）公開征求意見,，提出生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估和算法備案,。

近期,，以ChatGPT為代表的生成式人工智能（AIGC）是最為熱門的革命性新技術(shù)之一,。然而,，與任何新技術(shù)一樣，AIGC同樣會帶來數(shù)據(jù)安全,、隱私風(fēng)險和算法安全等問題,。奇安信安全專家認(rèn)為，全球范圍內(nèi)發(fā)生了多起因使用ChatGPT導(dǎo)致的數(shù)據(jù)泄露事件,，各國逐步開始重視AIGC數(shù)據(jù)安全風(fēng)險的監(jiān)管審核,。《征求意見稿》的發(fā)布,，意味著國家對AIGC的監(jiān)管治理已經(jīng)提上日程,。

《征求意見稿》首先強調(diào)了安全評估和算法備案的前提性和必要性。第六條指出,，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,，應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更,、注銷備案手續(xù),。第四條還指出,，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會公德,、公序良俗,，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息,。

《征求意見稿》還強調(diào)提供者需確保數(shù)據(jù)安全和個人信息保護(hù)合規(guī),，尤其是隱私保護(hù)。文件提到,，用生成式人工智能產(chǎn)品提供聊天和文本,、圖像、聲音生成等服務(wù)的組織和個人,，涉及個人信息的,，承擔(dān)個人信息處理者的法定責(zé)任，履行個人信息保護(hù)義務(wù),。在數(shù)據(jù)安全方面,，提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé),。涉及個人信息的,，應(yīng)當(dāng)征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形等等,。

在全球范圍內(nèi),，各國都在逐步重視對于AIGC的監(jiān)管力度。美國商務(wù)部4月11日就相關(guān)問責(zé)措施正式公開征求意見,，包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過認(rèn)證程序,。而意大利、加拿大等國監(jiān)管機構(gòu)也先后宣布將關(guān)注ChatGPT及其背后公司OpenAI帶來的數(shù)據(jù)安全風(fēng)險,，并將開啟監(jiān)管調(diào)查,。

奇安信安全專家認(rèn)為，《征求意見稿》的發(fā)布以及全球范圍內(nèi)對于AIGC的監(jiān)管力度加強,，意味著數(shù)據(jù)安全和隱私保護(hù)已經(jīng)成為AIGC發(fā)展的前提和關(guān)鍵,。隨著AIGC技術(shù)的日益成熟和普及，企業(yè)應(yīng)該更加重視數(shù)據(jù)安全和隱私保護(hù)問題,。

浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任,、研究員盤和林認(rèn)為，《征求意見稿》的發(fā)布,，主要是明確了生成式人工智能先規(guī)范再發(fā)展的總基調(diào),，總體上是為了完善生成式AI的應(yīng)用環(huán)境，為生成式AI在國內(nèi)應(yīng)用創(chuàng)造條件。但從另一方面看,，當(dāng)前《征求意見稿》內(nèi)容還比較簡化,，部分條款的線條還比較粗，他建議未來需要進(jìn)一步完善意見稿內(nèi)容,，防止“一管就死,、一放就亂”的情況在生成式AI領(lǐng)域出現(xiàn)，在生成式AI的發(fā)展和安全有序推進(jìn)之間找到平衡點,。