本報(bào)記者 曲忠芳 李正豪 北京報(bào)道

生成式AI持續(xù)火熱發(fā)展的同時(shí),，在信息安全、數(shù)據(jù)合規(guī),、版權(quán)保護(hù)等方面也引發(fā)了社會(huì)的關(guān)注與熱議。為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用,，4月11日,，國(guó)家互聯(lián)網(wǎng)信息辦公室（以下簡(jiǎn)稱“網(wǎng)信辦”）起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《辦法》）,，并向社會(huì)公開(kāi)征求意見(jiàn)，意見(jiàn)反饋的截止時(shí)間為5月10日,。

《中國(guó)經(jīng)營(yíng)報(bào)》記者注意到,，《辦法》共二十一條，明確了生成式AI應(yīng)遵循的合規(guī)要求,。簡(jiǎn)要概括來(lái)說(shuō)：第一,，《辦法》劃定了適用范圍,、對(duì)生成式AI給出了權(quán)威解釋,，鼓勵(lì)行業(yè)開(kāi)展基礎(chǔ)技術(shù)自主創(chuàng)新、國(guó)際合作,；第二是明確了權(quán)責(zé)劃分和責(zé)任主體,，重點(diǎn)強(qiáng)化了個(gè)人信息保護(hù)的相關(guān)要求，明確個(gè)人信息處理者的法定責(zé)任和義務(wù),；第三要求生成式AI產(chǎn)品或服務(wù)建立評(píng)估備案,、實(shí)名制、投訴處理等機(jī)制,，豐富了包括人工標(biāo)注,、防沉迷、內(nèi)容標(biāo)識(shí)等管理措施,；第四則是規(guī)定了相應(yīng)的整改及處罰措施,。

“《辦法》內(nèi)容非常簡(jiǎn)潔明了，對(duì)生成式AI的一些熱點(diǎn)問(wèn)題進(jìn)行了規(guī)范,，預(yù)示著我國(guó)對(duì)于生成式AI的第一份政府文件或?qū)⒊鰻t,，在監(jiān)管規(guī)范方面,，我國(guó)走在了全球的前列?！闭憬髮W(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任,、研究員盤和林如是評(píng)價(jià)。

上海申倫律師事務(wù)所律師夏海龍指出,，類似《辦法》類監(jiān)管文件的性質(zhì)屬于“部門規(guī)章”,，根據(jù)相關(guān)規(guī)定，規(guī)章出臺(tái)一般要經(jīng)過(guò)立項(xiàng),、起草,、審查、決定,、公布等幾個(gè)程序,，在起草和審查階段，往往需要向社會(huì)公開(kāi)征求意見(jiàn),。

與此同時(shí),，本報(bào)記者從多位企業(yè)內(nèi)部人士了解到，生成式AI產(chǎn)品服務(wù)提供商已關(guān)注到《辦法》的公布,，尤其是著重研究提供者對(duì)于生成式AI承擔(dān)的責(zé)任義務(wù)方面,。業(yè)內(nèi)人士普遍認(rèn)為，監(jiān)管層面對(duì)生成工AI進(jìn)行規(guī)范,，將進(jìn)一步抬高企業(yè)安全合規(guī)的門檻,，增加相關(guān)成本。

監(jiān)管風(fēng)向：技術(shù)發(fā)展與安全合規(guī)同步推動(dòng)

記者注意到,，近半個(gè)月以來(lái),，就ChatGPT引發(fā)的生成式AI熱潮，全球多個(gè)國(guó)家的監(jiān)管部門公開(kāi)發(fā)聲或表態(tài),，對(duì)其帶來(lái)的數(shù)據(jù)安全等風(fēng)險(xiǎn)密切關(guān)注,，并實(shí)施或者醞釀監(jiān)管舉措。就在3月31日,，意大利數(shù)據(jù)保護(hù)局宣布暫時(shí)禁用ChatGPT并對(duì)該工具涉嫌違反隱私規(guī)則展開(kāi)調(diào)查,。不久，德國(guó),、西班牙等國(guó)的數(shù)據(jù)保護(hù)機(jī)構(gòu)表態(tài)“不排除暫停ChatGPT使用的可能”,。4月4日，加拿大隱私專員辦公室宣布針對(duì)一項(xiàng)“未經(jīng)同意收集,、使用和披露個(gè)人信息”的投訴,，開(kāi)始對(duì)研發(fā)ChatGPT的OpenAI公司展開(kāi)調(diào)查。4月11日,，據(jù)《華爾街日?qǐng)?bào)》報(bào)道,，美國(guó)政府已經(jīng)開(kāi)始研究是否需要對(duì)ChatGPT等AI工具進(jìn)行檢查,。

夏海龍指出，從《辦法》內(nèi)容來(lái)看,，目前網(wǎng)信辦的監(jiān)管路徑相對(duì)比較清晰,，即以《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》三部網(wǎng)絡(luò)監(jiān)管“基本法”為核心依據(jù)，嚴(yán)格要求生成式AI技術(shù)提供者在網(wǎng)絡(luò)安全,、內(nèi)容合規(guī)和個(gè)人信息保護(hù)方面的責(zé)任,，反對(duì)技術(shù)濫用。

《辦法》中第三條表示,，“國(guó)家支持人工智能算法,、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用,、國(guó)際合作,，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具,、計(jì)算和數(shù)據(jù)資源,。”在明確生成式AI產(chǎn)品服務(wù)提供者的責(zé)任和義務(wù)方面,，值得注意的是,，《辦法》強(qiáng)化了對(duì)個(gè)人信息保護(hù)的要求，比如第四條提到,，“禁止非法獲取,、披露、利用個(gè)人信息和隱私,、商業(yè)秘密”,；第七條指出，“用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練數(shù)據(jù)”,，應(yīng)滿足“數(shù)據(jù)包含個(gè)人信息的,，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律,、行政法規(guī)規(guī)定的其他情形”；第十一條明確“提供者在提供服務(wù)過(guò)程中,，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù),。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫(huà)像,，不得向他人提供用戶輸入信息,。”第十三條指出,，“提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制,，及時(shí)處置個(gè)人關(guān)于更正,、刪除、屏蔽其個(gè)人信息的請(qǐng)求,?！?/p>

上海人工智能研究院副總工程師沈?yàn)J(rèn)為，《辦法》體現(xiàn)了監(jiān)管部門對(duì)生成式AI的一個(gè)有限范圍的小心求證過(guò)程,，保障在還不清楚生成式AI的各種可能性之前,，各方安全可控地進(jìn)行研發(fā)。

對(duì)企業(yè)影響：安全合規(guī)成本增加

最近一個(gè)月,，包括百度,、360、阿里巴巴,、商湯科技,、華為、科大訊飛等一眾科技企業(yè)紛紛展示或即將推出AI大模型及相關(guān)應(yīng)用產(chǎn)品,，圍繞生成式AI的創(chuàng)業(yè)熱潮洶涌,，國(guó)產(chǎn)AI大模型混戰(zhàn)開(kāi)啟。

一位AI領(lǐng)域資深專家告訴記者,，《辦法》將主要從三個(gè)方面對(duì)相關(guān)企業(yè)產(chǎn)生影響,，加大安全合規(guī)的成本。首先,，其第七條要求“提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù),、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)”，那么企業(yè)預(yù)訓(xùn)練的數(shù)據(jù)來(lái)源要合規(guī),、不能侵犯知識(shí)產(chǎn)權(quán)等,，保證數(shù)據(jù)真實(shí)性、準(zhǔn)確性等,，顯然是增大了企業(yè)的數(shù)據(jù)獲取篩選成本,；第二，提供生成式AI產(chǎn)品或服務(wù)應(yīng)遵守法律法規(guī),、尊重社會(huì)公德公序良俗,，在訓(xùn)練時(shí)要解決“人機(jī)對(duì)齊”問(wèn)題，安全評(píng)估如果不通過(guò)需要在三個(gè)月內(nèi)整改,，對(duì)企業(yè)來(lái)說(shuō)合規(guī)的壓力加大,； 第三，企業(yè)還需要制定人工標(biāo)注規(guī)則,、對(duì)標(biāo)注人員進(jìn)行培訓(xùn)等,，接受抽樣檢驗(yàn)、申報(bào)安全評(píng)估及備案等，以及第二十條規(guī)定的處罰措施,，如“拒不改正或情節(jié)嚴(yán)重的,，責(zé)令暫停或終止,，并處以一萬(wàn)元以上十萬(wàn)元以下罰款”等,，都會(huì)增大企業(yè)的安全合規(guī)壓力及成本。

夏海龍則指出,，《辦法》內(nèi)容最值得企業(yè)關(guān)注,、或許也最容易引起業(yè)界爭(zhēng)議的是第五條，該條規(guī)定生成式人工智能產(chǎn)品提供者需要對(duì)其產(chǎn)品生成內(nèi)容承擔(dān)內(nèi)容生產(chǎn)者責(zé)任,，這一規(guī)定背后的邏輯似乎認(rèn)為生成式人工智能產(chǎn)品生成的內(nèi)容完全由其開(kāi)發(fā)者,、設(shè)計(jì)者決定，顯然這一理解與目前業(yè)界普遍看法或期待存在一定的差異,，目前關(guān)于生成式AI是否具有著作權(quán)以及著作權(quán)歸屬,、生成式人工智能對(duì)人類職業(yè)的沖擊等社會(huì)討論逐漸活躍，尚無(wú)定論,，還需要進(jìn)一步探討研究,。所以，如何在規(guī)范保障網(wǎng)絡(luò)信息安全的同時(shí),，鼓勵(lì)推動(dòng)相關(guān)產(chǎn)業(yè)發(fā)展,、發(fā)揮新技術(shù)的商業(yè)及社會(huì)價(jià)值，還需要監(jiān)管方面進(jìn)一步探討與平衡,。

在盤和林看來(lái),，《辦法》目前還處在征求意見(jiàn)階段，未來(lái)必然還會(huì)有相應(yīng)的調(diào)整,。其部分內(nèi)容還需要進(jìn)一步細(xì)分優(yōu)化,，如AI生成內(nèi)容真實(shí)準(zhǔn)確性如何界定、AI算法安全評(píng)估標(biāo)準(zhǔn)如何制定等,。他認(rèn)為“先規(guī)范,、再發(fā)展是正確的思路”，在給AI發(fā)展戴上“緊箍”同時(shí)要盡可能地將紅線劃細(xì),，“紅線越細(xì),，企業(yè)發(fā)展的空間才會(huì)越大”。當(dāng)前,，國(guó)內(nèi)還沒(méi)有生成式AI產(chǎn)品面向公眾真正開(kāi)放,，因此在規(guī)范的同時(shí),，建議采用適當(dāng)舉措鼓勵(lì)產(chǎn)業(yè)發(fā)展,。從經(jīng)濟(jì)學(xué)角度，要警惕出現(xiàn)兩種情況,，一是正規(guī)的生成式AI廠商不敢投入研發(fā)——擔(dān)憂研發(fā)后遇到風(fēng)險(xiǎn),，二是非正規(guī)產(chǎn)品或趁機(jī)占據(jù)市場(chǎng)需求的空白,。因此，建議監(jiān)管部門在未來(lái)持續(xù)完善相關(guān)的法律法規(guī),，豐富管理措施,。