本報記者 曲忠芳 李正豪 北京報道

生成式AI持續(xù)火熱發(fā)展的同時,，在信息安全,、數(shù)據(jù)合規(guī),、版權(quán)保護等方面也引發(fā)了社會的關(guān)注與熱議。為促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用,，4月11日，國家互聯(lián)網(wǎng)信息辦公室（以下簡稱“網(wǎng)信辦”）起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《辦法》），并向社會公開征求意見,，意見反饋的截止時間為5月10日,。

《中國經(jīng)營報》記者注意到，《辦法》共二十一條,，明確了生成式AI應(yīng)遵循的合規(guī)要求,。簡要概括來說：第一，《辦法》劃定了適用范圍,、對生成式AI給出了權(quán)威解釋,，鼓勵行業(yè)開展基礎(chǔ)技術(shù)自主創(chuàng)新、國際合作,；第二是明確了權(quán)責劃分和責任主體,，重點強化了個人信息保護的相關(guān)要求，明確個人信息處理者的法定責任和義務(wù),；第三要求生成式AI產(chǎn)品或服務(wù)建立評估備案,、實名制、投訴處理等機制,，豐富了包括人工標注,、防沉迷、內(nèi)容標識等管理措施,；第四則是規(guī)定了相應(yīng)的整改及處罰措施,。

“《辦法》內(nèi)容非常簡潔明了，對生成式AI的一些熱點問題進行了規(guī)范,，預(yù)示著我國對于生成式AI的第一份政府文件或?qū)⒊鰻t,，在監(jiān)管規(guī)范方面，我國走在了全球的前列,?！闭憬髮W國際聯(lián)合商學院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林如是評價,。

上海申倫律師事務(wù)所律師夏海龍指出,，類似《辦法》類監(jiān)管文件的性質(zhì)屬于“部門規(guī)章”,，根據(jù)相關(guān)規(guī)定，規(guī)章出臺一般要經(jīng)過立項,、起草,、審查,、決定、公布等幾個程序,，在起草和審查階段,，往往需要向社會公開征求意見。

與此同時,，本報記者從多位企業(yè)內(nèi)部人士了解到,，生成式AI產(chǎn)品服務(wù)提供商已關(guān)注到《辦法》的公布，尤其是著重研究提供者對于生成式AI承擔的責任義務(wù)方面,。業(yè)內(nèi)人士普遍認為,，監(jiān)管層面對生成工AI進行規(guī)范，將進一步抬高企業(yè)安全合規(guī)的門檻,，增加相關(guān)成本。

監(jiān)管風向：技術(shù)發(fā)展與安全合規(guī)同步推動

記者注意到,，近半個月以來,，就ChatGPT引發(fā)的生成式AI熱潮，全球多個國家的監(jiān)管部門公開發(fā)聲或表態(tài),，對其帶來的數(shù)據(jù)安全等風險密切關(guān)注,，并實施或者醞釀監(jiān)管舉措。就在3月31日,，意大利數(shù)據(jù)保護局宣布暫時禁用ChatGPT并對該工具涉嫌違反隱私規(guī)則展開調(diào)查,。不久，德國,、西班牙等國的數(shù)據(jù)保護機構(gòu)表態(tài)“不排除暫停ChatGPT使用的可能”,。4月4日，加拿大隱私專員辦公室宣布針對一項“未經(jīng)同意收集,、使用和披露個人信息”的投訴,，開始對研發(fā)ChatGPT的OpenAI公司展開調(diào)查。4月11日,，據(jù)《華爾街日報》報道,，美國政府已經(jīng)開始研究是否需要對ChatGPT等AI工具進行檢查。

夏海龍指出,，從《辦法》內(nèi)容來看,，目前網(wǎng)信辦的監(jiān)管路徑相對比較清晰，即以《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個人信息保護法》三部網(wǎng)絡(luò)監(jiān)管“基本法”為核心依據(jù),，嚴格要求生成式AI技術(shù)提供者在網(wǎng)絡(luò)安全,、內(nèi)容合規(guī)和個人信息保護方面的責任，反對技術(shù)濫用。

《辦法》中第三條表示,，“國家支持人工智能算法,、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用,、國際合作,，鼓勵優(yōu)先采用安全可信的軟件、工具,、計算和數(shù)據(jù)資源,。”在明確生成式AI產(chǎn)品服務(wù)提供者的責任和義務(wù)方面,，值得注意的是,，《辦法》強化了對個人信息保護的要求，比如第四條提到,，“禁止非法獲取,、披露、利用個人信息和隱私,、商業(yè)秘密”；第七條指出,，“用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練數(shù)據(jù)”，應(yīng)滿足“數(shù)據(jù)包含個人信息的,，應(yīng)當征得個人信息主體同意或者符合法律,、行政法規(guī)規(guī)定的其他情形”；第十一條明確“提供者在提供服務(wù)過程中,，對用戶的輸入信息和使用記錄承擔保護義務(wù),。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像,，不得向他人提供用戶輸入信息,。”第十三條指出,，“提供者應(yīng)當建立用戶投訴接收處理機制,，及時處置個人關(guān)于更正、刪除,、屏蔽其個人信息的請求,。”

上海人工智能研究院副總工程師沈灝認為,，《辦法》體現(xiàn)了監(jiān)管部門對生成式AI的一個有限范圍的小心求證過程,，保障在還不清楚生成式AI的各種可能性之前,，各方安全可控地進行研發(fā)。

對企業(yè)影響：安全合規(guī)成本增加

最近一個月,，包括百度,、360,、阿里巴巴,、商湯科技,、華為,、科大訊飛等一眾科技企業(yè)紛紛展示或即將推出AI大模型及相關(guān)應(yīng)用產(chǎn)品,，圍繞生成式AI的創(chuàng)業(yè)熱潮洶涌，國產(chǎn)AI大模型混戰(zhàn)開啟,。

一位AI領(lǐng)域資深專家告訴記者,，《辦法》將主要從三個方面對相關(guān)企業(yè)產(chǎn)生影響，加大安全合規(guī)的成本,。首先,，其第七條要求“提供者應(yīng)當對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負責”,，那么企業(yè)預(yù)訓(xùn)練的數(shù)據(jù)來源要合規(guī),、不能侵犯知識產(chǎn)權(quán)等，保證數(shù)據(jù)真實性,、準確性等,，顯然是增大了企業(yè)的數(shù)據(jù)獲取篩選成本；第二,，提供生成式AI產(chǎn)品或服務(wù)應(yīng)遵守法律法規(guī),、尊重社會公德公序良俗，在訓(xùn)練時要解決“人機對齊”問題,，安全評估如果不通過需要在三個月內(nèi)整改,，對企業(yè)來說合規(guī)的壓力加大,； 第三,，企業(yè)還需要制定人工標注規(guī)則、對標注人員進行培訓(xùn)等,，接受抽樣檢驗,、申報安全評估及備案等，以及第二十條規(guī)定的處罰措施,，如“拒不改正或情節(jié)嚴重的,，責令暫?；蚪K止，并處以一萬元以上十萬元以下罰款”等,，都會增大企業(yè)的安全合規(guī)壓力及成本,。

夏海龍則指出，《辦法》內(nèi)容最值得企業(yè)關(guān)注,、或許也最容易引起業(yè)界爭議的是第五條,，該條規(guī)定生成式人工智能產(chǎn)品提供者需要對其產(chǎn)品生成內(nèi)容承擔內(nèi)容生產(chǎn)者責任，這一規(guī)定背后的邏輯似乎認為生成式人工智能產(chǎn)品生成的內(nèi)容完全由其開發(fā)者,、設(shè)計者決定,，顯然這一理解與目前業(yè)界普遍看法或期待存在一定的差異，目前關(guān)于生成式AI是否具有著作權(quán)以及著作權(quán)歸屬,、生成式人工智能對人類職業(yè)的沖擊等社會討論逐漸活躍,，尚無定論,，還需要進一步探討研究,。所以，如何在規(guī)范保障網(wǎng)絡(luò)信息安全的同時,，鼓勵推動相關(guān)產(chǎn)業(yè)發(fā)展,、發(fā)揮新技術(shù)的商業(yè)及社會價值，還需要監(jiān)管方面進一步探討與平衡,。

在盤和林看來,，《辦法》目前還處在征求意見階段，未來必然還會有相應(yīng)的調(diào)整,。其部分內(nèi)容還需要進一步細分優(yōu)化,，如AI生成內(nèi)容真實準確性如何界定、AI算法安全評估標準如何制定等,。他認為“先規(guī)范,、再發(fā)展是正確的思路”，在給AI發(fā)展戴上“緊箍”同時要盡可能地將紅線劃細,，“紅線越細,，企業(yè)發(fā)展的空間才會越大”。當前,，國內(nèi)還沒有生成式AI產(chǎn)品面向公眾真正開放,，因此在規(guī)范的同時，建議采用適當舉措鼓勵產(chǎn)業(yè)發(fā)展,。從經(jīng)濟學角度,，要警惕出現(xiàn)兩種情況，一是正規(guī)的生成式AI廠商不敢投入研發(fā)——擔憂研發(fā)后遇到風險,，二是非正規(guī)產(chǎn)品或趁機占據(jù)市場需求的空白,。因此,，建議監(jiān)管部門在未來持續(xù)完善相關(guān)的法律法規(guī)，豐富管理措施,。