《科創(chuàng)板日?qǐng)?bào)》7月13日訊 近日，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委,、教育部,、科技部,、工業(yè)和信息化部、公安部,、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下稱《辦法》）,，自2023年8月15日起施行。

國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,，出臺(tái)《辦法》,，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民,、法人和其他組織的合法權(quán)益,。

《辦法》明確了訓(xùn)練數(shù)據(jù)處理活動(dòng)和數(shù)據(jù)標(biāo)注等要求,；生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù),，并生成內(nèi)容進(jìn)行標(biāo)識(shí)等。此外,，還規(guī)定了安全評(píng)估、算法備案,、投訴舉報(bào)等制度,，明確了法律責(zé)任。

人工智能離不開數(shù)據(jù),、算力和算法,，而在本次《辦法》中，數(shù)據(jù)是第一高頻詞,，出現(xiàn)次數(shù)高達(dá)18次,，而算力,、算法出現(xiàn)次數(shù)為3次和6次。數(shù)據(jù)方面的具體相關(guān)措施例如：

推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。

推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。

鼓勵(lì)采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。

生成式人工智能服務(wù)提供者（以下稱“提供者”）應(yīng)當(dāng)依法開展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，需遵守的規(guī)定包括使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型,；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性,、客觀性,、多樣性等。

同時(shí),，《辦法》還對(duì)提供者數(shù)據(jù)標(biāo)注作出規(guī)范（開展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估等）,，并明確了提供者的責(zé)任和義務(wù)。

除此之外,，“安全”在本次文件中出現(xiàn)頻次也達(dá)到了14次,。

正如國(guó)家網(wǎng)信辦官網(wǎng)所指出的，如何統(tǒng)籌生成式人工智能發(fā)展和安全已引起各方關(guān)注,。國(guó)家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。

▌數(shù)據(jù)、模型安全使用已成AI持續(xù)發(fā)展基礎(chǔ)

近年來(lái),，生成式人工智能技術(shù)快速發(fā)展,，為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí)，也產(chǎn)生了傳播虛假信息,、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全和偏見歧視等問(wèn)題。

我國(guó)也已著手從政策層面對(duì)AIGC進(jìn)行相應(yīng)監(jiān)管,，對(duì)模型的安全評(píng)估審查,、生成式內(nèi)容標(biāo)識(shí)、用戶數(shù)據(jù)保護(hù)等提出多項(xiàng)要求，國(guó)內(nèi)廠商也對(duì)AIGC內(nèi)容監(jiān)管,、鑒偽布局相應(yīng)產(chǎn)品,。

實(shí)際上，國(guó)家網(wǎng)信辦4月11日已發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》,，結(jié)合《網(wǎng)絡(luò)安全法》,、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等為生成式人工智能服務(wù)的發(fā)展護(hù)航,。該文件關(guān)注要點(diǎn)在于產(chǎn)品安全評(píng)估審查,、生成式內(nèi)容標(biāo)識(shí)與用戶數(shù)據(jù)保護(hù)等，提出申報(bào)安全評(píng)估與持續(xù)優(yōu)化模型訓(xùn)練共同保障模型安全,；明確用戶信息保護(hù)責(zé)任承擔(dān)機(jī)制,，強(qiáng)調(diào)數(shù)據(jù)安全等。

中金公司指出,，數(shù)據(jù),、模型的安全使用已成為AI持續(xù)發(fā)展的基礎(chǔ)。

從數(shù)據(jù)方面來(lái)看,，AI技術(shù)的訓(xùn)練需要巨大數(shù)據(jù)量的大規(guī)模數(shù)據(jù)集投喂,，在這種情況下，AI技術(shù)及應(yīng)用不僅會(huì)存在不當(dāng)使用導(dǎo)致的數(shù)據(jù)泄露,，還面臨著提示語(yǔ)注入攻擊等數(shù)據(jù)安全風(fēng)險(xiǎn),。

中金公司認(rèn)為，需要對(duì)數(shù)據(jù)的使用權(quán),、所有權(quán),、運(yùn)營(yíng)權(quán)進(jìn)行確權(quán)，使用數(shù)據(jù)時(shí)仍需對(duì)于敏感數(shù)據(jù)進(jìn)行隱私保護(hù),，在充分挖掘數(shù)據(jù)使用價(jià)值的同時(shí),，保障數(shù)據(jù)安全。因此,，對(duì)數(shù)據(jù)安全的技術(shù)發(fā)展,、應(yīng)用場(chǎng)景都提出更高要求。

值得一提的是,，北京市,、深圳市等多地政府近日相繼發(fā)布人工智能支持政策，且均強(qiáng)調(diào)了公共數(shù)據(jù)開放與共享,，包括“加快構(gòu)建高質(zhì)量人工智能訓(xùn)練數(shù)據(jù)集,，研究建立數(shù)據(jù)集開放共享機(jī)制”、“培育高質(zhì)量數(shù)據(jù)要素市場(chǎng)”等,。

從模型方面來(lái)說(shuō)，大模型作為與云等同的數(shù)字基礎(chǔ)設(shè)施，同樣需要安全保駕護(hù)航,。

在和云同等的邊界,、業(yè)務(wù)、數(shù)據(jù)保護(hù)以外,，大模型還需要對(duì)AI生成的文字,、圖片等進(jìn)行鑒偽。分析師認(rèn)為,，大模型更新迭代,，對(duì)安全的要求持續(xù)提升，相較于傳統(tǒng)安全產(chǎn)品,，AI安全產(chǎn)品從技術(shù),、應(yīng)用場(chǎng)景都有差異，對(duì)安全廠商創(chuàng)新能力也提出更高要求,。