《科創(chuàng)板日報》7月13日訊 近日,，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委,、教育部,、科技部、工業(yè)和信息化部,、公安部,、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行,。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人表示,，出臺《辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應用,，維護國家安全和社會公共利益,，保護公民、法人和其他組織的合法權(quán)益,。

《辦法》明確了訓練數(shù)據(jù)處理活動和數(shù)據(jù)標注等要求；生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務,，并生成內(nèi)容進行標識等,。此外，還規(guī)定了安全評估,、算法備案,、投訴舉報等制度，明確了法律責任。

人工智能離不開數(shù)據(jù),、算力和算法,，而在本次《辦法》中，數(shù)據(jù)是第一高頻詞,，出現(xiàn)次數(shù)高達18次,，而算力、算法出現(xiàn)次數(shù)為3次和6次,。數(shù)據(jù)方面的具體相關(guān)措施例如：

推動生成式人工智能基礎(chǔ)設(shè)施和公共訓練數(shù)據(jù)資源平臺建設(shè),。

推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源,。

鼓勵采用安全可信的芯片,、軟件、工具,、算力和數(shù)據(jù)資源,。

生成式人工智能服務提供者（以下稱“提供者”）應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動,，需遵守的規(guī)定包括使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,；采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性,、準確性,、客觀性、多樣性等,。

同時,，《辦法》還對提供者數(shù)據(jù)標注作出規(guī)范（開展數(shù)據(jù)標注質(zhì)量評估等），并明確了提供者的責任和義務,。

除此之外,，“安全”在本次文件中出現(xiàn)頻次也達到了14次。

正如國家網(wǎng)信辦官網(wǎng)所指出的,，如何統(tǒng)籌生成式人工智能發(fā)展和安全已引起各方關(guān)注,。國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。

▌數(shù)據(jù),、模型安全使用已成AI持續(xù)發(fā)展基礎(chǔ)

近年來,，生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時,，也產(chǎn)生了傳播虛假信息,、侵害個人信息權(quán)益,、數(shù)據(jù)安全和偏見歧視等問題。

我國也已著手從政策層面對AIGC進行相應監(jiān)管,，對模型的安全評估審查,、生成式內(nèi)容標識、用戶數(shù)據(jù)保護等提出多項要求,，國內(nèi)廠商也對AIGC內(nèi)容監(jiān)管,、鑒偽布局相應產(chǎn)品。

實際上,，國家網(wǎng)信辦4月11日已發(fā)布《生成式人工智能服務管理辦法（征求意見稿）》,，結(jié)合《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》,、《個人信息保護法》等為生成式人工智能服務的發(fā)展護航,。該文件關(guān)注要點在于產(chǎn)品安全評估審查、生成式內(nèi)容標識與用戶數(shù)據(jù)保護等,，提出申報安全評估與持續(xù)優(yōu)化模型訓練共同保障模型安全,；明確用戶信息保護責任承擔機制，強調(diào)數(shù)據(jù)安全等,。

中金公司指出,，數(shù)據(jù)、模型的安全使用已成為AI持續(xù)發(fā)展的基礎(chǔ),。

從數(shù)據(jù)方面來看,，AI技術(shù)的訓練需要巨大數(shù)據(jù)量的大規(guī)模數(shù)據(jù)集投喂，在這種情況下,，AI技術(shù)及應用不僅會存在不當使用導致的數(shù)據(jù)泄露,，還面臨著提示語注入攻擊等數(shù)據(jù)安全風險。

中金公司認為,，需要對數(shù)據(jù)的使用權(quán)、所有權(quán),、運營權(quán)進行確權(quán),，使用數(shù)據(jù)時仍需對于敏感數(shù)據(jù)進行隱私保護，在充分挖掘數(shù)據(jù)使用價值的同時,，保障數(shù)據(jù)安全,。因此，對數(shù)據(jù)安全的技術(shù)發(fā)展,、應用場景都提出更高要求,。

值得一提的是，北京市,、深圳市等多地政府近日相繼發(fā)布人工智能支持政策,，且均強調(diào)了公共數(shù)據(jù)開放與共享,，包括“加快構(gòu)建高質(zhì)量人工智能訓練數(shù)據(jù)集，研究建立數(shù)據(jù)集開放共享機制”,、“培育高質(zhì)量數(shù)據(jù)要素市場”等,。

從模型方面來說，大模型作為與云等同的數(shù)字基礎(chǔ)設(shè)施,，同樣需要安全保駕護航,。

在和云同等的邊界、業(yè)務,、數(shù)據(jù)保護以外,，大模型還需要對AI生成的文字、圖片等進行鑒偽,。分析師認為,，大模型更新迭代，對安全的要求持續(xù)提升,，相較于傳統(tǒng)安全產(chǎn)品,，AI安全產(chǎn)品從技術(shù)、應用場景都有差異,，對安全廠商創(chuàng)新能力也提出更高要求,。