《科創(chuàng)板日報》7月13日訊 近日，國家網信辦聯(lián)合國家發(fā)展改革委,、教育部、科技部、工業(yè)和信息化部,、公安部,、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行,。

國家互聯(lián)網信息辦公室有關負責人表示,，出臺《辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應用,，維護國家安全和社會公共利益，保護公民,、法人和其他組織的合法權益,。

《辦法》明確了訓練數(shù)據處理活動和數(shù)據標注等要求,；生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務,，并生成內容進行標識等。此外,，還規(guī)定了安全評估,、算法備案、投訴舉報等制度,，明確了法律責任,。

人工智能離不開數(shù)據、算力和算法,，而在本次《辦法》中,，數(shù)據是第一高頻詞，出現(xiàn)次數(shù)高達18次,，而算力,、算法出現(xiàn)次數(shù)為3次和6次。數(shù)據方面的具體相關措施例如：

推動生成式人工智能基礎設施和公共訓練數(shù)據資源平臺建設,。

推動公共數(shù)據分類分級有序開放,，擴展高質量的公共訓練數(shù)據資源。

鼓勵采用安全可信的芯片,、軟件,、工具、算力和數(shù)據資源,。

生成式人工智能服務提供者（以下稱“提供者”）應當依法開展預訓練,、優(yōu)化訓練等訓練數(shù)據處理活動，需遵守的規(guī)定包括使用具有合法來源的數(shù)據和基礎模型,；采取有效措施提高訓練數(shù)據質量,，增強訓練數(shù)據的真實性、準確性,、客觀性,、多樣性等。

同時,，《辦法》還對提供者數(shù)據標注作出規(guī)范（開展數(shù)據標注質量評估等）,，并明確了提供者的責任和義務。

除此之外，“安全”在本次文件中出現(xiàn)頻次也達到了14次,。

正如國家網信辦官網所指出的,，如何統(tǒng)籌生成式人工智能發(fā)展和安全已引起各方關注。國家堅持發(fā)展和安全并重,、促進創(chuàng)新和依法治理相結合的原則,，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管,。

▌數(shù)據,、模型安全使用已成AI持續(xù)發(fā)展基礎

近年來，生成式人工智能技術快速發(fā)展,，為經濟社會發(fā)展帶來新機遇的同時,，也產生了傳播虛假信息、侵害個人信息權益,、數(shù)據安全和偏見歧視等問題,。

我國也已著手從政策層面對AIGC進行相應監(jiān)管，對模型的安全評估審查,、生成式內容標識,、用戶數(shù)據保護等提出多項要求,，國內廠商也對AIGC內容監(jiān)管,、鑒偽布局相應產品。

實際上,，國家網信辦4月11日已發(fā)布《生成式人工智能服務管理辦法（征求意見稿）》,，結合《網絡安全法》、《數(shù)據安全法》,、《個人信息保護法》等為生成式人工智能服務的發(fā)展護航,。該文件關注要點在于產品安全評估審查、生成式內容標識與用戶數(shù)據保護等,，提出申報安全評估與持續(xù)優(yōu)化模型訓練共同保障模型安全,；明確用戶信息保護責任承擔機制，強調數(shù)據安全等,。

中金公司指出,，數(shù)據、模型的安全使用已成為AI持續(xù)發(fā)展的基礎,。

從數(shù)據方面來看,，AI技術的訓練需要巨大數(shù)據量的大規(guī)模數(shù)據集投喂，在這種情況下,，AI技術及應用不僅會存在不當使用導致的數(shù)據泄露,，還面臨著提示語注入攻擊等數(shù)據安全風險。

中金公司認為，需要對數(shù)據的使用權,、所有權,、運營權進行確權，使用數(shù)據時仍需對于敏感數(shù)據進行隱私保護,，在充分挖掘數(shù)據使用價值的同時,，保障數(shù)據安全。因此,，對數(shù)據安全的技術發(fā)展,、應用場景都提出更高要求。

值得一提的是,，北京市,、深圳市等多地政府近日相繼發(fā)布人工智能支持政策，且均強調了公共數(shù)據開放與共享,，包括“加快構建高質量人工智能訓練數(shù)據集,，研究建立數(shù)據集開放共享機制”、“培育高質量數(shù)據要素市場”等,。

從模型方面來說,，大模型作為與云等同的數(shù)字基礎設施，同樣需要安全保駕護航,。

在和云同等的邊界,、業(yè)務、數(shù)據保護以外,，大模型還需要對AI生成的文字,、圖片等進行鑒偽。分析師認為,，大模型更新迭代,，對安全的要求持續(xù)提升，相較于傳統(tǒng)安全產品,，AI安全產品從技術,、應用場景都有差異，對安全廠商創(chuàng)新能力也提出更高要求,。