來源：中國貿(mào)易報(bào)

隨著ChatGPT,、Sora等大模型的開放和應(yīng)用，AI生成技術(shù)使用的門檻持續(xù)降低,，也進(jìn)一步增加了各界對人工智能安全與合規(guī)的擔(dān)憂,。全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會于日前發(fā)布的《生成式人工智能服務(wù)安全基本要求》（以下簡稱《安全基本要求》）規(guī)定了生成式人工智能服務(wù)中的語料安全要求,、模型安全要求,、安全措施要求及安全評估要求的具體細(xì)則，是國內(nèi)首個(gè)面向AIGC服務(wù)安全領(lǐng)域的技術(shù)文件,。

數(shù)創(chuàng)科技有限公司知識產(chǎn)權(quán)中心負(fù)責(zé)人鄭成智在接受《中國貿(mào)易報(bào)》記者采訪時(shí)表示,，無論人工智能服務(wù)的提供者位于我國境內(nèi)還是境外，只要相關(guān)服務(wù)面向我國境內(nèi)的公眾,，那么就適用于該文件,。這給全世界范圍內(nèi)的人工智能服務(wù)提供者都提出了較高的要求，AI生成技術(shù)平臺想要爭取中國市場,，務(wù)必緊密注意生成式人工智能可能帶來的長期風(fēng)險(xiǎn),。

根據(jù)《安全基本要求》，面向特定語料來源進(jìn)行采集前,，應(yīng)對該來源語料進(jìn)行安全評估,，語料內(nèi)容中含違法不良信息超過5%的，不應(yīng)采集該來源語料,；面向特定語料來源進(jìn)行采集后,，應(yīng)對所采集的該來源語料進(jìn)行核驗(yàn)，含違法不良信息情況超過5%的,，不應(yīng)使用該來源語料進(jìn)行訓(xùn)練,。

“這一規(guī)定要服務(wù)提供者對語料內(nèi)容進(jìn)行過濾，采取分類模型,、關(guān)鍵詞、人工抽檢等方法,，充分過濾全部語料中的違法信息,。”鄭成智表示,，同時(shí)需要注意數(shù)據(jù)隱私安全問題,，在使用個(gè)人信息、敏感信息的語料前,，應(yīng)取得對應(yīng)個(gè)人同意或者符合法律,、行政法規(guī)規(guī)定。

《安全基本要求》還就如何避免侵犯知識產(chǎn)權(quán)制定了詳細(xì)的指導(dǎo)方針,，包括：應(yīng)設(shè)置語料以及生成內(nèi)容的知識產(chǎn)權(quán)負(fù)責(zé)人,，并建立知識產(chǎn)權(quán)管理策略,；語料用于訓(xùn)練前，應(yīng)對語料中的主要知識產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)進(jìn)行識別,，發(fā)現(xiàn)存在知識產(chǎn)權(quán)侵權(quán)等問題的,，服務(wù)提供者不應(yīng)使用相關(guān)語料進(jìn)行訓(xùn)練；例如,，語料中包含文學(xué),、藝術(shù)、科學(xué)作品的,，應(yīng)重點(diǎn)識別語料以及生成內(nèi)容中的著作權(quán)侵權(quán)問題,；應(yīng)建立知識產(chǎn)權(quán)問題的投訴舉報(bào)渠道；應(yīng)在用戶服務(wù)協(xié)議中,，向使用者告知使用生成內(nèi)容時(shí)的知識產(chǎn)權(quán)相關(guān)風(fēng)險(xiǎn),，并與使用者約定關(guān)于知識產(chǎn)權(quán)問題識別的責(zé)任與義務(wù)；應(yīng)及時(shí)根據(jù)國家政策以及第三方投訴情況更新知識產(chǎn)權(quán)相關(guān)策略,。

鄭成智表示,，《安全基本要求》體現(xiàn)了對知識產(chǎn)權(quán)的重視，提醒人工智能服務(wù)提供者規(guī)避侵權(quán)風(fēng)險(xiǎn),，在實(shí)際應(yīng)用過程中將有效降低生成式人工智能服務(wù)自動生成虛假圖片,、音頻、視頻等給企業(yè)帶來的商業(yè)危害,。此外,，《安全基本要求》還強(qiáng)調(diào)，禁止違反商業(yè)道德,，泄露他人商業(yè)秘密,，利用算法、數(shù)據(jù),、平臺等優(yōu)勢,，實(shí)施壟斷和不正當(dāng)競爭行為，更全面地促進(jìn)生成式人工智能健康發(fā)展,。

中國社會科學(xué)院大學(xué)數(shù)字中國研究院執(zhí)行院長呂鵬對此表示,，人工智能作為最具顛覆性和戰(zhàn)略性的核心關(guān)鍵技術(shù)，能夠幫助各行各業(yè)在數(shù)字化的基礎(chǔ)上進(jìn)一步實(shí)現(xiàn)智能化,，成為未來的發(fā)動機(jī),。而《安全基本要求》將作為方向盤，始終將各種新興科技控制在向善的道路上,。

“《安全基本要求》為人工智能服務(wù)提供者提供了更為明晰的注意義務(wù)邊界和法律責(zé)任指引,，方便從業(yè)者在合規(guī)制度下開展相關(guān)工作，降低法律風(fēng)險(xiǎn)。未來,，AI生成技術(shù)將兼顧市場與用戶等各方的利益,，有更大更安全的創(chuàng)新舞臺?！编嵆芍钦f,。