來源：中國貿(mào)易報
隨著ChatGPT,、Sora等大模型的開放和應用,，AI生成技術使用的門檻持續(xù)降低,，也進一步增加了各界對人工智能安全與合規(guī)的擔憂。全國信息安全標準化技術委員會于日前發(fā)布的《生成式人工智能服務安全基本要求》（以下簡稱《安全基本要求》）規(guī)定了生成式人工智能服務中的語料安全要求、模型安全要求,、安全措施要求及安全評估要求的具體細則,，是國內(nèi)首個面向AIGC服務安全領域的技術文件。
數(shù)創(chuàng)科技有限公司知識產(chǎn)權中心負責人鄭成智在接受《中國貿(mào)易報》記者采訪時表示,，無論人工智能服務的提供者位于我國境內(nèi)還是境外,，只要相關服務面向我國境內(nèi)的公眾，那么就適用于該文件,。這給全世界范圍內(nèi)的人工智能服務提供者都提出了較高的要求，AI生成技術平臺想要爭取中國市場,，務必緊密注意生成式人工智能可能帶來的長期風險,。
根據(jù)《安全基本要求》，面向特定語料來源進行采集前,，應對該來源語料進行安全評估,，語料內(nèi)容中含違法不良信息超過5%的，不應采集該來源語料,；面向特定語料來源進行采集后,，應對所采集的該來源語料進行核驗，含違法不良信息情況超過5%的,，不應使用該來源語料進行訓練。
“這一規(guī)定要服務提供者對語料內(nèi)容進行過濾，采取分類模型,、關鍵詞,、人工抽檢等方法,，充分過濾全部語料中的違法信息?！编嵆芍潜硎?，同時需要注意數(shù)據(jù)隱私安全問題，在使用個人信息,、敏感信息的語料前,，應取得對應個人同意或者符合法律、行政法規(guī)規(guī)定,。
《安全基本要求》還就如何避免侵犯知識產(chǎn)權制定了詳細的指導方針,，包括：應設置語料以及生成內(nèi)容的知識產(chǎn)權負責人，并建立知識產(chǎn)權管理策略,；語料用于訓練前,，應對語料中的主要知識產(chǎn)權侵權風險進行識別，發(fā)現(xiàn)存在知識產(chǎn)權侵權等問題的,，服務提供者不應使用相關語料進行訓練,；例如，語料中包含文學,、藝術,、科學作品的，應重點識別語料以及生成內(nèi)容中的著作權侵權問題,；應建立知識產(chǎn)權問題的投訴舉報渠道,；應在用戶服務協(xié)議中，向使用者告知使用生成內(nèi)容時的知識產(chǎn)權相關風險,，并與使用者約定關于知識產(chǎn)權問題識別的責任與義務,；應及時根據(jù)國家政策以及第三方投訴情況更新知識產(chǎn)權相關策略。
鄭成智表示,，《安全基本要求》體現(xiàn)了對知識產(chǎn)權的重視,，提醒人工智能服務提供者規(guī)避侵權風險，在實際應用過程中將有效降低生成式人工智能服務自動生成虛假圖片,、音頻,、視頻等給企業(yè)帶來的商業(yè)危害。此外,，《安全基本要求》還強調(diào),，禁止違反商業(yè)道德，泄露他人商業(yè)秘密,，利用算法,、數(shù)據(jù)、平臺等優(yōu)勢,，實施壟斷和不正當競爭行為,，更全面地促進生成式人工智能健康發(fā)展,。
中國社會科學院大學數(shù)字中國研究院執(zhí)行院長呂鵬對此表示，人工智能作為最具顛覆性和戰(zhàn)略性的核心關鍵技術,，能夠幫助各行各業(yè)在數(shù)字化的基礎上進一步實現(xiàn)智能化,，成為未來的發(fā)動機。而《安全基本要求》將作為方向盤,，始終將各種新興科技控制在向善的道路上,。
“《安全基本要求》為人工智能服務提供者提供了更為明晰的注意義務邊界和法律責任指引，方便從業(yè)者在合規(guī)制度下開展相關工作,，降低法律風險,。未來，AI生成技術將兼顧市場與用戶等各方的利益,，有更大更安全的創(chuàng)新舞臺,。”鄭成智說,。
免責聲明：本文來自網(wǎng)絡收錄或投稿,，觀點僅代表作者本人，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權歸原作者所有,。轉(zhuǎn)載請注明出處：http://lequren.com/1092175.html
溫馨提示：投資有風險，入市須謹慎,。本資訊不作為投資理財建議,。
