8 月 15 日,,由網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》(下文簡(jiǎn)稱“《辦法》”)正式施行,,這也是全球第一部AIGC(AI生成內(nèi)容)管理辦法,。
三六零集團(tuán)創(chuàng)始人周鴻祎對(duì)貝殼財(cái)經(jīng)記者表示,,與征求意見稿相比,《辦法》中增加了“鼓勵(lì)各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用”,,支持行業(yè)組織機(jī)構(gòu)開展協(xié)作,;增加了“推動(dòng)基礎(chǔ)設(shè)施和公共平臺(tái)建設(shè)”,、“促進(jìn)算力共享”,、“推動(dòng)公共數(shù)據(jù)開放”等內(nèi)容,表明了有關(guān)部門鼓勵(lì)創(chuàng)新,,支持大模型發(fā)展的態(tài)度,,為科技企業(yè)創(chuàng)新提供了信心和保障。
中國政法大學(xué)傳播法研究中心副主任朱巍在接受新京報(bào)貝殼財(cái)經(jīng)記者采訪時(shí)表示,,《辦法》明確了必須對(duì)AIGC生成的內(nèi)容進(jìn)行標(biāo)記,,這降低了一些真假難辨的AIGC內(nèi)容可能造成的風(fēng)險(xiǎn)。此外,,相比此前版本的征求意見稿,,《辦法》對(duì)違法內(nèi)容的管理責(zé)任體現(xiàn)了包容審慎的態(tài)度,,“AI只是一個(gè)工具,如果要求生成式人工智能服務(wù)提供者為生成的內(nèi)容承擔(dān)責(zé)任并不公平,,對(duì)此《辦法》要求提供者發(fā)現(xiàn)違法內(nèi)容后應(yīng)及時(shí)采取處置措施并向主管部門報(bào)告,,這一改動(dòng)很亮眼,實(shí)踐表現(xiàn)也不錯(cuò),?!?/p>
國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,《辦法》提出國家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。
鼓勵(lì)算法芯片等基礎(chǔ)技術(shù)自主創(chuàng)新
周鴻祎表示,,《辦法》針對(duì)大模型生成式的特點(diǎn),遵循促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,,“有關(guān)部門的監(jiān)管方式非常先進(jìn),,將有效助推生成式人工智能的發(fā)展?!?/p>
“我認(rèn)為《辦法》是積極的,,總體來講是鼓勵(lì)深層次人工智能發(fā)展,鼓勵(lì)我們自己發(fā)展芯片,,同時(shí)里面也有對(duì)尊重知識(shí)產(chǎn)權(quán),、個(gè)人信息保護(hù)的相關(guān)要求?!?談到對(duì)此次出臺(tái)《辦法》的感受,,網(wǎng)絡(luò)安全研究專家,、北京漢華飛天信安科技有限公司總經(jīng)理彭根告訴新京報(bào)貝殼財(cái)經(jīng)記者。
貝殼財(cái)經(jīng)記者注意到,,在《辦法》第二章技術(shù)發(fā)展與治理中,,“鼓勵(lì)”一詞高頻出現(xiàn)。
如第五條提到“鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用,,生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容,,探索優(yōu)化應(yīng)用場(chǎng)景,,構(gòu)建應(yīng)用生態(tài)體系?!钡诹鶙l提到“鼓勵(lì)生成式人工智能算法,、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,,平等互利開展國際交流與合作,,參與生成式人工智能相關(guān)國際規(guī)則制定?!?/p>
對(duì)于《辦法》的發(fā)布,,北京理工大學(xué)法學(xué)院教授、外交部國際法咨詢委員會(huì)委員洪延青簡(jiǎn)評(píng)稱,,整個(gè)《辦法》往促進(jìn)生成式AI發(fā)展這個(gè)方向,,靠了很大一步,“第二條強(qiáng)調(diào)了‘面向公眾提供’服務(wù),,進(jìn)一步明確了監(jiān)管意圖,;第四條基本圍繞著內(nèi)容管理、歧視性待遇,、商業(yè)和市場(chǎng)秩序保護(hù),、個(gè)人合法權(quán)益保護(hù),以及生成內(nèi)容的準(zhǔn)確性和可靠性,;第七條依舊強(qiáng)調(diào)了訓(xùn)練數(shù)據(jù)的重要性,,這是生成式AI監(jiān)管的重要切入點(diǎn)?!?/p>
在回答《辦法》對(duì)促進(jìn)生成式人工智能健康發(fā)展有哪些考慮這一問題時(shí),,國家網(wǎng)信辦有關(guān)負(fù)責(zé)人提到,支持行業(yè)組織,、企業(yè),、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展協(xié)作,。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享,提升算力資源利用效能,。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放,,擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。
“《辦法》明確了適用邊界,既能夠規(guī)范大模型的公眾服務(wù),,同時(shí)也有利于組織機(jī)構(gòu)的研發(fā)和應(yīng)用,。我認(rèn)為,大模型未來真正的發(fā)展機(jī)會(huì)就是企業(yè)級(jí)市場(chǎng),。產(chǎn)業(yè)數(shù)字化戰(zhàn)略背景下,,大模型作為工業(yè)革命級(jí)的生產(chǎn)力工具,應(yīng)當(dāng)幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型到智能化升級(jí),。從《辦法》來看,,國家對(duì)企業(yè)級(jí)場(chǎng)景的應(yīng)用研發(fā)和落地整體持大力支持的態(tài)度,對(duì)科技企業(yè)推動(dòng)大模型在企業(yè)級(jí)場(chǎng)景的落地有積極意義,?!敝茗櫟t對(duì)貝殼財(cái)經(jīng)記者表示。
中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任,、北京師范大學(xué)法學(xué)院博士生導(dǎo)師吳沈括在接受新京報(bào)貝殼財(cái)經(jīng)記者采訪時(shí)表示,,相比較于征求意見稿階段,《辦法》在發(fā)布主體,、文件名稱,、內(nèi)容寬度上有很大的變化,本身也反映了我們國家在治理決策層面對(duì)AGC治理的思路的進(jìn)一步深化和延伸,,“它作為全球第一部AIGC法,,反映的是中國在數(shù)字治理和人工智能治理層面新的思路,強(qiáng)調(diào)的是一種生態(tài)式的治理方案,?!?/p>
如何保障內(nèi)容安全?提供者發(fā)現(xiàn)違法內(nèi)容應(yīng)及時(shí)處置
貝殼財(cái)經(jīng)記者注意到,,從4月11日《辦法》征求意見稿出臺(tái),,到本次《辦法》正式發(fā)布,,在對(duì)大模型的內(nèi)容監(jiān)管方面,均明確提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)堅(jiān)持社會(huì)主義核心價(jià)值觀,,不得生成煽動(dòng)顛覆國家政權(quán),、民族歧視,暴力色情,、虛假有害信息等法律和行政法規(guī)禁止的內(nèi)容,。
但另一方面,由于生成式AI底層算法的本質(zhì)就是“猜出”最符合上文內(nèi)容的“下文”,,具備一定隨機(jī)性,,因此如何應(yīng)對(duì)生成式AI難以避免出現(xiàn)的“幻覺”問題也成為了難題。對(duì)此,,《辦法》第十四條第二款規(guī)定,,提供者發(fā)現(xiàn)違法內(nèi)容的,應(yīng)當(dāng)及時(shí)采取停止生成,、停止傳輸,、消除等處置措施,采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,,并向有關(guān)主管部門報(bào)告,。
朱巍認(rèn)為,該條款是此次《辦法》的亮點(diǎn)之一,,“之前版本的征求意見稿中曾提到‘人工智能的服務(wù)提供者和內(nèi)容提供者’,,這種表述對(duì)平臺(tái)和服務(wù)提供者來說,可能責(zé)任太大了,,因?yàn)锳I只是一個(gè)工具,,別人用它來干壞事但責(zé)任主體卻是服務(wù)提供者,這可能不公平,。因此,,我認(rèn)為此次《辦法》相關(guān)條款體現(xiàn)了包容審慎的態(tài)度,一旦提供者發(fā)現(xiàn)違法內(nèi)容,,需要采取必要措施,。”
AI只是一個(gè)工具,,如果要求生成式人工智能服務(wù)提供者為生成的內(nèi)容承擔(dān)責(zé)任并不公平,,《辦法》要求提供者發(fā)現(xiàn)違法內(nèi)容后應(yīng)及時(shí)采取處置措施并向主管部門報(bào)告,這相比此前的征求意見稿有了很大進(jìn)步,。
“一直以來,,我國堅(jiān)持發(fā)展和安全并重,在鼓勵(lì)自主創(chuàng)新的同時(shí),《辦法》強(qiáng)調(diào)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,,履行網(wǎng)絡(luò)信息安全義務(wù),。我對(duì)此表示認(rèn)同,大模型是數(shù)字化的頂峰,,同樣是把雙刃劍,,帶來生產(chǎn)力提升的同時(shí)存在安全風(fēng)險(xiǎn),包括網(wǎng)絡(luò)安全,、數(shù)據(jù)安全,、算法安全和生成內(nèi)容安全。比如算法攻擊有可能致使大模型淪為犯罪工具,,協(xié)助黑客寫攻擊代碼或釣魚郵件,。”周鴻祎說,。
在周鴻祎看來,,大模型存在“幻覺”問題,會(huì)“胡說八道”,,難以確保生成內(nèi)容符合法律法規(guī)和倫理道德,,“未來人工智能會(huì)跟整個(gè)數(shù)字化系統(tǒng)緊密結(jié)合,需要從現(xiàn)在開始關(guān)注和探索AI安全的解決之道,。360擁有全球規(guī)模最大的安全大數(shù)據(jù)、世界領(lǐng)先的APT捕獲能力,,是世界領(lǐng)先,、中國第一的安全企業(yè),攻克大模型安全這一世界性課題是題中之義,?!?/p>
另一個(gè)解決方案是,大模型生成的內(nèi)容的素材來源于其預(yù)訓(xùn)練數(shù)據(jù),,因此對(duì)這些數(shù)據(jù)進(jìn)行把控,,就能大概率降低生產(chǎn)內(nèi)容的風(fēng)險(xiǎn)?!掇k法》第七條或體現(xiàn)了這一觀點(diǎn),,第七條規(guī)定,生成式人工智能服務(wù)提供者(以下稱提供者)應(yīng)當(dāng)依法開展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),,應(yīng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,涉及知識(shí)產(chǎn)權(quán)的,,不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)等,。
洪延青認(rèn)為,《辦法》第七條依舊強(qiáng)調(diào)了訓(xùn)練數(shù)據(jù)的重要性,,這是生成式AI監(jiān)管的重要切入點(diǎn),,但對(duì)訓(xùn)練數(shù)據(jù)的質(zhì)量作出了盡職性的要求,,而非結(jié)果式的要求。
在朱巍看來,,目前我國于國外在大模型技術(shù)上的差距并不在算法端,,而在訓(xùn)練數(shù)據(jù)數(shù)量和質(zhì)量,“我們對(duì)于數(shù)據(jù)來源這一條持有保留意見,,訓(xùn)練數(shù)據(jù)應(yīng)該多多益善,,如果要求所有數(shù)據(jù)都具有合法性或明確授權(quán),有可能導(dǎo)致大模型訓(xùn)練者不能在公共領(lǐng)域中抓取數(shù)據(jù),,這可能會(huì)影響國內(nèi)AI大模型的發(fā)展,。雖然使用收集來的數(shù)據(jù)訓(xùn)練出的大模型也會(huì)帶有傾向性,但我認(rèn)為這可以通過算法進(jìn)行修正,,更多的數(shù)據(jù)可以幫助我們更好的‘彎道超車’,。”
分類分級(jí)監(jiān)管AIGC應(yīng)提供標(biāo)識(shí)
吳沈括對(duì)貝殼財(cái)經(jīng)記者表示,,在《辦法》的文本設(shè)計(jì)當(dāng)中,,對(duì)于產(chǎn)業(yè)生態(tài)的培育和促進(jìn),對(duì)于各方主體合規(guī)治理的指引,,以及對(duì)于安全底線的堅(jiān)守是三個(gè)非常重要的制度基礎(chǔ)和切入的重點(diǎn),,其中值得注意的地方是《辦法》突出了關(guān)于AIGC的分類分級(jí)監(jiān)管思路,以及后續(xù)細(xì)化監(jiān)管規(guī)則的持續(xù)出臺(tái),。
根據(jù)《辦法》第十七條,,提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的,應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估,,并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更,、注銷備案手續(xù)。
洪延青表示,,第十七條事實(shí)上提出了生成式AI的分類分級(jí)管理思路,,對(duì)具有輿論屬性和社會(huì)動(dòng)員能力的生成式AI,沿用網(wǎng)信辦過去的監(jiān)管工具,。
國家網(wǎng)信辦有關(guān)負(fù)責(zé)人說,,《辦法》在治理對(duì)象上,針對(duì)生成式人工智能服務(wù),。在監(jiān)管方式上,,提出對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,要求國家有關(guān)主管部門針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用,,完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式,,制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。此外,《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),。規(guī)定提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片,、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。
“我最大的感受是《辦法》進(jìn)一步強(qiáng)調(diào)了深度合成管理規(guī)定的內(nèi)容,,要對(duì)圖片和視頻進(jìn)行標(biāo)注,,讓我們能夠判斷出到底圖片視頻是由AI生成的,還是人去錄制和拍攝的,,這是一個(gè)很關(guān)鍵的一個(gè)地方,。”彭根說,。
“前不久,,出現(xiàn)了許多利用生成式人工智能語音、視頻,,結(jié)合賬號(hào)盜取進(jìn)行電信詐騙的情況,,《辦法》結(jié)合此前發(fā)布的關(guān)于深度合成的相關(guān)規(guī)定,為解決此類問題提供了思路,?!敝煳≌f。
值得注意的是,,《辦法》對(duì)生成式人工智能的用戶也提出了義務(wù),。
《辦法》第九條第二款規(guī)定,提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的生成式人工智能服務(wù)使用者(以下稱使用者)簽訂服務(wù)協(xié)議,,明確雙方權(quán)利義務(wù),。而第十四條第二款則規(guī)定,提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的,,應(yīng)當(dāng)依法依約采取警示、限制功能,、暫?;蛘呓K止向其提供服務(wù)等處置措施,保存有關(guān)記錄,,并向有關(guān)主管部門報(bào)告,。
“《辦法》在安全層面堅(jiān)持了技術(shù)要素層面的安全、組織管理層面的安全以及數(shù)字內(nèi)容層面的安全,,結(jié)合了安全性設(shè)計(jì),、合法性設(shè)計(jì)和倫理性設(shè)計(jì)的綜合治理思路。對(duì)于各方主體的合規(guī)義務(wù),、法律責(zé)任做出了明確的規(guī)定,。同時(shí),對(duì)包括用戶數(shù)字素養(yǎng)在內(nèi)的基礎(chǔ)性生態(tài)要素也做出了專門的要求。從這個(gè)意義上來講,,目前的辦法在制度的寬度,、廣度和深度上都有顯著的延伸?!眳巧蚶▽?duì)貝殼財(cái)經(jīng)記者表示,。
記者聯(lián)系郵箱:[email protected]
新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹
編輯 宋鈺婷
校對(duì) 柳寶慶
免責(zé)聲明:本文來自網(wǎng)絡(luò)收錄或投稿,觀點(diǎn)僅代表作者本人,,不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,,版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處:http://lequren.com/1066018.html
溫馨提示:投資有風(fēng)險(xiǎn),,入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。