中國商報(bào)（記者 趙熠如）發(fā)展如火如荼的生成式人工智能技術(shù)迎來重大利好：《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱辦法）于近日公布。辦法不僅鼓勵生成式人工智能技術(shù)的發(fā)展,，也對其提供者在技術(shù),、服務(wù)方面提出相關(guān)要求與規(guī)范。

《生成式人工智能服務(wù)管理暫行辦法》近日公布，在鼓勵生成式人工智能技術(shù)的發(fā)展的同時(shí),，也對其提供者在技術(shù),、服務(wù)方面提出相關(guān)要求與規(guī)范。（圖片由攝圖網(wǎng)提供）

管理辦法公布

7月13日,，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委,、教育部、科技部,、工業(yè)和信息化部,、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》,，自2023年8月15日起施行,。

該辦法共24條，分為“總則” “技術(shù)發(fā)展與治理” “服務(wù)規(guī)范” “監(jiān)督檢查和法律責(zé)任” “附則”五章,。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,，出臺該辦法，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護(hù)國家安全和社會公共利益,，保護(hù)公民、法人和其他組織的合法權(quán)益,。

國家計(jì)算機(jī)網(wǎng)絡(luò)與信息安全管理中心高級工程師張震表示,，辦法更加關(guān)注生成式人工智能技術(shù)本身,，這主要與生成式人工智能技術(shù)自身特性有關(guān)：一是生成式人工智能應(yīng)用場景具有通用性。如果延續(xù)針對固定用途信息服務(wù)的管理思路，將難以充分切合實(shí)際監(jiān)管需求,。二是生成式人工智能具有價(jià)值觀屬性。一旦模型在訓(xùn)練過程中引入偏見歧視等有害信息,，在模型實(shí)際應(yīng)用中很可能呈現(xiàn)放大化輸出,。三是生成式人工智能具備可引導(dǎo)性。在提升模型能力方面,，通過在生成式人工智能模型訓(xùn)練過程中調(diào)整模型輸出概率分布不斷趨近人類偏好,，但同時(shí)也存在被不法分子惡意利用的風(fēng)險(xiǎn)。

360集團(tuán)創(chuàng)始人周鴻祎表示,，該辦法彰顯了有關(guān)部門鼓勵創(chuàng)新,、支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng)新提供了信心和保障,。同時(shí),，辦法明確了適用邊界，既能夠規(guī)范大模型的公眾服務(wù),，也有利于組織機(jī)構(gòu)的研發(fā)和應(yīng)用,。

“目前,，產(chǎn)業(yè)數(shù)字化已成為國家戰(zhàn)略，大模型的發(fā)展也應(yīng)該為產(chǎn)業(yè)數(shù)字化賦能,。作為工業(yè)革命級的生產(chǎn)力工具,，大模型能夠幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實(shí)現(xiàn)從數(shù)字化轉(zhuǎn)型到智能化的升級。大模型未來真正的發(fā)展機(jī)會就是企業(yè)級市場,，包括組織機(jī)構(gòu),、政府和城市。從辦法來看,，國家對企業(yè)級場景的應(yīng)用研發(fā)和落地整體持大力支持的態(tài)度,。”周鴻祎認(rèn)為,。

“人工智能行業(yè)發(fā)展非常迅速,，辦法的出臺也非常及時(shí)。辦法與征求意見稿相比更溫和一些,，操作性也更強(qiáng)一些,；它釋放了很多積極信號，針對生成式人工智能服務(wù)提供者進(jìn)行了很多約束和規(guī)范,，希望各從業(yè)者能認(rèn)真閱讀并遵守該管理辦法,。”DCCI互聯(lián)網(wǎng)研究院院長劉興亮對中國商報(bào)記者表示,。

促進(jìn)行業(yè)發(fā)展

辦法在“技術(shù)發(fā)展與治理”一章中,，明確表示了對生成式人工智能技術(shù)發(fā)展的鼓勵與支持。

第五條內(nèi)容提出,，鼓勵生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容,，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系,。支持行業(yè)組織,、企業(yè)、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面開展協(xié)作。

第六條內(nèi)容提出,，鼓勵生成式人工智能算法,、框架,、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作,，參與生成式人工智能相關(guān)國際規(guī)則制定。推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè),。促進(jìn)算力資源協(xié)同共享,，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源,。鼓勵采用安全可信的芯片、軟件,、工具,、算力和數(shù)據(jù)資源。

“生成式人工智能在技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面涉及多方主體,。為此,，辦法鼓勵行業(yè)組織、企業(yè)以及各個(gè)相關(guān)機(jī)構(gòu)之間開展協(xié)作,?！敝袊畔⑼ㄐ叛芯吭赫吲c經(jīng)濟(jì)研究所所長辛勇飛表示，“生成式人工智能尚處于初級發(fā)展階段,，而我國在生成式人工智能相關(guān)算法,、芯片等技術(shù)研發(fā)方面起步相對較晚。因此,，辦法一方面鼓勵生成式人工智能相關(guān)基礎(chǔ)技術(shù)的自主創(chuàng)新,，另一方面也鼓勵平等互利開展國際交流與合作，從而促進(jìn)我國人工智能技術(shù)的發(fā)展,?！?/p>

與此同時(shí)，辛勇飛表示,，算力是支撐數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的重要底座,，數(shù)據(jù)是生成式人工智能的重要資源。辦法提出的推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)的措施,，能夠促進(jìn)算力資源協(xié)同共享,，提升算力資源利用效能。

與此同時(shí),，辦法還對生成式人工智能技術(shù)在訓(xùn)練數(shù)據(jù)處理活動,、數(shù)據(jù)標(biāo)注過程中的運(yùn)用提出了要求,。

“生成式人工智能服務(wù)所產(chǎn)生內(nèi)容的質(zhì)量優(yōu)劣、安全與否主要取決于訓(xùn)練數(shù)據(jù),，辦法要求服務(wù)提供者采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)數(shù)據(jù)的真實(shí)性、準(zhǔn)確性,、客觀性,、多樣性，并指導(dǎo)服務(wù)提供者做好數(shù)據(jù)處理,、數(shù)據(jù)標(biāo)注等方面的安全管理工作,。”中國電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記楊建軍表示,。

強(qiáng)化主體責(zé)任

辦法在“服務(wù)規(guī)范”一章中,，對生成式人工智能提供者在信息安全、信息保護(hù)等主體責(zé)任方面提出了要求,。

辦法提出,，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù),。涉及個(gè)人信息的,，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù),。提供者應(yīng)當(dāng)與注冊其服務(wù)的生成式人工智能服務(wù)使用者（以下簡稱使用者）簽訂服務(wù)協(xié)議,，明確雙方權(quán)利義務(wù)。

與此同時(shí),，辦法還提出,，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成,、停止傳輸,、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,，并向有關(guān)主管部門報(bào)告,；提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當(dāng)依法依約采取警示,、限制功能,、暫停或者終止向其提供服務(wù)等處置措施,，保存有關(guān)記錄,，并向有關(guān)主管部門報(bào)告；提供者應(yīng)當(dāng)建立健全投訴、舉報(bào)機(jī)制,，設(shè)置便捷的投訴,、舉報(bào)入口，公布處理流程和反饋時(shí)限,，及時(shí)受理,、處理公眾投訴舉報(bào)并反饋處理結(jié)果。

楊建軍認(rèn)為,，生成式人工智能服務(wù)產(chǎn)業(yè)鏈條正在逐步形成,，需要進(jìn)一步強(qiáng)化主體責(zé)任，促進(jìn)各環(huán)節(jié)安全水平提升,。辦法從多角度明確治理規(guī)則、強(qiáng)調(diào)治理要求,，明確了用戶對服務(wù)的監(jiān)督作用,，要求提供者建立投訴舉報(bào)機(jī)制，強(qiáng)調(diào)使用者有權(quán)向有關(guān)部門投訴舉報(bào),。

張震表示,，在人工智能技術(shù)迎來重要發(fā)展的時(shí)期，不僅要讓相關(guān)新技術(shù)新應(yīng)用充分釋放出創(chuàng)新活力,，還要在安全監(jiān)管與創(chuàng)新引導(dǎo)之間掌握好平衡,。

“一方面，高度重視和充分研判生成式人工智能相關(guān)創(chuàng)新應(yīng)用對數(shù)據(jù)安全,、公共利益,、知識產(chǎn)權(quán)、倫理道德等方面可能造成的影響,，進(jìn)一步加強(qiáng)人工智能領(lǐng)域的行業(yè)自律,，引導(dǎo)大數(shù)據(jù)、人工智能等先進(jìn)技術(shù)在社會主義核心價(jià)值觀的引導(dǎo)下開展應(yīng)用創(chuàng)新,，加快制定相關(guān)行業(yè)標(biāo)準(zhǔn)和規(guī)范,。”張震說,，“另一方面,，充分支持人工智能領(lǐng)域研發(fā)主體開拓進(jìn)取，鼓勵和支持自主創(chuàng)新,，培育國家級生成式人工智能技術(shù)生態(tài)和應(yīng)用生態(tài),，堅(jiān)持包容和審慎相結(jié)合，理性務(wù)實(shí)推進(jìn)中國人工智能科技創(chuàng)新和數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展,?！?/p>