中國(guó)商報(bào)（記者 趙熠如）發(fā)展如火如荼的生成式人工智能技術(shù)迎來(lái)重大利好：《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱辦法）于近日公布。辦法不僅鼓勵(lì)生成式人工智能技術(shù)的發(fā)展,，也對(duì)其提供者在技術(shù),、服務(wù)方面提出相關(guān)要求與規(guī)范。

《生成式人工智能服務(wù)管理暫行辦法》近日公布,，在鼓勵(lì)生成式人工智能技術(shù)的發(fā)展的同時(shí),，也對(duì)其提供者在技術(shù)、服務(wù)方面提出相關(guān)要求與規(guī)范,。（圖片由攝圖網(wǎng)提供）

管理辦法公布

7月13日,，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部,、工業(yè)和信息化部,、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》,，自2023年8月15日起施行,。

該辦法共24條，分為“總則” “技術(shù)發(fā)展與治理” “服務(wù)規(guī)范” “監(jiān)督檢查和法律責(zé)任” “附則”五章,。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,，出臺(tái)該辦法，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護(hù)國(guó)家安全和社會(huì)公共利益,，保護(hù)公民、法人和其他組織的合法權(quán)益,。

國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)與信息安全管理中心高級(jí)工程師張震表示,，辦法更加關(guān)注生成式人工智能技術(shù)本身，這主要與生成式人工智能技術(shù)自身特性有關(guān)：一是生成式人工智能應(yīng)用場(chǎng)景具有通用性,。如果延續(xù)針對(duì)固定用途信息服務(wù)的管理思路,，將難以充分切合實(shí)際監(jiān)管需求。二是生成式人工智能具有價(jià)值觀屬性,。一旦模型在訓(xùn)練過(guò)程中引入偏見(jiàn)歧視等有害信息,，在模型實(shí)際應(yīng)用中很可能呈現(xiàn)放大化輸出。三是生成式人工智能具備可引導(dǎo)性,。在提升模型能力方面,，通過(guò)在生成式人工智能模型訓(xùn)練過(guò)程中調(diào)整模型輸出概率分布不斷趨近人類偏好，但同時(shí)也存在被不法分子惡意利用的風(fēng)險(xiǎn),。

360集團(tuán)創(chuàng)始人周鴻祎表示,，該辦法彰顯了有關(guān)部門(mén)鼓勵(lì)創(chuàng)新、支持大模型發(fā)展的態(tài)度,，為科技企業(yè)創(chuàng)新提供了信心和保障,。同時(shí)，辦法明確了適用邊界,，既能夠規(guī)范大模型的公眾服務(wù),，也有利于組織機(jī)構(gòu)的研發(fā)和應(yīng)用。

“目前,，產(chǎn)業(yè)數(shù)字化已成為國(guó)家戰(zhàn)略,，大模型的發(fā)展也應(yīng)該為產(chǎn)業(yè)數(shù)字化賦能。作為工業(yè)革命級(jí)的生產(chǎn)力工具,，大模型能夠幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實(shí)現(xiàn)從數(shù)字化轉(zhuǎn)型到智能化的升級(jí),。大模型未來(lái)真正的發(fā)展機(jī)會(huì)就是企業(yè)級(jí)市場(chǎng),，包括組織機(jī)構(gòu)、政府和城市,。從辦法來(lái)看,，國(guó)家對(duì)企業(yè)級(jí)場(chǎng)景的應(yīng)用研發(fā)和落地整體持大力支持的態(tài)度?！敝茗櫟t認(rèn)為,。

“人工智能行業(yè)發(fā)展非常迅速，辦法的出臺(tái)也非常及時(shí),。辦法與征求意見(jiàn)稿相比更溫和一些,，操作性也更強(qiáng)一些,；它釋放了很多積極信號(hào),，針對(duì)生成式人工智能服務(wù)提供者進(jìn)行了很多約束和規(guī)范，希望各從業(yè)者能認(rèn)真閱讀并遵守該管理辦法,?！盌CCI互聯(lián)網(wǎng)研究院院長(zhǎng)劉興亮對(duì)中國(guó)商報(bào)記者表示。

促進(jìn)行業(yè)發(fā)展

辦法在“技術(shù)發(fā)展與治理”一章中,，明確表示了對(duì)生成式人工智能技術(shù)發(fā)展的鼓勵(lì)與支持,。

第五條內(nèi)容提出，鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用,，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容,，探索優(yōu)化應(yīng)用場(chǎng)景,，構(gòu)建應(yīng)用生態(tài)體系。支持行業(yè)組織,、企業(yè),、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作,。

第六條內(nèi)容提出，鼓勵(lì)生成式人工智能算法,、框架,、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開(kāi)展國(guó)際交流與合作,，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定,。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能,。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放,，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。

“生成式人工智能在技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面涉及多方主體,。為此，辦法鼓勵(lì)行業(yè)組織,、企業(yè)以及各個(gè)相關(guān)機(jī)構(gòu)之間開(kāi)展協(xié)作,。”中國(guó)信息通信研究院政策與經(jīng)濟(jì)研究所所長(zhǎng)辛勇飛表示,，“生成式人工智能尚處于初級(jí)發(fā)展階段,，而我國(guó)在生成式人工智能相關(guān)算法、芯片等技術(shù)研發(fā)方面起步相對(duì)較晚,。因此,，辦法一方面鼓勵(lì)生成式人工智能相關(guān)基礎(chǔ)技術(shù)的自主創(chuàng)新，另一方面也鼓勵(lì)平等互利開(kāi)展國(guó)際交流與合作,，從而促進(jìn)我國(guó)人工智能技術(shù)的發(fā)展,。”

與此同時(shí),，辛勇飛表示,，算力是支撐數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的重要底座，數(shù)據(jù)是生成式人工智能的重要資源,。辦法提出的推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)的措施,，能夠促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能,。

與此同時(shí),，辦法還對(duì)生成式人工智能技術(shù)在訓(xùn)練數(shù)據(jù)處理活動(dòng)、數(shù)據(jù)標(biāo)注過(guò)程中的運(yùn)用提出了要求,。

“生成式人工智能服務(wù)所產(chǎn)生內(nèi)容的質(zhì)量?jī)?yōu)劣,、安全與否主要取決于訓(xùn)練數(shù)據(jù)，辦法要求服務(wù)提供者采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性,、客觀性、多樣性,，并指導(dǎo)服務(wù)提供者做好數(shù)據(jù)處理,、數(shù)據(jù)標(biāo)注等方面的安全管理工作?！敝袊?guó)電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書(shū)記楊建軍表示,。

強(qiáng)化主體責(zé)任

辦法在“服務(wù)規(guī)范”一章中，對(duì)生成式人工智能提供者在信息安全,、信息保護(hù)等主體責(zé)任方面提出了要求,。

辦法提出，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,，履行網(wǎng)絡(luò)信息安全義務(wù),。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任,，履行個(gè)人信息保護(hù)義務(wù),。提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的生成式人工智能服務(wù)使用者（以下簡(jiǎn)稱使用者）簽訂服務(wù)協(xié)議,，明確雙方權(quán)利義務(wù),。

與此同時(shí)，辦法還提出,，提供者發(fā)現(xiàn)違法內(nèi)容的,，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸,、消除等處置措施,，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報(bào)告,；提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的,，應(yīng)當(dāng)依法依約采取警示、限制功能,、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄,，并向有關(guān)主管部門(mén)報(bào)告,；提供者應(yīng)當(dāng)建立健全投訴、舉報(bào)機(jī)制,，設(shè)置便捷的投訴,、舉報(bào)入口，公布處理流程和反饋時(shí)限,，及時(shí)受理,、處理公眾投訴舉報(bào)并反饋處理結(jié)果,。

楊建軍認(rèn)為，生成式人工智能服務(wù)產(chǎn)業(yè)鏈條正在逐步形成,，需要進(jìn)一步強(qiáng)化主體責(zé)任,，促進(jìn)各環(huán)節(jié)安全水平提升。辦法從多角度明確治理規(guī)則,、強(qiáng)調(diào)治理要求,，明確了用戶對(duì)服務(wù)的監(jiān)督作用，要求提供者建立投訴舉報(bào)機(jī)制,，強(qiáng)調(diào)使用者有權(quán)向有關(guān)部門(mén)投訴舉報(bào),。

張震表示，在人工智能技術(shù)迎來(lái)重要發(fā)展的時(shí)期,，不僅要讓相關(guān)新技術(shù)新應(yīng)用充分釋放出創(chuàng)新活力,，還要在安全監(jiān)管與創(chuàng)新引導(dǎo)之間掌握好平衡。

“一方面,，高度重視和充分研判生成式人工智能相關(guān)創(chuàng)新應(yīng)用對(duì)數(shù)據(jù)安全,、公共利益、知識(shí)產(chǎn)權(quán),、倫理道德等方面可能造成的影響,，進(jìn)一步加強(qiáng)人工智能領(lǐng)域的行業(yè)自律，引導(dǎo)大數(shù)據(jù),、人工智能等先進(jìn)技術(shù)在社會(huì)主義核心價(jià)值觀的引導(dǎo)下開(kāi)展應(yīng)用創(chuàng)新,，加快制定相關(guān)行業(yè)標(biāo)準(zhǔn)和規(guī)范?！睆堈鹫f(shuō),，“另一方面，充分支持人工智能領(lǐng)域研發(fā)主體開(kāi)拓進(jìn)取,，鼓勵(lì)和支持自主創(chuàng)新,，培育國(guó)家級(jí)生成式人工智能技術(shù)生態(tài)和應(yīng)用生態(tài)，堅(jiān)持包容和審慎相結(jié)合,，理性務(wù)實(shí)推進(jìn)中國(guó)人工智能科技創(chuàng)新和數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展,。”