今年以來，國內(nèi)生成式人工智能熱度高漲，大模型“浪潮”此起彼伏。在產(chǎn)業(yè)競(jìng)速未來賽道的同時(shí),，也亟須系上“安全帶”。8月15日,，國家網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）正式施行,，這也是我國首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策,。

“制度的出臺(tái)不僅僅是規(guī)范其發(fā)展，更是良性引導(dǎo)和鼓勵(lì)創(chuàng)新,?！睒I(yè)內(nèi)專家認(rèn)為，《辦法》堅(jiān)持發(fā)展和安全并重,，一方面劃出法律紅線,，另一方面也為創(chuàng)新留足空間，生成式人工智能大規(guī)模商用有望加速落地，迎來發(fā)展新起點(diǎn),。

劃出“紅線”力保技術(shù)安全

生成式人工智能技術(shù),，是指具有文本、圖片,、音頻,、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。聚焦境外互聯(lián)網(wǎng)詐騙的電影《孤注一擲》正在熱映,，也讓人工智能等新技術(shù)帶來的虛假信息,、隱私泄露等風(fēng)險(xiǎn)引起公眾高度關(guān)注。

《辦法》將保護(hù)使用者的個(gè)人信息安全擺在了重要位置,，明確提出,，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù),。同時(shí),，服務(wù)提供者不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄,，不得非法向他人提供使用者的輸入信息和使用記錄,。

“這就將生成式人工智能服務(wù)提供者明確納入了網(wǎng)絡(luò)平臺(tái)責(zé)任的規(guī)制范圍內(nèi)，讓違規(guī)違法者無灰色地帶可躲,?！北本┐蟪陕蓭熓聞?wù)所高級(jí)合伙人肖颯說。

生成式人工智能面世之初,，就存在“一本正經(jīng)地胡說八道”現(xiàn)象,。對(duì)此，《辦法》明確,，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片,、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)，以解決其內(nèi)容真假難辨,，甚至出現(xiàn)技術(shù)被濫用,、誤用等問題。

奇安信集團(tuán)副總裁張卓表示,，對(duì)生成式人工智能服務(wù)來說,，促進(jìn)發(fā)展和防范風(fēng)險(xiǎn)需要兩者并重，從《辦法》可以看出,，數(shù)據(jù)安全和隱私保護(hù)貫穿于生成式人工智能數(shù)據(jù)的標(biāo)注,、模型預(yù)訓(xùn)練、模型訓(xùn)練,、提供服務(wù)等各個(gè)環(huán)節(jié),，避免了監(jiān)管盲區(qū)導(dǎo)致的安全風(fēng)險(xiǎn),。分級(jí)分類監(jiān)管留足創(chuàng)新空間

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，在監(jiān)管方式上,，《辦法》提出,，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，要求國家有關(guān)主管部門針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用,，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式,，制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。

其中《辦法》第二條明確提出了“不適用”場(chǎng)景,，即“行業(yè)組織,、企業(yè)、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù),，未向境內(nèi)公眾提供生成式人工智能服務(wù)的,，不適用本辦法的規(guī)定?！?/p>

“這一條讓規(guī)制對(duì)象目標(biāo)更明確,、針對(duì)性更強(qiáng)?！毙わS表示,，《辦法》對(duì)生成式人工智能服務(wù)提供者不作“一刀切”,，體現(xiàn)出我國對(duì)生成式人工智能在研究與應(yīng)用方面的支持和鼓勵(lì),，為創(chuàng)新留足了發(fā)展空間。

同時(shí),，《辦法》表示,，生成式人工智能服務(wù)提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成,、停止傳輸,、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,，并向有關(guān)主管部門報(bào)告,。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示,、限制功能,、暫停或者終止向其提供服務(wù)等處置措施,，保存有關(guān)記錄,，并向有關(guān)主管部門報(bào)告,。

“《辦法》堅(jiān)持法治化的監(jiān)管方向，將給予市場(chǎng)一個(gè)穩(wěn)定的預(yù)期,?！敝醒胴?cái)經(jīng)大學(xué)中國互聯(lián)網(wǎng)經(jīng)濟(jì)研究院副院長歐陽日輝表示，在法無禁止即可為的前提條件下,，更有利于新產(chǎn)業(yè),、新技術(shù)、新模式,、新業(yè)態(tài)生根發(fā)芽,，培育出更適合數(shù)字經(jīng)濟(jì)發(fā)展的營商沃土。

利好大模型多領(lǐng)域加速落地

生成式人工智能底層技術(shù),，實(shí)際上就是大模型,。近段時(shí)間以來，國內(nèi)人工智能領(lǐng)域爆發(fā)“群模大戰(zhàn)”,，據(jù)不完全統(tǒng)計(jì),，中國10億級(jí)參數(shù)規(guī)模以上大模型已發(fā)布79個(gè)。天眼查數(shù)據(jù)顯示,，今年上半年,，人工智能領(lǐng)域的投融資熱情明顯高漲，月均融資事件達(dá)48起,，從地域上看,，北京以半年76起融資居全國首位。

面對(duì)蓬勃發(fā)展的產(chǎn)業(yè),，國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，《辦法》明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，鼓勵(lì)生成式人工智能算法,、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,，鼓勵(lì)采用安全可信的芯片,、軟件、工具,、算力和數(shù)據(jù)資源,。

“關(guān)于生成式人工智能的應(yīng)用場(chǎng)景問題一直引人爭(zhēng)議?！毙わS稱,，《辦法》強(qiáng)調(diào)了人工智能技術(shù)的“應(yīng)用”，即有目的性地發(fā)展人工智能,，要將研究成果轉(zhuǎn)化為生產(chǎn)成果,，鼓勵(lì)其與實(shí)際應(yīng)用場(chǎng)景相結(jié)合,，與各行業(yè)、各領(lǐng)域的需求相結(jié)合,，利好大模型大規(guī)模商用的推進(jìn)和企業(yè)級(jí)應(yīng)用的有序發(fā)展,。

日前，新華社研究院發(fā)布《人工智能大模型體驗(yàn)報(bào)告2.0》,，訊飛星火位列國產(chǎn)主流大模型測(cè)評(píng)榜首位,，與今年6月首次發(fā)布的主流大模型測(cè)評(píng)相比，當(dāng)前中國大模型產(chǎn)品進(jìn)步顯著,?？拼笥嶏w董事長劉慶峰認(rèn)為，“安全可控”,、“場(chǎng)景驅(qū)動(dòng)”和“專屬模型”是推動(dòng)認(rèn)知大模型在行業(yè)深度應(yīng)用的三大關(guān)鍵要素,。“實(shí)現(xiàn)大模型的安全可控,，要解決算力安全和內(nèi)容安全兩大難題,，目前需要行業(yè)伙伴一起聯(lián)合攻關(guān)?！?/p>

“當(dāng)前,，我國大模型產(chǎn)品已經(jīng)初步具備商用能力，《辦法》的落地預(yù)示著我國大模型商用浪潮即將開啟,?！逼桨沧C券一位分析師認(rèn)為，在政策與技術(shù)的共振下,，我國生成式人工智能產(chǎn)業(yè)未來發(fā)展前景廣闊,。

來源 北京日?qǐng)?bào) 記者 袁璐

流程編輯 馬曉雙