生成式人工智能治理規(guī)則需平衡利弊、思深憂遠(yuǎn)

4月11日,，中國(guó)國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》(下稱《意見稿》),，向社會(huì)公開征求意見,。4月12日，美國(guó)商務(wù)部就ChatGPT等AI大模型監(jiān)管措施公開征求意見,，世界科技巨頭在不斷推出新品之際,，各國(guó)監(jiān)管部門的步伐也正迎頭趕上，逐步開啟對(duì)人工智能生成式內(nèi)容的監(jiān)管,，未來的監(jiān)管政策成為中美競(jìng)爭(zhēng)的關(guān)鍵變量,。

美國(guó)監(jiān)管政策的變化

美國(guó)國(guó)家電信和信息管理局公開征求的內(nèi)容方面，監(jiān)管政策意見主題主要包括：人工智能開發(fā)公司及其企業(yè)客戶應(yīng)該進(jìn)行什么樣的信任和安全測(cè)試,；進(jìn)行審計(jì)和評(píng)估需要什么樣的數(shù)據(jù)訪問,；監(jiān)管機(jī)構(gòu)和其他參與者如何激勵(lì)和支持人工智能系統(tǒng)的可信保證以及其他形式的問責(zé)制；不同行業(yè)可能需要哪些不同的監(jiān)管方法——如就業(yè)或醫(yī)療保健,。

美國(guó)國(guó)家電信和信息管理局(NTIA)負(fù)責(zé)人Alan Davidson表示,，在新技術(shù)發(fā)展的同時(shí)，也要保證其安全性,、可靠性,。新的大語言模型功能非常強(qiáng)大，它們確實(shí)會(huì)產(chǎn)生一些有害的內(nèi)容,。新的監(jiān)管政策不僅可以降低產(chǎn)品的安全性,，也可以讓企業(yè)以更加安全的方式發(fā)展創(chuàng)新技術(shù)。

美國(guó)商務(wù)部表示,，將在接下來的 60 天內(nèi)就人工智能審計(jì),、風(fēng)險(xiǎn)評(píng)估和其他措施的可能性征求意見，這些措施可以緩解消費(fèi)者對(duì)這些新技術(shù)產(chǎn)品的擔(dān)憂,。從美國(guó)國(guó)家電信和信息管理局的AI監(jiān)管意見來看,，其政策是目標(biāo)是支持AI審計(jì)、評(píng)估、認(rèn)證和其他機(jī)制的發(fā)展,，以贏得人們對(duì)AI系統(tǒng)的信任,。通過監(jiān)管，讓人工智能企業(yè)在政府的指導(dǎo)下,，能以更安全的方式開展技術(shù)創(chuàng)新,。

中國(guó)監(jiān)管政策走出重要一步

我國(guó)對(duì)人工智能一直持鼓勵(lì)發(fā)展的態(tài)度。國(guó)務(wù)院曾于2017年印發(fā)了《新一代人工智能發(fā)展規(guī)劃》,，提出了人工智能發(fā)展的戰(zhàn)略目標(biāo),；2022年，科技部等六部門印發(fā)了《關(guān)于加快場(chǎng)景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》,，明確提出鼓勵(lì)在重點(diǎn)行業(yè)深入挖掘人工智能技術(shù)應(yīng)用場(chǎng)景,。本次網(wǎng)信辦發(fā)布的《意見稿》是國(guó)家宏觀指導(dǎo)政策首次進(jìn)入法規(guī)層面。

《意見稿》進(jìn)一步明確“鼓勵(lì)優(yōu)先采用安全可信的軟件,、工具,、計(jì)算和數(shù)據(jù)資源”。安全可信的網(wǎng)絡(luò)產(chǎn)品和服務(wù)是《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例(征求意見稿)》對(duì)于關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)者和重要數(shù)據(jù)處理者的強(qiáng)制要求,，雖然《意見稿》的口徑為“鼓勵(lì)”宣貫,，但未來相關(guān)監(jiān)管是否會(huì)對(duì)如何判斷網(wǎng)絡(luò)產(chǎn)品和服務(wù)的安全可信發(fā)布系列規(guī)則或者標(biāo)準(zhǔn)，尚待進(jìn)一步觀察,。

比如,，在訓(xùn)練數(shù)據(jù)方面，《意見稿》對(duì)預(yù)訓(xùn)練數(shù)據(jù)提出了更多的要求,，要求保證訓(xùn)練數(shù)據(jù)的“真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性”,。清華大學(xué)中國(guó)發(fā)展規(guī)劃研究院執(zhí)行副院長(zhǎng)董煜指出，大模型離不開數(shù)據(jù)的訓(xùn)練,，如果對(duì)于訓(xùn)練數(shù)據(jù)作出過于嚴(yán)苛的規(guī)定,，將阻礙大模型的發(fā)展速度。數(shù)據(jù)訓(xùn)練的規(guī)模會(huì)決定人工智能生成內(nèi)容的質(zhì)量,，數(shù)據(jù)的數(shù)量和質(zhì)量比算法和模型更重要,，美國(guó)可以做出ChatGPT，很大程度上在于美國(guó)對(duì)于全世界數(shù)據(jù)的收集和掌握,。從歐盟,、美國(guó)、韓國(guó),、日本等國(guó)家針對(duì)預(yù)訓(xùn)練數(shù)據(jù)合法性的要求來看,，為了支持大模型的發(fā)展,，他們?cè)试S使用各種出版物對(duì)生成式人工智能訓(xùn)練數(shù)據(jù)進(jìn)行分析。因此,，如果由于真實(shí)性,、版權(quán)等問題無法使用相關(guān)訓(xùn)練數(shù)據(jù)，將對(duì)人工智能技術(shù)發(fā)展帶來不利影響,。

生成式AI是不能輸?shù)舻摹皯?zhàn)役”

當(dāng)前中美競(jìng)爭(zhēng)的形勢(shì)十分激烈，從某種意義上說,，生成式AI對(duì)未來的技術(shù)面貌具有相當(dāng)?shù)闹厮芰?，這一認(rèn)知已達(dá)成共識(shí)。國(guó)家高度重視科技進(jìn)步,，視科技創(chuàng)新為高質(zhì)量發(fā)展的生命線?，F(xiàn)階段生成式AI在中外監(jiān)管思路的明顯區(qū)別是，美歐各國(guó)側(cè)重從數(shù)據(jù)安全,、數(shù)據(jù)保護(hù)的角度來介入和推動(dòng)監(jiān)管落地,，中國(guó)則是一種綜合治理的思路，強(qiáng)調(diào)權(quán)益保護(hù),、數(shù)據(jù)治理,、內(nèi)容治理等多個(gè)維度。

監(jiān)管的目的顯然不是要限制人工智能工具的開發(fā),，而是要推動(dòng)它的健康發(fā)展,。中國(guó)的生成式人工智能產(chǎn)品和服務(wù)，百度的文心一言已經(jīng)面世,，其他大模型也在發(fā)布或是處在測(cè)試階段,。受限于有限的中文數(shù)據(jù)，整體表現(xiàn)與ChatGPT有一定差距,，如何幫它們健康地強(qiáng)大起來,，這是對(duì)包括監(jiān)管體系在內(nèi)的整個(gè)中國(guó)社會(huì)的考驗(yàn)。

通過《意見稿》我們不難發(fā)現(xiàn),，這一文件的出臺(tái)無疑為我國(guó)算法相關(guān)產(chǎn)業(yè)的發(fā)展提供了新的指導(dǎo),。然而，我們也注意到,，該辦法中的一些細(xì)節(jié)仍有待進(jìn)一步完善,，有關(guān)問題仍需要立法者澄清。例如針對(duì)《意見稿》第九條,，北京大學(xué)法學(xué)院薛軍教授指出,，生成式人工智能服務(wù)，在某些特定場(chǎng)景下更類似于搜索服務(wù),，本質(zhì)是一種智能檢索,，應(yīng)當(dāng)允許用戶以游客的身份使用,。這是因?yàn)椋墒饺斯ぶ悄芊?wù)可以根據(jù)用戶提供的查詢,、問題或任務(wù),，自動(dòng)產(chǎn)生相應(yīng)的答案、方案或輸出,。這個(gè)過程類似于搜索引擎對(duì)關(guān)鍵詞進(jìn)行搜索并返回相關(guān)結(jié)果的過程,，當(dāng)然，還可以把搜索引擎與其結(jié)合生成更加動(dòng)態(tài),、個(gè)性化,、甚至創(chuàng)造性的輸出。微軟將ChatGPT問答模型遷入必應(yīng)搜索引擎,，可以讓更多的用戶通過輸入問題獲得答案,，從而提高信息獲取的效率和質(zhì)量，整個(gè)過程并不需要用戶的登錄或驗(yàn)證,。

未來隨著AI技術(shù)的發(fā)展,，中國(guó)在生成式AI和大模型方面是否會(huì)面臨類似芯片的卡脖子局面，我們不得而知,。為了不陷入被動(dòng)局面,，打造有利于國(guó)內(nèi)生成式AI發(fā)展的政策環(huán)境在中美競(jìng)爭(zhēng)中扮演著至關(guān)重要的角色。

陳晨 中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)常務(wù)理事