來(lái)源：火訊財(cái)經(jīng)

文章轉(zhuǎn)載來(lái)源：曼昆區(qū)塊鏈法律服務(wù)

特別聲明：

本文為上海曼昆律師事務(wù)所的原創(chuàng)文章，僅代表本文作者個(gè)人觀點(diǎn),，不構(gòu)成對(duì)特定事項(xiàng)的法律咨詢和法律意見,。

01引言近年來(lái)，AIGC（生成式人工智能）技術(shù)的迅速進(jìn)步為社會(huì)經(jīng)濟(jì)發(fā)展帶來(lái)了新的機(jī)遇,。各行各業(yè)都開始關(guān)注AIGC相關(guān)技術(shù)在商業(yè)落地中的應(yīng)用,，AIGC相關(guān)的創(chuàng)業(yè)及項(xiàng)目如雨后春筍般涌現(xiàn)。然而,，AIGC在發(fā)展過程中也帶來(lái)了新的挑戰(zhàn),，例如傳播虛假信息、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全和偏見歧視等問題,。為了應(yīng)對(duì)AIGC的快速發(fā)展,，國(guó)家網(wǎng)信辦、國(guó)家發(fā)改委,、教育部等七部門于7月10日正式發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，這也是全球首部AIGC領(lǐng)域的監(jiān)管法規(guī)。除了這部專門的監(jiān)管法規(guī)外,，我國(guó)在科技發(fā)展,、網(wǎng)絡(luò)安全、個(gè)人信息保護(hù),、互聯(lián)網(wǎng)信息等多個(gè)方面已發(fā)布了多項(xiàng)法律,、行政法規(guī)等規(guī)范性文件，構(gòu)成了人工智能領(lǐng)域多層級(jí),、多角度的規(guī)范治理體系,。本文是由上海曼昆律師事務(wù)所匯總、梳理的當(dāng)前國(guó)內(nèi)外人工智能領(lǐng)域的監(jiān)管政策,。本文將持續(xù)更新,，歡迎關(guān)注公眾號(hào)。02中國(guó)對(duì)AIGC的監(jiān)管（一）法律《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》我國(guó)科技領(lǐng)域的基本法,，2021年第二次修訂,，2022年1月1日正式施行?！吨腥A人民共和國(guó)個(gè)人信息保護(hù)法》2021年11月1日正式施行,，其中包括了一些關(guān)于人工智能的規(guī)定，如禁止將個(gè)人信息用于違法活動(dòng)和侵害個(gè)人權(quán)益，要求人工智能決策的透明和可解釋性等,?！吨腥A人民共和國(guó)數(shù)據(jù)安全法》2021年9月1日正式施行，其中包括了一些關(guān)于人工智能的規(guī)定,，如要求加強(qiáng)對(duì)人工智能相關(guān)數(shù)據(jù)的安全保護(hù)和管理等,。《中華人民共和國(guó)網(wǎng)絡(luò)安全法》2017年6月1日施行,，其中第二十二條規(guī)定了網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)采取技術(shù)措施和其他必要措施,，防止和減少網(wǎng)絡(luò)安全事件的發(fā)生，其中包括使用人工智能等技術(shù)手段,。（二）部門規(guī)章《生成式人工智能服務(wù)管理暫行辦法》2023年4月11日，國(guó)家網(wǎng)信辦發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡(jiǎn)稱“《辦法（征求意見稿）》”）,。在征集并綜合考量各方意見后,，網(wǎng)信辦聯(lián)合發(fā)改委、教育部,、科技部,、工信部、廣電總局于2023年7月10日正式發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱“《暫行辦法》”）,。作為全球范圍內(nèi)首部直接針對(duì)生成式人工智能進(jìn)行規(guī)制的國(guó)家層面法律文件,，《暫行辦法》將于2023年8月15日正式施行，我國(guó)人工智能敏捷治理管理模式初見成效,?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》2022年3月1日生效的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（“《算法推薦規(guī)定》”）要求算法推薦服務(wù)提供者應(yīng)當(dāng)建立健全算法機(jī)制機(jī)理審核，應(yīng)當(dāng)定期審核,、評(píng)估,、驗(yàn)證算法機(jī)制機(jī)理、模型,、數(shù)據(jù)和應(yīng)用結(jié)果等,，不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型,。此外,，《算法推薦規(guī)定》要求算法法推薦服務(wù)應(yīng)當(dāng)向網(wǎng)信部門完成備案：具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式,、應(yīng)用領(lǐng)域,、算法類型、算法自評(píng)估報(bào)告,、擬公示內(nèi)容等信息,，履行備案手續(xù)?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》2023年1月10日生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（“《深度合成規(guī)定》”）是AIGC領(lǐng)域最為核心的監(jiān)管規(guī)定,?！吧疃群铣杉夹g(shù)”是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法制作文本,、圖像,、音頻、視頻,、虛擬場(chǎng)景等信息的技術(shù),，包括文本轉(zhuǎn)語(yǔ)音、音樂生成,、人臉生成,、人臉替換、圖像增強(qiáng)等技術(shù),。因此,，AIGC屬于《深度合成規(guī)定》的監(jiān)管范圍?！渡疃群铣梢?guī)定》明確,，深度合成服務(wù)提供者應(yīng)當(dāng)采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，此外,，提供智能對(duì)話,、合成人聲、人臉生成,、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)在生成或者編輯的信息內(nèi)容的合理位置,、區(qū)域進(jìn)行顯著標(biāo)識(shí),，向公眾提示深度合成情況,。（三）部門規(guī)范性文件《新一代人工智能倫理規(guī)范》2021年9月25日,，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能倫理規(guī)范》(以下簡(jiǎn)稱《倫理規(guī)范》),，旨在將倫理道德融入人工智能全生命周期,，為從事人工智能相關(guān)活動(dòng)的自然人、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引,。《倫理規(guī)范》經(jīng)過專題調(diào)研,、集中起草,、意見征詢等環(huán)節(jié),，充分考慮當(dāng)前社會(huì)各界有關(guān)隱私、偏見,、歧視、公平等倫理關(guān)切,，包括總則,、特定活動(dòng)倫理規(guī)范和組織實(shí)施等內(nèi)容,?！秱惱硪?guī)范》提出了增進(jìn)人類福祉、促進(jìn)公平公正,、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求,。同時(shí),，提出人工智能管理、研發(fā),、供應(yīng),、使用等特定活動(dòng)的18項(xiàng)具體倫理要求。《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南-人工智能倫理安全風(fēng)險(xiǎn)防范指引》為防范人工智能倫理安全風(fēng)險(xiǎn),，2021年1月5日，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書處組織編制了《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—人工智能倫理安全風(fēng)險(xiǎn)防范指引》,，為組織或個(gè)人開展人工智能研究開發(fā),、設(shè)計(jì)制造,、部署應(yīng)用等相關(guān)活動(dòng)提供指引,。（四）行業(yè)標(biāo)準(zhǔn)、指導(dǎo)文件《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則》2022年3月,，器審中心發(fā)布《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則》,，進(jìn)一步規(guī)范人工智能醫(yī)療器械全生命周期過程質(zhì)控要求和注冊(cè)申報(bào)資料要求，同時(shí)提出第三方數(shù)據(jù)庫(kù)也可開展算法性能評(píng)估,，并明確了第三方數(shù)據(jù)庫(kù)在權(quán)威性,、科學(xué)性、規(guī)范性,、多樣性,、封閉性、動(dòng)態(tài)性方面的專用要求,?！度斯ぶ悄茚t(yī)用軟件產(chǎn)品分類界定指導(dǎo)原則》2021年7月8日，為進(jìn)一步加強(qiáng)人工智能醫(yī)用軟件類產(chǎn)品監(jiān)督管理,，推動(dòng)產(chǎn)業(yè)高質(zhì)量發(fā)展,，國(guó)家藥監(jiān)局組織制定并正式發(fā)布《人工智能醫(yī)用軟件產(chǎn)品分類界定指導(dǎo)原則》（下文簡(jiǎn)稱《指導(dǎo)原則》）,。在該《指導(dǎo)原則》中,，藥監(jiān)局對(duì)人工智能醫(yī)用軟件明晰了定義，其是指“基于醫(yī)療器械數(shù)據(jù),，采用人工智能技術(shù)實(shí)現(xiàn)其醫(yī)療用途的獨(dú)立軟件,。含人工智能軟件組件的醫(yī)療器械分類界定可參考本原則?！蓖瑫r(shí)也對(duì)醫(yī)療器械數(shù)據(jù)做出明確定義,，指“醫(yī)療器械產(chǎn)生的用于醫(yī)療用途的客觀數(shù)據(jù),，特殊情形下可包含通用設(shè)備產(chǎn)生的用于醫(yī)療用途的客觀數(shù)據(jù)?！贝送?，《指導(dǎo)原則》對(duì)管理屬性和管理類別還進(jìn)行了界定?！渡疃葘W(xué)習(xí)輔助決策醫(yī)療器械軟件審評(píng)要點(diǎn)》2019年7月,，國(guó)家藥監(jiān)局醫(yī)療器械技術(shù)審評(píng)中心(以下簡(jiǎn)稱器審中心)發(fā)布《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評(píng)要點(diǎn)》，明確通用深度學(xué)習(xí)輔助決策醫(yī)療器械軟件的審評(píng)范圍,，并提出基于風(fēng)險(xiǎn)的全生命周期監(jiān)管方式,。（五）地方性法規(guī)《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》2022年9月22日，上海市十五屆人大常委會(huì)第四十四次會(huì)議表決通過《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》,，于2022年10月1日起施行,。《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》2022年9月,，深圳公布了全國(guó)首部人工智能產(chǎn)業(yè)專項(xiàng)立法《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》,。自2022年11月1日起實(shí)施?！渡虾Ｊ袛?shù)據(jù)條例》2021年11月25日上海市第十五屆人民代表大會(huì)常務(wù)委員會(huì)第三十七次會(huì)議通過,，2022年1月1日起施行。（六）地方工作文件《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實(shí)施方案（2023-2025）》,、《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》2023年5月30日下午,，2023中關(guān)村論壇重大科技成果專場(chǎng)發(fā)布會(huì)舉行。會(huì)上,，北京市科委,、中關(guān)村管委會(huì)二級(jí)巡視員劉航發(fā)布了《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實(shí)施方案（2023-2025）》（以下簡(jiǎn)稱《實(shí)施方案》）、《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》（以下簡(jiǎn)稱《若干措施》）兩項(xiàng)政策,。北京市將通過這兩項(xiàng)政策,，從鼓勵(lì)與引導(dǎo)行業(yè)發(fā)展角度，圍繞創(chuàng)新發(fā)展共性需求,，進(jìn)一步統(tǒng)籌資源,，全面推動(dòng)人工智能自主技術(shù)體系建設(shè)及產(chǎn)業(yè)生態(tài)發(fā)展。這兩項(xiàng)政策的發(fā)布,，旨在加快實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略,，高水平建設(shè)國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)和國(guó)家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，持續(xù)提升人工智能領(lǐng)域全球影響力,，進(jìn)一步推動(dòng)人工智能創(chuàng)新創(chuàng)新引領(lǐng)和健康發(fā)展,，支撐北京國(guó)際科技創(chuàng)新中心建設(shè)。03全球各國(guó)對(duì)AIGC監(jiān)管歐盟《數(shù)據(jù)治理法案》2022年6月生效,。該法案是在《歐洲數(shù)據(jù)戰(zhàn)略》的框架下首先提交的一項(xiàng)法律草案,，其最初的內(nèi)容是在2020年11月,。《數(shù)據(jù)治理法案》整體而言,，以制度創(chuàng)新為重點(diǎn),，以鼓勵(lì)數(shù)據(jù)共享，提升數(shù)據(jù)使用效率,，使數(shù)據(jù)資源的流動(dòng)和使用,，以達(dá)到更高的公共政策目的。一是要構(gòu)建公共部門對(duì)數(shù)據(jù)進(jìn)行重新使用的制度,。二是構(gòu)建一個(gè)有利于數(shù)據(jù)仲介發(fā)展的架構(gòu),。三是對(duì)數(shù)據(jù)的利他行為進(jìn)行規(guī)范指導(dǎo)。另外,，在《數(shù)據(jù)治理法案》的第六章中,，設(shè)立了一個(gè)歐洲數(shù)據(jù)革新委員會(huì)，為其提供建議,，以便將數(shù)據(jù)分享服務(wù)供應(yīng)商,、跨行業(yè)數(shù)據(jù)分享、數(shù)據(jù)重新使用等方面的信息納入其中,?！度斯ぶ悄芊ò浮窏l例草案在2021年4月，歐盟委員會(huì)就提出了《人工智能法案》條例草案,，這被視為歐盟在人工智能以及更廣泛的歐盟數(shù)字戰(zhàn)略領(lǐng)域的里程碑事件,。只不過提案的推進(jìn)并沒有想象中順利，歐洲議會(huì)議員們尚未就提案基本原則達(dá)成一致,?！犊尚刨嚾斯ぶ悄軅惱頊?zhǔn)則》2019年發(fā)布，這些指導(dǎo)方針包含七個(gè)方面：人類活動(dòng)與監(jiān)管,；科技穩(wěn)健與安全,；隱私權(quán)與資料管理；透明度,；多樣性與非歧視與公平,；社會(huì)與環(huán)境福祉；問責(zé),?！锻ㄓ脭?shù)據(jù)保護(hù)條例》2016年通過，2018年生效,。目的是解決收集和利用用戶數(shù)據(jù)的問題,。它將替代1995年歐盟頒布的《數(shù)據(jù)保護(hù)指令》,，以適應(yīng)云計(jì)算,、因特網(wǎng)和大數(shù)據(jù)的發(fā)展,。《規(guī)定》的目的是為了約束互聯(lián)網(wǎng)和大數(shù)據(jù)公司對(duì)個(gè)人和敏感數(shù)據(jù)的處理,，保障數(shù)據(jù)主體的合法權(quán)益,。與它的前任《數(shù)據(jù)保護(hù)指令》相比，《GDPR》可以直接對(duì)所有的歐盟成員國(guó)生效,，而不需要任何國(guó)家將其轉(zhuǎn)換為本國(guó)法律,。英國(guó)《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》2023年3月29日，英國(guó)發(fā)布《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》白皮書,，概述了人工智能治理的5項(xiàng)原則,。提出其基于原則的人工智能治理方法，以為企業(yè)和群眾對(duì)人工智能的使用提供信心,，為行業(yè)提供具有確定性,、一致性的監(jiān)管方法。在本白皮書中,，英國(guó)提出了人工智能在各部門的開發(fā)和使用中都應(yīng)遵守的五項(xiàng)原則,，日后將由各監(jiān)管部門根據(jù)具體情況在該五項(xiàng)原則的基礎(chǔ)上對(duì)各領(lǐng)域的最佳實(shí)踐發(fā)布指南。同時(shí)白皮書指出,，為鼓勵(lì)人工智能的創(chuàng)新,，并確保能夠?qū)θ蘸螽a(chǎn)生的各項(xiàng)挑戰(zhàn)作出及時(shí)回應(yīng)，將不會(huì)在當(dāng)前就對(duì)人工智能行業(yè)進(jìn)行嚴(yán)格立法規(guī)制,。此外,，白皮書特別強(qiáng)調(diào)政府和行業(yè)、企業(yè)等多主體開展協(xié)同治理的重要性,，以及加強(qiáng)人工智能治理全球合作和互操作性的重要性,，以盡快實(shí)現(xiàn)英國(guó)在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者地位。意大利2023年3月31日,，意大利政府?dāng)?shù)據(jù)保護(hù)局（Garante）要求禁止OpenAI公司開發(fā)的AI聊天機(jī)器人ChatGPT在意大利的使用,，并對(duì)ChatGPT應(yīng)用程序涉嫌違反隱私規(guī)則展開調(diào)查。加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)近期宣布,，已對(duì)OpenAI展開調(diào)查,，因該公司涉嫌“未經(jīng)同意收集、使用和披露個(gè)人信息”,。美國(guó)《人工智能風(fēng)險(xiǎn)管理框架》（AI RMF）1.0版美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院于2023年1月發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》（AI RMF）1.0版,，旨在指導(dǎo)機(jī)構(gòu)組織在開發(fā)和部署人工智能系統(tǒng)時(shí)降低安全風(fēng)險(xiǎn)，避免產(chǎn)生偏見和其他負(fù)面后果,，提高人工智能可信度,。早在2016年，美國(guó)就頒布了《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》和《為人工智能的未來(lái)做好準(zhǔn)備》兩個(gè)國(guó)家級(jí)框架性、促進(jìn)性而非管制性,、約束性的文件,，并在近年來(lái)不斷更新。兩個(gè)政策框架旨在積極促進(jìn)人工智能技術(shù)發(fā)展和科技創(chuàng)新,。針對(duì)人工智能技術(shù)帶來(lái)的挑戰(zhàn),，文件只是提出了原則性的應(yīng)對(duì)方法。加拿大《人工智能和數(shù)據(jù)法案》2022年6月,，加拿大發(fā)布《人工智能和數(shù)據(jù)法案》該法案旨在規(guī)范國(guó)際及省級(jí)之間的人工智能系統(tǒng)交易,。為此,，法律規(guī)定：應(yīng)當(dāng)采取措施,，降低由高影響人工智能所引起的傷害和輸出偏差；公開有關(guān)人工智能的公共信息,；授權(quán)創(chuàng)新,、科技和工業(yè)部長(zhǎng)制定與人工智能系統(tǒng)相關(guān)的政策,，并對(duì)“持有或使用非法獲取的個(gè)人信息”作出相應(yīng)的禁止，以保護(hù)數(shù)據(jù)的隱私,，以達(dá)到設(shè)計(jì),、開發(fā)、使用或提供人工智能系統(tǒng)的目的,。德國(guó)《自動(dòng)駕駛法案》2021年7月發(fā)布,。該議案的目的是為無(wú)人駕駛技術(shù)的商業(yè)應(yīng)用提供法律基礎(chǔ)和管理框架。該議案的最大亮點(diǎn)之一,，就是為L(zhǎng)4級(jí)別的無(wú)人駕駛車輛，在高速公路上的特定路段正常運(yùn)行,，提供了合法依據(jù)，并對(duì)相關(guān)的技術(shù)要求,，行駛條件,，數(shù)據(jù)處理等作出了明確的規(guī)定。德國(guó)也因此成為世界上第一個(gè)讓無(wú)人汽車加入到每天的交通中,，并將其推廣到整個(gè)國(guó)家,。法案的另一項(xiàng)重要內(nèi)容，就是為“無(wú)人駕駛特性”設(shè)立了技術(shù)監(jiān)察系統(tǒng),。因此,，智能機(jī)動(dòng)車擁有者必須對(duì)機(jī)動(dòng)車的使用行為進(jìn)行規(guī)范，以確保機(jī)動(dòng)車的行車安全及機(jī)動(dòng)車的使用環(huán)境兼容性,，并對(duì)機(jī)動(dòng)車的使用行為負(fù)責(zé)。這些責(zé)任包括：對(duì)該系統(tǒng)進(jìn)行經(jīng)常性的維修,，以保證無(wú)人駕駛的運(yùn)行狀態(tài)良好,，對(duì)遵守交通規(guī)則采取防范措施,，以及對(duì)技術(shù)監(jiān)管的責(zé)任,。為了履行這項(xiàng)義務(wù)，汽車擁有者應(yīng)委派具有專門技能的自然人作為技術(shù)監(jiān)視者,，對(duì)汽車進(jìn)行遠(yuǎn)程監(jiān)視并對(duì)汽車進(jìn)行干預(yù),。