隨著自動駕駛汽車、ChatGPT、人形機(jī)器人等人工智能應(yīng)用的爆發(fā),，人工智能對于現(xiàn)行法律的挑戰(zhàn)逐漸受到重視,。早在2017年，國務(wù)院就印發(fā)了《新一代人工智能發(fā)展規(guī)劃》,，指出：“人工智能是影響面廣的顛覆性技術(shù),，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理,、侵犯個人隱私,、挑戰(zhàn)國際關(guān)系準(zhǔn)則等問題?！?/p>

近年來,，人工智能在賦予人類新的文明契機(jī)的同時，也對現(xiàn)有的法律關(guān)系提出了一些破窗式挑戰(zhàn),，如何通過立法來規(guī)制人工智能的運用研發(fā)已經(jīng)成為一項迫在眉睫的課題,。

深度偽造與刑事治理,。深度偽造依托于深度學(xué)習(xí)和大數(shù)據(jù)技術(shù),，能夠修改和自動生成圖像、文字,、視頻等信息內(nèi)容,，極易為不法人員實施網(wǎng)絡(luò)違法犯罪活動提供可乘之機(jī)。深度偽造可能涉及的違法行為諸如侵害國家安全,、社會秩序,、他人合法權(quán)益等，都和我們刑法當(dāng)中大量的罪名相呼應(yīng),，也進(jìn)一步帶來了刑事治理風(fēng)險的擴(kuò)張,。例如，在以“點擊,、瀏覽,、轉(zhuǎn)發(fā)的次數(shù)”為入罪標(biāo)準(zhǔn)的犯罪認(rèn)定中，現(xiàn)有司法解釋并未將算法系統(tǒng)的自動化點擊和轉(zhuǎn)發(fā)次數(shù)排除在外。同時,，在深度偽造的過程當(dāng)中,，很多技術(shù)難題又是過去傳統(tǒng)的法律規(guī)范所不能加以覆蓋的，例如,，由于算法黑箱的存在,，依托大規(guī)模算法的深度偽造在定罪量刑要件的認(rèn)定上存在解釋上的困難。如何順應(yīng)這樣一種技術(shù)的變化來修改過去傳統(tǒng)的法律規(guī)則,，是我們眼前必須要去解決的問題,。尤其對現(xiàn)有的規(guī)范，在新技術(shù)背景下進(jìn)行解釋進(jìn)而賦予這些規(guī)范嶄新的生命力,，更是我們必須要面對的問題,。

自動駕駛和侵權(quán)責(zé)任。當(dāng)前自動駕駛汽車大規(guī)模商業(yè)化落地進(jìn)程正在緊鑼密鼓地進(jìn)行中,，今年6月份,，工信部、公安部以及交通運輸部等部門聯(lián)合宣布國家首批智能網(wǎng)聯(lián)汽車準(zhǔn)入和上路通行試點企業(yè)名單,，標(biāo)志著自動駕駛汽車的大規(guī)模上路,、上市又更進(jìn)了一步。對于傳統(tǒng)汽車來講,，車輛由人類的駕駛員控制,，發(fā)生事故自然也需要由人來承擔(dān)。自動駕駛?cè)〈斯ゑ{駛以后,，車輛在沒有人介入的情況下可以自主駕駛,，這個過程中如何追究事故的責(zé)任成為難題。最近有觀點認(rèn)為應(yīng)當(dāng)追究在整個流程包括程序開發(fā)的刑事責(zé)任,。不過,，如何平衡技術(shù)創(chuàng)新和社會秩序穩(wěn)定，是管理者在每個新技術(shù)的發(fā)展之初都不得不面臨的問題,，所以這樣的問題在過去也可以找到參照的現(xiàn)象,。盡管我們現(xiàn)在討論的是人工智能、無人駕駛,，但是過去在飛機(jī)里也存在類似的無人駕駛,，當(dāng)飛機(jī)墜毀的時候我們是否需要探討追究飛機(jī)駕駛程序開發(fā)者的刑事責(zé)任？為什么我們現(xiàn)在一提到人工智能下的無人駕駛,，我們甚至要特別延展地長鏈條地追究因果鏈條,，并進(jìn)而追究刑事責(zé)任，這是我們必須要思考的問題,。我們是否對人工智能這樣的技術(shù)產(chǎn)生了一個深度的恐懼,，而不得不做出一些過于戒備的預(yù)防,？這也是我們需要討論的問題。類似性質(zhì)的問題在人工智能其他領(lǐng)域的應(yīng)用場景中也一定會遇見,。

生成式人工智能與知識產(chǎn)權(quán)的問題,。近年來，生成式人工智能獲得極大的關(guān)注和發(fā)展,，給知識產(chǎn)權(quán)的保護(hù)帶來一系列的復(fù)雜問題,。從輸入端來看，訓(xùn)練數(shù)據(jù)來源的合法合規(guī)問題十分突出,，生成式人工智能需要進(jìn)行海量的閱讀和攝取,，這些是否會觸及到海量數(shù)據(jù)的攝取過程當(dāng)中，包括爬蟲技術(shù)本身是否涉及到著作權(quán)的問題,。爬蟲技術(shù)無法識別抓取內(nèi)容的著作權(quán)問題,，也無法在抓取時逐一獲得著作權(quán)授權(quán)，這一問題現(xiàn)在已經(jīng)成為生成式人工智能合規(guī)發(fā)展過程當(dāng)中一個特別大的制約性難題,，是否構(gòu)成著作權(quán)合理的使用值得研究,。我們過去傳統(tǒng)的著作權(quán)研究沒有遇到過這么海量而龐大的“合理使用的問題”。從輸出端來看,，終端用戶,、模型提供者的生成內(nèi)容是否具有可版權(quán)性，人工智能服務(wù)的提供者生成的內(nèi)容是否侵權(quán),，都是我們實踐當(dāng)中所面臨的問題,。今年廣州互聯(lián)網(wǎng)法院作出判決的全球AIGC侵權(quán)第一案，北京互聯(lián)網(wǎng)法院審理的國內(nèi)首例“AI文生圖”著作權(quán)的侵權(quán)案以及前不久全國首例AI生成聲音人格權(quán)侵權(quán)案,，這些案件都在生成式人工智能領(lǐng)域,、知識產(chǎn)權(quán)以及我們傳統(tǒng)意義上的人身權(quán)等問題產(chǎn)生了緊密的關(guān)聯(lián)，值得我們進(jìn)一步深思,。

人工智能的司法應(yīng)用,。人工智能在司法領(lǐng)域獲得廣泛的應(yīng)用，最高人民法院《關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見》專門就人工智能司法的應(yīng)用作出了部署,，對于傳統(tǒng)的司法活動來講,，它是法律和道德的統(tǒng)一,，我們經(jīng)常講要兼顧法理情,，除了正確地適用司法規(guī)則以外，我們還要去要求法官具有同理心,、正義感,、同情心，需要對所面臨的法律現(xiàn)象具有正義的直覺判斷,。而這些通常由人來彰顯的司法屬性是無法為機(jī)器所完全替代的,。因此，我們要更加關(guān)注人工智能在司法中的應(yīng)用問題。

生物的識別與數(shù)據(jù)安全,。在我們?nèi)粘Ｉ钪?，人臉識別、指紋識別,、虹膜掃描,、語音識別等，已經(jīng)無處不在,，這些是我們身份驗證和訪問控制的強(qiáng)大工具,，但是由此帶來的對數(shù)據(jù)安全的挑戰(zhàn)也不容忽視。對個人而言,，收集和儲存生物識別數(shù)據(jù)可能引發(fā)大規(guī)模的隱私風(fēng)險,，這種具有高度敏感性的個人信息一旦遭到泄露或者濫用，尤其是大規(guī)模地泄露或者濫用,，必然會侵害主體的隱私權(quán)益,，甚至可能會導(dǎo)致更大的數(shù)據(jù)安全乃至國家安全的問題。尤其是對國家而言,，數(shù)據(jù)是重要的戰(zhàn)略資源,，數(shù)據(jù)安全又是國家安全的重要內(nèi)容。因此,，生物識別技術(shù)的大規(guī)模應(yīng)用,，我們對此要特別謹(jǐn)慎、特別警惕,。

人工智能立法的現(xiàn)狀,。當(dāng)前我國人工智能立法呈現(xiàn)兩個特點：一是地方式。目前為止在國家層面,，至今還沒有一部關(guān)于人工智能的專門立法,。有關(guān)人工智能的立法具有明顯的地方式特征，強(qiáng)調(diào)地方政府可以根據(jù)自身的特點,，結(jié)合自身發(fā)展的需求,，先行先試，探索具有地方特色的人工智能治理規(guī)則,，以此來積累更多的人工智能全國性立法經(jīng)驗,。比方說在自動駕駛領(lǐng)域，在推進(jìn)人工智能產(chǎn)業(yè)發(fā)展方面,，上海,、深圳、廣州,、重慶等都就自動駕駛道路測試,、示范應(yīng)用,、交通法規(guī)等各種相繼頒布了很多的地方條例，但是缺乏國家層面的法規(guī),。二是場景式,。當(dāng)前我們還沒有一部關(guān)于人工智能的綜合性立法，相關(guān)立法仍然以地方規(guī)章制度以及國務(wù)院的行政規(guī)章為主,，同時也主要是以具體的應(yīng)用場景為抓手,，關(guān)注不同應(yīng)用場景下的人工智能引發(fā)的法律挑戰(zhàn)，比如說針對生成式人工智能出臺了《生成式人工智能服務(wù)管理暫行辦法》,，針對自動駕駛汽車則出臺了《智能網(wǎng)聯(lián)汽車道路測試與示范應(yīng)用管理規(guī)范（試行）》等,；針對深度合成出臺了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，針對人臉識別最高院發(fā)布了《關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》等,，但是總體上缺乏一些綜合性,、一般性的規(guī)定。

人工智能立法正當(dāng)其時,。隨著人工智能應(yīng)用爆發(fā)式地增長,，我們的立法現(xiàn)在已經(jīng)明顯滯后，地方式立法,、場景式立法已經(jīng)遠(yuǎn)遠(yuǎn)無法滿足人工智能產(chǎn)業(yè)發(fā)展的需求,。

我們必須要抓住人工智能立法的寶貴契機(jī)。推動人工智能統(tǒng)一立法的實現(xiàn),，避免頭痛醫(yī)頭,、腳痛醫(yī)腳。當(dāng)前各國都特別重視人工智能的立法,，今年5月,，歐盟理事會正式批準(zhǔn)全球第一部《人工智能法案》，引領(lǐng)人工智能立法新浪潮,。我國人工智能的統(tǒng)一立法趨勢也逐漸明顯,，有關(guān)部門將人工智能法列入了立法的規(guī)劃，中國社科院等單位聯(lián)合起草的《中華人民共和國人工智能示范法（學(xué)者建議稿）》,，為制定一部統(tǒng)一的人工智能法提供了很好的政策條件和寶貴經(jīng)驗,。

對于人工智能法的立法而言，我們需要注意的是不僅要在人工智能的規(guī)制,、管制,、立法和人工智能技術(shù)的創(chuàng)新當(dāng)中維持好一種平衡，還需要留足動態(tài)的接口,。一部人工智能法很難解決人工智能所提出的所有法律問題,，一方面，我們需要對智能要素立法預(yù)留接口,，2020年8月,，美國安全和新興技術(shù)研究中心發(fā)布報告《人工智能三要素及對國家安全戰(zhàn)略的意義》指出：“可以用一句話來概括現(xiàn)代人工智能的復(fù)雜性，即：機(jī)器學(xué)習(xí)系統(tǒng)使用計算能力來執(zhí)行從數(shù)據(jù)中學(xué)習(xí)的算法,?！边@一定義表明，實現(xiàn)人工智能的關(guān)鍵在于算法,、算力和數(shù)據(jù)三要素,，人工智能立法需要與智能要素立法相互配合。另一方面,，我們也需要為智能應(yīng)用的立法預(yù)留接口,，因為人工智能本身就是一個包羅萬象的概念，它所應(yīng)用的場景包括醫(yī)療,、教育,、金融、物流,、交通等各種場景,，各種人工智能所應(yīng)用的場景當(dāng)中引發(fā)的法律問題并不一致，例如自動駕駛汽車關(guān)注事故責(zé)任問題,，人臉識別關(guān)注數(shù)據(jù)合規(guī)和個人信息保護(hù)問題,，生成式人工智能則面臨著作權(quán)保護(hù)問題等等。人工智能立法必須要考慮這些場景的特殊性,。

未來,，人工智能法的立法還需要根據(jù)人工智能快速迭代的發(fā)展來進(jìn)行不斷調(diào)整。人工智能作為當(dāng)前最受矚目的新興科技,，我們必須要重視由此引發(fā)的法律挑戰(zhàn),，通過立法為人工智能的發(fā)展保駕護(hù)航，讓人工智能更好地造福人類社會,，服務(wù)國家發(fā)展,。

來源：人民法院報·2版

作者：林維（西南政法大學(xué)校長、教授,、博士生導(dǎo)師）

責(zé)任編輯：劉潔 | 聯(lián)系電話：（010）67550743 | 電子信箱：[email protected]