北京日報客戶端 | 記者 高健 通訊員 高曼潔 秦鵬博

如今,，以ChatGPT、New Bing為代表的AIGC（AI Generated Content,，生成式人工智能）類應(yīng)用火爆全球,，有人從中看到科技方向、有人從中發(fā)掘娛樂樂趣,、有人從中尋覓商業(yè)價值,，但不少國家和地區(qū)開始意識到生成式人工智能的風險,，從而踩下剎車或按下暫停鍵。對此,，海淀法院法官分析認為,，生成式人工智能易引發(fā)五類刑事犯罪,，應(yīng)引起社會和相關(guān)部門注意,。

風險：AIGC生成“虛擬角色”致詐騙風險激增

近日，國家網(wǎng)信辦發(fā)布了《關(guān)于〈生成式人工智能服務(wù)管理辦法（征求意見稿）〉》（以下簡稱《意見稿》）,，著手從立法的角度規(guī)范我國生成式人工智能的發(fā)展進路,。海淀法院經(jīng)過調(diào)研認為，生成式人工智能應(yīng)用在使用中易引發(fā)五類刑事犯罪風險,。

首先,，AIGC類應(yīng)用生成內(nèi)容“類人性強”，易引發(fā)詐騙類犯罪,。因“百科全書式”聊天機器人能高度模擬真人口吻,，具有極強的“類人性”，更容易讓人產(chǎn)生信賴,，對話人在接收“答案”時也在無意識中受到引導,，易引發(fā)感情類、財產(chǎn)類詐騙,。如通過ChatGPT生成完整的詐騙套路話術(shù),，把ChatGPT包裝成“虛擬角色”，使受害人誤以為自己“墜入愛河”并遭受詐騙,。此外,，海淀法院在調(diào)研中還發(fā)現(xiàn)當前出現(xiàn)了眾多名稱中包含“ChatGPT”字樣的微信公眾號、小程序,、網(wǎng)頁,、手機應(yīng)用，上述“山寨版”ChatGPT虛假鏈接,，通過吸引網(wǎng)民點擊鏈接或下載使用,，誤導網(wǎng)民填寫個人信息甚至進行付費，存在損害用戶財產(chǎn)利益的風險,，可能涉嫌詐騙罪,；另有以投資AIGC類應(yīng)用等新技術(shù)為名目吸收資金的違法犯罪行為，如以“元宇宙”代幣為噱頭進行傳銷犯罪等,，可能涉嫌非法集資,、非法傳銷和詐騙罪。

并且,，AIGC類應(yīng)用能篡改后臺程序算法,，易引發(fā)涉計算機類犯罪?！吧秸妗盋hatGPT生成虛假鏈接,，引誘對話人點擊后,，還可能發(fā)生惡意攻擊電腦設(shè)備、侵入特定領(lǐng)域的計算機信息系統(tǒng),、非法獲取相關(guān)數(shù)據(jù)等行為,，涉嫌非法侵入計算機信息系統(tǒng)罪、破壞計算機信息系統(tǒng)數(shù)據(jù)罪等,。

同時,，AIGC類應(yīng)用依靠抓取海量信息數(shù)據(jù)，并通過深度學習算法生成檢索內(nèi)容,，用戶進行特定內(nèi)容搜索,，更容易獲取淫穢色情、犯罪方法,、宣揚暴力甚至恐怖組織等信息,，容易引發(fā)傳播淫穢色情、傳授犯罪方法類犯罪,，增加相關(guān)違法犯罪行為發(fā)生風險,。

法官還指出，ChatGPT等AIGC類應(yīng)用是對海量互聯(lián)網(wǎng)信息的加工整合,，信息真?zhèn)尾幻?、道德邊界感模糊?；ヂ?lián)網(wǎng)上發(fā)布的娛樂八卦,、網(wǎng)評等可能涉及個人隱私的信息，均可作為AIGC類應(yīng)用的整合資源,，且生成內(nèi)容以“檢索結(jié)果”展示,，易讓用戶誤認為“標準答案”,。若用戶不加甄別地使用,、盲目引用未經(jīng)核實的信息,，可能涉嫌侮辱、誹謗,、侵犯公民個人信息等侵害人格權(quán)類犯罪,，并不因信息來源于互聯(lián)網(wǎng)而排除刑事責任承擔。

此外,，AIGC類應(yīng)用還易引發(fā)侵犯知識產(chǎn)權(quán)類犯罪,。

分析：AIGC的提供者需承擔的三大責任

根據(jù)《意見稿》相關(guān)規(guī)定及相似事例，法院認為,，AIGC的提供者需承擔的三大責任,。

法官指出，提供者首先應(yīng)承擔信息源責任,?！皟?nèi)容提供者要確保信息源可信,，從數(shù)據(jù)安全、個人信息保護,、知識產(chǎn)權(quán)等方面,，從源頭處保證信息來源合法合規(guī)?！钡?，法官也提出，面對海量的數(shù)據(jù),，如何進行信息過濾和篩選，尚需要可行性方案,，以便提供者能夠更好地把握信息來源,。

此外，提供者應(yīng)對生成內(nèi)容負責,。如《意見稿》規(guī)定了,，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當遵守法律法規(guī)的要求，尊重社會公德,、公序良俗,，需要做到諸如體現(xiàn)社會主義核心價值觀、防止歧視,、公平競爭,、防止形成虛假信息、禁止非法獲取個人信息和商業(yè)秘密等,?？梢姡峁┱咝枰獙ψ罱K生成的內(nèi)容承擔符合道德,、符合法律的義務(wù),。另外，在生成內(nèi)容責任中,，《意見稿》特別提出了對人工標注的規(guī)范,，明確指出：“生成式人工智能產(chǎn)品研制中采用人工標注時，提供者應(yīng)當制定符合本辦法要求,，清晰,、具體、可操作的標注規(guī)則,，對標注人員進行必要培訓,，抽樣核驗標注內(nèi)容的正確性?！睆臉俗⒌娜藛T,、到標注的內(nèi)容上進行規(guī)范,，也是對算法生成中一個重要的人工參與步驟進行合理引導，從旁提高生成內(nèi)容的合法合規(guī)性,。

另外,，提供者還應(yīng)遵守流程報備責任，通過報備的方式,，使生成式人工智能置于主管部門的管理之下,，也便于在發(fā)生違法違規(guī)行為時及時進行處置。

建議：加強對新興技術(shù)監(jiān)管

通過調(diào)研并結(jié)合《意見稿》的內(nèi)容,，海淀法院針對生成式人工智能可能發(fā)生的刑事法律風險,，提出四點建議。

加大普法宣傳力度,，增強網(wǎng)民反詐意識,，引導網(wǎng)民合法合規(guī)使用合法軟件，準確識別被偽裝過的山寨鏈接,，避免泄露個人信息,。

加快新技術(shù)規(guī)范立法工作，探索算法推薦等技術(shù)管理制度的落地路徑,，明確自動生成內(nèi)容類應(yīng)用檢索信息的邊界,，提高應(yīng)用開發(fā)和應(yīng)用算法透明度，確保生成式人工智能應(yīng)用開發(fā)和推廣以安全,、道德,、尊重公民權(quán)利和隱私的方式規(guī)范開展。

加強對新興技術(shù)的監(jiān)管,，確保智能AI的訓練模型數(shù)據(jù)來源可信可靠,，對于未在互聯(lián)網(wǎng)公開或權(quán)利人明確禁用的信息源，及時督促運營企業(yè)從AI模型數(shù)據(jù)庫中剔除,，確保使用的正當性,。

完善救濟途徑，在智能AI發(fā)布后,，以提供補丁網(wǎng)站的方式,，便利相關(guān)權(quán)利人提交不予授權(quán)的聲明，并及時刪除不予授權(quán)的信息源,，以避免和解決AI使用過程中的權(quán)屬爭議,。