本報記者 王麗新 見習記者 寇佳麗

在AI技術給人們的工作和生活帶來諸多便利的同時,，也有不法分子借用這一新興技術做起了壞事,。6月份以來，“AI詐騙”一詞頻頻沖上熱搜,?！?0分鐘騙走430萬元”“換臉合成不雅視頻試圖敲詐18萬元”“AI換聲偽裝好友借錢不還”等案件相繼出現(xiàn),。

受訪專家認為，隨著人工智能技術的發(fā)展,，不法分子利用AI實施詐騙的精準性,、隱蔽性進一步增強，需高度警惕,。人工智能安全治理需多方協(xié)力，完善監(jiān)管體系迫在眉睫,。

相關詐騙呈鏈條化特征

據(jù)記者了解,，“AI詐騙”至少要具備以下幾個條件：收集被換臉對象的個人身份信息、獲取大量人臉圖片和語音素材,、通過AI生成以假亂真的音頻和視頻,、充分掌握被詐騙人的身份信息、熟悉被詐騙人與被換臉人的社會關系,。

《證券日報》記者日前在某平臺咨詢后獲悉,，定制AI換聲音、AI換臉視頻分別要支付4000元,、8000元,，打包一套11000元，前提是要向對方提供想要定制的音頻樣本,、照片,。但定制內容只能在對方提供的平臺上使用，不可下載保存到個人手機中,。

由此來看,，“AI詐騙”成本較高，由個人來實施并不容易,。盈科全球總部合伙人葉庚清律師對《證券日報》記者表示：“這類網(wǎng)絡詐騙已呈現(xiàn)出明顯的鏈條化,、平臺化作案特征?！?/p>

葉庚清稱,，一般由上游黑產提供各種基于人工智能技術的專用設備工具、算法，為下游電信網(wǎng)絡詐騙提供技術支持,?！霸谶@條產業(yè)鏈中，不法分子利用互聯(lián)網(wǎng)分工配合,。詐騙案件發(fā)生時,，位于上游的不法分子可能以自己不知情來規(guī)避法律制裁，這也是辦理電信網(wǎng)絡詐騙案件的難點之一,?！?/p>

除了詐騙外，不法分子還能通過AI技術實施非法集資,、非法傳銷,、侵犯知識產權等至少7類違法犯罪行為。

“人工智能應用到經(jīng)濟活動中,，還可能涉及不正當競爭與壟斷行為。未來,，我們甚至可能需要討論AI能否成為獨立承擔責任的主體,。待AI技術發(fā)展到一定階段，它可能會被應用到無數(shù)場景,，如果有違法行為,，將可能涉及民事責任、行政責任以及刑事責任的承擔,?！敝袊ù髮W資本金融研究院副院長武長海告訴《證券日報》記者。

跨境監(jiān)管合作亟待加強

事實上,，隨著AI技術的加速迭代應用,，業(yè)界關于加強監(jiān)管、完善立法的呼聲也越來越高,。

據(jù)記者了解,，中國現(xiàn)有法律體系能解決與AI技術有關的大部分違法犯罪行為，但前提是涉案人員歸案,。

一位公安系統(tǒng)工作人員對《證券日報》記者表示：“涉及AI技術的詐騙案件,，其涉案人員多在海外，資金也多流向海外,，偵破難度較大,。”

一位檢察院系統(tǒng)工作人員也告訴《證券日報》記者：“處理該類案件的難處主要有兩方面：一是落地查人難,，嫌疑人在網(wǎng)絡上登記的信息基本都是假的,；二是騙走的錢難追回，嫌疑人拿到錢后很快就轉走?！?/p>

上海社科院數(shù)字化綠色化協(xié)同發(fā)展研究中心主任,、清華大學國家治理研究院特聘研究員李易對《證券日報》記者表示：“國內法律規(guī)范能否對境外人工智能服務提供者進行有效約束，要打個問號,。這涉及到不同法律體系的跨國合作,。”

葉庚清也表示,，利用AI技術實施的違法犯罪行為,，其精準性、迷惑性,、隱蔽性都大大加強,，導致偵查打擊難度加大；司法實踐中,，治理該類違法犯罪行為時面臨的“偵查破案難”“電子取證難”“認定處理難”等問題更加突出,。

而我國已經(jīng)開始探索并逐步構建完善的人工智能監(jiān)管體系。

此前,，已有《新一代人工智能發(fā)展規(guī)劃》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等文件正式公布,。2023年4月份，國家網(wǎng)信辦起草《生成式人工智能服務管理辦法（征求意見稿）》并向社會公開征求意見,，提出AI內容必須真實準確,，禁止非法獲取、披露,、利用個人信息和隱私,、商業(yè)秘密。

不僅如此,，近期,，國務院辦公廳發(fā)布的《國務院2023年度立法工作計劃》還將人工智能法草案列為預備提請全國人大常委會審議項目，說明相關立法已提上日程,。

武長海表示,，人工智能法應當是綜合性立法，會涉及刑事責任,、行政責任以及民事責任,，還可能涉及消費者權益保護以及反不正當競爭、反壟斷等,?！暗罱K也可能是原則性規(guī)定，實現(xiàn)和已有法律規(guī)范的有效銜接,?！?/p>

“人工智能法可能會將打擊跨境違法犯罪行為作為重要因素，加強與反電信網(wǎng)絡詐騙法、反洗錢法,、數(shù)據(jù)安全法的體系協(xié)同,，通過建立區(qū)域合作、國際公約等方式打擊利用人工智能的違法犯罪行為,，設定更有利于獲取跨境犯罪證據(jù)的規(guī)則,。”北京揚濤律師事務所主任楊濤表示,。

但也有人擔心較強的監(jiān)管會阻礙AI技術的發(fā)展,。對此，北京中科晶上副總經(jīng)理楊小軍對《證券日報》記者說：“現(xiàn)有的以及還在計劃中的規(guī)范與監(jiān)管,，主要在于抑制AI技術帶來的負面效應,，并不會限制技術發(fā)展。更為嚴苛的監(jiān)管是用技術對技術進行管控,，但這也需要技術進步到一定程度才行,。”

來源：證券日報