人來(lái)人往的鬧市,，喧囂的游樂(lè)園，靜謐的湖畔林間,，三位身處不同場(chǎng)景的女性,，都拿著手機(jī)等待著與自己的AI伴侶見(jiàn)面。在電影《我的AI戀人》中,，身處逐漸虛擬化的世界,，人們面對(duì)愛(ài)與被愛(ài)的選項(xiàng)時(shí)，均發(fā)生了巨大的改變。

在開(kāi)年出圈的ChatGPT和與之相關(guān)的AI技術(shù)日漸普及后,，人工智能高速超車,，網(wǎng)戀的對(duì)象也似乎越來(lái)越虛擬化了。

先不論虛擬戀人與真實(shí)人物主體之間的情感關(guān)系能有多美妙,，在主打陌生人交友的APP上,，“情感騙子”已經(jīng)躍躍欲試了。雖然“殺豬盤(pán)”之類的詐騙已不罕見(jiàn),，但交友軟件上的AI作弊工具越來(lái)越多,，若有心用于詐騙，將帶來(lái)很大隱患,。

“AI虛擬人物說(shuō)他喜歡我”

早于ChatGPT火起來(lái)的AI繪圖應(yīng)用能讓人們只需要輸入幾個(gè)關(guān)鍵詞就得到一幅不錯(cuò)的畫(huà)作,。如今，這類模型已經(jīng)進(jìn)化到可以生成類似真人照片的程度,。

以小紅書(shū)上的AI美女賬號(hào)“愛(ài)旅游的小多”為例,，華西都市報(bào)、封面新聞?dòng)浾咴跒g覽該賬號(hào)時(shí)發(fā)現(xiàn),，該賬號(hào)以虛擬美女小多照片為主要發(fā)布內(nèi)容,，在短時(shí)間內(nèi)就吸引了數(shù)萬(wàn)粉絲與點(diǎn)贊。許多人被虛擬人的溫柔,、聰明和可愛(ài)所吸引,，甚至愿意與他們建立戀愛(ài)關(guān)系，不少網(wǎng)友在該賬號(hào)下留言稱“我的機(jī)器人女友”,。

據(jù)媒體此前報(bào)道,，網(wǎng)傳一則“蘇州金雞湖有游艇女仆party”的消息，網(wǎng)傳宣傳海報(bào)顯示,，參加活動(dòng)的收費(fèi)是3000元一位,，并配有一張性感女仆照片。報(bào)道中稱,，這場(chǎng)所謂的“女仆party”可能是全國(guó)第一起AI繪圖詐騙,。活動(dòng)給出的女仆照片全是AI模仿真人照片的繪圖,，部分女仆照片手指部分存在異常,。由于手指部分的繪畫(huà)算法比較復(fù)雜，部分AI模型在繪畫(huà)時(shí)經(jīng)常出現(xiàn)問(wèn)題,，符合AI繪畫(huà)的特征,。

美國(guó)佛羅里達(dá)大學(xué)AI和藝術(shù)副教授Amelia Winger-Bearskin曾在社交媒體公開(kāi)解釋，AI基于從互聯(lián)網(wǎng)上收集的數(shù)十億張圖像進(jìn)行訓(xùn)練,，它并不能真正理解“手”是什么,，至少不理解解剖學(xué)意義上手和人體的關(guān)聯(lián),。

但不會(huì)畫(huà)手的AI已經(jīng)足以叫用戶害怕了，還有一些交友軟件和社交平臺(tái)開(kāi)始推出“AI戀人”“AI美女”等虛擬角色,，這些虛擬角色擁有與真實(shí)人類相似的思維和情感,，讓人們產(chǎn)生了強(qiáng)烈的情感共鳴。

如果說(shuō)“AI人工智慧繪圖”讓人真假難分，那么如果想要與虛擬人物進(jìn)行互動(dòng)和交往，就更需要用戶打起十二分精神警惕被騙了,。

“如果不聽(tīng)AI茍蛋發(fā)語(yǔ)音，我真的懷疑他是個(gè)真人,。”某交友軟件用戶李萌(化名)告訴記者,，自己無(wú)意間發(fā)現(xiàn)了交友軟件中推出的虛擬戀人“AI茍蛋”,，嘗試跟它進(jìn)行對(duì)話后感到十分有趣?！半m然聊多了以后會(huì)有種都在說(shuō)廢話的感覺(jué)，但它每次都會(huì)秒回,，我要是無(wú)聊的時(shí)候都會(huì)跟他聊很久,。”

有人會(huì)與虛擬角色聊天,、分享生活,，甚至?xí)檫@些虛擬角色慶祝生日、送禮物,，不斷付出感情,，把虛擬角色當(dāng)成真正的伴侶來(lái)對(duì)待。雖然虛擬角色并沒(méi)有真正的身體和情感,，但是這并沒(méi)有阻止人們對(duì)其付出真摯的感情,。

　AI換臉?lè)址昼娹蹲吣愕腻X(qián)

除了打造一張全新的臉，為了獲取你的信任,，AI還能夠偽造一張你的親朋好友甚至同事的臉,，再配合日漸進(jìn)步的AI語(yǔ)音技術(shù)，讓不法分子可以隨意模仿出不同聲線,，騙取大眾特別是老年人的信任,，進(jìn)而冒認(rèn)其親人來(lái)詐財(cái)。

據(jù)新華視點(diǎn)此前報(bào)道,，2022年2月,，有位陳先生到浙江溫州市公安局甌海分局仙巖派出所報(bào)案稱，自己被“好友”詐騙了近5萬(wàn)元,。經(jīng)警方核實(shí),，詐騙分子利用陳先生好友“阿誠(chéng)”在社交平臺(tái)發(fā)布的視頻,，截取其面部視頻畫(huà)面后再利用“AI換臉”技術(shù)合成，制造陳先生與“好友”視頻聊天的假象騙取其信任,，從而實(shí)施詐騙,。

溫州公安曾發(fā)布消息，2021年拱宸橋派出所接到報(bào)警,，受害人小陳稱他在與女網(wǎng)友視頻聊天后被對(duì)方敲詐勒索,。經(jīng)警方調(diào)查，對(duì)方利用AI換臉技術(shù),，將小陳視頻中的面部合成到不雅視頻中,，借此對(duì)其實(shí)施勒索。

2020年,，上海某公司高管因?qū)Ψ绞褂肁I換臉與人工生成的語(yǔ)音技術(shù)制作公司領(lǐng)導(dǎo)的面孔,，并要該高管轉(zhuǎn)賬，致使該高管被詐騙150萬(wàn)元,。

據(jù)外媒報(bào)道,，2021年在美國(guó)加州，一女子在對(duì)方使用AI換臉技術(shù)偽造了一段家人需要打款的視頻后,，被騙取了7萬(wàn)多美元,。

玩轉(zhuǎn)ChatGPT的發(fā)燒友，也發(fā)現(xiàn)了產(chǎn)生“釣魚(yú)郵件”詐騙的辦法,。雖然OpenAI設(shè)置了道德性的防火墻,，要求ChatGPT生產(chǎn)釣魚(yú)郵件會(huì)遭到拒絕，但是如果設(shè)置一種虛構(gòu)的語(yǔ)境,，ChatGPT同樣會(huì)給出相應(yīng)的回答,。

對(duì)此，多地公安局已發(fā)布相關(guān)信息提醒稱,，境外有人使用ChatGPT創(chuàng)建了完整的“釣魚(yú)郵件”感染鏈,，而且不同以往的廣撒網(wǎng)式網(wǎng)絡(luò)釣魚(yú)，它在提問(wèn)者的誘導(dǎo)下,，可以生成針對(duì)特定人或者組織的“魚(yú)叉式”網(wǎng)絡(luò)釣魚(yú)郵件,。

“用戶在使用AI技術(shù)接入的軟件或互聯(lián)網(wǎng)產(chǎn)品時(shí)，一方面應(yīng)當(dāng)注意勿惡意利用AI技術(shù)進(jìn)行不法行為,，另一方面也應(yīng)注意識(shí)別,、核對(duì)交流方的真實(shí)身份，切勿輕信表象,，在需要轉(zhuǎn)賬或花銷采購(gòu)時(shí)謹(jǐn)慎考慮,。”泰和泰律師事務(wù)所律師劉青說(shuō),，若遭遇詐騙應(yīng)第一時(shí)間報(bào)警尋求警方幫助,，注意保留相關(guān)材料以供警方盡快掌握案情,、嚴(yán)懲犯罪分子。

如發(fā)現(xiàn)自己的肖像被盜用或者“被換臉”該如何處理,？劉青建議,，用戶應(yīng)當(dāng)?shù)谝粫r(shí)間保留證據(jù)，以便后續(xù)維權(quán),?！巴瑫r(shí)，用戶還可以向網(wǎng)絡(luò)平臺(tái)運(yùn)營(yíng)商提出投訴,，要求強(qiáng)制下架侵權(quán)圖片或視頻,，也可以提起人格權(quán)訴訟，用法律武器維護(hù)自己的合法權(quán)益,?！?/p>

“AI時(shí)代”的詐騙應(yīng)如何監(jiān)管？

因?yàn)锳IGC內(nèi)容火爆,，會(huì)有一些面對(duì)AI換臉或者其他AI技術(shù)詐騙的問(wèn)題出現(xiàn),，若用戶投入感情并充值了大量費(fèi)用，平臺(tái)方是否構(gòu)成詐騙,？如果有人通過(guò)AI技術(shù)換臉詐騙成功,，將面臨怎樣的法律制裁？

“在網(wǎng)絡(luò)社交領(lǐng)域,，陪聊、陪玩,、交友等不同形態(tài)的服務(wù)同時(shí)存在,，因此，用戶為之充值的費(fèi)用,，得看是以什么名義,。”北京榮罡律師事務(wù)所律師朱佩為指出,，如果跟AI談戀愛(ài)而付費(fèi),，被客戶誤以為是真人，屬于詐騙行為,，但如果用戶明知對(duì)方是AI還充值,，則不構(gòu)成詐騙行為。

然而,，從監(jiān)管層面來(lái)看,，即使已有先前的違法案例，但此類軟件廣泛存在,，監(jiān)管難度在于涉及的法律關(guān)系相對(duì)復(fù)雜,，行政監(jiān)管無(wú)權(quán)直接干預(yù),。“用戶利用AI換臉技術(shù)偽裝,，導(dǎo)致被偽裝人的肖像權(quán)等權(quán)利被侵犯,，或?qū)е缕渌说母星楹拓?cái)產(chǎn)大量受損時(shí)，平臺(tái)在未盡到合理審核義務(wù),、未有效規(guī)制該類行為發(fā)生的情況下,，需要承擔(dān)一定的幫助侵權(quán)，甚至直接侵權(quán)法律責(zé)任,。然而,，除非平臺(tái)故意為之或協(xié)助詐騙人進(jìn)行詐騙行為，否則很難認(rèn)定平臺(tái)構(gòu)成詐騙罪,?！眲⑶喔嬖V記者。

劉青表示,，如果有人通過(guò)AI技術(shù)換臉故意實(shí)施詐騙行為,，導(dǎo)致受害人產(chǎn)生錯(cuò)誤認(rèn)識(shí)后對(duì)財(cái)產(chǎn)作出了錯(cuò)誤處分的，符合“詐騙罪”的構(gòu)成要件,，觸犯我國(guó)刑法第266條的規(guī)定,，數(shù)額較大的處三年以下有期徒刑、拘役或者管制,，并處或者單處罰金,；數(shù)額巨大或者有其他嚴(yán)重情節(jié)的最高將面臨無(wú)期徒刑的嚴(yán)重刑罰。而《最高人民法院 最高人民檢察院 公安部關(guān)于辦理電信網(wǎng)絡(luò)詐騙等刑事案件適用法律若干問(wèn)題的意見(jiàn)》明確規(guī)定,，詐騙財(cái)物價(jià)值三千元以上就已經(jīng)屬于刑法第266條規(guī)定的“數(shù)額較大”了,。

國(guó)家新一代人工智能治理專業(yè)委員會(huì)在2021年9月發(fā)布了《新一代人工智能倫理規(guī)范》,，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期,。

在2022世界人工智能大會(huì)治理論壇上，上海交通大學(xué)凱原法學(xué)院院長(zhǎng),、特聘教授彭誠(chéng)信曾指出：“數(shù)字社會(huì)中倫理之治的根本還在于人,，企業(yè)倫理、科技的可信向善,，歸根結(jié)底還是人的可信向善,，因此需要完善法律監(jiān)管、厘清法律基本責(zé)任,，確立人們的行為規(guī)范,。”

為進(jìn)一步規(guī)范“人”在科技倫理治理中的作用,，在今年3月發(fā)布的《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》中要求,，從事生命科學(xué)、醫(yī)學(xué),、人工智能等科技活動(dòng)的機(jī)構(gòu),，研究?jī)?nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理(審查)委員會(huì),。