隨著人工智能的發(fā)展迭代,，生成式AI正以前所未有的速度重塑著日常生活，但由此衍生出的新騙局,、新套路也在刷新人們對風險防范的認知。

9塊9使用ChatGPT,？

其實是“套殼AI”

2023年2月,，一個名為“ChatGPT在線”的公眾號引起了上海市徐匯區(qū)市場監(jiān)管部門的注意。

這個頭像與ChatGPT原開發(fā)公司官方標識高度相似的公眾號,，在用戶短暫免費體驗后即需注冊會員付費使用,，支付9.9元可以對話20次，隨著對話次數(shù)增加,，其收費也逐步提高,。

執(zhí)法人員調(diào)查發(fā)現(xiàn)，該公眾號的運營公司與實際ChatGPT開發(fā)公司并無關聯(lián),。所謂“ChatGPT在線”也并非“ChatGPT”產(chǎn)品本身,。

像這樣“冒牌AI”的現(xiàn)象并不少見。2023年,，百度“文心一言”上市前夕,，網(wǎng)上出現(xiàn)大量打著“文心一言”旗號的社交媒體賬號。隨后百度官方發(fā)文辟謠稱“文心一言”尚未注冊社交賬號,。

“人工智能大模型開源生態(tài)的建立，讓AI發(fā)展加速的同時也讓生成式AI更容易被濫用,?！敝袊姓▽W研究會常務理事、華東政法大學教授沈?？≌J為,，考慮到立法的滯后性，監(jiān)管部門還需更加關注新技術發(fā)展對市場端的影響,，加大事前監(jiān)管力度,，充分運用現(xiàn)有的法律法規(guī)資源實施有效監(jiān)管，切莫使新問題隱匿在“監(jiān)管盲區(qū)”,。

“AI換臉”詐騙

眼見不一定為實

2023年4月,，福建省某科技公司法定代表人郭先生接到“好友”的微信視頻通話，對方聲稱自己當下需要430萬元保證金用以項目競標,，想借用郭先生公司的賬戶“走個賬”,。因為有先前的視頻通話，加之對“好友”的信任,，郭先生陸續(xù)給對方轉(zhuǎn)賬共計430萬元,。隨后郭先生再次聯(lián)系好友時才發(fā)現(xiàn)自己被騙。所幸在警方幫助下,，成功止付攔截336.84萬元,。

據(jù)郭先生回憶，由于在視頻電話中確認了對方的面孔和聲音,，所以毫不懷疑對方身份有詐,。不僅如此，犯罪分子還精準了解郭先生與好友的關系,，并成功盜取好友微信賬號實施詐騙,，令人不寒而栗。

不少業(yè)內(nèi)專家表示,，隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現(xiàn),，人們可能陷入“眼見也不一定為實”的困局?！耙恢币詠?，銀行等部門將實時視頻用做檢驗身份的手段之一，如今其可靠性將面臨巨大挑戰(zhàn),?！鄙蚋？≌f,，“隨著人工智能技術的迭代升級,，這類違法行為還可能演變出更多形態(tài),。”

從消費者角度出發(fā),，沈?？〗ㄗh提升全民個人信息保護意識，謹防隱私泄露,?！安还苁窃诨ヂ?lián)網(wǎng)上還是社交軟件上，盡量避免過多地暴露自己的信息,，在涉及轉(zhuǎn)賬交易等行為時，可以多角度詢問身份信息,，反復驗證對方是否為本人,。”

警惕“AI造謠”

小心“流量”變“流毒”

2023年6月,，一條名為《浙江工業(yè)園現(xiàn)大火濃煙滾滾,，目擊者稱有爆炸聲！》的視頻在網(wǎng)絡上流傳,，引發(fā)網(wǎng)友關注,。后經(jīng)相關部門核實為謠言。據(jù)調(diào)查,，當事人為給自己賬號漲粉引流,，獲取更多利益，通過非法渠道購買了AI視頻生成軟件,。該當事人將網(wǎng)絡熱門話題通過AI自動生成視頻產(chǎn)品,，并上傳至多個熱門視頻平臺。

截至案發(fā),，相關當事人發(fā)布的虛假視頻多達20余條,，涉及浙江、湖南,、上海,、四川等多個省市，累計閱讀觀看量超過167萬次,。目前浙江紹興上虞法院已開庭審理并當庭宣判了這起案件,，兩名被告均被判處有期徒刑。

技術的普及帶動自媒體產(chǎn)業(yè)的繁榮,。但一些網(wǎng)民為獲取流量不惜利用技術手段編造生成虛假視頻,，讓“AI謠言”在網(wǎng)絡上傳播，不僅給網(wǎng)絡安全帶來嚴峻挑戰(zhàn),，也嚴重擾亂社會秩序,。

2023年,，最高人民法院、最高人民檢察院,、公安部聯(lián)合發(fā)布的《關于依法懲治網(wǎng)絡暴力違法犯罪的指導意見》中規(guī)定,，對“利用‘深度合成’等生成式人工智能技術發(fā)布違法信息”的情形，依法從重處罰,。

來源：上海楊浦