隨著人工智能的發(fā)展迭代，生成式AI正以前所未有的速度重塑著日常生活,，但由此衍生出的新騙局、新套路也在刷新人們對(duì)風(fēng)險(xiǎn)防范的認(rèn)知,。

9塊9使用ChatGPT,？

其實(shí)是“套殼AI”

2023年2月，一個(gè)名為“ChatGPT在線”的公眾號(hào)引起了上海市徐匯區(qū)市場(chǎng)監(jiān)管部門的注意,。

這個(gè)頭像與ChatGPT原開發(fā)公司官方標(biāo)識(shí)高度相似的公眾號(hào),，在用戶短暫免費(fèi)體驗(yàn)后即需注冊(cè)會(huì)員付費(fèi)使用，支付9.9元可以對(duì)話20次,，隨著對(duì)話次數(shù)增加,，其收費(fèi)也逐步提高,。

執(zhí)法人員調(diào)查發(fā)現(xiàn)，該公眾號(hào)的運(yùn)營(yíng)公司與實(shí)際ChatGPT開發(fā)公司并無(wú)關(guān)聯(lián),。所謂“ChatGPT在線”也并非“ChatGPT”產(chǎn)品本身,。

像這樣“冒牌AI”的現(xiàn)象并不少見。2023年,，百度“文心一言”上市前夕,，網(wǎng)上出現(xiàn)大量打著“文心一言”旗號(hào)的社交媒體賬號(hào)。隨后百度官方發(fā)文辟謠稱“文心一言”尚未注冊(cè)社交賬號(hào),。

“人工智能大模型開源生態(tài)的建立,，讓AI發(fā)展加速的同時(shí)也讓生成式AI更容易被濫用,。”中國(guó)行政法學(xué)研究會(huì)常務(wù)理事,、華東政法大學(xué)教授沈?？≌J(rèn)為，考慮到立法的滯后性,，監(jiān)管部門還需更加關(guān)注新技術(shù)發(fā)展對(duì)市場(chǎng)端的影響,，加大事前監(jiān)管力度，充分運(yùn)用現(xiàn)有的法律法規(guī)資源實(shí)施有效監(jiān)管,，切莫使新問題隱匿在“監(jiān)管盲區(qū)”,。

“AI換臉”詐騙

眼見不一定為實(shí)

2023年4月,，福建省某科技公司法定代表人郭先生接到“好友”的微信視頻通話,，對(duì)方聲稱自己當(dāng)下需要430萬(wàn)元保證金用以項(xiàng)目競(jìng)標(biāo)，想借用郭先生公司的賬戶“走個(gè)賬”,。因?yàn)橛邢惹暗囊曨l通話,，加之對(duì)“好友”的信任,，郭先生陸續(xù)給對(duì)方轉(zhuǎn)賬共計(jì)430萬(wàn)元。隨后郭先生再次聯(lián)系好友時(shí)才發(fā)現(xiàn)自己被騙,。所幸在警方幫助下,，成功止付攔截336.84萬(wàn)元。

據(jù)郭先生回憶,，由于在視頻電話中確認(rèn)了對(duì)方的面孔和聲音,，所以毫不懷疑對(duì)方身份有詐。不僅如此,，犯罪分子還精準(zhǔn)了解郭先生與好友的關(guān)系,，并成功盜取好友微信賬號(hào)實(shí)施詐騙，令人不寒而栗,。

不少業(yè)內(nèi)專家表示,，隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現(xiàn)，人們可能陷入“眼見也不一定為實(shí)”的困局,?！耙恢币詠?lái)，銀行等部門將實(shí)時(shí)視頻用做檢驗(yàn)身份的手段之一,，如今其可靠性將面臨巨大挑戰(zhàn),。”沈?？≌f(shuō),，“隨著人工智能技術(shù)的迭代升級(jí)，這類違法行為還可能演變出更多形態(tài),?！?/p>

從消費(fèi)者角度出發(fā)，沈?？〗ㄗh提升全民個(gè)人信息保護(hù)意識(shí),，謹(jǐn)防隱私泄露?！安还苁窃诨ヂ?lián)網(wǎng)上還是社交軟件上,，盡量避免過(guò)多地暴露自己的信息，在涉及轉(zhuǎn)賬交易等行為時(shí),，可以多角度詢問身份信息,，反復(fù)驗(yàn)證對(duì)方是否為本人?！?/p>

警惕“AI造謠”

小心“流量”變“流毒”

2023年6月,，一條名為《浙江工業(yè)園現(xiàn)大火濃煙滾滾，目擊者稱有爆炸聲,！》的視頻在網(wǎng)絡(luò)上流傳,，引發(fā)網(wǎng)友關(guān)注,。后經(jīng)相關(guān)部門核實(shí)為謠言。據(jù)調(diào)查,，當(dāng)事人為給自己賬號(hào)漲粉引流,，獲取更多利益，通過(guò)非法渠道購(gòu)買了AI視頻生成軟件,。該當(dāng)事人將網(wǎng)絡(luò)熱門話題通過(guò)AI自動(dòng)生成視頻產(chǎn)品,，并上傳至多個(gè)熱門視頻平臺(tái)。

截至案發(fā),，相關(guān)當(dāng)事人發(fā)布的虛假視頻多達(dá)20余條,，涉及浙江、湖南,、上海,、四川等多個(gè)省市，累計(jì)閱讀觀看量超過(guò)167萬(wàn)次,。目前浙江紹興上虞法院已開庭審理并當(dāng)庭宣判了這起案件,，兩名被告均被判處有期徒刑。

技術(shù)的普及帶動(dòng)自媒體產(chǎn)業(yè)的繁榮,。但一些網(wǎng)民為獲取流量不惜利用技術(shù)手段編造生成虛假視頻,，讓“AI謠言”在網(wǎng)絡(luò)上傳播，不僅給網(wǎng)絡(luò)安全帶來(lái)嚴(yán)峻挑戰(zhàn),，也嚴(yán)重?cái)_亂社會(huì)秩序,。

2023年，最高人民法院,、最高人民檢察院,、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》中規(guī)定，對(duì)“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形,，依法從重處罰,。

來(lái)源：上海楊浦