隨著人工智能的發(fā)展迭代,,生成式AI正以前所未有的速度重塑著日常生活,,但由此衍生出的新騙局,、新套路也在刷新人們對風險防范的認知,。
9塊9使用ChatGPT,?
其實是“套殼AI”
2023年2月,,一個名為“ChatGPT在線”的公眾號引起了上海市徐匯區(qū)市場監(jiān)管部門的注意,。
這個頭像與ChatGPT原開發(fā)公司官方標識高度相似的公眾號,,在用戶短暫免費體驗后即需注冊會員付費使用,支付9.9元可以對話20次,,隨著對話次數增加,,其收費也逐步提高。
執(zhí)法人員調查發(fā)現,,該公眾號的運營公司與實際ChatGPT開發(fā)公司并無關聯,。所謂“ChatGPT在線”也并非“ChatGPT”產品本身。
像這樣“冒牌AI”的現象并不少見,。2023年,,百度“文心一言”上市前夕,網上出現大量打著“文心一言”旗號的社交媒體賬號,。隨后百度官方發(fā)文辟謠稱“文心一言”尚未注冊社交賬號,。
“人工智能大模型開源生態(tài)的建立,,讓AI發(fā)展加速的同時也讓生成式AI更容易被濫用?!敝袊姓▽W研究會常務理事,、華東政法大學教授沈??≌J為,考慮到立法的滯后性,,監(jiān)管部門還需更加關注新技術發(fā)展對市場端的影響,,加大事前監(jiān)管力度,充分運用現有的法律法規(guī)資源實施有效監(jiān)管,,切莫使新問題隱匿在“監(jiān)管盲區(qū)”,。
“AI換臉”詐騙
眼見不一定為實
2023年4月,福建省某科技公司法定代表人郭先生接到“好友”的微信視頻通話,,對方聲稱自己當下需要430萬元保證金用以項目競標,,想借用郭先生公司的賬戶“走個賬”。因為有先前的視頻通話,,加之對“好友”的信任,,郭先生陸續(xù)給對方轉賬共計430萬元。隨后郭先生再次聯系好友時才發(fā)現自己被騙,。所幸在警方幫助下,,成功止付攔截336.84萬元。
據郭先生回憶,,由于在視頻電話中確認了對方的面孔和聲音,,所以毫不懷疑對方身份有詐。不僅如此,,犯罪分子還精準了解郭先生與好友的關系,,并成功盜取好友微信賬號實施詐騙,令人不寒而栗,。
不少業(yè)內專家表示,,隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現,人們可能陷入“眼見也不一定為實”的困局,?!耙恢币詠恚y行等部門將實時視頻用做檢驗身份的手段之一,,如今其可靠性將面臨巨大挑戰(zhàn),。”沈??≌f,,“隨著人工智能技術的迭代升級,這類違法行為還可能演變出更多形態(tài),?!?/p>
從消費者角度出發(fā),沈福俊建議提升全民個人信息保護意識,,謹防隱私泄露?!安还苁窃诨ヂ摼W上還是社交軟件上,,盡量避免過多地暴露自己的信息,在涉及轉賬交易等行為時,,可以多角度詢問身份信息,,反復驗證對方是否為本人?!?/p>
警惕“AI造謠”
小心“流量”變“流毒”
2023年6月,,一條名為《浙江工業(yè)園現大火濃煙滾滾,目擊者稱有爆炸聲,!》的視頻在網絡上流傳,,引發(fā)網友關注。后經相關部門核實為謠言,。據調查,,當事人為給自己賬號漲粉引流,獲取更多利益,,通過非法渠道購買了AI視頻生成軟件,。該當事人將網絡熱門話題通過AI自動生成視頻產品,并上傳至多個熱門視頻平臺,。
截至案發(fā),,相關當事人發(fā)布的虛假視頻多達20余條,涉及浙江,、湖南,、上海、四川等多個省市,,累計閱讀觀看量超過167萬次,。目前浙江紹興上虞法院已開庭審理并當庭宣判了這起案件,兩名被告均被判處有期徒刑,。
技術的普及帶動自媒體產業(yè)的繁榮,。但一些網民為獲取流量不惜利用技術手段編造生成虛假視頻,讓“AI謠言”在網絡上傳播,,不僅給網絡安全帶來嚴峻挑戰(zhàn),,也嚴重擾亂社會秩序。
2023年,,最高人民法院,、最高人民檢察院、公安部聯合發(fā)布的《關于依法懲治網絡暴力違法犯罪的指導意見》中規(guī)定,對“利用‘深度合成’等生成式人工智能技術發(fā)布違法信息”的情形,,依法從重處罰,。
來源:上海楊浦
免責聲明:本文來自網絡收錄或投稿,觀點僅代表作者本人,,不代表芒果財經贊同其觀點或證實其描述,,版權歸原作者所有。轉載請注明出處:http://lequren.com/1092752.html
溫馨提示:投資有風險,,入市須謹慎,。本資訊不作為投資理財建議。