一位老人接到電話,，對方自稱是其戰(zhàn)友,，說自己因生病想借錢。老人熟悉這位戰(zhàn)友的聲音，先后匯款2000元,、8000元到對方銀行賬戶,。沒想到，錢剛到對方賬戶,，“戰(zhàn)友”就消失了,，老人這才發(fā)現(xiàn)自己被騙了……近日，一則“聲音合成”騙局登上了熱搜,。隨著AI（人工智能）合成技術(shù)日益發(fā)展,，一些不法分子也開始利用其向老年人實施詐騙?！癆I換臉換聲”難度大嗎,？能有多逼真？記者進行了調(diào)查,。詐騙“外孫”打電話來要錢“你姥姥接到了一個電話,，是你表哥的聲音，說是闖了禍,，問你姥姥,、姥爺要錢?！辈痪们埃趪饬魧W的小張從媽媽口中得知,，姥姥接到了一通電話,，有人用“表哥”的聲音說，自己把同學打進醫(yī)院了,，要賠十幾萬元,。“表哥”以此向姥姥,、姥爺要錢,，還讓他們千萬不要告訴自己的媽媽——也就是小張的大姨?！拔依牙?、姥爺大吃一驚，但還是信了,。不過,，覺得不能不告訴其他人，于是告訴了我媽,?！毙埥忉尩溃瑑晌焕先巳粘Ｊ仟氉陨睿挥行埖哪赣H每周去看望幾次,。由于兩位老人習慣于什么電話都接,，此前就遇到過詐騙電話，這讓一家人始終提心吊膽,。小張覺得電話那頭是騙子,，“聲音肯定是合成的”。初步推斷后,，小張給正在外地上學的表哥打了多個電話,，終于取得了聯(lián)系。原來,，表哥正平安無事地打著游戲,，對于姥姥接到的電話也全然不知?！澳蔷褪球_子無疑了,。”小張叮囑表哥親自給姥姥,、姥爺打了電話,，向他們說清楚來要錢的并不是他本人?！拔掖笠桃泊蛄艘粋€電話,，告訴他們涉及錢的事情肯定是由大人來說的，這樣的電話不要信,?！薄半u飛狗跳折騰了一圈，安撫了惴惴不安的我媽,，叮囑了不聽勸的姥姥,、姥爺。一到涉及晚輩的事,，這兩位知識分子就跟喝了迷魂湯似的,。”小張無奈地說,?！拔掖髮W同學還被合成過視頻通話?！背恕癆I合成語音詐騙”,，欺騙性更強的“AI合成視頻詐騙”則更讓人擔憂。對于這些針對老年人騙局,，小張感到十分憤怒,，但又不知該如何杜絕,。亂象假博主只為真“圈錢”保護好了手機號，就能避免被人利用AI技術(shù)“圈錢”嗎,？在互聯(lián)網(wǎng)上,，還有很多博主利用假視頻來吸引流量、虛假宣傳,?！坝懈獾哪棠棠鷣砹恕币粋€幼童雙手合十，講著一大段“正能量”語錄,，這樣不符合常理的視頻,，卻獲得頗高人氣。打開評論區(qū),，有不少頭像為中老年人的賬號留言稱贊“小孫子說得好”,。“這類視頻播放量高,，漲粉快,。”相關(guān)視頻博主介紹,，除了兒童形象,，智者老人、外國人等形象說語錄的視頻也受歡迎,?！胺劢z以中老年人為主?！薄昂芏嗳藛栁?，為什么不回國發(fā)展，要在中國待著……”視頻中,，一位名叫“Wendy”的“外國女孩”用流利的中文侃侃而談。和她用著“同一張臉”的賬號有好幾個,，有的叫“阿琳娜”,，有的叫“娜塔莎”。事實上,，這些賬號的“臉”都來自一位烏克蘭網(wǎng)紅博主Olga Loiek,。不久前，Olga Loiek發(fā)布視頻稱,，她的面孔被他人盜用,，并利用AI技術(shù)生成了視頻。自稱為“俄羅斯女孩”的賬號,，其實發(fā)布的是AI生成的視頻在短視頻平臺上,，這類假冒外國人的賬號還有不少。他們或發(fā)表雞湯語錄,，或討論爭議性話題,，以此為噱頭來吸粉。3月27日,，抖音發(fā)布《關(guān)于不當利用AI生成虛擬人物的治理公告》,，針對站內(nèi)仍有不當使用AI技術(shù)生成虛擬人物發(fā)布內(nèi)容的賬號進行處置。但目前平臺上依然存在相關(guān)賬號和視頻,。點進這些賬號的主頁,，其中很多寫著“收徒”“合作”，并附有聯(lián)系方式,。記者加上一個微信后,，對方發(fā)來了數(shù)字人生成教程的信息，其中包括AI最新玩法等內(nèi)容,，報價1288元,。這位商家還向記者強調(diào)，AI和短視頻結(jié)合的“威力”很大,?！艾F(xiàn)在流量就是鈔票，你會搞流量還怕不能盈利嗎,？”記者注意到,，此類賬號靠虛假視頻騙取信任，積累一定量粉絲后,，往往就開啟了帶貨之路,。有些“博主”出售各類生活用品和食品，還有博主賣起了所謂的“保健食品”,。其中,，有賬號出售的一款氨基酸復合維生素，頁面中宣傳“喚醒肌膚彈力”“暢享年輕態(tài)”等作用,，暗示有美容等功效,。從商品詳情可以看出，該產(chǎn)品為特殊膳食用食品,，是為了滿足特殊人群的營養(yǎng)而專門加工的食品,，專為特定人群提供營養(yǎng)，并非是保健食品,。體驗一句話即可克隆聲音利用AI技術(shù)來換臉換聲,、合成視頻的難度大嗎？實際上,，使用門檻和技術(shù)門檻都不高,。記者以“AI克隆聲音”“AI視頻生成”等為關(guān)鍵詞在電商平臺搜索,，出現(xiàn)不少提供相關(guān)服務的商家。有些提供專業(yè)的聲音定制模型,，價格需要幾百元到數(shù)千元不等,。有些則直接出售相關(guān)教程，部分價格低至9.8元,。商家表示,，這類教程適合于對AI這類工具感興趣的人，并且愿意學習和摸索,。利用相關(guān)軟件，任意一句話即可克隆聲音即便是沒有任何技術(shù)背景也沒關(guān)系,，目前市面上已經(jīng)有多款軟件可以快速實現(xiàn)AI換臉,、AI克隆聲音、數(shù)字人生成等功能,。在一些主流的拍照,、視頻軟件中，也推出換臉特效,，只要上傳自己的照片,，就可以生成換臉照片、視頻,。在一款生成視頻數(shù)字人的軟件中,，提供了電商、金融理財,、醫(yī)療保健,、教育培訓等領(lǐng)域的數(shù)字人視頻素材，輸入文字即可合成配音,。此外,，還可以利用照片定制專屬的數(shù)字人形象，生成視頻,。在一款生成視頻數(shù)字人的軟件中，提供了醫(yī)療保健等領(lǐng)域的數(shù)字人視頻素材這類幾分鐘即可生成的AI換臉視頻,、數(shù)字人視頻制作較為粗糙，看起來“一眼假”,，但卻在很多短視頻平臺上被網(wǎng)友信以為真,。一位制作相關(guān)視頻的博主直言：“很多中老年人根本分辨不出來?！盇I克隆聲音實現(xiàn)起來更為簡單,。記者下載了一款可以AI克隆聲音的軟件,。打開后根據(jù)提示，只需要提供某人一句話的聲音素材,，即可生成“專屬克隆聲音”,，隨后輸入任何文字，發(fā)出的都是這個人的聲音,。記者體驗發(fā)現(xiàn),，多款軟件都可以輕松克隆。盡管有部分軟件提示“若使用他人聲音,，請確認已獲取他人授權(quán)”,，但平臺并無法限制聲音來源。測試10位老人均未能分辨“雖然聽說過這種克隆語音,，但真能做成和真人一樣嗎,？我有點不信?！庇浾咴诓稍L中了解到,，有不少老人沒聽過AI合成的聲音，想象不出其與真人說話的相似程度,。為此,，記者利用三款不同的軟件，分別生成了一段語音,，又錄制了一段真人語音,，隨機向10位老人進行了測試?！暗谝欢瓮θ岷偷?，像是真人說話”“最后一段接近人的嗓音”……老人們聽完四段語音，從中選擇“真人聲音”,，并且給出了判斷的理由,。結(jié)果顯示，參與測試的老人都沒能在四段語音中成功辨別出“真人”,。即便是熟悉的人的聲音,，老人也很容易被迷惑。記者特意用蔡大爺孫女的聲音,，同樣制作了一組語音來測試,。第一段合成語音播放后，蔡大爺立刻說：“這是我孫女說的,！”四段語音播放完畢,，蔡大爺對每一段都感到熟悉和親切，“我聽著都是她真人說的,，不像用電腦合成的,?！盇I合成的聲音、照片,、視頻，有辦法辨別嗎,？記者了解到，語音可以流暢度,、自然度來分辨出來，照片,、視頻則可以通過瞳孔,、耳朵等細節(jié)來判定。不過,，據(jù)多位AI技術(shù)從業(yè)人員介紹,，隨著技術(shù)發(fā)展，此前常被用于判斷真實性的“手部不自然”“光線錯亂”等問題,，正在逐漸得到改善,，“現(xiàn)在越來越真了?！痹趯嶋H生活中,，老年人也很難按照這樣的標準來判斷。王阿姨表示,，由于自己聽力不好,，電話里的聲音聽不太清，如果遇到這樣相似的聲音,，很容易被蒙騙,。同樣的，王阿姨在和子女視頻時,，也只是看個大概,，“就看著大致的模樣是誰，哪兒仔細看過耳朵眼睛??！”“真是太危險了！”得知AI克隆聲音的步驟和效果后,，劉大爺感慨道,，如果接到了涉及資金往來的電話，一定得再打電話確認一下,。北京反詐中心官方公眾號也曾發(fā)布提醒,，在涉及到轉(zhuǎn)賬交易等行為時，要格外留意，可以通過電話,、視頻等方式確認對方是不是本人；在無法確認對方身份時,，可以將到賬時間設定為“2小時到賬”或者“24小時到賬”,，以預留處理時間。同時,，要謹防各種信息泄露,。