繼AI拍照寫真軟件“妙鴨相機(jī)”一夜爆紅后,，一個基于AI技術(shù)克隆聲音的網(wǎng)站MyVocal.AI又火了一把,。

這款聲稱可免費克隆聲音的網(wǎng)站,，不但可以克隆聲音,，還可以利用克隆的聲音輸出音樂和流利口播。

雖然有不少年輕人玩起來了,，但更多的網(wǎng)友表達(dá)了擔(dān)憂，擔(dān)心這會給詐騙分子提供便利,。

只需花費9.9元，上傳二十幾張照片,，就能獲取一套人工智能生成的寫真集。日前,，“妙鴨相機(jī)”成為我國生成式人工智能領(lǐng)域的一個爆款應(yīng)用,。刷屏的同時,，妙鴨也刷出了用戶隱私保護(hù)、消費者權(quán)益保護(hù)等“暗雷”,。

人們對于“妙鴨相機(jī)”的大討論尚未結(jié)束，一個基于AI技術(shù)克隆聲音的網(wǎng)站MyVocal.AI又乘著AI的東風(fēng)小火了一把,。這個克隆聲音的網(wǎng)站有多神奇？可以在這里克隆你的聲音后生成歌曲,、口播語音,。此外,，讓它得到廣大網(wǎng)友“安利”的原因還在于，目前這個網(wǎng)站是可以免費使用的,。

△ MyVocal.AI 網(wǎng)站

8月3日,，現(xiàn)代快報記者登錄該網(wǎng)站，進(jìn)入后顯示有25個聲音樣本等待采集,，依次點擊聲音樣本,，朗讀樣本中的提示語句,，將25個樣本全部采集完成，就可以進(jìn)行聲音克隆,。在聲音克隆完成后，網(wǎng)友還可以前往各個模塊,，生成歌曲和口播語音。方法也很簡單,，選擇自己想唱的歌曲,，進(jìn)入后點擊“同步我的聲音”,，即可將原歌曲一鍵變?yōu)橛赡阊莩淖髌贰?/p>

△ 各種語音模板

免費玩家每月可享受2000個TTS（文字轉(zhuǎn)語音）,，每個TTS要在500個字符以內(nèi)。如果是人民幣玩家,，則可以享受到更廣范圍的服務(wù),。例如每月10元的標(biāo)準(zhǔn)玩家,，每月可以享受50000個TTS，每個TTS可擴(kuò)大至1000個字符,。每月30元的流行玩家，則每月享受120000個TTS,，每個TTS可擴(kuò)大至1500個字符。

這個克隆聲音的網(wǎng)站吸引了很多網(wǎng)友“嘗鮮”使用,，但在使用過程中，一些細(xì)心的網(wǎng)友注意到,，這個克隆聲音的網(wǎng)站，是個名副其實的“三無”網(wǎng)站,。

這個網(wǎng)站無備案號、無網(wǎng)絡(luò)經(jīng)營執(zhí)照、無審核管理方,，甚至網(wǎng)站上連運營方的名稱和聯(lián)系方式都沒有。網(wǎng)友們紛紛質(zhì)疑,，一個“三無”網(wǎng)站如何保證聲音采集后的安全性,？自己的聲音會不會被不法分子用作詐騙,？

今年5月，一個名為“AI孫燕姿”的虛擬歌手在視頻平臺上火啦,。這個虛擬歌手用孫燕姿的聲音翻唱了周杰倫、趙雷,、郭頂?shù)榷嗝枋值慕?jīng)典歌曲，讓網(wǎng)友們驚嘆不已,。隨著AI模擬人聲技術(shù)被廣泛使用,，在這個過程中,，AI技術(shù)也被有心之人利用，甚至做出違法的事,。

2023年6月，江蘇警方接到一工廠員工報警稱,，其同事可能遭遇詐騙。民警趕到現(xiàn)場時,，被騙女子情緒激動,，不愿配合調(diào)查,。民警一直堅持耐心勸導(dǎo)，終于在女子與騙子通話近3個小時后將其攔下,。掛斷騙子來電后，女子的哥哥就打來電話詢問是否要向其借錢,。民警立刻識破這是一種利用AI技術(shù)進(jìn)行詐騙的新方式,，騙子通過AI合成聲音，甚至影像,，向受害人親友借錢。同時在通話過程中,，騙子還盜取了女子的身份信息進(jìn)行網(wǎng)貸,。最終,，民警聯(lián)系網(wǎng)貸平臺中斷放款，成功為女子挽回5萬元損失,。

人工智能作為近幾年興起的領(lǐng)域，競爭激烈,，不少企業(yè)前赴后繼，想要在這個領(lǐng)域搶占先機(jī),，分一杯羹,，這也導(dǎo)致行業(yè)中魚龍混雜,，存在著對用戶隱私和消費者權(quán)益的潛在隱患。江蘇漫修律師事務(wù)所律師衡曉春建議,，國家應(yīng)盡快出臺詳細(xì)的法律法規(guī)，對其進(jìn)行約束和規(guī)范,。

“目前AI擬聲在法律層面,，尚未出臺明確的規(guī)定,。”衡曉春表示,，2023年5月23日，國家互聯(lián)網(wǎng)信息辦公室2023年第12次室務(wù)會會議審議通過《生成式人工智能服務(wù)管理暫行辦法》,，辦法中提到生成式人工智能，是指基于算法,、模型,、規(guī)則生成文本,、圖片、聲音,、視頻、代碼等內(nèi)容的技術(shù),。值得注意的是,，辦法中還明確,，對于生成式人工智能產(chǎn)品，提供者應(yīng)當(dāng)對生成的圖片,、視頻等內(nèi)容進(jìn)行標(biāo)識。

“但是對AI擬聲該如何保護(hù),，辦法中卻沒有明確提及?！焙鈺源航忉專k法只是籠統(tǒng)的規(guī)定,，當(dāng)發(fā)現(xiàn)、知悉生成的文本,、圖片、聲音,、視頻等侵害他人肖像權(quán),、名譽權(quán),、個人隱私,、商業(yè)秘密，或者不符合本辦法要求時,，應(yīng)當(dāng)采取措施,，停止生成，防止危害持續(xù),。衡曉春建議，“在未來,，還需要對不同主體進(jìn)行更加明晰的責(zé)任認(rèn)定，最好細(xì)化到對于用戶聲音的采集和AI擬聲內(nèi)容生成,、發(fā)布的每一個階段,?！?/strong>