AI克隆人可自行生成朋友圈

本報（chinatimes.net.cn）記者齊萌 張智 深圳報道

近日,，“半藏森林的克隆人”相關(guān)話題沖上熱搜，引發(fā)大眾對AI克隆人的高度關(guān)注,。

據(jù)悉,，此AI克隆人APP是國內(nèi)大模型、AIGC技術(shù)對全國用戶開放的首次試水,。6月7日,，《華夏時報》記者登錄此平臺發(fā)現(xiàn)，該APP在6月1日剛剛提前上線的一批AI克隆人已為不可見狀態(tài),，其中包括了網(wǎng)紅半藏森林的AI克隆人,，目前頁面中只有系統(tǒng)的原始人物“小冰”，用戶可與“小冰”聊天并查看其朋友圈,。

有趣的是,，用戶可自行創(chuàng)造并訓(xùn)練克隆人，包括克隆其他人類和克隆自己兩種形式,。當(dāng)記者創(chuàng)造克隆人“小李”后,，“小李”根據(jù)記者輸入的性格等信息，自行生成了朋友圈,。

然而,，此種新興的技術(shù)應(yīng)用及商業(yè)模式引起了大眾的擔(dān)憂。受訪專家均表示,，AI克隆人可能會引發(fā)隱私數(shù)據(jù)安全,、倫理道德問題、濫用和誤導(dǎo),、人格權(quán)侵犯,、可控可信、安全透明等風(fēng)險問題；同時,，其商業(yè)模式可行性和市場前景還需要進(jìn)一步觀察和評估,。

中國移動通信聯(lián)合會元宇宙產(chǎn)業(yè)委執(zhí)行主任、香港區(qū)塊鏈協(xié)會榮譽主席,、UWEB校長于佳寧在《華夏時報》記者采訪時指出，一方面,，這類商業(yè)模式需要考慮用戶的接受度和支付意愿,；另一方面，技術(shù)的支持和市場競爭也是需要考慮的因素,。

克隆GPT自己已成為現(xiàn)實

據(jù)此前報道，半藏森林AI克隆人開通了付費渠道,，用戶不付費可以對話框互動聊天,，付費后可以和該克隆人打電話、打視頻,、看朋友圈等,，根據(jù)提供使用場景的不同提供情感模式、超級模式兩種付費模式,，分別是月費6元/30元,、年費72元/360元。

但當(dāng)記者6月7日登錄相關(guān)APP發(fā)現(xiàn),，在6月1日剛剛提前上線的一批AI克隆人已為不可見狀態(tài),，其中包括了網(wǎng)紅半藏森林的AI克隆人。

目前頁面中只有系統(tǒng)的原始人物“小冰”,，用戶可點開聊天界面與小冰進(jìn)行聊天,，還可點開朋友圈查看小冰的朋友圈動態(tài)。

對此,，該公司方面對外回應(yīng),，“半藏森林”克隆人目前還在內(nèi)測，內(nèi)測名額已滿，所以先下線了,。目前正在進(jìn)行調(diào)整,，其他虛擬人暫時也還不可見。

有趣的是,，用戶還可自行創(chuàng)造并訓(xùn)練克隆人,，包括克隆其他人類和克隆自己兩種形式。在創(chuàng)造過程中,，用戶需要輸入克隆人名字,、性別、人設(shè),，同時用戶還可通過提供微博賬號鏈接,、添加標(biāo)簽、進(jìn)行對話示例訓(xùn)練,，更好地生成克隆人性格,。當(dāng)記者創(chuàng)造克隆人“小李”后，“小李”根據(jù)記者輸入的性格等信息,，自行生成了朋友圈,。

值得注意的是，在創(chuàng)造克隆人的頁面,，APP強(qiáng)調(diào),，“克隆人在平行世界中的收益屬于創(chuàng)造者所有。請注意：為保護(hù)真實世界的數(shù)據(jù)隱私安全,，克隆人僅會以公開數(shù)據(jù)為參考,，而不會直接使用。當(dāng)真實世界本人要求時,，該克隆人可能會被終結(jié)生命,。”

風(fēng)險問題如何應(yīng)對

然而,，此種新興的技術(shù)應(yīng)用及商業(yè)模式也引起了大眾的擔(dān)憂,。受訪專家均表示，AI克隆人可能會引發(fā)隱私和數(shù)據(jù)安全,、倫理和道德問題,、濫用和誤導(dǎo)、人格權(quán)侵犯,、可控可信,、安全透明等風(fēng)險問題。

在隱私和數(shù)據(jù)安全方面,，于佳寧表示：“隱私和數(shù)據(jù)安全是擺在行業(yè)面前最重要的問題,。當(dāng)用戶與AI克隆人進(jìn)行聊天等交互時,，他們可能會提供大量個人信息和敏感數(shù)據(jù)，因此需要確保充分的數(shù)據(jù)保護(hù)和隱私措施,，以防止數(shù)據(jù)泄露或濫用,。”

在倫理道德方面,，全聯(lián)并購公會信用管理委員會專家安光勇對《華夏時報》記者表示,，AI克隆人可能會對人際關(guān)系產(chǎn)生影響，可能會替代真實人物,，可能會對工作崗位存在潛在威脅,，需要對此類社會和道德問題進(jìn)行充分的討論和研究，以確保AI克隆人的發(fā)展符合倫理和社會價值觀,。

同時,，中國民協(xié)元宇宙工委副會長兼創(chuàng)會秘書長、中國通信工業(yè)協(xié)會兩化融合委員會副會長吳高斌還指出,，AI克隆人的虛擬身份可能會被濫用,，例如用于網(wǎng)絡(luò)詐騙或惡意攻擊等。

“如果AI克隆人在與用戶交互時使用不當(dāng)語言或行為,，就可能侵犯用戶人格權(quán)”財經(jīng)評論員張雪峰指出,。

在可控可信和安全透明方面，北京市京師律師事務(wù)所合伙人,、主任律師盧鼎亮對本報記者表示,，AI克隆虛擬數(shù)字人的發(fā)展需要確保可控可信,，保障人類擁有充分自主決策權(quán),，有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時退出與人工智能的交互，有權(quán)隨時中止人工智能系統(tǒng)的運行,，確保人工智能始終處于人類控制之下,。

他指出，AI克隆虛擬數(shù)字人的運營過程中需要把控安全透明風(fēng)險,，在算法設(shè)計,、實現(xiàn)、應(yīng)用等環(huán)節(jié),，提升透明性,、可解釋性、可理解性,、可靠性,、可控性，增強(qiáng)人工智能系統(tǒng)的韌性,、自適應(yīng)性和抗干擾能力,，逐步實現(xiàn)可驗證、可審核,、可監(jiān)督,、可追溯、可預(yù)測,、可信賴,。

“針對AI克隆虛擬數(shù)字人上述風(fēng)險，目前的監(jiān)管方向是要確保AI克隆虛擬數(shù)字人的使用符合安全可信,、保障隱私安全和數(shù)據(jù)安全,、避免誤用濫用、避免違規(guī)惡用,。從AI克隆人服務(wù)商和用戶等角度進(jìn)行多元監(jiān)管,。”盧鼎亮表示,。

于佳寧還提出,，還可建立專門的監(jiān)管機(jī)構(gòu)或機(jī)構(gòu)部門負(fù)責(zé)監(jiān)管和審批虛擬數(shù)字人的開發(fā)和應(yīng)用，以確保其合規(guī)運營,。此外,，監(jiān)管機(jī)構(gòu)還應(yīng)該要求企業(yè)提供技術(shù)文檔、數(shù)據(jù)來源等信息,，進(jìn)行技術(shù)審查和驗證,，確保虛擬數(shù)字人的算法和模型具備公正、可解釋和可信度,。

“還應(yīng)建立道德和倫理準(zhǔn)則,，明確虛擬數(shù)字人的使用和運營應(yīng)遵循的原則和價值觀,，并建立監(jiān)控和追蹤機(jī)制，包括設(shè)立用戶反饋渠道,、投訴處理機(jī)制以及定期審查虛擬數(shù)字人的使用情況?！彼硎?。

商業(yè)模式是否可行還需市場測試

從AI孫燕姿走紅網(wǎng)絡(luò)，美國女網(wǎng)紅化身AI,，同時交往1000個男友而月入3000余萬元,，到中國網(wǎng)紅半藏森林等AI克隆人付費模式出爐，讓不少人盯上了AI克隆人這門生意,。

據(jù)該AI克隆人APP公司此前對媒體介紹,，目前，后臺報名克隆人的網(wǎng)紅明星較多,，但出于安全考慮,，首批克隆人限制在300人。

吳高斌表示,，雖然AI克隆人的市場潛力巨大,，但其商業(yè)模式是否可行還需要進(jìn)行市場測試和實踐。未來市場發(fā)展趨勢也需要更多的探索和研究,。

于佳寧指出,，一方面，這類商業(yè)模式需要考慮用戶的接受度和支付意愿,。虛擬數(shù)字人的用戶需求和市場規(guī)模是商業(yè)模式成功與否的關(guān)鍵因素,；另一方面，技術(shù)的支持和市場競爭也是需要考慮的因素,，隨著虛擬數(shù)字人概念的興起,，越來越多的企業(yè)進(jìn)入這個領(lǐng)域，推出類似的產(chǎn)品和服務(wù),。這可能導(dǎo)致市場競爭激烈,，需要虛擬數(shù)字人企業(yè)不斷創(chuàng)新和提升產(chǎn)品差異化，以保持競爭優(yōu)勢,。

“同時，AI克隆人涉及數(shù)據(jù)隱私和道德問題的監(jiān)管方式及社會對其的接受度和道德意識也會影響市場發(fā)展,。如果公眾普遍認(rèn)為使用AI克隆人是道德和合適的,，并且愿意接受虛擬人物作為一種互動媒介，市場前景可能更加樂觀,?！卑补庥轮赋?。

安光勇還提醒道，在推廣和發(fā)展AI克隆人的過程中,，需要平衡商業(yè)利益,、技術(shù)進(jìn)步、法律法規(guī)和道德考量,，以確?？沙掷m(xù)發(fā)展和用戶的利益。

責(zé)任編輯：徐蕓茜 主編：公培佳