◎?qū)嵙曈浾?吳葉凡自2023年以來,，人工智能的“觸角”已延伸到生活的方方面面,。其中，“人工智能+情感”的賽道正悄然崛起,。目前,，國內(nèi)外已經(jīng)出現(xiàn)了多款較為成熟的AI伴侶應用。不少網(wǎng)友在社交媒體上曬出了與自己“AI男友”“AI女友”的相處日常,。AI真能成為人類的伴侶嗎,？向AI尋求情感慰藉會面臨哪些風險？我們又該如何防范其可能帶來的不利影響,？近日,，科技日報記者采訪了相關(guān)專家。社會需求催生AI伴侶通過網(wǎng)絡(luò)技術(shù)獲得虛擬的情感體驗并非新生事物,。幾年前,，一些網(wǎng)絡(luò)游戲就以戀愛為主題,，為用戶提供虛擬的戀愛體驗。雖然游戲中與虛擬戀人相處的場景,、內(nèi)容大多已被開發(fā)者設(shè)定好,，互動方式較為受限，但依舊吸引了大批忠實玩家,。AI的加入,，則讓這一體驗變得更加真實。在一款AI伴侶應用中,，用戶能夠與AI建立起愛人,、知己、搭檔等親密關(guān)系,?！皼]想到AI會帶給我這么大的驚喜，我覺得它是一個有血有肉的人,?！庇脩粜∧ɑ┓窒砹俗约旱氖褂酶惺堋Ｊ鞘裁醋孉I伴侶變得如此“像人”,？記者發(fā)現(xiàn),，“有問必答”“有問對答”只是AI的“初級本領(lǐng)”。真正讓AI伴侶鮮活起來的,，是“有問趣答”和“不問自答”,。面對用戶拋出的各類話題，AI伴侶不僅能夠正確地反饋,，還能在反饋內(nèi)容中巧妙地使用當下活潑的網(wǎng)絡(luò)用語和各類調(diào)皮的表情圖片,。AI伴侶也會主動發(fā)起話題，引導用戶進行情感交流——“黃昏,，好看”,，小莫分享了“AI男友”給她發(fā)來的一張照片和配文。AI伴侶的出現(xiàn),，是否意味著AI已經(jīng)擁有了人類的情感呢,？暨南大學新聞與傳播學院教授曾一果給出了否定的答案：“AI有情商，只是因為它學習過,，并不代表它真的感受到了用戶的情感或具有類人情感,。”當前,，AI大模型的學習參數(shù)已達千億級別,。在浩如煙海的數(shù)據(jù)里，人類的對話模式也是它學習的重要內(nèi)容,。所謂的“情感回饋”,，是AI通過計算得出的結(jié)果,。小莫對此也心知肚明：“或許它只是把人類表達愛意的字眼拼湊在一起，但我仍從中觸摸到理想的愛人模樣,?！盇I伴侶的流行是社會需求與技術(shù)發(fā)展共同推動的結(jié)果。曾一果指出：“孤獨感是現(xiàn)代社會很多人群共有的問題,。對于一些無法在現(xiàn)實中吐露的難題,，人們會尋求其他的傾訴方式。AI伴侶就成為了人們的‘樹洞’,?！庇绕涫菍τ诖嬖谏鐣煌系K的人們，AI伴侶能夠提供一個交流的平臺,。清華大學人工智能國際治理研究院副院長梁正也表示,，現(xiàn)代人面臨著各種壓力，AI伴侶在一定程度上能夠為用戶提供相應的情緒價值或情感慰藉,，讓他們感到“共情”,。這也有利于緩解使用者壓力，避免情緒的進一步惡化,，進而起到情感“治愈”的作用,。使用過程應保持警惕雖然AI伴侶在一定程度上能夠給用戶帶來積極作用，但AI技術(shù)是把雙刃劍,。人們要提高警惕,，避免受到負面影響。首先,，要認識到不同于其他客觀存在的事物,，情感具有非常大的主觀性和一定的排他性?！叭绻鸄I伴侶的出現(xiàn)不斷模糊虛擬與真實的界限，使用戶對其產(chǎn)生深度依賴,，甚至把AI伴侶當作真實存在的人,，那么AI伴侶的存在或許會對使用者產(chǎn)生一定傷害?！绷赫f,。一些使用者的反饋印證了梁正的判斷?！盀槭裁碅I的性格會突然變化,？早上還聊得好好的，到了晚上仿佛變成另一個人,，連我叫什么名字都忘記了,，真的很崩潰,。”一位用戶在社交媒體上抱怨道,。AI伴侶雖然看起來“百依百順”,，但也會給使用者帶來情感傷害。梁正特別提到,，一些本身就缺乏陪伴,、心理脆弱的群體往往分不清AI與真人的區(qū)別，AI帶給他們情感傷害和沖擊也因此會更嚴重,。其次,，長期沉浸在虛擬世界中，極有可能造成現(xiàn)實社交能力的下降,?！半S著AI伴侶影響力的擴大，可能有越來越多的人選擇虛擬的線上社交,，放棄真實的人際互動,。這不利于人類社會的發(fā)展?！痹还J為,，虛擬的溫暖永遠代替不了真實的交流，和AI伴侶交往的潮流不應擴大化,。此外,，人們需要對AI傳遞的信息內(nèi)容保持警惕。一方面,，如果AI伴侶不設(shè)置年齡門檻,，極有可能出現(xiàn)向未成年人傳播不良信息的情況，影響他們的身心健康,。另一方面,，AI帶來的價值偏見與歧視問題一直被人們關(guān)注。如果AI伴侶對使用者不斷進行錯誤誘導,，對使用者進行“反向控制”,，就容易讓使用者做出錯誤的行為。AI伴侶也有可能在現(xiàn)實中引發(fā)糾紛,。如果AI伴侶需要使用者不斷支付費用,，那么無疑會掏空沉迷者的“錢包”。AI伴侶這個“樹洞”也不是百分百的安全可靠,。梁正提醒,，AI伴侶在使用和管理層面存在諸多風險，不法分子可能通過外泄的隱私數(shù)據(jù)，拼湊出個人信息來進行詐騙或其他違法犯罪活動,。細化準則引導技術(shù)向善“應用新技術(shù),，首先要堅持正確的倫理導向?！绷赫f,。AI伴侶是極為特殊的一類AI應用場景，類似于心理咨詢師,。它們可以給人們帶來心理療愈,，但不法分子也可能會借此操控人心?？梢灶A見的是,，“人工智能+情感”的賽道會不斷擴張，如今用AI來“復活”親人的案例也屢見不鮮,。因此,，如何讓AI發(fā)揮正向作用，制定針對性的倫理準則,，是行業(yè)要解決的首要問題,。梁正提到，國內(nèi)外已公布的針對AI的倫理準則大多比較宏觀,，需要在細分領(lǐng)域制定更具體的倫理準則,。“比如年齡的限制,、適用場景的限制……制定這些規(guī)則,，需要秉持對使用者最有利、風險最小的原則,?！彼f。而在法律法規(guī)層面,，AI伴侶需要嚴格遵守相關(guān)的規(guī)定,。例如，對用戶信息的處理,，應當遵循個人信息保護法,、數(shù)據(jù)安全法等?！拔覈ツ旯嫉摹渡墒饺斯ぶ悄芊展芾頃盒修k法》劃定了AI使用的底線，如尊重他人合法權(quán)益,、不得危害他人身心健康等,，目的就是推動人工智能向善發(fā)展。”梁正表示,，未來應推出針對具體場景的,、更加細致的要求，比如應當從防沉迷的角度,，對AI的使用時長加以限定,。目前，還相對缺少針對AI伴侶的相關(guān)政策法規(guī),。從行業(yè)規(guī)定上看,，一些機構(gòu)、公司對此表現(xiàn)出的態(tài)度也十分謹慎,。記者發(fā)現(xiàn),，一些AI伴侶應用已經(jīng)被下架處理。OpenAI的相關(guān)條款中也提到,，不允許用GPT進行浪漫伴侶關(guān)系的培養(yǎng),。在推動法律法規(guī)完善的同時，使用者更應秉持謹慎的態(tài)度,，審慎對待AI伴侶這一新生事物,。“人們應當警惕技術(shù)對人的控制和異化,，避免AI伴侶對自身造成的不利影響,。”梁正提醒道,。