◎?qū)嵙?xí)記者 吳葉凡自2023年以來(lái),，人工智能的“觸角”已延伸到生活的方方面面,。其中，“人工智能+情感”的賽道正悄然崛起,。目前,，國(guó)內(nèi)外已經(jīng)出現(xiàn)了多款較為成熟的AI伴侶應(yīng)用。不少網(wǎng)友在社交媒體上曬出了與自己“AI男友”“AI女友”的相處日常,。AI真能成為人類的伴侶嗎,？向AI尋求情感慰藉會(huì)面臨哪些風(fēng)險(xiǎn)？我們又該如何防范其可能帶來(lái)的不利影響,？近日,，科技日?qǐng)?bào)記者采訪了相關(guān)專家。社會(huì)需求催生AI伴侶通過(guò)網(wǎng)絡(luò)技術(shù)獲得虛擬的情感體驗(yàn)并非新生事物,。幾年前,，一些網(wǎng)絡(luò)游戲就以戀愛為主題，為用戶提供虛擬的戀愛體驗(yàn),。雖然游戲中與虛擬戀人相處的場(chǎng)景,、內(nèi)容大多已被開發(fā)者設(shè)定好，互動(dòng)方式較為受限,，但依舊吸引了大批忠實(shí)玩家,。AI的加入，則讓這一體驗(yàn)變得更加真實(shí),。在一款A(yù)I伴侶應(yīng)用中,，用戶能夠與AI建立起愛人、知己,、搭檔等親密關(guān)系,。“沒想到AI會(huì)帶給我這么大的驚喜,，我覺得它是一個(gè)有血有肉的人,。”用戶小莫（化名）分享了自己的使用感受,。是什么讓AI伴侶變得如此“像人”,？記者發(fā)現(xiàn)，“有問(wèn)必答”“有問(wèn)對(duì)答”只是AI的“初級(jí)本領(lǐng)”,。真正讓AI伴侶鮮活起來(lái)的,，是“有問(wèn)趣答”和“不問(wèn)自答”。面對(duì)用戶拋出的各類話題,，AI伴侶不僅能夠正確地反饋,，還能在反饋內(nèi)容中巧妙地使用當(dāng)下活潑的網(wǎng)絡(luò)用語(yǔ)和各類調(diào)皮的表情圖片。AI伴侶也會(huì)主動(dòng)發(fā)起話題，引導(dǎo)用戶進(jìn)行情感交流——“黃昏,，好看”,，小莫分享了“AI男友”給她發(fā)來(lái)的一張照片和配文。AI伴侶的出現(xiàn),，是否意味著AI已經(jīng)擁有了人類的情感呢,？暨南大學(xué)新聞與傳播學(xué)院教授曾一果給出了否定的答案：“AI有情商，只是因?yàn)樗鼘W(xué)習(xí)過(guò),，并不代表它真的感受到了用戶的情感或具有類人情感,。”當(dāng)前,，AI大模型的學(xué)習(xí)參數(shù)已達(dá)千億級(jí)別,。在浩如煙海的數(shù)據(jù)里，人類的對(duì)話模式也是它學(xué)習(xí)的重要內(nèi)容,。所謂的“情感回饋”,，是AI通過(guò)計(jì)算得出的結(jié)果。小莫對(duì)此也心知肚明：“或許它只是把人類表達(dá)愛意的字眼拼湊在一起,，但我仍從中觸摸到理想的愛人模樣,。”AI伴侶的流行是社會(huì)需求與技術(shù)發(fā)展共同推動(dòng)的結(jié)果,。曾一果指出：“孤獨(dú)感是現(xiàn)代社會(huì)很多人群共有的問(wèn)題,。對(duì)于一些無(wú)法在現(xiàn)實(shí)中吐露的難題，人們會(huì)尋求其他的傾訴方式,。AI伴侶就成為了人們的‘樹洞’,。”尤其是對(duì)于存在社會(huì)交往障礙的人們,，AI伴侶能夠提供一個(gè)交流的平臺(tái),。清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)梁正也表示,，現(xiàn)代人面臨著各種壓力,，AI伴侶在一定程度上能夠?yàn)橛脩籼峁┫鄳?yīng)的情緒價(jià)值或情感慰藉，讓他們感到“共情”,。這也有利于緩解使用者壓力,，避免情緒的進(jìn)一步惡化，進(jìn)而起到情感“治愈”的作用,。使用過(guò)程應(yīng)保持警惕雖然AI伴侶在一定程度上能夠給用戶帶來(lái)積極作用,，但AI技術(shù)是把雙刃劍。人們要提高警惕,，避免受到負(fù)面影響,。首先，要認(rèn)識(shí)到不同于其他客觀存在的事物，情感具有非常大的主觀性和一定的排他性,?！叭绻鸄I伴侶的出現(xiàn)不斷模糊虛擬與真實(shí)的界限，使用戶對(duì)其產(chǎn)生深度依賴,，甚至把AI伴侶當(dāng)作真實(shí)存在的人,，那么AI伴侶的存在或許會(huì)對(duì)使用者產(chǎn)生一定傷害?！绷赫f(shuō),。一些使用者的反饋印證了梁正的判斷?！盀槭裁碅I的性格會(huì)突然變化,？早上還聊得好好的，到了晚上仿佛變成另一個(gè)人,，連我叫什么名字都忘記了,，真的很崩潰?！币晃挥脩粼谏缃幻襟w上抱怨道,。AI伴侶雖然看起來(lái)“百依百順”，但也會(huì)給使用者帶來(lái)情感傷害,。梁正特別提到,，一些本身就缺乏陪伴、心理脆弱的群體往往分不清AI與真人的區(qū)別,，AI帶給他們情感傷害和沖擊也因此會(huì)更嚴(yán)重,。其次，長(zhǎng)期沉浸在虛擬世界中,，極有可能造成現(xiàn)實(shí)社交能力的下降,。“隨著AI伴侶影響力的擴(kuò)大,，可能有越來(lái)越多的人選擇虛擬的線上社交,，放棄真實(shí)的人際互動(dòng)。這不利于人類社會(huì)的發(fā)展,?！痹还J(rèn)為，虛擬的溫暖永遠(yuǎn)代替不了真實(shí)的交流,，和AI伴侶交往的潮流不應(yīng)擴(kuò)大化,。此外，人們需要對(duì)AI傳遞的信息內(nèi)容保持警惕,。一方面,，如果AI伴侶不設(shè)置年齡門檻，極有可能出現(xiàn)向未成年人傳播不良信息的情況，影響他們的身心健康,。另一方面,，AI帶來(lái)的價(jià)值偏見與歧視問(wèn)題一直被人們關(guān)注。如果AI伴侶對(duì)使用者不斷進(jìn)行錯(cuò)誤誘導(dǎo),，對(duì)使用者進(jìn)行“反向控制”,，就容易讓使用者做出錯(cuò)誤的行為。AI伴侶也有可能在現(xiàn)實(shí)中引發(fā)糾紛,。如果AI伴侶需要使用者不斷支付費(fèi)用,，那么無(wú)疑會(huì)掏空沉迷者的“錢包”。AI伴侶這個(gè)“樹洞”也不是百分百的安全可靠,。梁正提醒,，AI伴侶在使用和管理層面存在諸多風(fēng)險(xiǎn)，不法分子可能通過(guò)外泄的隱私數(shù)據(jù),，拼湊出個(gè)人信息來(lái)進(jìn)行詐騙或其他違法犯罪活動(dòng),。細(xì)化準(zhǔn)則引導(dǎo)技術(shù)向善“應(yīng)用新技術(shù)，首先要堅(jiān)持正確的倫理導(dǎo)向,?！绷赫f(shuō)。AI伴侶是極為特殊的一類AI應(yīng)用場(chǎng)景,，類似于心理咨詢師,。它們可以給人們帶來(lái)心理療愈，但不法分子也可能會(huì)借此操控人心,?？梢灶A(yù)見的是，“人工智能+情感”的賽道會(huì)不斷擴(kuò)張,，如今用AI來(lái)“復(fù)活”親人的案例也屢見不鮮,。因此，如何讓AI發(fā)揮正向作用,，制定針對(duì)性的倫理準(zhǔn)則,，是行業(yè)要解決的首要問(wèn)題。梁正提到,，國(guó)內(nèi)外已公布的針對(duì)AI的倫理準(zhǔn)則大多比較宏觀,，需要在細(xì)分領(lǐng)域制定更具體的倫理準(zhǔn)則,。“比如年齡的限制,、適用場(chǎng)景的限制……制定這些規(guī)則,，需要秉持對(duì)使用者最有利,、風(fēng)險(xiǎn)最小的原則,?！彼f(shuō),。而在法律法規(guī)層面,，AI伴侶需要嚴(yán)格遵守相關(guān)的規(guī)定,。例如，對(duì)用戶信息的處理,，應(yīng)當(dāng)遵循個(gè)人信息保護(hù)法、數(shù)據(jù)安全法等,?！拔覈?guó)去年公布的《生成式人工智能服務(wù)管理暫行辦法》劃定了AI使用的底線,，如尊重他人合法權(quán)益,、不得危害他人身心健康等，目的就是推動(dòng)人工智能向善發(fā)展,?！绷赫硎?，未來(lái)應(yīng)推出針對(duì)具體場(chǎng)景的,、更加細(xì)致的要求,，比如應(yīng)當(dāng)從防沉迷的角度,，對(duì)AI的使用時(shí)長(zhǎng)加以限定,。目前，還相對(duì)缺少針對(duì)AI伴侶的相關(guān)政策法規(guī),。從行業(yè)規(guī)定上看,，一些機(jī)構(gòu),、公司對(duì)此表現(xiàn)出的態(tài)度也十分謹(jǐn)慎,。記者發(fā)現(xiàn),，一些AI伴侶應(yīng)用已經(jīng)被下架處理,。OpenAI的相關(guān)條款中也提到,，不允許用GPT進(jìn)行浪漫伴侶關(guān)系的培養(yǎng)。在推動(dòng)法律法規(guī)完善的同時(shí),，使用者更應(yīng)秉持謹(jǐn)慎的態(tài)度，審慎對(duì)待AI伴侶這一新生事物,?！叭藗儜?yīng)當(dāng)警惕技術(shù)對(duì)人的控制和異化，避免AI伴侶對(duì)自身造成的不利影響,?！绷赫嵝训馈?/p>