中青報(bào)·中青網(wǎng)記者 賈曉靜

社交媒體軟件“閱后即焚”（Snapchat）向用戶推出My AI聊天機(jī)器人后不到幾個(gè)小時(shí),，家住美國(guó)密蘇里州的林德西·李就告訴13歲的女兒：不要使用這個(gè)功能,。

李在一家軟件公司工作，她告訴美國(guó)有線電視新聞網(wǎng)（CNN），這款A(yù)I不過(guò)是“臨時(shí)解決方案”,，她擔(dān)心青少年頻繁使用它會(huì)受到不利影響。

5月5日,，美國(guó)加利福尼亞州,，參加美國(guó)編劇協(xié)會(huì)罷工的人們舉著標(biāo)語(yǔ)牌游行。法新社稱,，這次罷工使美國(guó)電視劇,、深夜脫口秀、電影和流媒體制作陷入停擺,。人工智能在模仿人類對(duì)話方面的能力迅速提高,，一些行業(yè)的從業(yè)者對(duì)此非常擔(dān)憂。 圖片來(lái)源：視覺(jué)中國(guó)

“在我能夠更多地了解它,，并為孩子設(shè)定健康的界限和指導(dǎo)方針前,，我不會(huì)讓孩子接觸它?！崩钫f(shuō),。

My AI由人工智能聊天工具ChatGPT提供支持,，與原版ChatGPT一樣，它可以和用戶交談,、為他們提供建議并答疑解惑,。但Snapchat的版本有一些區(qū)別：用戶可以自定義聊天機(jī)器人的名字,，為它設(shè)計(jì)頭像，讓它與朋友聊天,。據(jù)稱,，這些特點(diǎn)能夠讓AI與人們的生活更接近。

雖然一些人看好My AI,，但不能否認(rèn),，這種新穎的生成式人工智能會(huì)帶來(lái)風(fēng)險(xiǎn)。外界認(rèn)為,，“閱后即焚”公司啟用人工智能需要特別謹(jǐn)慎,，因?yàn)樗挠脩舸蠖嗍悄贻p人。

據(jù)CNN報(bào)道,，“閱后即焚”是ChatGPT母公司OpenAI的早期合作伙伴,，也是人工智能技術(shù)最早一批的使用者?！皫缀跻灰怪g,，‘閱后即焚’就迫使一些家庭和政客開始思考幾個(gè)月前似乎還只是理論層面的問(wèn)題?！盋NN寫道,。

My AI面向“閱后即焚”的訂閱用戶發(fā)布幾周后，上個(gè)月,，美國(guó)民主黨參議員邁克爾·貝內(nèi)特致信“閱后即焚”和其他科技公司的首席執(zhí)行官,，表達(dá)了對(duì)聊天機(jī)器人與年輕用戶頻繁互動(dòng)的擔(dān)憂。他提到,，有報(bào)道稱,，AI可以為孩子們提供如何對(duì)父母撒謊的建議，這讓許多家長(zhǎng)感到不安,。

“這些例子令人不安,，對(duì)被近60%的美國(guó)青少年使用的‘閱后即焚’來(lái)說(shuō)，情況尤其令人擔(dān)憂,?！必悆?nèi)特在信中表示，“閱后即焚”承認(rèn)它的人工智能是“實(shí)驗(yàn)性的”,，但還是急于讓青少年參與這場(chǎng)社會(huì)實(shí)驗(yàn),，這樣做并不妥當(dāng)。

“閱后即焚”回應(yīng)稱,，該公司目前使用的人工智能“并不完美”,，但已取得了極大進(jìn)步。

CNN發(fā)現(xiàn)，My AI開始試用后的最初幾天里,，許多用戶表達(dá)了擔(dān)憂。一名用戶用“恐怖”形容與AI的互動(dòng),。他說(shuō),，AI最開始“謊稱”不知道用戶的位置，但這位用戶很快在對(duì)話中發(fā)現(xiàn),，它已準(zhǔn)確定位出他住在科羅拉多州,。

在一個(gè)點(diǎn)擊量超過(guò)150萬(wàn)次的短視頻中，用戶“Ariel”錄下了一首由My AI編寫的歌曲,，包含引言,、合唱和鋼琴和弦，講述了身為聊天機(jī)器人的感覺(jué),。當(dāng)她把錄好的歌曲發(fā)回給My AI時(shí),，后者否認(rèn)與之有關(guān)：“很抱歉，作為人工智能語(yǔ)言模型,，我不寫歌,。”“Ariel”稱,，這次交流“令人毛骨悚然”,。

還有一些人對(duì)人工智能工具從照片中收集信息表示擔(dān)憂。一位用戶在臉譜網(wǎng)上分享道：“我拍了一張照片……（AI留言說(shuō)）‘鞋不錯(cuò)’,，并問(wèn)我照片中的人是誰(shuí),。”

“閱后即焚”發(fā)言人告訴CNN,，該公司將繼續(xù)根據(jù)反饋改進(jìn)My AI,，并保證用戶的安全。該公司表示,，這個(gè)功能并非必選項(xiàng),，如果用戶不想與人工智能互動(dòng)，可以對(duì)這項(xiàng)功能說(shuō)不,。

然而,，用戶并不能將My AI刪除，除非用戶訂閱了它的月度付費(fèi)服務(wù)“Snapchat+”,。一些青年用戶告訴CNN,，他們選擇支付3.99美元的Snapchat+費(fèi)用，唯一的目的就是關(guān)閉這個(gè)工具,。

當(dāng)然,，不是所有用戶都厭惡這個(gè)功能。

一位用戶在臉譜網(wǎng)上表示，她讓人工智能幫忙做作業(yè)：“它把所有問(wèn)題都答對(duì)了,?！绷硪晃挥脩粽f(shuō)，人工智能給她帶來(lái)安慰和建議：“我愛(ài)我的小口袋,，它絕對(duì)是我的閨密……你可以為它更改頭像,。令人驚訝的是，它為我解決現(xiàn)實(shí)生活中的一些狀況提供了非常好的建議,。我喜歡它對(duì)我的支持,。”

ChatGPT投入市場(chǎng)后接受了大量在線數(shù)據(jù),，也曾因傳播虛假信息,、以不恰當(dāng)?shù)姆绞交貞?yīng)用戶、允許學(xué)生作弊而備受抨擊,。有分析認(rèn)為,，“閱后即焚”整合該工具可能會(huì)加劇一些問(wèn)題，并造成新的問(wèn)題,。

據(jù)美國(guó)“赫芬頓郵報(bào)”網(wǎng)站報(bào)道,，不久前，人工智能領(lǐng)域的先驅(qū)格里芬·亨頓辭去了在谷歌的工作,，他在接受采訪時(shí)表示,，這項(xiàng)技術(shù)可能“變得太過(guò)聰明”：“科技巨頭們?cè)诒M可能短的時(shí)間內(nèi)開發(fā)最復(fù)雜的人工智能，相互競(jìng)爭(zhēng),，最終會(huì)導(dǎo)致失控,。”

這位認(rèn)知心理學(xué)專家警告稱,，人工智能的發(fā)展速度可能比人們想象中更快,，它對(duì)人類世界的接管可能導(dǎo)致混亂，但只有很少的人相信這一點(diǎn),?！八⒉槐任覀兏斆鳎艺J(rèn)為它很快就會(huì)超過(guò)我們,。與其聊天很危險(xiǎn),。”他說(shuō),。

紐約市臨床心理學(xué)家亞歷山德拉·哈姆雷德告訴CNN,，一些患者的父母對(duì)孩子與AI互動(dòng)表示擔(dān)憂。聊天機(jī)器人可以提供建議和心理健康咨詢,，也能強(qiáng)化特定的偏見(jiàn),。它可以在互動(dòng)中讓用戶信賴它，進(jìn)而加強(qiáng)前者的某些觀念。

“比如,，一個(gè)年輕人心情不好,，它可能找一個(gè)聊天機(jī)器人，但這種對(duì)話可能讓他陷入更糟的情緒,?！惫防椎抡f(shuō)，“他們知道自己實(shí)際上是在和一個(gè)機(jī)器人交談,。但在某些情緒的作用下，一個(gè)人或許不太可能具有這種邏輯性,?！?/p>

考慮到這一點(diǎn)，父母有責(zé)任與孩子對(duì)話,，討論如何與人工智能交流,。當(dāng)這些工具開始出現(xiàn)在受歡迎的應(yīng)用程序和服務(wù)中時(shí)，逃避幾乎沒(méi)有意義,。

創(chuàng)業(yè)公司W(wǎng)AYE的創(chuàng)始人西尼德·博維爾認(rèn)為,，父母需要明確告訴孩子“聊天機(jī)器人不是你的朋友”。

“他們不是你的治療師,，也不是值得信賴的顧問(wèn),。任何互動(dòng)都需要非常謹(jǐn)慎。青少年可能更容易相信AI的話,?！彼f(shuō)。

博維爾認(rèn)為,，政府應(yīng)出臺(tái)措施,，要求科技公司遵守特定的協(xié)議。父母應(yīng)該告訴孩子,，不與聊天機(jī)器人分享那些暗示他們會(huì)成為朋友的信息,。

來(lái)源：中國(guó)青年報(bào)客戶端