中青報(bào)·中青網(wǎng)記者 賈曉靜

社交媒體軟件“閱后即焚”（Snapchat）向用戶推出My AI聊天機(jī)器人后不到幾個(gè)小時(shí),，家住美國密蘇里州的林德西·李就告訴13歲的女兒：不要使用這個(gè)功能。

李在一家軟件公司工作,，她告訴美國有線電視新聞網(wǎng)（CNN）,，這款A(yù)I不過是“臨時(shí)解決方案”，她擔(dān)心青少年頻繁使用它會(huì)受到不利影響,。

5月5日,，美國加利福尼亞州，參加美國編劇協(xié)會(huì)罷工的人們舉著標(biāo)語牌游行,。法新社稱,，這次罷工使美國電視劇、深夜脫口秀,、電影和流媒體制作陷入停擺,。人工智能在模仿人類對(duì)話方面的能力迅速提高，一些行業(yè)的從業(yè)者對(duì)此非常擔(dān)憂,。 圖片來源：視覺中國

“在我能夠更多地了解它,，并為孩子設(shè)定健康的界限和指導(dǎo)方針前，我不會(huì)讓孩子接觸它,?！崩钫f,。

My AI由人工智能聊天工具ChatGPT提供支持，與原版ChatGPT一樣,，它可以和用戶交談,、為他們提供建議并答疑解惑。但Snapchat的版本有一些區(qū)別：用戶可以自定義聊天機(jī)器人的名字,，為它設(shè)計(jì)頭像,，讓它與朋友聊天。據(jù)稱,，這些特點(diǎn)能夠讓AI與人們的生活更接近,。

雖然一些人看好My AI，但不能否認(rèn),，這種新穎的生成式人工智能會(huì)帶來風(fēng)險(xiǎn),。外界認(rèn)為，“閱后即焚”公司啟用人工智能需要特別謹(jǐn)慎,，因?yàn)樗挠脩舸蠖嗍悄贻p人,。

據(jù)CNN報(bào)道，“閱后即焚”是ChatGPT母公司OpenAI的早期合作伙伴,，也是人工智能技術(shù)最早一批的使用者,。“幾乎一夜之間,，‘閱后即焚’就迫使一些家庭和政客開始思考幾個(gè)月前似乎還只是理論層面的問題,。”CNN寫道,。

My AI面向“閱后即焚”的訂閱用戶發(fā)布幾周后,，上個(gè)月，美國民主黨參議員邁克爾·貝內(nèi)特致信“閱后即焚”和其他科技公司的首席執(zhí)行官,，表達(dá)了對(duì)聊天機(jī)器人與年輕用戶頻繁互動(dòng)的擔(dān)憂,。他提到，有報(bào)道稱,，AI可以為孩子們提供如何對(duì)父母撒謊的建議,，這讓許多家長(zhǎng)感到不安。

“這些例子令人不安,，對(duì)被近60%的美國青少年使用的‘閱后即焚’來說,，情況尤其令人擔(dān)憂?！必悆?nèi)特在信中表示,，“閱后即焚”承認(rèn)它的人工智能是“實(shí)驗(yàn)性的”，但還是急于讓青少年參與這場(chǎng)社會(huì)實(shí)驗(yàn),，這樣做并不妥當(dāng),。

“閱后即焚”回應(yīng)稱,，該公司目前使用的人工智能“并不完美”，但已取得了極大進(jìn)步,。

CNN發(fā)現(xiàn),，My AI開始試用后的最初幾天里，許多用戶表達(dá)了擔(dān)憂,。一名用戶用“恐怖”形容與AI的互動(dòng),。他說，AI最開始“謊稱”不知道用戶的位置,，但這位用戶很快在對(duì)話中發(fā)現(xiàn),，它已準(zhǔn)確定位出他住在科羅拉多州。

在一個(gè)點(diǎn)擊量超過150萬次的短視頻中,，用戶“Ariel”錄下了一首由My AI編寫的歌曲,，包含引言、合唱和鋼琴和弦,，講述了身為聊天機(jī)器人的感覺,。當(dāng)她把錄好的歌曲發(fā)回給My AI時(shí)，后者否認(rèn)與之有關(guān)：“很抱歉,，作為人工智能語言模型,，我不寫歌?！薄癆riel”稱,，這次交流“令人毛骨悚然”。

還有一些人對(duì)人工智能工具從照片中收集信息表示擔(dān)憂,。一位用戶在臉譜網(wǎng)上分享道：“我拍了一張照片……（AI留言說）‘鞋不錯(cuò)’,，并問我照片中的人是誰?！?/p>

“閱后即焚”發(fā)言人告訴CNN,，該公司將繼續(xù)根據(jù)反饋改進(jìn)My AI，并保證用戶的安全,。該公司表示,，這個(gè)功能并非必選項(xiàng)，如果用戶不想與人工智能互動(dòng),，可以對(duì)這項(xiàng)功能說不。

然而,，用戶并不能將My AI刪除,，除非用戶訂閱了它的月度付費(fèi)服務(wù)“Snapchat+”。一些青年用戶告訴CNN,，他們選擇支付3.99美元的Snapchat+費(fèi)用,，唯一的目的就是關(guān)閉這個(gè)工具,。

當(dāng)然，不是所有用戶都厭惡這個(gè)功能,。

一位用戶在臉譜網(wǎng)上表示,，她讓人工智能幫忙做作業(yè)：“它把所有問題都答對(duì)了?！绷硪晃挥脩粽f,，人工智能給她帶來安慰和建議：“我愛我的小口袋，它絕對(duì)是我的閨密……你可以為它更改頭像,。令人驚訝的是,，它為我解決現(xiàn)實(shí)生活中的一些狀況提供了非常好的建議。我喜歡它對(duì)我的支持,?！?/p>

ChatGPT投入市場(chǎng)后接受了大量在線數(shù)據(jù)，也曾因傳播虛假信息,、以不恰當(dāng)?shù)姆绞交貞?yīng)用戶,、允許學(xué)生作弊而備受抨擊。有分析認(rèn)為,，“閱后即焚”整合該工具可能會(huì)加劇一些問題,，并造成新的問題。

據(jù)美國“赫芬頓郵報(bào)”網(wǎng)站報(bào)道,，不久前,，人工智能領(lǐng)域的先驅(qū)格里芬·亨頓辭去了在谷歌的工作，他在接受采訪時(shí)表示,，這項(xiàng)技術(shù)可能“變得太過聰明”：“科技巨頭們?cè)诒M可能短的時(shí)間內(nèi)開發(fā)最復(fù)雜的人工智能,，相互競(jìng)爭(zhēng)，最終會(huì)導(dǎo)致失控,?！?/p>

這位認(rèn)知心理學(xué)專家警告稱，人工智能的發(fā)展速度可能比人們想象中更快,，它對(duì)人類世界的接管可能導(dǎo)致混亂,，但只有很少的人相信這一點(diǎn)?！八⒉槐任覀兏斆?，但我認(rèn)為它很快就會(huì)超過我們。與其聊天很危險(xiǎn),?！彼f。

紐約市臨床心理學(xué)家亞歷山德拉·哈姆雷德告訴CNN,，一些患者的父母對(duì)孩子與AI互動(dòng)表示擔(dān)憂,。聊天機(jī)器人可以提供建議和心理健康咨詢,，也能強(qiáng)化特定的偏見。它可以在互動(dòng)中讓用戶信賴它,，進(jìn)而加強(qiáng)前者的某些觀念,。

“比如，一個(gè)年輕人心情不好,，它可能找一個(gè)聊天機(jī)器人,，但這種對(duì)話可能讓他陷入更糟的情緒?！惫防椎抡f,，“他們知道自己實(shí)際上是在和一個(gè)機(jī)器人交談。但在某些情緒的作用下,，一個(gè)人或許不太可能具有這種邏輯性,。”

考慮到這一點(diǎn),，父母有責(zé)任與孩子對(duì)話,，討論如何與人工智能交流。當(dāng)這些工具開始出現(xiàn)在受歡迎的應(yīng)用程序和服務(wù)中時(shí),，逃避幾乎沒有意義,。

創(chuàng)業(yè)公司W(wǎng)AYE的創(chuàng)始人西尼德·博維爾認(rèn)為，父母需要明確告訴孩子“聊天機(jī)器人不是你的朋友”,。

“他們不是你的治療師,，也不是值得信賴的顧問。任何互動(dòng)都需要非常謹(jǐn)慎,。青少年可能更容易相信AI的話,。”她說,。

博維爾認(rèn)為,，政府應(yīng)出臺(tái)措施，要求科技公司遵守特定的協(xié)議,。父母應(yīng)該告訴孩子,，不與聊天機(jī)器人分享那些暗示他們會(huì)成為朋友的信息。

來源：中國青年報(bào)客戶端