從ChatGPT到Sora，這兩年人工智能的發(fā)展速度之快,、影響范圍之廣,、滲透能力之強(qiáng),，讓人們直觀地感受到未來(lái)已來(lái)。新技術(shù)的發(fā)展,，有時(shí)會(huì)伴隨著悖論和陷阱,。面對(duì)AI市場(chǎng)這片藍(lán)海，人工智能帶來(lái)的六大陷阱需要引起高度警惕。一,、數(shù)據(jù)安全陷阱：你的“AI朋友”能守口如瓶嗎在科幻電影中,，因?yàn)閿?shù)據(jù)泄露帶來(lái)的安全隱憂曾在很多情節(jié)中出現(xiàn)過(guò)。而在現(xiàn)實(shí)中,，隨著AI技術(shù)在各行各業(yè)的廣泛應(yīng)用,，數(shù)據(jù)安全的確成為一個(gè)重要且緊迫的問(wèn)題。人工智能系統(tǒng)的個(gè)性化服務(wù),，往往依賴(lài)于大量個(gè)人數(shù)據(jù)的輸入和模型訓(xùn)練,。也就是說(shuō)，你的“AI小伙伴”越智能,，個(gè)人信息“喂養(yǎng)”得越頻繁,，你在它面前就越像個(gè)“透明人”。數(shù)據(jù)的收集,、存儲(chǔ),、處理和使用過(guò)程，任何一個(gè)環(huán)節(jié)出了差錯(cuò),，就可能存在個(gè)人健康記錄,、金融信息、位置數(shù)據(jù)等敏感信息泄露的風(fēng)險(xiǎn),。除了隱私泄露外,，研究人員發(fā)現(xiàn),，當(dāng)前人工智能技術(shù)在實(shí)踐應(yīng)用中，還可能帶來(lái)模型中毒,、數(shù)據(jù)篡改,、內(nèi)部威脅,、蓄意攻擊等數(shù)據(jù)安全威脅,。而AI時(shí)代數(shù)據(jù)安全治理有哪些出路，也成為相關(guān)領(lǐng)域的熱門(mén)課題,。圖源：“科學(xué)家雜志”微信公眾號(hào)二,、侵權(quán)陷阱：AI創(chuàng)作不能“隨心所欲”我們一貫認(rèn)為“藝術(shù)是人類(lèi)最終的圣殿”，人類(lèi)之外無(wú)法取代,。但如今,，生成式人工智能打破了人類(lèi)對(duì)創(chuàng)作的“壟斷”。谷歌公司旗下的人工智能模型“雙子座（Gemini）”根據(jù)“三言?xún)烧Z(yǔ)”就能生成一篇短篇小說(shuō)或詩(shī)歌,；去年,，“AI孫燕姿”等AI翻唱刷屏網(wǎng)絡(luò),，登上熱搜。一邊是AI創(chuàng)作的噴涌式發(fā)展，另一邊是藝術(shù)家們的“集體擔(dān)憂”,。今年4月，世界各地的200余名音樂(lè)人聯(lián)合發(fā)布了一封反對(duì)AI的公開(kāi)信,，呼吁數(shù)字音樂(lè)開(kāi)發(fā)商“停止使用人工智能來(lái)侵犯和貶低人類(lèi)藝術(shù)家的權(quán)利”,。生成式人工智能推動(dòng)了創(chuàng)作方式的變革，也引發(fā)了關(guān)于版權(quán)歸屬,、責(zé)任界定和利益分配等問(wèn)題,。不久前，全國(guó)首例“AI聲音侵權(quán)案”一審宣判,，四個(gè)被告方使用原告聲音,、開(kāi)發(fā)涉案AI文本轉(zhuǎn)語(yǔ)音產(chǎn)品未獲得合法授權(quán)，構(gòu)成侵權(quán),，有的賠禮道歉,，有的賠償原告各項(xiàng)損失25萬(wàn)元。目前,，探索建立對(duì)于AI生成內(nèi)容侵權(quán)判定的具體規(guī)則,、加強(qiáng)對(duì)相關(guān)領(lǐng)域的法律監(jiān)管是必要而且是迫切的。AI創(chuàng)作不能隨心所欲,，須守好邊界,，行有所止、行有所戒,。三,、認(rèn)知陷阱：人工智能也有“智商欠費(fèi)”的可能人工智能也有智商“掉線”之時(shí),，究竟是“人工智能”還是“人工智障”，需要一雙慧眼去辨別,。當(dāng)前,，大語(yǔ)言模型在處理和生成信息時(shí)，仍有生成錯(cuò)誤或誤導(dǎo)性回答的概率,。訓(xùn)練數(shù)據(jù)的選擇,、算法設(shè)計(jì)的方式，以及最終應(yīng)用場(chǎng)景中的使用方法,，都可能導(dǎo)致AI“犯迷糊”,。如，有網(wǎng)友在使用人工智能系統(tǒng)生成旅游攻略時(shí),，系統(tǒng)忽略了天氣等客觀因素,，“AI導(dǎo)游”帶著網(wǎng)友在烈日下戶(hù)外徒步，令人哭笑不得,；還有網(wǎng)友發(fā)現(xiàn),，在某款語(yǔ)言模型的兩個(gè)子系統(tǒng)中，分別用中,、英文問(wèn)同一個(gè)問(wèn)題,，則會(huì)得到截然不同的答案。四,、倫理陷阱：“數(shù)字生命”能真正寄托思念嗎現(xiàn)實(shí)與虛擬的界限,、人機(jī)情感的可能性等，一直都是人工智能面臨的倫理問(wèn)題,。此前,，一位音樂(lè)人利用AI技術(shù)讓因病去世的女兒在數(shù)字世界“復(fù)活”，原本天人永隔的親人,，通過(guò)人工智能進(jìn)行互動(dòng),，彌補(bǔ)了情感的缺憾。但同時(shí),，有網(wǎng)絡(luò)博主通過(guò)AI制作已逝公眾人物的視頻,，打著溫情的名義收割流量，備受爭(zhēng)議,。有人因此想到《流浪地球2》里的“數(shù)字生命”,，“質(zhì)疑圖恒宇，理解圖恒宇,，成為圖恒宇”,，這就是AI存在的意義，撫慰悲傷、治愈人心,；也有人因此開(kāi)始思考技術(shù)該有的界限和底線,。AI“復(fù)活”必須經(jīng)過(guò)家人同意，并符合法律,，否則就要警惕侵權(quán)陷阱和倫理陷阱,。技術(shù)的“一體兩面”并非新論，歷史上很多重大的技術(shù)革新都曾被視為“雙刃劍”,，既帶來(lái)巨大益處,，也引發(fā)新的挑戰(zhàn)和問(wèn)題?？萍寄芊衽诵?，究竟是“數(shù)字療愈”還是“數(shù)字陷阱”,，最終要看它是不是向善,，是不是為美好生活所服務(wù)，有沒(méi)有界限分明的底線和紅線,。電影《流浪地球2》中的“數(shù)字生命”圖丫丫 圖源：微博@電影流浪地球五,、詐騙陷阱：眼見(jiàn)不一定為實(shí)人工智能時(shí)代，文字,、聲音,、圖片和視頻都有可能是假的，“眼見(jiàn)為實(shí)”不再是絕對(duì)真理,。當(dāng)我們覺(jué)得“換臉”“變聲”技術(shù)只是“好玩”的時(shí)候,，騙子們已盯上了深度合成等人工智能技術(shù)。當(dāng)前,，電信詐騙已走向智能化,、定制化，相關(guān)案件時(shí)有發(fā)生,。據(jù)某機(jī)構(gòu)發(fā)布的《2024人工智能安全報(bào)告》顯示,，2023年，基于AI的深度偽造欺詐暴增3000%,，基于AI的釣魚(yú)郵件增長(zhǎng)1000%,。人工智能技術(shù)不僅可以讓各種騙術(shù)“有圖有真相”，甚至還能“有視頻”,，這讓騙子偽造的身份看似更加“可信”,，令普通老百姓防不勝防。在前段時(shí)間香港警方披露的多人“AI換臉”詐騙案中,，受害人在多人視頻會(huì)議中被要求先后多次轉(zhuǎn)賬,，而除了受害人是“真人”上線，其余都是經(jīng)過(guò)AI“換臉”的詐騙同伙,。被騙2億港元,，男子參加多人視頻會(huì)議只有自己是“真人” 圖源：“央視網(wǎng)”微信公眾號(hào)六,、舒適陷阱：在AI面前如何當(dāng)“伸手黨”當(dāng)我們?cè)絹?lái)越頻繁地借助AI幫我們完成計(jì)劃制定、資料搜集,、文本寫(xiě)作時(shí),，AI系統(tǒng)在反復(fù)訓(xùn)練過(guò)程中不斷“成長(zhǎng)”，而我們?cè)臼炀毜募寄軈s在“偷懶”中面臨退化的風(fēng)險(xiǎn),。某媒體的一項(xiàng)調(diào)查顯示,，52.6%的受訪者表示“比較擔(dān)心”AI工具的普及會(huì)讓個(gè)人的表達(dá)能力變差，20.9%的受訪者表示“非常擔(dān)心”,。也有學(xué)者認(rèn)為,，選擇“節(jié)能”模式是人類(lèi)的天性和本能。人工智能時(shí)代,，人類(lèi)的機(jī)械性體力技能和計(jì)算型腦力技能也許會(huì)逐漸退化,，但從長(zhǎng)遠(yuǎn)來(lái)看，也會(huì)催生諸如創(chuàng)新研發(fā),、優(yōu)化設(shè)計(jì),、實(shí)時(shí)分析等新的技能增長(zhǎng)點(diǎn)。是“退化”還是“新生”,，是“去技能化”還是“再技能化”,，取決于我們?cè)谌斯ぶ悄苊媲爱?dāng)“伸手黨”時(shí)，對(duì)技能退化,、創(chuàng)造力減弱,、決策依賴(lài)等一系列問(wèn)題能不能多一分感知和警惕，同時(shí),，能否相對(duì)應(yīng)地去提升更高階的技能,，從而更好地駕馭技術(shù)。人工智能的未來(lái)就像“薛定諤的貓”,，充滿不確定性,。但可以確定的是，人類(lèi)不會(huì)在各種陷阱面前望而卻步,、畏首畏尾,。面對(duì)人工智能帶來(lái)的陷阱，堅(jiān)持開(kāi)放而審慎,、包容而敬畏,、大膽而自信的心態(tài)，我們就能與新技術(shù)的更迭保持同頻,，站在人工智能的肩膀之上抓住機(jī)遇,，確保AI技術(shù)朝著有益于人類(lèi)福祉的方向發(fā)展。