從ChatGPT到Sora,，這兩年人工智能的發(fā)展速度之快,、影響范圍之廣、滲透能力之強(qiáng),，讓人們直觀地感受到未來已來,。新技術(shù)的發(fā)展,，有時(shí)會伴隨著悖論和陷阱。面對AI市場這片藍(lán)海,，人工智能帶來的六大陷阱需要引起高度警惕。一,、數(shù)據(jù)安全陷阱：你的“AI朋友”能守口如瓶嗎在科幻電影中,，因?yàn)閿?shù)據(jù)泄露帶來的安全隱憂曾在很多情節(jié)中出現(xiàn)過。而在現(xiàn)實(shí)中,，隨著AI技術(shù)在各行各業(yè)的廣泛應(yīng)用,，數(shù)據(jù)安全的確成為一個(gè)重要且緊迫的問題。人工智能系統(tǒng)的個(gè)性化服務(wù),，往往依賴于大量個(gè)人數(shù)據(jù)的輸入和模型訓(xùn)練,。也就是說，你的“AI小伙伴”越智能,，個(gè)人信息“喂養(yǎng)”得越頻繁,，你在它面前就越像個(gè)“透明人”。數(shù)據(jù)的收集,、存儲,、處理和使用過程，任何一個(gè)環(huán)節(jié)出了差錯(cuò),，就可能存在個(gè)人健康記錄,、金融信息、位置數(shù)據(jù)等敏感信息泄露的風(fēng)險(xiǎn),。除了隱私泄露外，研究人員發(fā)現(xiàn),，當(dāng)前人工智能技術(shù)在實(shí)踐應(yīng)用中,，還可能帶來模型中毒、數(shù)據(jù)篡改,、內(nèi)部威脅,、蓄意攻擊等數(shù)據(jù)安全威脅。而AI時(shí)代數(shù)據(jù)安全治理有哪些出路,，也成為相關(guān)領(lǐng)域的熱門課題,。圖源：“科學(xué)家雜志”微信公眾號二、侵權(quán)陷阱：AI創(chuàng)作不能“隨心所欲”我們一貫認(rèn)為“藝術(shù)是人類最終的圣殿”,，人類之外無法取代,。但如今，生成式人工智能打破了人類對創(chuàng)作的“壟斷”,。谷歌公司旗下的人工智能模型“雙子座（Gemini）”根據(jù)“三言兩語”就能生成一篇短篇小說或詩歌,；去年，“AI孫燕姿”等AI翻唱刷屏網(wǎng)絡(luò),，登上熱搜,。一邊是AI創(chuàng)作的噴涌式發(fā)展，另一邊是藝術(shù)家們的“集體擔(dān)憂”。今年4月,，世界各地的200余名音樂人聯(lián)合發(fā)布了一封反對AI的公開信,，呼吁數(shù)字音樂開發(fā)商“停止使用人工智能來侵犯和貶低人類藝術(shù)家的權(quán)利”。生成式人工智能推動了創(chuàng)作方式的變革,，也引發(fā)了關(guān)于版權(quán)歸屬,、責(zé)任界定和利益分配等問題。不久前,，全國首例“AI聲音侵權(quán)案”一審宣判,，四個(gè)被告方使用原告聲音、開發(fā)涉案AI文本轉(zhuǎn)語音產(chǎn)品未獲得合法授權(quán),，構(gòu)成侵權(quán),，有的賠禮道歉，有的賠償原告各項(xiàng)損失25萬元,。目前,，探索建立對于AI生成內(nèi)容侵權(quán)判定的具體規(guī)則、加強(qiáng)對相關(guān)領(lǐng)域的法律監(jiān)管是必要而且是迫切的,。AI創(chuàng)作不能隨心所欲,，須守好邊界，行有所止,、行有所戒,。三、認(rèn)知陷阱：人工智能也有“智商欠費(fèi)”的可能人工智能也有智商“掉線”之時(shí),，究竟是“人工智能”還是“人工智障”,，需要一雙慧眼去辨別。當(dāng)前,，大語言模型在處理和生成信息時(shí),，仍有生成錯(cuò)誤或誤導(dǎo)性回答的概率。訓(xùn)練數(shù)據(jù)的選擇,、算法設(shè)計(jì)的方式,，以及最終應(yīng)用場景中的使用方法，都可能導(dǎo)致AI“犯迷糊”,。如,，有網(wǎng)友在使用人工智能系統(tǒng)生成旅游攻略時(shí)，系統(tǒng)忽略了天氣等客觀因素,，“AI導(dǎo)游”帶著網(wǎng)友在烈日下戶外徒步,，令人哭笑不得；還有網(wǎng)友發(fā)現(xiàn),，在某款語言模型的兩個(gè)子系統(tǒng)中,，分別用中,、英文問同一個(gè)問題，則會得到截然不同的答案,。四,、倫理陷阱：“數(shù)字生命”能真正寄托思念嗎現(xiàn)實(shí)與虛擬的界限、人機(jī)情感的可能性等,，一直都是人工智能面臨的倫理問題,。此前，一位音樂人利用AI技術(shù)讓因病去世的女兒在數(shù)字世界“復(fù)活”,，原本天人永隔的親人,，通過人工智能進(jìn)行互動，彌補(bǔ)了情感的缺憾,。但同時(shí),，有網(wǎng)絡(luò)博主通過AI制作已逝公眾人物的視頻，打著溫情的名義收割流量,，備受爭議,。有人因此想到《流浪地球2》里的“數(shù)字生命”，“質(zhì)疑圖恒宇,，理解圖恒宇,，成為圖恒宇”，這就是AI存在的意義,，撫慰悲傷,、治愈人心；也有人因此開始思考技術(shù)該有的界限和底線,。AI“復(fù)活”必須經(jīng)過家人同意,，并符合法律，否則就要警惕侵權(quán)陷阱和倫理陷阱,。技術(shù)的“一體兩面”并非新論，歷史上很多重大的技術(shù)革新都曾被視為“雙刃劍”,，既帶來巨大益處,，也引發(fā)新的挑戰(zhàn)和問題?？萍寄芊衽诵?，究竟是“數(shù)字療愈”還是“數(shù)字陷阱”，最終要看它是不是向善,，是不是為美好生活所服務(wù),，有沒有界限分明的底線和紅線。電影《流浪地球2》中的“數(shù)字生命”圖丫丫 圖源：微博@電影流浪地球五,、詐騙陷阱：眼見不一定為實(shí)人工智能時(shí)代,，文字、聲音、圖片和視頻都有可能是假的,，“眼見為實(shí)”不再是絕對真理,。當(dāng)我們覺得“換臉”“變聲”技術(shù)只是“好玩”的時(shí)候，騙子們已盯上了深度合成等人工智能技術(shù),。當(dāng)前,，電信詐騙已走向智能化、定制化,，相關(guān)案件時(shí)有發(fā)生,。據(jù)某機(jī)構(gòu)發(fā)布的《2024人工智能安全報(bào)告》顯示，2023年,，基于AI的深度偽造欺詐暴增3000%,，基于AI的釣魚郵件增長1000%。人工智能技術(shù)不僅可以讓各種騙術(shù)“有圖有真相”,，甚至還能“有視頻”,，這讓騙子偽造的身份看似更加“可信”，令普通老百姓防不勝防,。在前段時(shí)間香港警方披露的多人“AI換臉”詐騙案中,，受害人在多人視頻會議中被要求先后多次轉(zhuǎn)賬，而除了受害人是“真人”上線,，其余都是經(jīng)過AI“換臉”的詐騙同伙,。被騙2億港元，男子參加多人視頻會議只有自己是“真人” 圖源：“央視網(wǎng)”微信公眾號六,、舒適陷阱：在AI面前如何當(dāng)“伸手黨”當(dāng)我們越來越頻繁地借助AI幫我們完成計(jì)劃制定,、資料搜集、文本寫作時(shí),，AI系統(tǒng)在反復(fù)訓(xùn)練過程中不斷“成長”,，而我們原本熟練的技能卻在“偷懶”中面臨退化的風(fēng)險(xiǎn)。某媒體的一項(xiàng)調(diào)查顯示,，52.6%的受訪者表示“比較擔(dān)心”AI工具的普及會讓個(gè)人的表達(dá)能力變差,，20.9%的受訪者表示“非常擔(dān)心”。也有學(xué)者認(rèn)為,，選擇“節(jié)能”模式是人類的天性和本能,。人工智能時(shí)代，人類的機(jī)械性體力技能和計(jì)算型腦力技能也許會逐漸退化,，但從長遠(yuǎn)來看,，也會催生諸如創(chuàng)新研發(fā)、優(yōu)化設(shè)計(jì),、實(shí)時(shí)分析等新的技能增長點(diǎn),。是“退化”還是“新生”,，是“去技能化”還是“再技能化”，取決于我們在人工智能面前當(dāng)“伸手黨”時(shí),，對技能退化,、創(chuàng)造力減弱、決策依賴等一系列問題能不能多一分感知和警惕,，同時(shí),，能否相對應(yīng)地去提升更高階的技能，從而更好地駕馭技術(shù),。人工智能的未來就像“薛定諤的貓”,，充滿不確定性。但可以確定的是,，人類不會在各種陷阱面前望而卻步,、畏首畏尾。面對人工智能帶來的陷阱,，堅(jiān)持開放而審慎,、包容而敬畏、大膽而自信的心態(tài),，我們就能與新技術(shù)的更迭保持同頻,，站在人工智能的肩膀之上抓住機(jī)遇，確保AI技術(shù)朝著有益于人類福祉的方向發(fā)展,。