從ChatGPT到Sora，這兩年人工智能的發(fā)展速度之快,、影響范圍之廣、滲透能力之強(qiáng),，讓人們直觀地感受到未來已來。新技術(shù)的發(fā)展，有時(shí)會(huì)伴隨著悖論和陷阱。面對(duì)AI市場這片藍(lán)海,，人工智能帶來的六大陷阱需要引起高度警惕。一,、數(shù)據(jù)安全陷阱：你的“AI朋友”能守口如瓶嗎在科幻電影中,，因?yàn)閿?shù)據(jù)泄露帶來的安全隱憂曾在很多情節(jié)中出現(xiàn)過。而在現(xiàn)實(shí)中,，隨著AI技術(shù)在各行各業(yè)的廣泛應(yīng)用,，數(shù)據(jù)安全的確成為一個(gè)重要且緊迫的問題。人工智能系統(tǒng)的個(gè)性化服務(wù),，往往依賴于大量個(gè)人數(shù)據(jù)的輸入和模型訓(xùn)練,。也就是說，你的“AI小伙伴”越智能,，個(gè)人信息“喂養(yǎng)”得越頻繁,，你在它面前就越像個(gè)“透明人”。數(shù)據(jù)的收集,、存儲(chǔ),、處理和使用過程，任何一個(gè)環(huán)節(jié)出了差錯(cuò),，就可能存在個(gè)人健康記錄,、金融信息,、位置數(shù)據(jù)等敏感信息泄露的風(fēng)險(xiǎn)。除了隱私泄露外,，研究人員發(fā)現(xiàn),，當(dāng)前人工智能技術(shù)在實(shí)踐應(yīng)用中，還可能帶來模型中毒,、數(shù)據(jù)篡改,、內(nèi)部威脅、蓄意攻擊等數(shù)據(jù)安全威脅,。而AI時(shí)代數(shù)據(jù)安全治理有哪些出路,，也成為相關(guān)領(lǐng)域的熱門課題。圖源：“科學(xué)家雜志”微信公眾號(hào)二,、侵權(quán)陷阱：AI創(chuàng)作不能“隨心所欲”我們一貫認(rèn)為“藝術(shù)是人類最終的圣殿”,，人類之外無法取代。但如今,，生成式人工智能打破了人類對(duì)創(chuàng)作的“壟斷”,。谷歌公司旗下的人工智能模型“雙子座（Gemini）”根據(jù)“三言兩語”就能生成一篇短篇小說或詩歌；去年,，“AI孫燕姿”等AI翻唱刷屏網(wǎng)絡(luò),，登上熱搜。一邊是AI創(chuàng)作的噴涌式發(fā)展,，另一邊是藝術(shù)家們的“集體擔(dān)憂”,。今年4月，世界各地的200余名音樂人聯(lián)合發(fā)布了一封反對(duì)AI的公開信,，呼吁數(shù)字音樂開發(fā)商“停止使用人工智能來侵犯和貶低人類藝術(shù)家的權(quán)利”,。生成式人工智能推動(dòng)了創(chuàng)作方式的變革，也引發(fā)了關(guān)于版權(quán)歸屬,、責(zé)任界定和利益分配等問題,。不久前，全國首例“AI聲音侵權(quán)案”一審宣判,，四個(gè)被告方使用原告聲音,、開發(fā)涉案AI文本轉(zhuǎn)語音產(chǎn)品未獲得合法授權(quán)，構(gòu)成侵權(quán),，有的賠禮道歉,，有的賠償原告各項(xiàng)損失25萬元。目前,，探索建立對(duì)于AI生成內(nèi)容侵權(quán)判定的具體規(guī)則,、加強(qiáng)對(duì)相關(guān)領(lǐng)域的法律監(jiān)管是必要而且是迫切的。AI創(chuàng)作不能隨心所欲,，須守好邊界,，行有所止,、行有所戒。三,、認(rèn)知陷阱：人工智能也有“智商欠費(fèi)”的可能人工智能也有智商“掉線”之時(shí),，究竟是“人工智能”還是“人工智障”，需要一雙慧眼去辨別,。當(dāng)前,，大語言模型在處理和生成信息時(shí)，仍有生成錯(cuò)誤或誤導(dǎo)性回答的概率,。訓(xùn)練數(shù)據(jù)的選擇,、算法設(shè)計(jì)的方式，以及最終應(yīng)用場景中的使用方法,，都可能導(dǎo)致AI“犯迷糊”,。如，有網(wǎng)友在使用人工智能系統(tǒng)生成旅游攻略時(shí),，系統(tǒng)忽略了天氣等客觀因素,，“AI導(dǎo)游”帶著網(wǎng)友在烈日下戶外徒步，令人哭笑不得,；還有網(wǎng)友發(fā)現(xiàn)，在某款語言模型的兩個(gè)子系統(tǒng)中,，分別用中,、英文問同一個(gè)問題，則會(huì)得到截然不同的答案,。四,、倫理陷阱：“數(shù)字生命”能真正寄托思念嗎現(xiàn)實(shí)與虛擬的界限、人機(jī)情感的可能性等,，一直都是人工智能面臨的倫理問題,。此前，一位音樂人利用AI技術(shù)讓因病去世的女兒在數(shù)字世界“復(fù)活”,，原本天人永隔的親人,，通過人工智能進(jìn)行互動(dòng)，彌補(bǔ)了情感的缺憾,。但同時(shí),，有網(wǎng)絡(luò)博主通過AI制作已逝公眾人物的視頻，打著溫情的名義收割流量,，備受爭議,。有人因此想到《流浪地球2》里的“數(shù)字生命”，“質(zhì)疑圖恒宇,，理解圖恒宇,，成為圖恒宇”,，這就是AI存在的意義，撫慰悲傷,、治愈人心,；也有人因此開始思考技術(shù)該有的界限和底線。AI“復(fù)活”必須經(jīng)過家人同意,，并符合法律,，否則就要警惕侵權(quán)陷阱和倫理陷阱。技術(shù)的“一體兩面”并非新論,，歷史上很多重大的技術(shù)革新都曾被視為“雙刃劍”,，既帶來巨大益處，也引發(fā)新的挑戰(zhàn)和問題,?？萍寄芊衽诵模烤故恰皵?shù)字療愈”還是“數(shù)字陷阱”,，最終要看它是不是向善,，是不是為美好生活所服務(wù)，有沒有界限分明的底線和紅線,。電影《流浪地球2》中的“數(shù)字生命”圖丫丫 圖源：微博@電影流浪地球五,、詐騙陷阱：眼見不一定為實(shí)人工智能時(shí)代，文字,、聲音,、圖片和視頻都有可能是假的，“眼見為實(shí)”不再是絕對(duì)真理,。當(dāng)我們覺得“換臉”“變聲”技術(shù)只是“好玩”的時(shí)候,，騙子們已盯上了深度合成等人工智能技術(shù)。當(dāng)前,，電信詐騙已走向智能化,、定制化，相關(guān)案件時(shí)有發(fā)生,。據(jù)某機(jī)構(gòu)發(fā)布的《2024人工智能安全報(bào)告》顯示,，2023年，基于AI的深度偽造欺詐暴增3000%,，基于AI的釣魚郵件增長1000%,。人工智能技術(shù)不僅可以讓各種騙術(shù)“有圖有真相”，甚至還能“有視頻”,，這讓騙子偽造的身份看似更加“可信”,，令普通老百姓防不勝防。在前段時(shí)間香港警方披露的多人“AI換臉”詐騙案中,，受害人在多人視頻會(huì)議中被要求先后多次轉(zhuǎn)賬,，而除了受害人是“真人”上線,，其余都是經(jīng)過AI“換臉”的詐騙同伙。被騙2億港元,，男子參加多人視頻會(huì)議只有自己是“真人” 圖源：“央視網(wǎng)”微信公眾號(hào)六,、舒適陷阱：在AI面前如何當(dāng)“伸手黨”當(dāng)我們?cè)絹碓筋l繁地借助AI幫我們完成計(jì)劃制定、資料搜集,、文本寫作時(shí),，AI系統(tǒng)在反復(fù)訓(xùn)練過程中不斷“成長”，而我們?cè)臼炀毜募寄軈s在“偷懶”中面臨退化的風(fēng)險(xiǎn),。某媒體的一項(xiàng)調(diào)查顯示,，52.6%的受訪者表示“比較擔(dān)心”AI工具的普及會(huì)讓個(gè)人的表達(dá)能力變差，20.9%的受訪者表示“非常擔(dān)心”,。也有學(xué)者認(rèn)為,，選擇“節(jié)能”模式是人類的天性和本能。人工智能時(shí)代,，人類的機(jī)械性體力技能和計(jì)算型腦力技能也許會(huì)逐漸退化,，但從長遠(yuǎn)來看，也會(huì)催生諸如創(chuàng)新研發(fā),、優(yōu)化設(shè)計(jì),、實(shí)時(shí)分析等新的技能增長點(diǎn)。是“退化”還是“新生”,，是“去技能化”還是“再技能化”,，取決于我們?cè)谌斯ぶ悄苊媲爱?dāng)“伸手黨”時(shí)，對(duì)技能退化,、創(chuàng)造力減弱、決策依賴等一系列問題能不能多一分感知和警惕,，同時(shí),，能否相對(duì)應(yīng)地去提升更高階的技能，從而更好地駕馭技術(shù),。人工智能的未來就像“薛定諤的貓”,，充滿不確定性。但可以確定的是,，人類不會(huì)在各種陷阱面前望而卻步,、畏首畏尾。面對(duì)人工智能帶來的陷阱,，堅(jiān)持開放而審慎,、包容而敬畏、大膽而自信的心態(tài),，我們就能與新技術(shù)的更迭保持同頻,，站在人工智能的肩膀之上抓住機(jī)遇,，確保AI技術(shù)朝著有益于人類福祉的方向發(fā)展。