從ChatGPT到Sora,，這兩年人工智能的發(fā)展速度之快,、影響范圍之廣、滲透能力之強,，讓人們直觀地感受到未來已來,。新技術的發(fā)展，有時會伴隨著悖論和陷阱,。面對AI市場這片藍海,，人工智能帶來的六大陷阱需要引起高度警惕,。一,、數據安全陷阱：你的“AI朋友”能守口如瓶嗎在科幻電影中，因為數據泄露帶來的安全隱憂曾在很多情節(jié)中出現(xiàn)過,。而在現(xiàn)實中,，隨著AI技術在各行各業(yè)的廣泛應用，數據安全的確成為一個重要且緊迫的問題,。人工智能系統(tǒng)的個性化服務,，往往依賴于大量個人數據的輸入和模型訓練。也就是說,，你的“AI小伙伴”越智能，個人信息“喂養(yǎng)”得越頻繁,，你在它面前就越像個“透明人”,。數據的收集、存儲,、處理和使用過程,，任何一個環(huán)節(jié)出了差錯，就可能存在個人健康記錄,、金融信息,、位置數據等敏感信息泄露的風險。除了隱私泄露外,，研究人員發(fā)現(xiàn),，當前人工智能技術在實踐應用中，還可能帶來模型中毒,、數據篡改,、內部威脅、蓄意攻擊等數據安全威脅,。而AI時代數據安全治理有哪些出路,，也成為相關領域的熱門課題。圖源：“科學家雜志”微信公眾號二,、侵權陷阱：AI創(chuàng)作不能“隨心所欲”我們一貫認為“藝術是人類最終的圣殿”,，人類之外無法取代。但如今,，生成式人工智能打破了人類對創(chuàng)作的“壟斷”,。谷歌公司旗下的人工智能模型“雙子座（Gemini）”根據“三言兩語”就能生成一篇短篇小說或詩歌,；去年，“AI孫燕姿”等AI翻唱刷屏網絡,，登上熱搜,。一邊是AI創(chuàng)作的噴涌式發(fā)展，另一邊是藝術家們的“集體擔憂”,。今年4月,，世界各地的200余名音樂人聯(lián)合發(fā)布了一封反對AI的公開信，呼吁數字音樂開發(fā)商“停止使用人工智能來侵犯和貶低人類藝術家的權利”,。生成式人工智能推動了創(chuàng)作方式的變革,，也引發(fā)了關于版權歸屬、責任界定和利益分配等問題,。不久前,，全國首例“AI聲音侵權案”一審宣判，四個被告方使用原告聲音,、開發(fā)涉案AI文本轉語音產品未獲得合法授權,，構成侵權，有的賠禮道歉,，有的賠償原告各項損失25萬元,。目前，探索建立對于AI生成內容侵權判定的具體規(guī)則,、加強對相關領域的法律監(jiān)管是必要而且是迫切的,。AI創(chuàng)作不能隨心所欲，須守好邊界,，行有所止,、行有所戒。三,、認知陷阱：人工智能也有“智商欠費”的可能人工智能也有智商“掉線”之時,，究竟是“人工智能”還是“人工智障”，需要一雙慧眼去辨別,。當前,，大語言模型在處理和生成信息時，仍有生成錯誤或誤導性回答的概率,。訓練數據的選擇,、算法設計的方式，以及最終應用場景中的使用方法,，都可能導致AI“犯迷糊”,。如，有網友在使用人工智能系統(tǒng)生成旅游攻略時,，系統(tǒng)忽略了天氣等客觀因素,，“AI導游”帶著網友在烈日下戶外徒步,，令人哭笑不得；還有網友發(fā)現(xiàn),，在某款語言模型的兩個子系統(tǒng)中,，分別用中、英文問同一個問題,，則會得到截然不同的答案,。四、倫理陷阱：“數字生命”能真正寄托思念嗎現(xiàn)實與虛擬的界限,、人機情感的可能性等,，一直都是人工智能面臨的倫理問題。此前,，一位音樂人利用AI技術讓因病去世的女兒在數字世界“復活”,，原本天人永隔的親人，通過人工智能進行互動,，彌補了情感的缺憾,。但同時，有網絡博主通過AI制作已逝公眾人物的視頻,，打著溫情的名義收割流量,，備受爭議。有人因此想到《流浪地球2》里的“數字生命”,，“質疑圖恒宇，理解圖恒宇,，成為圖恒宇”,，這就是AI存在的意義，撫慰悲傷,、治愈人心,；也有人因此開始思考技術該有的界限和底線。AI“復活”必須經過家人同意,，并符合法律,，否則就要警惕侵權陷阱和倫理陷阱。技術的“一體兩面”并非新論,，歷史上很多重大的技術革新都曾被視為“雙刃劍”,，既帶來巨大益處，也引發(fā)新的挑戰(zhàn)和問題,?？萍寄芊衽诵模烤故恰皵底织熡边€是“數字陷阱”,，最終要看它是不是向善,，是不是為美好生活所服務,，有沒有界限分明的底線和紅線。電影《流浪地球2》中的“數字生命”圖丫丫 圖源：微博@電影流浪地球五,、詐騙陷阱：眼見不一定為實人工智能時代,，文字、聲音,、圖片和視頻都有可能是假的,，“眼見為實”不再是絕對真理。當我們覺得“換臉”“變聲”技術只是“好玩”的時候,，騙子們已盯上了深度合成等人工智能技術,。當前，電信詐騙已走向智能化,、定制化,，相關案件時有發(fā)生。據某機構發(fā)布的《2024人工智能安全報告》顯示,，2023年,，基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件增長1000%,。人工智能技術不僅可以讓各種騙術“有圖有真相”,，甚至還能“有視頻”，這讓騙子偽造的身份看似更加“可信”,，令普通老百姓防不勝防,。在前段時間香港警方披露的多人“AI換臉”詐騙案中，受害人在多人視頻會議中被要求先后多次轉賬,，而除了受害人是“真人”上線,，其余都是經過AI“換臉”的詐騙同伙。被騙2億港元,，男子參加多人視頻會議只有自己是“真人” 圖源：“央視網”微信公眾號六,、舒適陷阱：在AI面前如何當“伸手黨”當我們越來越頻繁地借助AI幫我們完成計劃制定、資料搜集,、文本寫作時,，AI系統(tǒng)在反復訓練過程中不斷“成長”，而我們原本熟練的技能卻在“偷懶”中面臨退化的風險,。某媒體的一項調查顯示,，52.6%的受訪者表示“比較擔心”AI工具的普及會讓個人的表達能力變差，20.9%的受訪者表示“非常擔心”,。也有學者認為,，選擇“節(jié)能”模式是人類的天性和本能。人工智能時代,，人類的機械性體力技能和計算型腦力技能也許會逐漸退化,，但從長遠來看,，也會催生諸如創(chuàng)新研發(fā)、優(yōu)化設計,、實時分析等新的技能增長點,。是“退化”還是“新生”，是“去技能化”還是“再技能化”,，取決于我們在人工智能面前當“伸手黨”時,，對技能退化、創(chuàng)造力減弱,、決策依賴等一系列問題能不能多一分感知和警惕,，同時，能否相對應地去提升更高階的技能,，從而更好地駕馭技術,。人工智能的未來就像“薛定諤的貓”，充滿不確定性,。但可以確定的是,，人類不會在各種陷阱面前望而卻步、畏首畏尾,。面對人工智能帶來的陷阱,，堅持開放而審慎、包容而敬畏,、大膽而自信的心態(tài),，我們就能與新技術的更迭保持同頻，站在人工智能的肩膀之上抓住機遇,，確保AI技術朝著有益于人類福祉的方向發(fā)展,。