當(dāng)人類自己的發(fā)明成為一個(gè)難以理解的謎團(tuán),，并且以超乎所有人想象的速度不斷演進(jìn)時(shí),，我們能夠?yàn)榇俗鲂┦裁矗课?|《瞭望》新聞周刊記者 梁姊 郭晨 董雪農(nóng)歷春節(jié)期間,，深度求索公司的DeepSeek大模型,，因兼具低成本與高性能特征，大幅降低了AI大模型的部署成本，在全球范圍內(nèi)引發(fā)熱議,。技術(shù)狂歡的另一面，是技術(shù)焦慮,。從AI換臉致詐騙頻發(fā),，到“AI聊天機(jī)器人致死第一案”，再到科幻小說(shuō)中已泛濫的“AI取代人類”……隨著大模型能力不斷提升,，人工智能似乎正走向一個(gè)關(guān)鍵的轉(zhuǎn)折點(diǎn),。作為極有可能超越人類智慧的終極智慧，人工智能的“奧本海默時(shí)刻”是否不斷逼近或是已經(jīng)到來(lái),？“奧本海默時(shí)刻”源于核武器的發(fā)展歷程。1945年,，物理學(xué)家?jiàn)W本海默在目睹原子彈的巨大破壞力后,，意識(shí)到科學(xué)技術(shù)的雙刃劍特性。他在《原子科學(xué)家公報(bào)》中寫(xiě)道：“科學(xué)家們知道,，他們已經(jīng)改變了世界,。他們失去了天真?！边@種對(duì)科技潛在危害的深刻反思,，成為科技發(fā)展史上一個(gè)重要警示。如今,，人工智能的發(fā)展也面臨著類似境況,。在受訪者看來(lái)，人工智能的“奧本海默時(shí)刻”指的是人工智能正在逼近通用人工智能階段,，即人工智能向人類看齊,，甚至可能超越人類智慧。當(dāng)人類自己的發(fā)明成為一個(gè)難以理解的謎團(tuán),，并且以超乎所有人想象的速度不斷演進(jìn)時(shí),，我們能夠?yàn)榇俗鲂┦裁矗咳斯ぶ悄軙?huì)否失控?fù)?dān)憂AI系統(tǒng)失控并非杞人憂天,。2023年5月,，超過(guò)350名技術(shù)高管、研究人員和學(xué)者簽署了一份聲明,，警告人工智能帶來(lái)的“存在風(fēng)險(xiǎn)”,；此前,，埃隆·馬斯克、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等人簽署了一份公開(kāi)信,，認(rèn)為人工智能開(kāi)發(fā)人員“陷入了一場(chǎng)失控的競(jìng)賽,，開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維，沒(méi)有人——甚至是它們的創(chuàng)造者——能夠?qū)ζ浼右岳斫?、預(yù)測(cè)或可靠地控制,。”人工智能因其多領(lǐng)域能力快速突破,、自主意識(shí)初步顯現(xiàn)和指數(shù)級(jí)增長(zhǎng)速度讓越來(lái)越多人認(rèn)真考慮向充滿競(jìng)爭(zhēng)的世界釋放人工智能技術(shù)存在的危險(xiǎn),。特定領(lǐng)域超越人類能力。從臨床診斷到數(shù)學(xué)證明,，從病毒發(fā)現(xiàn)到藥物研發(fā),，在一些特定領(lǐng)域，人工智能已展現(xiàn)出超越人類的能力,。斯坦福大學(xué)等機(jī)構(gòu)的一項(xiàng)臨床試驗(yàn)中,，人類醫(yī)生在特定領(lǐng)域單獨(dú)做出診斷的準(zhǔn)確率為74%，在ChatGPT的輔助之下,，這一數(shù)字提升到了76%。如果完全讓ChatGPT“自由發(fā)揮”,，準(zhǔn)確率能達(dá)到90%,。如今，這種特定領(lǐng)域優(yōu)勢(shì)正在加速向跨領(lǐng)域的通用能力泛化,。去年初,，被稱為“物理世界模擬器”的Sora橫空出世，以場(chǎng)景媒介構(gòu)筑了一個(gè)與人類認(rèn)知感覺(jué)相似的真實(shí)場(chǎng)景,，推動(dòng)人工智能由二維邁向三維,；工業(yè)機(jī)器人、自動(dòng)駕駛,、無(wú)人機(jī)等應(yīng)用愈發(fā)廣泛,，具身智能更是賦予了AI“身體”……人工智能的多模態(tài)能力正在向現(xiàn)實(shí)世界的感知與操縱能力進(jìn)化。近一年來(lái),，受可用數(shù)據(jù),、芯片和能源等因素影響，AI技術(shù)的增長(zhǎng)斜率有所放緩,，業(yè)內(nèi)對(duì)實(shí)現(xiàn)通用人工智能（AGI）的時(shí)間預(yù)測(cè)趨于謹(jǐn)慎,，但仍有不少“技術(shù)樂(lè)觀派”對(duì)5到10年內(nèi)實(shí)現(xiàn)AGI充滿期待。創(chuàng)造能力實(shí)現(xiàn)突破,。創(chuàng)造能力在一定程度上被視為人與AI的區(qū)別之一,，當(dāng)前,，人工智能正在從簡(jiǎn)單的模仿向創(chuàng)造新知識(shí)、新認(rèn)知的方向發(fā)展,。例如,，在科學(xué)研究領(lǐng)域，蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)的人工智能AlphaFold2能在幾分鐘內(nèi)預(yù)測(cè)出一個(gè)典型蛋白質(zhì)的結(jié)構(gòu),，還能預(yù)測(cè)較大蛋白質(zhì)的結(jié)構(gòu),。2021年，AlphaFold2已完成人類所有蛋白質(zhì)的結(jié)構(gòu)預(yù)測(cè),，2022年7月,，已完成了2億多種蛋白質(zhì)的預(yù)測(cè)結(jié)構(gòu)。其預(yù)測(cè)的大部分結(jié)構(gòu)達(dá)到了空前的準(zhǔn)確度,，不僅與實(shí)驗(yàn)方法不相上下,，還遠(yuǎn)超解析新蛋白質(zhì)結(jié)構(gòu)的其他方法，顯示出強(qiáng)大的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)能力,。這種人工智能生成的知識(shí)在質(zhì)量,、可靠性和原創(chuàng)性等方面仍有待提高，但已經(jīng)對(duì)人類的創(chuàng)作方式產(chǎn)生了沖擊,。自主性初步顯現(xiàn),。盡管AGI尚未實(shí)現(xiàn)，但當(dāng)前人工智能系統(tǒng)已展現(xiàn)出一些類似自主意識(shí)的表現(xiàn),。最新研究表明,，大語(yǔ)言模型（LLM）具備行為自我意識(shí)，能夠自發(fā)識(shí)別并描述自身行為,。即,，LLM可能會(huì)采取策略欺騙人類，以達(dá)成自身目的,。還有一些AI模型表現(xiàn)出類似人類的創(chuàng)造性使用語(yǔ)言,、分享感覺(jué)以及表達(dá)內(nèi)省和想象的能力。例如,，谷歌推出的LaMDA大模型能夠以前所未有的方式高效,、創(chuàng)造性地使用語(yǔ)言，并且會(huì)表達(dá)對(duì)未來(lái)的擔(dān)憂和對(duì)過(guò)去的追憶,。這種內(nèi)生創(chuàng)造新智能的能力,，正在推動(dòng)AI（Artificial Intelligence，人工智能）向EI（Endogenous Intelligence,，內(nèi)生智能,，智能創(chuàng)造智能）進(jìn)化。有業(yè)內(nèi)人士認(rèn)為,，這并不是數(shù)字生命體的自我意識(shí),，但已經(jīng)顯示出了一定的自主性和意識(shí)的萌芽,。在近期的公開(kāi)采訪中，被稱為“AI教父”的2024年諾貝爾物理學(xué)獎(jiǎng)得主杰弗里·E·辛頓多次暗示AI可能已經(jīng)發(fā)展出某種形式的自主意識(shí),。一些聲音認(rèn)為,，未來(lái)的人工智能可能會(huì)制定自己的目標(biāo)，并自主決策以實(shí)現(xiàn)這些目標(biāo),。這將使AI的行為更加難以預(yù)測(cè)和控制,。人形機(jī)器人在湖北“全省加快建成中部地區(qū)崛起重要戰(zhàn)略支點(diǎn)推進(jìn)大會(huì)”上展示負(fù)重技能（2025年2月5日攝） 肖藝九攝 / 本刊潛在風(fēng)險(xiǎn)難預(yù)判快速發(fā)展的人工智能在就業(yè)結(jié)構(gòu)、信息安全,、社會(huì)倫理道德等諸多方面引發(fā)了令人擔(dān)憂的風(fēng)險(xiǎn)與挑戰(zhàn),。職業(yè)結(jié)構(gòu)風(fēng)險(xiǎn)。與以往一項(xiàng)新技術(shù)的出現(xiàn)將會(huì)取代一類職業(yè)不同的是,，作為一種全維度的生產(chǎn)效率提升工具,，人工智能批量替代人工崗位的情況很有可能出現(xiàn)。這可能會(huì)帶來(lái)潛在財(cái)富加速集中和工作兩極化,，引發(fā)結(jié)構(gòu)風(fēng)險(xiǎn),。例如，ChatGPT的出現(xiàn)大幅降低了編程工作的專業(yè)性門檻,，AI編程工具Cursor讓零基礎(chǔ)完成軟件開(kāi)發(fā)成為可能,。據(jù)美國(guó)計(jì)算機(jī)協(xié)會(huì)的統(tǒng)計(jì)數(shù)據(jù)，與五年前相比,，軟件開(kāi)發(fā)人員活躍職位發(fā)布數(shù)量下降了56%,。該協(xié)會(huì)認(rèn)為，在人工智能的助推下,，招聘方對(duì)候選人的機(jī)會(huì)要求越來(lái)越高，企業(yè)正在尋找同時(shí)掌握編程和人工智能兩種技術(shù)的多面手,，具備戰(zhàn)略思維和綜合技能的人才成為新寵,。受訪人士認(rèn)為，從技術(shù)演進(jìn)史來(lái)看,，顛覆性技術(shù)帶來(lái)的“技術(shù)鴻溝”客觀存在,，其創(chuàng)造的新技術(shù)崗位難以覆蓋被替代的崗位缺口。高,、低技能崗位之間差距不斷拉大引發(fā)的社會(huì)不平等現(xiàn)象加劇,，可能會(huì)導(dǎo)致不穩(wěn)定因素堆積，產(chǎn)生社會(huì)的結(jié)構(gòu)性風(fēng)險(xiǎn),。信息安全風(fēng)險(xiǎn),。東南亞犯罪集團(tuán)宣稱已將人工智能換臉工具加入其“殺豬盤工具箱”，相關(guān)工具對(duì)特定目標(biāo)的模仿相似度能達(dá)到60%至95%并已在1000余個(gè)區(qū)域安裝,；2024年11月,，ChatGPT為一位美國(guó)現(xiàn)役軍人提供爆炸知識(shí),，后者成功將一輛特斯拉Cybertruck在酒店門口引爆。人工智能在各個(gè)領(lǐng)域的廣泛應(yīng)用,，大量個(gè)人數(shù)據(jù)被收集,、存儲(chǔ)和處理后，引發(fā)信息安全風(fēng)險(xiǎn),。一旦這些數(shù)據(jù)被泄露或?yàn)E用,，將對(duì)個(gè)人隱私和信息安全造成威脅。人工智能被用于制造虛假信息,，干擾社會(huì)輿論的事件不在少數(shù),。一條“特朗普盛贊華為創(chuàng)新能力”的虛假視頻曾在網(wǎng)絡(luò)上風(fēng)靡一時(shí)。當(dāng)人工智能的視頻和語(yǔ)音生成能力再上新臺(tái)階,，“虛假的真實(shí)”彌散的彼時(shí),，當(dāng)人工智能被用于制造高度定制的、有針對(duì)性的錯(cuò)誤信息而導(dǎo)致“眼見(jiàn)不再為實(shí)”時(shí),，我們又該如何認(rèn)知,、分辨我們所生活的世界？社會(huì)與倫理道德風(fēng)險(xiǎn),。2024年10月,，全球首例人工智能致死命案發(fā)生，一位14歲美國(guó)少年在與人工智能聊天系統(tǒng)討論死亡后飲彈自盡,，引發(fā)社會(huì)對(duì)AI情感陪伴功能可能帶來(lái)的倫理問(wèn)題的反思,。業(yè)內(nèi)人士指出，人工智能系統(tǒng)的決策過(guò)程往往是基于大量數(shù)據(jù)和復(fù)雜算法得出的,，這些決策可能與人類的倫理道德觀念相沖突,。例如在醫(yī)療領(lǐng)域，當(dāng)面臨資源有限的狀況時(shí),，人工智能如何決定優(yōu)先救治哪位患者,？決策背后如缺乏人類情感和倫理判斷的深度參與，可能導(dǎo)致違背基本倫理原則的結(jié)果,。算法偏見(jiàn)引發(fā)的社會(huì)公平風(fēng)險(xiǎn)也不容忽視,。科大訊飛研究院副院長(zhǎng)李鑫認(rèn)為,，“互聯(lián)網(wǎng)語(yǔ)料來(lái)源駁雜,，存在較多涉恐、涉暴力,、涉黃等風(fēng)險(xiǎn)數(shù)據(jù),，同時(shí)可能包含種族、文化等方面的偏見(jiàn),，導(dǎo)致模型輸出內(nèi)容可能帶有歧視,、偏見(jiàn)等科技倫理風(fēng)險(xiǎn),。”算法偏見(jiàn)可能導(dǎo)致某些群體被不公正地排除在外,，加劇社會(huì)的不平等現(xiàn)象,。堅(jiān)持人類命運(yùn)共同體理念當(dāng)下對(duì)于人工智能“奧本海默時(shí)刻”到來(lái)可能會(huì)產(chǎn)生的諸多風(fēng)險(xiǎn)的討論熱度不減，但AGI尚未實(shí)現(xiàn),，我們?nèi)杂袝r(shí)間尋求如何馴化這一關(guān)鍵技術(shù)的解法,。香港大學(xué)計(jì)算與數(shù)據(jù)科學(xué)研究院院長(zhǎng)馬毅認(rèn)為，當(dāng)前AI的發(fā)展更多是工程上的突破,，而非科學(xué)原理的明晰,。人工智能系統(tǒng)，特別是深度學(xué)習(xí)大多是“黑箱”模型,，其內(nèi)部機(jī)制不透明,，難以理解和追溯，其結(jié)果可信度和可用性打了折扣,。馬毅認(rèn)為,，找到破解人工智能“黑箱”的“鑰匙”，需要智能研究從“黑箱”轉(zhuǎn)向“白箱”,，通過(guò)數(shù)學(xué)方法清晰定義和解釋智能系統(tǒng)的工作原理,。“真正的智能系統(tǒng)必須具備自主學(xué)習(xí)和改進(jìn)能力,，而不僅僅是數(shù)據(jù)的存儲(chǔ)和處理,。”他呼吁研究者們關(guān)注智能的科學(xué)原理和理論框架,，以實(shí)現(xiàn)真正意義上的通用人工智能,。“接下來(lái)的10到20年是科研院所,、高校與企業(yè)聯(lián)動(dòng)實(shí)現(xiàn)技術(shù)突破的黃金時(shí)期,。”上海市科學(xué)學(xué)研究所學(xué)術(shù)委員會(huì)主任吳壽仁建議,，從頂層設(shè)計(jì)上制定投融資、校企聯(lián)合實(shí)驗(yàn)室或是聯(lián)合共建項(xiàng)目的具體激勵(lì)方案,，面向人工智能在應(yīng)用端的真實(shí)需求嘗試技術(shù)突破,。此外，多位受訪對(duì)象建議,，在重點(diǎn)項(xiàng)目分配上向常年身處科研一線,、更加熟悉前沿技術(shù)、對(duì)人工智能認(rèn)知更為理性客觀的中青年科學(xué)家傾斜,。在技術(shù)之外,，更重要的是,，一旦人工智能迎來(lái)“奧本海默時(shí)刻”，人類應(yīng)有怎樣的態(tài)度和責(zé)任,？縱觀世界各個(gè)角落發(fā)生的事件,，也許比起將人工智能投入戰(zhàn)場(chǎng)，或是被用于攫取更大的權(quán)力集中,，人工智能更理想的應(yīng)用該是為了促進(jìn)人類的共同命運(yùn)和共同利益而努力,。作為AI技術(shù)和應(yīng)用的重要參與者，中國(guó)以負(fù)責(zé)任的態(tài)度應(yīng)對(duì)AI治理挑戰(zhàn),，提出包容和有效的治理理念,。在國(guó)內(nèi)，我國(guó)通過(guò)法律框架,、技術(shù)標(biāo)準(zhǔn)和倫理指南的三元治理促進(jìn)AI健康發(fā)展,。在國(guó)際上，我國(guó)堅(jiān)持人類命運(yùn)共同體的理念立場(chǎng),，推動(dòng)多邊合作治理,，提出《全球人工智能治理倡議》，支持在聯(lián)合國(guó)框架內(nèi)建立開(kāi)放和包容的人工智能治理機(jī)制,。中國(guó)國(guó)際經(jīng)濟(jì)技術(shù)合作促進(jìn)會(huì)副理事長(zhǎng)邵春堡發(fā)文稱,，聯(lián)合國(guó)大會(huì)雖然通過(guò)我國(guó)主提的加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議，但是在國(guó)際合作的實(shí)踐中,，仍然布滿曲折,，需要共同堅(jiān)持以人為本、智能向善,、造福人類的原則,，通過(guò)國(guó)際合作和實(shí)際行動(dòng)幫助各國(guó)特別是發(fā)展中國(guó)家加強(qiáng)人工智能能力建設(shè)。李鑫認(rèn)為,，包括我國(guó)在內(nèi)的全球首份針對(duì)人工智能的國(guó)際聲明《布萊切利宣言》發(fā)表是一個(gè)良好信號(hào),，今后我國(guó)也應(yīng)更多參與大模型安全領(lǐng)域國(guó)際標(biāo)準(zhǔn)制定、全球人工智能安全評(píng)估和測(cè)試領(lǐng)域的交流合作,?！?/p>