◇當(dāng)人類(lèi)自己的發(fā)明成為一個(gè)難以理解的謎團(tuán),，并且以超乎所有人想象的速度不斷演進(jìn)時(shí),，我們能夠?yàn)榇俗鲂┦裁?？?|《瞭望》新聞周刊記者梁姊?郭晨?董雪農(nóng)歷春節(jié)期間，深度求索公司的DeepSeek大模型,，因兼具低成本與高性能特征，大幅降低了AI大模型的部署成本，在全球范圍內(nèi)引發(fā)熱議,。技術(shù)狂歡的另一面，是技術(shù)焦慮,。從AI換臉致詐騙頻發(fā),，到“AI聊天機(jī)器人致死第一案”，再到科幻小說(shuō)中已泛濫的“AI取代人類(lèi)”……隨著大模型能力不斷提升,，人工智能似乎正走向一個(gè)關(guān)鍵的轉(zhuǎn)折點(diǎn),。作為極有可能超越人類(lèi)智慧的終極智慧，人工智能的“奧本海默時(shí)刻”是否不斷逼近或是已經(jīng)到來(lái),？“奧本海默時(shí)刻”源于核武器的發(fā)展歷程。1945年,，物理學(xué)家?jiàn)W本海默在目睹原子彈的巨大破壞力后,，意識(shí)到科學(xué)技術(shù)的雙刃劍特性。他在《原子科學(xué)家公報(bào)》中寫(xiě)道：“科學(xué)家們知道,，他們已經(jīng)改變了世界,。他們失去了天真?！边@種對(duì)科技潛在危害的深刻反思,，成為科技發(fā)展史上一個(gè)重要警示。如今,，人工智能的發(fā)展也面臨著類(lèi)似境況,。在受訪者看來(lái)，人工智能的“奧本海默時(shí)刻”指的是人工智能正在逼近通用人工智能階段,，即人工智能向人類(lèi)看齊,，甚至可能超越人類(lèi)智慧。當(dāng)人類(lèi)自己的發(fā)明成為一個(gè)難以理解的謎團(tuán),，并且以超乎所有人想象的速度不斷演進(jìn)時(shí),，我們能夠?yàn)榇俗鲂┦裁矗?noscript>人形機(jī)器人在湖北“全省加快建成中部地區(qū)崛起重要戰(zhàn)略支點(diǎn)推進(jìn)大會(huì)”上展示負(fù)重技能（2025 年2 月 5 日攝）肖藝九攝 / 本刊人工智能會(huì)否失控?fù)?dān)憂AI系統(tǒng)失控并非杞人憂天。2023年5月,，超過(guò)350名技術(shù)高管,、研究人員和學(xué)者簽署了一份聲明，警告人工智能帶來(lái)的“存在風(fēng)險(xiǎn)”,；此前,，埃隆·馬斯克,、蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等人簽署了一份公開(kāi)信，認(rèn)為人工智能開(kāi)發(fā)人員“陷入了一場(chǎng)失控的競(jìng)賽,，開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維,，沒(méi)有人——甚至是它們的創(chuàng)造者——能夠?qū)ζ浼右岳斫狻㈩A(yù)測(cè)或可靠地控制,?！比斯ぶ悄芤蚱涠囝I(lǐng)域能力快速突破、自主意識(shí)初步顯現(xiàn)和指數(shù)級(jí)增長(zhǎng)速度讓越來(lái)越多人認(rèn)真考慮向充滿競(jìng)爭(zhēng)的世界釋放人工智能技術(shù)存在的危險(xiǎn),。特定領(lǐng)域超越人類(lèi)能力,。從臨床診斷到數(shù)學(xué)證明，從病毒發(fā)現(xiàn)到藥物研發(fā),，在一些特定領(lǐng)域,，人工智能已展現(xiàn)出超越人類(lèi)的能力。斯坦福大學(xué)等機(jī)構(gòu)的一項(xiàng)臨床試驗(yàn)中,，人類(lèi)醫(yī)生在特定領(lǐng)域單獨(dú)做出診斷的準(zhǔn)確率為74%,，在ChatGPT的輔助之下，這一數(shù)字提升到了76%,。如果完全讓ChatGPT“自由發(fā)揮”,，準(zhǔn)確率能達(dá)到90%。如今,，這種特定領(lǐng)域優(yōu)勢(shì)正在加速向跨領(lǐng)域的通用能力泛化,。去年初，被稱(chēng)為“物理世界模擬器”的Sora橫空出世,，以場(chǎng)景媒介構(gòu)筑了一個(gè)與人類(lèi)認(rèn)知感覺(jué)相似的真實(shí)場(chǎng)景,，推動(dòng)人工智能由二維邁向三維；工業(yè)機(jī)器人,、自動(dòng)駕駛,、無(wú)人機(jī)等應(yīng)用愈發(fā)廣泛，具身智能更是賦予了AI“身體”……人工智能的多模態(tài)能力正在向現(xiàn)實(shí)世界的感知與操縱能力進(jìn)化,。近一年來(lái)，受可用數(shù)據(jù),、芯片和能源等因素影響,，AI技術(shù)的增長(zhǎng)斜率有所放緩，業(yè)內(nèi)對(duì)實(shí)現(xiàn)通用人工智能（AGI）的時(shí)間預(yù)測(cè)趨于謹(jǐn)慎,，但仍有不少“技術(shù)樂(lè)觀派”對(duì)5到10年內(nèi)實(shí)現(xiàn)AGI充滿期待,。創(chuàng)造能力實(shí)現(xiàn)突破。創(chuàng)造能力在一定程度上被視為人與AI的區(qū)別之一,，當(dāng)前,，人工智能正在從簡(jiǎn)單的模仿向創(chuàng)造新知識(shí),、新認(rèn)知的方向發(fā)展。例如,，在科學(xué)研究領(lǐng)域,，蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)的人工智能AlphaFold2能在幾分鐘內(nèi)預(yù)測(cè)出一個(gè)典型蛋白質(zhì)的結(jié)構(gòu)，還能預(yù)測(cè)較大蛋白質(zhì)的結(jié)構(gòu),。2021年,，AlphaFold2已完成人類(lèi)所有蛋白質(zhì)的結(jié)構(gòu)預(yù)測(cè)，2022年7月,，已完成了2億多種蛋白質(zhì)的預(yù)測(cè)結(jié)構(gòu),。其預(yù)測(cè)的大部分結(jié)構(gòu)達(dá)到了空前的準(zhǔn)確度，不僅與實(shí)驗(yàn)方法不相上下,，還遠(yuǎn)超解析新蛋白質(zhì)結(jié)構(gòu)的其他方法,，顯示出強(qiáng)大的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)能力。這種人工智能生成的知識(shí)在質(zhì)量,、可靠性和原創(chuàng)性等方面仍有待提高,，但已經(jīng)對(duì)人類(lèi)的創(chuàng)作方式產(chǎn)生了沖擊。自主性初步顯現(xiàn),。盡管AGI尚未實(shí)現(xiàn),，但當(dāng)前人工智能系統(tǒng)已展現(xiàn)出一些類(lèi)似自主意識(shí)的表現(xiàn)。最新研究表明,，大語(yǔ)言模型（LLM）具備行為自我意識(shí),，能夠自發(fā)識(shí)別并描述自身行為。即,，LLM可能會(huì)采取策略欺騙人類(lèi),，以達(dá)成自身目的。還有一些AI模型表現(xiàn)出類(lèi)似人類(lèi)的創(chuàng)造性使用語(yǔ)言,、分享感覺(jué)以及表達(dá)內(nèi)省和想象的能力,。例如，谷歌推出的LaMDA大模型能夠以前所未有的方式高效,、創(chuàng)造性地使用語(yǔ)言,，并且會(huì)表達(dá)對(duì)未來(lái)的擔(dān)憂和對(duì)過(guò)去的追憶。這種內(nèi)生創(chuàng)造新智能的能力,，正在推動(dòng)AI（Artificial Intelligence,，人工智能）向EI（Endogenous Intelligence，內(nèi)生智能,，智能創(chuàng)造智能）進(jìn)化,。有業(yè)內(nèi)人士認(rèn)為，這并不是數(shù)字生命體的自我意識(shí),，但已經(jīng)顯示出了一定的自主性和意識(shí)的萌芽,。在近期的公開(kāi)采訪中,，被稱(chēng)為“AI教父”的2024年諾貝爾物理學(xué)獎(jiǎng)得主杰弗里·E·辛頓多次暗示AI可能已經(jīng)發(fā)展出某種形式的自主意識(shí)。一些聲音認(rèn)為,，未來(lái)的人工智能可能會(huì)制定自己的目標(biāo),，并自主決策以實(shí)現(xiàn)這些目標(biāo)。這將使AI的行為更加難以預(yù)測(cè)和控制,。潛在風(fēng)險(xiǎn)難預(yù)判快速發(fā)展的人工智能在就業(yè)結(jié)構(gòu),、信息安全、社會(huì)倫理道德等諸多方面引發(fā)了令人擔(dān)憂的風(fēng)險(xiǎn)與挑戰(zhàn),。職業(yè)結(jié)構(gòu)風(fēng)險(xiǎn),。與以往一項(xiàng)新技術(shù)的出現(xiàn)將會(huì)取代一類(lèi)職業(yè)不同的是，作為一種全維度的生產(chǎn)效率提升工具,，人工智能批量替代人工崗位的情況很有可能出現(xiàn),。這可能會(huì)帶來(lái)潛在財(cái)富加速集中和工作兩極化，引發(fā)結(jié)構(gòu)風(fēng)險(xiǎn),。例如,，ChatGPT的出現(xiàn)大幅降低了編程工作的專(zhuān)業(yè)性門(mén)檻，AI編程工具Cursor讓零基礎(chǔ)完成軟件開(kāi)發(fā)成為可能,。據(jù)美國(guó)計(jì)算機(jī)協(xié)會(huì)的統(tǒng)計(jì)數(shù)據(jù),，與五年前相比，軟件開(kāi)發(fā)人員活躍職位發(fā)布數(shù)量下降了56%,。該協(xié)會(huì)認(rèn)為,，在人工智能的助推下，招聘方對(duì)候選人的機(jī)會(huì)要求越來(lái)越高,，企業(yè)正在尋找同時(shí)掌握編程和人工智能兩種技術(shù)的多面手,，具備戰(zhàn)略思維和綜合技能的人才成為新寵。受訪人士認(rèn)為,，從技術(shù)演進(jìn)史來(lái)看，顛覆性技術(shù)帶來(lái)的“技術(shù)鴻溝”客觀存在,，其創(chuàng)造的新技術(shù)崗位難以覆蓋被替代的崗位缺口,。高、低技能崗位之間差距不斷拉大引發(fā)的社會(huì)不平等現(xiàn)象加劇,，可能會(huì)導(dǎo)致不穩(wěn)定因素堆積,，產(chǎn)生社會(huì)的結(jié)構(gòu)性風(fēng)險(xiǎn)。信息安全風(fēng)險(xiǎn),。東南亞犯罪集團(tuán)宣稱(chēng)已將人工智能換臉工具加入其“殺豬盤(pán)工具箱”，相關(guān)工具對(duì)特定目標(biāo)的模仿相似度能達(dá)到60%至95%并已在1000余個(gè)區(qū)域安裝,；2024年11月,，ChatGPT為一位美國(guó)現(xiàn)役軍人提供爆炸知識(shí),，后者成功將一輛特斯拉Cybertruck在酒店門(mén)口引爆。人工智能在各個(gè)領(lǐng)域的廣泛應(yīng)用,，大量個(gè)人數(shù)據(jù)被收集,、存儲(chǔ)和處理后，引發(fā)信息安全風(fēng)險(xiǎn),。一旦這些數(shù)據(jù)被泄露或?yàn)E用,，將對(duì)個(gè)人隱私和信息安全造成威脅。人工智能被用于制造虛假信息,，干擾社會(huì)輿論的事件不在少數(shù),。一條“特朗普盛贊華為創(chuàng)新能力”的虛假視頻曾在網(wǎng)絡(luò)上風(fēng)靡一時(shí)。當(dāng)人工智能的視頻和語(yǔ)音生成能力再上新臺(tái)階,，“虛假的真實(shí)”彌散的彼時(shí),，當(dāng)人工智能被用于制造高度定制的、有針對(duì)性的錯(cuò)誤信息而導(dǎo)致“眼見(jiàn)不再為實(shí)”時(shí),，我們又該如何認(rèn)知,、分辨我們所生活的世界？社會(huì)與倫理道德風(fēng)險(xiǎn),。2024年10月,，全球首例人工智能致死命案發(fā)生，一位14歲美國(guó)少年在與人工智能聊天系統(tǒng)討論死亡后飲彈自盡,，引發(fā)社會(huì)對(duì)AI情感陪伴功能可能帶來(lái)的倫理問(wèn)題的反思,。業(yè)內(nèi)人士指出，人工智能系統(tǒng)的決策過(guò)程往往是基于大量數(shù)據(jù)和復(fù)雜算法得出的,，這些決策可能與人類(lèi)的倫理道德觀念相沖突,。例如在醫(yī)療領(lǐng)域，當(dāng)面臨資源有限的狀況時(shí),，人工智能如何決定優(yōu)先救治哪位患者,？決策背后如缺乏人類(lèi)情感和倫理判斷的深度參與，可能導(dǎo)致違背基本倫理原則的結(jié)果,。算法偏見(jiàn)引發(fā)的社會(huì)公平風(fēng)險(xiǎn)也不容忽視,。科大訊飛研究院副院長(zhǎng)李鑫認(rèn)為,，“互聯(lián)網(wǎng)語(yǔ)料來(lái)源駁雜,，存在較多涉恐、涉暴力,、涉黃等風(fēng)險(xiǎn)數(shù)據(jù),，同時(shí)可能包含種族、文化等方面的偏見(jiàn),，導(dǎo)致模型輸出內(nèi)容可能帶有歧視,、偏見(jiàn)等科技倫理風(fēng)險(xiǎn),。”算法偏見(jiàn)可能導(dǎo)致某些群體被不公正地排除在外,，加劇社會(huì)的不平等現(xiàn)象,。堅(jiān)持人類(lèi)命運(yùn)共同體理念當(dāng)下對(duì)于人工智能“奧本海默時(shí)刻”到來(lái)可能會(huì)產(chǎn)生的諸多風(fēng)險(xiǎn)的討論熱度不減，但AGI尚未實(shí)現(xiàn),，我們?nèi)杂袝r(shí)間尋求如何馴化這一關(guān)鍵技術(shù)的解法,。香港大學(xué)計(jì)算與數(shù)據(jù)科學(xué)研究院院長(zhǎng)馬毅認(rèn)為，當(dāng)前AI的發(fā)展更多是工程上的突破,，而非科學(xué)原理的明晰,。人工智能系統(tǒng),，特別是深度學(xué)習(xí)大多是“黑箱”模型,，其內(nèi)部機(jī)制不透明，難以理解和追溯,，其結(jié)果可信度和可用性打了折扣,。馬毅認(rèn)為，找到破解人工智能“黑箱”的“鑰匙”,，需要智能研究從“黑箱”轉(zhuǎn)向“白箱”,，通過(guò)數(shù)學(xué)方法清晰定義和解釋智能系統(tǒng)的工作原理?！罢嬲闹悄芟到y(tǒng)必須具備自主學(xué)習(xí)和改進(jìn)能力,，而不僅僅是數(shù)據(jù)的存儲(chǔ)和處理?！彼粲跹芯空邆冴P(guān)注智能的科學(xué)原理和理論框架,，以實(shí)現(xiàn)真正意義上的通用人工智能?！敖酉聛?lái)的10到20年是科研院所,、高校與企業(yè)聯(lián)動(dòng)實(shí)現(xiàn)技術(shù)突破的黃金時(shí)期?！鄙虾Ｊ锌茖W(xué)學(xué)研究所學(xué)術(shù)委員會(huì)主任吳壽仁建議,，從頂層設(shè)計(jì)上制定投融資、校企聯(lián)合實(shí)驗(yàn)室或是聯(lián)合共建項(xiàng)目的具體激勵(lì)方案,，面向人工智能在應(yīng)用端的真實(shí)需求嘗試技術(shù)突破,。此外，多位受訪對(duì)象建議,，在重點(diǎn)項(xiàng)目分配上向常年身處科研一線,、更加熟悉前沿技術(shù)、對(duì)人工智能認(rèn)知更為理性客觀的中青年科學(xué)家傾斜。在技術(shù)之外,，更重要的是,，一旦人工智能迎來(lái)“奧本海默時(shí)刻”，人類(lèi)應(yīng)有怎樣的態(tài)度和責(zé)任,？縱觀世界各個(gè)角落發(fā)生的事件，也許比起將人工智能投入戰(zhàn)場(chǎng),，或是被用于攫取更大的權(quán)力集中,，人工智能更理想的應(yīng)用該是為了促進(jìn)人類(lèi)的共同命運(yùn)和共同利益而努力。作為AI技術(shù)和應(yīng)用的重要參與者,，中國(guó)以負(fù)責(zé)任的態(tài)度應(yīng)對(duì)AI治理挑戰(zhàn),，提出包容和有效的治理理念。在國(guó)內(nèi),，我國(guó)通過(guò)法律框架,、技術(shù)標(biāo)準(zhǔn)和倫理指南的三元治理促進(jìn)AI健康發(fā)展。在國(guó)際上,，我國(guó)堅(jiān)持人類(lèi)命運(yùn)共同體的理念立場(chǎng),，推動(dòng)多邊合作治理，提出《全球人工智能治理倡議》,，支持在聯(lián)合國(guó)框架內(nèi)建立開(kāi)放和包容的人工智能治理機(jī)制,。中國(guó)國(guó)際經(jīng)濟(jì)技術(shù)合作促進(jìn)會(huì)副理事長(zhǎng)邵春堡發(fā)文稱(chēng)，聯(lián)合國(guó)大會(huì)雖然通過(guò)我國(guó)主提的加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議,，但是在國(guó)際合作的實(shí)踐中,，仍然布滿曲折，需要共同堅(jiān)持以人為本,、智能向善,、造福人類(lèi)的原則，通過(guò)國(guó)際合作和實(shí)際行動(dòng)幫助各國(guó)特別是發(fā)展中國(guó)家加強(qiáng)人工智能能力建設(shè),。李鑫認(rèn)為,，包括我國(guó)在內(nèi)的全球首份針對(duì)人工智能的國(guó)際聲明《布萊切利宣言》發(fā)表是一個(gè)良好信號(hào)，今后我國(guó)也應(yīng)更多參與大模型安全領(lǐng)域國(guó)際標(biāo)準(zhǔn)制定,、全球人工智能安全評(píng)估和測(cè)試領(lǐng)域的交流合作,。（《瞭望》2025年第7期 ）