本周，來(lái)自100多個(gè)國(guó)家和地區(qū)的官員參加了在奧地利維也納召開的自主武器國(guó)際會(huì)議,，討論人工智能與軍事技術(shù)結(jié)合的相關(guān)話題,。美聯(lián)社評(píng)論指出，隨著AI驅(qū)動(dòng)的致命性自主武器系統(tǒng)（LAWS）投入實(shí)戰(zhàn),，繼火藥和核武器之后的“第三次軍事革命”將可能發(fā)生,。奧地利外長(zhǎng)沙倫貝格對(duì)此發(fā)出警告稱,，“誰(shuí)生誰(shuí)死的決定權(quán)，必須掌握在人類而不是機(jī)器手中,。但事實(shí)是,，科技正在飛速發(fā)展，政策卻落后了,。人類正面臨奧本海默時(shí)刻,。”以軍在加沙實(shí)地測(cè)試AI作戰(zhàn)系統(tǒng)4月29日至5月1日,，自主武器國(guó)際會(huì)議在奧地利首都維也納召開,，會(huì)議的主題為“站在十字路口的人類”。奧地利外長(zhǎng) 沙倫貝格：人類正站在一個(gè)十字路口,，自主武器系統(tǒng)很快將布滿世界戰(zhàn)場(chǎng)。我們已經(jīng)通過(guò)AI（控制的）無(wú)人機(jī)和基于AI的打擊目標(biāo)篩選,，見識(shí)到了這一點(diǎn)。半島電視臺(tái)主播：據(jù)一項(xiàng)調(diào)查揭露,，以色列陸軍在加沙的轟炸行動(dòng)中一直在使用未經(jīng)測(cè)試的AI工具。4月3日,，據(jù)以色列媒體《+972》雜志率先爆料,，以色列軍方正在加沙實(shí)地測(cè)試一款名為“薰衣草”的AI作戰(zhàn)系統(tǒng)。該系統(tǒng)能快速判斷獵殺目標(biāo)的時(shí)間,、地點(diǎn)及方式,。據(jù)半島電視臺(tái)報(bào)道,，“薰衣草”系統(tǒng)已將多達(dá)37000名巴勒斯坦人列為獵殺目標(biāo),。以色列陸軍內(nèi)部人士透露，“薰衣草”系統(tǒng)目前正在實(shí)戰(zhàn)中快速學(xué)習(xí),、自我完善,。而以軍的理想目標(biāo)是，成功獵殺一名哈馬斯高級(jí)官員時(shí),，在襲擊中附帶殺死的平民人數(shù)最好被控制在100人以內(nèi),。對(duì)事件進(jìn)行披露的以色列調(diào)查記者尤瓦爾·亞伯拉罕對(duì)媒體表示，“薰衣草”系統(tǒng)在本輪對(duì)巴勒斯坦人的轟炸中發(fā)揮了核心作用,。以色列調(diào)查記者 尤瓦爾·亞伯拉罕：在（2023年）10月7日之后，以色列軍方作出了一個(gè)決定,，這數(shù)萬(wàn)人現(xiàn)在都可能在房屋內(nèi)遭到轟炸,。這意味著不僅他們會(huì)被殺死,，大樓里的每個(gè)人，包括孩子,、家人（都要被殺死）,。以軍為了達(dá)到目的，依靠了這款名為“薰衣草”的AI機(jī)器,，但對(duì)它的人為監(jiān)督卻非常少,。內(nèi)部人士曾經(jīng)承認(rèn)，相對(duì)于對(duì)這部機(jī)器作出的決定,，他就是個(gè)橡皮圖章,。美國(guó)有線電視新聞網(wǎng)去年12月報(bào)道稱,，在沖突爆發(fā)的前兩個(gè)月,，以色列在加沙投放的彈藥中有近一半是缺乏精確性的非制導(dǎo)炸彈。炸彈往往會(huì)摧毀整幢建筑,，對(duì)平民造成的傷害巨大,。以色列調(diào)查記者亞伯拉罕表示，依據(jù)AI的分析,，一些哈馬斯目標(biāo)“不夠重要”,，為節(jié)約成本，沒(méi)有必要浪費(fèi)昂貴的制導(dǎo)導(dǎo)彈精確打擊目標(biāo)所在的特定樓層,。在戰(zhàn)爭(zhēng)的早期階段,，這造成了大量無(wú)辜人員的死傷。以色列調(diào)查記者 尤瓦爾·亞伯拉罕：我的意思是,，根據(jù)國(guó)際法的條款，當(dāng)你設(shè)計(jì)一個(gè)將37000人鎖定為打擊目標(biāo)的系統(tǒng),，核實(shí)后你知道其中10%實(shí)際上并不是武裝分子,，這些人與哈馬斯沒(méi)有緊密聯(lián)系或根本無(wú)關(guān)，但你仍然授權(quán)該系統(tǒng)在缺乏監(jiān)督的情況下發(fā)動(dòng)了數(shù)周（的打擊）,。我的意思,，這難道不是違反了（國(guó)際法）原則嗎？我認(rèn)為國(guó)際法現(xiàn)在正面臨危機(jī),，而AI系統(tǒng)正在讓這場(chǎng)危機(jī)變得更加嚴(yán)重,。而在《巴勒斯坦試驗(yàn)場(chǎng)》一書的作者、《悉尼先驅(qū)晨報(bào)》記者安東尼看來(lái),，以色列如此大膽,、非法、缺乏道德地訓(xùn)練AI武器系統(tǒng)，背后很可能少不了大量的數(shù)據(jù)情報(bào)支持,。《悉尼先驅(qū)晨報(bào)》記者 安東尼：我懷疑情報(bào)來(lái)源可能是美國(guó)或澳大利亞。松峽是美國(guó)在澳中部的一個(gè)主要軍事基地,，美國(guó)通過(guò)該基地向以色列提供信息,。所有這些數(shù)據(jù)信息都匯入（“薰衣草”）系統(tǒng)中，從而生成了大量目標(biāo),。以色列目前試圖將這些（AI）工具出售給外國(guó)實(shí)體和政府,。這些政府對(duì)以色列在加沙的所作所為不但不質(zhì)疑，反而帶著贊許,。烏克蘭戰(zhàn)場(chǎng)成為美軍“AI武器實(shí)驗(yàn)室”而在曾負(fù)責(zé)烏克蘭戰(zhàn)場(chǎng)AI作戰(zhàn)測(cè)試的美國(guó)第18空降軍中將多納休眼中,，烏克蘭戰(zhàn)場(chǎng)已成美軍的“AI武器實(shí)驗(yàn)室”。4月23日,，由五角大樓主導(dǎo)的“梅文計(jì)劃”的最新進(jìn)展被曝光。據(jù)《紐約時(shí)報(bào)》披露,，梅文智能系統(tǒng)正在烏克蘭戰(zhàn)場(chǎng)得到快速訓(xùn)練和完善,。簡(jiǎn)單來(lái)說(shuō)，該AI系統(tǒng)能夠?qū)⑿l(wèi)星,、雷達(dá),、紅外設(shè)備甚至社交媒體上的影像處理后匯總到一塊屏幕上，幫助接入該系統(tǒng)的人員快速識(shí)別出打擊目標(biāo),。通過(guò)接入戰(zhàn)斗機(jī)或無(wú)人機(jī)等武器系統(tǒng)，人類指揮官只需做出確認(rèn)打擊的最終決定,。英國(guó)前陸軍軍官 邁克·馬丁：AI在武器系統(tǒng)中的體現(xiàn)之一便是自主化,。我們希望武器系統(tǒng)實(shí)現(xiàn)自主化的原因是,，希望它們（武器）快速做出打擊行動(dòng)。在戰(zhàn)爭(zhēng)中,，如果你能先發(fā)制人,，那么你就擁有巨大的優(yōu)勢(shì)。情報(bào)分析是一種有效的識(shí)別（打擊目標(biāo)的）方式,，而識(shí)別某一目標(biāo)恰恰是AI系統(tǒng)非常擅長(zhǎng)的,。舉個(gè)例子，只需讓AI系統(tǒng)瀏覽一輛坦克的照片,，系統(tǒng)便會(huì)定位出它的位置,，無(wú)人機(jī)便可對(duì)坦克進(jìn)行打擊。據(jù)英國(guó)《每日郵報(bào)》報(bào)道,，在任何時(shí)間,，俄烏前線上空都飛行著至少10000架無(wú)人機(jī)，這些無(wú)人機(jī)的單個(gè)成本大都不超過(guò)2000美元,，但卻可以摧毀一臺(tái)價(jià)值數(shù)百萬(wàn)美元的主戰(zhàn)坦克,。去年10月，據(jù)福布斯新聞網(wǎng)報(bào)道,，烏克蘭無(wú)人機(jī)公司薩克爾聲稱,，它已經(jīng)部署了一款全自主無(wú)人機(jī)——“獵隼偵察兵”。在AI的驅(qū)動(dòng)下,，它能夠自行決定在戰(zhàn)場(chǎng)上殺死誰(shuí),。薩克爾官員宣稱，這架無(wú)人機(jī)已經(jīng)進(jìn)行了小規(guī)模的自主攻擊,。智能系統(tǒng)加快機(jī)器成為戰(zhàn)場(chǎng)決策者的步伐據(jù)英國(guó)第四新聞臺(tái)報(bào)道,，梅文智能系統(tǒng)的平臺(tái)由五角大樓的承包商——美國(guó)帕蘭泰爾科技公司打造。這家科技公司公然聲稱,，其AI系統(tǒng)是烏克蘭武器的數(shù)字大腦,，烏軍的大多數(shù)打擊目標(biāo)都是借助該平臺(tái)鎖定并打擊的。去年年末,，帕蘭泰爾發(fā)布了最新一代AI平臺(tái)的詳細(xì)信息。該平臺(tái)為軍方設(shè)計(jì)推出了大型語(yǔ)言模型和尖端AI技術(shù),。據(jù)帕蘭泰爾介紹,，該工具就像軍事領(lǐng)域的聊天機(jī)器人，通過(guò)簡(jiǎn)單的語(yǔ)音指令輸入便可為指揮官提供實(shí)時(shí)戰(zhàn)略決策建議,。原本可能需要花上幾個(gè)小時(shí)的關(guān)鍵軍事決策,，現(xiàn)在只需幾分鐘。人類操作者：生成三個(gè)行動(dòng)方案來(lái)瞄準(zhǔn)該敵方裝備,；生成一條從小分隊(duì)Ω到達(dá)敵方裝備的路線；摧毀敵方裝備,。盡管帕蘭泰爾公司表示,，他們的系統(tǒng)遵循道德和法律準(zhǔn)則，運(yùn)行時(shí)有人工監(jiān)督,，無(wú)法獨(dú)立發(fā)起攻擊,。但有分析指出，制造完全自主武器的技術(shù)早已存在,，速度又是戰(zhàn)場(chǎng)上的決定性因素,，像梅文系統(tǒng)這樣的平臺(tái)，無(wú)疑加速了“使機(jī)器成為戰(zhàn)場(chǎng)決策者”的步伐。美國(guó)前軍官保羅·沙爾,，入選《時(shí)代》雜志的人工智能領(lǐng)域最具影響力100人,。今年2月，他在《外交事務(wù)》雜志上發(fā)出警告稱：“如不對(duì)自主武器系統(tǒng)加以嚴(yán)格管控,，未來(lái)人類的角色將淪為打開機(jī)器并坐在場(chǎng)邊,，且?guī)缀鯖](méi)有能力控制甚至結(jié)束戰(zhàn)爭(zhēng)?！睋?jù)彭博社報(bào)道,，在美軍于2024年初在中東進(jìn)行的空襲轟炸中，梅文智能系統(tǒng)至少幫助美軍鎖定了85個(gè)打擊目標(biāo),，地點(diǎn)涉及伊拉克,、敘利亞、也門和紅海地區(qū),。美軍方加速推進(jìn)人工智能技術(shù)據(jù)《時(shí)代》周刊 報(bào)道,，2024財(cái)年,，美國(guó)軍方對(duì)人工智能的投資迅猛增加。根據(jù)美國(guó)公布的2024財(cái)年政府預(yù)算,，包括國(guó)防部,、能源部、國(guó)土安全部等多個(gè)機(jī)構(gòu),，累計(jì)向AI領(lǐng)域計(jì)劃投入超過(guò)2511億美元,。如果將政府外部籌資、資本市場(chǎng)的投入計(jì)算在內(nèi)，2024年,，美國(guó)在AI領(lǐng)域投資預(yù)計(jì)超過(guò)數(shù)萬(wàn)億美元,。2023年11月，美國(guó)國(guó)防部發(fā)布“人工智能實(shí)施戰(zhàn)略”,。摘要指出,，美國(guó)防部正在加速實(shí)施先進(jìn)人工智能技術(shù)，以確保美軍在未來(lái)幾年保持戰(zhàn)場(chǎng)上的決策優(yōu)勢(shì),。5月2日,，在加州愛德華茲空軍基地，美國(guó)空軍部長(zhǎng)肯德爾親自體驗(yàn)了一把人工智能戰(zhàn)機(jī),。他乘坐了由AI駕駛的X-62A VISTA戰(zhàn)機(jī),。美國(guó)空軍部長(zhǎng) 肯德爾：計(jì)算機(jī)不會(huì)感到疲倦,，它并不害怕。它會(huì)遵循它的規(guī)則,，并盡可能地接近完美的動(dòng)作,，而人類的表現(xiàn)總是會(huì)有一些變數(shù),。據(jù)美國(guó)防務(wù)新聞網(wǎng)報(bào)道，4月20日,，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局DARPA（Defense Advanced Research Projects Agency）發(fā)布了AI駕駛的VISTA戰(zhàn)機(jī)與資深飛行員駕駛的F-16戰(zhàn)機(jī)進(jìn)行的一場(chǎng)實(shí)地模擬空戰(zhàn)的視頻,。這也是AI與人類的首次空戰(zhàn)。面對(duì)媒體,，美國(guó)空軍部長(zhǎng)肯德爾拒絕透露這場(chǎng)空戰(zhàn)的具體戰(zhàn)況,。但他表示，接下來(lái)將舉辦更多場(chǎng)景的比賽,，讓AI戰(zhàn)機(jī)打磨技術(shù),。美國(guó)空軍部長(zhǎng) 肯德爾：我們可以讓它（AI戰(zhàn)機(jī)）成為先頭部隊(duì),，我們可以把它放在一些故意要犧牲的地方,，以便吸引火力或者找出敵人在哪里。我們的飛行員普遍認(rèn)為這將為他們帶來(lái)競(jìng)爭(zhēng)優(yōu)勢(shì),。我們正在搶占（AI）技術(shù)優(yōu)勢(shì),。這是這場(chǎng)比賽的關(guān)鍵之一，這事關(guān)重大,。帕爾默·拉基：“硅谷的奧本海默”對(duì)此,，“今日俄羅斯”電視臺(tái)直言，戰(zhàn)爭(zhēng)正在為美國(guó)軍工行業(yè)創(chuàng)造大筆“財(cái)富”,。隨著全球多地沖突與對(duì)抗的加劇,，對(duì)人工智能驅(qū)動(dòng)武器的需求不斷增加,，無(wú)論是洛馬、RTX（前身為雷神公司）或通用動(dòng)力,，無(wú)論是行業(yè)巨頭還是初創(chuàng)企業(yè),，都在加緊自主武器開發(fā)項(xiàng)目，期望從美國(guó)的巨額國(guó)防預(yù)算中分得一杯羹,。安杜里爾工業(yè)公司創(chuàng)始人兼CEO 帕爾默·拉基：這就是“怒火”。它是一種無(wú)人駕駛戰(zhàn)斗機(jī),，能夠與有人駕駛戰(zhàn)斗機(jī)和其他有人駕駛飛機(jī)協(xié)作,，極大地?cái)U(kuò)大可攻擊目標(biāo)的范圍，而不會(huì)讓人員處于危險(xiǎn)之中,。這是自主武器系統(tǒng)最酷的事情之一,。31歲的帕爾默·拉基,，美國(guó)國(guó)防技術(shù)和武器制造商安杜里爾工業(yè)公司的創(chuàng)始人兼CEO,，被美國(guó)媒體稱為“硅谷的奧本海默”。4月24日,，安杜里爾公司被美國(guó)空軍選中,，為下一階段的AI協(xié)同作戰(zhàn)飛機(jī)項(xiàng)目建造和測(cè)試無(wú)人機(jī)原型?！度A爾街日?qǐng)?bào)》指出,，在美國(guó)五大軍火制造商幾乎壟斷行業(yè)的背景下，安杜里爾是唯一一家贏得五角大樓多份合同的國(guó)防初創(chuàng)企業(yè),。2012年，20歲的拉基創(chuàng)立了虛擬現(xiàn)實(shí)公司Oculus VR,，兩年后,，他以20億美元的價(jià)格將其賣給了Meta。2017年,，25歲的拉基創(chuàng)立安杜里爾,，全心投入AI自主武器研發(fā)，幾個(gè)月后便與特朗普政府簽訂了國(guó)防大單,，為墨西哥邊境提供AI監(jiān)視塔,。如今，其自主武器系統(tǒng)已被美國(guó)軍方多個(gè)部門采購(gòu),。截至目前,，已為加沙和烏克蘭戰(zhàn)場(chǎng)提供了上千架Altius-600M攻擊無(wú)人機(jī),。去年年末,，該公司的估值約為84.8億美元,，雖然僅為美國(guó)傳統(tǒng)軍工巨頭的約十分之一，但《華爾街日?qǐng)?bào)》總結(jié)安杜里爾的發(fā)家秘訣便是,，低成本,、易操作、產(chǎn)品研發(fā)效率高,。去年年末，安杜里爾推出“走鵑”（Roadrunner）高爆無(wú)人機(jī)攔截器,，高度僅1.5米,，運(yùn)輸靈活，彈頭載荷卻是同類飛行器的三倍,。相比只能單次使用,、售價(jià)15萬(wàn)美元的AGM-114地獄火導(dǎo)彈和18萬(wàn)美元的AIM-120導(dǎo)彈，售價(jià)僅數(shù)萬(wàn)美元的“走鵑”可以從發(fā)射平臺(tái)垂直起降,。如果證明威脅不存在,，還能完好返回指定的地點(diǎn)。更讓人驚艷的是,，與傳統(tǒng)軍工巨頭復(fù)雜的硬件平臺(tái)不同,，安杜里爾的操作平臺(tái)Lattice如同一個(gè)總指揮中心，允許一名操作員控制和協(xié)調(diào)多個(gè)AI自主武器,，無(wú)論是無(wú)人機(jī),、潛艇還是移動(dòng)監(jiān)視塔。安杜里爾工業(yè)公司平臺(tái)研發(fā)部主管 奇蘭：你將在底部看到這個(gè)團(tuán)隊(duì)的所有資產(chǎn),，然后你將看到一個(gè)圖形顯示。它看起來(lái)與我們?cè)谌粘Ｉ钪惺褂玫能浖浅Ｏ嗨?。背景中有一張地圖,，你會(huì)在該軟件上看到多輛設(shè)備，你能看到每輛設(shè)備所扮演的角色,。工程師設(shè)計(jì)我們的軟件,，就像設(shè)計(jì)手機(jī)或iPad上的軟件一樣，它使用起來(lái)對(duì)用戶非常友好,。帕爾默·拉基經(jīng)常說(shuō),，特斯拉的自動(dòng)駕駛比美國(guó)軍用車輛更好，iPhone的計(jì)算能力也比美國(guó)國(guó)防部常用的系統(tǒng)強(qiáng)大,。未來(lái)的AI武器系統(tǒng)的操作應(yīng)像操作任何智能手機(jī)一樣簡(jiǎn)單,。根據(jù)拉基的理念，在戰(zhàn)場(chǎng)上,，機(jī)器能做得更好,，為何要?jiǎng)趧?dòng)人呢,？安杜里爾工業(yè)公司創(chuàng)始人兼CEO 帕爾默·拉基：當(dāng)需要在對(duì)抗環(huán)境中,，對(duì)同時(shí)運(yùn)行的數(shù)千或數(shù)萬(wàn)個(gè)武器系統(tǒng),，進(jìn)行即時(shí)微觀管理時(shí)，你不能依靠人類來(lái)做所有的事,。有些任務(wù)機(jī)器人更加擅長(zhǎng),。《華爾街日?qǐng)?bào)》直言,，帕爾默·拉基的商業(yè)模式有望重塑美國(guó)國(guó)防工業(yè),。不過(guò)，拉基的理念與不少研究者背道而馳,。這不禁讓人想起2017年美國(guó)加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)系教授斯圖爾特·拉塞爾制作的“殺戮機(jī)器人”視頻。該視頻被業(yè)內(nèi)認(rèn)為預(yù)言了AI武器的未來(lái),。視頻展示了在不久的將來(lái),，配備面部識(shí)別系統(tǒng)的微型無(wú)人機(jī)裝配炸藥，成為恐怖的“AI殺手”,。無(wú)人機(jī)有了自主思考的能力,，它們首先附著在建筑物上，在墻壁上炸出洞,，以便其他無(wú)人機(jī)可以進(jìn)入并追捕特定的學(xué)生,。十幾所大學(xué)發(fā)生無(wú)人機(jī)襲擊事件，數(shù)千名大學(xué)生喪生,。而美國(guó)國(guó)會(huì)也出現(xiàn)了同樣的慘劇,，被AI選中的參議員被殺害。加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)家 拉塞爾：允許機(jī)器選擇性地殺死人類,，將對(duì)我們的安全和自由造成毀滅性打擊。我的數(shù)千名同行認(rèn)為我們有機(jī)會(huì)阻止您剛剛看到的未來(lái),，但采取行動(dòng)的時(shí)機(jī)窗口正在快速關(guān)閉,。5月1日，在自主武器國(guó)際會(huì)議上,，美國(guó)著名信息物理學(xué)家阿吉雷發(fā)出警告,，當(dāng)年拉塞爾博士預(yù)言的“殺人機(jī)器人時(shí)代已經(jīng)到來(lái)?！爆F(xiàn)在,，只要有一個(gè)3-D打印機(jī)和基本的編程知識(shí)，一名學(xué)生便可制作出有能力引起大規(guī)模傷亡的無(wú)人機(jī),。自主武器系統(tǒng)已經(jīng)永遠(yuǎn)地改變了國(guó)際穩(wěn)定的概念,。人工智能系統(tǒng)遭黑客攻擊,、衛(wèi)星和其他數(shù)據(jù)丟失，甚至人工智能本身引起的幻覺,，都可能成為AI武器系統(tǒng)潛在的風(fēng)險(xiǎn)?！畔⑽锢韺W(xué)家安東尼·阿吉雷奧地利外長(zhǎng) 沙倫貝格：實(shí)際上，在某種程度上,，它（AI自主武器）比奧本海默時(shí)刻更糟糕,。這是自火藥發(fā)明以來(lái)戰(zhàn)場(chǎng)上最大的革命，而這種技術(shù)更廉價(jià),，發(fā)展更快,。電影《奧本海默》的導(dǎo)演克里斯托弗·諾蘭曾表示，很多頂級(jí)的人工智能研究者,，將當(dāng)下視為他們的“奧本海默時(shí)刻”,。這是一種往日經(jīng)驗(yàn)永久失效、未知浩劫須臾降臨的不祥預(yù)感,。這一刻,，人類及地球的命運(yùn)，仿佛縮進(jìn)一只盲盒中,。本周,，奧地利裁軍事務(wù)高級(jí)別官員、此次自主武器會(huì)議的策劃者亞歷山大·克門特指出,，短期內(nèi)依靠外交途徑解決AI武器監(jiān)管存在較大難度,，因?yàn)檫@將是一項(xiàng)巨著式的條約。如何在人工智能時(shí)代迎接“奧本海默時(shí)刻”的到來(lái),，需要全球智慧,。