本周,，來自100多個國家和地區(qū)的官員參加了在奧地利維也納召開的自主武器國際會議,，討論人工智能與軍事技術(shù)結(jié)合的相關(guān)話題。美聯(lián)社評論指出,，隨著AI驅(qū)動的致命性自主武器系統(tǒng)（LAWS）投入實(shí)戰(zhàn),，繼火藥和核武器之后的“第三次軍事革命”將可能發(fā)生,。奧地利外長沙倫貝格對此發(fā)出警告稱,，“誰生誰死的決定權(quán)，必須掌握在人類而不是機(jī)器手中,。但事實(shí)是,，科技正在飛速發(fā)展,，政策卻落后了。人類正面臨奧本海默時刻,?！币攒娫诩由硨?shí)地測試AI作戰(zhàn)系統(tǒng)4月29日至5月1日，自主武器國際會議在奧地利首都維也納召開,，會議的主題為“站在十字路口的人類”,。奧地利外長 沙倫貝格：人類正站在一個十字路口,，自主武器系統(tǒng)很快將布滿世界戰(zhàn)場,。我們已經(jīng)通過AI（控制的）無人機(jī)和基于AI的打擊目標(biāo)篩選，見識到了這一點(diǎn),。半島電視臺主播：據(jù)一項(xiàng)調(diào)查揭露，以色列陸軍在加沙的轟炸行動中一直在使用未經(jīng)測試的AI工具,。4月3日,，據(jù)以色列媒體《+972》雜志率先爆料，以色列軍方正在加沙實(shí)地測試一款名為“薰衣草”的AI作戰(zhàn)系統(tǒng),。該系統(tǒng)能快速判斷獵殺目標(biāo)的時間,、地點(diǎn)及方式。據(jù)半島電視臺報(bào)道,，“薰衣草”系統(tǒng)已將多達(dá)37000名巴勒斯坦人列為獵殺目標(biāo),。以色列陸軍內(nèi)部人士透露,，“薰衣草”系統(tǒng)目前正在實(shí)戰(zhàn)中快速學(xué)習(xí)、自我完善,。而以軍的理想目標(biāo)是,，成功獵殺一名哈馬斯高級官員時，在襲擊中附帶殺死的平民人數(shù)最好被控制在100人以內(nèi),。對事件進(jìn)行披露的以色列調(diào)查記者尤瓦爾·亞伯拉罕對媒體表示,，“薰衣草”系統(tǒng)在本輪對巴勒斯坦人的轟炸中發(fā)揮了核心作用。以色列調(diào)查記者 尤瓦爾·亞伯拉罕：在（2023年）10月7日之后,，以色列軍方作出了一個決定，這數(shù)萬人現(xiàn)在都可能在房屋內(nèi)遭到轟炸,。這意味著不僅他們會被殺死,，大樓里的每個人，包括孩子,、家人（都要被殺死）,。以軍為了達(dá)到目的,，依靠了這款名為“薰衣草”的AI機(jī)器，但對它的人為監(jiān)督卻非常少,。內(nèi)部人士曾經(jīng)承認(rèn),，相對于對這部機(jī)器作出的決定，他就是個橡皮圖章,。美國有線電視新聞網(wǎng)去年12月報(bào)道稱，在沖突爆發(fā)的前兩個月,，以色列在加沙投放的彈藥中有近一半是缺乏精確性的非制導(dǎo)炸彈,。炸彈往往會摧毀整幢建筑，對平民造成的傷害巨大,。以色列調(diào)查記者亞伯拉罕表示,，依據(jù)AI的分析，一些哈馬斯目標(biāo)“不夠重要”,，為節(jié)約成本,，沒有必要浪費(fèi)昂貴的制導(dǎo)導(dǎo)彈精確打擊目標(biāo)所在的特定樓層。在戰(zhàn)爭的早期階段,，這造成了大量無辜人員的死傷,。以色列調(diào)查記者 尤瓦爾·亞伯拉罕：我的意思是,，根據(jù)國際法的條款,，當(dāng)你設(shè)計(jì)一個將37000人鎖定為打擊目標(biāo)的系統(tǒng)，核實(shí)后你知道其中10%實(shí)際上并不是武裝分子,，這些人與哈馬斯沒有緊密聯(lián)系或根本無關(guān),，但你仍然授權(quán)該系統(tǒng)在缺乏監(jiān)督的情況下發(fā)動了數(shù)周（的打擊）。我的意思,，這難道不是違反了（國際法）原則嗎,？我認(rèn)為國際法現(xiàn)在正面臨危機(jī)，而AI系統(tǒng)正在讓這場危機(jī)變得更加嚴(yán)重,。而在《巴勒斯坦試驗(yàn)場》一書的作者,、《悉尼先驅(qū)晨報(bào)》記者安東尼看來，以色列如此大膽,、非法,、缺乏道德地訓(xùn)練AI武器系統(tǒng)，背后很可能少不了大量的數(shù)據(jù)情報(bào)支持,。《悉尼先驅(qū)晨報(bào)》記者 安東尼：我懷疑情報(bào)來源可能是美國或澳大利亞。松峽是美國在澳中部的一個主要軍事基地,，美國通過該基地向以色列提供信息,。所有這些數(shù)據(jù)信息都匯入（“薰衣草”）系統(tǒng)中,，從而生成了大量目標(biāo)。以色列目前試圖將這些（AI）工具出售給外國實(shí)體和政府,。這些政府對以色列在加沙的所作所為不但不質(zhì)疑,，反而帶著贊許。烏克蘭戰(zhàn)場成為美軍“AI武器實(shí)驗(yàn)室”而在曾負(fù)責(zé)烏克蘭戰(zhàn)場AI作戰(zhàn)測試的美國第18空降軍中將多納休眼中,，烏克蘭戰(zhàn)場已成美軍的“AI武器實(shí)驗(yàn)室”,。4月23日,，由五角大樓主導(dǎo)的“梅文計(jì)劃”的最新進(jìn)展被曝光,。據(jù)《紐約時報(bào)》披露，梅文智能系統(tǒng)正在烏克蘭戰(zhàn)場得到快速訓(xùn)練和完善,。簡單來說,，該AI系統(tǒng)能夠?qū)⑿l(wèi)星、雷達(dá),、紅外設(shè)備甚至社交媒體上的影像處理后匯總到一塊屏幕上,，幫助接入該系統(tǒng)的人員快速識別出打擊目標(biāo)。通過接入戰(zhàn)斗機(jī)或無人機(jī)等武器系統(tǒng),，人類指揮官只需做出確認(rèn)打擊的最終決定,。英國前陸軍軍官 邁克·馬?。篈I在武器系統(tǒng)中的體現(xiàn)之一便是自主化,。我們希望武器系統(tǒng)實(shí)現(xiàn)自主化的原因是，希望它們（武器）快速做出打擊行動,。在戰(zhàn)爭中,，如果你能先發(fā)制人，那么你就擁有巨大的優(yōu)勢,。情報(bào)分析是一種有效的識別（打擊目標(biāo)的）方式,，而識別某一目標(biāo)恰恰是AI系統(tǒng)非常擅長的,。舉個例子,，只需讓AI系統(tǒng)瀏覽一輛坦克的照片，系統(tǒng)便會定位出它的位置,，無人機(jī)便可對坦克進(jìn)行打擊,。據(jù)英國《每日郵報(bào)》報(bào)道,，在任何時間,，俄烏前線上空都飛行著至少10000架無人機(jī)，這些無人機(jī)的單個成本大都不超過2000美元,，但卻可以摧毀一臺價(jià)值數(shù)百萬美元的主戰(zhàn)坦克,。去年10月,，據(jù)福布斯新聞網(wǎng)報(bào)道，烏克蘭無人機(jī)公司薩克爾聲稱,，它已經(jīng)部署了一款全自主無人機(jī)——“獵隼偵察兵”,。在AI的驅(qū)動下，它能夠自行決定在戰(zhàn)場上殺死誰,。薩克爾官員宣稱,，這架無人機(jī)已經(jīng)進(jìn)行了小規(guī)模的自主攻擊。智能系統(tǒng)加快機(jī)器成為戰(zhàn)場決策者的步伐據(jù)英國第四新聞臺報(bào)道,，梅文智能系統(tǒng)的平臺由五角大樓的承包商——美國帕蘭泰爾科技公司打造,。這家科技公司公然聲稱，其AI系統(tǒng)是烏克蘭武器的數(shù)字大腦,，烏軍的大多數(shù)打擊目標(biāo)都是借助該平臺鎖定并打擊的,。去年年末,，帕蘭泰爾發(fā)布了最新一代AI平臺的詳細(xì)信息,。該平臺為軍方設(shè)計(jì)推出了大型語言模型和尖端AI技術(shù)。據(jù)帕蘭泰爾介紹,，該工具就像軍事領(lǐng)域的聊天機(jī)器人,，通過簡單的語音指令輸入便可為指揮官提供實(shí)時戰(zhàn)略決策建議。原本可能需要花上幾個小時的關(guān)鍵軍事決策,，現(xiàn)在只需幾分鐘,。人類操作者：生成三個行動方案來瞄準(zhǔn)該敵方裝備,；生成一條從小分隊(duì)Ω到達(dá)敵方裝備的路線,；摧毀敵方裝備。盡管帕蘭泰爾公司表示,，他們的系統(tǒng)遵循道德和法律準(zhǔn)則,，運(yùn)行時有人工監(jiān)督，無法獨(dú)立發(fā)起攻擊,。但有分析指出,，制造完全自主武器的技術(shù)早已存在，速度又是戰(zhàn)場上的決定性因素,，像梅文系統(tǒng)這樣的平臺,，無疑加速了“使機(jī)器成為戰(zhàn)場決策者”的步伐。美國前軍官保羅·沙爾,，入選《時代》雜志的人工智能領(lǐng)域最具影響力100人,。今年2月,，他在《外交事務(wù)》雜志上發(fā)出警告稱：“如不對自主武器系統(tǒng)加以嚴(yán)格管控，未來人類的角色將淪為打開機(jī)器并坐在場邊,，且?guī)缀鯖]有能力控制甚至結(jié)束戰(zhàn)爭,。”據(jù)彭博社報(bào)道,，在美軍于2024年初在中東進(jìn)行的空襲轟炸中,，梅文智能系統(tǒng)至少幫助美軍鎖定了85個打擊目標(biāo)，地點(diǎn)涉及伊拉克,、敘利亞,、也門和紅海地區(qū)。美軍方加速推進(jìn)人工智能技術(shù)據(jù)《時代》周刊 報(bào)道,，2024財(cái)年，美國軍方對人工智能的投資迅猛增加,。根據(jù)美國公布的2024財(cái)年政府預(yù)算,，包括國防部、能源部,、國土安全部等多個機(jī)構(gòu),，累計(jì)向AI領(lǐng)域計(jì)劃投入超過2511億美元。如果將政府外部籌資,、資本市場的投入計(jì)算在內(nèi),，2024年，美國在AI領(lǐng)域投資預(yù)計(jì)超過數(shù)萬億美元,。2023年11月，美國國防部發(fā)布“人工智能實(shí)施戰(zhàn)略”。摘要指出,，美國防部正在加速實(shí)施先進(jìn)人工智能技術(shù),，以確保美軍在未來幾年保持戰(zhàn)場上的決策優(yōu)勢。5月2日,，在加州愛德華茲空軍基地,，美國空軍部長肯德爾親自體驗(yàn)了一把人工智能戰(zhàn)機(jī)。他乘坐了由AI駕駛的X-62A VISTA戰(zhàn)機(jī),。美國空軍部長 肯德爾：計(jì)算機(jī)不會感到疲倦，它并不害怕,。它會遵循它的規(guī)則,，并盡可能地接近完美的動作，而人類的表現(xiàn)總是會有一些變數(shù),。據(jù)美國防務(wù)新聞網(wǎng)報(bào)道,，4月20日，美國國防部高級研究計(jì)劃局DARPA（Defense Advanced Research Projects Agency）發(fā)布了AI駕駛的VISTA戰(zhàn)機(jī)與資深飛行員駕駛的F-16戰(zhàn)機(jī)進(jìn)行的一場實(shí)地模擬空戰(zhàn)的視頻,。這也是AI與人類的首次空戰(zhàn),。面對媒體，美國空軍部長肯德爾拒絕透露這場空戰(zhàn)的具體戰(zhàn)況,。但他表示,，接下來將舉辦更多場景的比賽，讓AI戰(zhàn)機(jī)打磨技術(shù),。美國空軍部長 肯德爾：我們可以讓它（AI戰(zhàn)機(jī)）成為先頭部隊(duì)，我們可以把它放在一些故意要犧牲的地方,，以便吸引火力或者找出敵人在哪里,。我們的飛行員普遍認(rèn)為這將為他們帶來競爭優(yōu)勢。我們正在搶占（AI）技術(shù)優(yōu)勢,。這是這場比賽的關(guān)鍵之一,，這事關(guān)重大。帕爾默·拉基：“硅谷的奧本海默”對此,，“今日俄羅斯”電視臺直言,，戰(zhàn)爭正在為美國軍工行業(yè)創(chuàng)造大筆“財(cái)富”。隨著全球多地沖突與對抗的加劇,，對人工智能驅(qū)動武器的需求不斷增加,，無論是洛馬、RTX（前身為雷神公司）或通用動力,，無論是行業(yè)巨頭還是初創(chuàng)企業(yè),，都在加緊自主武器開發(fā)項(xiàng)目，期望從美國的巨額國防預(yù)算中分得一杯羹。安杜里爾工業(yè)公司創(chuàng)始人兼CEO 帕爾默·拉基：這就是“怒火”,。它是一種無人駕駛戰(zhàn)斗機(jī)，能夠與有人駕駛戰(zhàn)斗機(jī)和其他有人駕駛飛機(jī)協(xié)作,，極大地?cái)U(kuò)大可攻擊目標(biāo)的范圍,，而不會讓人員處于危險(xiǎn)之中。這是自主武器系統(tǒng)最酷的事情之一,。31歲的帕爾默·拉基，美國國防技術(shù)和武器制造商安杜里爾工業(yè)公司的創(chuàng)始人兼CEO,，被美國媒體稱為“硅谷的奧本海默”,。4月24日，安杜里爾公司被美國空軍選中,，為下一階段的AI協(xié)同作戰(zhàn)飛機(jī)項(xiàng)目建造和測試無人機(jī)原型,。《華爾街日報(bào)》指出,，在美國五大軍火制造商幾乎壟斷行業(yè)的背景下,，安杜里爾是唯一一家贏得五角大樓多份合同的國防初創(chuàng)企業(yè)。2012年,，20歲的拉基創(chuàng)立了虛擬現(xiàn)實(shí)公司Oculus VR，兩年后,，他以20億美元的價(jià)格將其賣給了Meta,。2017年，25歲的拉基創(chuàng)立安杜里爾,，全心投入AI自主武器研發(fā),，幾個月后便與特朗普政府簽訂了國防大單，為墨西哥邊境提供AI監(jiān)視塔,。如今,，其自主武器系統(tǒng)已被美國軍方多個部門采購。截至目前,，已為加沙和烏克蘭戰(zhàn)場提供了上千架Altius-600M攻擊無人機(jī),。去年年末，該公司的估值約為84.8億美元,，雖然僅為美國傳統(tǒng)軍工巨頭的約十分之一,，但《華爾街日報(bào)》總結(jié)安杜里爾的發(fā)家秘訣便是，低成本,、易操作,、產(chǎn)品研發(fā)效率高,。去年年末,，安杜里爾推出“走鵑”（Roadrunner）高爆無人機(jī)攔截器,，高度僅1.5米,，運(yùn)輸靈活,，彈頭載荷卻是同類飛行器的三倍。相比只能單次使用,、售價(jià)15萬美元的AGM-114地獄火導(dǎo)彈和18萬美元的AIM-120導(dǎo)彈,，售價(jià)僅數(shù)萬美元的“走鵑”可以從發(fā)射平臺垂直起降。如果證明威脅不存在,，還能完好返回指定的地點(diǎn),。更讓人驚艷的是，與傳統(tǒng)軍工巨頭復(fù)雜的硬件平臺不同,，安杜里爾的操作平臺Lattice如同一個總指揮中心,，允許一名操作員控制和協(xié)調(diào)多個AI自主武器，無論是無人機(jī),、潛艇還是移動監(jiān)視塔,。安杜里爾工業(yè)公司平臺研發(fā)部主管 奇蘭：你將在底部看到這個團(tuán)隊(duì)的所有資產(chǎn),，然后你將看到一個圖形顯示,。它看起來與我們在日常生活中使用的軟件非常相似。背景中有一張地圖,，你會在該軟件上看到多輛設(shè)備,，你能看到每輛設(shè)備所扮演的角色。工程師設(shè)計(jì)我們的軟件,，就像設(shè)計(jì)手機(jī)或iPad上的軟件一樣,，它使用起來對用戶非常友好。帕爾默·拉基經(jīng)常說,，特斯拉的自動駕駛比美國軍用車輛更好,，iPhone的計(jì)算能力也比美國國防部常用的系統(tǒng)強(qiáng)大。未來的AI武器系統(tǒng)的操作應(yīng)像操作任何智能手機(jī)一樣簡單,。根據(jù)拉基的理念,，在戰(zhàn)場上，機(jī)器能做得更好,，為何要勞動人呢,？安杜里爾工業(yè)公司創(chuàng)始人兼CEO 帕爾默·拉基：當(dāng)需要在對抗環(huán)境中,，對同時運(yùn)行的數(shù)千或數(shù)萬個武器系統(tǒng),，進(jìn)行即時微觀管理時,，你不能依靠人類來做所有的事。有些任務(wù)機(jī)器人更加擅長,?！度A爾街日報(bào)》直言，帕爾默·拉基的商業(yè)模式有望重塑美國國防工業(yè),。不過,，拉基的理念與不少研究者背道而馳。這不禁讓人想起2017年美國加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)系教授斯圖爾特·拉塞爾制作的“殺戮機(jī)器人”視頻,。該視頻被業(yè)內(nèi)認(rèn)為預(yù)言了AI武器的未來。視頻展示了在不久的將來,，配備面部識別系統(tǒng)的微型無人機(jī)裝配炸藥,，成為恐怖的“AI殺手”。無人機(jī)有了自主思考的能力,，它們首先附著在建筑物上,，在墻壁上炸出洞，以便其他無人機(jī)可以進(jìn)入并追捕特定的學(xué)生,。十幾所大學(xué)發(fā)生無人機(jī)襲擊事件,，數(shù)千名大學(xué)生喪生。而美國國會也出現(xiàn)了同樣的慘劇,，被AI選中的參議員被殺害,。加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)家 拉塞爾：允許機(jī)器選擇性地殺死人類,，將對我們的安全和自由造成毀滅性打擊,。我的數(shù)千名同行認(rèn)為我們有機(jī)會阻止您剛剛看到的未來，但采取行動的時機(jī)窗口正在快速關(guān)閉,。5月1日,，在自主武器國際會議上，美國著名信息物理學(xué)家阿吉雷發(fā)出警告,，當(dāng)年拉塞爾博士預(yù)言的“殺人機(jī)器人時代已經(jīng)到來,。”現(xiàn)在,，只要有一個3-D打印機(jī)和基本的編程知識,，一名學(xué)生便可制作出有能力引起大規(guī)模傷亡的無人機(jī)。自主武器系統(tǒng)已經(jīng)永遠(yuǎn)地改變了國際穩(wěn)定的概念,。人工智能系統(tǒng)遭黑客攻擊,、衛(wèi)星和其他數(shù)據(jù)丟失，甚至人工智能本身引起的幻覺,，都可能成為AI武器系統(tǒng)潛在的風(fēng)險(xiǎn),?！畔⑽锢韺W(xué)家安東尼·阿吉雷奧地利外長 沙倫貝格：實(shí)際上,，在某種程度上,，它（AI自主武器）比奧本海默時刻更糟糕。這是自火藥發(fā)明以來戰(zhàn)場上最大的革命,，而這種技術(shù)更廉價(jià),，發(fā)展更快。電影《奧本海默》的導(dǎo)演克里斯托弗·諾蘭曾表示,，很多頂級的人工智能研究者,，將當(dāng)下視為他們的“奧本海默時刻”,。這是一種往日經(jīng)驗(yàn)永久失效,、未知浩劫須臾降臨的不祥預(yù)感。這一刻,，人類及地球的命運(yùn),，仿佛縮進(jìn)一只盲盒中。本周,，奧地利裁軍事務(wù)高級別官員,、此次自主武器會議的策劃者亞歷山大·克門特指出，短期內(nèi)依靠外交途徑解決AI武器監(jiān)管存在較大難度,，因?yàn)檫@將是一項(xiàng)巨著式的條約,。如何在人工智能時代迎接“奧本海默時刻”的到來，需要全球智慧,。