上周，一場(chǎng)自主武器國(guó)際會(huì)議在奧地利維也納召開(kāi)。這次會(huì)議討論了人工智能(AI)與軍事技術(shù)結(jié)合的相關(guān)話題,，來(lái)自100多個(gè)國(guó)家和地區(qū)的官員參加,。隨著AI驅(qū)動(dòng)的致命性自主武器系統(tǒng)(LAWS)投入實(shí)戰(zhàn)，繼火藥和核武器之后的“第三次軍事革命”將可能發(fā)生,。事實(shí)上,，半島電視臺(tái)近日就報(bào)道稱，一項(xiàng)調(diào)查揭露,，以色列陸軍正在加沙實(shí)地測(cè)試一款名為“薰衣草”的AI作戰(zhàn)系統(tǒng),。該系統(tǒng)能快速判斷獵殺目標(biāo)的時(shí)間、地點(diǎn)及方式,。無(wú)人監(jiān)管的獵殺人工只花20秒確認(rèn)目標(biāo)為男性媒體曝光的一份調(diào)查顯示,，以色列軍隊(duì)正在使用名為“薰衣草”的AI輔助定位系統(tǒng)，隔離和識(shí)別數(shù)千名巴勒斯坦人,，作為潛在的轟炸目標(biāo),。半島電視臺(tái)的羅里·查蘭茲報(bào)道說(shuō)：“這個(gè)數(shù)據(jù)庫(kù)負(fù)責(zé)擬定多達(dá)37000個(gè)目標(biāo)的死亡名單?！?名以色列情報(bào)官員曾直接參與使用AI生成暗殺目標(biāo),。他們說(shuō)，“薰衣草”在對(duì)巴勒斯坦人的轟炸中,，發(fā)揮了核心作用,，特別是在戰(zhàn)爭(zhēng)的早期階段。從形式上說(shuō),，“薰衣草”是用來(lái)標(biāo)記哈馬斯和巴勒斯坦所有可疑人員(包括低級(jí)別人員),，以此作為潛在的轟炸目標(biāo)。5月4日,，在約旦河西岸城市圖勒凱爾姆,，以軍和巴勒斯坦人沖突現(xiàn)場(chǎng)冒起濃煙。在戰(zhàn)爭(zhēng)早期，軍方普遍批準(zhǔn)軍官采用“薰衣草”的殺戮名單,，沒(méi)有要求徹底檢查機(jī)器做出這些選擇的原因,，也沒(méi)有檢查這些選擇所依據(jù)的原始情報(bào)數(shù)據(jù)。一個(gè)消息來(lái)源指出,，人工通常只是機(jī)器決策的“橡皮圖章”,，通常情況下，他們?cè)谑跈?quán)轟炸之前,，只會(huì)花大約“20秒”在每個(gè)目標(biāo)上——只是為了確?！稗挂虏荨睒?biāo)記的目標(biāo)是男性。在實(shí)踐中,，消息人士說(shuō),，這意味著對(duì)于被“薰衣草”標(biāo)記錯(cuò)誤的平民，沒(méi)有監(jiān)督機(jī)制來(lái)發(fā)現(xiàn)錯(cuò)誤,。軍方全面使用情報(bào)人員批準(zhǔn)采用AI擬定的殺戮名單消息人士稱,，在新一輪巴以沖突爆發(fā)大約兩周后，以色列情報(bào)人員“手動(dòng)”檢查了AI系統(tǒng)隨機(jī)選擇的數(shù)百個(gè)目標(biāo)樣本的準(zhǔn)確性,，并批準(zhǔn)自動(dòng)采用“薰衣草”的殺戮名單,，該名單以前僅用作輔助。當(dāng)該樣本發(fā)現(xiàn)“薰衣草”的結(jié)果在確定個(gè)人與哈馬斯的關(guān)系上達(dá)到了90%的準(zhǔn)確率時(shí),，軍方批準(zhǔn)了該系統(tǒng)的全面使用,。5月6日，在加沙地帶南部城市拉法,，以軍空襲后的廢墟,。此外，以色列軍隊(duì)在目標(biāo)個(gè)人在家時(shí)(通常是在晚上),，有系統(tǒng)地對(duì)他們進(jìn)行攻擊,，而不是在軍事活動(dòng)期間。據(jù)消息來(lái)源說(shuō),，這是因?yàn)?，從他們的情?bào)角度來(lái)看，在這些人的私人住宅中更容易找到他們,。被允許的濫殺獵殺一名哈馬斯高官允許誤殺100個(gè)平民媒體披露,，以色列軍隊(duì)知道，沒(méi)有要求“不出錯(cuò)”的政策,?！稗挂虏荨钡某鲥e(cuò)率約為10%。查蘭茲說(shuō)：“(即使AI存在誤差)這并沒(méi)有阻止以色列利用它來(lái)快速識(shí)別加沙地帶低級(jí)別的哈馬斯人員,，并對(duì)他們進(jìn)行轟炸,。”在新一輪巴以沖突的頭幾周，以軍幾乎完全依賴于“薰衣草”,，多達(dá)37000名巴勒斯坦人被懷疑是武裝分子,，以軍對(duì)他們及其住宅進(jìn)行空襲,?？ㄋ柟R德·本·哈利法大學(xué)助理教授馬克·歐文·瓊斯，在接受半島電視臺(tái)采訪時(shí)表示,，越來(lái)越明顯的是,，以色列軍隊(duì)正在“部署未經(jīng)測(cè)試的AI系統(tǒng)……來(lái)作出有關(guān)平民生死的決定”。以色列媒體《+972》報(bào)道說(shuō),，這種方法導(dǎo)致加沙成千上萬(wàn)平民死亡,。自去年10月7日新一輪巴以沖突以來(lái)，至少有33037名巴勒斯坦人在以色列的襲擊中喪生,，75668人受傷,。針對(duì)越來(lái)越多的批評(píng)，以色列軍方表示,，其分析人員必須進(jìn)行“獨(dú)立檢查”,，以核實(shí)所確定的目標(biāo)符合國(guó)際法的相關(guān)定義，以及以色列軍隊(duì)的規(guī)定,。以軍否認(rèn)“薰衣草”是一個(gè)“系統(tǒng)”,，聲稱其“只是一個(gè)數(shù)據(jù)庫(kù)，其目的是交叉引用情報(bào)來(lái)源,，以產(chǎn)生關(guān)于恐怖組織軍事行動(dòng)人員的最新信息”,。然而事實(shí)上，每一個(gè)巴勒斯坦武裝人員成為預(yù)定目標(biāo),，就有“5到10個(gè)平民死亡”,，這說(shuō)明了為什么加沙有這么多的平民死亡。5月6日,，在加沙地帶南部城市拉法,，一名男孩走過(guò)以軍空襲后的廢墟。消息人士稱,，以色列軍隊(duì)在沖突的最初幾周決定,，“薰衣草”每標(biāo)記一名哈馬斯初級(jí)特工，就允許附帶殺死15到20名平民,。同時(shí),，成功獵殺一名哈馬斯高級(jí)官員，在襲擊中附帶殺死的平民人數(shù)被允許控制在100人以內(nèi),。聯(lián)合國(guó)人權(quán)和反恐特別報(bào)告員本·索爾表示,，如果報(bào)告中的細(xì)節(jié)被證明屬實(shí)，“以色列在加沙的許多襲擊，都將構(gòu)成發(fā)動(dòng)不相稱襲擊的戰(zhàn)爭(zhēng)罪,?！毕つ嵝履贤柺看髮W(xué)的AI專家托比·沃爾什教授表示，法律學(xué)者可能會(huì)認(rèn)為,，使用AI瞄準(zhǔn)目標(biāo),，違反了國(guó)際人道主義法。編譯,、整理/記者梁婷婷綜合央視鏈接AI的“奧本海默時(shí)刻”上周,，在自主武器國(guó)際會(huì)議上，美國(guó)著名信息物理學(xué)家阿吉雷發(fā)出警告,，當(dāng)年拉塞爾博士預(yù)言的“殺人機(jī)器人時(shí)代已經(jīng)到來(lái),。”阿吉雷表示,，現(xiàn)在只要有一個(gè)3D打印機(jī)和基本的編程知識(shí),，一名學(xué)生便可制作出有能力引起大規(guī)模傷亡的無(wú)人機(jī)。自主武器系統(tǒng)已經(jīng)永遠(yuǎn)地改變了國(guó)際穩(wěn)定的概念,。AI系統(tǒng)遭黑客攻擊,，衛(wèi)星和其他數(shù)據(jù)丟失，甚至AI本身引起的幻覺(jué),，都可能成為AI武器系統(tǒng)潛在的風(fēng)險(xiǎn),。5月4日，在加沙地帶中部邁加齊難民營(yíng)拍攝的以軍空襲后的現(xiàn)場(chǎng),。奧地利外長(zhǎng)沙倫貝格對(duì)此發(fā)出警告稱,，“誰(shuí)生誰(shuí)死的決定權(quán)，必須掌握在人類而不是機(jī)器手中,。但事實(shí)是,，科技正在飛速發(fā)展，政策卻落后了,。人類正面臨奧本海默時(shí)刻,。”電影《奧本海默》的導(dǎo)演克里斯托弗·諾蘭曾表示,，很多頂級(jí)的AI研究者,，將當(dāng)下視為AI的“奧本海默時(shí)刻”。這是一種不祥的預(yù)感：往日經(jīng)驗(yàn)永久失效,，未知浩劫須臾降臨,。這一刻，人類及地球的命運(yùn),，仿佛縮進(jìn)一只盲盒中,。奧本海默是美國(guó)研制原子彈的首席科學(xué)家,。這一憂慮其實(shí)是兩個(gè)層面，一是AI是否和原子彈一樣具有毀滅世界的能力;二是AI領(lǐng)域的科學(xué)家是否面臨和奧本海默一樣的道德困境,。奧地利裁軍事務(wù)高級(jí)別官員,、此次自主武器會(huì)議的策劃者亞歷山大·克門(mén)特指出，短期內(nèi)依靠外交途徑解決AI武器監(jiān)管存在較大難度,，因?yàn)檫@將是一項(xiàng)巨著式的條約,。如何在AI時(shí)代迎接“奧本海默時(shí)刻”的到來(lái)，需要全球智慧,。編譯,、整理/記者梁婷婷綜合央視延伸烏克蘭戰(zhàn)場(chǎng)成為美軍“AI武器實(shí)驗(yàn)室”據(jù)央視　在曾負(fù)責(zé)烏克蘭戰(zhàn)場(chǎng)AI作戰(zhàn)測(cè)試的美國(guó)第18空降軍中將多納休眼中,，烏克蘭戰(zhàn)場(chǎng)已成美軍的“AI武器實(shí)驗(yàn)室”,。4月23日，由五角大樓主導(dǎo)的“梅文計(jì)劃”的最新進(jìn)展被曝光,。據(jù)《紐約時(shí)報(bào)》披露,，梅文智能系統(tǒng)正在烏克蘭戰(zhàn)場(chǎng)得到快速訓(xùn)練和完善。簡(jiǎn)單來(lái)說(shuō),，該AI系統(tǒng)能夠?qū)⑿l(wèi)星,、雷達(dá)、紅外設(shè)備甚至社交媒體上的影像處理后匯總到一塊屏幕上,，幫助接入該系統(tǒng)的人員快速識(shí)別出打擊目標(biāo),。通過(guò)接入戰(zhàn)斗機(jī)或無(wú)人機(jī)等武器系統(tǒng)，人類指揮官只需做出確認(rèn)打擊的最終決定,。5月6日,，在加沙地帶南部城市拉法，人們查看以軍空襲后的廢墟,。組圖/新華社英國(guó)前陸軍軍官邁克·馬丁說(shuō)：“AI在武器系統(tǒng)中的體現(xiàn)之一便是自主化,。我們希望武器系統(tǒng)實(shí)現(xiàn)自主化的原因是，希望它們(武器)快速做出打擊行動(dòng),。在戰(zhàn)爭(zhēng)中,，如果你能先發(fā)制人，那么你就擁有巨大的優(yōu)勢(shì),。情報(bào)分析是一種有效的識(shí)別(打擊目標(biāo)的)方式,，而識(shí)別某一目標(biāo)恰恰是AI系統(tǒng)非常擅長(zhǎng)的?！迸e個(gè)例子,，只需讓AI系統(tǒng)瀏覽一輛坦克的照片，系統(tǒng)便會(huì)定位出它的位置,，無(wú)人機(jī)便可對(duì)坦克進(jìn)行打擊,。據(jù)英國(guó)《每日郵報(bào)》報(bào)道,，在任何時(shí)間，俄烏前線上空都飛行著至少10000架無(wú)人機(jī),，這些無(wú)人機(jī)的單個(gè)成本大都不超過(guò)2000美元,，但卻可以摧毀一臺(tái)價(jià)值數(shù)百萬(wàn)美元的主戰(zhàn)坦克。去年10月,，據(jù)福布斯新聞網(wǎng)報(bào)道,，烏克蘭無(wú)人機(jī)公司薩克爾聲稱，它已經(jīng)部署了一款全自主無(wú)人機(jī)——“獵隼偵察兵”,。在AI的驅(qū)動(dòng)下,，它能夠自行決定在戰(zhàn)場(chǎng)上殺死誰(shuí)。薩克爾官員宣稱,，這款無(wú)人機(jī)已經(jīng)進(jìn)行了小規(guī)模的自主攻擊,。