上周，一場自主武器國際會議在奧地利維也納召開,。這次會議討論了人工智能（AI）與軍事技術(shù)結(jié)合的相關(guān)話題,，來自100多個國家和地區(qū)的官員參加,。

隨著AI驅(qū)動的致命性自主武器系統(tǒng)（LAWS）投入實(shí)戰(zhàn),，繼火藥和核武器之后的“第三次軍事革命”將可能發(fā)生,。

事實(shí)上,，半島電視臺近日就報(bào)道稱,，一項(xiàng)調(diào)查揭露，以色列陸軍正在加沙實(shí)地測試一款名為“薰衣草”的AI作戰(zhàn)系統(tǒng),。該系統(tǒng)能快速判斷獵殺目標(biāo)的時(shí)間,、地點(diǎn)及方式。

（5月4日，在加沙地帶中部邁加齊難民營,，一名男子查看以軍空襲后的廢墟,。圖/新華社）

無人監(jiān)管的獵殺：AI標(biāo)記轟炸目標(biāo)，人工只花20秒確認(rèn)目標(biāo)均為男性

媒體曝光的一份調(diào)查顯示,，以色列軍隊(duì)正在使用名為“薰衣草”的人工智能輔助定位系統(tǒng),，隔離和識別數(shù)千名巴勒斯坦人,，作為潛在的轟炸目標(biāo)。半島電視臺的羅里·查蘭茲報(bào)道說：“這個數(shù)據(jù)庫負(fù)責(zé)擬定多達(dá)37000個目標(biāo)的死亡名單,?！?/p>

6名以色列情報(bào)官員，曾直接參與使用人工智能生成暗殺目標(biāo),。他們說,，“薰衣草”在對巴勒斯坦人的轟炸中，發(fā)揮了核心作用,，特別是在戰(zhàn)爭的早期階段,。

從形式上說,，“薰衣草”系統(tǒng)是用來標(biāo)記哈馬斯和巴勒斯坦所有可疑人員（包括低級別人員），以此作為潛在的轟炸目標(biāo),。

在戰(zhàn)爭早期,，軍方普遍批準(zhǔn)軍官采用“薰衣草”的殺戮名單，沒有要求徹底檢查機(jī)器做出這些選擇的原因,，也沒有檢查這些選擇所依據(jù)的原始情報(bào)數(shù)據(jù),。

一個消息來源指出，人工人員通常只是機(jī)器決策的“橡皮圖章”,，通常情況下,，他們在授權(quán)轟炸之前，只會親自花大約“20秒”在每個目標(biāo)上——只是為了確?！稗挂虏荨睒?biāo)記的目標(biāo)是男性,。在實(shí)踐中，消息人士說,，這意味著對于被“薰衣草”標(biāo)記錯誤的平民,，沒有監(jiān)督機(jī)制來發(fā)現(xiàn)錯誤。

軍方全面使用：情報(bào)人員批準(zhǔn)采用AI擬定的殺戮名單

消息人士稱,，在新一輪巴以沖突爆發(fā)大約兩周后,，以色列情報(bào)人員“手動”檢查了人工智能系統(tǒng)隨機(jī)選擇的數(shù)百個目標(biāo)樣本的準(zhǔn)確性，并批準(zhǔn)自動采用“薰衣草”的殺戮名單,，該名單以前僅用作輔助,。當(dāng)該樣本發(fā)現(xiàn)“薰衣草”的結(jié)果在確定個人與哈馬斯的關(guān)系上達(dá)到了90%的準(zhǔn)確率時(shí)，軍方批準(zhǔn)了該系統(tǒng)的全面使用,。

此外,，以色列軍隊(duì)在目標(biāo)個人在家時(shí)（通常是在晚上），有系統(tǒng)地對他們進(jìn)行攻擊,，而不是在軍事活動期間,，。據(jù)消息來源說,，這是因?yàn)?，從他們認(rèn)為的情報(bào)角度來看，在這些人的私人住宅中更容易找到他們,。

（ 5月4日，在約旦河西岸城市圖勒凱爾姆,，以軍和巴勒斯坦人沖突現(xiàn)場冒起濃煙,。圖/新華社）

被允許的濫殺：獵殺一名哈馬斯高官，允許誤殺100個平民

媒體披露,，以色列軍隊(duì)知道,，沒有要求“不出錯”的政策,。“薰衣草”的出錯率約為10%,。查蘭茲說：“（即使AI公管局存在誤差,，）這并沒有阻止以色列利用它來快速識別加沙地帶低級別的哈馬斯人員，并對他們進(jìn)行轟炸,?！?/p>

在新一輪巴以沖突的頭幾周，以軍幾乎完全依賴于“薰衣草”,，多達(dá)37000名巴勒斯坦人被懷疑是武裝分子,，以軍對他們及其住宅進(jìn)行空襲。

卡塔爾哈馬德·本·哈利法大學(xué)助理教授馬克·歐文·瓊斯,，在接受半島電視臺采訪時(shí)表示,，越來越明顯的是，以色列軍隊(duì)正在“部署未經(jīng)測試的AI系統(tǒng)……來做出有關(guān)平民生死的決定”,。

以色列媒體《+972》報(bào)道說，這種方法導(dǎo)致加沙成千上萬平民死亡,。

加沙衛(wèi)生部稱,，自去年10月7日新一輪巴以沖突以來，至少有33037名巴勒斯坦人在以色列的襲擊中喪生,，75668人受傷,。

針對越來越多的批評，以色列軍方表示,，其分析人員必須進(jìn)行“獨(dú)立檢查”,，以核實(shí)所確定的目標(biāo)符合國際法的相關(guān)定義，以及以色列軍隊(duì)的規(guī)定,。

以軍否認(rèn)“薰衣草”是一個“系統(tǒng)”,，聲稱其“只是一個數(shù)據(jù)庫，其目的是交叉引用情報(bào)來源,，以產(chǎn)生關(guān)于恐怖組織軍事行動人員的最新信息”,。然而事實(shí)上，每一個巴勒斯坦武裝人員成為預(yù)定目標(biāo),，就有“5到10個可以接受的平民死亡”,，這說明了為什么加沙有這么多的平民死亡。

消息人士稱,，以色列軍隊(duì)在沖突的最初幾周決定,，“薰衣草”每標(biāo)記一名哈馬斯初級特工，就允許附帶殺死15到20名平民,。同時(shí),，成功獵殺一名哈馬斯高級官員,，在襲擊中附帶殺死的平民人數(shù)被允許控制在100人以內(nèi)。

聯(lián)合國人權(quán)和反恐特別報(bào)告員本·索爾表示,，如果報(bào)告中的細(xì)節(jié)被證明屬實(shí),，“以色列在加沙的許多襲擊，都將構(gòu)成發(fā)動不相稱襲擊的戰(zhàn)爭罪,?！?/p>

悉尼新南威爾士大學(xué)的人工智能專家托比·沃爾什教授表示，法律學(xué)者可能會認(rèn)為,，使用AI瞄準(zhǔn)目標(biāo),，違反了國際人道主義法。

【新聞鏈接】AI的“奧本海默時(shí)刻”

上周,，在自主武器國際會議上,，美國著名信息物理學(xué)家阿吉雷發(fā)出警告，當(dāng)年拉塞爾博士預(yù)言的“殺人機(jī)器人時(shí)代已經(jīng)到來”,。

阿吉雷表示,，現(xiàn)在，只要有一個3D打印機(jī)和基本的編程知識,，一名學(xué)生便可制作出有能力引起大規(guī)模傷亡的無人機(jī),。自主武器系統(tǒng)已經(jīng)永遠(yuǎn)地改變了國際穩(wěn)定的概念。人工智能系統(tǒng)遭黑客攻擊,，衛(wèi)星和其他數(shù)據(jù)丟失,，甚至人工智能本身引起的幻覺，都可能成為AI武器系統(tǒng)潛在的風(fēng)險(xiǎn),。

奧地利外長沙倫貝格表示,，“實(shí)際上，在某種程度上,，它（AI自主武器）比奧本海默時(shí)刻更糟糕,。這是自火藥發(fā)明以來戰(zhàn)場上最大的革命，而這種技術(shù)更廉價(jià),，發(fā)展更快,。”

電影《奧本海默》的導(dǎo)演克里斯托弗·諾蘭曾表示,，很多頂級的人工智能研究者,，將當(dāng)下視為AI的“奧本海默時(shí)刻”。這是一種不祥的預(yù)感：往日經(jīng)驗(yàn)永久失效,，未知浩劫須臾降臨,。這一刻，人類及地球的命運(yùn)，仿佛縮進(jìn)一只盲盒中,。

奧本海默是美國研制原子彈的首席科學(xué)家,。這一憂慮其實(shí)是兩個層面，一是AI是否和原子彈一樣具有毀滅世界的能力,；二是AI領(lǐng)域的科學(xué)家是否面臨和奧本海默一樣的道德困境,。

奧地利裁軍事務(wù)高級別官員、此次自主武器會議的策劃者亞歷山大·克門特指出,，短期內(nèi)依靠外交途徑解決AI武器監(jiān)管存在較大難度,，因?yàn)檫@將是一項(xiàng)巨著式的條約。

如何在人工智能時(shí)代迎接“奧本海默時(shí)刻”的到來,，需要全球智慧,。

編譯/瀟湘晨報(bào)記者梁婷婷 綜合央視

爆料、維權(quán)通道：應(yīng)用市場下載“晨視頻”客戶端,，搜索“幫忙”一鍵直達(dá)“晨意幫忙”平臺,；或撥打熱線0731-85571188。政企內(nèi)容服務(wù)專席19176699651,。