上周,，一場自主武器國際會議在奧地利維也納召開。這次會議討論了人工智能（AI）與軍事技術(shù)結(jié)合的相關(guān)話題,，來自100多個國家和地區(qū)的官員參加,。

隨著AI驅(qū)動的致命性自主武器系統(tǒng)（LAWS）投入實戰(zhàn)，繼火藥和核武器之后的“第三次軍事革命”將可能發(fā)生,。

事實上,，半島電視臺近日就報道稱，一項調(diào)查揭露,，以色列陸軍正在加沙實地測試一款名為“薰衣草”的AI作戰(zhàn)系統(tǒng),。該系統(tǒng)能快速判斷獵殺目標的時間、地點及方式,。

（5月4日，在加沙地帶中部邁加齊難民營,，一名男子查看以軍空襲后的廢墟,。圖/新華社）

無人監(jiān)管的獵殺：AI標記轟炸目標，人工只花20秒確認目標均為男性

媒體曝光的一份調(diào)查顯示,，以色列軍隊正在使用名為“薰衣草”的人工智能輔助定位系統(tǒng)，隔離和識別數(shù)千名巴勒斯坦人,，作為潛在的轟炸目標,。半島電視臺的羅里·查蘭茲報道說：“這個數(shù)據(jù)庫負責擬定多達37000個目標的死亡名單,。”

6名以色列情報官員,，曾直接參與使用人工智能生成暗殺目標,。他們說，“薰衣草”在對巴勒斯坦人的轟炸中,，發(fā)揮了核心作用，特別是在戰(zhàn)爭的早期階段,。

從形式上說，“薰衣草”系統(tǒng)是用來標記哈馬斯和巴勒斯坦所有可疑人員（包括低級別人員）,，以此作為潛在的轟炸目標。

在戰(zhàn)爭早期,，軍方普遍批準軍官采用“薰衣草”的殺戮名單,，沒有要求徹底檢查機器做出這些選擇的原因,，也沒有檢查這些選擇所依據(jù)的原始情報數(shù)據(jù)。

一個消息來源指出,，人工人員通常只是機器決策的“橡皮圖章”，通常情況下,，他們在授權(quán)轟炸之前,，只會親自花大約“20秒”在每個目標上——只是為了確?！稗挂虏荨睒擞浀哪繕耸悄行?。在實踐中，消息人士說,，這意味著對于被“薰衣草”標記錯誤的平民，沒有監(jiān)督機制來發(fā)現(xiàn)錯誤,。

軍方全面使用：情報人員批準采用AI擬定的殺戮名單

消息人士稱，在新一輪巴以沖突爆發(fā)大約兩周后,，以色列情報人員“手動”檢查了人工智能系統(tǒng)隨機選擇的數(shù)百個目標樣本的準確性,，并批準自動采用“薰衣草”的殺戮名單,，該名單以前僅用作輔助。當該樣本發(fā)現(xiàn)“薰衣草”的結(jié)果在確定個人與哈馬斯的關(guān)系上達到了90%的準確率時,，軍方批準了該系統(tǒng)的全面使用。

此外,，以色列軍隊在目標個人在家時（通常是在晚上）,，有系統(tǒng)地對他們進行攻擊，而不是在軍事活動期間,，。據(jù)消息來源說,，這是因為,，從他們認為的情報角度來看,，在這些人的私人住宅中更容易找到他們。

（ 5月4日，在約旦河西岸城市圖勒凱爾姆,，以軍和巴勒斯坦人沖突現(xiàn)場冒起濃煙,。圖/新華社）

被允許的濫殺：獵殺一名哈馬斯高官,，允許誤殺100個平民

媒體披露，以色列軍隊知道,，沒有要求“不出錯”的政策,。“薰衣草”的出錯率約為10%,。查蘭茲說：“（即使AI公管局存在誤差,，）這并沒有阻止以色列利用它來快速識別加沙地帶低級別的哈馬斯人員，并對他們進行轟炸,。”

在新一輪巴以沖突的頭幾周,，以軍幾乎完全依賴于“薰衣草”,，多達37000名巴勒斯坦人被懷疑是武裝分子,，以軍對他們及其住宅進行空襲,。

卡塔爾哈馬德·本·哈利法大學助理教授馬克·歐文·瓊斯，在接受半島電視臺采訪時表示,，越來越明顯的是，以色列軍隊正在“部署未經(jīng)測試的AI系統(tǒng)……來做出有關(guān)平民生死的決定”,。

以色列媒體《+972》報道說,，這種方法導(dǎo)致加沙成千上萬平民死亡,。

加沙衛(wèi)生部稱，自去年10月7日新一輪巴以沖突以來,，至少有33037名巴勒斯坦人在以色列的襲擊中喪生,，75668人受傷,。

針對越來越多的批評,，以色列軍方表示，其分析人員必須進行“獨立檢查”,，以核實所確定的目標符合國際法的相關(guān)定義，以及以色列軍隊的規(guī)定,。

以軍否認“薰衣草”是一個“系統(tǒng)”,，聲稱其“只是一個數(shù)據(jù)庫,，其目的是交叉引用情報來源,，以產(chǎn)生關(guān)于恐怖組織軍事行動人員的最新信息”。然而事實上,，每一個巴勒斯坦武裝人員成為預(yù)定目標，就有“5到10個可以接受的平民死亡”,，這說明了為什么加沙有這么多的平民死亡,。

消息人士稱,，以色列軍隊在沖突的最初幾周決定，“薰衣草”每標記一名哈馬斯初級特工,，就允許附帶殺死15到20名平民,。同時,，成功獵殺一名哈馬斯高級官員，在襲擊中附帶殺死的平民人數(shù)被允許控制在100人以內(nèi),。

聯(lián)合國人權(quán)和反恐特別報告員本·索爾表示,，如果報告中的細節(jié)被證明屬實,，“以色列在加沙的許多襲擊，都將構(gòu)成發(fā)動不相稱襲擊的戰(zhàn)爭罪,?！?/p>

悉尼新南威爾士大學的人工智能專家托比·沃爾什教授表示，法律學者可能會認為,，使用AI瞄準目標，違反了國際人道主義法,。

【新聞鏈接】AI的“奧本海默時刻”

上周,，在自主武器國際會議上,，美國著名信息物理學家阿吉雷發(fā)出警告，當年拉塞爾博士預(yù)言的“殺人機器人時代已經(jīng)到來”,。

阿吉雷表示,，現(xiàn)在，只要有一個3D打印機和基本的編程知識，一名學生便可制作出有能力引起大規(guī)模傷亡的無人機,。自主武器系統(tǒng)已經(jīng)永遠地改變了國際穩(wěn)定的概念。人工智能系統(tǒng)遭黑客攻擊,，衛(wèi)星和其他數(shù)據(jù)丟失,，甚至人工智能本身引起的幻覺,，都可能成為AI武器系統(tǒng)潛在的風險。

奧地利外長沙倫貝格表示,，“實際上，在某種程度上,，它（AI自主武器）比奧本海默時刻更糟糕,。這是自火藥發(fā)明以來戰(zhàn)場上最大的革命,，而這種技術(shù)更廉價，發(fā)展更快,。”

電影《奧本海默》的導(dǎo)演克里斯托弗·諾蘭曾表示,，很多頂級的人工智能研究者,，將當下視為AI的“奧本海默時刻”。這是一種不祥的預(yù)感：往日經(jīng)驗永久失效,，未知浩劫須臾降臨。這一刻,，人類及地球的命運,，仿佛縮進一只盲盒中。

奧本海默是美國研制原子彈的首席科學家,。這一憂慮其實是兩個層面，一是AI是否和原子彈一樣具有毀滅世界的能力,；二是AI領(lǐng)域的科學家是否面臨和奧本海默一樣的道德困境。

奧地利裁軍事務(wù)高級別官員,、此次自主武器會議的策劃者亞歷山大·克門特指出，短期內(nèi)依靠外交途徑解決AI武器監(jiān)管存在較大難度，因為這將是一項巨著式的條約,。

如何在人工智能時代迎接“奧本海默時刻”的到來,，需要全球智慧,。

編譯/瀟湘晨報記者梁婷婷 綜合央視

爆料、維權(quán)通道：應(yīng)用市場下載“晨視頻”客戶端,，搜索“幫忙”一鍵直達“晨意幫忙”平臺；或撥打熱線0731-85571188,。政企內(nèi)容服務(wù)專席19176699651,。