上周,，一場(chǎng)自主武器國(guó)際會(huì)議在奧地利維也納召開。這次會(huì)議討論了人工智能（AI）與軍事技術(shù)結(jié)合的相關(guān)話題,，來(lái)自100多個(gè)國(guó)家和地區(qū)的官員參加,。

隨著AI驅(qū)動(dòng)的致命性自主武器系統(tǒng)（LAWS）投入實(shí)戰(zhàn),，繼火藥和核武器之后的“第三次軍事革命”將可能發(fā)生。

事實(shí)上,，半島電視臺(tái)近日就報(bào)道稱,，一項(xiàng)調(diào)查揭露,，以色列陸軍正在加沙實(shí)地測(cè)試一款名為“薰衣草”的AI作戰(zhàn)系統(tǒng)。該系統(tǒng)能快速判斷獵殺目標(biāo)的時(shí)間,、地點(diǎn)及方式,。

（5月4日,，在加沙地帶中部邁加齊難民營(yíng),，一名男子查看以軍空襲后的廢墟。圖/新華社）

無(wú)人監(jiān)管的獵殺：AI標(biāo)記轟炸目標(biāo),，人工只花20秒確認(rèn)目標(biāo)均為男性

媒體曝光的一份調(diào)查顯示,，以色列軍隊(duì)正在使用名為“薰衣草”的人工智能輔助定位系統(tǒng),，隔離和識(shí)別數(shù)千名巴勒斯坦人，作為潛在的轟炸目標(biāo),。半島電視臺(tái)的羅里·查蘭茲報(bào)道說：“這個(gè)數(shù)據(jù)庫(kù)負(fù)責(zé)擬定多達(dá)37000個(gè)目標(biāo)的死亡名單,。”

6名以色列情報(bào)官員,，曾直接參與使用人工智能生成暗殺目標(biāo),。他們說，“薰衣草”在對(duì)巴勒斯坦人的轟炸中,，發(fā)揮了核心作用,，特別是在戰(zhàn)爭(zhēng)的早期階段。

從形式上說,，“薰衣草”系統(tǒng)是用來(lái)標(biāo)記哈馬斯和巴勒斯坦所有可疑人員（包括低級(jí)別人員）,，以此作為潛在的轟炸目標(biāo)。

在戰(zhàn)爭(zhēng)早期,，軍方普遍批準(zhǔn)軍官采用“薰衣草”的殺戮名單,，沒有要求徹底檢查機(jī)器做出這些選擇的原因，也沒有檢查這些選擇所依據(jù)的原始情報(bào)數(shù)據(jù),。

一個(gè)消息來(lái)源指出,，人工人員通常只是機(jī)器決策的“橡皮圖章”，通常情況下,，他們?cè)谑跈?quán)轟炸之前,，只會(huì)親自花大約“20秒”在每個(gè)目標(biāo)上——只是為了確保“薰衣草”標(biāo)記的目標(biāo)是男性,。在實(shí)踐中,，消息人士說，這意味著對(duì)于被“薰衣草”標(biāo)記錯(cuò)誤的平民,，沒有監(jiān)督機(jī)制來(lái)發(fā)現(xiàn)錯(cuò)誤,。

軍方全面使用：情報(bào)人員批準(zhǔn)采用AI擬定的殺戮名單

消息人士稱，在新一輪巴以沖突爆發(fā)大約兩周后,，以色列情報(bào)人員“手動(dòng)”檢查了人工智能系統(tǒng)隨機(jī)選擇的數(shù)百個(gè)目標(biāo)樣本的準(zhǔn)確性,，并批準(zhǔn)自動(dòng)采用“薰衣草”的殺戮名單，該名單以前僅用作輔助,。當(dāng)該樣本發(fā)現(xiàn)“薰衣草”的結(jié)果在確定個(gè)人與哈馬斯的關(guān)系上達(dá)到了90%的準(zhǔn)確率時(shí),，軍方批準(zhǔn)了該系統(tǒng)的全面使用。

此外,，以色列軍隊(duì)在目標(biāo)個(gè)人在家時(shí)（通常是在晚上）,，有系統(tǒng)地對(duì)他們進(jìn)行攻擊，而不是在軍事活動(dòng)期間,，,。據(jù)消息來(lái)源說，這是因?yàn)?，從他們認(rèn)為的情報(bào)角度來(lái)看,，在這些人的私人住宅中更容易找到他們。

（ 5月4日,，在約旦河西岸城市圖勒凱爾姆，以軍和巴勒斯坦人沖突現(xiàn)場(chǎng)冒起濃煙,。圖/新華社）

被允許的濫殺：獵殺一名哈馬斯高官,，允許誤殺100個(gè)平民

媒體披露，以色列軍隊(duì)知道,，沒有要求“不出錯(cuò)”的政策,。“薰衣草”的出錯(cuò)率約為10%,。查蘭茲說：“（即使AI公管局存在誤差,，）這并沒有阻止以色列利用它來(lái)快速識(shí)別加沙地帶低級(jí)別的哈馬斯人員,，并對(duì)他們進(jìn)行轟炸?！?/p>

在新一輪巴以沖突的頭幾周,，以軍幾乎完全依賴于“薰衣草”，多達(dá)37000名巴勒斯坦人被懷疑是武裝分子,，以軍對(duì)他們及其住宅進(jìn)行空襲,。

卡塔爾哈馬德·本·哈利法大學(xué)助理教授馬克·歐文·瓊斯，在接受半島電視臺(tái)采訪時(shí)表示,，越來(lái)越明顯的是,，以色列軍隊(duì)正在“部署未經(jīng)測(cè)試的AI系統(tǒng)……來(lái)做出有關(guān)平民生死的決定”。

以色列媒體《+972》報(bào)道說,，這種方法導(dǎo)致加沙成千上萬(wàn)平民死亡,。

加沙衛(wèi)生部稱，自去年10月7日新一輪巴以沖突以來(lái),，至少有33037名巴勒斯坦人在以色列的襲擊中喪生,，75668人受傷。

針對(duì)越來(lái)越多的批評(píng),，以色列軍方表示,，其分析人員必須進(jìn)行“獨(dú)立檢查”，以核實(shí)所確定的目標(biāo)符合國(guó)際法的相關(guān)定義,，以及以色列軍隊(duì)的規(guī)定,。

以軍否認(rèn)“薰衣草”是一個(gè)“系統(tǒng)”，聲稱其“只是一個(gè)數(shù)據(jù)庫(kù),，其目的是交叉引用情報(bào)來(lái)源,，以產(chǎn)生關(guān)于恐怖組織軍事行動(dòng)人員的最新信息”。然而事實(shí)上,，每一個(gè)巴勒斯坦武裝人員成為預(yù)定目標(biāo),，就有“5到10個(gè)可以接受的平民死亡”，這說明了為什么加沙有這么多的平民死亡,。

消息人士稱,，以色列軍隊(duì)在沖突的最初幾周決定，“薰衣草”每標(biāo)記一名哈馬斯初級(jí)特工,，就允許附帶殺死15到20名平民,。同時(shí)，成功獵殺一名哈馬斯高級(jí)官員,，在襲擊中附帶殺死的平民人數(shù)被允許控制在100人以內(nèi),。

聯(lián)合國(guó)人權(quán)和反恐特別報(bào)告員本·索爾表示，如果報(bào)告中的細(xì)節(jié)被證明屬實(shí)，“以色列在加沙的許多襲擊,，都將構(gòu)成發(fā)動(dòng)不相稱襲擊的戰(zhàn)爭(zhēng)罪,。”

悉尼新南威爾士大學(xué)的人工智能專家托比·沃爾什教授表示,，法律學(xué)者可能會(huì)認(rèn)為,，使用AI瞄準(zhǔn)目標(biāo),，違反了國(guó)際人道主義法,。

【新聞鏈接】AI的“奧本海默時(shí)刻”

上周，在自主武器國(guó)際會(huì)議上,，美國(guó)著名信息物理學(xué)家阿吉雷發(fā)出警告,，當(dāng)年拉塞爾博士預(yù)言的“殺人機(jī)器人時(shí)代已經(jīng)到來(lái)”。

阿吉雷表示,，現(xiàn)在,，只要有一個(gè)3D打印機(jī)和基本的編程知識(shí)，一名學(xué)生便可制作出有能力引起大規(guī)模傷亡的無(wú)人機(jī),。自主武器系統(tǒng)已經(jīng)永遠(yuǎn)地改變了國(guó)際穩(wěn)定的概念,。人工智能系統(tǒng)遭黑客攻擊，衛(wèi)星和其他數(shù)據(jù)丟失,，甚至人工智能本身引起的幻覺,，都可能成為AI武器系統(tǒng)潛在的風(fēng)險(xiǎn)。

奧地利外長(zhǎng)沙倫貝格表示,，“實(shí)際上,，在某種程度上，它（AI自主武器）比奧本海默時(shí)刻更糟糕,。這是自火藥發(fā)明以來(lái)戰(zhàn)場(chǎng)上最大的革命,，而這種技術(shù)更廉價(jià)，發(fā)展更快,?！?/p>

電影《奧本海默》的導(dǎo)演克里斯托弗·諾蘭曾表示，很多頂級(jí)的人工智能研究者,，將當(dāng)下視為AI的“奧本海默時(shí)刻”,。這是一種不祥的預(yù)感：往日經(jīng)驗(yàn)永久失效，未知浩劫須臾降臨,。這一刻,，人類及地球的命運(yùn)，仿佛縮進(jìn)一只盲盒中,。

奧本海默是美國(guó)研制原子彈的首席科學(xué)家,。這一憂慮其實(shí)是兩個(gè)層面，一是AI是否和原子彈一樣具有毀滅世界的能力,；二是AI領(lǐng)域的科學(xué)家是否面臨和奧本海默一樣的道德困境,。

奧地利裁軍事務(wù)高級(jí)別官員,、此次自主武器會(huì)議的策劃者亞歷山大·克門特指出，短期內(nèi)依靠外交途徑解決AI武器監(jiān)管存在較大難度,，因?yàn)檫@將是一項(xiàng)巨著式的條約,。

如何在人工智能時(shí)代迎接“奧本海默時(shí)刻”的到來(lái)，需要全球智慧,。

編譯/瀟湘晨報(bào)記者梁婷婷 綜合央視

爆料,、維權(quán)通道：應(yīng)用市場(chǎng)下載“晨視頻”客戶端，搜索“幫忙”一鍵直達(dá)“晨意幫忙”平臺(tái),；或撥打熱線0731-85571188,。政企內(nèi)容服務(wù)專席19176699651。