2月,，以色列軍隊(duì)首次宣布，在加沙部署了一些人工智能武器裝備,。無(wú)獨(dú)有偶,，在俄烏沖突中，雙方均被指部署了人工智能驅(qū)動(dòng)的武器裝備或信息系統(tǒng)。這些消息引發(fā)了人們對(duì)軍事沖突中使用人工智能武器風(fēng)險(xiǎn)的擔(dān)憂(yōu),。軍事專(zhuān)家警告稱(chēng),，人工智能也會(huì)犯錯(cuò)誤，在軍事沖突中,，這些錯(cuò)誤可能導(dǎo)致大規(guī)模平民傷亡,。國(guó)際組織呼吁，在武裝沖突中使用人工智能具有重大的人道,、法律,、道德和安全影響，各國(guó)必須保持人類(lèi)對(duì)機(jī)器的有效控制,。軍事人工智能犯錯(cuò)可能導(dǎo)致大規(guī)模平民傷亡一名以色列高級(jí)國(guó)防官員在2月初表示,，以色列國(guó)防軍在加沙部署了由人工智能驅(qū)動(dòng)的新型裝備。包括由以色列“智能射手”公司開(kāi)發(fā)的人工智能瞄準(zhǔn)鏡，它可以安裝在步槍,、機(jī)槍等武器上,，“可以讓每一名普通士兵成為狙擊手”，該官員說(shuō),。以軍在加沙還部署了由人工智能驅(qū)動(dòng)的無(wú)人機(jī),。這些無(wú)人機(jī)被用于探測(cè)和繪制加沙龐大的地道網(wǎng)絡(luò)，同時(shí)可以檢測(cè)在地下活動(dòng)的人,。加沙的地道網(wǎng)絡(luò)據(jù)稱(chēng)總長(zhǎng)超過(guò)500公里,，自以軍在加沙開(kāi)展地面行動(dòng)以來(lái)，這些地道網(wǎng)絡(luò)一直是以軍行動(dòng)的重點(diǎn)目標(biāo),。以軍在軍事行動(dòng)中投入的人工智能不止于戰(zhàn)場(chǎng)上的裝備,。據(jù)以色列媒體去年年底報(bào)道，以色列國(guó)防軍在指揮系統(tǒng)中部署了人工智能來(lái)幫助其選定在加沙空襲的目標(biāo),。一位不愿透露姓名的以色列前情報(bào)官員說(shuō),，以軍使用一種名為“Habsora”（在希伯來(lái)語(yǔ)中意為“福音”）的人工智能算法幫助挑選空襲目標(biāo)。這個(gè)算法大幅提升了以軍挑選空襲目標(biāo)的效率,，把以色列空軍轉(zhuǎn)變成了高效率的“大規(guī)模暗殺工廠(chǎng)”,。當(dāng)?shù)貢r(shí)間2024年2月23日,，加沙地帶中部城市代爾拜拉赫,，以色列軍隊(duì)空襲一處住宅，造成至少22人死亡,、數(shù)十人受傷,。圖/IC photo據(jù)報(bào)道，軍事專(zhuān)家表示,，有理由對(duì)以軍在戰(zhàn)場(chǎng)上應(yīng)用人工智能技術(shù)感到擔(dān)心,。專(zhuān)家認(rèn)為，人工智能是由人類(lèi)創(chuàng)造和訓(xùn)練的,，訓(xùn)練它們的人犯下的錯(cuò)誤,，會(huì)在人工智能上再現(xiàn)；不過(guò),，人工智能會(huì)以一種速度更快,、規(guī)模更大的方式重復(fù)這些錯(cuò)誤。澳大利亞空中力量智庫(kù)的分析師卡洛·科普表示,，依靠人工智能選擇空襲目標(biāo)，相比由人類(lèi)在空襲前進(jìn)行綜合分析并選擇目標(biāo),，可能會(huì)造成更大的平民傷亡,。在最壞的情況下，由人工智能決策的空襲會(huì)造成大規(guī)模平民死亡。巴勒斯坦加沙地帶衛(wèi)生部門(mén)當(dāng)?shù)貢r(shí)間2月29日發(fā)表聲明說(shuō),，自新一輪巴以沖突爆發(fā)以來(lái),，以色列軍隊(duì)在加沙地帶軍事行動(dòng)造成的死亡人數(shù)超過(guò)3萬(wàn)，其中,，超過(guò)70%是婦女和兒童,。此前，有以色列媒體指出,，以軍使用的人工智能算法至少對(duì)加沙的平民死亡人數(shù)負(fù)有部分責(zé)任,。俄烏雙方均使用人工智能指揮無(wú)人機(jī)作戰(zhàn)據(jù)外媒報(bào)道，在俄烏沖突中,，雙方都部署了應(yīng)用人工智能識(shí)別和瞄準(zhǔn)目標(biāo)的小型無(wú)人機(jī),。今年2月的一篇報(bào)道稱(chēng)，俄烏雙方各自部署的無(wú)人飛行器數(shù)量均達(dá)數(shù)百萬(wàn)架,，用于對(duì)敵方陣地進(jìn)行偵察和攻擊,，雙方都依賴(lài)人工智能來(lái)指揮無(wú)人機(jī)作戰(zhàn)。其中,，部分無(wú)人機(jī)是由民用無(wú)人機(jī)改造而成,，另一些則是先進(jìn)的軍用無(wú)人機(jī)。去年11月發(fā)表的另一篇報(bào)道稱(chēng),，俄軍在戰(zhàn)場(chǎng)上使用最有效的無(wú)人機(jī)之一是“柳葉刀”-3型自殺式無(wú)人機(jī),。該型號(hào)無(wú)人機(jī)體積小、機(jī)動(dòng)性強(qiáng),、難以被探測(cè)或擊落,。一架“柳葉刀”-3型無(wú)人機(jī)的成本約合3.5萬(wàn)美元，但可以損壞或摧毀價(jià)值數(shù)百萬(wàn)美元的主戰(zhàn)坦克和其他裝甲戰(zhàn)車(chē),。據(jù)報(bào)道,，過(guò)去，無(wú)人機(jī)作戰(zhàn)的成效往往取決于操作員的技能,，但俄羅斯正在把更多的人工智能技術(shù)融入無(wú)人機(jī),，使無(wú)人機(jī)能夠自主運(yùn)行。例如,，由人工智能支持的目標(biāo)探測(cè)技術(shù)允許無(wú)人機(jī)在飛行中對(duì)地面車(chē)輛的形狀進(jìn)行識(shí)別,。一旦人工智能確認(rèn)某個(gè)車(chē)輛的形狀具有烏克蘭武器系統(tǒng)的特征，無(wú)人機(jī)即可攻擊該物體,。人工智能甚至可以控制攻擊角度,，以造成最大傷害。在這場(chǎng)實(shí)戰(zhàn)中的人工智能競(jìng)賽中,，烏克蘭也不落下風(fēng),。一位烏克蘭高級(jí)軍事官員在去年年底向法國(guó)議會(huì)代表團(tuán)講述,，烏克蘭軍隊(duì)如何將人工智能系統(tǒng)融入法國(guó)制造的凱撒自行火炮。該軍官解釋說(shuō),，人工智能將加快識(shí)別目標(biāo)的過(guò)程,，然后決定針對(duì)目標(biāo)使用何種彈藥。這其中節(jié)約的時(shí)間對(duì)于前線(xiàn)士兵來(lái)說(shuō)可能生死攸關(guān),。此外,，這種人工智能技術(shù)的應(yīng)用還可以節(jié)省大量彈藥，據(jù)烏克蘭軍方估計(jì),，人工智能可以節(jié)省30%的彈藥使用量,。當(dāng)?shù)貢r(shí)間2024年2月6日,，頓涅茨克地區(qū),，俄烏沖突持續(xù)，烏克蘭武裝部隊(duì)第92獨(dú)立突擊旅士兵操作無(wú)人機(jī),。圖/IC photo“人工智能軍火商”將烏克蘭變成了戰(zhàn)爭(zhēng)實(shí)驗(yàn)室許多美國(guó)和歐洲科技公司在戰(zhàn)場(chǎng)內(nèi)外與烏克蘭方面進(jìn)行合作,，包括微軟、亞馬遜,、谷歌,、SpaceX等公司。其中,，就有兩家頗具爭(zhēng)議的美國(guó)科技公司——帕蘭提爾技術(shù)公司（Palantir Technologies）和“明視”人工智能公司（Clearview AI）,。根據(jù)帕蘭提爾技術(shù)公司首席執(zhí)行官亞歷克斯·卡普的公開(kāi)言論，該公司為烏克蘭提供的軟件使用人工智能分析衛(wèi)星圖像,、開(kāi)源數(shù)據(jù),、無(wú)人機(jī)拍攝畫(huà)面和地面情報(bào)等，為指揮官提供軍事決策輔助,。他說(shuō),，“烏克蘭軍事打擊的大部分目標(biāo)定位過(guò)程用到了該軟件?！睘蹩颂m軍事官員接受了使用帕蘭提爾技術(shù)公司軟件的培訓(xùn),，他們能夠在人工智能的協(xié)助下把攻擊目標(biāo)的位置傳達(dá)給前線(xiàn)指揮官?？ㄆ辗Q(chēng),，這是一套數(shù)字化“殺傷鏈”。帕蘭提爾技術(shù)公司總部位于美國(guó)科羅拉多州丹佛市,，它自成立以來(lái)就爭(zhēng)議不斷,。該公司的部分業(yè)務(wù)由美國(guó)中央情報(bào)局（CIA）的風(fēng)險(xiǎn)投資部門(mén)投資成立，該公司為美國(guó)移民和海關(guān)執(zhí)法局（ICE）,、聯(lián)邦調(diào)查局（FBI）,、國(guó)防部以及許多國(guó)家的情報(bào)機(jī)構(gòu)提供數(shù)據(jù)分析軟件,。國(guó)際人權(quán)組織指責(zé)帕蘭提爾公司漠視人權(quán)，該公司的產(chǎn)品幫助美國(guó)政府機(jī)構(gòu)跟蹤和識(shí)別移民和尋求庇護(hù)者,。“明視”人工智能公司則向18個(gè)烏克蘭政府機(jī)構(gòu)的1500多名官員提供了該公司開(kāi)發(fā)的人臉識(shí)別工具,。據(jù)稱(chēng),，烏克蘭政府已使用該工具識(shí)別了超過(guò)23萬(wàn)名俄羅斯士兵和軍官?！拔覀兠刻於寄茏R(shí)別出數(shù)百名帶著武器來(lái)到烏克蘭的俄羅斯人,。”一位烏克蘭高級(jí)官員說(shuō),，他每上傳一張俄羅斯士兵的照片,，人臉識(shí)別軟件就會(huì)顯示出該士兵的姓名、家鄉(xiāng)和社交媒體簡(jiǎn)介等信息,。烏克蘭政府還使用人臉識(shí)別工具識(shí)別烏克蘭的親俄民兵和其他親俄人員,。據(jù)“明視”人工智能公司披露，烏克蘭方面在20個(gè)月內(nèi)對(duì)“明視”數(shù)據(jù)庫(kù)進(jìn)行了至少35萬(wàn)次檢索,。此前,，“明視”人工智能公司因從互聯(lián)網(wǎng)上抓取數(shù)十億張公開(kāi)照片來(lái)收集數(shù)據(jù)而受到批評(píng)。批評(píng)者抨擊“明視”人工智能公司的行為“令人毛骨悚然”,。該公司受到了一系列訴訟,、罰款和法庭簽發(fā)停止令等打擊。該公司在奧地利,、法國(guó),、希臘、意大利和英國(guó)等地被視為非法,。人權(quán)組織和隱私倡導(dǎo)者還警告說(shuō),，即使在沖突結(jié)束后，烏克蘭政府可能也難以斷絕對(duì)“明視”人臉識(shí)別工具的使用,。帕蘭提爾技術(shù)公司和“明視”人工智能公司都宣稱(chēng)免費(fèi)向?yàn)蹩颂m提供軟件,。但批評(píng)者指責(zé)這些公司試圖利用沖突來(lái)展示其技術(shù)，從而達(dá)到自我宣傳的目的,?！八麄兪?1世紀(jì)的人工智能軍火商?！泵绹?guó)國(guó)家安全專(zhuān)家雅各布·赫爾伯格說(shuō),。據(jù)美國(guó)媒體報(bào)道，這些“人工智能軍火商”將烏克蘭變成了一個(gè)人工智能戰(zhàn)爭(zhēng)實(shí)驗(yàn)室,?？ㄆ粘姓J(rèn),，在戰(zhàn)場(chǎng)上，他們可以做一些在一般環(huán)境中做不到的事情,。一些專(zhuān)家還稱(chēng),，這些掌握軍事人工智能技術(shù)的私營(yíng)公司令人不安?！斑@是有史以來(lái)第一次,，在一場(chǎng)戰(zhàn)爭(zhēng)中，大多數(shù)關(guān)鍵創(chuàng)新技術(shù)不是來(lái)自政府資助的實(shí)驗(yàn)室,，而是來(lái)自私營(yíng)公司,。”斯坦福大學(xué)“戈?duì)柕现Y(jié)國(guó)家安全創(chuàng)新中心”的聯(lián)合創(chuàng)始人史蒂夫·布蘭克對(duì)媒體說(shuō),，“裝有妖怪的魔瓶被打開(kāi)了,。”國(guó)際組織呼吁,，必須保持人類(lèi)對(duì)機(jī)器的有效控制人工智能等新技術(shù)在沖突中的應(yīng)用引發(fā)了全球?qū)θ藱?quán)的關(guān)注和擔(dān)憂(yōu),。2023年12月，150多個(gè)國(guó)家和地區(qū)支持了一項(xiàng)聯(lián)合國(guó)決議,，該決議明確了新軍事技術(shù)帶來(lái)的“嚴(yán)重挑戰(zhàn)和問(wèn)題”,，其中就包括“武器系統(tǒng)中的人工智能和自主性”?！拔覀兘裉炜吹降淖钤愀獾膫龊涂嚯y中,，有一部分是由新技術(shù)帶來(lái)的?！币患覈?guó)際組織的武器研究專(zhuān)家瑪麗·韋勒姆說(shuō),，近期發(fā)生的沖突中不斷上升的平民死亡人數(shù)表明，新軍事技術(shù)的使用需要受到更大力度的監(jiān)督,。人工智能是否應(yīng)該被用于選擇空襲目標(biāo),？機(jī)器能否決定何時(shí)以及向哪個(gè)目標(biāo)開(kāi)火？這些關(guān)于人工智能在軍事沖突中應(yīng)用的話(huà)題引發(fā)了激烈的辯論,。2022年2月,，《原子科學(xué)家公報(bào)》曾刊發(fā)一篇題為“讓人工智能控制核武器：可能會(huì)出什么問(wèn)題？”的文章,。作者給出的回答是：“如果人工智能控制了核武器,，人類(lèi)可能會(huì)滅亡?！弊髡叻Q(chēng),，風(fēng)險(xiǎn)在于人工智能可能會(huì)因?yàn)槠渚幊袒蚱湓O(shè)計(jì)的缺陷而犯下可怕的錯(cuò)誤。在美國(guó)軍方的人工智能實(shí)驗(yàn)中,，就有無(wú)數(shù)出錯(cuò)的例子,，人工智能系統(tǒng)會(huì)把農(nóng)民誤認(rèn)為是潛入的恐怖分子,；有人在路邊停車(chē)更換輪胎，人工智能卻誤認(rèn)為有人在路邊埋放炸彈,；人工智能還在觀(guān)察一場(chǎng)婚禮時(shí)得出這是恐怖分子聚會(huì)的錯(cuò)誤結(jié)論,。紅十字國(guó)際委員會(huì)此前發(fā)文呼吁稱(chēng)，在武裝沖突中使用人工智能具有重大的人道,、法律,、道德和安全影響。隨著人工智能迅速融入軍事系統(tǒng),，各國(guó)必須明確并解決這其中的風(fēng)險(xiǎn)。紅十字國(guó)際委員會(huì)的文章稱(chēng),，各國(guó)在使用人工智能執(zhí)行可能對(duì)人類(lèi)生命產(chǎn)生嚴(yán)重后果的任務(wù)或決策時(shí),，必須保持人類(lèi)對(duì)機(jī)器的有效控制，“戰(zhàn)爭(zhēng)中的法律義務(wù)和道德責(zé)任絕不能‘外包’給機(jī)器和軟件,?！毙戮﹫?bào)記者 陳奕凱編輯 張磊 校對(duì) 張彥君