人工智能的廣泛應(yīng)用正深刻改變?nèi)祟?lèi)社會(huì)生產(chǎn)生活方式，在軍事領(lǐng)域的應(yīng)用也不斷改變戰(zhàn)爭(zhēng)的樣貌,，但與此同時(shí)引起了人們對(duì)無(wú)人化自主武器可能被濫用,、濫殺的警惕與擔(dān)憂。
2月15至16日，荷蘭與韓國(guó)聯(lián)辦的“在軍事領(lǐng)域負(fù)責(zé)任使用人工智能”峰會(huì)在海牙舉行，包括美國(guó)和中國(guó)在內(nèi)的一些國(guó)家呼吁采取緊急行動(dòng),，以監(jiān)管在戰(zhàn)爭(zhēng)中研發(fā)并日益應(yīng)用人工智能的情況,，警告說(shuō)這項(xiàng)技術(shù)“可能會(huì)產(chǎn)生意外的后果”。
這次峰會(huì)和這份“行動(dòng)呼吁”被認(rèn)為邁出了確立在戰(zhàn)場(chǎng)上應(yīng)用人工智能?chē)?guó)際準(zhǔn)則的重要一步,，引起世界廣泛關(guān)注,。
人工智能在軍事領(lǐng)域的應(yīng)用，是推動(dòng)軍事技術(shù)進(jìn)步和軍事革命演進(jìn)的重要力量,，是改變作戰(zhàn)樣式和顛覆戰(zhàn)爭(zhēng)形態(tài)的關(guān)鍵推手,。
當(dāng)前,，智能化戰(zhàn)爭(zhēng)形態(tài)已顯露顛覆以往戰(zhàn)爭(zhēng)形態(tài)的新特征。
比如：智能化軍隊(duì)組織形態(tài)將重塑重構(gòu),，領(lǐng)導(dǎo)指揮體制呈現(xiàn)扁平網(wǎng)聚,、矩陣交互、全域耦合特點(diǎn),，規(guī)模結(jié)構(gòu)更加精干高效,、多域聚合、一體融合,，人機(jī)混合和無(wú)人集群編組成為主要方式,，智能主導(dǎo)的無(wú)人化作戰(zhàn)力量占比不斷提高；
虛擬空間在作戰(zhàn)體系中的地位作用逐步提升,，地理域,、物理域、信息域,、認(rèn)知域?qū)崿F(xiàn)深度統(tǒng)合與一體化,，多域跨域成為基本形態(tài)；武器系統(tǒng)無(wú)中心,、弱中心,、有中心以及相互之間的混合兼容成為發(fā)展趨勢(shì)，將徹底改變以人為主的指揮控制和決策模式,。
目前已經(jīng)顯見(jiàn),，人工智能技術(shù)越來(lái)越多地運(yùn)用于軍事領(lǐng)域，提升了戰(zhàn)爭(zhēng)智能化對(duì)抗的色彩與水平,，由此可能造成戰(zhàn)爭(zhēng)門(mén)檻降低,、戰(zhàn)爭(zhēng)表象模糊、戰(zhàn)爭(zhēng)主體更加多元,。
但任何技術(shù)手段的更迭進(jìn)步也無(wú)法改變戰(zhàn)爭(zhēng)的本質(zhì),，無(wú)法改變戰(zhàn)爭(zhēng)的基本規(guī)律和基本指導(dǎo)規(guī)律。
在智能時(shí)代,，戰(zhàn)爭(zhēng)本質(zhì)仍然是流血的政治,，智能技術(shù)的發(fā)展和在軍事領(lǐng)域的應(yīng)用，同樣是各個(gè)國(guó)家和政治集團(tuán)政略戰(zhàn)略的直接體現(xiàn),，戰(zhàn)爭(zhēng)的正義性和非正義性依然有明確分野,，戰(zhàn)爭(zhēng)的命運(yùn)依然是由參戰(zhàn)的官兵和人民群眾決定的，涉及民族獨(dú)立,、反對(duì)壓迫剝削,、促進(jìn)人民解放和社會(huì)進(jìn)步的戰(zhàn)爭(zhēng)，需要“明知不可為而為之”的膽略和“狹路相逢勇者勝”的決心。
在戰(zhàn)爭(zhēng)指導(dǎo)上,，無(wú)論人工智能技術(shù)如何發(fā)展,，我們都要堅(jiān)持戰(zhàn)爭(zhēng)為政治服務(wù)、堅(jiān)持以正義戰(zhàn)爭(zhēng)打敗非正義戰(zhàn)爭(zhēng)這個(gè)根本,。
能輔助人類(lèi)決策,，但不能完全取代人類(lèi) 人工智能能否完全取代人類(lèi)在戰(zhàn)爭(zhēng)中的作用，是人工智能在軍事領(lǐng)域必須直面的問(wèn)題,。
智能化不是要讓機(jī)器智能超越,、取代或淘汰人,，而是用它輔助,、解放和增強(qiáng)人，通過(guò)人機(jī)智能融合,，實(shí)現(xiàn)人的自我超越,。
人工智能軍事應(yīng)用面臨的技術(shù)倫理困境
人工智能自誕生之日起就引起人們無(wú)限的想象和憧憬，同時(shí)也伴隨著巨大的倫理爭(zhēng)議,。在諸多成因中,，人工智能技術(shù)的安全性問(wèn)題引發(fā)的倫理爭(zhēng)議尤為激烈。
算法缺陷引發(fā)的倫理風(fēng)險(xiǎn)
算法安全通常是指由于算法本身不完善,，使設(shè)計(jì)或?qū)嵤┻^(guò)程中出現(xiàn)與預(yù)期不相符的安全性問(wèn)題。如：由于設(shè)計(jì)者定義了錯(cuò)誤的目標(biāo)函數(shù),，或者選用了不合適的模型而引起安全問(wèn)題,；設(shè)計(jì)者沒(méi)有充分考慮限制性條件，導(dǎo)致算法在運(yùn)行過(guò)程中造成不良后果,，引起的安全問(wèn)題等,。
數(shù)據(jù)漏洞引發(fā)的倫理風(fēng)險(xiǎn)
數(shù)據(jù)安全是指算法內(nèi)部數(shù)據(jù)模型或外部數(shù)據(jù)集在處理、存儲(chǔ)過(guò)程中的數(shù)據(jù)安全問(wèn)題,。在軍用領(lǐng)域,，人工智能數(shù)據(jù)安全主要面臨兩大風(fēng)險(xiǎn),，即訓(xùn)練數(shù)據(jù)被污染的安全風(fēng)險(xiǎn)和核心數(shù)據(jù)遭竊取的安全風(fēng)險(xiǎn),。
在軍事上，人工智能應(yīng)用的安全性與其準(zhǔn)確的識(shí)別能力,、精確的打擊能力,、快速的反應(yīng)能力密不可分,。而一旦訓(xùn)練數(shù)據(jù)被嚴(yán)重污染，就有可能導(dǎo)致以下幾種情況的出現(xiàn)：人工智能決策系統(tǒng)給出的方案并非最優(yōu)方案,，甚至存在巨大安全隱患,；人工智能武器系統(tǒng)在無(wú)人授權(quán)的情況下隨意改變攻擊目標(biāo)、擴(kuò)大攻擊范圍，造成嚴(yán)重的平民傷亡,；與人工智能相關(guān)聯(lián)的戰(zhàn)略武器系統(tǒng)受到錯(cuò)誤誘導(dǎo),，自主啟動(dòng)發(fā)動(dòng)攻擊，從而引發(fā)毀滅性災(zāi)難,。
另一方面,，由于數(shù)據(jù)安全的責(zé)任主體從個(gè)人、企業(yè),、組織上升到了國(guó)家,，數(shù)據(jù)安全風(fēng)險(xiǎn)的波及范圍也從社會(huì)內(nèi)部延伸到了國(guó)家之間，其復(fù)雜程度和敏感程度均有了顯著提升,。
比如,，在戰(zhàn)時(shí)，為了掌握戰(zhàn)爭(zhēng)主動(dòng)權(quán),，對(duì)交戰(zhàn)對(duì)手的軍事情報(bào)和密碼進(jìn)行竊取和破譯通常被認(rèn)為是符合戰(zhàn)爭(zhēng)法和軍事倫理規(guī)范的,。但在平時(shí)，以人工智能技術(shù)為媒介,，竊取別國(guó)的核心軍事數(shù)據(jù),，以至于嚴(yán)重威脅國(guó)防安全，則無(wú)論是在法理上還是道德上都存在較大的爭(zhēng)議,。這樣的行為一旦得到默許,，勢(shì)必會(huì)加劇國(guó)與國(guó)之間的緊張關(guān)系，對(duì)原本就脆弱的國(guó)際安全局勢(shì)產(chǎn)生惡劣影響,。另外,，黑客和恐怖組織也同樣有可能通過(guò)人工智能技術(shù)漏洞竊取相關(guān)數(shù)據(jù)，開(kāi)展非法和恐怖活動(dòng),，危及國(guó)家安全,。
信息失控引發(fā)的倫理風(fēng)險(xiǎn)
信息安全是指人工智能技術(shù)下，信息的保密性,、真實(shí)性等安全問(wèn)題,。一方面，大數(shù)據(jù)的出現(xiàn)使得對(duì)于個(gè)人隱私信息的收集變得越來(lái)越容易進(jìn)行,；另一方面,，隨著換臉換聲技術(shù)的興起，偽造圖片和音視頻信息大量涌現(xiàn)且真假難辨,，大大降低了信息的可信度和透明度,。基于以上特點(diǎn),，人工智能軍事應(yīng)用將面臨兩大倫理風(fēng)險(xiǎn),，即個(gè)人隱私信息被用于軍事目的和信息迷霧沖擊戰(zhàn)爭(zhēng)倫理的風(fēng)險(xiǎn),。
一方面，信息迷霧的出現(xiàn)會(huì)嚴(yán)重?fù)p害普通民眾對(duì)戰(zhàn)爭(zhēng)中事件真相的知曉權(quán),；另一方面,，在輿論戰(zhàn)中使用的各種欺騙手段將大大降低戰(zhàn)爭(zhēng)倫理水平，從而導(dǎo)致參戰(zhàn)人員在戰(zhàn)爭(zhēng)中遵守交戰(zhàn)規(guī)則和實(shí)行人道主義的外部約束力量進(jìn)一步減弱,，進(jìn)而滋生一系列破壞交戰(zhàn)規(guī)則和反人道的行為,。
人工智能軍事應(yīng)用安全治理和國(guó)際規(guī)范
針對(duì)人工智能軍事應(yīng)用安全治理和國(guó)際規(guī)范制定相關(guān)話題的討論多年前就已展開(kāi)，既有聯(lián)合國(guó)層面的定期磋商,，也有國(guó)家層面的各自努力,，還有產(chǎn)業(yè)界和智庫(kù)層面的對(duì)話交流。
2019年9月,，聯(lián)合國(guó)《特定常規(guī)武器公約》確立了致命性自主武器系統(tǒng)運(yùn)用的11項(xiàng)指導(dǎo)原則,。聯(lián)合國(guó)教科文組織2021年正式發(fā)布了《人工智能倫理問(wèn)題建議書(shū)》。除聯(lián)合國(guó)外,，一些區(qū)域性政府間組織也發(fā)布了涉及人工智能倫理準(zhǔn)則的文件,。比如，2019年4月,，歐盟委員會(huì)發(fā)布《可信賴(lài)的人工智能倫理準(zhǔn)則》。
在國(guó)家層面,，美國(guó)2012年以來(lái)先后出臺(tái)自主武器安全規(guī)范和軍用人工智能倫理準(zhǔn)則,。
比如，美國(guó)國(guó)防部陸續(xù)發(fā)布了《國(guó)防部指令3000.09：自主性武器系統(tǒng)》《負(fù)責(zé)任的人工智能準(zhǔn)則》《負(fù)責(zé)任的人工智能戰(zhàn)略與實(shí)施路徑》等政策文件,。
中國(guó)政府也高度重視人工智能軍事應(yīng)用國(guó)際治理和規(guī)范制定,，科技部指導(dǎo)成立了國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)，2017年以來(lái)陸續(xù)發(fā)布了《新一代人工智能治理原則—發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》等報(bào)告文件,。
2021年12月13日,，中國(guó)特命全權(quán)裁軍事務(wù)大使李松向聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)提交了《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》。2022年11月16日,，李松大使又向聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)大會(huì)提交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》,。在這些文件中，中國(guó)積極倡導(dǎo)人工智能“倫理先行” “以人為本”“智能向善”和“多邊協(xié)商”等治理原則,。
在智庫(kù)交流層面,，中國(guó)軍控與裁軍協(xié)會(huì)、清華大學(xué)戰(zhàn)略與安全研究中心等機(jī)構(gòu),，積極組織中國(guó)專(zhuān)家學(xué)者參與人工智能?chē)?guó)際安全治理二軌對(duì)話,，與美國(guó)、歐盟,、印度,、印度尼西亞,、馬來(lái)西亞等國(guó)智庫(kù)之間建立了機(jī)制性對(duì)話研討平臺(tái)，增進(jìn)人工智能負(fù)責(zé)任運(yùn)用的概念理解,、規(guī)范制定和學(xué)術(shù)共識(shí),。
此次海牙峰會(huì)發(fā)表的“行動(dòng)呼吁”，再次強(qiáng)調(diào)了負(fù)責(zé)任開(kāi)發(fā)和使用人工智能軍事系統(tǒng)的重要性,，強(qiáng)化了國(guó)際社會(huì)已有的人工智能軍事應(yīng)用國(guó)際規(guī)范基本共識(shí),。
但我們需清醒地認(rèn)識(shí)到，這是一項(xiàng)不具有法律約束力的溫和“行動(dòng)呼吁”,，在參加會(huì)議的80多個(gè)國(guó)家的代表中只有60多個(gè)國(guó)家簽署了“行動(dòng)呼吁”,。比如，作為人工智能技術(shù)強(qiáng)國(guó),，以色列代表就沒(méi)有在“行動(dòng)呼吁”倡議書(shū)上簽字,。可見(jiàn),，在人工智能軍事應(yīng)用領(lǐng)域,，要制定一項(xiàng)類(lèi)似于限制使用化學(xué)武器和生物武器的聯(lián)合國(guó)軍控協(xié)議，還有很長(zhǎng)的路要走,。
人工智能或許能分清“利”與“弊”,，厘清“勝”與“失”，但卻很難像人類(lèi)一樣看待“舍”與“得”,，判斷“對(duì)”與“錯(cuò)”,。
人類(lèi)必須將戰(zhàn)爭(zhēng)的主動(dòng)權(quán)牢牢掌握在自己手里。無(wú)論智能科技取得什么樣的突破,，人仍將是戰(zhàn)爭(zhēng)的策源者,、設(shè)計(jì)者和承擔(dān)者，人類(lèi)意志以規(guī)則和算法被物化到智能武器中,，戰(zhàn)爭(zhēng)中由智能武器來(lái)貫徹人的作戰(zhàn)意圖,、達(dá)成預(yù)定的作戰(zhàn)目的，智能武器自主作戰(zhàn)的背后依然是作戰(zhàn)方法,、指揮方式與意志品質(zhì)的較量,。
文章參考：
1.《中美等國(guó)呼吁：監(jiān)管人工智能軍事應(yīng)用迫在眉睫》參考消息
2.《朱啟超、王文佳：軍用人工智能?chē)?guó)際安全治理亟待加強(qiáng)》環(huán)球網(wǎng)
3.《<時(shí)代>封面文章談AI軍備競(jìng)賽：當(dāng)下如此震顫人心,，也如此危險(xiǎn)》澎湃新聞
4.《軍用人工智能?chē)?guó)際安全治理亟待加強(qiáng)》中國(guó)青年網(wǎng)
5.《人工智能軍事應(yīng)用及其國(guó)際法問(wèn)題》信息安全與通信保密雜志社
6.《人工智能軍事應(yīng)用的“能”與“不能”》學(xué)習(xí)時(shí)報(bào)
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有,。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/994072.html
溫馨提示：投資有風(fēng)險(xiǎn)，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議,。
