來源：媒體滾動(dòng)

轉(zhuǎn)自：軍事科學(xué)院

引 言

日前,，美國(guó)的OpenAI將ChatGPT升級(jí)為GPT-4的全新版本,。相比于只能接收文字提問的老版本，GPT-4能用數(shù)十種語(yǔ)言開展工作，還可識(shí)別圖片信息,。以ChatGPT為代表的生成式AI的迅猛發(fā)展,，打開了人類認(rèn)知世界的新路徑，也為一些國(guó)家對(duì)外實(shí)施認(rèn)知滲透攻擊提供了新武器,。

生成式AI的認(rèn)知應(yīng)用功能

所謂生成式AI,，是指通過各種機(jī)器學(xué)習(xí)方法從數(shù)據(jù)中學(xué)習(xí)抽取對(duì)象的內(nèi)核特征，進(jìn)而生成全新的,、完全原創(chuàng)的內(nèi)容的AI,。ChatGPT及其迭代產(chǎn)品，本質(zhì)是基于人類自然語(yǔ)言的人工智能語(yǔ)言模型,。它以大型數(shù)據(jù)為原料,，通過強(qiáng)化訓(xùn)練和深度學(xué)習(xí)，具備了類似神經(jīng)網(wǎng)絡(luò)的反饋糾錯(cuò)機(jī)制,，能夠根據(jù)用戶的具體需求創(chuàng)造新的內(nèi)容,，自動(dòng)完成諸如撰文本、寫文章,、編代碼,，以及作畫、編輯視頻等復(fù)雜工作,，為人類認(rèn)知插上了翅膀,。

認(rèn)知速度提升。生成式AI以AI為核心支撐,，以高性能算法為武器,，匯聚了大規(guī)模數(shù)據(jù)信息，是人類智慧和數(shù)據(jù)信息的集大成者,。生成式AI的橫空出世,，標(biāo)志著人工智能發(fā)展從量變正走向質(zhì)變,，其認(rèn)知速度遠(yuǎn)超此前所有AI認(rèn)知機(jī)器,。有資料顯示，支撐ChatGPT語(yǔ)言合成結(jié)果更自然流暢的是45TB的數(shù)據(jù),、近1萬(wàn)億個(gè)單詞的訓(xùn)練模型,，其規(guī)模相當(dāng)于1351萬(wàn)本牛津詞典。GPT-4雖然其認(rèn)知算法,、算力和訓(xùn)練數(shù)據(jù)等尚未公開,，但無(wú)疑是一個(gè)更加強(qiáng)大的超級(jí)天文數(shù)字，這是其強(qiáng)大認(rèn)知速度和認(rèn)知能力的關(guān)鍵支撐所在,。

認(rèn)知趨勢(shì)預(yù)測(cè),。生成式AI的神奇之處還在于,，能夠基于強(qiáng)大的數(shù)據(jù)支撐,、算法和事物生成發(fā)展規(guī)律，預(yù)測(cè)事物的發(fā)展趨勢(shì),。公開資料顯示,，目前由類GPT人工智能支撐的美軍“先進(jìn)算法作戰(zhàn)系統(tǒng)”，能對(duì)敵人成千上萬(wàn)次炮擊,、地面進(jìn)攻和空襲信息進(jìn)行匯總,，利用AI算法總結(jié)敵人的行動(dòng)規(guī)律、戰(zhàn)斗習(xí)慣,，甚至模擬敵軍指揮官的“思維方式”,，提出針對(duì)性應(yīng)對(duì)方案。

認(rèn)知偏向誘導(dǎo),。生成式AI不管如何快速迭代,，其說到底還是一個(gè)人類創(chuàng)造并控制的AI。在令人眼花繚亂的功能背后,，是其研發(fā)操縱者利用掌握的設(shè)計(jì)密鑰和訓(xùn)練數(shù)據(jù)集,，對(duì)機(jī)器輸出的認(rèn)知立場(chǎng)和態(tài)度實(shí)施操控，同時(shí)也不排除由于機(jī)器認(rèn)知故障或失控有可能造成的重大風(fēng)險(xiǎn)挑戰(zhàn),。資料顯示,，OpenAI將調(diào)試的大量精力花在英文數(shù)據(jù)而非中文內(nèi)容，中文數(shù)據(jù)在ChatGPT的訓(xùn)練語(yǔ)料里占比僅0.1%,，英文輸出結(jié)果的邏輯性和準(zhǔn)確性要遠(yuǎn)大于中文,，其文化價(jià)值傾向可見一斑。當(dāng)帶有鮮明政治立場(chǎng)和價(jià)值觀傾向的生成式AI及其產(chǎn)品日益深入世人的生活時(shí),，受眾認(rèn)知很難不受到其提供的預(yù)設(shè)政治立場(chǎng)的答案的傾向性影響,，這一系統(tǒng)也由此更加容易淪為認(rèn)知攻防的工具,。

生成式AI的認(rèn)知應(yīng)用特征

生成式AI作為高度智慧化的AI形態(tài)，對(duì)認(rèn)知戰(zhàn)的作用特征具有AI認(rèn)知戰(zhàn)應(yīng)用的一般特征,，同時(shí)又兼具高智慧認(rèn)知對(duì)抗的特殊性狀,。掌握生成式AI認(rèn)知應(yīng)用的特點(diǎn)規(guī)律，有助于我們認(rèn)清其在認(rèn)知攻防中的現(xiàn)實(shí)和潛在價(jià)值,，拓展認(rèn)知戰(zhàn)方法路徑,。

自主運(yùn)行。這是生成式AI認(rèn)知應(yīng)用的顯著特征,。生成式AI具有一定程度的自我意識(shí),，能夠按照其研發(fā)應(yīng)用的底層邏輯，自主“涌現(xiàn)”生成新的內(nèi)容,，進(jìn)而對(duì)人的認(rèn)知產(chǎn)生連續(xù)性的不確定性影響,。其認(rèn)知應(yīng)用的價(jià)值在于，研發(fā)應(yīng)用者能夠依靠對(duì)系統(tǒng)設(shè)計(jì)和訓(xùn)練語(yǔ)言的掌握,，更加高質(zhì)高效持續(xù)作用于目標(biāo)對(duì)象的思維認(rèn)知,；同樣，作為對(duì)手的“受眾”在看似客觀的AI連續(xù)影響干預(yù)下,，更容易難辨真假,、受惑受制。未來認(rèn)知對(duì)抗,，在生成式AI加持下,，攻擊組織者可將認(rèn)知攻防任務(wù)交由AI機(jī)器和編程來完成。對(duì)“受眾”而言,，信息是真是假,、判斷是對(duì)是錯(cuò)、決策是優(yōu)是劣,、行動(dòng)是好是壞,，一切都將變得更加撲朔迷離。因?yàn)槟忝鎸?duì)的可能不是活生生的人,，而是有智慧的類人認(rèn)知能力的程序或機(jī)器,。

交互博弈。這是生成式AI認(rèn)知應(yīng)用的邏輯特征,。生成式AI實(shí)際上是人本體認(rèn)知與機(jī)器認(rèn)知交互作用的認(rèn)知,。人類將自身智慧賦能于程序和機(jī)器，同時(shí)認(rèn)知機(jī)器也在回答受眾問題,、根據(jù)受眾具體需求創(chuàng)造新的內(nèi)容,、進(jìn)而形成新的能力，并用于充實(shí)完善自系統(tǒng),。因此,，類ChatGPT所具備的認(rèn)知,，是人與機(jī)器程序內(nèi)互動(dòng)與外互動(dòng)的疊加。在這個(gè)過程中,，基于研發(fā)者授權(quán)的生成式AI,，能夠調(diào)動(dòng)運(yùn)用所有的數(shù)據(jù)儲(chǔ)備和算力、算法,，與作為“對(duì)手”的人或同樣的類ChatGPT,，就關(guān)注的問題進(jìn)行博弈，從中潛移默化地施加影響,、誘導(dǎo)或壓制對(duì)方,。

隱蔽擾動(dòng)。這是生成式AI認(rèn)知應(yīng)用的深層特征,。生成式AI本質(zhì)是人在底層回路控制的高度智慧化的程序或機(jī)器,，其生成是基于人主導(dǎo)之下的混合生成，而不是完全脫離于人的虛浮生成,。如同所有科技一樣,，游離于人的AI是不存在的。正是其高智慧支撐的令人目不暇接的認(rèn)知行為,，為真正的認(rèn)知施動(dòng)者提供了隱秘的作用發(fā)揮空間,。正是基于此,，生成式AI生成的源頭,、方式、內(nèi)容和指向具有鮮明的人文色彩,，包括政治立場(chǎng)、價(jià)值取向、道德標(biāo)準(zhǔn),、文化屬性甚至性格特征,。反過來，我們也可以透過這些人文色彩去認(rèn)知其本源和性質(zhì),。當(dāng)你面對(duì)一臺(tái)有相當(dāng)認(rèn)知應(yīng)對(duì)能力,、很有科技感的機(jī)器或程序時(shí)，你很難從與其往來互動(dòng)的應(yīng)答中判斷其背后有無(wú)另外的支配力量在起作用,。正是這種先驗(yàn)形成的對(duì)科技的崇拜與信任,，往往令人喪失對(duì)其背負(fù)的政治傾向、價(jià)值準(zhǔn)則,、道德標(biāo)準(zhǔn),、人文屬性的警覺。

生成式AI的認(rèn)知應(yīng)用方式

生成式AI的迅猛發(fā)展及其在認(rèn)知攻防對(duì)抗領(lǐng)域中的廣泛應(yīng)用,，是未來認(rèn)知戰(zhàn)發(fā)展的大趨勢(shì),。這就要求我們要深入研究生成式AI的認(rèn)知應(yīng)用,，把握其作用發(fā)揮的方法路徑。

認(rèn)知習(xí)慣塑造,。就是增強(qiáng)優(yōu)勢(shì)科技產(chǎn)品使用的便利性,，通過長(zhǎng)期浸染形成對(duì)該產(chǎn)品使用的慣性思維，從而達(dá)成可信可親可感,、毫不設(shè)防的認(rèn)知趨同,，這是美國(guó)等一些西方國(guó)家的傳統(tǒng)做法。早年美西方開發(fā)國(guó)際互聯(lián)網(wǎng),、操作系統(tǒng)時(shí),，通過低價(jià)或免費(fèi)使用來塑造市場(chǎng)，讓對(duì)手在使用中不知不覺上“癮”,。ChatGPT以工作上的“貼心人”“小助手”形象出現(xiàn),，還提供免費(fèi)使用版本。這些看似人畜無(wú)害,、實(shí)則人為控制的生成式AI們,，一旦成為人們無(wú)比信任、無(wú)話不談的“密友”時(shí),，它對(duì)人的影響將是潛移默化的,。這提醒我們，“親民”之中有陷阱,，切不可被溫情脈脈的表象迷惑,。

認(rèn)知信息滲透。通過媒體平臺(tái)和文創(chuàng)產(chǎn)品輸出價(jià)值觀,，影響其他國(guó)家百姓的價(jià)值取向,，是美西方等國(guó)的通行做法。美國(guó)曾利用技術(shù)優(yōu)勢(shì),，通過互聯(lián)網(wǎng)絡(luò)投放大量數(shù)據(jù)庫(kù)和信息產(chǎn)品推廣美式價(jià)值觀,。美國(guó)在生成式AI上的先發(fā)優(yōu)勢(shì)，無(wú)疑使其擁有了向?qū)κ诌M(jìn)行信息滲透的新工具,。這提醒我們,，某些看似客觀公正的數(shù)據(jù)信息，其實(shí)不少都被“染了色”甚至是“變了質(zhì)”,。切實(shí)加強(qiáng)國(guó)家安全尤其是加強(qiáng)數(shù)據(jù)信息等戰(zhàn)略資源的保護(hù),，防止以技術(shù)理性代替價(jià)值理性等。

認(rèn)知思維構(gòu)陷,。就是利用人性的弱點(diǎn),，通過激發(fā)追求安逸、新奇,、刺激的認(rèn)知感受等原始欲望,，以“獵奇娛樂+意識(shí)滲透”的方式影響人的思維認(rèn)知,。ChatGPT等生成式AI針對(duì)現(xiàn)代人的社交、情感困境,，以愉人悅性的聊天機(jī)器人面目出現(xiàn),，契合了許多人的情感訴求。這種專注于迎合利用人性特點(diǎn)的技術(shù)運(yùn)用,，極易將人的思維認(rèn)知引入狹隘的,、片面的、淺表的陷阱,。這警示我們,，必須保持對(duì)新技術(shù)的足夠理性，在用其所優(yōu)所長(zhǎng)的同時(shí),，防止掉入可能負(fù)載的人為陷阱,。

認(rèn)知標(biāo)準(zhǔn)挾持。就是以技術(shù)邏輯捆綁價(jià)值邏輯,，利用科技優(yōu)勢(shì)在產(chǎn)品中強(qiáng)行貫注相應(yīng)價(jià)值觀,，這是美西方等國(guó)新興做法。比如,，互聯(lián)網(wǎng)是現(xiàn)代社會(huì)不可或缺的重要工具,，掌握互聯(lián)網(wǎng)絕對(duì)控制權(quán)的美西方國(guó)家更是將其作為價(jià)值觀滲透的利器。美國(guó)就曾通過控制互聯(lián)網(wǎng)使用,、國(guó)際支付系統(tǒng)使用等手段打壓在某些問題上不同于美西方的聲音和做法,。以ChatGPT為代表的生成式AI，仍然能夠復(fù)制這種“捆綁”式挾持伎倆,，利用生成答案之機(jī)強(qiáng)行提供融合美式價(jià)值觀的“標(biāo)準(zhǔn)答案”,。這提醒我們,，加強(qiáng)認(rèn)知對(duì)抗,，要加強(qiáng)戰(zhàn)略性信息系統(tǒng)技術(shù)創(chuàng)新和產(chǎn)品研發(fā)力度，以科技過硬支撐認(rèn)知對(duì)抗話語(yǔ)權(quán)過硬,。

（作者單位：軍隊(duì)政治工作研究院）