摘要：首先闡述了軍事反人工智能的內(nèi)涵，分析了軍事反人工智能的現(xiàn)狀與未來(lái)發(fā)展趨勢(shì)。重點(diǎn)探討了深度態(tài)勢(shì)感知在軍事反人工智能中的作用，從因果關(guān)系角度說(shuō)明數(shù)據(jù)分析在反人工智能中的不足之處，從人、機(jī)、環(huán)境的角度探討了人機(jī)融合在軍事反人工智能中的重要性，最后對(duì)軍事反人工智能未來(lái)的發(fā)展進(jìn)行深刻的思考。
人工智能具有技術(shù)、社會(huì)、法律、倫理和軍事等屬性相互融合的特征。一方面，它促進(jìn)了巨大的技術(shù)和社會(huì)的變革，并深刻影響了軍事武器。人工智能已經(jīng)成為國(guó)家戰(zhàn)略和新的核心競(jìng)爭(zhēng)力。另一方面，它可能帶來(lái)諸多風(fēng)險(xiǎn)和挑戰(zhàn)，人工智能可能失控并自主造成傷害的問(wèn)題同樣不容忽視。
目前，世界上任何軍事大國(guó)都將反人工智能視為未來(lái)最重要的軍事技術(shù)，從而加大對(duì)反人工智能武器的投入。美國(guó)國(guó)防部開(kāi)始制定總體計(jì)劃，以建立將反人工智能部署到軍隊(duì)的系統(tǒng)。反人工智能在軍事領(lǐng)域的使用正在蓬勃發(fā)展，反人工智能設(shè)備的廣泛使用不僅將對(duì)傳統(tǒng)戰(zhàn)爭(zhēng)形式產(chǎn)生重大的變革，還將對(duì)軍事領(lǐng)導(dǎo)和控制理論產(chǎn)生重大影響。應(yīng)加快反人工智能在軍事領(lǐng)域應(yīng)用的研究，在研究反人工智能武器和裝備期間，我們還必須確保我們更新和完善針對(duì)反人工智能戰(zhàn)爭(zhēng)條件下的指揮與控制理論。
人工智能是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)以及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)[1]。反人工智能則是在人機(jī)協(xié)同的條件下，從數(shù)據(jù)、算法、硬件等角度可以反制對(duì)手人工智能算法、裝備的理論、方法和技術(shù)。反制包括：讓其人工智能失效、誤導(dǎo)對(duì)方人工智能、獲取對(duì)方人工智能真實(shí)意圖，甚至進(jìn)行反擊等。
人工智能和反人工智能的本質(zhì)是相互博弈。在軍事領(lǐng)域使用反人工智能正在催生一種全新的戰(zhàn)爭(zhēng)形式。盡管在軍事領(lǐng)域仍將反人工智能的應(yīng)用視為未來(lái)的現(xiàn)實(shí)，但隨著反人工智能的發(fā)展，反人工智能在軍事領(lǐng)域的應(yīng)用在新世紀(jì)的局部戰(zhàn)爭(zhēng)中已初現(xiàn)端倪。一些反人工智能軍事武器已用于實(shí)際戰(zhàn)斗中，從根本上改變了現(xiàn)代戰(zhàn)爭(zhēng)的模式和戰(zhàn)斗方法。
反人工智能的本質(zhì)是詐與反詐，孫子兵法有云：“兵不厭詐”， “以虞待不虞者勝”。不要試圖通過(guò)來(lái)反人工智能發(fā)現(xiàn)所有的欺詐行動(dòng)，要學(xué)會(huì)辨別真與假，在欺詐的迷霧中前進(jìn)。
反人工智能處于初級(jí)階段。到目前為止，反人工智能技術(shù)的發(fā)展經(jīng)歷了兩個(gè)階段。 最初，大多數(shù)反人工智能技術(shù)是通過(guò)誤導(dǎo)或混淆機(jī)器學(xué)習(xí)模型或訓(xùn)練數(shù)據(jù)，這是一種簡(jiǎn)單粗暴的方法。 但是，由于機(jī)器學(xué)習(xí)模型通常是在封閉環(huán)境進(jìn)行訓(xùn)練，因此很難獲得外部干擾。隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展，對(duì)抗神經(jīng)網(wǎng)絡(luò)開(kāi)啟了反人工智能技術(shù)的第二條技術(shù)路線。研究人員可以將基于對(duì)抗數(shù)據(jù)周圍的神經(jīng)網(wǎng)絡(luò)用于生成反饋數(shù)據(jù)，使機(jī)器學(xué)習(xí)模型在識(shí)別和行動(dòng)期間做出錯(cuò)誤的判斷，該方法與機(jī)器學(xué)習(xí)技術(shù)相似[2]，可以達(dá)到初級(jí)反人工智能的效果。
博弈游戲一直是反人工智能領(lǐng)域的重要研究課題。根據(jù)是否可以完全了解博弈信息，可以將其細(xì)分為完整和不完整的信息集。完整信息集這意味著博弈中的所有參與者都可以完全獲得游戲的所有信息，例如在圍棋和象棋游戲中，雙方都可以完全了解所有的碎片信息和對(duì)手的行動(dòng)計(jì)劃。不完整的信息集是指參與者無(wú)法獲得完整的信息，并且只有部分信息可見(jiàn)的事實(shí)[3]。例如，在麻將或撲克中，玩家無(wú)法控制另一位玩家的分布或手牌，只能根據(jù)當(dāng)前情況做出最優(yōu)決策。
目前軍事領(lǐng)域的反人工智能實(shí)踐發(fā)展迅速，但也存在許多危機(jī)。當(dāng)前，反人工智能只能做一些基礎(chǔ)工作，大多數(shù)情況它并不理解這么做的原因，只是因?yàn)閿?shù)據(jù)處理的結(jié)果告訴它那樣做會(huì)有最優(yōu)解。如果反人工智能系統(tǒng)不完全了解其功能或周圍環(huán)境，則可能會(huì)產(chǎn)生危險(xiǎn)的結(jié)果。 特別是在軍事戰(zhàn)爭(zhēng)中，任何事情都可能發(fā)生，并不是僅僅靠數(shù)據(jù)就能完全解決或預(yù)測(cè)的，此時(shí)反人工智能就有可能執(zhí)行錯(cuò)誤的行動(dòng)，造成難以估計(jì)的后果。反人工智能在軍事領(lǐng)域的訓(xùn)練數(shù)據(jù)稍有偏差就有可能埋下安全隱患；如果攻擊者使用惡意數(shù)據(jù)復(fù)制訓(xùn)練模式，則將導(dǎo)致軍事上實(shí)施反人工智能的重大錯(cuò)誤。
從軍事防守的角度看，有必要研究反人工智能技術(shù)。 人工智能在各個(gè)國(guó)家的獨(dú)立部署和不受管控的因素已注入了不穩(wěn)定。以機(jī)器的速度而不是人的速度做出的決策也增加了機(jī)器決策的危機(jī)。在持續(xù)不斷的沖突中，各方使用智能性自主武器，爭(zhēng)取開(kāi)始就獲得軍事優(yōu)勢(shì)，這些軍事優(yōu)勢(shì)為各方在戰(zhàn)斗中提供了強(qiáng)大的戰(zhàn)斗力。人工智能及其權(quán)利的界定十分困難，即使戰(zhàn)略系統(tǒng)穩(wěn)定，也可能為了避免受到威脅而發(fā)動(dòng)攻擊，增加了和平相處中發(fā)生意外攻擊的概率。有了智能自主武器，在戰(zhàn)爭(zhēng)籌備中的危險(xiǎn)系數(shù)提高，智能自主武器可能脫離管控，有意或無(wú)意的發(fā)起攻擊。在軍事領(lǐng)域使用人工智能增加了軍事的不確定性，使各國(guó)感到自身安全受到威脅。
戰(zhàn)爭(zhēng)中，存在事實(shí)真相和價(jià)值目標(biāo)，在事實(shí)和價(jià)值之間，存在一種可能性，這種可能性是一種空間，時(shí)間或單位。戰(zhàn)爭(zhēng)中固定的目標(biāo)不會(huì)隨時(shí)間變化很大，并且它的空間變化不大，但是價(jià)值相差很大。例如，第38軍在上海與美國(guó)的戰(zhàn)爭(zhēng)中價(jià)值最高；馬賽克是要找到這些事件所重視的物體、時(shí)間或空間。 阿爾法狗只能談?wù)撌虑?，不能理解言外之意等?/div>
對(duì)手發(fā)動(dòng)侵略的可能性很小，是因?yàn)闆](méi)有危機(jī)或者因?yàn)闆](méi)有意外的軍事行動(dòng)。國(guó)家的最高級(jí)別決策者必須相信存在對(duì)一個(gè)或多個(gè)基本價(jià)值觀的威脅；準(zhǔn)備工作似乎就是威脅的開(kāi)始，然后一般的威懾在起作用。當(dāng)兩國(guó)之間正在醞釀或正在發(fā)生戰(zhàn)爭(zhēng)時(shí)，強(qiáng)力的威懾才起作用了。在冷戰(zhàn)期間，人們對(duì)威懾的普遍理解幾乎完全是核威懾。美國(guó)最希望制止核侵略，核武器威脅是它用來(lái)制止這種侵略的最后手段。然而，美國(guó)也試圖阻止其他對(duì)手的所有重大侵略，并發(fā)展了強(qiáng)大的常規(guī)軍事力量來(lái)支持其常規(guī)威懾。今天，正如在冷戰(zhàn)期間一樣，美國(guó)也擁有威懾戰(zhàn)略，旨在遏制對(duì)美國(guó)領(lǐng)土的侵略和對(duì)美國(guó)在歐洲和東亞的盟友的侵略。在軍事領(lǐng)域中使用反人工智能，可能會(huì)導(dǎo)致無(wú)法解釋的沖突，不恰當(dāng)?shù)淖灾餍袆?dòng)可能導(dǎo)致意外的升級(jí)。智能系統(tǒng)的存在會(huì)帶來(lái)技術(shù)事故和故障的機(jī)會(huì)，特別是當(dāng)行動(dòng)者沒(méi)有安全的保障能力時(shí)，事故和誤報(bào)反過(guò)來(lái)會(huì)影響決策。此外，原本只為防御的反人工智能升級(jí)，雖然不是為沖突和攻擊的升級(jí)，一旦被另其他國(guó)家視為升級(jí)，可能會(huì)升級(jí)為大國(guó)之間的智能爭(zhēng)霸。所以為了防止被人工智能武器意外攻擊，有必要加速反人工智能在軍事領(lǐng)域應(yīng)用的研究。
2 美軍反人工智能的發(fā)展
美軍暫時(shí)并沒(méi)有明確的提出反人工智能技術(shù)的概念，但是其建立了多項(xiàng)計(jì)劃都是在向反人工智能在軍事領(lǐng)域應(yīng)用的方向發(fā)展。希望能不斷優(yōu)化其人工智能和自主化模型，防御乃至反制對(duì)方的人工智能技術(shù)。其目前已確立了從“灰色地帶”分析對(duì)方真實(shí)意圖，從態(tài)勢(shì)洞察中分析出對(duì)方的真實(shí)目的等方面發(fā)展方向，未來(lái)會(huì)在可解釋性、防戰(zhàn)略欺騙等方面加大投資。所以我們需要未雨綢繆，努力推動(dòng)反人工智能在軍事領(lǐng)域的應(yīng)用。
2017年，DARPA發(fā)起了機(jī)器終身學(xué)習(xí)項(xiàng)目（M2S），探索類比學(xué)習(xí)方法在人工智能中的應(yīng)用，謀求下一代人工智能新的突破口，使它們能夠進(jìn)行現(xiàn)場(chǎng)學(xué)習(xí)并提高性能。 在真實(shí)世界的情況而無(wú)需進(jìn)行檢查或聯(lián)網(wǎng)檢查。追求獨(dú)立學(xué)習(xí)的能力使系統(tǒng)能夠適應(yīng)新情況，而無(wú)需事先進(jìn)行編程和培訓(xùn)。
2017年8月，DARPA提出“馬賽克戰(zhàn)”概念，其先進(jìn)之處在于，不局限于任何具體機(jī)構(gòu)、軍兵種或企業(yè)的系統(tǒng)設(shè)計(jì)和互操作性標(biāo)準(zhǔn)，而是專注于開(kāi)發(fā)可靠連通各個(gè)節(jié)點(diǎn)的程序和工具，尋求促成不同系統(tǒng)的快速、智能、戰(zhàn)略性組合和分解，實(shí)現(xiàn)無(wú)限多樣作戰(zhàn)效能。
在2018年DARPA發(fā)布了一個(gè)名為“指南針”的項(xiàng)目，通過(guò)量化戰(zhàn)斗人員對(duì)各種攻擊來(lái)幫助他們了解對(duì)方的真實(shí)目的。該項(xiàng)目會(huì)從兩個(gè)方面解決問(wèn)題：首先，它用來(lái)確定對(duì)手的行動(dòng)和目標(biāo)，然后確定計(jì)劃是否正常運(yùn)行，例如位置，時(shí)間和行動(dòng)。但是在充分理解它們之前，需要將獲取的數(shù)據(jù)通過(guò)人工智能轉(zhuǎn)化為信息，理解信息和知識(shí)的不同含義，這是博弈論的開(kāi)始。然后，在人工智能技術(shù)中融入博弈理論，根據(jù)對(duì)手的真實(shí)意圖確定最有效的行動(dòng)方案。
2018年初，KAIROS人工智能項(xiàng)目正式發(fā)起。 美國(guó)軍方期望使用KAIROS項(xiàng)目來(lái)提高位置意識(shí)，預(yù)警，情報(bào)程序和戰(zhàn)爭(zhēng)情報(bào)能力。具體而言，在正常的協(xié)調(diào)模式下，每個(gè)國(guó)家都有計(jì)劃和實(shí)施隱藏的戰(zhàn)略步驟。 在戰(zhàn)爭(zhēng)期間，不同國(guó)家的軍事部隊(duì)采取了不同的策略，KAIROS項(xiàng)目希望構(gòu)建能獲得“情報(bào)背后的情報(bào)”的系統(tǒng)，具有更強(qiáng)的監(jiān)視和預(yù)警，情報(bào)流程和智能決策功能。
在以上計(jì)劃的基礎(chǔ)上，“不同來(lái)源的主動(dòng)詮釋”（AIDA）項(xiàng)目將探索關(guān)鍵的多源模糊信息數(shù)據(jù)源的控制，將開(kāi)發(fā)“動(dòng)態(tài)引擎”并為實(shí)際數(shù)據(jù)生成數(shù)據(jù)。從各種來(lái)源獲得，對(duì)事件、情況和趨勢(shì)進(jìn)行了清晰的解釋，并加入對(duì)復(fù)雜性的量化，這意味著破解戰(zhàn)爭(zhēng)迷霧中潛在的沖突和欺騙。針對(duì)欺詐數(shù)據(jù)和敵對(duì)攻擊，模擬數(shù)據(jù)和公開(kāi)戰(zhàn)爭(zhēng)數(shù)據(jù)會(huì)創(chuàng)建一個(gè)測(cè)試站點(diǎn)，以評(píng)估機(jī)器學(xué)習(xí)的風(fēng)險(xiǎn)。同時(shí)將專注于升級(jí)抗干擾的用戶機(jī)器學(xué)習(xí)算法并將其融入原型系統(tǒng)中。為了防止敵方干擾我方人工智能，通過(guò)可解釋人工智能，查看人工智能的執(zhí)行過(guò)程，確保執(zhí)行的正確性，達(dá)到反人工智能的效果。
3 反人工智能與深度態(tài)勢(shì)感知
深度態(tài)勢(shì)感知的含義是“對(duì)態(tài)勢(shì)感知的感知，是一種人機(jī)智慧，既包括了人的智慧，也融合了機(jī)器的智能（人工智能）”， 是能指+所指，既涉及事物的屬性（能指、感覺(jué)）又關(guān)聯(lián)它們之間的關(guān)系（所指、知覺(jué)），既能夠理解弦外之音，也能夠明白言外之意。它基于Endsley對(duì)主題情況的理解（包括用于輸入，處理和離開(kāi)信息的鏈接）。它是對(duì)系統(tǒng)趨勢(shì)的全球分析，其中包括人，機(jī)器（對(duì)象），環(huán)境（自然，社會(huì)）及其關(guān)系。兩種反饋機(jī)制，包括國(guó)內(nèi)和全球的定量預(yù)測(cè)和評(píng)估，包括自我組織，自我適應(yīng)，另一組織和相互適應(yīng)，分別是：等待選擇的自治和自治系統(tǒng)-預(yù)測(cè)性選擇-監(jiān)控調(diào)整信息的效果[4-5]。
數(shù)據(jù)驅(qū)動(dòng)的人工智能大多都可歸結(jié)為一個(gè)最優(yōu)化問(wèn)題，例如，有監(jiān)督的分類判別學(xué)習(xí)就是要使分類器在代表及的訓(xùn)練數(shù)據(jù)上取得某個(gè)最小的錯(cuò)誤率。一般我們會(huì)假設(shè)，訓(xùn)練數(shù)據(jù)可以適當(dāng)?shù)姆从吵隹傮w分布，否則訓(xùn)練出來(lái)的分類器的泛化能力就很值得懷疑。然而在實(shí)踐中，人們很少去檢驗(yàn)這個(gè)假設(shè)是否成立，尤其在高維樣本的情況下，數(shù)據(jù)在空間中的分布相對(duì)稀疏，假設(shè)檢驗(yàn)難以實(shí)現(xiàn)，“維度詛咒”則司空見(jiàn)慣。
不知道總體分布如何，不了解數(shù)據(jù)的產(chǎn)生機(jī)制，也不確定觀測(cè)樣本是否“有資格”代表總體，在此前提下，即便有大量的樣本可同來(lái)訓(xùn)練學(xué)習(xí)機(jī)器，總難免會(huì)產(chǎn)生偏差。所以純數(shù)據(jù)驅(qū)動(dòng)的機(jī)器學(xué)習(xí)總是包含一定的風(fēng)險(xiǎn)，特別地，當(dāng)我們對(duì)數(shù)據(jù)的產(chǎn)生機(jī)制有一些先驗(yàn)知識(shí)卻受限于機(jī)器學(xué)習(xí)方法而無(wú)法表達(dá)時(shí)，我們對(duì)模型缺乏可解釋性和潛在數(shù)據(jù)攻擊的存在的擔(dān)憂就會(huì)進(jìn)一步加劇。無(wú)論模型的好壞，我們都不知道其背后的原因，對(duì)模型的泛化能力、穩(wěn)健性等也都無(wú)法評(píng)價(jià)。所以人類的思維應(yīng)位于數(shù)據(jù)之上，尤其是因果關(guān)系（不但是事實(shí)因果關(guān)系，更重要的是價(jià)值因果關(guān)系）的理解應(yīng)該先于數(shù)據(jù)表達(dá)。
近期更深入研究進(jìn)展主要是因?yàn)橛?jì)算能力的提高。例如，深度學(xué)習(xí)是對(duì)人工神經(jīng)網(wǎng)絡(luò)的延續(xù)和深化，其計(jì)算能力將基于數(shù)據(jù)的算法推向了更高的層次。人們認(rèn)為數(shù)據(jù)中可以解答所有難以理解的問(wèn)題，并且可以通過(guò)智能數(shù)據(jù)挖掘技術(shù)加以證明。
數(shù)據(jù)很重要，但不能作為決策的唯一原因（不少數(shù)據(jù)還會(huì)起到干擾作用）。 這些具有知識(shí)或經(jīng)驗(yàn)的“原因”模型對(duì)于幫助機(jī)器人從人工智能過(guò)渡到人工智能在軍事領(lǐng)域的應(yīng)用至關(guān)重要。 大數(shù)據(jù)分析和基于數(shù)據(jù)的方法僅在民用預(yù)測(cè)可用。在軍事上應(yīng)用反人工智能需要干預(yù)和不合邏輯的行動(dòng)，從而使機(jī)器具有更符合預(yù)期的決策。 “干預(yù)使人和機(jī)器從被動(dòng)觀察和訴諸因果推理的主動(dòng)探索中解脫出來(lái)”擴(kuò)大了想象空間，從而克服了現(xiàn)實(shí)世界的迷霧[6]。
反人工智能在因果推理的基礎(chǔ)上，對(duì)戰(zhàn)場(chǎng)進(jìn)行深度態(tài)勢(shì)感知，其不僅僅是信息的獲取和處理，軍事反人工智能還可以對(duì)去偽存真，利用對(duì)方人工智能處理結(jié)果的分析，從對(duì)方想要掩蓋的信息中，獲取對(duì)方的真實(shí)目的。在“灰色地帶”，人工智能無(wú)法處理的地方，反人工智能可以利用先驗(yàn)知識(shí)結(jié)合當(dāng)時(shí)情況下的態(tài)勢(shì)感知作出最優(yōu)的解決方案。
4 反人工智能與人機(jī)融合
人機(jī)融合的飛速發(fā)展被定義為：人機(jī)系統(tǒng)工程，即人機(jī)，是研究人，設(shè)備和環(huán)境系統(tǒng)之間最佳匹配的系統(tǒng)，涉及集成，性能，管理和反饋。系統(tǒng)的總體設(shè)計(jì)的研究目標(biāo)是人機(jī)環(huán)境以及優(yōu)化和可視性，是安全、健壯、和諧和整個(gè)系統(tǒng)的有效協(xié)調(diào)。
智能系統(tǒng)的關(guān)鍵在于“恰到好處”的被使用，人類智能的關(guān)鍵在于“恰到好處”的主動(dòng)預(yù)值—提前量，人機(jī)融合智能的關(guān)鍵在于“恰如其分”的組織“主動(dòng)安排”和“被動(dòng)使用”序列。算計(jì)里有算有計(jì)，可以穿越非家族相似性。計(jì)算就是用已獲取到的數(shù)據(jù)算出未知數(shù)據(jù)，算計(jì)就是有目的的估計(jì)。計(jì)算是以有條件開(kāi)始的，算計(jì)是以無(wú)條件開(kāi)始的。所有的計(jì)算都得使用范圍內(nèi)共識(shí)規(guī)則推理，算計(jì)則不然，它可以進(jìn)行非范圍內(nèi)非共識(shí)規(guī)則想象。計(jì)算的算是推理，算計(jì)的算是想象，計(jì)算的計(jì)是用已知，算計(jì)的計(jì)是謀未知，數(shù)據(jù)是人與計(jì)算機(jī)之間自然交互的重要點(diǎn)。英國(guó)學(xué)者蒂姆·喬丹指出：“海量的信息反而導(dǎo)致無(wú)法有效使用這些信息。 在以下兩種情況下發(fā)生。 首先，有一些無(wú)法吸收的信息； 第二，信息的組織性很差，因此找不到特定的信息?！?/div>
未來(lái)反人工智能系統(tǒng)，至少是人機(jī)環(huán)境系統(tǒng)的自主融合的智能系統(tǒng)。計(jì)算意味著信息流包括輸入，處理，輸出和反饋。反人工智能的主要發(fā)展目標(biāo)之一是人機(jī)混合智能。目前強(qiáng)人工智能，類人人工智能和通用智能離我們很遠(yuǎn)，最終執(zhí)行的是人和計(jì)算機(jī)的融合智能。人機(jī)融合智能將學(xué)習(xí)如何實(shí)現(xiàn)最佳的人機(jī)配合。就人機(jī)環(huán)境系統(tǒng)的設(shè)計(jì)和優(yōu)化而言，識(shí)別計(jì)算機(jī)和機(jī)器設(shè)計(jì)的能力非常復(fù)雜。通常，它涉及兩個(gè)基本問(wèn)題，其中之一是人為意圖和機(jī)器意圖融合。所謂意向是意識(shí)的方向。機(jī)器很難處理任何可以更改，反轉(zhuǎn)或相反的內(nèi)容，但是機(jī)器的優(yōu)勢(shì)在于它可以24小時(shí)不停歇，隨意擴(kuò)展存儲(chǔ)空間，易于計(jì)算并且可以形式化和象征性。 人和機(jī)何時(shí)以及如何進(jìn)行干預(yù)并相互反應(yīng)？在多種約束條件下，時(shí)間和準(zhǔn)確性變得十分重要[7]。因此，如何充分整合機(jī)器算力和人腦認(rèn)知是人機(jī)融合智能中非常重要核心問(wèn)題。
同時(shí)，軍事反人工智能的另一個(gè)關(guān)鍵點(diǎn)在于，計(jì)算越精細(xì)準(zhǔn)確，越可能被敵人利用。敵人通過(guò)隱真示假，進(jìn)行欺騙，所以人機(jī)有機(jī)融合十分重要，因?yàn)槿藱C(jī)融合智能是一個(gè)復(fù)雜的領(lǐng)域，而不是單一學(xué)科。反人工智能的環(huán)節(jié)可以包括：輸入、處理、輸出、反饋、綜合等。在輸入環(huán)節(jié)，我們需要拆分，合并和交換數(shù)據(jù)，信息和知識(shí)，使對(duì)方無(wú)法獲取到有用的信息，同時(shí)帶給對(duì)方一定的誤導(dǎo)。在處理環(huán)節(jié)，我們要阻斷信息處理，使其內(nèi)部處理非公理與公理分岐化，使其對(duì)信息的處理不知所措。在輸出環(huán)節(jié)，我們要讓對(duì)方人機(jī)融合的過(guò)程中，直覺(jué)決策與邏輯決策區(qū)別化，使其產(chǎn)生不信任感，迷惑對(duì)方的最終決策。在反饋環(huán)節(jié)，我們要使其反思、反饋悖論化，使其對(duì)反饋的信息感到迷惑乃至拒絕，讓其無(wú)法進(jìn)一步吸收之前的案例信息。在綜合階段，我們要使對(duì)方情景意識(shí)、態(tài)勢(shì)感知矛盾化，在信息匯總、綜合階段，使其對(duì)更高層次的信息，無(wú)法理解乃至相互矛盾，達(dá)到不戰(zhàn)而屈人之兵的效果。
為了解決將人機(jī)集成到軍事態(tài)勢(shì)感知中的問(wèn)題，我們必須首先打破不同感官的慣性，打破傳統(tǒng)的時(shí)間關(guān)系，包括地圖，知覺(jué)，知識(shí)地圖和狀態(tài)圖。對(duì)于人類而言，機(jī)器是自我發(fā)展的工具，也是自我認(rèn)知的一部分。通過(guò)機(jī)器的優(yōu)勢(shì)了解自己的錯(cuò)誤，通過(guò)機(jī)器的錯(cuò)誤了解個(gè)人的能力，然后進(jìn)行相互補(bǔ)償或提高。由于缺乏二元論，人機(jī)混合尚不被大部分人認(rèn)可。如今，越來(lái)越多的人機(jī)交互在不斷優(yōu)化，盡管這并不令人滿意，仍然存在差距，但未來(lái)值得期待的使：人們?cè)谥圃鞕C(jī)器同時(shí)會(huì)也在發(fā)現(xiàn)自己[8]。
目前，反人工智能和人機(jī)融合的開(kāi)發(fā)仍處于起步階段。集成反人工智能和人機(jī)交互的第一個(gè)也是最重要的問(wèn)題在于如何將機(jī)器的反人工智能功能與人機(jī)智能相集成。 在應(yīng)用階段，人機(jī)混合物中人機(jī)力量的分布很明顯，因此不會(huì)產(chǎn)生有效的協(xié)同作用。人類繼續(xù)在所進(jìn)行的學(xué)習(xí)中擴(kuò)展其認(rèn)知能力，以便人類能夠更好地理解復(fù)雜環(huán)境中不斷變化的情況。由于聯(lián)想能力，人們可以創(chuàng)建跨域集成的能力，而認(rèn)知能力卻與人工智能思考背道而馳。激活類人的思考能力的方法是實(shí)現(xiàn)反人工智能與人機(jī)之間集成的突破。朱利奧·托諾尼（Giulio Tononi）的綜合信息理論指出，智能系統(tǒng)必須快速獲取信息， 同時(shí)，能夠進(jìn)行認(rèn)知處理的機(jī)器的發(fā)展需要人與機(jī)器之間的集體意識(shí)。 因此，必須在人與機(jī)器之間建立快速有效的雙向信息交互，雙向信息交互的基礎(chǔ)是抽象信息。 對(duì)于計(jì)算機(jī)，具有抽象地定義物質(zhì)的限制性環(huán)境的能力。表示越抽象，它越能適應(yīng)不同的情況。同時(shí)，高水平的無(wú)形能力也將轉(zhuǎn)化為普遍的遷徙能力，從而越過(guò)了人類思想極限。
5 反人工智能的方法策略
評(píng)估各國(guó)反人工智能計(jì)劃在軍事上的潛力。評(píng)估各國(guó)提供的反人工智能實(shí)施解決方案的系統(tǒng)級(jí)別，以評(píng)估在設(shè)計(jì)、開(kāi)發(fā)、測(cè)試或使用過(guò)程中應(yīng)考慮的所有影響。這包括培訓(xùn)數(shù)據(jù)，算法和系統(tǒng)管理，這些數(shù)據(jù)是在測(cè)試后引入的，以監(jiān)視現(xiàn)場(chǎng)行為并將系統(tǒng)與其他人機(jī)交互過(guò)程集成以控制攻擊。評(píng)估每個(gè)國(guó)家的新作戰(zhàn)思路，除了了解系統(tǒng)級(jí)別的情況之外，還應(yīng)該了解基于反人工智能的決策過(guò)程，如何控制決策以及使用反人工智能和自主戰(zhàn)斗概念是否會(huì)導(dǎo)致錯(cuò)誤并隨時(shí)自我升級(jí)。
在基于其他作戰(zhàn)或戰(zhàn)略戰(zhàn)爭(zhēng)場(chǎng)景的情況下，反人工智能戰(zhàn)爭(zhēng)模擬是更好地了解智能戰(zhàn)爭(zhēng)的特別有效的工具。 在某個(gè)地理區(qū)域進(jìn)行模擬戰(zhàn)爭(zhēng)以檢測(cè)戰(zhàn)斗能力。場(chǎng)景越多，對(duì)手和盟友越多，推論就可能導(dǎo)致不同的結(jié)果。
深入研究對(duì)手的自主系統(tǒng)及其對(duì)自主系統(tǒng)的使用。 這不僅是要了解自己的系統(tǒng)，而且還要了解對(duì)手的能力。了解和理解反人工智能和如何使用的自主系統(tǒng)和概念都很重要。 此行為旨在改善與其他國(guó)家或地區(qū)的互動(dòng)，以便我們的規(guī)劃者可以更好地預(yù)測(cè)對(duì)手的決策。
對(duì)于不同的人工智能攻擊的操控者都在努力尋找機(jī)會(huì)獲得最高回報(bào)。我們可以增加其攻擊的成本，降低其攻擊成功的收益，以降低攻擊者對(duì)他們的興趣。隨著組織的網(wǎng)絡(luò)安全計(jì)劃日漸成熟，他們的攻擊價(jià)值將會(huì)降低。任務(wù)自動(dòng)化和惡意海量攻擊進(jìn)一步降低了屏障安全系數(shù)，使得攻擊者更容易進(jìn)入并執(zhí)行操作，因此，反人工智能可以著重防御降低攻擊量。在充滿挑戰(zhàn)的軍事戰(zhàn)爭(zhēng)中，反人工智能技術(shù)需要縮短攻擊者保持匿名和與受害者保持距離的能力，從而降低反偵察難度。反人工智能作為防御者，我們必須做到成功率100％地阻止攻擊，而攻擊者只需成功一次即可。組織必須專注培養(yǎng)正確的能力，并打造一支團(tuán)隊(duì)來(lái)利用流程和技術(shù)降低這種不對(duì)稱性。
雖然反人工智能和自主化正在降低可變性和成本、提高規(guī)模并控制錯(cuò)誤，但攻擊者還可以使用人工智能來(lái)打破平衡，從而占據(jù)優(yōu)勢(shì)地位。攻擊者能夠自動(dòng)操作攻擊過(guò)程中資源集約度最高的元素，同時(shí)避開(kāi)針對(duì)他們部署的控制屏障。所以我們需要反人工智能做到迅速漏洞掃描漏洞，比攻擊者更快地發(fā)現(xiàn)并彌補(bǔ)漏洞，防止攻擊者以此為突破口集中力量進(jìn)行攻擊。
應(yīng)對(duì)人工智能攻擊的風(fēng)險(xiǎn)和威脅格局變化的一種簡(jiǎn)單對(duì)策是實(shí)行高壓的安全文化。防御團(tuán)隊(duì)可以采用基于風(fēng)險(xiǎn)的方法，確定治理流程和實(shí)質(zhì)性門檻，讓防御的領(lǐng)導(dǎo)者知曉其網(wǎng)絡(luò)安全態(tài)勢(shì)，并提出合理舉措進(jìn)行不斷改善。使用反人工智能等技術(shù)來(lái)改善運(yùn)營(yíng)和技術(shù)團(tuán)隊(duì)的安全性操作，可以獲得更多的后勤支持。例如，通過(guò)反人工智能實(shí)現(xiàn)資源或時(shí)間集約型流程的自主化，大大減少完成常規(guī)安全流程所需的時(shí)間。對(duì)防御團(tuán)隊(duì)來(lái)說(shuō)，安全流程效率提高減少了后續(xù)安全規(guī)定中容易出現(xiàn)的摩擦。反人工智能技術(shù)的發(fā)展將帶來(lái)更多機(jī)會(huì)，以改善戰(zhàn)爭(zhēng)安全，保持風(fēng)險(xiǎn)與回報(bào)間的平衡。
6 意見(jiàn)建議
如果軍事機(jī)械化，自動(dòng)化和信息改變了戰(zhàn)爭(zhēng)的“態(tài)”和“感”，那么在軍隊(duì)中使用反人工智能可能會(huì)改變“勢(shì)”和“知”，并改變未來(lái)關(guān)于戰(zhàn)爭(zhēng)和“邊界意識(shí)”的“知識(shí)”。與傳統(tǒng)的“態(tài)勢(shì)感知”相比，它會(huì)更深入，更全面，形成一種深刻的態(tài)勢(shì)意識(shí)，它是一種軍事情報(bào)的形式，它融合了人類機(jī)器的環(huán)境環(huán)境系統(tǒng)。它的主要特征是：人機(jī)協(xié)同更快，更協(xié)作，更不安全，更不自治，更透明，更具威脅性等，因此在邊界上，它必須在更多條件和限制下越來(lái)越清晰。雙方協(xié)議更加及時(shí)有效。用軍事態(tài)勢(shì)感知固有局限性和人機(jī)的外部局限性來(lái)衡量，這一共識(shí)的主要結(jié)論是：在對(duì)抗中，無(wú)論是戰(zhàn)術(shù)上還是戰(zhàn)略上，人們都必須參與其中并應(yīng)對(duì)智能武器等問(wèn)題，在無(wú)數(shù)軍事應(yīng)用中，人和機(jī)必須同時(shí)處于系統(tǒng)之中。
反人工智能武器的應(yīng)用，一方面在精準(zhǔn)打擊、減少人力成本、增加作戰(zhàn)靈活性和預(yù)防恐怖襲擊等方面具有巨大優(yōu)勢(shì)，另一方面又面臨著破壞國(guó)際人道主義、引發(fā)軍備競(jìng)賽等挑戰(zhàn)和威脅。從全球范圍來(lái)看，該問(wèn)題的解決需要各國(guó)攜手共進(jìn)、共商共治。中國(guó)作為新興大國(guó)和聯(lián)合國(guó)五大常任理事國(guó)之一，應(yīng)樹(shù)立負(fù)責(zé)任大國(guó)的良好形象，積極維護(hù)中國(guó)和平發(fā)展的外部環(huán)境與世界秩序的安全，積極參加聯(lián)合國(guó)裁軍研究中所有關(guān)于致命性人工智能武器軍控的研究和探討。在反人工智能武器目前負(fù)面影響尚不明確的情況下，謹(jǐn)慎研發(fā)、使用致命性人工智能武器。
同時(shí)要重視完善軍事反人工智能算法標(biāo)準(zhǔn)，反人工智能技術(shù)的軍事應(yīng)用與社會(huì)應(yīng)用是存在區(qū)別的，反人工智能在應(yīng)用與民用領(lǐng)域時(shí)，其所需的訓(xùn)練數(shù)據(jù)非常豐富，應(yīng)用的場(chǎng)景也相對(duì)固定，相關(guān)算法能夠較好的發(fā)揮作用，但是在軍事領(lǐng)域，特別時(shí)實(shí)戰(zhàn)過(guò)程中，由于戰(zhàn)場(chǎng)環(huán)境的復(fù)雜性、對(duì)抗性，以及作戰(zhàn)戰(zhàn)術(shù)的多變性，反人工智能系統(tǒng)所需的訓(xùn)練數(shù)據(jù)較難獲得，相關(guān)算法的使用效果也會(huì)打折扣，這是反人工智能技術(shù)在軍事應(yīng)用過(guò)程中必須要面對(duì)和解決的問(wèn)題。與此同時(shí)，相關(guān)軍用標(biāo)準(zhǔn)的制定必須跟得上反人工智能技術(shù)的軍事應(yīng)用步伐，以確保反人工智能技術(shù)能夠滿足軍事領(lǐng)域的功能性、互操作性和安全性需求，最大限度的優(yōu)化反人工智能技術(shù)在軍事領(lǐng)域應(yīng)用效果。
參考文獻(xiàn)：
1、余穎. 基于神經(jīng)網(wǎng)絡(luò)和遺傳算法的人工智能游戲研究與應(yīng)用[D].湖南大學(xué),2011.
2、李雅琪,馮曉輝.人工智能時(shí)代亦需“反人工智能”[J].互聯(lián)網(wǎng)經(jīng)濟(jì),2019(08):36-39.
3、李翔,姜曉紅,陳英芝,包友軍.基于手牌預(yù)測(cè)的多人無(wú)限注德州撲克博弈方法[J].計(jì)算機(jī)學(xué)報(bào),2018,41(01):47-64.
4、劉偉.追問(wèn)人工智能:從劍橋到北京[M].第一版.北京：科學(xué)出版社，2019.
5、Endsley M. R. Design and evaluation for situation awareness enhancement[C] // Proceedings of the Human Factors Society annual meeting. Sage CA: Los Angeles, CA: SAGE Publications, 1988, 32(2): 97-101.
6、朱迪亞·珀?duì)?為什么[M].第一版.北京：中信出版社，2019
7、陳鷹,楊燦軍.人機(jī)智能系統(tǒng)理論與方法[M].第一版.浙江：浙江大學(xué)出版社，2006
8、劉偉,張玉坤,曹國(guó)熙.有關(guān)軍事人機(jī)混合智能的幾點(diǎn)思考[J].火力與指揮制,2018,43(10):1-7.
本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)
點(diǎn)擊舉報(bào)。
