“算法缺陷”不可不察，必須對(duì)其缺陷缺點(diǎn)進(jìn)行糾錯(cuò)和改進(jìn)

“算法缺陷”不可不察

近年來，戰(zhàn)爭(zhēng)算法受到人們的高度關(guān)注，成為軍事及相關(guān)學(xué)界研究討論的焦點(diǎn)和熱點(diǎn)。有人甚至斷言，戰(zhàn)爭(zhēng)算法或?qū)⒏淖兾磥響?zhàn)場(chǎng)的樣式和規(guī)則，影響未來戰(zhàn)爭(zhēng)的進(jìn)程和結(jié)局。

應(yīng)該說，基于人工智能技術(shù)的戰(zhàn)爭(zhēng)算法，為運(yùn)用數(shù)學(xué)方式對(duì)戰(zhàn)爭(zhēng)進(jìn)行定性定量分析和科學(xué)輔助決策提供了嶄新的方法和手段，由此提高了戰(zhàn)爭(zhēng)決策的科學(xué)性和穩(wěn)定性。不僅如此，算法在精確制導(dǎo)武器中的關(guān)鍵賦能作用也更加突出，從坦克、裝甲車的自動(dòng)防護(hù)系統(tǒng)，到軍用飛機(jī)的自主控制系統(tǒng)，再到防空反導(dǎo)武器的捕捉攔截系統(tǒng)，深度嵌入算法已成為現(xiàn)代主戰(zhàn)武器裝備的“標(biāo)配”和“必配”。然而，自深度學(xué)習(xí)算法出現(xiàn)誤判錯(cuò)識(shí)圖像、外賣配送系統(tǒng)算法存在“圍困騎手”等錯(cuò)誤后，人們對(duì)“算法缺陷”也開始重視起來。毫無疑問，戰(zhàn)爭(zhēng)算法在實(shí)際應(yīng)用中存在著種種缺陷和偏差，并已在相關(guān)實(shí)踐中頻露端倪，應(yīng)該引起我們的高度關(guān)注和切實(shí)警惕。

譬如，某些戰(zhàn)爭(zhēng)算法存在先天缺陷，容易產(chǎn)生與人們主觀愿望相悖的不利結(jié)果。據(jù)資料顯示，美軍F-35戰(zhàn)機(jī)擁有幾千萬條代碼，嚴(yán)重依賴控制系統(tǒng)軟件，在試驗(yàn)過程中曾出現(xiàn)100多個(gè)問題，幾乎都與軟件的算法高度關(guān)聯(lián)。一旦算法無法適應(yīng)武器裝備的戰(zhàn)術(shù)技術(shù)性能，或遇到垃圾數(shù)據(jù)影響而出現(xiàn)各種差錯(cuò)，或其本身存在某些漏洞，都極有可能導(dǎo)致武器裝備無法正常運(yùn)轉(zhuǎn)，進(jìn)而招致不堪設(shè)想的后果。故而，武器裝備若不能克服和修補(bǔ)算法的各種缺陷，不僅會(huì)降低戰(zhàn)技融合的效果，而且影響戰(zhàn)爭(zhēng)行動(dòng)的成敗。

又如，“發(fā)現(xiàn)即摧毀”等現(xiàn)代戰(zhàn)爭(zhēng)的新樣式新形態(tài)，要求以強(qiáng)大的戰(zhàn)場(chǎng)態(tài)勢(shì)感知能力作支撐，先敵感知態(tài)勢(shì)，先敵發(fā)現(xiàn)目標(biāo)，先敵實(shí)施打擊。人工智能技術(shù)與大數(shù)據(jù)的深度融合，使得戰(zhàn)爭(zhēng)算法日益成為支撐戰(zhàn)場(chǎng)態(tài)勢(shì)感知的關(guān)鍵技術(shù)和重要載體，對(duì)態(tài)勢(shì)預(yù)測(cè)、規(guī)律洞察、決策輔助等形成強(qiáng)大支持和推動(dòng)作用。但是，一旦戰(zhàn)爭(zhēng)算法出現(xiàn)問題，嵌入作戰(zhàn)控制系統(tǒng)中的算法軟件就可能影響其建立自主性態(tài)勢(shì)感知和認(rèn)知啟發(fā)模型，就不能再進(jìn)行精確的海量數(shù)據(jù)分析處理，并將簡(jiǎn)單的邏輯計(jì)算躍升至自主的推理決策，就難以將微觀“計(jì)算”有機(jī)有序有效地統(tǒng)一于宏觀“算計(jì)”之中，最終降低戰(zhàn)爭(zhēng)算法的科學(xué)性和可靠性，影響戰(zhàn)爭(zhēng)決策的準(zhǔn)確率和制勝率。

再如，戰(zhàn)爭(zhēng)算法系統(tǒng)的數(shù)據(jù)輸入與輸出存在無法觀測(cè)的“黑箱”空間，致使嵌入其中的人工智能容易與決策機(jī)構(gòu)及人員產(chǎn)生分歧、無法協(xié)調(diào)一致而影響作戰(zhàn)行動(dòng)。從已知情況看，人工智能往往會(huì)產(chǎn)生獨(dú)特而“合理”的算法偏差，且這種偏差還會(huì)在系統(tǒng)中層層疊加，最終可能導(dǎo)致意想不到的結(jié)果。倘若一方作戰(zhàn)人員進(jìn)入一個(gè)有算法偏差的圖像識(shí)別系統(tǒng)，通過成百上千張圖片分析評(píng)估將敵方作戰(zhàn)人員定位在某個(gè)非作戰(zhàn)人員密集的區(qū)域，一旦攻擊發(fā)生錯(cuò)誤，后果不堪設(shè)想。

尤須指出的是，人始終是戰(zhàn)爭(zhēng)勝負(fù)的決定性因素，過度夸大戰(zhàn)爭(zhēng)算法的作用，無益于發(fā)揮人在戰(zhàn)爭(zhēng)中的主導(dǎo)作用，并因此削弱人腦的運(yùn)籌謀劃功能。現(xiàn)代戰(zhàn)爭(zhēng)，戰(zhàn)場(chǎng)情況千變?nèi)f化，當(dāng)遭遇算法本身無法應(yīng)對(duì)的突發(fā)情況和意外局面時(shí)，只能依靠人來處置，需要人充分發(fā)揮其主觀能動(dòng)作用。倘若人們平時(shí)依賴基于人工智能的戰(zhàn)爭(zhēng)算法而缺乏自主謀略、籌策等必要訓(xùn)練，戰(zhàn)時(shí)一旦出現(xiàn)“斷檔”，就可能“抓瞎”而貽誤戰(zhàn)機(jī)。現(xiàn)實(shí)生活中，不少人因?yàn)榱?xí)慣于用計(jì)算機(jī)打字和作文，以致大大削弱了自身對(duì)文字的書寫駕馭能力。一味或過度依賴戰(zhàn)爭(zhēng)算法的結(jié)果，可能與此如出一轍。

唯物辯證法告訴我們，一件事物越是發(fā)揮重要作用，越是不能輕信其無所不能的神話，越是需要關(guān)注和洞悉它的各種缺陷和不足，進(jìn)而一面通過發(fā)現(xiàn)其缺陷和不足而盡力避免錯(cuò)誤，一面經(jīng)過努力修補(bǔ)改進(jìn)使其日臻完善。戰(zhàn)爭(zhēng)算法也一樣，必須對(duì)其功能性能洞察入微，對(duì)其缺陷缺點(diǎn)進(jìn)行糾錯(cuò)和改進(jìn)，使之真正成為人工智能和指揮控制系統(tǒng)的核心要素和實(shí)施智能決策、智能指揮的關(guān)鍵環(huán)節(jié)——這也是打贏未來戰(zhàn)爭(zhēng)必須關(guān)注的戰(zhàn)略制高點(diǎn)和制勝著力點(diǎn)。（胡建新）

來源：中國軍網(wǎng)-解放軍報(bào)