- 警惕深度偽造的軍事應(yīng)用
- 來源：中國(guó)國(guó)防報(bào)
常言道，眼見為實(shí)。而在AI時(shí)代，這句話可能要打上一個(gè)問號(hào)。隨著內(nèi)容生成技術(shù)的發(fā)展成熟，基于深度學(xué)習(xí)的深度偽造技術(shù)愈發(fā)讓真?zhèn)坞y辨。2019年，英國(guó)廣播公司推出一部新劇《真相捕捉》，講述了一群人通過篡改視頻、偽造證據(jù)的方式，栽贓嫁禍他人，劇中這些做法便是借助深度偽造技術(shù)實(shí)現(xiàn)的。
深度偽造的技術(shù)特點(diǎn) 深度偽造（Deepfake）由深度學(xué)習(xí)（deep learning）和偽造（fake）兩個(gè)詞組合而成，是基于人工智能深度學(xué)習(xí)技術(shù)的一種信息篡改與替換手段。深度學(xué)習(xí)是對(duì)機(jī)器學(xué)習(xí)的發(fā)展，機(jī)器學(xué)習(xí)研究如何讓計(jì)算機(jī)通過模擬人的學(xué)習(xí)行為獲取新的知識(shí)技能，而深度學(xué)習(xí)是使計(jì)算機(jī)學(xué)習(xí)歸納掌握某類知識(shí)的學(xué)習(xí)方法和規(guī)律，實(shí)現(xiàn)更高效的機(jī)器學(xué)習(xí)。 從技術(shù)上講，深度偽造依賴的深度學(xué)習(xí)實(shí)際上是一種人工智能神經(jīng)網(wǎng)絡(luò)，它能粗略地模仿人腦識(shí)別數(shù)據(jù)模式。目前，廣為熟知的人工智能神經(jīng)網(wǎng)絡(luò)名為生成式對(duì)抗網(wǎng)絡(luò)（GAN），這套網(wǎng)絡(luò)通過不斷生成、鑒別偽造數(shù)據(jù)，直至無(wú)法區(qū)分其真?zhèn)巍４藭r(shí)，一次深度偽造的過程完成，輸出的數(shù)據(jù)也達(dá)到真假難辨的效果。根據(jù)造假需求不同，目前深度偽造能夠?qū)崿F(xiàn)換臉、面部復(fù)現(xiàn)、口型同步、動(dòng)作轉(zhuǎn)移、圖像生成、音頻生成和文字生成等功能，且呈現(xiàn)以下特點(diǎn)。 使用門檻低。互聯(lián)網(wǎng)上充斥著大量教程和開源程序，任何擁有電腦且掌握一定計(jì)算機(jī)技能的人都可以在短時(shí)間內(nèi)學(xué)會(huì)深度偽造技術(shù)。同時(shí)，隨著人工神經(jīng)網(wǎng)絡(luò)技術(shù)的飛速發(fā)展和計(jì)算能力的多元化提升，更多人將擁有這種能力。 生成效率高。深度偽造技術(shù)主要依賴人工神經(jīng)網(wǎng)絡(luò)，不需要過多人為干預(yù)就可以智能化運(yùn)行，迭代優(yōu)化且迅速高效，只要提供足夠的數(shù)據(jù)樣本就可以不斷生成圖像、視頻或語(yǔ)音等。 檢測(cè)識(shí)別難度大。深度偽造不同于以往相對(duì)簡(jiǎn)單的圖像、音頻和視頻篡改技術(shù)，而是基于樣本進(jìn)行的人工智能深度學(xué)習(xí)。生成式對(duì)抗網(wǎng)絡(luò)參照的樣本越多，通過迭代生成的虛假內(nèi)容越接近真實(shí)。深度偽造還結(jié)合目標(biāo)對(duì)象的語(yǔ)音、微表情等生物特征進(jìn)行綜合學(xué)習(xí)，這樣的全方位模擬是其他偽造技術(shù)達(dá)不到的。因此，檢測(cè)識(shí)別技術(shù)也將面臨更大挑戰(zhàn)。 戰(zhàn)場(chǎng)運(yùn)用初見端倪 技術(shù)決定戰(zhàn)術(shù)，是推動(dòng)戰(zhàn)場(chǎng)作戰(zhàn)方式改變的關(guān)鍵因素。深度偽造技術(shù)在認(rèn)知操控方面的優(yōu)勢(shì)，使其能廣泛應(yīng)用于戰(zhàn)場(chǎng)。 戰(zhàn)略層級(jí)，通過制造散布虛假視頻、音頻等誤導(dǎo)民眾認(rèn)知，再借助輿論手段達(dá)到特定的政治和軍事目的。戰(zhàn)役層級(jí)，通過發(fā)布虛假信息，影響各級(jí)指揮官的戰(zhàn)場(chǎng)決策。俄烏沖突是人工智能在軍事領(lǐng)域首次大規(guī)模運(yùn)用，特別是利用深度偽造技術(shù)制造虛假信息，對(duì)對(duì)方造成心理干擾等。戰(zhàn)術(shù)層面，通過發(fā)布虛假信息影響官兵作戰(zhàn)意志，離間上下級(jí)、盟友間關(guān)系等。 當(dāng)前，美歐在警告深度偽造帶來風(fēng)險(xiǎn)的同時(shí)，加快利用深度偽造技術(shù)開發(fā)新一代軍事信息工具。美國(guó)特種作戰(zhàn)司令部發(fā)布采購(gòu)文件，明確提出研發(fā)新一代“軍事信息支持作戰(zhàn)（MISO）”工具，包括深度偽造技術(shù)，以便在“對(duì)等的競(jìng)爭(zhēng)環(huán)境中通過非傳統(tǒng)渠道影響作戰(zhàn)”。另外，美陸軍已開始培養(yǎng)心理戰(zhàn)人員使用人工智能技術(shù)創(chuàng)建聲音克隆程序。據(jù)稱這種技術(shù)一旦用于戰(zhàn)場(chǎng)，“將重塑美軍影響目標(biāo)人群和戰(zhàn)場(chǎng)士兵的能力”。 深度偽造威脅的防范 智能化戰(zhàn)爭(zhēng)的背景下，基于深度偽造技術(shù)的虛假信息必將伴隨戰(zhàn)爭(zhēng)始末。對(duì)于深度偽造技術(shù)帶來的威脅，如何加以防范？本文嘗試作出以下探討。 一是加強(qiáng)深度偽造檢測(cè)技術(shù)的研究應(yīng)用，鼓勵(lì)創(chuàng)新，增加投入，提供檢測(cè)技術(shù)保障。二是構(gòu)建數(shù)字保護(hù)體系。通過加強(qiáng)深度學(xué)習(xí)、數(shù)字加密等技術(shù)研究與使用，保護(hù)關(guān)鍵信息，確保從源頭提高深度偽造技術(shù)的應(yīng)用門檻。三是提升軍事人員的信息素養(yǎng)。圍繞深度偽造技術(shù)的運(yùn)用和危害加強(qiáng)科普宣傳和學(xué)習(xí)，提升心理防范意識(shí)。
