深度偽造（Deepfakes）是一個合成詞，是人工智能（AI）領(lǐng)域由“深度學(xué)習(xí)”（deep learning）和偽造（fake）合成的一個詞匯。它用來描繪利用人工智能技術(shù)和大數(shù)據(jù)生成的視頻、照片和其他文本，這些視頻、照片和文本看起來非常逼真，不要說非專業(yè)技術(shù)，就連專業(yè)技術(shù)亦難以識別其真?zhèn)?。深度偽造包含兩方面的含義，首先，它是一種技術(shù)，一種制作超逼真視聽作品的技術(shù)。其次，它指根據(jù)深度偽造技術(shù)制作的視聽作品。深度偽造的主要危險在于它會讓一個人——無論是政治家、商界精英還是普通公眾——向他人呈現(xiàn)另一種“現(xiàn)實”：一個真實的人在做一些他們從未做過的事情或者說一些他們從未說過的話，從而通過這樣的“現(xiàn)實”欺騙不知情的公眾。

深度偽造問題已經(jīng)引起國內(nèi)外學(xué)術(shù)界的重視，并出現(xiàn)了一些具有一定水平的研究成果。其中，國內(nèi)學(xué)術(shù)界對深度偽造問題的研究主要集中在以下四個方面。第一，以美國為研究對象，探討深度偽造的出現(xiàn)給美國社會帶來的各種風(fēng)險、挑戰(zhàn)，以及美國州和聯(lián)邦兩級立法機(jī)構(gòu)應(yīng)對深度偽造的立法嘗試。第二，從傳播學(xué)的角度，分析深度偽造帶來的影響，認(rèn)為深度偽造加劇了更加系統(tǒng)性的平臺控制，從而催化了政治分裂和政治冷漠，也進(jìn)一步挑戰(zhàn)了傳統(tǒng)新聞體制的專業(yè)權(quán)威。傳播學(xué)研究甚至認(rèn)為，人工智能技術(shù)的“魔獸”一旦被放出籠子，對媒體的威脅就難以遏制。第三，從顛覆性技術(shù)異化以及治理的角度分析研究，認(rèn)為以深度偽造為代表的顛覆性技術(shù)異化，已經(jīng)成為數(shù)字化時代的威脅和人類社會可持續(xù)發(fā)展的重要挑戰(zhàn)，對現(xiàn)存社會倫理規(guī)范、經(jīng)濟(jì)和法律制度乃至國際秩序造成破壞性沖擊。第四，從國家安全的角度進(jìn)行分析，認(rèn)為深度偽造技術(shù)在近幾年迅速興起，為國家間的政治抹黑、軍事欺騙、經(jīng)濟(jì)犯罪甚至恐怖主義行動等提供了新工具，給政治安全、經(jīng)濟(jì)安全、社會安全和國民安全等國家安全領(lǐng)域帶來了諸多風(fēng)險。研究者提出：通過研發(fā)預(yù)警檢測手段、推進(jìn)立法管制、加強(qiáng)宣傳教育以及推進(jìn)國際安全合作治理等手段，來應(yīng)對深度偽造技術(shù)的濫用及其安全挑戰(zhàn)。

美國學(xué)術(shù)界對深度偽造關(guān)注較早，研究成果豐富，代表了國外對深度偽造研究的最高水平，并且其研究多從國家安全的角度認(rèn)識深度偽造問題。研究者認(rèn)為，作為人工智能技術(shù)發(fā)展的產(chǎn)物，深度偽造技術(shù)雖然也有一些積極的作用，但從美國國家安全的角度看，它不僅會增強(qiáng)競爭對手對美國發(fā)動信息戰(zhàn)和政治戰(zhàn)的能力，而且會對美國國內(nèi)選舉政治造成重大影響，甚至?xí)绊懨绹鴩鴥?nèi)政治走向，加劇美國國內(nèi)政治的兩極分化；深度偽造還會引發(fā)國家間的危機(jī)和沖突，特別是增加擁有核武器國家之間爆發(fā)核戰(zhàn)爭的風(fēng)險。美國學(xué)者給出的解決方案主要有兩個：第一，公權(quán)力部門和網(wǎng)絡(luò)平臺特別是社交網(wǎng)絡(luò)平臺，通過技術(shù)研發(fā)，遏制不道德、非法或惡意內(nèi)容深度偽造作品的傳播。第二，加強(qiáng)立法，在不抑制言論自由和技術(shù)進(jìn)步的前提下，以法律來規(guī)范深度偽造行為，減輕和消除它給國家安全帶來的威脅。

上述國內(nèi)外學(xué)術(shù)界的研究成果屬于深度偽造領(lǐng)域的開拓之作。當(dāng)今世界技術(shù)發(fā)展一日千里，顛覆性技術(shù)不斷突破，尤其是以人工智能為代表的數(shù)字技術(shù)的發(fā)展日新月異。作為人工智能技術(shù)發(fā)展的產(chǎn)物之一，深度偽造技術(shù)同樣在不斷改進(jìn)，隨之帶來的各種問題，尤其是與國家安全相關(guān)的問題也在不斷涌現(xiàn)。這也決定了深度偽造不僅涉及新興技術(shù)治理的問題，更是事關(guān)包括政治安全、經(jīng)濟(jì)安全和社會安全等在內(nèi)的綜合安全問題。因此，有必要站在總體國家安全觀的高度，從國家治理和全球治理的角度對深度偽造問題進(jìn)行分析，并提出應(yīng)對之策。

數(shù)字技術(shù)與數(shù)字媒體的發(fā)展和普及，使得區(qū)分真假媒體視聽作品和文本變得越來越困難，這個領(lǐng)域的最新進(jìn)展是深度偽造的出現(xiàn)。深度偽造是運用人工智能技術(shù)和大數(shù)據(jù)來描繪某人說和做的從未發(fā)生過的事情，輔之以社交媒體的覆蓋面和傳播速度，可以迅速影響成千上萬甚至更龐大的群體，進(jìn)而對社會產(chǎn)生難以估量的負(fù)面影響。

深度偽造通常被描述為使用機(jī)器學(xué)習(xí)（machine learning）技術(shù)創(chuàng)建的偽造品，這是人工智能技術(shù)的一個子領(lǐng)域，特別是生成對抗網(wǎng)絡(luò)（Generative Adversarial Networks，GANs）的產(chǎn)物。其過程是：兩個被稱為神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)系統(tǒng)會相互競爭地進(jìn)行訓(xùn)練。第一個網(wǎng)絡(luò)或生成器的任務(wù)是創(chuàng)建偽造的數(shù)據(jù)，如照片、聲音，或復(fù)制原始數(shù)據(jù)集屬性的視頻片段；第二個網(wǎng)絡(luò)或鑒別器的任務(wù)是識別偽造的數(shù)據(jù)。這兩個稱為“生成器”和“鑒別器”的網(wǎng)絡(luò)在相同的圖像、視頻或聲音數(shù)據(jù)集上進(jìn)行訓(xùn)練，然后第一個網(wǎng)絡(luò)嘗試創(chuàng)建足以欺騙第二個網(wǎng)絡(luò)的新樣本，第二個網(wǎng)絡(luò)用于確定它看到的新媒體是否真實。這樣，它們互相推動改進(jìn)?；诿看蔚慕Y(jié)果，生成器網(wǎng)絡(luò)不斷進(jìn)行調(diào)整，以創(chuàng)建越來越接近真實的數(shù)據(jù)。上述兩個網(wǎng)絡(luò)間的競爭——通常是數(shù)千次甚至數(shù)百萬次迭代——直到生成器提高其性能，使鑒別器無法再區(qū)分真實數(shù)據(jù)和偽造數(shù)據(jù)。計算機(jī)視覺技術(shù)——如焦點識別，可以與生成對抗網(wǎng)絡(luò)相結(jié)合，以跟蹤圖像或視頻中的特定物體。使用面部特殊標(biāo)志跟蹤，或識別人面部的主要特征，允許程序準(zhǔn)確地交換目標(biāo)面部。類似的技術(shù)也存在于增強(qiáng)現(xiàn)實領(lǐng)域，即虛擬物品在現(xiàn)實世界中實時顯示的領(lǐng)域。在Instagram和SnapChat等網(wǎng)站或應(yīng)用程序上，以面部交換和過濾的形式，換臉是一件非?？焖俸洼p松的事情，關(guān)鍵是這樣做幾乎沒有任何成本。2016年，迪士尼電影工作室將凱莉·費雪（Carrie Fisher）年輕時的形象植入電影《星球大戰(zhàn)外傳：俠盜一號》中，耗資數(shù)百萬美元；如果使用深度偽造技術(shù)，幾小時內(nèi)就可以免費創(chuàng)建一個完美的復(fù)制程序。

學(xué)術(shù)界一般認(rèn)為第一個深度偽造的作品是2017年底一個署名為“Deepfakes”（深度偽造）的用戶發(fā)布在美國著名社交新聞媒體紅迪網(wǎng)（reddit）上的視頻，該視頻是使用名人的形象合成的色情視頻。這樣的視頻使用真實的鏡頭并合成了真實的聲音，因此許多觀眾認(rèn)為他們正在觀看的視頻是真實的。這段視頻一出現(xiàn)便迅速傳播，引發(fā)各界關(guān)注，深度偽造問題也因此逐漸進(jìn)入了研究者的視野。自那個時期開始，越來越多的深度偽造作品出現(xiàn)在電子媒體特別是社交平臺上。

1. 深度偽造技術(shù)分類

從技術(shù)角度看，深度偽造可以分為以下三類。第一類是深度偽造視頻技術(shù)。三種數(shù)字技術(shù)對于深度偽造視頻技術(shù)的發(fā)展發(fā)揮了至關(guān)重要的作用：首先，計算機(jī)視覺科技的發(fā)展開發(fā)了一種算法，可以自動繪制圖像中面部的標(biāo)志特征，比如眉毛和鼻子的位置，從而產(chǎn)生了面部識別技術(shù)。其次，互聯(lián)網(wǎng)的興起，特別是視頻和照片分享平臺的大量涌現(xiàn)，形成了以互聯(lián)網(wǎng)為基礎(chǔ)的龐大的視聽數(shù)據(jù)庫，為各種深度偽造視頻提供了取之不盡的大數(shù)據(jù)。最后，圖像取證能力技術(shù)的發(fā)展，使系統(tǒng)可以自動檢測偽造品。上述技術(shù)的發(fā)展為人工智能技術(shù)的繁榮創(chuàng)造了先決條件，機(jī)器學(xué)習(xí)特別是深度學(xué)習(xí)的優(yōu)勢就在于它的循環(huán)學(xué)習(xí)方法：它可以檢測大型數(shù)據(jù)集之中的模式，并產(chǎn)生類似的產(chǎn)品；它能夠從取證算法的輸出中學(xué)習(xí)，因為這些算法教會了人工智能算法在下一個生產(chǎn)周期中需要改進(jìn)什么。如此循環(huán)往復(fù)，制作出來的視頻產(chǎn)品相似度就越來越高，甚至幾乎完全一樣。

第二類是語音克隆技術(shù)。語音克隆技術(shù)也被稱為音頻深度偽造、語音合成、語音轉(zhuǎn)換或交換。語音克隆技術(shù)已經(jīng)發(fā)展到這樣的水平：只需采集到一個人的幾句話，人工智能語音克隆軟件就可以生成與目標(biāo)人類語音非常相似的合成語音。這一技術(shù)已經(jīng)成為日常家用電子產(chǎn)品的標(biāo)準(zhǔn)功能，如谷歌家庭（Google Families）、蘋果智能語音助手（Siri）、亞馬遜語音虛擬助手（Amazon Alexa）等。各種方便訪問的人工智能應(yīng)用程序使創(chuàng)建語音克隆產(chǎn)品變得更加便利，語音克隆體的質(zhì)量也迅速提高。因此，人工智能技術(shù)使得語音克隆的可信度和創(chuàng)建可信克隆的速度達(dá)到了一個新的高度。

第三類是文本合成技術(shù)。在深度偽造的背景下，文本合成技術(shù)可以生成模仿目標(biāo)獨特說話風(fēng)格的文本。這些技術(shù)主要依賴于自然語言處理（Natural Language Processing，NLP）技術(shù)。這是計算機(jī)科學(xué)和語言學(xué)交叉形成的一門科學(xué)學(xué)科，它的主要應(yīng)用是改善人類和計算機(jī)之間的文本和語言互動。自然語言處理系統(tǒng)可以分析大量的文本，包括一個特定目標(biāo)的音頻剪輯文本，從而形成一個能夠在一定程度上解釋演講的系統(tǒng)，包括詞語以及對所表達(dá)的微妙情感和意圖的理解。這可能會制造一個人說話風(fēng)格的模型，并反過來又可以用來合成新穎的演講。自然語言處理常用的架構(gòu)是一種稱為“機(jī)器學(xué)習(xí)模型”（Transformer）的深度學(xué)習(xí)算法。該算法基本上可以通過學(xué)習(xí)單詞序列如何在句子和文本中相互關(guān)聯(lián)，將一個輸入的文本“轉(zhuǎn)換”為一個新的文本。位于舊金山的一家人工智能研究實驗室開放人工智能（Open AI）創(chuàng)建的第三代語言預(yù)測模型（GenerativePre-trained Transformer 3，GPT-3）被認(rèn)為是這一技術(shù)領(lǐng)域的領(lǐng)先者。開放人工智能實驗室的研究人員聲稱，“GPT-3甚至可以生成新聞文章，而人類評估者很難將其與人類所寫的文章區(qū)分開來”。

作為數(shù)字時代人工智能技術(shù)發(fā)展的產(chǎn)物，深度偽造技術(shù)就如同基本的圖像和視頻桌面編輯器一樣，并不存在錯誤和邪惡之處，它只是一個工具。與其他技術(shù)一樣，深度偽造技術(shù)同樣具有雙刃劍的特性，人們出于不同的目的可以創(chuàng)作出不同性質(zhì)的深度偽造作品。

2. 深度偽造作品分類

從深度偽造產(chǎn)品本身的性質(zhì)看，目前出現(xiàn)的深度偽造作品可以分為三類。第一類是具有積極作用的產(chǎn)品或應(yīng)用。深度偽造技術(shù)在許多行業(yè)具有積極用途，包括電影、教育媒體和數(shù)字通信、游戲和娛樂、社交媒體和醫(yī)療保健、材料科學(xué)以及各種商業(yè)領(lǐng)域（如時尚和電子商務(wù)）等。電影業(yè)可以通過多種方式從深度偽造技術(shù)中受益。例如，它可以幫助因疾病而失去聲音的演員制作數(shù)字聲音，或者更新電影片段而不需要重新拍攝；它還可以為任何語言的電影自動配音，從而讓不同語言的觀眾更好地欣賞電影和教育媒體。例如，在醫(yī)學(xué)上，漸凍人協(xié)會（The ALS Association）正在利用深度偽造技術(shù)，為漸凍癥患者提供幫助。漸凍人協(xié)會與一家名為“琴鳥”（Lyrebird）的公司合作，使用語音克隆技術(shù)來幫助漸凍癥患者。該公司鼓勵漸凍癥患者在他們還能夠發(fā)聲時備份他們的聲音，并將語音克隆技術(shù)與眼睛閱讀器輔助技術(shù)聯(lián)系起來，使?jié)u凍癥患者在喪失說話能力之后，依然能夠用他原始的、獨特的聲音而不是“機(jī)器”聲音來與家人和朋友進(jìn)行交流。

第二類是較為中性的深度偽造，主要是娛樂和幽默性質(zhì)的深度偽造作品。這類作品往往是以公眾人物作為娛樂對象。例如，2020年在中國社交媒體上廣為流傳的一段深度偽造視頻，表現(xiàn)的是時任美國總統(tǒng)唐納德·特朗普（Donald Trump）和國務(wù)卿邁克爾·蓬佩奧（MichaelPompeo）兩個人用中文合唱了一首歌曲《我愛你中國》，明顯屬于娛樂大眾之作。優(yōu)兔（YouTube）上有1 820萬粉絲的吉米·坎摩爾（Jimmy Kimmel）在他的節(jié)目中播放了特朗普總統(tǒng)的視頻，總統(tǒng)的聲音在“醉酒唐納德·特朗普”的片段中慢了下來，聽起來像是喝醉了。這樣的深度偽造作品沒有惡意，純屬幽默，觀眾也明白這樣的視頻并不是真的，所以不會造成不良的社會后果。

第三類屬于惡意的深度偽造。這一類深度偽造被創(chuàng)作者用于某種特殊的目的，往往會給國家安全、社會治理帶來嚴(yán)峻的威脅和挑戰(zhàn)。如在深度偽造中占比最高的是利用深度偽造技術(shù)合成的色情視頻。深度偽造的色情視頻受害者不僅包括一些影視明星，也包括一些普通女性，屬于人工智能技術(shù)發(fā)展帶來的新的性別安全問題。深度偽造還被用來抹黑政治人物，尤其是正在從事選舉工作的政治候選人，從而影響一些國家的政治進(jìn)程。深度偽造也被用來對一些國家正在發(fā)生的政治事件作出不利的描述，不僅可能激化社會矛盾、導(dǎo)致群體性事件的發(fā)生，也可能影響國家的政治形象，在國際舞臺上給這些國家制造難題和困境。深度偽造還會給企業(yè)和個人在經(jīng)濟(jì)上帶來損失，無論是通過深度偽造影響一些企業(yè)股票，還是影響一些企業(yè)剛剛上市的產(chǎn)品，都會給企業(yè)帶來巨大的損失。深度偽造造成的詐騙活動，更是讓一些企業(yè)和個人蒙受了重大損失。更嚴(yán)重的是，深度偽造可能會摧毀社會信任，信任赤字將惡化整個社會的心理生態(tài)環(huán)境。

美國眾議院常設(shè)情報特別委員會（House Permanent Select Committee on Intelligence）主席亞當(dāng)·希夫（Adam Schiff）在其主持的“人工智能對國家安全的挑戰(zhàn)”聽證會上，曾經(jīng)得出這樣的結(jié)論：“讓深度偽造和其他虛假信息模式變得真正有害的是社交媒體的無處不在，以及虛假信息傳播的速度?！毕７虻姆治稣f明了深度偽造的主要特征：以網(wǎng)絡(luò)社交平臺為主要傳播媒介，傳播速度快。

1. 網(wǎng)絡(luò)社交平臺是傳播深度偽造作品的最主要渠道

在20世紀(jì)甚至21世紀(jì)初的大部分時間里，雜志、報紙和電視廣播公司管理著向公眾傳遞的信息。上述媒體均建立了嚴(yán)格的專業(yè)標(biāo)準(zhǔn)來控制新聞質(zhì)量，而大眾媒體和自媒體的數(shù)量相對較少，這意味著只有有限數(shù)量的個人和組織可以廣泛傳播信息。然而，在過去十來年，智能手機(jī)的普及使得社交媒體被廣泛運用，越來越多的人開始習(xí)慣從各種社交媒體平臺獲取信息，如國外用戶從臉書、推特，國內(nèi)用戶從微信、微博等平臺獲取信息。這些平臺依賴大量用戶來生成相對未經(jīng)過濾的內(nèi)容，而用戶傾向于展示他們自身的體驗，瀏覽并發(fā)送他們同意的觀點（平臺算法也增強(qiáng)了這種趨勢），將他們參與的社交媒體平臺變成了“回音室”。這些平臺也容易受到所謂的信息級聯(lián)影響（cascading impacts），即受深度偽造作品影響的人向其所在的多個群組傳遞、分享信息，選擇相信這些信息的群組受眾又會將這些未加鑒別的深度偽造作品傳播到更大范圍，從而造成深度偽造的累積效應(yīng)?！犊茖W(xué)》（Science）雜志的一項研究報告稱，推特上的虛假信息通常會被更多的人轉(zhuǎn)發(fā)，而且比真實信息要快得多，尤其是政治話題。

2. 深度偽造發(fā)展迅猛

自第一個深度偽造視頻出現(xiàn)后，深度偽造以其質(zhì)量、數(shù)量和多樣性的特點穩(wěn)步上升而受到極大的關(guān)注，這反向推動了深度偽造更為迅猛的發(fā)展。聯(lián)合國裁軍研究所（The United Nations Institute for Disarmament Research，UNIDIR）的追蹤研究發(fā)現(xiàn)，自2018年11月以來，在線識別的深度偽造視頻數(shù)量每六個月就會翻一番。

3. 深度偽造傳播迅速且點擊量巨大

當(dāng)一段關(guān)于美國眾議院議長南?！づ迓逦鳎∟ancyPatricia Pelosi）似乎喝多了、走路搖擺不穩(wěn)的深度偽造視頻上傳到互聯(lián)網(wǎng)后，不到48個小時，僅僅在臉書和推特兩個社交平臺就獲得了幾百萬的點擊量。另外根據(jù)筆者在優(yōu)兔（YouTube）的觀察，此類深度偽造的作品傳播速度普遍都十分迅速，擁有非常高的點擊量。如拜登唱歌、特朗普跳舞的深度偽造視頻自2020年11月17日上傳，到2021年12月23日，已經(jīng)獲得了10 941 585次的點擊量；特朗普總統(tǒng)與英國伊麗莎白女王的“史詩之舞”，從2017年7月4日發(fā)布，到2022年4月12日已經(jīng)有3 972 528人次觀看。

4. 深度偽造以公眾人物等為主要對象

公眾人物主要包括國家政要、跨國公司老板和影視界明星等，因其具有高知名度和較大的社會影響而備受深度偽造者的青睞，美國前總統(tǒng)貝拉克·奧巴馬（Barack Obama）及其妻子米歇爾·奧巴馬（MichelleObama）、特朗普及其女兒伊萬卡·特朗普（Ivanka Trump），眾議院議長佩洛西、英國女王伊麗莎白、臉書創(chuàng)始人和老板馬克·扎克伯格（Mark Zuckerberg）、2018年被《時代》（Times）雜志評為“最具影響力100人”的以色列著名演員蓋爾·加朵（Gal Gadot），以及中國的一些影視界明星等，都曾經(jīng)出現(xiàn)在各種深度偽造的視頻作品中。

深度偽造之所以能夠迅速流行并傳播，主要有以下幾個原因：

1. 人工智能技術(shù)的發(fā)展和普及使得制作深度偽造作品更簡單易行

與其他人工智能技術(shù)一樣，深度偽造和合成媒體不需要專門的硬件或設(shè)備來開發(fā)，擁有強(qiáng)大顯卡的臺式電腦就足夠了。商業(yè)性甚至免費的深度偽造服務(wù)已經(jīng)出現(xiàn)在公開市場上，這些服務(wù)的普及將降低進(jìn)入門檻，使得任何有興趣的人幾乎都可以擁有創(chuàng)建專業(yè)級深度偽造作品的能力。

2. 互聯(lián)網(wǎng)空間免費獲取數(shù)據(jù)集使深度偽造的門檻變得很低

計算機(jī)視覺社區(qū)已經(jīng)創(chuàng)建了帶有標(biāo)記的視覺材料的大型數(shù)據(jù)集，其中許多數(shù)據(jù)集都可以在互聯(lián)網(wǎng)上免費獲得。這些數(shù)據(jù)集是訓(xùn)練機(jī)器學(xué)習(xí)算法所必需的。深度偽造數(shù)據(jù)的創(chuàng)建者可以很容易地訪問這些數(shù)據(jù)集；此外，由于云計算提供的服務(wù)，訓(xùn)練機(jī)器學(xué)習(xí)算法所需的計算能力成本較低，如谷歌的Colaboratory（簡稱Colab）可以讓任何人通過瀏覽器編寫和執(zhí)行任意高級通用編程語言（Python）代碼。它尤其適合機(jī)器學(xué)習(xí)、數(shù)據(jù)分析和教育目的。用戶無需進(jìn)行設(shè)置，就可以直接使用，同時還能獲得圖形處理單元（Graphics Processing Unit，GPU）等計算資源的免費使用權(quán)限。因此，一臺普通的電腦，甚至是一部能上網(wǎng)的智能手機(jī)，都足以創(chuàng)造出高質(zhì)量的深度偽造作品。

3. 深度偽造中占比最高的是色情和政治類作品

從傳播學(xué)的角度看，色情和政治類作品往往具有低俗、虛假、傳播快的特性，加上人性的獵奇心理——這在東西方國家都是一樣的，如中國有“好事不出門，惡事行千里”的諺語，西方國家則有“當(dāng)真相還在穿鞋時，謊言已經(jīng)傳遍半個世界”（A lie travels halfway around the world while the truthis getting its shoes on）的諺語，講的都是同樣的道理——這些因素使得色情和政治類深度偽造作品傳播最廣。美國麻省理工學(xué)院（MIT）通過對推特進(jìn)行深入研究，“分析了十多年來300萬用戶發(fā)布的約12.6萬條級聯(lián)新聞報道”，結(jié)果發(fā)現(xiàn)，“一個捏造的故事傳播到1 500人的速度是一個真實故事的6倍”。而且，虛假的政治故事比關(guān)于商業(yè)、恐怖主義或科學(xué)的虛假故事傳播得更快。

4. 近年來歐美國家的政治極化也加快了深度偽造信息的傳播速度

冷戰(zhàn)結(jié)束后，外部壓力的弱化反而加劇了歐美國家國內(nèi)政治的兩極分化。政治極化的一個重要后果就是減少了公眾之間跨領(lǐng)域政治互動的機(jī)會；而同質(zhì)的社交網(wǎng)絡(luò)又降低了對不同觀點的容忍度，放大了理念上的兩極化，在一定程度上提高了接受意識形態(tài)兼容新聞的難度，并增強(qiáng)了對不同信息的封閉程度。這些趨勢創(chuàng)造了一個深度偽造作品高度吸引特定受眾群體的環(huán)境。

總之，人工智能、大數(shù)據(jù)技術(shù)的發(fā)展和普及，使得有心者制作各種深度偽造作品的門檻大大降低，導(dǎo)致互聯(lián)網(wǎng)和各種社交媒體充斥著各式各樣的深度偽造作品。盡管深度偽造只是一種技術(shù)工具，并且具有造福于社會的功能，但是，深度偽造技術(shù)更多地表現(xiàn)出負(fù)面作用，因而給國家安全和社會治理帶來的挑戰(zhàn)更為復(fù)雜。

當(dāng)今世界，安全的時空領(lǐng)域較之以往更加寬廣，各國人民命運與共、唇齒相依，沒有任何國家能夠?qū)崿F(xiàn)脫離國際安全的自身安全，也不存在建立在其他國家不安全基礎(chǔ)之上的自身安全。所以，國際安全是國家安全的重要依托。

盡管深度偽造技術(shù)出現(xiàn)的時間還不長，但已經(jīng)對國際形勢和國際安全環(huán)境造成了沖擊，并在一定范圍內(nèi)產(chǎn)生了重大影響。主要體現(xiàn)在以下幾個方面：

1. 深度偽造會破壞國際社會的戰(zhàn)略互信并沖擊脆弱的和平環(huán)境

在國際關(guān)系中，戰(zhàn)略互信是國際安全與國際形勢穩(wěn)定的核心支柱，可以為全球合作和多邊合作體制建設(shè)奠定堅實的基礎(chǔ)。但信息的數(shù)字化以及幾乎無處不在的快速通信的數(shù)字手段，促進(jìn)了虛假和誤導(dǎo)性內(nèi)容的傳播。從國際安全和國際形勢穩(wěn)定的角度看，深度偽造與其他顛覆性數(shù)字技術(shù)相結(jié)合，將極大地降低全球和區(qū)域多邊機(jī)構(gòu)以及國際關(guān)系行為體彼此間的信任。對于在國際社會和國際安全領(lǐng)域試圖制造事端的國家與非國家行為體而言，它們可以隨時獲取和利用日益先進(jìn)的深度偽造技術(shù)，減少信息武器化的障礙，擴(kuò)大參與并深度影響國際安全形勢。2019年，印度和巴基斯坦之間的緊張局勢升級期間，路透社發(fā)現(xiàn)了30起關(guān)于該事件的深度偽造視頻：這些視頻大部分是2017年印巴沖突期間，發(fā)生在印巴兩國一些城市的民眾向?qū)Ψ娇棺h示威的場景。“有心人士”利用人工智能技術(shù)對這些視頻作了處理，被有意錯誤描述為正在印度和巴基斯坦發(fā)生的視頻片段。這些深度偽造的合成視頻極大地刺激了印巴兩國的民族主義者，導(dǎo)致事態(tài)升級。由于擔(dān)心事態(tài)失控，印度和巴基斯坦官方被迫暫時關(guān)閉了一些社交平臺。

2. 深度偽造有可能會影響軍事決策和軍備控制

一些國家的政治和軍事領(lǐng)導(dǎo)人依賴公開與秘密的信息環(huán)境作出重大決策，特別是在重大危機(jī)面前，需要快速作出決策。但武器化的深度偽造可以被用來擾亂信息環(huán)境，這在持續(xù)的政治和軍事緊張局勢中，可能會引發(fā)國際危機(jī)甚至導(dǎo)致對立或?qū)沟纳?。例如，一段關(guān)于某擁有核武器國家將其核武庫提升至高度警戒的深度偽造信息，可能會導(dǎo)致其他擁有核武器的國家相應(yīng)提高其核力量的警戒等級。以核大國對其他擁核國家核武器監(jiān)控能力而言，這樣的深度偽造不必然會導(dǎo)致核武器的使用，但很可能會破壞敵對國家之間以及盟友之間圍繞戰(zhàn)略穩(wěn)定的政治和安全氛圍。倫敦國王學(xué)院的瑪麗娜·法瓦羅（Marina Favaro）將深度偽造歸類為“大規(guī)模扭曲的武器”（Weapons of Mass Distortion），認(rèn)為它能夠降低一個國家的態(tài)勢感知能力，并可能侵蝕核指揮、控制和通信（NC3）；隨著深度偽造的復(fù)雜程度不斷提高，核武器決策者將發(fā)現(xiàn)越來越難以信任機(jī)器生成的信息，無論是在快速作出決策還是根據(jù)事實信息作出決策方面，都將因?qū)κ盏降男畔⑷狈π湃味鴮?dǎo)致決策者在危機(jī)期間處于不利地位。在2021年3月舉行的“技術(shù)復(fù)雜性下的核武器決策”研討會上，北約一些前高級決策者討論了深度偽造的危險并作出判斷，認(rèn)為新興技術(shù)尤其是人工智能技術(shù)的發(fā)展，“將影響決策者管理、吸收、解釋、信任、驗證信息以及最終作出決定和決策的能力”。

3.涉及他國領(lǐng)導(dǎo)人的深度偽造作品會對國家關(guān)系造成影響

涉及他國領(lǐng)導(dǎo)人的深度偽造作品不僅給國家領(lǐng)導(dǎo)人帶來負(fù)面影響，也會影響國家間關(guān)系。2018年，比利時社會黨在電視臺播放了一段美國總統(tǒng)特朗普關(guān)于氣候變化的視頻。在視頻中，特朗普呼吁在即將到來的全民公投中投票退出《巴黎氣候變化協(xié)定》。他說：“正如你所知，我有勇氣退出《巴黎氣候變化協(xié)定》，你也應(yīng)該如此。因為你們現(xiàn)在在比利時所做的實際上更糟。你們同意了，但你們沒有采取任何措施?！北壤麜r社會黨制作這一視頻的出發(fā)點并不是出于惡意，而是希望吸引比利時人簽署在線請愿書，呼吁比利時政府采取更緊急的氣候行動。特朗普在視頻的最后說：“我們都知道氣候變化是假的，就像這個視頻一樣?！边@相當(dāng)于最后說明了這是一段偽造的視頻。但是，恰恰是最后這一句話，并沒有以當(dāng)?shù)卣Z言出現(xiàn)在字幕中，再加上特朗普對待氣候變化的一貫立場，讓收視者理所當(dāng)然地認(rèn)為這就是特朗普的演講，是在干涉比利時的內(nèi)政。這段視頻就這樣激發(fā)了比利時人對美國總統(tǒng)干預(yù)比利時氣候政策的憤慨。

4. 深度偽造很可能會成為國際恐怖活動的催化劑

深度偽造技術(shù)對非國家行為者尤其是國際恐怖組織來說，無疑具有很高的利用價值。早期的恐怖組織缺乏制作虛假但可信的音頻和視頻的資源，如今隨著深度偽造技術(shù)的成熟，它們可以輕而易舉地制造這類作品了?？植澜M織通過深度偽造的視頻或音頻，展現(xiàn)對手包括政府官員發(fā)表煽動性言論或從事挑釁性行動，最大限度地對其目標(biāo)受眾產(chǎn)生有利于恐怖組織的影響。如“伊斯蘭國”（ISIS）的附屬機(jī)構(gòu)可能制作這樣的視頻：某軍事聯(lián)盟的士兵射殺伊斯蘭國家的平民和婦女兒童，或轟炸了某伊斯蘭國家的清真寺；某國政府官員、執(zhí)法人員焚燒《古蘭經(jīng)》等。這類視頻無疑會激起伊斯蘭國家穆斯林的怒火，釀成針對特定國家目標(biāo)如大使館、領(lǐng)事館或企業(yè)的抗議活動，甚至導(dǎo)致類似于2012年美國駐利比亞班加西領(lǐng)事館遇襲之類事件。這樣的深度偽造作品還有利于恐怖組織招募人員，補(bǔ)充后備力量。而對這種深度偽造的逆向?qū)Φ炔僮?，就是西方國家的媒體也可以制作深度偽造的宣傳視頻，讓西方國家的公眾相信恐怖組織及其活動給西方世界構(gòu)成的威脅。

總體來看，深度偽造給本就緊張的大國關(guān)系和國際安全形勢帶來了更為復(fù)雜的挑戰(zhàn)，尤其是加劇了國際社會和現(xiàn)有國際體系本就存在的信任赤字，給國際和平、安全和穩(wěn)定帶來了多方面的挑戰(zhàn)，引發(fā)了國際社會對深度偽造問題的關(guān)注。聯(lián)合國裁軍研究所2021年的創(chuàng)新對話大會（The 2021 Innovations Dialogue Conference）的主題就是“深度偽造、信任和國際安全”。會議探討了信任對國際安全與穩(wěn)定的重要性、日益增長的深度偽造現(xiàn)象如何破壞這種信任，以及如何通過以聯(lián)合國為中心的多邊合作機(jī)制，應(yīng)對深度偽造給國際安全帶來的挑戰(zhàn)。

深度偽造同樣會對民族國家的傳統(tǒng)安全即國防、軍事安全和政治安全帶來更大的沖擊和挑戰(zhàn)。虛假信息是與戰(zhàn)爭和軍事相生相伴的一門古老的“藝術(shù)”。以欺詐、偽造的信息影響國家的政治決策和軍事行動在人類歷史上屢見不鮮。遠(yuǎn)一點的有1898年“緬因號”戰(zhàn)列艦在哈瓦那港爆炸后，美國媒體利用這一事件進(jìn)行誤導(dǎo)性報道，從而煽動公眾支持對西班牙開戰(zhàn)；近到美國前國務(wù)卿科林·鮑威爾（Colin Powell）以手中塑料袋里疑似洗衣粉的粉末，指稱伊拉克擁有大規(guī)模殺傷性武器，進(jìn)而為美國發(fā)動伊拉克戰(zhàn)爭提供合法理由。它們都屬于較為經(jīng)典的對虛假信息的利用。深度偽造技術(shù)的發(fā)展和傳播，將使虛假信息在政治和軍事領(lǐng)域的應(yīng)用更為普遍和容易，從而使民族國家在傳統(tǒng)安全領(lǐng)域面臨更為復(fù)雜的挑戰(zhàn)。

1. 指揮自動化系統(tǒng)方面的深度偽造為雙方軍事行動提供戰(zhàn)術(shù)優(yōu)勢

在現(xiàn)代軍事體系中，指揮自動化系統(tǒng)（C4ISR）是軍隊的神經(jīng)中樞，先進(jìn)的C4ISR能力通過對態(tài)勢的感知、對環(huán)境和對手的了解、對戰(zhàn)場信息的處理以及縮短感知和響應(yīng)之間的時間，為己方的軍事行動提供優(yōu)勢。這一系統(tǒng)的核心就是戰(zhàn)爭或戰(zhàn)場信息的獲取、處理以及運用。這就給對手提供了利用信息的空間。在未來的軍事行動中，戰(zhàn)爭和戰(zhàn)場上的對手可以生成高級指揮官的深度偽造，向?qū)κ值牟筷犗逻_(dá)虛假或矛盾的命令。為此，他們可以使用從媒體或通過情報獲得的真實指揮官的視頻或錄音；或者創(chuàng)建不真實的衛(wèi)星情報圖像，誤導(dǎo)基于人工智能的目標(biāo)識別系統(tǒng)，這樣就可以“毒化”圖像數(shù)據(jù)并將民用基礎(chǔ)設(shè)施識別為軍事設(shè)施，或?qū)④娛履繕?biāo)歸類為非軍事目標(biāo)，引導(dǎo)對手錯誤地攻擊目標(biāo)；他們還可以運用人工智能技術(shù)發(fā)起錯誤信息活動，從而導(dǎo)致盟友之間產(chǎn)生爭端。在人工智能時代，軍事指揮官再也不需要像二戰(zhàn)時期那樣設(shè)計復(fù)雜的騙局，以虛假的D日登陸地點信息欺騙納粹德國總參謀部。未來的軍事行動中不再需要這種物理欺騙，因為人工智能為設(shè)置數(shù)字陷阱和虛假信息提供了更強(qiáng)大的“武器”——深度偽造。

2.深度偽造給國家政治安全帶來更大的挑戰(zhàn)和威脅

數(shù)字時代特別是人工智能技術(shù)的發(fā)展給各國進(jìn)行政治戰(zhàn)（Political Warfare）帶來了顛覆性的變化。深度偽造將極大地改變政治戰(zhàn)的內(nèi)涵和實施方式，那些擁有先進(jìn)人工智能能力和侵入性訪問其他國家大數(shù)據(jù)庫能力的國際關(guān)系行為體，將在政治戰(zhàn)中獲得巨大優(yōu)勢。人工智能為虛假信息的傳播者提供了快速偵察目標(biāo)國家社交媒體受眾并識別其心理弱點的能力。人工智能驅(qū)動的系統(tǒng)可以快速生成修改過的內(nèi)容和深度偽造的數(shù)字產(chǎn)品，從而推動針對目標(biāo)國家民眾和國家利益的虛假敘事，沖擊目標(biāo)國家民眾的心理，侵蝕目標(biāo)國家社會的信任，給目標(biāo)國家的政治安全帶來更大的挑戰(zhàn)和威脅。

自20世紀(jì)中期高速攝影機(jī)發(fā)明以來，捕捉高度可靠證據(jù)的技術(shù)比制造令人信服的偽造品的技術(shù)要便宜得多，也更容易獲得。如今，每個擁有智能手機(jī)的人都可以錄下他們所見證的事件高清視頻。人們習(xí)慣于相信自己所看到的東西——“眼見為實”“有圖有真相”——但人工智能技術(shù)的發(fā)展已經(jīng)使得制作逼真的假視頻和假圖片變得簡單而廉價，從而徹底顛覆“眼見為實”“有圖有真相”的認(rèn)知。紐約州立大學(xué)奧爾巴尼分校（Universityat Albany，StateUniversity of New York）的計算機(jī)視覺專家在談到深度偽造對社會心理的沖擊時分析說：“媒體通過微妙的操縱來改變?nèi)藗儗φ?、事件和想法的理解，可以產(chǎn)生更廣泛的心理影響?！比藗兛赡軙|(zhì)疑他們在網(wǎng)上或媒體上看到的更多視頻的有效性，即使這些視頻完全真實，也會導(dǎo)致更多的混亂。深度偽造最具破壞性的方面可能不是虛假信息本身，而是不斷接觸虛假信息，會導(dǎo)致公眾覺得包括視頻在內(nèi)的很多信息根本不可信，從而導(dǎo)致一種被稱為“信息世界末日”（information apocalypse）或“現(xiàn)實冷漠”（reality apathy）的現(xiàn)象。實際上，最大的威脅不是人們會被欺騙，而是人們會開始將一切都視為欺騙。這種效應(yīng)也被描述為“騙子的紅利”（liars dividend）：那些傳播懷疑和不確定性的國際關(guān)系行為體最終會受益，因為他們獲得了掩蓋真相的能力，這恰恰就是政治戰(zhàn)的核心內(nèi)涵。很明顯，這樣的效應(yīng)已經(jīng)初現(xiàn)。美國優(yōu)利公司（Unisys Corporation）2018年的安全指數(shù)調(diào)查發(fā)現(xiàn)，將近19%的美國人不太可能參加中期選舉投票，因為他們擔(dān)心外部行為者會損害該國的選舉投票系統(tǒng)；近86%的受訪者對美國選舉投票系統(tǒng)可能受到局外人影響的前景表示擔(dān)憂。優(yōu)利公司的首席信托官湯姆·帕特森（TomPatterson）說：“2018 年優(yōu)利安全指數(shù)暴露出民眾對我們的投票選舉制度缺乏信任，這可能會削弱對美國民主制度的信心?！?/span>

3. 深度偽造會改變“脆弱國家”在國家治理方面的政治進(jìn)程

經(jīng)濟(jì)合作與發(fā)展組織（Organisation for Economic Co-operation andDevelopment，OECD）將脆弱性視為一種普遍現(xiàn)象，在政治、社會、安全、環(huán)境和經(jīng)濟(jì)五個主要維度上，每個國家都不同程度地以不同方式存在脆弱現(xiàn)象。脆弱指數(shù)比較高的國家往往存在政治與社會局勢不穩(wěn)定、經(jīng)濟(jì)落后和治安混亂等現(xiàn)象。被視為“脆弱國家”（Fragile States）的往往都是整體發(fā)展水平比較落后的發(fā)展中國家。在“脆弱國家”，深度偽造還可能加劇社會分裂、內(nèi)亂、恐慌和沖突，造成政局動蕩，甚至?xí)?dǎo)致暴力沖突和軍事政變。例如，2018年10月，加蓬總統(tǒng)阿里·邦戈·翁丁巴（Ali-Ben Bongo Ondimba）在訪問沙特阿拉伯時因病住院，并從11月起在摩洛哥繼續(xù)接受治療。由于邦戈長期未公開露面，加蓬民眾普遍認(rèn)為其健康狀況不佳，甚至已經(jīng)死亡。2018年12月31日，邦戈在摩洛哥向國內(nèi)民眾發(fā)表新年賀詞，承認(rèn)自己身體有恙但正在康復(fù)。這段視頻引發(fā)了一場全國性的危機(jī)。包括部分軍人在內(nèi)的相當(dāng)多的人認(rèn)為視頻是深度偽造作品，加蓬政府的目的是試圖隱瞞總統(tǒng)的健康狀況。最終，這一敘事導(dǎo)致了加蓬軍方的政變，政變軍人的理由就是，他們懷疑總統(tǒng)正在康復(fù)的視頻屬于深度偽造，認(rèn)為總統(tǒng)已經(jīng)失去履行職責(zé)的能力。事后根據(jù)《華盛頓郵報》記者尋求專業(yè)數(shù)字技術(shù)公司查證，邦戈新年賀詞視頻盡管存在瑕疵，但并無明確的深度偽造算法介入的證據(jù)；而反對派成員提供的說明視頻，反而存在人工智能操縱的跡象。這一案例表明，深度偽造的視頻可能會引起一些國家的政局動蕩。

特定情況下適時出現(xiàn)的深度偽造會造成社會動蕩，激化社會矛盾甚至改變一個國家的政治進(jìn)程。有特定目的的人或團(tuán)體可能會制作深度偽造的作品煽動民眾聚集，制造群體性事件，引發(fā)公共安全危機(jī)或者暴力事件。2019年印度的印度教教徒通過WhatsApp傳播大量深度偽造的視頻，助長了針對印度穆斯林群體暴力和騷亂暴發(fā)的頻率和強(qiáng)度；同一年，發(fā)生在緬甸針對羅興亞人的騷亂，出現(xiàn)在社交平臺的深度偽造視頻和圖片同樣發(fā)揮了推波助瀾的作用。

深度偽造在非傳統(tǒng)安全領(lǐng)域帶來的挑戰(zhàn)主要是經(jīng)濟(jì)領(lǐng)域。深度偽造既給包括股票、期貨市場帶來重大沖擊，也對國家的經(jīng)濟(jì)運行造成負(fù)面影響，對企業(yè)的影響更為直接。此外，各國公眾也都會面臨各種各樣的基于深度偽造的經(jīng)濟(jì)詐騙活動。深度偽造對經(jīng)濟(jì)安全的威脅可以從國家、企業(yè)和個人三個層面來理解。

1. 國家層面：深度偽造的內(nèi)容會損害國家的經(jīng)濟(jì)穩(wěn)定

深度偽造危害國家經(jīng)濟(jì)安全的常見手段有以下幾種：一是捏造政府的行為。世界各國的財政、商務(wù)和金融監(jiān)管機(jī)構(gòu)一直在與試圖影響市場走勢的謠言作斗爭——這些謠言往往通過各種社交平臺流傳開來。如2019 年，印度中央銀行試圖平息社交媒體有關(guān)當(dāng)局將很快關(guān)閉某些商業(yè)銀行的謠言。深度偽造可能會編造諸如政府官員關(guān)于稅收政策調(diào)整的討論，或具有官方背景的銀行家私下討論未來利率變化，或被視為政府智囊的智庫學(xué)者關(guān)于地區(qū)開發(fā)的討論，等等。在經(jīng)濟(jì)和金融危機(jī)時期，深度偽造可能利用和放大先前存在的經(jīng)濟(jì)擔(dān)憂和市場的波動。

二是制造虛假的突發(fā)性事件。突發(fā)性事件往往對期貨市場和股市構(gòu)成重大沖擊。2013年4月23日，一個名為“敘利亞電子軍”（Syrian Electronic Army）的黑客組織劫持了美聯(lián)社的推特賬戶，并在推特上寫道：“突發(fā)：白宮發(fā)生兩次爆炸，奧巴馬受傷。”這一虛假聲明立即引發(fā)了大量交易，接下來的三分鐘，原油價格暴跌，10年期美國國債收益率下跌，投資者轉(zhuǎn)移風(fēng)險，道·瓊斯工業(yè)指數(shù)下跌150點，標(biāo)準(zhǔn)普爾500指數(shù)資本價值損失超過1.36億美元。三分鐘之后，一名美聯(lián)社員工在推特上寫道：“我們被黑客入侵了。”緊隨其后的是官方確認(rèn)該“新聞”是一個騙局，劇烈動蕩的市場很快恢復(fù)正常。為交易公司提供市場數(shù)據(jù)的Nanex創(chuàng)始人埃里克·亨薩德（Eric S. Hunsader）說：“美聯(lián)社的假推文是股市歷史上最活躍的兩分鐘?！笨梢员M快控制的一般的虛假信息尚且造成如此大的金融和經(jīng)濟(jì)動蕩，由深度偽造引起的懷疑要想消除將更為困難，后者會讓市場動蕩持續(xù)更長的時間，造成的損失也更加巨大。

三是惡意銀行擠兌。一些國家的銀行發(fā)生擠兌，這樣的新聞經(jīng)常出現(xiàn)在社交媒體中。發(fā)生擠兌的原因很多，其中部分原因與社交媒體的深度偽造有關(guān)。盡管基于社交媒體的深度偽造如制造銀行排長隊的視頻或照片并不一定是銀行擠兌的主要原因，但社交媒體為此類謠言的快速傳播提供了平臺，當(dāng)公眾對金融形勢或銀行健康運轉(zhuǎn)的懷疑開始變得普遍時，社交媒體可以迅速放大它們，從而讓擠兌變得更加瘋狂。

2. 企業(yè)層面：深度偽造給企業(yè)帶來的威脅和挑戰(zhàn)更為直接

2021年3月10日，鑒于針對企業(yè)的深度偽造活動日益猖獗，美國聯(lián)邦調(diào)查局特意對美國私營企業(yè)發(fā)出了警告。聯(lián)邦調(diào)查局預(yù)測，在未來12—18個月，外國行為者將越來越多地使用支持人工智能的虛假媒體進(jìn)行“網(wǎng)絡(luò)釣魚和社會工程犯罪”，其中深度偽造工具將用于創(chuàng)建“合成企業(yè)角色”或模仿現(xiàn)職員工，并且很可能對受害企業(yè)和組織造成“非常重大的財務(wù)和聲譽(yù)影響?！蹦碌贤顿Y者服務(wù)公司（Moody’s Investor Service）也向客戶發(fā)出警告，先進(jìn)的技術(shù)使得制作旨在損害企業(yè)聲譽(yù)的深度偽造視頻和圖像變得更加容易，導(dǎo)致公司的業(yè)務(wù)和信用質(zhì)量受到威脅。

其實，我們只要看特斯拉（Tesla）首席執(zhí)行官埃隆·馬斯克（ElonMusk）的案例就可以明白，深度偽造給企業(yè)負(fù)責(zé)人制造的負(fù)面形象對企業(yè)造成的沖擊有多大。馬斯克在一個流行的直播播客中吸食大麻，導(dǎo)致特斯拉股價下跌6%。因此，看起來非常逼真的深度偽造視頻，會產(chǎn)生與馬斯克直播同樣的效果，無論是針對企業(yè)負(fù)責(zé)人，還是針對企業(yè)的產(chǎn)品，造成的后果是顯而易見的：很有可能會讓高管和公司的聲譽(yù)崩盤，并在很短的時間內(nèi)摧毀公眾對企業(yè)的信任和股東價值，而要修復(fù)這些損失還需要企業(yè)付出更大的代價。一項研究估計，受深度偽造信息的影響，全球企業(yè)每年損失高達(dá)780億美元，其中包括90億美元用于修復(fù)聲譽(yù)損失和170億美元因財務(wù)虛假信息而造成的損失。

全球領(lǐng)先的戰(zhàn)略傳播和公共事務(wù)咨詢公司富思博睿格潤（Finsbury Glover Hering）分析了深度偽造對企業(yè)構(gòu)成的五種潛在威脅：一是網(wǎng)絡(luò)釣魚攻擊。即利用深度偽造技術(shù)偽裝成其他人欺騙目標(biāo)泄露敏感信息。二是交易欺詐。即以高級管理人員身份向毫無戒心的員工或經(jīng)濟(jì)伙伴打電話或發(fā)送電子郵件，要求緊急轉(zhuǎn)賬。三是利用深度偽造的視頻對企業(yè)進(jìn)行勒索，在這種敲詐勒索的情況下，深度偽造的真實性幾乎無關(guān)緊要，因為損害瞬間就會發(fā)生。四是股票操縱，即在財務(wù)業(yè)績季適時進(jìn)行的深度偽造，例如冒充企業(yè)的首席執(zhí)行官（CEO）宣布重大經(jīng)營虧損，導(dǎo)致股價暴跌。五是偽造的監(jiān)管行為，這種深度偽造活動針對的不一定是特定公司而是整個行業(yè)。想象一下捏造的中央銀行會議的視頻剪輯，其中描繪了官員討論流動性問題或未來利率變化，或者新聞主播或股市專家宣布市場崩盤，這些視頻將會在整個行業(yè)掀起多么大的波瀾。

富思博睿格潤研究報告提到的上述五種“潛在威脅”，有一些實際已經(jīng)發(fā)生了。2019年，一位英國能源公司的董事長被深度偽造的語音電話所欺騙。詐騙者使用商業(yè)語音生成軟件與他進(jìn)行交流，而與他交流的人發(fā)出的聲音是他非常熟悉的總公司首席執(zhí)行官的聲音。他被說服將220 000歐元（約243 000美元）轉(zhuǎn)入匈牙利供應(yīng)商的銀行賬戶，直到第三次通話時，他才發(fā)現(xiàn)了一點破綻，但錢已經(jīng)被詐騙者轉(zhuǎn)移。目前為止，已知的深度偽造造成的最大損失發(fā)生在中國香港。2020年年初，一名香港銀行的經(jīng)理被他認(rèn)為是“一家阿聯(lián)酋公司董事的人”騙取了3 500萬美元。詐騙者同樣是使用人工智能語音合成軟件，合成了這位以前與香港經(jīng)理交流過的阿聯(lián)酋公司董事的聲音。據(jù)美國智庫卡內(nèi)基和平基金會（Carnegie Endowment For International Peace）學(xué)者研究，利用深度偽造技術(shù)對企業(yè)進(jìn)行的付款欺詐，僅2019年就給美國企業(yè)造成了高達(dá)17億美元的損失。

3. 個人層面：深度偽造主要被用于欺詐或勒索行為

針對個人的深度偽造主要有以下幾種情形：一是身份盜竊。深度偽造至少有兩種可以導(dǎo)致身份盜用的方式：一種形式是有針對性的深度偽造來竊取個人身份，然后用受害者的合成語音對其親朋好友發(fā)起欺詐性匯兌；另一種形式是以虛假身份創(chuàng)建銀行賬戶的深度偽造音頻或視頻，促進(jìn)洗錢活動或偷稅漏稅。

二是冒名頂替詐騙。主要指的是犯罪分子冒充“政府執(zhí)法部門、知名企業(yè)或技術(shù)支持專家”向受害者施壓，迫使其付款。深度偽造可以增強(qiáng)冒名頂替者詐騙的真實性。詐騙者可能會復(fù)制特定個人的聲音，通過人工智能系統(tǒng)撥打許多受害者的電話號碼，而且還能夠根據(jù)受害者所在地區(qū)自動模擬當(dāng)?shù)氐姆窖曰蚩谝?。詐騙犯通過操縱受害者的情緒并制造一種虛假的緊迫感，讓受害者往往無暇顧及甄別真假。而且，許多騙局故意針對更脆弱的受害者，包括老年人和女性群體。

三是網(wǎng)絡(luò)勒索。在網(wǎng)絡(luò)勒索計劃中，犯罪分子聲稱擁有有關(guān)受害者的令人尷尬乃至恐慌的信息，并威脅要發(fā)布這些信息，除非他們得到報酬或提供更多他們想要的材料。網(wǎng)絡(luò)勒索者可以使用深度偽造來生成更有說服力的虛假勒索材料，有時還在與受害者通信中引用受害者的密碼或電話號碼，這些密碼或電話號碼通常來自公開的數(shù)據(jù)轉(zhuǎn)儲。勒索者可能向受害者發(fā)送受害者本人的面部圖像或視頻，這些圖像或視頻被合成疊加到色情內(nèi)容中，作為他們訪問敏感信息的證據(jù)。根據(jù)美國聯(lián)邦調(diào)查局的數(shù)據(jù)，2019 年，美國居民報告的網(wǎng)絡(luò)勒索損失（不包括勒索軟件造成的損失）為1.07億美元。

總體來看，深度偽造對全球經(jīng)濟(jì)體系或者成熟健康的市場經(jīng)濟(jì)國家的穩(wěn)定性不太容易構(gòu)成嚴(yán)重威脅。發(fā)展中國家或新興市場經(jīng)濟(jì)體面臨來自深度偽造的威脅更大。經(jīng)濟(jì)不穩(wěn)定和政府機(jī)構(gòu)不那么受民眾信任的國家在深度偽造的信息面前更加脆弱；而對于正在經(jīng)歷經(jīng)濟(jì)或金融危機(jī)的發(fā)達(dá)國家來說，深度偽造信息可能發(fā)揮“最后一根稻草”的作用。另外，深度偽造對目標(biāo)個人和企業(yè)造成經(jīng)濟(jì)損失的危險更大。

需要指出的是，單一深度偽造的影響并不局限于單一類型或類別的風(fēng)險，而是會在不同層次引發(fā)連鎖反應(yīng)。首先，由于深度偽造的目標(biāo)是個人，其影響往往從個人層面開始。其次，可能會對個人所在的團(tuán)體或組織如政黨造成傷害。再次，深度偽造案例的累積和疊加，可能會影響社會心理。最后，導(dǎo)致社會信任的普遍缺失，從而造成嚴(yán)重的社會危害。

隨著互聯(lián)網(wǎng)特別是移動互聯(lián)網(wǎng)的普及，深度偽造技術(shù)也給中國帶來了非常復(fù)雜的安全問題。2019年11月29日，國家互聯(lián)網(wǎng)信息辦公室（以下簡稱“國家網(wǎng)信辦”）負(fù)責(zé)人，在談到《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡稱《規(guī)定》）出臺的背景時強(qiáng)調(diào)：“出臺《規(guī)定》是促進(jìn)網(wǎng)絡(luò)音視頻信息服務(wù)活動健康有序發(fā)展的需要。當(dāng)前，網(wǎng)絡(luò)音視頻信息服務(wù)迅速發(fā)展，用戶規(guī)模不斷壯大……與此同時，也帶來了傳播違法和不良信息、侵犯人民群眾合法權(quán)益等風(fēng)險隱患，特別是隨著‘深度偽造’等新技術(shù)新應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運用，這些風(fēng)險進(jìn)一步集聚、放大，可能被利用從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動，造成政治安全風(fēng)險和國家安全、公共安全風(fēng)險，對社會穩(wěn)定造成不良影響?！边@一判斷說明，深度偽造給中國國家安全、社會穩(wěn)定和公民權(quán)益帶來了威脅和挑戰(zhàn)，也從一個側(cè)面印證了習(xí)近平總書記對中國安全形勢的總體判斷。

習(xí)近平總書記在中央國家安全委員會第一次會議上，對中國面臨的安全形勢曾經(jīng)作出這樣的判斷：“當(dāng)前我國國家安全內(nèi)涵和外延比歷史上任何時候都要豐富，時空領(lǐng)域比歷史上任何時候都要寬廣，內(nèi)外因素比歷史上任何時候都要復(fù)雜?！鄙疃葌卧旒夹g(shù)給國家安全帶來不同類型的威脅和挑戰(zhàn)，這些威脅與挑戰(zhàn)又表現(xiàn)在不同的層次上，既給包括政治和軍事安全在內(nèi)的傳統(tǒng)國家安全帶來新的問題和挑戰(zhàn)，同時也對包括國家、企業(yè)和個人在內(nèi)的經(jīng)濟(jì)安全構(gòu)成了多層次的挑戰(zhàn)。因此，應(yīng)對深度偽造在不同領(lǐng)域、不同層次的挑戰(zhàn)，不能“頭痛醫(yī)頭腳痛醫(yī)腳”，應(yīng)該以總體國家安全觀為指導(dǎo)，建立應(yīng)對深度偽造技術(shù)的綜合治理體系。

堅持以人民安全為宗旨，是中國共產(chǎn)黨執(zhí)政為民的基本原則在國家安全領(lǐng)域的反映。作為新興技術(shù)的副產(chǎn)品，深度偽造同樣也給中國國民安全帶來了威脅和挑戰(zhàn)，是當(dāng)今中國國民安全領(lǐng)域需要重點關(guān)注的問題。深度偽造在其他國家給公眾帶來的安全威脅，在中國也同樣存在。某些方面，中國公眾面臨的安全形勢甚至更為嚴(yán)峻，如，中國是運用新技術(shù)的電信詐騙的重災(zāi)區(qū)。

據(jù)央視網(wǎng)報道，在中國公安部門和金融機(jī)構(gòu)加大反詐騙宣傳的情況下，2020年，全國立案電信網(wǎng)絡(luò)詐騙案件92.7萬起，案件造成群眾財產(chǎn)損失353.7億元；2021年以來，全國電信網(wǎng)絡(luò)詐騙案件日均發(fā)案2 700起，日平均損失達(dá)到了1.4億元；2021年1—9月，全國共破獲電信網(wǎng)絡(luò)詐騙案件26.2萬起，抓獲犯罪嫌疑人37.3萬人，同比分別上升41.1%和116.4%。盡管無法確認(rèn)使用深度偽造技術(shù)在電信詐騙中所占的比例有多高，但可以肯定的是，隨著人工智能技術(shù)的發(fā)展，詐騙分子越來越多地將最新技術(shù)應(yīng)用于詐騙活動中。習(xí)近平總書記在網(wǎng)絡(luò)安全和信息化工作座談會上指出：“現(xiàn)在網(wǎng)絡(luò)詐騙案件越來越多，作案手段花樣翻新，技術(shù)含量越來越高。這也提醒我們，在發(fā)展新技術(shù)、新業(yè)務(wù)時，必須警惕風(fēng)險蔓延?！薄懊髡叻赖溣谖疵?，智者圖患于將來”。由于越來越多的新興技術(shù)可能被應(yīng)用于詐騙活動，我們必須主動防范、積極應(yīng)對。

對深度偽造的治理，要本著對社會負(fù)責(zé)、對人民負(fù)責(zé)的態(tài)度，加強(qiáng)對人工智能和網(wǎng)絡(luò)空間的治理，因此，還要廣泛依靠人民培養(yǎng)積極健康、向上、向善的數(shù)字生態(tài)系統(tǒng)。數(shù)字時代帶來的一個巨大變化就是個人以個體行為主體的角色來參與培育和保護(hù)值得信賴的數(shù)字和信息生態(tài)系統(tǒng)。尤其是，相當(dāng)大比例的數(shù)字內(nèi)容是由個人用戶生成的，個人也可以確保準(zhǔn)確和良性的信息被共享。所以，整個社會要有意識地在個人層面培養(yǎng)公眾在數(shù)字時代、人工智能時代的道德意識和社會責(zé)任感。

鑒于中國各地區(qū)特別是城鄉(xiāng)發(fā)展不平衡，民眾對于數(shù)字產(chǎn)品認(rèn)知存在巨大差異，管理部門、網(wǎng)絡(luò)平臺和技術(shù)專家，都有義務(wù)和責(zé)任向社會說明人工智能時代新合成媒體的影響力及可能造成的危害，只要公眾了解到合成媒體和可能造成的不良后果，這種欺騙產(chǎn)生影響的可能性就會降低。當(dāng)公眾被教導(dǎo)去發(fā)現(xiàn)和識別深度偽造的特征和缺陷，就能夠用自己的判斷決定該相信什么、不該相信什么。

此外，還要注重對特定群體的數(shù)字技術(shù)掃盲，特別是提高沒有接受過系統(tǒng)數(shù)字知識訓(xùn)練、只了解數(shù)字知識皮毛、只能簡單地使用數(shù)字產(chǎn)品（如智能手機(jī)）的老年人的數(shù)字知識水平。據(jù)美國學(xué)者丹妮爾·西特倫（Danielle Citron）研究，在數(shù)字素養(yǎng)方面存在“代際鴻溝”（generational divide），55歲以上的一代更有可能傳播謊言和假新聞。全國人大代表、中國銀監(jiān)會消費者保護(hù)局局長鄧智毅在接受記者專訪時表示，在中國，電信詐騙的受騙者多為老年人。盡管這并非專門因深度偽造而起，但深度偽造可能會加劇這種現(xiàn)象。因此，任何數(shù)字技術(shù)掃盲政策都應(yīng)考慮所有年齡組和社會不同層面，以彌合數(shù)字鴻溝和代溝。

只有更多的公眾意識到了深度偽造可能造成的危害，進(jìn)而在整個社會培養(yǎng)防范深度偽造的公眾意識，深度偽造對國民安全造成的威脅才能降到最低。從這個角度看，公眾意識是防范深度偽造音頻、視頻不良影響的最好“疫苗”。

國家政治安全涉及國家主權(quán)、國家制度、國民意識形態(tài)和執(zhí)政安全等方面。深度偽造對中國政治安全帶來的挑戰(zhàn)主要表現(xiàn)為宗教極端意識形態(tài)和民族分離勢力的滲透和分裂活動，特別是西方國家利用所謂的新疆民族和宗教問題，試圖分裂中國，以及利用“港獨”勢力禍亂香港，給“一國兩制”在香港的實施制造麻煩。

在涉疆問題上，西方媒體制作了包括深度偽造在內(nèi)的大量的虛假報道，極力抹黑中國政府的治疆方略和政策，污蔑中國政府在新疆實施“強(qiáng)迫勞動”和“種族滅絕”政策。2021年4月29日，中華人民共和國駐比利時王國大使館專門發(fā)布了揭露以美國為首的西方國家制作包括深度偽造在內(nèi)的關(guān)于涉疆問題的虛假信息的文章，揭露在美國反華勢力的操縱下，一些歪曲事實的“學(xué)術(shù)機(jī)構(gòu)”、造謠的“專家學(xué)者”和不顧道德的“業(yè)余演員”，是如何制造謊言、包括利用現(xiàn)代人工智能技術(shù)制造更加逼真的謊言，以通過誹謗中國的治疆政策誤導(dǎo)國際公共話語。與這兩個主題配套的深度偽造視頻也不斷出現(xiàn)在西方主流媒體上。如英國廣播公司（BBC）關(guān)于所謂“強(qiáng)迫勞動”的專題報道。在那個視頻中，使用的是中央電視臺的扶貧報道——出于剪輯的需要，它甚至無法完全遮蔽中央電視臺的標(biāo)志——該深度偽造視頻將安徽省在對口幫扶的新疆和田地區(qū)皮山縣招聘工人的鏡頭，扭曲改變?yōu)椤皬?qiáng)迫”新疆的維族青年到內(nèi)地工作，原來報道中的笑容一閃而過，而將父母對即將出行兒女的擔(dān)憂描繪成生離死別。還有一些深度偽造視頻污蔑中國政府通過計劃生育政策在新疆實施所謂的“種族滅絕”政策等。正是這樣深度偽造的假視頻、假音頻，給中國政府的新疆政策抹黑，將涉疆問題建構(gòu)成為所謂的“人權(quán)”問題和中國政府的“種族滅絕政策”，不僅誤導(dǎo)了外部世界的民眾，讓中國外交面臨更為惡劣的國際環(huán)境，也影響了新疆的和平安定和民族團(tuán)結(jié)局面以及未來的發(fā)展。

涉港問題是西方國家插手中國內(nèi)政、給中國政治安全帶來挑戰(zhàn)的另一個重要抓手。2019年，香港黑暴動亂期間，英國和美國媒體都利用了深度偽造視頻向外界傳遞對香港特區(qū)政府和執(zhí)法警隊的不滿。香港一家專門驗證深度偽造虛假信息的平臺——“求驗傳媒”管理人員在接受BBC訪問時指出，他們觀察發(fā)現(xiàn)，有許多社交網(wǎng)站專頁在這次“修例風(fēng)波”期間“不負(fù)責(zé)任地散播謠言”，發(fā)布許多符合它們政治理念的消息；智能手機(jī)的性能提升，讓更多人可以拍攝照片或視頻，再按圖片或短片內(nèi)容編造故事而不理會這些描述是否準(zhǔn)確，是這次香港動亂出現(xiàn)“大量假新聞或誤導(dǎo)性訊息流傳的原因”。

上述涉疆和涉港的案例表明，深度偽造已經(jīng)并將日益成為威脅中國政治安全的重要手段，讓中國的政治安全面臨更為復(fù)雜的形勢。對深度偽造技術(shù)的治理，要上升到維護(hù)國家政治安全的高度以嚴(yán)密防范和打擊利用人工智能和數(shù)字技術(shù)進(jìn)行滲透、顛覆破壞活動、暴力恐怖活動、民族分裂活動和宗教極端活動。

治理深度偽造問題，既要重視傳統(tǒng)安全，又要重視非傳統(tǒng)安全。與其他國家一樣，深度偽造給中國傳統(tǒng)安全和非傳統(tǒng)安全帶來了新的威脅和挑戰(zhàn)。在傳統(tǒng)安全領(lǐng)域，除了上述所提到深度偽造給新疆和香港地區(qū)的政治穩(wěn)定帶來的挑戰(zhàn)外，深度偽造在國土安全和國防安全領(lǐng)域同樣給中國帶來了一些新的威脅和挑戰(zhàn)。無論是在和平時期，還是在未來可能的戰(zhàn)爭條件下，中國指揮自動化系統(tǒng)同樣會面臨競爭對手利用深度偽造技術(shù)進(jìn)行干擾和誤導(dǎo)的威脅；競爭對手和境外敵對勢力也會繼續(xù)利用深度偽造技術(shù)對中國發(fā)動政治戰(zhàn)，在中國社會制造不信任的情緒和氛圍，以降低中國民眾對中國社會制度和執(zhí)政黨的信任度。

為此，一方面，中國要加快國防和軍隊的現(xiàn)代化建設(shè)，要貫徹習(xí)近平強(qiáng)軍思想，貫徹新時代軍事戰(zhàn)略方針，統(tǒng)籌推進(jìn)傳統(tǒng)安全領(lǐng)域和新型安全領(lǐng)域軍事斗爭準(zhǔn)備。在堅持黨對人民軍隊的絕對領(lǐng)導(dǎo)、堅持政治建軍的基礎(chǔ)上，以科技強(qiáng)軍、人才強(qiáng)軍，加快機(jī)械化、信息化和智能化的融合發(fā)展。尤其是“加快軍事智能化發(fā)展，提高基于網(wǎng)絡(luò)信息體系的聯(lián)合作戰(zhàn)能力、全域作戰(zhàn)能力，有效塑造態(tài)勢、管控危機(jī)、遏制戰(zhàn)爭、打贏戰(zhàn)爭”。

另一方面，針對深度偽造的音/視頻基本上是以互聯(lián)網(wǎng)為基本載體，維護(hù)政治安全一定要高度重視網(wǎng)絡(luò)意識形態(tài)安全問題。習(xí)近平總書記將網(wǎng)絡(luò)稱為“當(dāng)前意識形態(tài)斗爭的最前沿”，認(rèn)為“掌握網(wǎng)絡(luò)意識形態(tài)主導(dǎo)權(quán)，就是守護(hù)國家的主權(quán)和政權(quán)”；各級管理部門“要把維護(hù)網(wǎng)絡(luò)意識形態(tài)安全作為守土盡責(zé)的重要使命，充分發(fā)揮制度體制優(yōu)勢，堅持管用防并舉……切實維護(hù)以政權(quán)安全、制度安全為核心的國家政治安全”?？梢哉f，人工智能和數(shù)字時代政治戰(zhàn)的特征表明，在互聯(lián)網(wǎng)這個戰(zhàn)場上能否頂?shù)米?、打得贏，已經(jīng)直接關(guān)系到中國的意識形態(tài)安全和政治安全。

但我們也要看到，深度偽造更多是針對個體用戶，其所帶來的非傳統(tǒng)安全問題也更為普遍和突出。無論是前述涉及針對中國企業(yè)和中國公眾經(jīng)濟(jì)安全的詐騙問題，還是因為“報復(fù)色情”引發(fā)的性別安全問題，或者因為虛假信息引發(fā)的中國期貨市場以及股票市場劇烈波動等問題，都已經(jīng)成為中國各執(zhí)法部門必須面對和應(yīng)對的現(xiàn)實問題。在國家和社會日常治理活動中，管理和執(zhí)法部門面對的更多的也是上述非傳統(tǒng)安全領(lǐng)域的問題。

深度偽造引發(fā)的非傳統(tǒng)安全問題直接關(guān)系到中國公共安全。公共安全是基本的民生，因而需要把處理和應(yīng)對深度偽造引發(fā)的非傳統(tǒng)安全問題“放在維護(hù)最廣大人民根本利益中來認(rèn)識，放在貫徹落實總體國家安全觀中來思考，放在推進(jìn)國家治理體系和治理能力現(xiàn)代化中來把握”。唯有形成有效的社會治理和良好的社會秩序，才能促進(jìn)社會公平正義，充實中國公眾的獲得感、幸福感和安全感，進(jìn)而實現(xiàn)中國社會的良好治理以及確保人民安居樂業(yè)、社會安定有序和國家的長治久安。

“共同構(gòu)建和平、安全、開放、合作的網(wǎng)絡(luò)空間，建立多邊、民主、透明的全球互聯(lián)網(wǎng)治理體系”，是深度偽造治理的國際路徑。

1. 各國須齊心協(xié)力應(yīng)對作為全球共同安全威脅的深度偽造

安全問題早已越出國界，任何一個國家的短板都可能會造成外部風(fēng)險的涌入，形成安全風(fēng)險洼地。在安全領(lǐng)域中，深度偽造造成的危害非常突出。如歐美國家對“報復(fù)色情”的寬容政策，導(dǎo)致深度偽造的色情視頻基本上集中在這些國家，不僅給這些國家女性帶來巨大威脅，也給其他國家的女性——無論是包括影視界名人在內(nèi)的公眾人物，還是普通民眾——帶來性別安全的隱患。所以，在深度偽造導(dǎo)致的安全威脅面前，沒有哪個國家可以獨善其身，各國可謂安危與共、唇齒相依。因而要給予內(nèi)部和外部、自身與共同安全同等的重視，協(xié)調(diào)應(yīng)對深度偽造帶來的安全威脅與挑戰(zhàn)，維護(hù)各國公眾的共同利益。

2. 以建立在各國共同價值基礎(chǔ)之上的數(shù)字生態(tài)系統(tǒng)治理深度偽造問題

深度偽造治理取決于建立良好的全球數(shù)字生態(tài)系統(tǒng)，這樣的數(shù)字生態(tài)系統(tǒng)必須建立在各國共同價值基礎(chǔ)之上。數(shù)字技術(shù)已經(jīng)成為支撐社會功能的核心，正在徹底改變社會的各個方面。國際安全和穩(wěn)定都依賴于維護(hù)一個值得信賴和穩(wěn)定的數(shù)字生態(tài)系統(tǒng)。因此，國際社會迫切需要優(yōu)先考慮數(shù)字信任和安全問題，并采取具體措施來保護(hù)和促進(jìn)共享的共同價值標(biāo)準(zhǔn)。目前，在全球數(shù)字技術(shù)領(lǐng)域，發(fā)展不平衡、規(guī)則不健全、秩序不合理等問題日益突出，尤其是歐美一些國家在數(shù)字技術(shù)領(lǐng)域采取雙重標(biāo)準(zhǔn)，數(shù)字空間治理規(guī)則難以反映包括中國在內(nèi)的廣大發(fā)展中國家的意愿和利益。中國要繼續(xù)推動數(shù)字領(lǐng)域的全球治理體系變革，特別是在作為深度偽造作品最主要載體的互聯(lián)網(wǎng)領(lǐng)域。

建立良好的全球數(shù)字生態(tài)系統(tǒng)應(yīng)該堅持以下幾個原則：一是尊重網(wǎng)絡(luò)主權(quán)。即要尊重各國自主選擇網(wǎng)絡(luò)發(fā)展道路和管理模式、互聯(lián)網(wǎng)公共政策和平等參與國際網(wǎng)絡(luò)空間管理的權(quán)利，不干涉他國內(nèi)政，不從事、縱容和支持危害他國國家安全的網(wǎng)絡(luò)活動。二是維護(hù)和平安全。網(wǎng)絡(luò)空間不能成為各國角力的戰(zhàn)場，不能成為違法犯罪的溫床。各國應(yīng)共同防范和反對利用網(wǎng)絡(luò)空間進(jìn)行恐怖、淫穢和各種經(jīng)濟(jì)犯罪的活動。三是構(gòu)建良好秩序。既要提倡自由，也要保持秩序；既要尊重公眾交流思想、表達(dá)意愿的權(quán)利，也要依法構(gòu)建良好的網(wǎng)絡(luò)秩序，保障公眾在網(wǎng)絡(luò)空間的合法權(quán)益。四是堅持多邊主義。各國應(yīng)加強(qiáng)溝通交流，完善網(wǎng)絡(luò)空間對話機(jī)制，同時發(fā)揮政府、國際組織、互聯(lián)網(wǎng)企業(yè)、技術(shù)社群、民間機(jī)構(gòu)和公民個人等各個主體的作用，共同制定全球互聯(lián)網(wǎng)治理規(guī)則，使全球互聯(lián)網(wǎng)治理體系更加公正合理。

3. 打造良好的全球數(shù)字生態(tài)系統(tǒng)須發(fā)揮聯(lián)合國等機(jī)構(gòu)的作用

聯(lián)合國的關(guān)鍵作用是促進(jìn)合作、多邊主義、實質(zhì)性對話和對最緊迫和最具有挑戰(zhàn)性的問題提出協(xié)商一致意見。網(wǎng)絡(luò)空間中的信任、安全和穩(wěn)定問題也不例外。到目前為止，國際安全的現(xiàn)有多邊框架并沒有明確處理深度偽造技術(shù)的規(guī)范和標(biāo)準(zhǔn)，因而，在聯(lián)合國及其相關(guān)機(jī)構(gòu)的參與主導(dǎo)下，參考一些國家和地區(qū)處理深度偽造的監(jiān)管機(jī)制和方法，制定國際公認(rèn)的規(guī)范和技術(shù)標(biāo)準(zhǔn)，是目前能夠被大多數(shù)國家所接受的、打造良好的數(shù)字生態(tài)系統(tǒng)的可行路徑。

隨著以互聯(lián)網(wǎng)、人工智能技術(shù)為代表的數(shù)字技術(shù)的飛躍發(fā)展，它帶來的負(fù)面影響也逐漸顯現(xiàn)，中國也在總體國家安全體系架構(gòu)下，逐漸建立并完善數(shù)字治理體系。深度偽造技術(shù)出現(xiàn)后，中國比較早認(rèn)識到這一新興技術(shù)對國家安全的威脅，并不斷采取應(yīng)對舉措加強(qiáng)在這一領(lǐng)域的治理，已經(jīng)形成了較為完善的綜合治理體系。

首先，中國正在逐漸完善應(yīng)對深度偽造的法律體系。2016年11月7日，第十二屆全國人民代表大會常務(wù)委員會第二十四次會議通過了《中華人民共和國網(wǎng)絡(luò)安全法》，并從2017年5月1日起正式實施；2021年6月10日，第十三屆全國人民代表大會常務(wù)委員會第二十九次會議通過了《中華人民共和國數(shù)據(jù)安全法》，從2021年9月1日起正式實施；為保護(hù)中國公眾的個人信息安全，2021年8月20日，第十三屆全國人民代表大會常務(wù)委員會第三十次會議通過了《中華人民共和國個人信息保護(hù)法》，從2021年11月1日起開始實施。上述三個法律，構(gòu)建了比較完善的應(yīng)對數(shù)字時代、維護(hù)國家安全的法律體系，為危及國家安全的各種深度偽造活動設(shè)置了不可觸碰的高壓線。

其次，有針對性地頒布遏制惡意深度偽造行為的管理條例和規(guī)定。這在歐美國家稱為“軟法律”（Soft Law）。2019年11月18日，國家互聯(lián)網(wǎng)信息化辦公室會同文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，要求“任何組織和個人不得利用網(wǎng)絡(luò)音視頻信息服務(wù)以及相關(guān)信息技術(shù)從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動，不得制作、發(fā)布、傳播煽動顛覆國家政權(quán)、危害政治安全和社會穩(wěn)定、網(wǎng)絡(luò)謠言、淫穢色情，以及侵害他人名譽(yù)權(quán)、肖像權(quán)、隱私權(quán)、知識產(chǎn)權(quán)和其他合法權(quán)益等法律法規(guī)禁止的信息內(nèi)容”。

再次，從立法到執(zhí)法，強(qiáng)化并壓實信息發(fā)布平臺的責(zé)任?！吨腥A人民共和國數(shù)據(jù)安全法》規(guī)定：“開展數(shù)據(jù)處理活動，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠實守信，履行數(shù)據(jù)安全保護(hù)義務(wù)，承擔(dān)社會責(zé)任，不得危害國家安全、公共利益，不得損害個人、組織的合法權(quán)益。”《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》則對數(shù)據(jù)平臺提出了更具體的要求：“網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)落實信息內(nèi)容安全管理主體責(zé)任，配備與服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，建立健全用戶注冊、信息發(fā)布審核、信息安全管理、應(yīng)急處置、從業(yè)人員教育培訓(xùn)、未成年人保護(hù)、知識產(chǎn)權(quán)保護(hù)等制度……有效應(yīng)對網(wǎng)絡(luò)安全事件，防范網(wǎng)絡(luò)違法犯罪活動，維護(hù)網(wǎng)絡(luò)數(shù)據(jù)的完整性、安全性和可用性?！边@一規(guī)定壓實了信息發(fā)布平臺的責(zé)任和義務(wù)。

與此同時，國家監(jiān)管機(jī)構(gòu)和執(zhí)法部門加大了對違規(guī)平臺的執(zhí)法力度。2021年3月，針對未履行安全評估程序的語音社交軟件和涉及深度偽造技術(shù)的應(yīng)用，國家網(wǎng)信辦、公安部指導(dǎo)北京、天津、上海、浙江和廣東等地網(wǎng)信部門、公安機(jī)關(guān)依法約談包括小米、快手、字節(jié)跳動、阿里巴巴、網(wǎng)易云音樂、騰訊等11家企業(yè)，督促這11家數(shù)字企業(yè)按照《網(wǎng)絡(luò)安全法》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開展安全評估，完善風(fēng)險防控機(jī)制和措施，并對安全評估中發(fā)現(xiàn)的安全隱患及時采取有效整改措施，切實履行企業(yè)信息內(nèi)容安全主體責(zé)任。

最后，完善公民公共安全教育體系。習(xí)近平總書記在提到如何落實總體國家安全觀時強(qiáng)調(diào)：“把公共安全教育納入國民教育和精神文明建設(shè)體系，推動安全教育進(jìn)企業(yè)、進(jìn)農(nóng)村、進(jìn)社區(qū)、進(jìn)學(xué)校、進(jìn)家庭，加強(qiáng)安全公益宣傳，健全公共安全社會心理干預(yù)體系，積極引導(dǎo)社會輿論和公眾情緒，動員全社會的力量來維護(hù)公共安全?！薄吨腥A人民共和國網(wǎng)絡(luò)安全法》也明確要求，“各級人民政府及其有關(guān)部門應(yīng)當(dāng)組織展開經(jīng)常性的網(wǎng)絡(luò)安全教育，并指導(dǎo)、督促有關(guān)單位做好網(wǎng)絡(luò)安全宣傳教育工作。大眾傳播媒介應(yīng)當(dāng)有針對性地面向社會進(jìn)行網(wǎng)絡(luò)安全宣傳教育”。各級政府和相關(guān)機(jī)構(gòu)在全國范圍內(nèi)加大了對公眾的公共安全教育力度。公共安全教育的普及，有助于提高公眾的公共安全意識，防范和降低深度偽造造成的各種安全威脅。

中國是一個網(wǎng)絡(luò)大國，但并非網(wǎng)絡(luò)強(qiáng)國，國內(nèi)民眾教育水平、知識水平參差不齊。國內(nèi)部分地區(qū)存在著民族分離勢力、暴力恐怖勢力和宗教極端思想。再加上境外敵對勢力利用技術(shù)和話語權(quán)優(yōu)勢，在國際社會加大對中國的意識形態(tài)攻勢。深度偽造是境內(nèi)外各種不穩(wěn)定勢力針對中國社會越來越頻繁使用的重要手段，對中國國家安全造成的影響會更為復(fù)雜，這就要求我們在總體國家安全觀的指導(dǎo)下，統(tǒng)籌應(yīng)對新興技術(shù)發(fā)展給國家安全形勢帶來的新挑戰(zhàn)。

人工智能和其他數(shù)字技術(shù)的不斷進(jìn)步，互聯(lián)網(wǎng)技術(shù)的進(jìn)一步普及，使得深度偽造技術(shù)產(chǎn)品的質(zhì)量、數(shù)量和多樣性在穩(wěn)步上升；而相關(guān)軟件工具的出現(xiàn)，服務(wù)的開放性和數(shù)據(jù)的易采集性等，都使得制造深度偽造產(chǎn)品的大眾化能力不斷增強(qiáng)。接觸深度偽造產(chǎn)品已經(jīng)成為互聯(lián)網(wǎng)和數(shù)字社交平臺用戶日常生活的一部分。如在最近的俄羅斯—烏克蘭沖突中，即使遠(yuǎn)離戰(zhàn)場的中國公眾，也幾乎每天都會接觸到一些深度偽造的軍事、政治方面的信息。這些深度偽造的信息數(shù)量和影響之大、在世界各地傳播速度之快，引起了一些數(shù)字平臺的警覺。它所造成的潛在風(fēng)險，也為各國敲響了警鐘。

同時，惡意使用深度偽造技術(shù)以及這種技術(shù)的泛濫，無論是在傳統(tǒng)安全領(lǐng)域，還是在非傳統(tǒng)安全領(lǐng)域，都給國家和國際的和平、安全和穩(wěn)定帶來了多方面的風(fēng)險和挑戰(zhàn)，也讓公眾面臨的安全問題更加復(fù)雜化。越來越容易獲得的深度偽造技術(shù)讓一系列國家和非國家行為體參與到原本復(fù)雜的虛假信息活動中，也更加容易和方便去影響其他國家的政治局勢甚至政治走向；國家與非國家行為體還可以利用深度偽造來破壞其他國家的信息環(huán)境，從而在持續(xù)的政治和軍事緊張局勢中引發(fā)危機(jī)或?qū)е戮o張局勢的升級。深度偽造最深刻的影響在于，它創(chuàng)造了“騙子的紅利”——對從個人、社會、國家和國際社會不同層面的信任關(guān)系造成破壞，從而給社會、國家乃至全球治理制造更多、更持久的困難。

目前，包括中國、美國、歐盟和聯(lián)合國在內(nèi)的大國和國際組織都已經(jīng)認(rèn)識到深度偽造對個人、社會、國家和國際安全帶來的挑戰(zhàn)和威脅，并且從新技術(shù)的研發(fā)、加強(qiáng)對信息發(fā)布平臺的監(jiān)管以及社會立法等方面采取行動，力求遏制惡意深度偽造給國家安全帶來的各種威脅。但是，數(shù)字活動的跨境性也決定了要解決深度偽造帶來的國家安全問題，國家間的合作是必不可少的。國際社會必須摒棄國際安全治理的雙重標(biāo)準(zhǔn)，在相互尊重、相互信任的基礎(chǔ)上，倡導(dǎo)綜合安全、合作安全、共同安全的理念，共同打造數(shù)字時代人類安全的命運共同體。

來源：國際安全研究ISS