摘 要
隨著算力提升、數(shù)據(jù)積累等因素的共同作用，人工智能技術(shù)的應(yīng)用門檻逐步降低，在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用快速拓展，加劇現(xiàn)實安全威脅的同時也催生了新型安全威脅，全球關(guān)鍵信息基礎(chǔ)設(shè)施安全受到挑戰(zhàn)。從人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用出發(fā)，以網(wǎng)絡(luò)安全威脅為視角進行分析，得出關(guān)鍵信息基礎(chǔ)設(shè)施防護面臨著攻擊模式自動演化、攻擊手段自動化、攻擊者分工專業(yè)化等挑戰(zhàn)。結(jié)合當前全球關(guān)鍵信息基礎(chǔ)設(shè)施防護的普遍實踐，提出智能化防護體系、縮短發(fā)起響應(yīng)的時間、培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才等對策，為保障關(guān)鍵信息基礎(chǔ)設(shè)施安全提供科學(xué)參考。
內(nèi)容目錄：
1 人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用現(xiàn)狀和特點
1.1 人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用現(xiàn)狀
1.2 人工智能在網(wǎng)絡(luò)安全領(lǐng)域的特點
2 人工智能與關(guān)鍵信息基礎(chǔ)設(shè)施安全威脅分析
2.1 攻擊模式自動演化挑戰(zhàn)
2.2 攻擊手段自動化挑戰(zhàn)
2.3 攻擊者分工專業(yè)化挑戰(zhàn)
3 關(guān)鍵信息基礎(chǔ)設(shè)施應(yīng)對挑戰(zhàn)的建議
3.1 構(gòu)建智能化防護體系
3.2 縮短發(fā)起響應(yīng)的時間
3.3 培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才
4 結(jié) 語
自 20 世紀 50 年代首次提出人工智能這一概念后，隨著計算機技術(shù)的不斷進步，人工智能概念的范圍也逐漸擴大，計算機圖像識別、數(shù)據(jù)挖掘、深度學(xué)習(xí)等技術(shù)也相繼被納入人工智能的范疇。近些年，在算力提升、數(shù)據(jù)積累等因素的共同作用下，人工智能技術(shù)的應(yīng)用范圍不斷擴大，應(yīng)用門檻也逐步降低，引起了世界主要國家和集團的高度重視。2017 年，中國印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，提出要在 2030 年使“中國人工智能理論、技術(shù)與應(yīng)用總體達到世界領(lǐng)先水平，成為世界主要人工智能創(chuàng)新中心”。2019 年，美國發(fā)布《2018 國防部人工智能戰(zhàn)略概要》，提出要將人工智能作為未來關(guān)鍵的軍事技術(shù)進行研究，并于同年發(fā)布了新的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》。歐盟、俄羅斯、日本、印度等國也相繼發(fā)布其在人工智能領(lǐng)域的規(guī)劃和目標 。人工智能已經(jīng)成為大國競爭的新領(lǐng)域，各國政府都在積極推動人工智能技術(shù)在各領(lǐng)域的應(yīng)用。與此同時，人工智能的各類問題也引起了研究者們的重視，特別是人工智能倫理、人工智能軍事化、人工智能對政府治理的影響等議題尤為突出，已經(jīng)有研究者將人工智能列為未來幾十年中人類面臨的最大挑戰(zhàn)之一 。隨著人工智能在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用的逐步加深，越來越多的研究者也開始重視人工智能對于網(wǎng)絡(luò)安全的影響。
關(guān)鍵信息基礎(chǔ)設(shè)施作為網(wǎng)絡(luò)空間的基礎(chǔ)組成部分，其安全關(guān)乎網(wǎng)絡(luò)空間的穩(wěn)定與秩序。近年來，全球范圍內(nèi)針對關(guān)鍵信息基礎(chǔ)設(shè)施的攻擊呈快速增長和危害增強的趨勢：2019 年，委內(nèi)瑞拉國家電網(wǎng)干線遭到攻擊，造成全國大面積停電；2021 年，美國最大燃油管道公司被黑客勒索，導(dǎo)致美國東海岸能源供應(yīng)出現(xiàn)問題;2022 年俄烏戰(zhàn)爭期間，烏克蘭的黑客支持者對白俄羅斯鐵路網(wǎng)絡(luò)進行攻擊，導(dǎo)致正常的鐵路調(diào)度無法完成。隨著數(shù)字經(jīng)濟在國家發(fā)展中的重要性不斷增強，關(guān)鍵信息基礎(chǔ)設(shè)施在網(wǎng)絡(luò)攻擊目標中的重要性明顯提升，攻擊關(guān)鍵信息基礎(chǔ)設(shè)施成為各類組織獲取非法經(jīng)濟利益、推進政治主張的重要手段。人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用也強烈地影響著關(guān)鍵信息基礎(chǔ)設(shè)施的安全，特別是由于人工智能的“賦能”效應(yīng)對各類網(wǎng)絡(luò)安全威脅的賦能使現(xiàn)有的關(guān)鍵信息基礎(chǔ)設(shè)施安全防護體系面臨挑戰(zhàn)。
本文將對當前人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用情況進行梳理分析，在此基礎(chǔ)上根據(jù)關(guān)鍵信息基礎(chǔ)設(shè)施防護現(xiàn)狀，從網(wǎng)絡(luò)安全威脅的角度分析關(guān)鍵信息基礎(chǔ)設(shè)施面臨的挑戰(zhàn)，最后提出應(yīng)對挑戰(zhàn)的對策與建議，以期為關(guān)鍵信息基礎(chǔ)設(shè)施安全防護工作提供理論參考。
1 人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用現(xiàn)狀和特點
人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域得到應(yīng)用的時間并不長，但因其應(yīng)用前景使得越來越多的研究者投入其中，如今，人工智能已經(jīng)是網(wǎng)絡(luò)安全領(lǐng)域中一個無法忽視的應(yīng)用方向并形成了在其他應(yīng)用領(lǐng)域所沒有的特點。
1.1 人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用現(xiàn)狀
人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域中的應(yīng)用最早可以追溯到 2000 年左右，當時有國外的研究人員提出在入侵檢測中采用機器學(xué)習(xí)算法來提高檢測效率，為人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用提供了初始方向 。得益于過去 20 年來計算機算力水平的提高、網(wǎng)絡(luò)安全數(shù)據(jù)的積累以及各類算法的進步，人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用越來越多，從現(xiàn)有的情況來看，人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用主要集中在威脅檢測、漏洞挖掘與修復(fù)、組織和發(fā)現(xiàn)僵尸網(wǎng)絡(luò)、威脅情報識別以及繞過安全防護等方向。
威脅檢測是人工智能在網(wǎng)絡(luò)安全領(lǐng)域最早應(yīng)用的方向之一，應(yīng)用也最為成熟。傳統(tǒng)的流量分析檢測技術(shù)對流經(jīng)檢測節(jié)點的每個數(shù)據(jù)包進行檢測分析，存在資源開銷大、溯源表現(xiàn)弱等客觀問題。美國“棱鏡計劃”曝光后，國內(nèi)外網(wǎng)絡(luò)安全研究機構(gòu)和廠商加快了將人工智能技術(shù)引入威脅檢測中的步伐。美國的 FireEye 公司、以色列的 Deep Instinct 公司以及國內(nèi)的 360政企安全、啟明星辰、安天等公司均在自己的產(chǎn)品中引入了人工智能技術(shù)，融合日志、流量、資產(chǎn)等信息，提高了威脅檢出效率 。
漏洞挖掘與修復(fù)一直都是網(wǎng)絡(luò)安全領(lǐng)域最受重視的方向之一。長期以來，漏洞挖掘和修復(fù)工作都要依賴人工進行，這限制了網(wǎng)絡(luò)安全人員對漏洞的發(fā)現(xiàn)和修正速度，給黑客及黑客組織使用漏洞進行攻擊提供了機會。2016 年，美國國防部高級研究計劃局資助的第一屆機器自動攻防大賽(Cyber Grand Challenge，CGC)揭示了人工智能加持下漏洞自動化挖掘和修復(fù)的未來。近年來，已經(jīng)有大量研究者提出將深度學(xué)習(xí)應(yīng)用到漏洞挖掘中，并取得了一定的成果。
僵 尸 網(wǎng) 絡(luò) 一 直 在 隱 藏 攻 擊 者、 開 展 大 規(guī)模 分 布 式 拒 絕 服 務(wù) 攻 擊(Distributed Denial of Service，DDoS)方面扮演著重要角色。人工智能給僵尸網(wǎng)絡(luò)帶來的最大變化就是以大量物聯(lián)網(wǎng)(Internet of Things，IoT)設(shè)備為基礎(chǔ)，通過蜂巢網(wǎng)絡(luò)(Hivenets)和機器人集群(Swarmbots)使僵尸網(wǎng)絡(luò)中的設(shè)備從“奴隸”變?yōu)榭梢栽谝欢ūO(jiān)督下進行自主行動的機器人，極大地提高了僵尸網(wǎng)絡(luò)擁有者能夠維護的網(wǎng)絡(luò)規(guī)模以及僵尸網(wǎng)絡(luò)的擴張速度。網(wǎng)絡(luò)安全研究者也嘗試通過使用人工智能技術(shù)來實現(xiàn)為僵尸網(wǎng)絡(luò)發(fā)起的DDoS 攻擊提供早期檢測 。
威脅情報識別與利用對于現(xiàn)在的網(wǎng)絡(luò)安全愈發(fā)重要。攻擊者數(shù)量的快速增長，迫使網(wǎng)絡(luò)安全防護體系嘗試在攻擊發(fā)起之前就形成阻斷，這就是威脅情報的核心作用。然而傳統(tǒng)的威脅情報生成方法識別精度不高，普遍需要人工分析確認。人工智能能夠通過算法和模型提高人工分析的速度和準確度，進而提高威脅情報的產(chǎn)出。已有研究者提出使用神經(jīng)網(wǎng)絡(luò)來進行威脅實體的識別，并在大規(guī)模網(wǎng)絡(luò)安全數(shù)據(jù)集上取得了較好的實驗結(jié)果。
繞過攻擊對象的安全防護一直是網(wǎng)絡(luò)攻擊者的目標，人工智能通過威脅模型算法提高安全防護的同時，也給攻擊者提供了新的安全敞口和攻擊思路。例如，人工智能模型的訓(xùn)練需要不斷的數(shù)據(jù)積累，攻擊者可以通過構(gòu)造錯誤的數(shù)據(jù)來干擾人工智能模型的學(xué)習(xí)，從而使模型失效，也就是“中毒攻擊”。也有直接通過構(gòu)造數(shù)據(jù)對算法本身脆弱性進行攻擊的例子。也有攻擊者嘗試通過人工智能來發(fā)現(xiàn)現(xiàn)有防御體系的弱點或隱藏具體攻擊行為。目前已有研究提出通過對抗神經(jīng)網(wǎng)絡(luò)來實現(xiàn)對現(xiàn)有流量監(jiān)測技術(shù)的繞過。
除此之外，人工智能在網(wǎng)絡(luò)測繪、事件響應(yīng)、風險評估等方面的應(yīng)用也在持續(xù)深入。
1.2 人工智能在網(wǎng)絡(luò)安全領(lǐng)域的特點
通過對人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用情況進行梳理，本文認為當前人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用相比其他領(lǐng)域的應(yīng)用存在技術(shù)服務(wù)化、倫理顧慮少、對抗性強等特點。
(1)技術(shù)服務(wù)化。人工智能經(jīng)過多年的發(fā)展，即使已經(jīng)比最初誕生時大幅度降低了學(xué)習(xí)和使用的門檻，但其所要求的算力、知識和數(shù)據(jù)的絕對數(shù)量依然是大部分個人開發(fā)者難以負擔得起的。在人工智能應(yīng)用的幾個主要領(lǐng)域中，人工智能作為產(chǎn)品進行售賣時往往需要進行較多的定制才能夠貼合實際業(yè)務(wù)場景的需要。網(wǎng)絡(luò)安全領(lǐng)域高度單一的對抗需求使得人工智能產(chǎn)品能夠形成聚焦精準方向的應(yīng)用。專注于攻擊的比通用型的人工智能應(yīng)用開發(fā)更加簡單、場景更加單一，不再需要終端用戶的大量適配，可以輕松封裝成為產(chǎn)品，從而使開發(fā)者和使用者分離開來，也就是技術(shù)服務(wù)化。
(2)倫理顧慮少。人工智能的倫理問題一直是社會關(guān)切的話題，已有學(xué)者指出人工智能本身具有的特征可能在基本人權(quán)、社會秩序和國家安全上產(chǎn)生倫理風險。在網(wǎng)絡(luò)安全領(lǐng)域中，已經(jīng)有學(xué)者考慮到人工智能在個人信息保護中的倫理問題。但基于網(wǎng)絡(luò)安全領(lǐng)域本身的安全屬性，使得研究者們在新技術(shù)應(yīng)用時受到的制約相對較少且缺少監(jiān)督。在自動化攻擊手段使用場景和影響、自動化滲透測試方面對從業(yè)人員的影響等相關(guān)倫理問題的顧慮和討論較少。
(3)對抗性強。網(wǎng)絡(luò)安全領(lǐng)域的誕生與發(fā)展是網(wǎng)絡(luò)中對抗行為的結(jié)果。當越來越多的人涌入網(wǎng)絡(luò)空間時，網(wǎng)絡(luò)空間受到的攻擊也呈指數(shù)增長。相較于人工智能在其他領(lǐng)域的應(yīng)用，網(wǎng)絡(luò)安全領(lǐng)域的人工智能的根本目的在于幫助使用者在對抗中取得優(yōu)勢：眾多研究者的研究目的在于提高安全性，而攻擊者們希望突破安全防護。可以說，網(wǎng)絡(luò)安全領(lǐng)域的人工智能由于領(lǐng)域的特性，在表現(xiàn)上呈現(xiàn)出了遠超其他領(lǐng)域的對抗性。
2 人工智能與關(guān)鍵信息基礎(chǔ)設(shè)施安全
威脅分析關(guān)鍵信息基礎(chǔ)設(shè)施安全一直是世界各國政府網(wǎng)絡(luò)安全工作關(guān)注的焦點。美國作為網(wǎng)絡(luò)技術(shù)的發(fā)源地，聯(lián)邦政府高度重視信息化建設(shè)工作。早在 1996 年 7 月 15 日就發(fā)布第 13010 號行政命令《關(guān)鍵基礎(chǔ)設(shè)施保護》，并于次年對關(guān)鍵信息基礎(chǔ)設(shè)施進行定義。1996 年，中國開始實行的網(wǎng)絡(luò)和信息系統(tǒng)等級保護制度也可以被認為是一種具有中國特色的關(guān)鍵信息基礎(chǔ)設(shè)施保護制度;2021 年 9 月 1 日起施行的《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護條例》從法規(guī)上進一步完善了中國關(guān)鍵信息基礎(chǔ)設(shè)施安全防護體系。關(guān)鍵信息基礎(chǔ)設(shè)施安全防護的具體制度和措施在不同國家存在差別，但從全球主要國家的相關(guān)舉措上也可以看到，當前全球關(guān)鍵信息基礎(chǔ)設(shè)施安全存在著安全組織制度建設(shè)強于技術(shù)體系、基礎(chǔ)組件供應(yīng)鏈高度同質(zhì)化、容易成為網(wǎng)絡(luò)攻擊目標等共同點。
(1)安全組織制度建設(shè)強于技術(shù)體系。由于關(guān)鍵信息基礎(chǔ)設(shè)施涵蓋種類多，部署地域分散等特點，建立統(tǒng)一的關(guān)鍵信息基礎(chǔ)設(shè)施防護體系存在技術(shù)上的難度，很少有國家形成系統(tǒng)性的關(guān)鍵信息基礎(chǔ)設(shè)施安全防護技術(shù)體系。更多國家是將關(guān)鍵信息基礎(chǔ)設(shè)施運營者組織起來形成制度化的威脅情報共享機制、事件響應(yīng)協(xié)同機制，如日本的網(wǎng)絡(luò)安全信息共享、脫歐以來的英國網(wǎng)絡(luò)安全新體制等都是在組織和制度角度提高關(guān)鍵信息基礎(chǔ)設(shè)施的安全水平 ，像是美國愛因斯坦工程那樣覆蓋全國關(guān)鍵信息基礎(chǔ)設(shè)施的安全技術(shù)體系還是少數(shù)。
(2)基礎(chǔ)組件供應(yīng)鏈高度同質(zhì)化。關(guān)鍵信息基礎(chǔ)設(shè)施大多結(jié)構(gòu)復(fù)雜，但在全球關(guān)鍵信息基礎(chǔ)設(shè)施建設(shè)過程中可供選擇的軟件卻高度同質(zhì)化。特別是自 Web2.0 時代以來，越來越多的信息系統(tǒng)采用 B/S 架構(gòu)，關(guān)鍵信息基礎(chǔ)設(shè)施采用的開源組件高度同質(zhì)。2021 年末爆發(fā)的 Apache Log4j 遠程代碼執(zhí)行漏洞以及 2014 的 Heartbleed漏洞在全網(wǎng)范圍內(nèi)造成了重大影響，大量關(guān)鍵信息基礎(chǔ)設(shè)施在漏洞爆發(fā)期安全承壓，甚至產(chǎn)生了應(yīng)急人員不足的情況。關(guān)鍵信息基礎(chǔ)設(shè)施基礎(chǔ)組件供應(yīng)鏈高度同質(zhì)化的情況可見一斑。
(3)容易成為網(wǎng)絡(luò)攻擊目標。從近年來的重要網(wǎng)絡(luò)安全事件來看，針對關(guān)鍵信息基礎(chǔ)設(shè)施的攻擊數(shù)量急劇增長。一方面，關(guān)鍵信息基礎(chǔ)設(shè)施承載國民經(jīng)濟正常運行，一旦被攻擊成功往往能讓攻擊者快速達到金錢、政治等方面的攻擊目的。另一方面，隨著網(wǎng)絡(luò)在社會中的滲透，特別是物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)的發(fā)展使得大量設(shè)備接入網(wǎng)絡(luò)空間，攻擊者能夠訪問到關(guān)鍵信息基礎(chǔ)設(shè)施的機會也越來越多。收益預(yù)期和攻擊敞口的變化使得關(guān)鍵信息基礎(chǔ)設(shè)施越來越容易成為網(wǎng)絡(luò)攻擊的目標。
當前網(wǎng)絡(luò)空間人工智能化的網(wǎng)絡(luò)攻防趨勢已經(jīng)形成，關(guān)鍵信息基礎(chǔ)設(shè)施安全進一步受到全面挑戰(zhàn) 。關(guān)鍵信息基礎(chǔ)設(shè)施長期面對有國家背景的 APT 組織、隨時爆發(fā)的高等級脆弱性以及 APT 水平的勒索軟件等威脅，人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用又加速了傳統(tǒng)網(wǎng)絡(luò)安全威脅的進化。結(jié)合全球關(guān)鍵信息基礎(chǔ)設(shè)施安全的共同點，可以認為全球關(guān)鍵信息基礎(chǔ)設(shè)施面臨攻擊模式自動演化、攻擊手段自動化以及攻擊者分工專業(yè)化等安全挑戰(zhàn)。
2.1 攻擊模式自動演化挑戰(zhàn)
傳統(tǒng)關(guān)鍵信息基礎(chǔ)設(shè)施安全主要是從邊界防護的角度對整體防護體系進行設(shè)計，從理念上來看缺少對抗性。現(xiàn)有滲透測試方法中通過構(gòu)造包含大量無效數(shù)據(jù)的請求包來繞過防火墻正是防護體系缺乏對抗性的表現(xiàn)。在人工智能的背景下，攻擊者將通過人工智能快速提高對抗的次數(shù)并進行分析，實現(xiàn)攻擊模式的自動演化?，F(xiàn)在已經(jīng)有攻擊者嘗試通過生成對抗網(wǎng)絡(luò)(Generative Adversarial Networks，GAN)來模擬關(guān)鍵信息基礎(chǔ)設(shè)施防護體系的威脅檢測系統(tǒng)，從而讓自己的惡意代碼能夠繞過防護體系。類似的情況也發(fā)生在惡意文件檢測的繞過上。攻擊模式自動演化是人工智能給關(guān)鍵信息基礎(chǔ)設(shè)施帶來的最為嚴重的挑戰(zhàn)，長期來看將使關(guān)鍵信息基礎(chǔ)設(shè)施的安全防護體系的建設(shè)理念發(fā)生重大轉(zhuǎn)變。
2.2 攻擊手段自動化挑戰(zhàn)
隨著人工智能應(yīng)用門檻的進一步降低，越來越多的攻擊者開始通過人工智能技術(shù)開發(fā)自動化的攻擊手段或為原有的攻擊手段進行智能化升級。這一點在勒索軟件即服務(wù)(Ransomware as-a-Service，RaaS)和組織僵尸網(wǎng)絡(luò)上體現(xiàn)得尤為明顯。越來越多的勒索軟件和僵尸病毒通過預(yù)先設(shè)定的機器人(bot)程序在網(wǎng)絡(luò)內(nèi)自動搜索并感染設(shè)備，從而快速擴大感染規(guī)模。攻擊者只需將惡意病毒載荷進行一次有效投放，就可以自動化實現(xiàn)階段性的攻擊目的。也有攻擊者為各個攻擊節(jié)點通過人工智能增強其自主性，實現(xiàn)去中心化的自動攻擊?？偟膩砜?，攻擊手段自動化一方面加快了攻擊成功后擴大影響的速度，另一方面延后了攻擊暴露的時間節(jié)點，對關(guān)鍵信息基礎(chǔ)設(shè)施安全響應(yīng)的速度提出了更高要求。
2.3 攻擊者分工專業(yè)化挑戰(zhàn)
早年的網(wǎng)絡(luò)攻擊者進行網(wǎng)絡(luò)攻擊的目的較為多樣，以炫技、出名為主要目的的攻擊者并不在少數(shù)，往往一個人承擔了網(wǎng)絡(luò)攻擊的全部環(huán)節(jié)。隨著數(shù)字經(jīng)濟的發(fā)展，越來越多的攻擊者開始專注于非法利潤的獲取，對于攻擊工具更高的要求以及突破越來越多的安全防護策略使攻擊者逐漸產(chǎn)生分工。人工智能在網(wǎng)絡(luò)安全領(lǐng)域技術(shù)服務(wù)化的特點進一步加速了這一進程。網(wǎng)絡(luò)攻擊者中的研發(fā)人員可以更快地將更高級的工具封裝好提供給購買供給服務(wù)的人，關(guān)鍵信息基礎(chǔ)設(shè)施安全則受限于產(chǎn)業(yè)中人才的缺乏等因素，無法實現(xiàn)同樣速度的防護技術(shù)更新。
3 關(guān)鍵信息基礎(chǔ)設(shè)施應(yīng)對挑戰(zhàn)建議
有效應(yīng)對人工智能對全球關(guān)鍵信息基礎(chǔ)設(shè)施安全形成的挑戰(zhàn)，需要從系統(tǒng)角度全面考慮?，F(xiàn)有研究大多集中于技術(shù)層面，對人工智能帶來的全方位挑戰(zhàn)的重視度不夠。通過上文的分析，本研究認為全球關(guān)鍵信息基礎(chǔ)設(shè)施應(yīng)對人工智能帶來的安全挑戰(zhàn)需要從構(gòu)建智能化防護體系、縮短發(fā)起響應(yīng)的時間以及培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才等方面做起。
3.1 構(gòu)建智能化防護體系
建設(shè)關(guān)鍵信息基礎(chǔ)設(shè)施安全防護體系一直是保障關(guān)鍵信息基礎(chǔ)設(shè)施安全的重要舉措。面對自動演化的攻擊模式，需要對關(guān)鍵信息基礎(chǔ)設(shè)施的安全防護體系進行全面的智能化改造。
除當前已經(jīng)廣泛采用的基于人工智能的流量檢測外，關(guān)鍵信息基礎(chǔ)設(shè)施安全防護體系智能化還可以從以下幾個方面進行。一是加強人工智能在輔助決策方面的應(yīng)用，將有限的安全運營人員從快速增長的大量攻擊中解放出來，專注于處理真實、高等級的攻擊，提高防護效率。二是采用多元化的威脅分析算法及模型，形成現(xiàn)有防護體系的聯(lián)動，如通過建設(shè)智能化的網(wǎng)絡(luò)安全運營中心，為低智能的安全設(shè)備賦能，整體提升防護體系的智能化水平。三是主動采取生成對抗網(wǎng)絡(luò)、遺傳算法等人工智能技術(shù)對現(xiàn)有防護體系進行測試，從而智能化地補充防護體系的安全策略。
3.2 縮短發(fā)起響應(yīng)的時間
在網(wǎng)絡(luò)安全領(lǐng)域，包以德循環(huán)(OODA)是由 Observation(觀察)、Orientation(判斷)、Decision(決策)、Action(執(zhí)行)4 個單詞的首字母組合得名，常用于描述對從發(fā)現(xiàn)到響應(yīng)網(wǎng)絡(luò)攻擊的過程。應(yīng)對自動化的網(wǎng)絡(luò)安全攻擊手段，關(guān)鍵是縮短 OODA 中各環(huán)節(jié)的時間。當前較為有效的方法是大量部署基于云端數(shù)據(jù)的終端檢測 與 響 應(yīng)(Endpoint Detection and Response，EDR)系統(tǒng)并提高威脅情報的作用。
一方面，EDR 系統(tǒng)作用于網(wǎng)絡(luò)攻擊的控制、利用階段效果顯著，能夠幫助關(guān)鍵信息基礎(chǔ)設(shè)施的安全運營者及時發(fā)現(xiàn)存在異常行為的終端，加快發(fā)現(xiàn)已經(jīng)成功的網(wǎng)絡(luò)安全攻擊的速度。另一方面，準確迅速的威脅情報能夠幫助關(guān)鍵信息基礎(chǔ)設(shè)施安全防護體系及時啟動并完成有關(guān)研判，能夠大幅度提高安全策略的修改速度，縮短安全運營人員針對特定網(wǎng)絡(luò)安全攻擊發(fā)起響應(yīng)的時間。
3.3 培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才
關(guān)鍵信息基礎(chǔ)設(shè)施安全離不開專業(yè)人才的支持。面對越來越多的封裝好的人工智能攻擊工具，需要有更多具有人工智能學(xué)科背景的研究人員進行人工智能攻防技術(shù)的研究，從而研發(fā)出更有效的網(wǎng)絡(luò)安全防護產(chǎn)品。關(guān)鍵信息基礎(chǔ)設(shè)施運營者應(yīng)該積極參與 AI+ 網(wǎng)絡(luò)安全人才的培養(yǎng)，提高人才數(shù)量和質(zhì)量，加快網(wǎng)絡(luò)安全相關(guān)人工智能技術(shù)的研發(fā)和應(yīng)用，賦能關(guān)鍵信息基礎(chǔ)設(shè)施安全防護。特別是關(guān)鍵信息基礎(chǔ)設(shè)施每天面臨著數(shù)量眾多的網(wǎng)絡(luò)攻擊，運營者掌握著大量寶貴的真實攻擊數(shù)據(jù)，通過和研究院所、企業(yè)等人才培養(yǎng)實體的合作，這些攻擊數(shù)據(jù)可以在培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才的過程中發(fā)真實場景構(gòu)建、威脅數(shù)據(jù)建模等作用，提高人才培養(yǎng)效率。
4 結(jié) 語
關(guān)鍵信息基礎(chǔ)設(shè)施對于全球各國的社會經(jīng)濟穩(wěn)定與發(fā)展都有著重要意義，關(guān)鍵信息基礎(chǔ)設(shè)施安全也因此受到越來越多的重視。人工智能對于當前全球關(guān)鍵信息基礎(chǔ)設(shè)施形成的挑戰(zhàn)是普遍且深刻的。面對人工智能帶來的攻擊模式自動演化、攻擊手段自動化、攻擊者分工專業(yè)化等挑戰(zhàn)，需要加快構(gòu)建智能化防護體系、縮短發(fā)起響應(yīng)的時間并積極參與培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才，持續(xù)保障關(guān)鍵信息基礎(chǔ)設(shè)施安全。
引用格式：宋釗 , 孫騫 . 人工智能背景下全球關(guān)鍵信息基礎(chǔ)設(shè)施安全挑戰(zhàn)與對策 [J]. 信息安全與通信保密 ,2022(6):94-101.
作者簡介 >>>
宋 釗，男，碩士，助理工程師，主要研究方向為網(wǎng)絡(luò)安全、應(yīng)急管理;孫 騫，男，博士，高級工程師，主要研究方向為網(wǎng)絡(luò)安全。
選自《信息安全與通信保密》2022年第6期
來源：信息安全與通信保密雜志社
