“我們有可能在幾千天后就擁有超級(jí)智能；也許需要更長(zhǎng)的時(shí)間，但我相信我們一定會(huì)實(shí)現(xiàn)。” 9月23日，OpenAI創(chuàng)始人Sam Altman在X平臺(tái)發(fā)布的長(zhǎng)文《智能時(shí)代》引起了巨大的反響。超級(jí)智能正勢(shì)不可擋地向我們呼嘯而來。
然而，歡欣鼓舞之際，我們不能忘記特斯拉創(chuàng)始人馬斯克“人工智能可能是有史以來最具破壞性的技術(shù)”這個(gè)更為知名的言論。
未來人人可得的“超級(jí)智能”也勢(shì)必會(huì)給網(wǎng)絡(luò)安全帶來超級(jí)挑戰(zhàn)，我們?cè)撛趺崔k?
超級(jí)AI對(duì)網(wǎng)絡(luò)安全的影響
Sam Altman在《智能時(shí)代》一文提到的觀點(diǎn)還包括：
● 人工智能 (AI) 將使人們能夠完成比以往更多的任務(wù)。我們將擁有個(gè)人 AI 團(tuán)隊(duì)和虛擬導(dǎo)師來協(xié)助各個(gè)領(lǐng)域;
● 深度學(xué)習(xí)算法已被證明能夠有效地從數(shù)據(jù)中學(xué)習(xí)并隨著規(guī)模的擴(kuò)大而改進(jìn)。隨著計(jì)算能力和數(shù)據(jù)的增加，AI 能力將繼續(xù)快速發(fā)展;
● AI將在全球范圍內(nèi)帶來顯著的繁榮改善。然而，在這個(gè)高風(fēng)險(xiǎn)的“智能時(shí)代”過渡中，需要應(yīng)對(duì)復(fù)雜的挑戰(zhàn);
● 降低計(jì)算成本并使其豐富對(duì)于實(shí)現(xiàn)AI的民主化至關(guān)重要。否則，它可能會(huì)成為爭(zhēng)奪的有限資源，主要惠及富人。
我們?cè)跒镾am Altman勾畫的AI遠(yuǎn)景歡呼雀躍的同時(shí)，又不得不為超級(jí)AI可能帶來的高風(fēng)險(xiǎn)挑戰(zhàn)而擔(dān)憂。
正如OpenAI的首席執(zhí)行官Sam Altman所述，AI將成為網(wǎng)絡(luò)防御者手中的利器，網(wǎng)絡(luò)安全領(lǐng)域面臨著前所未有的機(jī)遇與挑戰(zhàn)。
根據(jù)Gartner的預(yù)測(cè)，到2025年，GenAI的采用將導(dǎo)致企業(yè)機(jī)構(gòu)所需的網(wǎng)絡(luò)安全資源激增，從而使應(yīng)用和數(shù)據(jù)安全支出增加15%以上。
超級(jí)智能對(duì)網(wǎng)絡(luò)安全的積極影響
AI將增強(qiáng)威脅檢測(cè)和響應(yīng)能力。
一方面，實(shí)現(xiàn)日常防控任務(wù)的自動(dòng)化。智能系統(tǒng)可以24小時(shí)不間斷地監(jiān)控網(wǎng)絡(luò)活動(dòng)，及時(shí)發(fā)現(xiàn)異常情況，并在毫秒級(jí)別內(nèi)做出響應(yīng)，其速度和規(guī)模遠(yuǎn)超人類安全團(tuán)隊(duì)。IBM報(bào)告稱，人工智能可以將檢測(cè)和應(yīng)對(duì)威脅所需的時(shí)間縮短多達(dá)14周。
另一方面，AI 可以實(shí)時(shí)分析大量數(shù)據(jù)，以識(shí)別存在網(wǎng)絡(luò)威脅的模式和異常情況，持續(xù)監(jiān)控和快速檢測(cè)違規(guī)行為，包括傳統(tǒng)系統(tǒng)可能錯(cuò)過的零日漏洞。
AI的自適應(yīng)學(xué)習(xí)能力也將為網(wǎng)絡(luò)安全防護(hù)開辟新的天地。通過機(jī)器學(xué)習(xí)算法，系統(tǒng)可以不斷優(yōu)化檢測(cè)模型，自主學(xué)習(xí)新的攻擊特征。隨著時(shí)間的推移，這種持續(xù)改進(jìn)將提高它們的準(zhǔn)確性和有效性，使網(wǎng)絡(luò)犯罪分子難以智取它們。AI系統(tǒng)還可以利用威脅情報(bào)來預(yù)測(cè)和應(yīng)對(duì)新出現(xiàn)的漏洞。
此外，網(wǎng)絡(luò)安全專家也可以利用AI技術(shù)，構(gòu)建虛擬AI安全助手，為中小企業(yè)和個(gè)人用戶提供專業(yè)指導(dǎo)。這些AI助手可以分析用戶的設(shè)備配置和上網(wǎng)行為，識(shí)別其中的安全隱患，并給出針對(duì)性的防護(hù)建議。不僅如此， AI安全助手能讓新手用戶快速掌握先進(jìn)的網(wǎng)絡(luò)安全功能。
AI的發(fā)展帶來網(wǎng)絡(luò)威脅的放大。
AI的發(fā)展為網(wǎng)絡(luò)犯罪分子提供新的攻擊工具，帶來網(wǎng)絡(luò)威脅的放大。
首先，AI將帶來更加復(fù)雜的攻擊。AI 技術(shù)支持更復(fù)雜的網(wǎng)絡(luò)攻擊，例如高級(jí)網(wǎng)絡(luò)釣魚計(jì)劃和自動(dòng)化社會(huì)工程策略。這些攻擊可能更容易被技能較低的網(wǎng)絡(luò)犯罪分子利用，從而加劇整體威脅形勢(shì)。例如，網(wǎng)絡(luò)犯罪分子可能利用自然語言處理技術(shù)，批量生成以假亂真的釣魚郵件，誘騙用戶點(diǎn)擊惡意鏈接或泄露敏感信息。德勤預(yù)測(cè)，到2027年，美國(guó)生成式AI帶來的欺詐損失將達(dá)到400億美元，而2023年這個(gè)數(shù)據(jù)為123億美元，年復(fù)合增長(zhǎng)率達(dá)到32%。
其次，AI 驅(qū)動(dòng)的惡意軟件浮出水面。黑客可能利用機(jī)器學(xué)習(xí)算法，自動(dòng)化地挖掘系統(tǒng)漏洞，生成海量的惡意樣本。傳統(tǒng)的基于特征匹配的防御手段將難再有效應(yīng)對(duì)。同時(shí)，AI還可能被用于實(shí)施大規(guī)模的社會(huì)工程攻擊。
最后，攻擊面將大幅增加。隨著組織對(duì)先進(jìn) AI 技術(shù)的采用，潛在漏洞的復(fù)雜性和數(shù)量可能會(huì)增加，從而導(dǎo)致網(wǎng)絡(luò)犯罪分子可以利用的攻擊面更廣。亞信安全高級(jí)副總裁陳奮認(rèn)為，攻擊者的攻擊目標(biāo)將從傳統(tǒng)資產(chǎn)轉(zhuǎn)變?yōu)锳I算力基礎(chǔ)設(shè)施和大模型。
網(wǎng)絡(luò)安全正在演變?yōu)橐粓?chǎng)“人工智能軍備競(jìng)賽
隨著攻防雙方都在積極布局AI賽道，網(wǎng)絡(luò)安全正在演變?yōu)橐粓?chǎng)“人工智能軍備競(jìng)賽”。谷歌、微軟等科技巨頭紛紛加大研發(fā)投入，力圖在AI安全領(lǐng)域占得先機(jī)。與此同時(shí)，地下黑產(chǎn)也在利用AI不斷翻新攻擊手段，網(wǎng)絡(luò)威脅的升級(jí)速度正在超出業(yè)界的預(yù)期。這場(chǎng)較量的最終結(jié)果，將取決于AI技術(shù)的普及程度。如果先進(jìn)的網(wǎng)絡(luò)防御AI僅為少數(shù)大企業(yè)所把持，廣大中小企業(yè)和個(gè)人用戶將處于非常被動(dòng)的局面。網(wǎng)絡(luò)空間的貧富分化將進(jìn)一步加劇，數(shù)字鴻溝問題將更加嚴(yán)峻。
為了應(yīng)對(duì)這一挑戰(zhàn)，我們必須大力推進(jìn)網(wǎng)絡(luò)安全AI的普惠化進(jìn)程。一方面要加強(qiáng)基礎(chǔ)設(shè)施建設(shè)，降低計(jì)算成本，讓更多用戶能夠負(fù)擔(dān)得起AI防護(hù)服務(wù)。同時(shí)，安全廠商要面向中小微企業(yè)，提供靈活實(shí)惠的AI產(chǎn)品，幫助其快速補(bǔ)齊短板。另一方面，開源社區(qū)要發(fā)揮獨(dú)特優(yōu)勢(shì)，集眾人之智，打造易用、透明、可審計(jì)的AI安全工具。只有網(wǎng)絡(luò)防御資源得到充分共享，才能真正構(gòu)建韌性十足的安全生態(tài)。
超級(jí)AI時(shí)代的網(wǎng)絡(luò)安全
當(dāng)人工智能技術(shù)飛速邁向AGI(Artificial General Intelligence，通用人工智能)和超級(jí)智能(Superintelligence)時(shí)代，網(wǎng)絡(luò)安全的范式勢(shì)必面臨顛覆性的變革。由于先進(jìn)的AI系統(tǒng)已具備了自我迭代優(yōu)化的能力，未來的網(wǎng)絡(luò)安全之戰(zhàn)很可能演變?yōu)橐粓?chǎng)“AI對(duì)決AI”的角力。防御方需要部署更智能、更敏捷的AI模型，來對(duì)抗攻擊方開發(fā)的進(jìn)攻性AI武器。自動(dòng)化的網(wǎng)絡(luò)攻防將在毫秒、微秒的時(shí)間尺度內(nèi)反復(fù)博弈，遠(yuǎn)超人類專家團(tuán)隊(duì)的反應(yīng)速度。
根據(jù)未來學(xué)家Ray Kurzweil的預(yù)測(cè)，人類有望在2045年前后實(shí)現(xiàn)AGI的突破。屆時(shí)AI系統(tǒng)的智能水平將與人類不分伯仲，能夠勝任幾乎所有領(lǐng)域的認(rèn)知工作。一個(gè)令人擔(dān)憂的可能性是，如果AGI落入心懷不軌之人之手，惡意AI將以史無前例的規(guī)模對(duì)網(wǎng)絡(luò)空間發(fā)動(dòng)攻擊。攻擊目標(biāo)不再局限于信息系統(tǒng)本身，還可能波及交通、電力、供水等關(guān)鍵基礎(chǔ)設(shè)施。由AI挖掘的“零日”漏洞、AI合成的蠕蟲木馬，都將成為極其棘手的安全隱患。
為了應(yīng)對(duì)這一威脅，網(wǎng)絡(luò)安全領(lǐng)域必須積極擁抱AI技術(shù)，大力發(fā)展基于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的智能防御體系。傳統(tǒng)的基于規(guī)則、特征庫(kù)的檢測(cè)手段很快就會(huì)舉步維艱，了解并接納自適應(yīng)、自進(jìn)化的AI安全大腦勢(shì)在必行，從而通過云端協(xié)同，實(shí)現(xiàn)全網(wǎng)威脅情報(bào)的實(shí)時(shí)共享；利用圖神經(jīng)網(wǎng)絡(luò)、知識(shí)圖譜等前沿算法，構(gòu)建全局業(yè)務(wù)關(guān)聯(lián)模型，從海量、高維的異構(gòu)數(shù)據(jù)中精準(zhǔn)定位違規(guī)行為;結(jié)合強(qiáng)化學(xué)習(xí)、生成對(duì)抗網(wǎng)絡(luò)等技術(shù)，不斷迭代對(duì)抗策略，對(duì)未知攻擊做到快速響應(yīng)。
值得一提的是，在后量子密碼學(xué)時(shí)代，現(xiàn)有的RSA、ECC等加密算法很可能被量子計(jì)算機(jī)攻破。此時(shí)，就需要全新的密碼學(xué)體系來保障通信安全和數(shù)據(jù)隱私。AGI有望催生革命性的密碼學(xué)原理，構(gòu)建經(jīng)得起量子攻擊的防護(hù)墻。其中，同態(tài)加密(Homomorphic Encryption)是一個(gè)具有前景的研究方向，它允許直接對(duì)密文進(jìn)行計(jì)算，在保護(hù)隱私的同時(shí)實(shí)現(xiàn)數(shù)據(jù)價(jià)值的釋放。分析認(rèn)為，同態(tài)加密與AI的結(jié)合，將極大拓展隱私計(jì)算、安全多方計(jì)算的應(yīng)用場(chǎng)景。
另一個(gè)值得關(guān)注的領(lǐng)域是AI本身的安全問題。如果AGI/超級(jí)智能系統(tǒng)出現(xiàn)失控、轉(zhuǎn)向惡意，其破壞力將是毀滅性的?！癆I威脅全球99%關(guān)鍵信息基礎(chǔ)設(shè)施”絕非危言聳聽。因此，打造安全可控、穩(wěn)健友好的AGI不僅是AI社區(qū)的當(dāng)務(wù)之急，更關(guān)乎人類的生死存亡。我們需要在算法層面防患于未然，從底層架構(gòu)入手，融入可解釋性、可審計(jì)性等安全屬性。同時(shí)要加強(qiáng)對(duì)AI系統(tǒng)的行為約束和倫理規(guī)范，建立健全相關(guān)的法律法規(guī)?？上驳氖牵④?、谷歌等企業(yè)已經(jīng)成立了專門的AI倫理委員會(huì)，與各國(guó)政府展開廣泛合作?！翱尚臕I”、“負(fù)責(zé)任AI”等理念日益深入人心。
總而言之，AI將給網(wǎng)絡(luò)安全格局帶來翻天覆地的變化。在“AI軍備競(jìng)賽”的大背景下，唯有保持技術(shù)引領(lǐng)、堅(jiān)持早做布局，才能在這場(chǎng)沒有硝煙的戰(zhàn)爭(zhēng)中贏得主動(dòng)。同時(shí)我們必須高度重視 AI倫理、AI安全等基礎(chǔ)性議題的研究，為人工智能的健康發(fā)展提供堅(jiān)實(shí)的制度保障。網(wǎng)絡(luò)空間的未來，很大程度上取決于我們現(xiàn)在的選擇。
發(fā)展與安全并重的“中國(guó)模式”
我國(guó)AI產(chǎn)業(yè)在全球占有重要地位，穩(wěn)居世界第一梯隊(duì)，在技術(shù)創(chuàng)新、產(chǎn)業(yè)規(guī)模和應(yīng)用領(lǐng)域等方面取得了顯著成就。在我國(guó)，人工智能被認(rèn)為是形成新質(zhì)生產(chǎn)力的重要引擎，成為各地競(jìng)相搶占的產(chǎn)業(yè)新賽道。
我國(guó)高度重視AI安全發(fā)展，逐步形成了較為完善的發(fā)展政策和法規(guī)體系。例如，成立國(guó)家層面的國(guó)家新一代人工智能治理專業(yè)委員會(huì)，旨在制定和發(fā)布人工智能治理的原則和規(guī)范，以確保人工智能的發(fā)展是負(fù)責(zé)任的、安全可靠的，并且能夠促進(jìn)社會(huì)的可持續(xù)發(fā)展；國(guó)家安全部提出了化解AI帶來的國(guó)家安全挑戰(zhàn)的辦法，包括數(shù)據(jù)竊取、網(wǎng)絡(luò)攻擊、經(jīng)濟(jì)安全等風(fēng)險(xiǎn)；全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)今年9月發(fā)布了《人工智能安全治理框架》，旨在推動(dòng)社會(huì)各方積極參與、協(xié)同推進(jìn)人工智能安全治理。在國(guó)際合作方面，我國(guó)主導(dǎo)的《全球人工智能治理倡議》和《人工智能安全治理框架》為國(guó)際合作提供了重要思路。
隨著人工智能技術(shù)的迅猛發(fā)展，我國(guó)正站在超級(jí)AI時(shí)代的門檻上。在這個(gè)關(guān)鍵時(shí)期，網(wǎng)絡(luò)安全面臨著前所未有的機(jī)遇與挑戰(zhàn)：
首先，必須充分認(rèn)識(shí)到AI安全風(fēng)險(xiǎn)的多元性與復(fù)雜性。正如《人工智能安全治理框架》所指出的，AI安全風(fēng)險(xiǎn)涵蓋了內(nèi)生安全風(fēng)險(xiǎn)和應(yīng)用安全風(fēng)險(xiǎn)兩大類，包括模型算法安全、數(shù)據(jù)安全、系統(tǒng)安全以及網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域、倫理域等多個(gè)方面。特別值得關(guān)注的是，隨著AI技術(shù)的不斷演進(jìn)，新的風(fēng)險(xiǎn)類型可能不斷涌現(xiàn)。例如，已經(jīng)出現(xiàn)了基于“黑灰產(chǎn)”數(shù)據(jù)訓(xùn)練的“黑模型”，專門用于詐騙等非法活動(dòng)。這要求我們建立一個(gè)動(dòng)態(tài)、適應(yīng)性強(qiáng)的風(fēng)險(xiǎn)識(shí)別和評(píng)估體系。
其次，我國(guó)在AI安全發(fā)展中面臨著如何平衡創(chuàng)新與管控的挑戰(zhàn)。我們需要采用“包容審慎、確保安全，風(fēng)險(xiǎn)導(dǎo)向、敏捷治理”的原則，在鼓勵(lì)A(yù)I創(chuàng)新的同時(shí)有效管控安全風(fēng)險(xiǎn)。這需要政府、企業(yè)、學(xué)術(shù)界、社會(huì)組織和公眾等多方共同參與，形成協(xié)同治理的格局。正如中國(guó)工程院院士鄔江興所強(qiáng)調(diào)的，我們應(yīng)該"盡量避免使用單一模型，要交叉驗(yàn)證"，這一建議不僅適用于技術(shù)層面，也適用于治理模式。
在技術(shù)層面，我國(guó)應(yīng)當(dāng)大力發(fā)展AI安全技術(shù)。正如安恒信息董事長(zhǎng)范淵所言，“以AI對(duì)AI、以AI管AI”是數(shù)字治理的必然趨勢(shì)。AI讓網(wǎng)絡(luò)攻擊的門檻更低，更難以防范。用AI來防控和治理AI，正在成為安全領(lǐng)域的必選項(xiàng)。我國(guó)需要繼續(xù)推動(dòng)AI安全技術(shù)創(chuàng)新，構(gòu)建可控可信的人工智能安全防護(hù)體系，以保障AI業(yè)務(wù)健康安全運(yùn)行。
此外，推動(dòng)AI安全能力的普惠化也是我國(guó)面臨的重要任務(wù)。目前，高水平的AI安全能力往往集中在少數(shù)大型科技公司和研究機(jī)構(gòu)手中，這可能導(dǎo)致安全鴻溝的出現(xiàn)。我們需要通過推動(dòng)開源AI安全工具的發(fā)展、鼓勵(lì)大型企業(yè)開放部分安全能力、加強(qiáng)AI安全教育和培訓(xùn)等方式，提升整個(gè)社會(huì)的AI安全素養(yǎng)。
最后，始終將倫理考量置于核心地位。AI安全不僅是技術(shù)問題，更是倫理問題。我國(guó)應(yīng)當(dāng)在追求技術(shù)進(jìn)步的同時(shí)，確保AI系統(tǒng)的公平性和非歧視性，保護(hù)個(gè)人隱私和數(shù)據(jù)權(quán)益，維護(hù)人類對(duì)AI系統(tǒng)的有效控制。
超級(jí)智能時(shí)代的到來既令人興奮又充滿挑戰(zhàn)。通過系統(tǒng)化、協(xié)同化、前瞻性的應(yīng)對(duì)策略，形成人工智能發(fā)展與安全并重的AI發(fā)展“中國(guó)模式”，我國(guó)有望在這場(chǎng)全球性的“AI安全競(jìng)賽”中占據(jù)有利地位，為構(gòu)建安全、可靠、普惠的AI生態(tài)系統(tǒng)做出重要貢獻(xiàn)。
來源：安全牛
