當前,5G、大數(shù)據(jù)、云計算、深度學習等新技術(shù)不斷發(fā)展并廣泛應用,帶來了諸多新型安全防護挑戰(zhàn),而人工智能在威脅識別、告警研判、態(tài)勢感知、風險評估、惡意檢測、安全運營等方面具有獨特價值和先天優(yōu)勢,因此利用人工智能技術(shù)為網(wǎng)絡安全領(lǐng)域賦能成為大勢所趨。
新形勢對網(wǎng)絡安全防護
提出新要求
隨著全球網(wǎng)絡空間戰(zhàn)略博弈的升級和攻防對抗的持續(xù)加劇,網(wǎng)絡安全形勢正在發(fā)生深刻變化。一方面,網(wǎng)絡攻擊強度烈度不斷升級。網(wǎng)絡攻擊手段不斷升級、強度持續(xù)提升、規(guī)模不斷擴大,網(wǎng)絡攻擊主體更加多元,涉及個人、企業(yè)、社會組織甚至國家。另一方面,網(wǎng)絡安全形勢發(fā)生深刻變化。隨著人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)等技術(shù)不斷創(chuàng)新和相互滲透,網(wǎng)絡空間與物理空間高度融合,二者關(guān)聯(lián)愈發(fā)密切、邊界趨于模糊。因此,網(wǎng)絡空間攻擊可對物理空間造成威脅,甚至引發(fā)國計民生領(lǐng)域相關(guān)業(yè)務停滯,安全風險從單點向全局蔓延。
同時,信息技術(shù)的持續(xù)演進催生了新的安全防護需求。例如,6G、算力網(wǎng)絡、人工智能等新一代信息技術(shù)賦能行業(yè)創(chuàng)新發(fā)展,在“技術(shù)紅利”加速釋放之際,安全問題也愈發(fā)凸顯,安全防護需求急劇增加。
一是6G多元融合應用激發(fā)增強級安全防御需求。6G網(wǎng)絡具有海量多模數(shù)據(jù)、多元融合場景、全域網(wǎng)絡融合等特點,在沉浸式通信、智慧城市運營、智能制造交互等場景應用方面,產(chǎn)生了輕量化、細粒度、可定制、原子化、可編排等新的安全防護需求。
二是算力網(wǎng)絡提速發(fā)展面臨錯綜復雜的安全挑戰(zhàn)。算力網(wǎng)絡已成為千行百業(yè)數(shù)字化轉(zhuǎn)型的基石底座,“云、網(wǎng)、邊、算”等環(huán)節(jié)安全風險積聚,風險點位和攻擊入口增多;算力、網(wǎng)絡、管理方面風險交織,安全風險級聯(lián)影響范圍不斷擴大。
三是人工智能應用帶來新的安全風險。ChatGPT引發(fā)全球大模型競賽,推動人工智能從專用弱智能向通用強智能邁進,智能水平的躍遷、應用模式的變革加劇了人工智能安全風險?!邦惾恕钡耐ㄓ脧娭悄苁沟么竽P途哂泻軓姷倪壿?、記憶、理解、推理和生成能力,可以做到觸類旁通和智能涌現(xiàn)。但同時,人工智能技術(shù)也將大幅降低網(wǎng)絡攻擊的技術(shù)“門檻”,批量“釣魚”郵件生成、批量漏洞挖掘、批量惡意代碼生成等手段,顯著加劇整體威脅態(tài)勢。此外,人工智能發(fā)展也將帶來安全風險,包括數(shù)據(jù)隱私泄露、虛假信息泛濫、算法偏見歧視、算法弱可靠性、“數(shù)據(jù)投毒”等。
在此背景下,傳統(tǒng)的網(wǎng)絡安全技術(shù)已無法滿足日益增長的安全防護需求,基于人工智能的新型網(wǎng)絡安全技術(shù)和產(chǎn)品應運而生。
政策、標準就位
“人工智能+安全”風口已至
人工智能技術(shù)經(jīng)過數(shù)十年的積累和醞釀,經(jīng)歷了專家系統(tǒng)、機器學習與神經(jīng)網(wǎng)絡、深度學習、大模型四個階段的發(fā)展,終于開啟了實踐應用之路。目前,人工智能正驅(qū)動新一輪基礎(chǔ)設(shè)施建設(shè),并與實體經(jīng)濟深度融合,賦能千行百業(yè),引發(fā)“鏈式”變革。
人工智能戰(zhàn)略法規(guī)
當前,人工智能產(chǎn)業(yè)蓬勃發(fā)展,全球主要國家和地區(qū)紛紛發(fā)布人工智能發(fā)展戰(zhàn)略規(guī)劃,構(gòu)建人工智能安全標準體系,人工智能已然成為國際競爭的新焦點。美國公布了《國家人工智能研發(fā)戰(zhàn)略計劃》等一系列圍繞人工智能使用和發(fā)展的新舉措;歐盟委員會發(fā)布了《人工智能法案》,依法對人工智能發(fā)展進行監(jiān)管;日本提出了超智能社會5.0戰(zhàn)略,人工智能是實現(xiàn)該戰(zhàn)略的核心技術(shù)之一;韓國也發(fā)布了人工智能研發(fā)戰(zhàn)略。
而我國早在2017年就正式印發(fā)了《新一代人工智能發(fā)展規(guī)劃》(以下簡稱《規(guī)劃》),從戰(zhàn)略態(tài)勢、總體要求、資源配置、立法、組織等層面闡述了我國人工智能發(fā)展規(guī)劃?!兑?guī)劃》還要求加強人工智能標準框架體系研究,其中包括人工智能網(wǎng)絡安全、隱私保護等技術(shù)標準。
人工智能相關(guān)標準
在人工智能的發(fā)展浪潮下,全球主要國家和標準組織積極研究制定人工智能相關(guān)標準。ISO/IEC JTC1制定了《信息技術(shù)人工智能 人工智能可信度概述》《信息技術(shù)人工智能風險管理》《信息技術(shù)人工智能倫理和社會關(guān)注概述》等標準;IEEE制定了《個人數(shù)據(jù)人工智能代理標準》《倫理驅(qū)動的機器人和自動化系統(tǒng)的本體標準》等標準;美國國家標準與技術(shù)研究院發(fā)布了《關(guān)于政府如何制定人工智能技術(shù)標準和相關(guān)工具的指導意見》。
2020年,我國國家標準化管理委員會等五部門印發(fā)《國家新一代人工智能標準體系建設(shè)指南》,要求建立人工智能標準體系,全面引領(lǐng)人工智能產(chǎn)業(yè)規(guī)范化發(fā)展的新格局。目前,國家標準化管理委員會和中國通信標準化協(xié)會(CCSA)等標準組織正在開展人工智能相關(guān)技術(shù)研究及標準化工作。
在國家標準方面,2018年1月,國家標準化管理委員會正式成立國家人工智能標準化總體組,負責人工智能標準化工作的統(tǒng)籌協(xié)調(diào)和規(guī)劃布局,目前已發(fā)布《人工智能安全標準化白皮書(2019版)》《人工智能倫理風險分析報告》等標準規(guī)范,正在研究制定人工智能術(shù)語、人工智能倫理風險評估等標準。
在行業(yè)標準方面,中國通信標準化協(xié)會聚焦人工智能大模型的技術(shù)、開發(fā)、安全、評估等方面展開研究,正在制定《人工智能開發(fā)平臺通用要求》《可信人工智能 人工智能系統(tǒng)風險管理能力要求》《移動智能終端可信人工智能安全指南》《生成式人工智能技術(shù)及產(chǎn)品評估方法 》等行業(yè)標準。
顯然,人工智能賦能網(wǎng)絡安全已獲得足夠的政策支持,并且有全方位的標準指導,我國進入全面智能防護時代指日可待。
人工智能助力網(wǎng)絡
安全范式轉(zhuǎn)變
人工智能技術(shù)的快速發(fā)展使得網(wǎng)絡安全領(lǐng)域迎來前所未有的變革。在人工智能的加持下,5G、6G網(wǎng)絡安全防護能力將大幅提升,具備內(nèi)生安全自感知、自適應、自生長等特點;運營商網(wǎng)絡安全運營能力體系建設(shè)將更加完善,實現(xiàn)對海量數(shù)據(jù)的降噪與分析,對新型、未知網(wǎng)絡威脅的自動化監(jiān)測和預警等。
5G內(nèi)生安全
基于人工智能技術(shù),在5G設(shè)備、5G網(wǎng)絡邊界、5G網(wǎng)元等多元視角下,構(gòu)建各類5G網(wǎng)絡安全知識庫(如增強防御能力規(guī)則庫、行為庫、關(guān)聯(lián)關(guān)系庫、攻擊對抗策略庫等);基于5G網(wǎng)絡安全知識庫,設(shè)計并訓練人工智能算法,如基于狀態(tài)和行為特征挖掘的漏洞檢測算法、基于API關(guān)系圖的聚類檢測算法、基于行為特征的關(guān)聯(lián)分析算法等,進而構(gòu)建5G網(wǎng)元的記憶和學習能力系統(tǒng),實現(xiàn)智能的5G安全感知和檢測等。
6G內(nèi)生安全
6G網(wǎng)絡安全將具備主動免疫、彈性自治、虛擬共生和泛在協(xié)同四個特點。主動免疫是指6G網(wǎng)絡需構(gòu)建安全可信的通信環(huán)境,使網(wǎng)絡基礎(chǔ)設(shè)施具備一定的主動防御能力;彈性自治主要是為了適應6G云化網(wǎng)絡的安全要求,因6G的彈性可伸縮網(wǎng)絡框架已完全打破傳統(tǒng)的安全邊界,所以需要實現(xiàn)安全能力的按需定制、動態(tài)部署和彈性伸縮;虛擬共生旨在賦能安全演練、安全運維等場景,6G時代物理世界與虛擬世界深度融合,需要實現(xiàn)物理網(wǎng)絡與虛擬孿生網(wǎng)絡安全的統(tǒng)一部署,利用數(shù)字孿生技術(shù)可幫助物理網(wǎng)絡實現(xiàn)低成本試錯和智能化決策;泛在協(xié)同指的是6G網(wǎng)絡將建立“端、邊、網(wǎng)、云”智能主體間的泛在交互和協(xié)同機制,借助人工智能技術(shù),精準感知網(wǎng)絡安全態(tài)勢并預測潛在風險,進而實現(xiàn)主動防御和風險自動處置。
在6G內(nèi)生安全框架中,新增獨立的安全平面,推動資源層、網(wǎng)絡層、應用層和服務層實現(xiàn)智能協(xié)同,并靈活調(diào)整網(wǎng)元、設(shè)備的安全策略,針對應用與服務按需部署安全功能,進而實現(xiàn)主動、縱深安全防御。
自動化網(wǎng)絡安全運營
運營商網(wǎng)絡是國家重要的信息基礎(chǔ)設(shè)施,一旦遭受網(wǎng)絡攻擊,可能會導致通信中斷和業(yè)務損失,因此需要對運營商網(wǎng)絡通信系統(tǒng)面臨的安全威脅進行監(jiān)測、分析和預警。然而,現(xiàn)有網(wǎng)絡安全運營能力尚不能完全滿足日益增長的網(wǎng)絡安全防護新要求,需要不斷提升安全威脅的檢測能力和處置效率。
以人工智能大模型技術(shù)賦能網(wǎng)絡安全已成為行業(yè)共識。一方面,人工智能技術(shù)(如安全沙箱人工智能技術(shù))可用于惡意樣本監(jiān)測,深度學習技術(shù)可用于惡意程序家族識別、惡意加密攻擊流量監(jiān)測和DGA(域名生成算法)域名監(jiān)測等。另一方面,借助大模型技術(shù),可以自動執(zhí)行數(shù)據(jù)收集、提取以及威脅搜索與檢測等重復且煩瑣的任務,并通過簡單的自然語言提示實現(xiàn)任何檢測、調(diào)查或響應工作流程,降低安全運營的時間和人力成本;可以對超大規(guī)模網(wǎng)絡威脅信息進行檢測分析,對海量數(shù)據(jù)進行精準降噪,深度挖掘數(shù)據(jù)價值;可以幫助經(jīng)驗不足的安全運維人員更快更好地作出決策,安全大模型擁有豐富的網(wǎng)絡安全知識,具備高級安全人員的邏輯思維和推理能力,可助力運維人員執(zhí)行復雜的安全操作,進而提升網(wǎng)絡安全運營的智能化、自動化水平。人工智能大模型賦能網(wǎng)絡安全關(guān)鍵技術(shù)如圖1所示。