過(guò)去幾年，人們非常關(guān)注人工智能 (AI) 技術(shù)的發(fā)展?fàn)顩r及其對(duì)網(wǎng)絡(luò)安全的影響。在許多行業(yè)中，與人工智能攻擊相關(guān)的風(fēng)險(xiǎn)仍然存在且令人擔(dān)憂，尤其是全球平均數(shù)據(jù)泄露成本比去年增加了 10% 。

然而，根據(jù) IBM X-Force 團(tuán)隊(duì)發(fā)布的最新《云威脅形勢(shì)報(bào)告》，針對(duì)云計(jì)算環(huán)境的人工智能攻擊的近期威脅實(shí)際上相對(duì)較低。不過(guò)，X-Force 的預(yù)測(cè)顯示，這些復(fù)雜的攻擊方法可能會(huì)有所增加。

云計(jì)算市場(chǎng)現(xiàn)狀

云計(jì)算市場(chǎng)繼續(xù)呈指數(shù)級(jí)增長(zhǎng)，專家預(yù)計(jì)到 2024 年底其價(jià)值將達(dá)到 6750 億美元以上。隨著越來(lái)越多的組織將其運(yùn)營(yíng)能力擴(kuò)展到本地限制之外并利用公共和私有云基礎(chǔ)設(shè)施和服務(wù)，AI技術(shù)在多個(gè)行業(yè)領(lǐng)域的采用正在穩(wěn)步增長(zhǎng)。

生成式人工智能與云計(jì)算平臺(tái)的快速融合為企業(yè)創(chuàng)造了許多機(jī)會(huì)，尤其是在實(shí)現(xiàn) IT 服務(wù)和SaaS應(yīng)用程序的部署、配置和可擴(kuò)展性的更好的自動(dòng)化和效率方面。

然而，隨著越來(lái)越多的企業(yè)依賴新的顛覆性技術(shù)來(lái)幫助他們最大化云投資的價(jià)值，生成式人工智能帶來(lái)的潛在安全危險(xiǎn)受到各網(wǎng)絡(luò)安全組織的密切監(jiān)視。

為什么目前認(rèn)為云端人工智能發(fā)起的攻擊風(fēng)險(xiǎn)較低？

盡管根據(jù)Gartner 最近發(fā)布的報(bào)告，人工智能發(fā)起的攻擊仍然是高級(jí)風(fēng)險(xiǎn)和保證主管面臨的最大新興風(fēng)險(xiǎn)之一，但根據(jù) X-Force 的研究，目前人工智能技術(shù)在云基礎(chǔ)設(shè)施攻擊中被利用和利用的威脅仍然相對(duì)較低。

這并不是說(shuō)人工智能技術(shù)不再被大規(guī)模地用于開(kāi)發(fā)和分發(fā)高度復(fù)雜的網(wǎng)絡(luò)釣魚(yú)計(jì)劃。這種行為已經(jīng)在活躍的惡意軟件分發(fā)者（如Hive0137 ）身上得到體現(xiàn)，他們?cè)诰帉懶碌陌稻W(wǎng)工具腳本時(shí)使用大型語(yǔ)言模型 (LLM)。相反，當(dāng)前較低的風(fēng)險(xiǎn)預(yù)測(cè)與人工智能平臺(tái)在云和本地環(huán)境中直接成為攻擊目標(biāo)的可能性有關(guān)。

風(fēng)險(xiǎn)較低的主要原因之一是網(wǎng)絡(luò)犯罪分子需要進(jìn)行復(fù)雜的工作才能成功破壞和操縱 AI 部署的底層基礎(chǔ)設(shè)施。即使攻擊者投入大量資源，基于云的 AI 工具和解決方案的市場(chǎng)飽和度仍然相對(duì)較低，這可能會(huì)導(dǎo)致在實(shí)施這些攻擊時(shí)投入的時(shí)間、資源和風(fēng)險(xiǎn)回報(bào)率較低。

為人工智能驅(qū)動(dòng)的云威脅不可避免的增加做好準(zhǔn)備

盡管如今人工智能驅(qū)動(dòng)的云威脅的直接風(fēng)險(xiǎn)可能較低，但這并不是說(shuō)組織不應(yīng)該為這種狀況在不久的將來(lái)發(fā)生的變化做好準(zhǔn)備。

IBM 的 X-Force 團(tuán)隊(duì)已經(jīng)認(rèn)識(shí)到新技術(shù)在各個(gè)市場(chǎng)中的市場(chǎng)份額百分比與其相關(guān)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的觸發(fā)點(diǎn)之間的相關(guān)性。根據(jù)最近的 X-Force 分析，一旦生成式人工智能成熟并接近 50% 的市場(chǎng)飽和度，其攻擊面很可能會(huì)成為網(wǎng)絡(luò)犯罪分子更大的目標(biāo)。

對(duì)于目前正在使用 AI 技術(shù)并著手采用云技術(shù)的組織而言，設(shè)計(jì)更安全的 AI 策略至關(guān)重要。這包括開(kāi)發(fā)更強(qiáng)大的身份安全態(tài)勢(shì)、在整個(gè)云開(kāi)發(fā)過(guò)程中集成安全性以及保護(hù)其數(shù)據(jù)和量子計(jì)算模型的完整性。