展會信息港展會大全

第一波黑客已經(jīng)用大模型搞網(wǎng)絡(luò)攻擊了 | To B產(chǎn)業(yè)觀察
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-05-24 14:38:56   瀏覽:4175次  

導讀:圖片系A(chǔ)I生成 在新技術(shù)和產(chǎn)業(yè)的發(fā)展史上,安全始終是一門伴生技術(shù),總是先有攻擊,再有防護,大模型也不例外。 新的技術(shù)必然帶來新的安全問題和安全需求,但是挑戰(zhàn)又在于攻擊者往往快我們一步發(fā)現(xiàn)安全風險,發(fā)動攻擊,因此要求我們帶來更快地響應(yīng)和改變。亞...

第一波黑客已經(jīng)用大模型搞網(wǎng)絡(luò)攻擊了 | To B產(chǎn)業(yè)觀察

圖片系A(chǔ)I生成

在新技術(shù)和產(chǎn)業(yè)的發(fā)展史上,安全始終是一門伴生技術(shù),總是先有攻擊,再有防護,大模型也不例外。

“新的技術(shù)必然帶來新的安全問題和安全需求,但是挑戰(zhàn)又在于攻擊者往往快我們一步發(fā)現(xiàn)安全風險,發(fā)動攻擊,因此要求我們帶來更快地響應(yīng)和改變。”亞信安全高級副總裁陳奮表示。

直到今天,大模型的落地場景依然有限,行業(yè)人士會考慮新技術(shù)不成熟、投入產(chǎn)出比、沒有好的應(yīng)用方向等因素,但黑客們只需要一個理由,用大模型做新的矛,能攻破更高價值的盾。

攻擊方式?jīng)Q定了防守方式,網(wǎng)絡(luò)安全公司標配大模型也成為必選項。

全球安全公司快速行動起來,微軟在5月份正式商用了Security Copilot,谷歌去年發(fā)布了網(wǎng)絡(luò)安全專有大模型,網(wǎng)絡(luò)安全巨頭Paloalto、CROWDSTRIKE均在其安全運營平臺集成了大模型的安全運營能力。

相關(guān)數(shù)據(jù)顯示,在中國,80%以上的網(wǎng)絡(luò)安全公司都在將大模型技術(shù)集成到網(wǎng)絡(luò)安全產(chǎn)品中,30%的公司已經(jīng)開始做大模型安全的研究,也出現(xiàn)了一些安全創(chuàng)業(yè)的浪潮。

新的安全攻防戰(zhàn)

ChatGPT發(fā)布之后,以大模型為代表AGI技術(shù)讓全球的黑客開始狂歡,AGI技術(shù)驅(qū)動了網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)犯罪的升級,過去一個黑客生產(chǎn)一個攻擊病毒需要數(shù)月時間,現(xiàn)在通過AGI的工具可能幾分鐘就能生成,黑客攻擊的效率和范圍大大提高。

大模型對于編程語言的理解能力也非常強,攻擊者可以利用大模型迅速發(fā)現(xiàn)軟件漏洞,同時還有一波急功近利的黑客,利用AI算法在視頻中做人臉偽造,產(chǎn)生了新一波網(wǎng)絡(luò)詐騙犯罪案件。

亞信安全還發(fā)現(xiàn),攻擊者的攻擊目標從傳統(tǒng)資產(chǎn)盯上了AI算力基礎(chǔ)設(shè)施和大模型AI算力基礎(chǔ)設(shè)施主要是高價值的GPU集群,對攻擊者來說具有巨大的誘惑力,短短一年時間,針對大模型的攻擊手段已經(jīng)涌現(xiàn)出數(shù)十種不同的類型。

第一波黑客已經(jīng)用大模型搞網(wǎng)絡(luò)攻擊了 | To B產(chǎn)業(yè)觀察

年初美國一個數(shù)千臺服務(wù)器的算力集群被攻破,被拿去挖比特幣,黑客只要發(fā)現(xiàn)有利可圖,很快就會盯上這些高價值的資產(chǎn),甚至大模型本身也有可能被利用。

亞信安全還復(fù)現(xiàn)了一次攻擊行為,通過向大模型提交一個經(jīng)過特殊構(gòu)造的攻擊樣本,攻擊樣本不是正常的提示詞,而是很復(fù)雜的語言,這時候再提交正常的請求,在過程中亞信安全還特意把攻擊停止,但哪怕停止攻擊以后,同樣的一個請求,大模型需要60秒以上才能返回結(jié)果,是原來所需時間的20倍以上。

可以想象,如果未來核心應(yīng)用都是大模型驅(qū)動的AI原生應(yīng)用,類似攻擊將會讓大模型算力消耗急劇上升,從而出現(xiàn)拒絕攻擊,用戶核心業(yè)務(wù)將陷入癱瘓,這只是一個相對比較基礎(chǔ)的攻擊。

未來家庭和個人用戶,也可能成為攻擊目標,假如人工智能的滲透率足夠高,電腦、手機、家電和汽車都是智能的,甚至未來每個家庭都有一個人工智能,黑客不會放過這一塊“肥肉”。

“從現(xiàn)在開始,網(wǎng)絡(luò)安全的攻防從原來人和人之間的對抗,已經(jīng)升級到AI和AI之間的對抗,只有AI驅(qū)動的網(wǎng)絡(luò)安全防護檢測技術(shù)才能識別AI驅(qū)動的黑客攻擊技術(shù)。”陳奮表示。

“安全大模型”,是不是蹭熱點?

如同千行百業(yè)都正在被大模型改造和重塑,大模型技術(shù)未來將推動網(wǎng)絡(luò)安全產(chǎn)品全面革新,可能帶來網(wǎng)絡(luò)安全產(chǎn)品設(shè)計范式的徹底變化,從威脅檢測到產(chǎn)品體驗,再到安全運營,如果沒有大模型的加持,一家安全公司可能就難言競爭力。

但是,“安全大模型”概念的泛化,也難免陷入蹭熱點之嫌,以至于有質(zhì)疑安全大模型是新瓶裝舊酒。

安全公司使用AI技術(shù)早有先例,例如用AI做垃圾郵件檢測,用機器學習算法做漏洞自動化修復(fù),AI還能實現(xiàn)自動化的運營分析,安全策略生成,并提供告警評估和攻擊研判等。

一位安全行業(yè)人士表示,很多安全公司去年著急發(fā)布GPT應(yīng)用,產(chǎn)品構(gòu)建并不完整,有企業(yè)只想著在單點場景使用,比如在安全運營里快速集成GPT對語言的理解,因為安全事件也是一種語言,更多是落在這種場景上。

亞信安全沒有第一時間發(fā)布大模型,更多是在思考大模型能否變成產(chǎn)品的原生能力。亞信安全想把大模型能力變成產(chǎn)品的內(nèi)生能力,現(xiàn)在可能還達不到,但這是其發(fā)展思路。

所以亞信安全沒有一開始就讓產(chǎn)品線馬上集成大模型,而是因為花了更多時間建設(shè)底層通用框架,做好MaaS服務(wù)平臺,再疊加上面的智能體框架。安全公司有很多產(chǎn)品線,如果每條產(chǎn)品線路都要單獨去思考怎么集成大模型,會帶來很多資源浪費。

第一波黑客已經(jīng)用大模型搞網(wǎng)絡(luò)攻擊了 | To B產(chǎn)業(yè)觀察

在此基礎(chǔ)上,亞信安全正式發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型信立方,其能力分為五個層次,第一層是算力調(diào)度平臺;第二層是在微調(diào)開源大模型和閉源大模型基礎(chǔ)上做智能的混合調(diào)度;第三層是在大模型基礎(chǔ)之上做MaaS服務(wù)層,讓上層的安全應(yīng)用能夠快速調(diào)度大模型,同時MaaS服務(wù)的API架構(gòu)完全參考OpenAI的標準,從而能夠快速使用全球開源工具的生態(tài)。

第四層是網(wǎng)絡(luò)安全Agent靈活架構(gòu),亞信安全在參考開源基礎(chǔ)上重構(gòu)了亞信安全的智能體開發(fā)框架,在該框架上,所有產(chǎn)線團隊能夠快速集成整個安全大模型能力。第五層是多個場景的安全智能體應(yīng)用。

同時,亞信安全進一步發(fā)布“信計劃XPLAN”,包含兩部分:Security For AI和AI For Security。Security For AI主要聚焦在保護算力安全的基礎(chǔ)設(shè)施,以及保護大模型的安全,AI For Security主要聚焦在網(wǎng)絡(luò)安全行業(yè)的垂直大模型的研發(fā)以及在上面做網(wǎng)絡(luò)安全的智能體以及安全應(yīng)用。

AI安全需要系統(tǒng)視角

中國工程院院士、清華大學智能產(chǎn)業(yè)研究院(AIR) 院長張亞勤表示,大模型的到來意味著構(gòu)建了一個全新的生態(tài),大模型將成為新的操作系統(tǒng),PC互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)都形成了與之匹配的生態(tài),人工智能時代的生態(tài)規(guī)模移動互聯(lián)網(wǎng)要高至少一個數(shù)量級。

與之相對應(yīng)地,行業(yè)內(nèi)部趨于達成一個共同認知只做大模型安全,無法解決大模型安全問題,AI安全需要從系統(tǒng)性全局視角,共建生態(tài)。

亞信安全高級副總裁兼CDO吳湘寧表示,大模型產(chǎn)業(yè)鏈非常長,周邊業(yè)態(tài)會更加豐富,真正做大模型的廠商不會多,未來可能集中在幾家頭部廠商,而利用大模型的企業(yè)或者行業(yè)會越來越多,這就對安全方面提出了新的要求。

第一波黑客已經(jīng)用大模型搞網(wǎng)絡(luò)攻擊了 | To B產(chǎn)業(yè)觀察

圖片系A(chǔ)I生成

“僅把大模型安全做得好比較有限,舉一個簡單例子,原來隱私計算應(yīng)用的場景非常狹小,更多是一些部委、金融和企業(yè)數(shù)據(jù)交換過程中做一些查詢,但是未來如果所有的企業(yè)都要把數(shù)據(jù)送到算力上去算的話,想象空間就非常大,整個生態(tài)鏈打開以后,可能很多技術(shù)使用場景都會發(fā)生改變。”他說。

多項安全生態(tài)合作與成果也在逐漸顯露。網(wǎng)絡(luò)勒索響應(yīng)與治理中心暨獵狐計劃正式啟動,由亞信安全、中國聯(lián)通江蘇分公司、四川省數(shù)字產(chǎn)業(yè)有限責任公司、人民數(shù)據(jù)管理有限公司聯(lián)合發(fā)起,建立區(qū)域性和行業(yè)性的網(wǎng)絡(luò)勒索響應(yīng)與治理中心,形成常態(tài)化一體化的網(wǎng)絡(luò)勒索安全運營,這也是安全生態(tài)共建的一個典型。

此外,東數(shù)西算安全聯(lián)合創(chuàng)新中心也發(fā)布了新成果,亞信安全與四川能投、西云算力等廠商合作,在大模型安全、隱私計算、算網(wǎng)調(diào)度、全棧云安全均有技術(shù)突破。這些成果將推動東西部算力和數(shù)據(jù)資源的安全調(diào)度和流通,促進人工智能和數(shù)據(jù)產(chǎn)業(yè)的發(fā)展。

亞信安全也與鴻蒙生態(tài)達成合作,雙方將深度投入鴻蒙生態(tài)建設(shè),結(jié)合終端安全能力,為用戶提供更加安全、可靠的終端環(huán)境,保障用戶的信息安全。

在技術(shù)、政策、法規(guī)、社會共識等多方面的共同努力,將成為大模型安全生態(tài)構(gòu)建的長久方向。(本文首發(fā)于鈦媒體APP,作者 | 張帥,編輯 | 蓋虹達)

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港