生成式AI從提升工作效率的神器，竟變成了企業(yè)和網(wǎng)友的心腹大患？
日前安全公司Check Point發(fā)布報(bào)告稱，一款名為“FunkSec”的木馬型勒索病毒從2024年底至今，陸續(xù)攻擊了85家企業(yè)。解析代碼后研究人員發(fā)現(xiàn)該病毒基于Rust編程語(yǔ)言，語(yǔ)法注釋非常流暢，但攻擊模式較為原始落后，判斷該病毒大概率由AI生成。
隨著調(diào)查的深入，研究人員還發(fā)現(xiàn)有黑客在地下論壇售賣FunkSec病毒。這種情況表明，黑客可以利用生成式AI大規(guī)模制造病毒牟利。科技是一把雙刃劍，生成式AI在提高工作效率、生活便利度之外，潛在的風(fēng)險(xiǎn)也逐漸顯露了出來(lái)。
生成式AI帶來(lái)了新的安全問(wèn)題
自從OpenAI發(fā)布ChatGPT后，使用生成式AI開發(fā)病毒或生成其他有害內(nèi)容，用于攻擊企業(yè)和個(gè)人計(jì)算機(jī)就已十分常見。安全公司Vipre公布的數(shù)據(jù)顯示，2023年第二季度商務(wù)郵件欺詐攻擊數(shù)量相較2022年增加了20%，其中接近一半由AI生成。
企業(yè)安全威脅研究團(tuán)隊(duì)Imperva Threat Research在報(bào)告中指出，2024年4月到9月，零售網(wǎng)站平均每天要遭受569884次攻擊，ChatGPT、Claude、Gemini等AI工具，常被用于進(jìn)行DDoS（分布式拒絕服務(wù)攻擊）和業(yè)務(wù)邏輯濫用等行動(dòng)。
信息咨詢公司Gartner表示，AI在網(wǎng)絡(luò)攻擊中的應(yīng)用已連續(xù)三個(gè)季度成為企業(yè)面臨的最大風(fēng)險(xiǎn)。在接受該公司訪問(wèn)的286位高級(jí)風(fēng)險(xiǎn)審計(jì)人員中，80%的受訪者對(duì)AI可能帶來(lái)的網(wǎng)絡(luò)攻擊表示擔(dān)憂。
（圖源：豆包AI生成）
生成式AI之所以能夠成為黑客攻擊企業(yè)或個(gè)人的強(qiáng)力工具，原因不在于其生成的病毒多么強(qiáng)大，而在于生成式AI大幅降低了成為黑客的門檻。
Check Point研究人員透露，售賣FunkSec病毒的黑客們技術(shù)能力并不強(qiáng)，他們甚至在論壇發(fā)帖詢問(wèn)“如何成為黑客”。這群黑客炫耀的攻擊企業(yè)和數(shù)據(jù)竊取等“佳績(jī)”，實(shí)際上來(lái)自其他黑客的犯罪行動(dòng)，沒(méi)有生成式AI協(xié)助，他們大概率連攻擊方式原始落后的FunkSec都開發(fā)不出來(lái)。
2024年10月25日，據(jù)日本《讀賣新聞》報(bào)道，當(dāng)?shù)匾幻凶右蚴褂蒙墒紸I制造勒索病毒，被判處有期徒刑三年、緩刑四年。該事件也是日本首個(gè)因使用生成式AI制造有害內(nèi)容被刑事處罰的案件。
在庭審過(guò)程中，案犯交代自己不懂任何IT知識(shí)，若沒(méi)有生成式AI則無(wú)法制造病毒，并承認(rèn)用生成式AI制造病毒的過(guò)程極其簡(jiǎn)單。一個(gè)完全不懂IT知識(shí)的人，都可以利用生成式AI制造病毒并獲利，可見在生成式AI時(shí)代，黑客的門檻有多么低，人人都擁有成為黑客的能力。
（圖源：豆包AI生成）
更關(guān)鍵的是，日本IT解決方案提供商三井物產(chǎn)Secure Directions的高級(jí)惡意軟件分析技術(shù)員吉川孝志直言，生成式AI雖然可以設(shè)置限制，不直接生成有害內(nèi)容，但存在規(guī)避限制的方法，網(wǎng)上可以輕松找到。
另外，還有開發(fā)者開發(fā)出了專用于生成惡意代碼的AI大模型，如WormGPT、PoisonGPT等。在不法分子頻繁利用AI攻擊個(gè)人和企業(yè)，黑客門檻幾乎等同于不存在的今天，企業(yè)和個(gè)人保護(hù)自己的信息安全將成為難題。
只有AI，才能對(duì)抗AI攻擊？
抵御生成式AI所制造病毒的攻擊前，首先我們要明白病毒程序攻擊的方式。在《威脅洞察（Threat Insights）》報(bào)告中，惠普公司指出，受害者遭遇攻擊的主要方式為網(wǎng)絡(luò)釣魚電子郵件或惡意廣告，例如在我們搜索某些工具時(shí)，誘導(dǎo)我們進(jìn)入虛假網(wǎng)站，下載包含病毒的文件，某些不法分子甚至將病毒程序隱藏在SVG（可縮放矢量圖形）中。
惠普公司還在報(bào)告中表示，2024年第二季度，有12%帶有有害信息的電子郵件繞過(guò)了檢測(cè)系統(tǒng)，其中61%來(lái)自附件，18%來(lái)自瀏覽器下載，21%來(lái)自移動(dòng)存儲(chǔ)設(shè)備，而ZIP文件占惡意文件總量的39%。
（圖源：豆包AI生成）
過(guò)去常有網(wǎng)友表示，電腦從來(lái)不安裝殺毒程序，不去瀏覽非法網(wǎng)站，電腦就不會(huì)中病毒。然而在惡意程序數(shù)量飛速增長(zhǎng)，假網(wǎng)站無(wú)處不在的今天，用戶中招的概率也將大幅提升。對(duì)抗生成式AI批量制造病毒程序的關(guān)鍵，就在于合理利用AI。
從病毒的攻擊方式來(lái)看，將AI融入殺毒軟件、瀏覽器、搜索引擎，或許能夠幫助個(gè)人用戶構(gòu)建更堅(jiān)實(shí)的防火墻。殺毒軟件加入AI功能后，可以智能對(duì)文件進(jìn)行掃描分析，結(jié)合生成式AI編程的特性，提高病毒的識(shí)別能力，從而攔截含有病毒的文件。
瀏覽器的責(zé)任同樣重大，與AI融合后，要盡量做到幫助用戶分析網(wǎng)址的風(fēng)險(xiǎn)，并對(duì)網(wǎng)站內(nèi)的各類文件，包括SVG圖像進(jìn)行檢測(cè)，從源頭減少用戶下載到含有病毒文件的可能性。我們搜索一些東西時(shí)，經(jīng)常會(huì)彈出許多廣告內(nèi)容和虛假網(wǎng)站，對(duì)用戶的上網(wǎng)體驗(yàn)造成了不利影響，增加了用戶被病毒攻擊的風(fēng)險(xiǎn)。搜索引擎同樣需要利用AI技術(shù)，排除虛假網(wǎng)站。
（圖源：豆包AI生成）
相較于個(gè)人，企業(yè)面臨的風(fēng)險(xiǎn)更大，也是不法分子植入病毒和勒索的主要對(duì)象。因而企業(yè)不但要增強(qiáng)安全軟件的能力，利用AI識(shí)別和抵御生成式AI制造的病毒程序，還要對(duì)網(wǎng)絡(luò)隔離和訪問(wèn)控制，必要時(shí)對(duì)備份數(shù)據(jù)和機(jī)密數(shù)據(jù)進(jìn)行物理隔離。同時(shí)，企業(yè)也要及時(shí)對(duì)員工進(jìn)行培訓(xùn)，避免因員工的錯(cuò)誤操作將病毒引入公司內(nèi)部，而造成財(cái)產(chǎn)損失。
自從1982年世界上第一個(gè)真正意義上的計(jì)算機(jī)病毒Elk Cloner誕生以來(lái)，近半個(gè)世紀(jì)的時(shí)間中，互聯(lián)網(wǎng)公司與黑客之間的對(duì)決就從未停止過(guò)。21世紀(jì)初中國(guó)互聯(lián)網(wǎng)飛速發(fā)展之時(shí)，也出現(xiàn)過(guò)影響巨大的熊貓燒香事件，前幾年的勒索病毒肆虐，更令無(wú)數(shù)用戶和企業(yè)遭殃。
利用生成式AI制造病毒，是AI時(shí)代黑客們新的攻擊手段。網(wǎng)絡(luò)安全公司也將以AI對(duì)抗AI，利用AI識(shí)別病毒的代碼特征加以攔截，保護(hù)用戶的上網(wǎng)安全。
防御AI攻擊，不能只靠技術(shù)
利用生成式AI制造病毒和防御病毒攻擊，本身都會(huì)消耗大量資源，可能會(huì)拖累企業(yè)的正常發(fā)展。生成式AI大幅降低了制造病毒的門檻，導(dǎo)致普通人也可以生成病毒，未來(lái)病毒、虛假網(wǎng)站等可能會(huì)指數(shù)級(jí)上升，導(dǎo)致病毒隨處可見，對(duì)于整個(gè)互聯(lián)網(wǎng)行業(yè)的發(fā)展也絕非好事。
普通網(wǎng)民可利用AI幫忙規(guī)避部分潛在的風(fēng)險(xiǎn)，例如需要查詢一些信息時(shí)，可以直接向AI大模型提問(wèn)，并通過(guò)AI大模型提供的鏈接進(jìn)入相應(yīng)的網(wǎng)址，若要下載一些軟件，也可以讓向AI索要官網(wǎng)網(wǎng)址。經(jīng)過(guò)AI篩選的內(nèi)容，安全性更有保障。
（圖源：豆包AI生成）
國(guó)內(nèi)互聯(lián)網(wǎng)的安全程度比較高，盡管也有不少下載站、虛假網(wǎng)站等，但大多可以輕松識(shí)別，而且360、騰訊電腦管家等主流殺毒軟件，還會(huì)提供軟件下載渠道，可幫助用戶規(guī)避一定的風(fēng)險(xiǎn)。
企業(yè)方面情況更為復(fù)雜，但網(wǎng)絡(luò)保護(hù)措施也更加健全，考慮到勒索病毒肆虐期不少企業(yè)中招，這些企業(yè)也需要招募更多人才或與網(wǎng)絡(luò)安全公司加深合作，以應(yīng)對(duì)AI時(shí)代的病毒攻擊。
不過(guò)僅依靠AI抵御病毒攻擊能夠起到的效果有限，百密終有一疏，防賊千日和作賊千日付出的資源不對(duì)等。唯有出臺(tái)更嚴(yán)格、更詳細(xì)的規(guī)定，限制和打擊利用生成式AI制造病毒的不法分子，方能徹底消滅黑客群體。
相關(guān)部門已在不遺余力打擊利用網(wǎng)絡(luò)犯罪的不法分子，公安部網(wǎng)安局公布的數(shù)據(jù)顯示，2024年全力推進(jìn)打擊網(wǎng)絡(luò)黑客犯罪專項(xiàng)工作，偵破案件1600余起，抓獲犯罪嫌疑人4900余名。在相關(guān)部門的打擊下，國(guó)內(nèi)黑客的生存空間只會(huì)越來(lái)越小，我們的上網(wǎng)安全也將更有保障。
美國(guó)當(dāng)?shù)貢r(shí)間1月10日，CES 2025落下帷幕，雷科技第二次派出官方報(bào)道團(tuán)，對(duì)CES進(jìn)行立體無(wú)死角的報(bào)道，一共輸出41條內(nèi)容，內(nèi)容整體超過(guò)10萬(wàn)字，涵蓋了AI硬件新物種、AI電視、AI家電、AI眼鏡、AI PC、AI+AR、智能清潔、AI芯片、AI PC、教育硬件、AI汽車、智能配件、可穿戴、AI機(jī)器人、AI耳機(jī)、智能鏡、AI存儲(chǔ)等領(lǐng)域。歡迎全網(wǎng)搜索“雷科技CES”獲取一手報(bào)道，洞見AI硬科技未來(lái)。
