生成式AI從提升工作效率的神器，竟變成了企業(yè)和網(wǎng)友的心腹大患？

日前安全公司Check Point發(fā)布報(bào)告稱(chēng)，一款名為“FunkSec”的木馬型勒索病毒從2024年底至今，陸續(xù)攻擊了85家企業(yè)。解析代碼后研究人員發(fā)現(xiàn)該病毒基于Rust編程語(yǔ)言，語(yǔ)法注釋非常流暢，但攻擊模式較為原始落后，判斷該病毒大概率由AI生成。

隨著調(diào)查的深入，研究人員還發(fā)現(xiàn)有黑客在地下論壇售賣(mài)FunkSec病毒。這種情況表明，黑客可以利用生成式AI大規(guī)模制造病毒牟利。科技是一把雙刃劍，生成式AI在提高工作效率、生活便利度之外，潛在的風(fēng)險(xiǎn)也逐漸顯露了出來(lái)。

生成式AI帶來(lái)了新的安全問(wèn)題

自從OpenAI發(fā)布ChatGPT后，使用生成式AI開(kāi)發(fā)病毒或生成其他有害內(nèi)容，用于攻擊企業(yè)和個(gè)人計(jì)算機(jī)就已十分常見(jiàn)。安全公司Vipre公布的數(shù)據(jù)顯示，2023年第二季度商務(wù)郵件欺詐攻擊數(shù)量相較2022年增加了20%，其中接近一半由AI生成。

企業(yè)安全威脅研究團(tuán)隊(duì)Imperva Threat Research在報(bào)告中指出，2024年4月到9月，零售網(wǎng)站平均每天要遭受569884次攻擊，ChatGPT、Claude、Gemini等AI工具，常被用于進(jìn)行DDoS（分布式拒絕服務(wù)攻擊）和業(yè)務(wù)邏輯濫用等行動(dòng)。

信息咨詢(xún)公司Gartner表示，AI在網(wǎng)絡(luò)攻擊中的應(yīng)用已連續(xù)三個(gè)季度成為企業(yè)面臨的最大風(fēng)險(xiǎn)。在接受該公司訪問(wèn)的286位高級(jí)風(fēng)險(xiǎn)審計(jì)人員中，80%的受訪者對(duì)AI可能帶來(lái)的網(wǎng)絡(luò)攻擊表示擔(dān)憂。

（圖源：豆包AI生成）

生成式AI之所以能夠成為黑客攻擊企業(yè)或個(gè)人的強(qiáng)力工具，原因不在于其生成的病毒多么強(qiáng)大，而在于生成式AI大幅降低了成為黑客的門(mén)檻。

Check Point研究人員透露，售賣(mài)FunkSec病毒的黑客們技術(shù)能力并不強(qiáng)，他們甚至在論壇發(fā)帖詢(xún)問(wèn)“如何成為黑客”。這群黑客炫耀的攻擊企業(yè)和數(shù)據(jù)竊取等“佳績(jī)”，實(shí)際上來(lái)自其他黑客的犯罪行動(dòng)，沒(méi)有生成式AI協(xié)助，他們大概率連攻擊方式原始落后的FunkSec都開(kāi)發(fā)不出來(lái)。

2024年10月25日，據(jù)日本《讀賣(mài)新聞》報(bào)道，當(dāng)?shù)匾幻�男子因使用生成式AI制造勒索病毒，被判處有期徒刑三年、緩刑四年。該事件也是日本首個(gè)因使用生成式AI制造有害內(nèi)容被刑事處罰的案件。

在庭審過(guò)程中，案犯交代自己不懂任何IT知識(shí)，若沒(méi)有生成式AI則無(wú)法制造病毒，并承認(rèn)用生成式AI制造病毒的過(guò)程極其簡(jiǎn)單。一個(gè)完全不懂IT知識(shí)的人，都可以利用生成式AI制造病毒并獲利，可見(jiàn)在生成式AI時(shí)代，黑客的門(mén)檻有多么低，人人都擁有成為黑客的能力。

（圖源：豆包AI生成）

更關(guān)鍵的是，日本IT解決方案提供商三井物產(chǎn)Secure Directions的高級(jí)惡意軟件分析技術(shù)員吉川孝志直言，生成式AI雖然可以設(shè)置限制，不直接生成有害內(nèi)容，但存在規(guī)避限制的方法，網(wǎng)上可以輕松找到。

另外，還有開(kāi)發(fā)者開(kāi)發(fā)出了專(zhuān)用于生成惡意代碼的AI大模型，如WormGPT、PoisonGPT等。在不法分子頻繁利用AI攻擊個(gè)人和企業(yè)，黑客門(mén)檻幾乎等同于不存在的今天，企業(yè)和個(gè)人保護(hù)自己的信息安全將成為難題。

只有AI，才能對(duì)抗AI攻擊？

抵御生成式AI所制造病毒的攻擊前，首先我們要明白病毒程序攻擊的方式。在《威脅洞察（Threat Insights）》報(bào)告中，惠普公司指出，受害者遭遇攻擊的主要方式為網(wǎng)絡(luò)釣魚(yú)電子郵件或惡意廣告，例如在我們搜索某些工具時(shí)，誘導(dǎo)我們進(jìn)入虛假網(wǎng)站，下載包含病毒的文件，某些不法分子甚至將病毒程序隱藏在SVG（可縮放矢量圖形）中。

惠普公司還在報(bào)告中表示，2024年第二季度，有12%帶有有害信息的電子郵件繞過(guò)了檢測(cè)系統(tǒng)，其中61%來(lái)自附件，18%來(lái)自瀏覽器下載，21%來(lái)自移動(dòng)存儲(chǔ)設(shè)備，而ZIP文件占惡意文件總量的39%。

（圖源：豆包AI生成）

過(guò)去常有網(wǎng)友表示，電腦從來(lái)不安裝殺毒程序，不去瀏覽非法網(wǎng)站，電腦就不會(huì)中病毒。然而在惡意程序數(shù)量飛速增長(zhǎng)，假網(wǎng)站無(wú)處不在的今天，用戶(hù)中招的概率也將大幅提升。對(duì)抗生成式AI批量制造病毒程序的關(guān)鍵，就在于合理利用AI。

從病毒的攻擊方式來(lái)看，將AI融入殺毒軟件、瀏覽器、搜索引擎，或許能夠幫助個(gè)人用戶(hù)構(gòu)建更堅(jiān)實(shí)的防火墻。殺毒軟件加入AI功能后，可以智能對(duì)文件進(jìn)行掃描分析，結(jié)合生成式AI編程的特性，提高病毒的識(shí)別能力，從而攔截含有病毒的文件。

瀏覽器的責(zé)任同樣重大，與AI融合后，要盡量做到幫助用戶(hù)分析網(wǎng)址的風(fēng)險(xiǎn)，并對(duì)網(wǎng)站內(nèi)的各類(lèi)文件，包括SVG圖像進(jìn)行檢測(cè)，從源頭減少用戶(hù)下載到含有病毒文件的可能性。我們搜索一些東西時(shí)，經(jīng)常會(huì)彈出許多廣告內(nèi)容和虛假網(wǎng)站，對(duì)用戶(hù)的上網(wǎng)體驗(yàn)造成了不利影響，增加了用戶(hù)被病毒攻擊的風(fēng)險(xiǎn)。搜索引擎同樣需要利用AI技術(shù)，排除虛假網(wǎng)站。

（圖源：豆包AI生成）

相較于個(gè)人，企業(yè)面臨的風(fēng)險(xiǎn)更大，也是不法分子植入病毒和勒索的主要對(duì)象。因而企業(yè)不但要增強(qiáng)安全軟件的能力，利用AI識(shí)別和抵御生成式AI制造的病毒程序，還要對(duì)網(wǎng)絡(luò)隔離和訪問(wèn)控制，必要時(shí)對(duì)備份數(shù)據(jù)和機(jī)密數(shù)據(jù)進(jìn)行物理隔離。同時(shí)，企業(yè)也要及時(shí)對(duì)員工進(jìn)行培訓(xùn)，避免因員工的錯(cuò)誤操作將病毒引入公司內(nèi)部，而造成財(cái)產(chǎn)損失。

自從1982年世界上第一個(gè)真正意義上的計(jì)算機(jī)病毒Elk Cloner誕生以來(lái)，近半個(gè)世紀(jì)的時(shí)間中，互聯(lián)網(wǎng)公司與黑客之間的對(duì)決就從未停止過(guò)。21世紀(jì)初中國(guó)互聯(lián)網(wǎng)飛速發(fā)展之時(shí)，也出現(xiàn)過(guò)影響巨大的熊貓燒香事件，前幾年的勒索病毒肆虐，更令無(wú)數(shù)用戶(hù)和企業(yè)遭殃。

利用生成式AI制造病毒，是AI時(shí)代黑客們新的攻擊手段。網(wǎng)絡(luò)安全公司也將以AI對(duì)抗AI，利用AI識(shí)別病毒的代碼特征加以攔截，保護(hù)用戶(hù)的上網(wǎng)安全。

防御AI攻擊，不能只靠技術(shù)

利用生成式AI制造病毒和防御病毒攻擊，本身都會(huì)消耗大量資源，可能會(huì)拖累企業(yè)的正常發(fā)展。生成式AI大幅降低了制造病毒的門(mén)檻，導(dǎo)致普通人也可以生成病毒，未來(lái)病毒、虛假網(wǎng)站等可能會(huì)指數(shù)級(jí)上升，導(dǎo)致病毒隨處可見(jiàn)，對(duì)于整個(gè)互聯(lián)網(wǎng)行業(yè)的發(fā)展也絕非好事。

普通網(wǎng)民可利用AI幫忙規(guī)避部分潛在的風(fēng)險(xiǎn)，例如需要查詢(xún)一些信息時(shí)，可以直接向AI大模型提問(wèn)，并通過(guò)AI大模型提供的鏈接進(jìn)入相應(yīng)的網(wǎng)址，若要下載一些軟件，也可以讓向AI索要官網(wǎng)網(wǎng)址。經(jīng)過(guò)AI篩選的內(nèi)容，安全性更有保障。

（圖源：豆包AI生成）

國(guó)內(nèi)互聯(lián)網(wǎng)的安全程度比較高，盡管也有不少下載站、虛假網(wǎng)站等，但大多可以輕松識(shí)別，而且360、騰訊電腦管家等主流殺毒軟件，還會(huì)提供軟件下載渠道，可幫助用戶(hù)規(guī)避一定的風(fēng)險(xiǎn)。

企業(yè)方面情況更為復(fù)雜，但網(wǎng)絡(luò)保護(hù)措施也更加健全，考慮到勒索病毒肆虐期不少企業(yè)中招，這些企業(yè)也需要招募更多人才或與網(wǎng)絡(luò)安全公司加深合作，以應(yīng)對(duì)AI時(shí)代的病毒攻擊。

不過(guò)僅依靠AI抵御病毒攻擊能夠起到的效果有限，百密終有一疏，防賊千日和作賊千日付出的資源不對(duì)等。唯有出臺(tái)更嚴(yán)格、更詳細(xì)的規(guī)定，限制和打擊利用生成式AI制造病毒的不法分子，方能徹底消滅黑客群體。

相關(guān)部門(mén)已在不遺余力打擊利用網(wǎng)絡(luò)犯罪的不法分子，公安部網(wǎng)安局公布的數(shù)據(jù)顯示，2024年全力推進(jìn)打擊網(wǎng)絡(luò)黑客犯罪專(zhuān)項(xiàng)工作，偵破案件1600余起，抓獲犯罪嫌疑人4900余名。在相關(guān)部門(mén)的打擊下，國(guó)內(nèi)黑客的生存空間只會(huì)越來(lái)越小，我們的上網(wǎng)安全也將更有保障。

 來(lái)源：雷科技

       原文標(biāo)題 : AI生成病毒曝光！黑客零門(mén)檻時(shí)代，只有AI才能對(duì)抗AI攻擊？