今年ChatGPT火爆全網(wǎng)，近年來AI人工智能取得了長足的進步，給各行各業(yè)帶來了革命性的變化。然而，與任何技術一樣，總是有人試圖利用它來達到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網(wǎng)絡攻擊而設計，對企業(yè)的郵件安全構成重大威脅。

WormGPT簡介

近年來，AI人工智能取得了長足的進步，給各行各業(yè)帶來了革命性的變化。然而，與任何技術一樣，總是有人試圖利用它來達到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網(wǎng)絡攻擊而設計，對企業(yè)的郵件安全構成重大威脅。

WormGPT基于復雜的生成式人工智能大模型，可以生成類似于人類創(chuàng)作的文本。與此同時，它學習了郵件安全檢測的相關數(shù)據(jù)。這使得WormGPT創(chuàng)建的電子郵件不僅非常具有說服力，而且在躲避郵件安全檢測上也很狡猾，顯示出它在釣魚和BEC郵件攻擊方面的黑色潛力。

嘗試WormGPT

研究團隊最近通過一個與網(wǎng)絡犯罪經(jīng)常相關的知名在線論壇獲得了WormGPT。在論壇上，這個工具宣稱自己是GPT模型的黑客版本，專門用于惡意活動。

圖1.黑客論壇里提供的WormGPT工具

網(wǎng)頁介紹宣稱WormGPT的開發(fā)始于2021年，是基于GPTJ語言模型開發(fā)的人工智能模塊。它擁有多種功能，包括創(chuàng)建惡意代碼、無限字符支持、聊天記憶保留以及代碼格式化能力等。根據(jù)介紹，WormGPT基于各種數(shù)據(jù)源進行訓練，特別是側重于學習與惡意軟件相關的數(shù)據(jù)。然而，訓練過程中使用的具體數(shù)據(jù)集并沒有公開，而是被作者保密。

圖2.WormGPT工具的介紹

研究團隊利用WormGPT進行了BEC攻擊的測試，以全面評估與WormGPT相關的潛在危險。在其中一個實驗中，團隊指示W(wǎng)ormGPT生成一封旨在迫使一個毫不知情的客戶經(jīng)理支付一份欺詐性發(fā)票的電子郵件。結果令人不安。WormGPT生成的電子郵件不僅極具說服力，而且使用了非常狡猾的語言，展示了其在釣魚和BEC郵件攻擊方面的潛力。

圖3.WormGPT創(chuàng)建BEC郵件

WormGPT的危害

整體來看，WormGPT和大多數(shù)AI大模型一樣，沒有倫理邊界或限制。這個實驗展示了像WormGPT這樣的生成式人工智能技術對釣魚和BEC郵件攻擊行為有很大幫助，即使一個從未接觸郵件攻擊，并且不懂任何外語的人，也能隨時構造針對世界上任何一個企業(yè)或個人的郵件攻擊。使用生成式人工智能為郵件攻擊帶來了以下一些優(yōu)勢：

構造極具欺騙性的郵件內容：生成式人工智能可以創(chuàng)建內容和語法無可挑剔的電子郵件，使其看起來合法，降低了被標記為可疑的可能性。

降低攻擊的門檻：使用生成式人工智能降低了執(zhí)行復雜BEC攻擊的門檻。即使是技能有限的攻擊者也可以使用這項技術，使其成為可廣泛使用的黑客工具。

如何防范生成式AI的郵件攻擊

人工智能的發(fā)展雖然推動了各個行業(yè)的進步，但同時也帶來了新的問題。企業(yè)可以通過如下一些預防措施來防范生成式AI的郵件安全攻擊：

企業(yè)員工培訓：企業(yè)應該制定、開發(fā)、并定期更新相關的培訓計劃，定期組織釣魚郵件演練，應對BEC攻擊，尤其是那些由人工智能增強的攻擊。通過培訓課程來教育員工有關釣魚和BEC郵件威脅的知識，AI如何被用于增強這些威脅，以及攻擊者經(jīng)常采用的策略。與此同時，應定期進行釣魚郵件演練，測試員工的安全意識；

定期檢查安全防護設備：確保郵件安全網(wǎng)關、郵件安全沙箱等郵件安全防護設備的策略配置正確且生效，并確保郵件安全網(wǎng)關、郵件安全沙箱等設備的防護庫已升級到最新版本；

驗證發(fā)件人身份：在回復或提供任何敏感信息之前，細心驗證發(fā)件人的身份。確保郵件地址和發(fā)件人姓名與正式機構或公司的信息相符；

鼓勵員工報告可疑郵件：如果員收到可疑的釣魚郵件，應及時將其報告給您的組織或相關機構，以幫助企業(yè)采取適當?shù)男袆颖Ｗo其他員工；

警惕緊急情況：釣魚郵件常常試圖制造緊急情況，以迫使受害者匆忙采取行動。要保持冷靜，不要受到威脅或誘惑；

防止個人和郵件信息泄露：盡量不要在公開的論壇、社交媒體或不受信任的網(wǎng)站上泄露個人和郵件信息。攻擊者可能會利用這些信息來制作更具針對性的釣魚郵件；

定期備份數(shù)據(jù)：通過郵件歸檔產品定期備份您的重要數(shù)據(jù)，并將備份存儲在安全的地方。這樣，即使您受到釣魚郵件攻擊，并造成了數(shù)據(jù)損壞的情況下，您仍然可以恢復您的數(shù)據(jù)

驗證財務交易：如果收到涉及財務交易的電子郵件，避免通過郵件直接響應。相反，通過銀行官方網(wǎng)站、銀行柜臺、財務部同事等安全渠道來驗證交易