這項研究圍繞著一個核心實驗展開，讓人工智能與經(jīng)驗豐富的人類工程師比拼制作網(wǎng)絡釣魚電子郵件。研究人員給OpenAI LP的ChatGPT提供了五個量身定制的問題，引導人工智能開發(fā)針對特定行業(yè)的網(wǎng)絡釣魚電子郵件。

結果引入矚目，生成式人工智能模型只需要五分鐘就能夠制作出令人信服的欺騙性網(wǎng)絡釣魚電子郵件。相比之下，作為人類社會專家的工程師們完成同樣的任務則需要花費大概16個小時。

研究發(fā)現(xiàn)，人工智能生成的網(wǎng)絡釣魚電子郵件與人類對手生成的電子郵件幾乎同樣有效。人類工程師利用開源智能收集信息，然后利用這些信息制作出具有個人風格、情感智慧和真實感的電子郵件。人類創(chuàng)建的電子郵件還在郵件中加入了緊迫感，盡管具有這些優(yōu)勢，但是人工智能在測試中的表現(xiàn)仍然接近人類，這顯示出人工智能在這一領域的潛力。

IBM X-Force全球創(chuàng)新與交付主管Stephanie Carruthers在研究報告中寫道，研究結果非常顯著，以至于參與者都退出了。

Carruthers解釋說：“我有近十年的社會工程學經(jīng)驗，制作過數(shù)百封釣魚郵件，我甚至發(fā)現(xiàn)人工智能生成的釣魚郵件相當具有說服力。”“事實上，最初有三家組織同意參與這個研究項目，有兩個組織在查看了兩種網(wǎng)絡釣魚電子郵件之后就完全退出了，因為他們預計成功率會很高。”

雖然人類在實驗中險勝，但研究指出，人工智能在網(wǎng)絡釣魚中出現(xiàn)不容小覷。具有網(wǎng)絡釣魚功能的人工智能工具出現(xiàn)在各種論壇上，這一事實充分說明了未來的格局。

該研究提出了幾項建議，企業(yè)應考慮改進其數(shù)字防御系統(tǒng)，以應對人工智能生成網(wǎng)絡釣魚的興起。首先是需要驗證，尤其是當員工遇到可疑或意外的電子郵件時。員工不應只依賴數(shù)字證據(jù)，而應直接致電發(fā)件人，以澄清疑慮，防止?jié)撛诘膯栴}。

建議企業(yè)修改培訓模塊。過去那種認為主要通過語法錯誤和拼寫錯誤就能識別網(wǎng)絡釣魚郵件的觀念，應被更細致入微的培訓所取代。在員工培訓中加入 vishing（基于語音的網(wǎng)絡釣魚）等先進技術，也能提供更全面的防御策略。

該研究還建議，企業(yè)應加強身份和訪問管理系統(tǒng)，包括采用防御網(wǎng)絡釣魚的多因素身份驗證機制，增加一層安全性。

Carruthers補充表示：“人工智能在網(wǎng)絡釣魚攻擊中的出現(xiàn)要求我們重新評估網(wǎng)絡安全的方法。”“采納這些建議并在面對不斷變化的威脅時保持警惕，讓我們可以在當今動態(tài)的數(shù)字時代加強防御，保護我們的企業(yè)，并確保我們的數(shù)據(jù)和人員的安全。”