沃卡惠
6月9日消息，據英國《金融時報》報道，英偉達人工智能軟件“NeMo” 可被輕易繞過安全限制，并且有可能泄露用戶隱私。
報道稱，NeMo是一款面向企業客戶的軟件，可結合企業用戶數據與大語言模型，以此回答用戶的問題。其應用場景包括客服和回答簡單醫療問題等。加州信息安全公司Robust在報告中表示，惡意使用者能輕易繞開NeMo內部的AI系統安全限制。Robust的研究員僅耗費幾小時，便繞開了這些語言模型的使用限制。
▲圖源：英偉達
IT之家注意到，在其中一項測試中，研究人員要求NeMo用字母“J”替代“I”，這使得NeMo公布了數據庫中的用戶個人信息。此外，研究人員還發現，盡管已將NeMo設定為僅能為用戶提供擇業建議，但通過引導式提問使NeMo討論了好萊塢演員的健康情況和普法戰爭等話題。這意味著系統內阻止AI討論特定話題的限制已經失效。
▲圖源：英偉達
英偉達副總裁喬納森科恩表示，NeMo架構只是為了幫助打造符合開發者所定義的主題的聊天機器人，其以開源軟件的形式發布給開發者。目前，這些漏洞已被修復?？贫骶芙^透露有多少企業使用NeMo架構，但強調英偉達沒有收到其他關于漏洞的報告。
