沃卡惠10月6日消息，據(jù)外媒Engadget、Wired等報道，美國馬里蘭大學(xué)的一個研究小組對AI生成內(nèi)容的“數(shù)字水印”技術(shù)可靠性進(jìn)行研究，發(fā)現(xiàn)這一技術(shù)可被輕易破解。
該校計(jì)算機(jī)科學(xué)教授Soheil Feizi面對AI生成圖像的水印現(xiàn)狀時直言不諱：“目前我們沒有任何可靠的水印技術(shù)，我們破解了所有的水印。”
在測試過程中，研究人員可輕松避開現(xiàn)有的水印方法，并發(fā)現(xiàn)在非 AI 生成的圖像上添加“假水印”更為容易。同時，該團(tuán)隊(duì)還開發(fā)出了一種“幾乎無法”從圖像中去除的水印技術(shù)，且不會完全損害圖像的知識產(chǎn)權(quán)。
而在加州大學(xué)圣巴巴拉分校和卡內(nèi)基梅隆大學(xué)合作的一項(xiàng)類似研究中，研究人員發(fā)現(xiàn)通過“模擬攻擊”，AI 生成圖像的水印可被輕易去除：通過破壞性的調(diào)整亮度、對比度或壓縮乃至旋轉(zhuǎn)圖像來去除，或通過建設(shè)性的高斯模糊等技術(shù)來去除。
據(jù)報道，AI 生成數(shù)字水印將成為一場與黑客之間的競爭。這種水印盡管肉眼不可見，但可以打擊濫用 AI 生成的內(nèi)容。
IT之家此前報道，美國政府曾在 7 月下旬宣布，已獲得多家人工智能頭部公司的自愿承諾，將對人工智能生成的內(nèi)容加水印等措施，以幫助提高技術(shù)的安全性。
亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意提高其系統(tǒng)的安全性和透明度，包括允許第三方專家對其模型進(jìn)行審查。
在發(fā)給TechRadar的一份聲明中，美國政府表示：“正在開發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國政府鼓勵該行業(yè)堅(jiān)持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會以犧牲美國人的權(quán)利和安全為代價。”
ICP備案：鄂ICP備18031228號-2
鄂公網(wǎng)安備42280102001149
增值電信業(yè)務(wù)經(jīng)營許可證號：鄂B2-20200242
中國聯(lián)通合作伙伴：沃卡惠（湖北）通信有限公司
