以下是應用嚴格的人工智能信任、風險和安全管理(AI TRiSM)的組織如何以及為何將更有價值的AI模型投入生產。

你準備好接受人工智能權利法案了嗎？最近的美國藍圖旨在保護社會免受有害人工智能的侵害，提醒所有人工智能模型的開發者和用戶，他們需要在他們的人工智能模型和戰略中建立保障措施。需要對AI TRiSM采取嚴格的方法。

Gartner將AI TRiSM定義為支持AI模型治理、可信賴性、公平性、可靠性、穩健性、功效和隱私的框架。它包括針對其客戶和企業的模型可解釋性和可解釋性、隱私、模型操作和對抗性攻擊抵抗的解決方案、技術和流程。

“IT領導者必須花費時間和資源來支持AI TRiSM。Gartner杰出副總裁分析師Avivah Litan表示，那些這樣做的人將在采用、業務目標以及內部和外部用戶接受度方面取得更好的人工智能成果。“人工智能威脅和妥協（惡意或良性）是持續不斷的，并且不斷演變，因此人工智能TRiSM必須是一種持續的努力，而不是一次性的練習。”

為什么AI TRiSM是一種趨勢技術

Gartner預計，到2026年，實施AI透明度、信任和安全性的組織將看到他們的AI模型在采用、業務目標和用戶接受度方面實現50%的結果改進。

人工智能變得越來越普遍。Gartner調查結果表明，組織已經部署了成百上千個一些IT領導者無法解釋或解釋的AI模型。缺乏知識和理解可能會產生嚴重的后果。當依賴增加時，人工智能模型表現不佳的影響會被放大。

不管理AI風險的組織更有可能遇到負面的AI結果和違規行為。模型不會按預期運行，并且會出現安全和隱私故障、財務和聲譽損失以及對個人的傷害。錯誤執行的人工智能也可能導致組織做出糟糕的業務決策。

AI TRiSM影響和操作

人工智能法規正在增加，但即使在強制實施保護措施之前，實施確保信任、透明度和消費者保護的做法也很重要。IT領導者需要應用新的AI TRiSM功能來確保模型的可靠性、可信度、隱私和安全性。

不要等到模型投入生產后再應用AI TRiSM。它只是打開了潛在風險的過程。IT領導者應熟悉妥協形式并使用AI TRiSM解決方案集，以便他們能夠正確保護AI。

AI TRiSM需要跨職能團隊一起工作。這包括來自法律、合規、安全、IT和數據分析團隊的員工。如果可能，建立一個專門的團隊，或者如果沒有，則建立一個工作組，以獲得最佳結果。確保為每個AI項目提供適當的業務代表。

好處包括改善他們的組織從使用人工智能中獲得的業務成果，而不是簡單地遵守法規。

簡而言之：

AI TRiSM功能可確保模型的可靠性、可信度、安全性和隱私性。

為了在AI采用、實現業務目標和用戶接受方面取得更好的成果，組織需要管理AI信任、風險和安全性。

將AI TRiSM視為一套適當保護AI的解決方案。

Avivah Litan是Gartner Research的杰出副總裁分析師，目前是ITL AI團隊的成員，該團隊涵蓋人工智能和區塊鏈。她專注于區塊鏈創新的各個方面，以及人工智能信任、風險和安全管理。Avivah在網絡安全和欺詐的許多方面擁有強大的背景，包括人工智能與這些領域的集成。