基于文本的生成人工智能工具能夠以驚人的速度完成高級寫作和通信任務，引起了公司和消費者的共鳴。但實現這些令人印象深刻的功能的幕后流程可能會給敏感的政府監管行業（如保險、金融或醫療保健）帶來風險，因為在不謹慎行事的情況下利用生成式人工智能。

一些最具說明性的例子可以在醫療保健行業找到。

此類問題通常與用于訓練大型語言模型 (LLM) 的廣泛且多樣化的數據集有關，大型語言模型是基于文本的生成人工智能工具用來執行高級任務的模型。如果沒有程序員明確的外部干預，這些法學碩士往往會從互聯網上的各種來源不加區別地抓取數據，以擴展他們的知識庫。

這種方法最適合低風險的面向消費者的用例，其中的最終目標是準確地引導客戶獲得所需的產品。然而，大型數據集和人工智能模型生成輸出的混亂路徑越來越模糊了醫院和醫療保健提供者追蹤和防止潛在錯誤所需的可解釋性。

在這種情況下，可解釋性是指理解任何給定法學碩士邏輯路徑的能力。希望采用輔助生成人工智能工具的醫療保健專業人員必須有辦法了解他們的模型如何產生結果，以便患者和工作人員在整個決策過程中擁有完全的透明度。換句話說，在像醫療保健這樣危及生命的行業中，對于專業人士來說，曲解用于訓練人工智能工具的數據的風??險太大了。

值得慶幸的是，有一種方法可以繞過生成式人工智能的可解釋性難題——它只需要更多的控制和關注。

神秘與懷疑

在生成式人工智能中，理解法學碩士如何從 A 點（輸入）到 B 點（輸出）的概念比沿著更多設定模式運行的非生成算法要復雜得多。

生成式人工智能工具在從輸入到輸出的過程中建立無數的連接，但對于外部觀察者來說，它們如何以及為何建立任何給定的一系列連接仍然是一個謎。由于無法了解人工智能算法所采用的“思維過程”，人類操作員缺乏徹底的方法來調查其推理并追蹤潛在的不準確之處。

此外，機器學習算法使用的不斷擴展的數據集使可解釋性進一步復雜化。數據集越大，系統就越有可能從相關和不相關的信息中學習，并產生“人工智能幻覺”，即偏離外部事實和上下文邏輯的謊言，無論多么令人信服。

在醫療保健行業，這些類型的缺陷結果可能會引發一系列問題，例如誤診和不正確的處方。除了道德、法律和財務后果之外，此類錯誤很容易損害醫療保健提供者及其所代表的醫療機構的聲譽。

因此，盡管它有潛力加強醫療干預、改善與患者的溝通并提高運營效率，但醫療保健中的生成式人工智能仍然受到懷疑，這是正確的——55% 的臨床醫生不相信它已經準備好用于醫療用途，58% 的臨床醫生不信任完全是這樣。然而，醫療保健組織正在積極推進，其中 98% 的組織正在整合或規劃生成式人工智能部署策略，以試圖抵消該行業持續勞動力短缺的影響。

控制源頭

在當前的消費者環境中，醫療保健行業經常陷入困境，這種環境重視效率和速度，而不是確保鐵定的安全措施。最近關于培訓法學碩士的近乎無限的數據抓取陷阱的新聞，導致版權侵權訴訟，使這些問題成為人們關注的焦點。一些公司還面臨指控，稱公民的個人數據被挖掘來訓練這些語言模型，這可能違反隱私法。

因此，高度監管行業的人工智能開發人員應該對數據源進行控制，以限制潛在的錯誤。也就是說，優先從受信任的、經過行業審查的來源提取數據，而不是在未經明確許可的情況下隨意抓取外部網頁。對于醫療保健行業來說，這意味著限制常見問題解答頁面、CSV 文件和醫療數據庫以及其他內部來源的數據輸入。

如果這聽起來有些限制，請嘗試在大型衛生系統的網站上搜索服務。美國醫療機構在其平臺上發布數百甚至數千個信息頁面；大多數都埋得很深，患者永遠無法真正接觸到它們。基于內部數據的生成式人工智能解決方案可以方便、無縫地將這些信息傳遞給患者。這對各方來說都是雙贏的，因為衛生系統最終從這些內容中看到了投資回報，患者也可以立即輕松地找到他們需要的服務。

受監管行業中的生成式人工智能的下一步是什么？

醫療保健行業將從多種方面受益于生成式人工智能。

例如，考慮一下最近困擾美國醫療保健行業的普遍倦怠——預計到 2025 年，接近 50%的勞動力將辭職。由人工智能驅動的生成式聊天機器人可以幫助減輕大部分工作量，并保留過度擴張的患者訪問團隊。

在患者方面，生成式人工智能有潛力改善醫療保健提供商的呼叫中心服務。人工智能自動化能夠通過各種聯系渠道解決廣泛的詢問，包括常見問題解答、IT 問題、藥品補充和醫生轉介。除了等待等待帶來的挫敗感之外，只有大約一半的美國患者在第一次通話時成功解決了他們的問題，導致放棄率很高并且獲得護理的機會受到影響。由此產生的低客戶滿意度給該行業帶來了進一步采取行動的壓力。

為了使該行業真正受益于生成式人工智能的實施，醫療保健提供者需要促進其法學碩士訪問的數據的有意重組。