為什么人工智能治理很重要

從人工智能治理的角度來(lái)看，你所做的事情可以確保你的客戶、合作伙伴和市場(chǎng)信任你。如果你在社交媒體上和朋友聊得很開(kāi)心，然后你知道的下一件事就是你被推薦或者收到某人的電子郵件，因?yàn)樗麄冊(cè)诟櫮愕恼勗?mdash;—我不知道你怎么樣，但我不喜歡這樣。它不會(huì)灌輸信任。

你不想采用給顧客帶來(lái)那種體驗(yàn)的做法。你的合作伙伴對(duì)你的體驗(yàn)以及整個(gè)市場(chǎng)的體驗(yàn)也是如此。你希望他們能夠信任來(lái)自你的機(jī)器學(xué)習(xí)和人工智能能力的見(jiàn)解，而不會(huì)經(jīng)歷負(fù)面事件。

人工智能風(fēng)險(xiǎn)和安全

人工智能風(fēng)險(xiǎn)和安全組織，即AIRS，一個(gè)非正式的從業(yè)者團(tuán)體，已經(jīng)將人工智能風(fēng)險(xiǎn)分為四個(gè)不同的類別。首先是與數(shù)據(jù)相關(guān)的風(fēng)險(xiǎn)。

眾所周知，人工智能模型的好壞取決于用來(lái)訓(xùn)練它們的數(shù)據(jù)。數(shù)據(jù)的局限性之一是，你可能沒(méi)有模型將要看到的每一個(gè)實(shí)例的數(shù)據(jù)，所以你的模型有很大的學(xué)習(xí)局限性。此外，我們都聽(tīng)說(shuō)過(guò)“垃圾進(jìn)，垃圾出”我還沒(méi)有遇到過(guò)沒(méi)有某種數(shù)據(jù)衛(wèi)生問(wèn)題的企業(yè)客戶。

下一個(gè)風(fēng)險(xiǎn)是壞演員。有一些人期待游戲人工智能系統(tǒng)，還有一些人可能會(huì)發(fā)起數(shù)據(jù)中毒攻擊。其他風(fēng)險(xiǎn)是參與者可以用來(lái)推斷關(guān)于訓(xùn)練數(shù)據(jù)的私人信息的技術(shù)。最后，有些壞演員會(huì)試圖竊取你的模型來(lái)弄清楚它們是如何工作的——例如，竊取你的欺詐檢測(cè)模型，這樣他們就可以學(xué)會(huì)打敗它。

即將出臺(tái)的新規(guī)章制度

即將到來(lái)的最大的新法規(guī)之一，可能在2024年，是歐洲的人工智能法案，它創(chuàng)建了一個(gè)等級(jí)，將一些人工智能用例評(píng)為不可接受的風(fēng)險(xiǎn)，其他人為高風(fēng)險(xiǎn)，其他人為有限風(fēng)險(xiǎn)，其他人為最小風(fēng)險(xiǎn)。高風(fēng)險(xiǎn)人工智能將被禁止，包括大規(guī)模監(jiān)控、操縱導(dǎo)致傷害的行為和社會(huì)評(píng)分等用例。高風(fēng)險(xiǎn)活動(dòng)將需要評(píng)估，包括獲得就業(yè)、教育和公共服務(wù)、車輛安全部件和執(zhí)法。有限風(fēng)險(xiǎn)的人工智能活動(dòng)需要透明，它們包括模仿、聊天機(jī)器人、情感識(shí)別和深度假貨。任何其他的都可以歸類為最小風(fēng)險(xiǎn)，并且對(duì)企業(yè)沒(méi)有任何責(zé)任。

在美國(guó)，規(guī)則相當(dāng)不同。美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所發(fā)布了一個(gè)擬議的人工智能治理框架，但它不是強(qiáng)制性的。珀塞爾說(shuō)，這份草案的形式側(cè)重于如何幫助公司確保以負(fù)責(zé)任的方式創(chuàng)造人工智能，他認(rèn)為它側(cè)重于培養(yǎng)風(fēng)險(xiǎn)管理的文化。

此外，今年發(fā)布了一項(xiàng)人工智能權(quán)利法案，該法案不具有約束力，但它表明了拜登政府在人工智能法規(guī)方面將采取的方向。其中的關(guān)鍵部分是隱私的重要性，以及讓人類做出關(guān)鍵決定而不是依賴人工智能/自動(dòng)化的重要性。

跨企業(yè)的人工智能治理

一個(gè)堅(jiān)實(shí)的人工智能治理實(shí)踐將需要跨越整個(gè)組織，以便它能夠在這個(gè)涉及隱私的法規(guī)日益成熟、客戶日益復(fù)雜的新時(shí)代中導(dǎo)航。根據(jù)說(shuō)法，這項(xiàng)工作需要包括人工智能領(lǐng)導(dǎo)者、業(yè)務(wù)領(lǐng)導(dǎo)者、數(shù)據(jù)工程師、法律/合規(guī)專家、數(shù)據(jù)科學(xué)家和解決方案工程師。這個(gè)小組的每個(gè)成員對(duì)人工智能實(shí)踐都有不同程度的興奮或關(guān)注。