像ChatGPT這樣的生成型人工智能模型是如此令人震驚，以至于現(xiàn)在有人聲稱，人工智能不僅可以與人類平起平坐，而且往往更加聰明。它們以令人眼花繚亂的風(fēng)格拋出美妙的藝術(shù)品。它們能寫出飽含細(xì)節(jié)、想法和知識(shí)的文本。生成的人工制品是如此多樣，而且看來如此獨(dú)特，以至于很難相信它們來自于機(jī)器。我們才剛剛開始發(fā)現(xiàn)生成性人工智能所能做的一切。

一些觀察家認(rèn)為，這些新的人工智能終于跨越了圖靈測試的門檻。其他人則認(rèn)為，這個(gè)門檻并沒有被輕易超越，只是被過度吹捧。可是，這項(xiàng)杰作確實(shí)另個(gè)驚嘆，以至于確實(shí)有一批人已經(jīng)在走向失業(yè)的邊緣。

但是，一旦人們見慣不怪，生成性人工智能天生的光環(huán)也與消退。一批觀察者以正確的方式提出問題，讓這些智能機(jī)器表達(dá)出或愚蠢或錯(cuò)誤的內(nèi)容。這已經(jīng)成為當(dāng)下的一種時(shí)髦。其中一些人使用了在小學(xué)藝術(shù)課上流行的老式邏輯炸彈，比如要求提供一張晚上的太陽或暴風(fēng)雪中的北極熊的照片。其他人則提出了奇怪的請求，展示了人工智能上下文意識(shí)(也被稱為常識(shí))的局限性。那些對此有興趣的人可以計(jì)算生成性人工智能失敗的規(guī)律。

本文提出了生成式人工智能的十項(xiàng)缺點(diǎn)或缺陷。這份清能讀來也許有點(diǎn)酸葡萄味，因?yàn)槿绻试S機(jī)器接管，他就會(huì)失去工作。你可以說我是一個(gè)支持人類團(tuán)隊(duì)的小人物，只不過希望人類在與在與機(jī)器的拼搏中能表現(xiàn)出英雄氣概。盡管如此，我們是不是都應(yīng)該有點(diǎn)擔(dān)心呢?

1、剽竊

當(dāng)像DALL-E和ChatGPT這樣的生成型人工智能模型打造之初，它們實(shí)際上只是從其訓(xùn)練集中的數(shù)百萬個(gè)例子中制造新的模式，其結(jié)果是對各種來源的剪切和粘貼的綜合。如果人類這樣做，就會(huì)被稱為剽竊。

當(dāng)然，人類也是通過模仿來學(xué)習(xí)。但是，在某些情況下，這種借鑒是如此明顯，以至于會(huì)讓一位小學(xué)老師感到不安。這種人工智能生成的內(nèi)容由大塊的文字組成，或多或少都是逐字逐句地呈現(xiàn)。然而，有時(shí)涉及到足夠的混合或綜合，即使是交給一組大學(xué)教授也很難發(fā)現(xiàn)其來源。無論如何，從中都不可能看到獨(dú)特性。盡管這些機(jī)器閃亮奪目，但它們并沒有能力生產(chǎn)出真正的新作品。

2、版權(quán)

雖然抄襲在很大程度上是學(xué)校才關(guān)心的，但著作權(quán)法卻也適用于市場。當(dāng)一個(gè)人抄襲另一個(gè)人的作品時(shí)，他們有可能被帶到法院，可能會(huì)被處以數(shù)百萬美元的罰款。但是人工智能呢?同樣的規(guī)則是否適用于它們?

著作權(quán)法是一個(gè)復(fù)雜的話題，生成性人工智能的法律地位將需要花費(fèi)數(shù)年才能解決。但請記住這一點(diǎn)：當(dāng)人工智能開始生產(chǎn)看起來足夠好的作品，使人類處于失業(yè)的邊緣，其中一些人肯定會(huì)用他們新的業(yè)余時(shí)間提起訴訟。

3、無償勞動(dòng)

抄襲和版權(quán)并不是生成性人工智能引起的唯一法律問題。律師們已經(jīng)在幻想著新的訴訟道德問題。舉例來說，一家制作繪畫程序的公司是否應(yīng)該收集人類用戶的繪畫行為數(shù)據(jù)，然后將這些數(shù)據(jù)用于人工智能訓(xùn)練?人類是否應(yīng)該為這種創(chuàng)造性勞動(dòng)的使用而得到補(bǔ)償?當(dāng)前一代人工智能的成功，很大程度上源于對數(shù)據(jù)的獲取。那么，當(dāng)產(chǎn)生數(shù)據(jù)的人想要分一杯羹時(shí)會(huì)發(fā)生什么?哪些是公平的?什么可以被認(rèn)定為合法?

4、信息不是知識(shí)

AI特別善于模仿人類需要多年才能發(fā)展的那種智能。當(dāng)人類學(xué)者介紹一位晦澀難懂的17世紀(jì)藝術(shù)家，或者用幾乎被遺忘的文藝復(fù)興時(shí)期的音調(diào)結(jié)構(gòu)寫出新的音樂時(shí)，我們有充分的理由留下深刻的印象。我們知道，這需要多年的研究來發(fā)展這種深度的知識(shí)。當(dāng)人工智能只經(jīng)過幾個(gè)月的訓(xùn)練就做這些同樣的事情時(shí)，其結(jié)果可能是令人眼花繚亂的精確和正確，但卻缺少一些關(guān)鍵因素。

如果一臺(tái)訓(xùn)練有素的機(jī)器能夠在一個(gè)裝滿數(shù)十億條記錄的數(shù)字鞋盒中找到正確的舊收據(jù)，它也可以學(xué)習(xí)關(guān)于像Aphra Behn這樣的詩人的一切知識(shí)。你甚至可能相信，機(jī)器是為了解碼瑪雅象形文字的含義而制造的。AI可能看起來是在模仿人類創(chuàng)造力中俏皮和不可預(yù)測的一面，但它們無法真正做到。同時(shí)，不可預(yù)知性是推動(dòng)創(chuàng)意創(chuàng)新的原因。像時(shí)尚圈這樣的行業(yè)不僅沉迷于變化，而且被變化所定義。事實(shí)上，人工智能有它的位置，但是，老的來之不易的人類智能也是如此。

5、智力停滯不前

說到智力，人工智能本質(zhì)上是機(jī)械的和基于規(guī)則的。一旦人工智能處理了一組訓(xùn)練數(shù)據(jù)，它就會(huì)創(chuàng)建一個(gè)模型，而這個(gè)模型并不會(huì)真正改變。一些工程師和數(shù)據(jù)科學(xué)家設(shè)想隨著時(shí)間的推移逐漸重新訓(xùn)練人工智能模型，這樣機(jī)器就能學(xué)會(huì)適應(yīng)。但是，在大多數(shù)情況下，這個(gè)想法是要?jiǎng)?chuàng)建一個(gè)復(fù)雜的神經(jīng)元集，以固定的形式編碼某些知識(shí)。恒定性有它的位置，可能對某些行業(yè)有效。人工智能的危險(xiǎn)在于，它將永遠(yuǎn)停留在其訓(xùn)練數(shù)據(jù)的時(shí)代潮流中。當(dāng)我們?nèi)祟愖兊萌绱艘蕾嚿尚匀斯ぶ悄埽灾劣谖覀儫o法再為訓(xùn)練模型產(chǎn)生新的材料時(shí)，又會(huì)發(fā)生什么?

6、隱私和安全

AI的訓(xùn)練數(shù)據(jù)需要來自某處，而我們并不總是那么確定神經(jīng)網(wǎng)絡(luò)中會(huì)出現(xiàn)什么。如果AI從其訓(xùn)練數(shù)據(jù)中泄露個(gè)人信息怎么辦?更糟糕的是，鎖定人工智能要困難得多，因?yàn)樗鼈儽辉O(shè)計(jì)得如此靈活。一個(gè)關(guān)系型數(shù)據(jù)庫可以限制對含有個(gè)人信息的特定表格的訪問。但是，人工智能可以用幾十種不同的方式進(jìn)行查詢。攻擊者將很快學(xué)會(huì)如何以正確的方式提出正確的問題，以獲得他們想要的敏感數(shù)據(jù)。舉個(gè)例子，比如說某項(xiàng)資產(chǎn)的經(jīng)緯度被鎖定了。一個(gè)聰明的攻擊者可能會(huì)問該地點(diǎn)幾周內(nèi)太陽升起的確切時(shí)刻。一個(gè)盡職的人工智能會(huì)嘗試回答。教導(dǎo)人工智能保護(hù)私人數(shù)據(jù)我們還并不掌握。

7、未被察覺的偏見

如果你知道最早的大型機(jī)程序員創(chuàng)造了縮寫詞GIGO或“垃圾進(jìn)，垃圾出”，你就能明白從那時(shí)起他們就認(rèn)識(shí)到計(jì)算機(jī)問題的核心。AI的許多問題來自于糟糕的訓(xùn)練數(shù)據(jù)。如果數(shù)據(jù)集不準(zhǔn)確或有偏見，結(jié)果就一定會(huì)反映出來。

生成式人工智能的核心硬件可能像Spock(電視劇《星際旅行》的外星人主角)一樣以邏輯為導(dǎo)向，但建造和訓(xùn)練機(jī)器的人類卻不是這樣。偏見和偏袒已經(jīng)被證明確有途徑進(jìn)入人工智能模型。也許有人使用有偏見的數(shù)據(jù)來創(chuàng)建模型。也許他們添加了重寫功能，以防止模型回答特定的熱點(diǎn)問題。也許他們把硬性規(guī)定的答案放進(jìn)去，然后變得難以檢測。人類已經(jīng)找到了許多方法來確保人工智能成為我們有害信仰的絕佳載體。

8、機(jī)器的愚蠢

我們很容易原諒人工智能模型犯錯(cuò)，因?yàn)樗鼈冊谄渌S多方面做得很好。只是，許多錯(cuò)誤是很難預(yù)測的，因?yàn)槿斯ぶ悄艿乃季S方式與人類不同。例如，許多文字轉(zhuǎn)圖像功能的用戶發(fā)現(xiàn)，人工智能把相當(dāng)簡單的事情搞錯(cuò)了，比如算術(shù)。人類在小學(xué)時(shí)就學(xué)會(huì)了基本的算術(shù)，然后我們在各種各樣的方面使用這種技能。讓一個(gè)10歲的孩子畫章魚的草圖，這個(gè)孩子幾乎肯定會(huì)確定它有八條腿。當(dāng)前版本的人工智能在涉及到數(shù)學(xué)的抽象和背景用途時(shí)往往會(huì)陷入困境。如果模型建造者對這種失誤投入一些關(guān)注，這很容易改變，但還會(huì)有其他的失誤。機(jī)器智能與人類智能不同，這意味著機(jī)器的愚蠢也會(huì)不同。

9、人類的易受騙性

有時(shí)在不知不覺中，我們?nèi)祟愅鶗?huì)填補(bǔ)人工智能的空白。我們填補(bǔ)缺失的信息或插播答案。如果人工智能告訴我們亨利八世是殺害妻子的國王，我們不會(huì)質(zhì)疑它，因?yàn)槲覀冏约翰⒉涣私膺@段歷史。我們只是提前假設(shè)人工智能是正確的，就像我們在有魅力的明星前歡呼雀躍的時(shí)候一樣。如果一個(gè)說法聽起來信心滿滿，那么人類的頭腦往往愿意接受它就是真實(shí)和正確的。

對于生成性人工智能的用戶來說，最棘手的問題是知道人工智能何時(shí)是錯(cuò)誤的。機(jī)器不能像人類那樣撒謊，但這使它們更加危險(xiǎn)。它們可以產(chǎn)生幾段完全準(zhǔn)確的數(shù)據(jù)，然后轉(zhuǎn)向猜測，甚至是徹底的誹謗，而沒有人能意識(shí)到。二手車交易商或撲克牌手往往知道他們什么時(shí)候在作假，而且大多數(shù)人都有暴露他們誹謗行為的證據(jù)。但人工智能沒有。

10、無限的豐富性

數(shù)字內(nèi)容是可以無限復(fù)制的，這已經(jīng)使許多圍繞稀缺性建立的經(jīng)濟(jì)模式變得緊張。生成性人工智能將更多地打破這些模式。生成性人工智能將使一些作家和藝術(shù)家失去工作;它也顛覆了我們賴以生存的許多經(jīng)濟(jì)規(guī)則。當(dāng)廣告和內(nèi)容都可以無休止地重新組合和再生時(shí)，廣告支持的內(nèi)容還能發(fā)揮作用嗎?互聯(lián)網(wǎng)的免費(fèi)部分是否會(huì)淪為一個(gè)機(jī)器人點(diǎn)擊網(wǎng)頁上的廣告的世界，所有這些都是由生成性的AI精心制作和無限復(fù)制的?

這種輕松的豐富性可能會(huì)破壞經(jīng)濟(jì)的各個(gè)角落。如果這些代幣可以永遠(yuǎn)被復(fù)制，人們還會(huì)繼續(xù)為不可復(fù)制的代幣買單嗎?如果制作藝術(shù)如此容易，它還會(huì)被尊重嗎?它還會(huì)是特別的嗎?如果它不特別，會(huì)有人關(guān)心嗎?當(dāng)一切都被視為理所當(dāng)然時(shí)，是否會(huì)失去價(jià)值?這就是莎士比亞說到“The slings and arrows of outrageous fortune”時(shí)想表達(dá)的意思嗎?讓我們不要試圖自己回答這此問題。讓我們向生成型人工智能尋求答案。這個(gè)答案將是有趣的、奇特的，并最終神秘地被困在正確與錯(cuò)誤之間的某個(gè)冥界。