調研機構對于人工智能基礎設施需求進行了徹底的調查,并在研究報告中指出,在完全部署之前,人工智能系統所需的能量正在不受控制地擴展。這一結論讓人感到非常不安。
人工智能技術并不新鮮,其背后的思想可以追溯到50年甚至70年前。人工智能系統能力的前所未有的爆炸式增長,并且獲得大量的投資,人工智能如今可以做的事情呈指數級增長,用于開發和運行人工智能系統的資源也在呈指數級性,人們已經感受到人工智能帶來的威脅和機會。
然而,人工智能競賽是在相對保密的情況下進行的。全世界都在采用像ChatGPT和Midjourney這樣的人工智能應用程序,并在它們可能做的事情上建立整個商業模型,所有這些都只是對這些系統如何運行,以及它們的財務、社會和環境成本的最模糊的理解。
對于大量能源的需求
調研機構采訪了微軟、谷歌、英偉達等公司的人工智能架構師。他們總結了人工智能硬件領域的發展歷程。坦率地說,人工智能的發展令人難以置信。
人工智能的飛速發展要求在半導體芯片方面進行激進的創新,以及全新的網絡架構。它正在耗費原本為天氣預報和分子建模等工作而建造的國家超級計算機的容量,而且它正在催生出前所未有的新型專業云系統。
但科技公司并沒有談論人工智能行業將消耗多少地球資源。谷歌公司的Bard是一個內部應用程序。OpenAI公司是微軟公司的親密合作伙伴,它可以優先和私有地訪問專門創建的Azure云資源。
早在2018年,OpenAI公司還是一個非營利研究組織,鼓勵采用對人類友好的人工智能方法。這聽起來像是一個警告:行業領先的人工智能模型的計算需求每3.4個月翻一番。2018年,當人工智能AlphaGo在圍棋比賽中擊敗人類時,它使用的計算能力是2012年人工智能領跑者8層神經網絡AlexNet的30萬倍。
摩爾定律曾預言,核心處理器的計算能力每兩年翻一番。這是令人印象深刻的,但在此期間,它只會產生七倍的增長。無論如何,當達到芯片制造的物理極限時,摩爾定律將會失去發呢動力。正如Sebastian公司所發現的,人工智能領導者改善人工智能訓練和性能的唯一方法是在更高能量的專用處理器的更大集合上運行更大的模型。
一些行業數據敲響了警鐘,因為人工智能系統的能耗之大開始讓人們感到恐慌。據行業媒體報道,在去年的設計自動化大會上,AMD公司首席技術官MarkPapermaster警告稱,到2050年,人工智能系統的能源使用增長將消耗全球所有能源。
這聽起來像是十多年前對數據中心能源使用預測的重演,事實證明這種預測被夸大了。但人們確實有理由感到擔心。
谷歌公司和伯克利大學的研究人員估計,GPT-3的一次訓練產生的碳排放量大約是一架客機從舊金山到紐約往返的三倍。
另一方面,人工智能對于能源需求的增長是沒有限制的。Arm公司首席技術官IanBratt將神經網絡的計算需求描述為“永不滿足”,其原因很簡單,因為網絡越大,其運算結果越好。如果不是因為要不惜一切代價贏得人工智能競賽的壓力,能源和硬件的成本可能是一個限制因素。
人們對人工智能能源使用的跡象實際上是令人擔憂的。
由精簡指令集(RISC)的發明者DavidPatterson領導的來自谷歌和伯克利的科學家團隊發表了一篇論文,注意到一架客機在舊金山和紐約之間往返時產生180噸二氧化碳當量,該小組隨后估計,訓練GPT-3產生的碳大約是其三倍。從論文中看不清楚這里假設的能源結構是什么。
現在,人們知道人工智能在應用之前往往有有限的訓練運行次數,然后在每次使用的基礎上,它們在“推理”階段使用更少的能量(但如果使用得更多,可能會消耗更多的能量)。人工智能模型的研發工作需要的不僅僅是一次訓練。如果人工智能模型應用于現實世界,它們將需要更新和重新訓練。
如果微軟公司在其必應搜索引擎中使用GPT-4,則每次訓練運行將攤銷到數百萬次搜索中,但訓練數據必須定期更新,因為它顯然不夠好,無法擁有一個知識在2021年結束的搜索引擎,就像ChatGPT公開演示的情況一樣。
據估計,用人工智能增強像必應這樣的搜索引擎,每次搜索的碳足跡將增加大約五倍。
這些擔憂已經提出了一段時間。2020年12月,人工智能倫理研究員TimnitGebr因提出質疑而被迫退出谷歌公司。當時,人們的注意力集中在她的發現上,即訓練人工智能的過程引入了未知的偏見,使最終的應用程序具有種族主義和性別歧視。但正如行業媒體報道的那樣,導致她退出的論文實際上引發了許多其他問題,包括能源使用。
她表示,運行這種高能耗的過程,不僅會給氣候帶來風險。它將人工智能研究局限于富裕的企業,而貧窮的社區則承受著氣候變化的影響。該論文表示,“研究人員優先考慮能源效率和成本,以減少對環境的負面影響和對資源的不公平獲取,這是過去的事了。”
需要透明度
當人們擔心數據中心的能源使用會失控時,研究人員出的數據表明,摩爾定律和云計算效率的結合意味著數據中心的效率已經提高了幾個數量級,使總體能源使用得到了控制。
研究人員警告說,不要從當今人工智能演示和早期推出的熱潮中得出結論,他指出,專門的人工智能芯片可以提高效率,人工智能的能源使用可能會減少其他地方的能源使用。他告說:“人們可能會根據孤立的軼事進行推斷,得出令人瞠目結舌的數字,而這些數字幾乎總是太高了。”
很明顯,人工智能具有潛在的價值,但如果沒有成本的透明度,人們就無法判斷價值是否真的超過了成本。