人工智能(AI)已經大規模地出現在人們的視野中,這項技術正在從數據中心擴散到廣泛的分布式位置,這是由更強大的處理器和更創新的算法實現的。但其他技術也需要跟上步伐,否則就有可能成為瓶頸。
美光科技公司工業部門主管David Henderson在接受行業媒體采訪時表示,人工智能應用的快速發展需求,特別是在網絡邊緣和板載連接設備方面,將對支持這些應用的內存提出更高的要求。
你能告訴我一些你在美光的角色,以及你在人工智能領域看到的趨勢嗎?
David Henderson:我領導美光的工業和多市場部門,專注于使用我們廣泛的內存和存儲解決方案組合的各種工業應用。這是一個極其分散的領域,包括視頻安全、工廠自動化、醫療設備、零售應用、運輸、航空航天和國防應用等應用。
在我的角色中,我看到人工智能在工業領域獲得了強大的吸引力,包括在邊緣和車載設備上。很明顯,人工智能最終將出現在幾乎所有工業設備上。現在,我們仍然處于這個充分市場潛力的山腳下,但即使是現在,人工智能也正在迅速被應用于核心工業和制造設備。
美光的使命是緊跟市場上最新的處理器和專用集成電路,確保美光內存產品組合的發展符合下一代處理器和人工智能加速器的需求,以及它們將在新環境中支持的更復雜的人工智能系統。
所以人工智能處理器和內存必須攜手并進,才能最有效地釋放新的創新人工智能算法的潛力?
David Henderson:內存是任何AI解決方案的關鍵部分。從歷史上看,大多數人工智能處理都發生在云數據中心的背景下,但它越來越多地擴散到邊緣和車載物聯網(IoT)以及其他連接設備。隨著人工智能遷移到邊緣,這些位置對高性能內存的需求也在增加。現在,我們看到一系列的人工智能解決方案已經延伸到網絡的邊緣,從推理開始,到邊緣的訓練。
這些應用程序可以釋放的好處可能是深遠的。邊緣人工智能可以顯著降低支持人工智能設備所需的通信帶寬,同時實現對這些設備的任何連接系統的實時反饋。在許多情況下,這些類型的更改既可以降低成本,也可以增加人工智能支持的任何用例的收入。
未來還會有更多。生成型人工智能還沒有在邊緣廣泛部署,當然在工業設備的背景下,但它的時代將會到來。當這種情況發生時,就存儲參考數據的內存密度和必須與處理器交換數據的帶寬而言,對內存的需求將顯著增加。
除非我們提前計劃,否則我們可能會發現自己處于分布式物聯網和其他連接設備的內存成為限制的情況。因此,關鍵是要關注這一細分市場的新興需求,并應對與不斷增長的模型尺寸、不斷增加的帶寬需求、更低的功耗以及向前沿技術節點發展相關的特定限制。
這些發展對美光有什么影響?
David Henderson:人工智能是美光持續轉型的主要驅動力之一。從根本上說,我們迫切需要匹配我們為各種潛在用例提供的各種內存解決方案。
以監控攝像頭的視頻分析為例。低級解決方案可能包含基本的檢測和分類。與此同時,更復雜的解決方案可能包括面部識別和行為分析,而最復雜的解決方案(截至目前)可能會擴展到包括上下文分析。這些都是人工智能解決方案,但支持這些解決方案所需的計算能力差異很大,以每秒幾次操作(TOPS)為標準。為了跟上更快的處理器,對內存數據處理的需求也相應發生了變化,低端標準攝像機的內存數據處理速度為4倍,而當今更復雜的安全視頻分析解決方案的內存數據處理速度可達16倍。
這種視頻分析應用程序只是一個例子。還有其他人工智能應用本質上不那么復雜,可能比視頻安全應用更復雜。例如,當機器視覺分析被部署到制造生產線的環境中以支持質量保證時,它突出了對本地監督學習的潛在需求。這是一個全新的復雜程度,有相關的處理和內存帶寬要求。美光優先與客戶合作,了解他們的計算需求,并引導他們了解內存技術的細微差別,以優化他們的解決方案。內存密度、功耗和內存帶寬吞吐量的規格對于單個用例至關重要,美光投資于研究和開發以交叉優化這些參數。
展望未來,你認為這個領域會如何發展?
David Henderson:我們肯定會看到人工智能部署的顯著和持續的增長,無論是在傳統工業系統的擴展方面,還是在我們過去從未見過的新用例中的創新采用方面。在邊緣利用生成式人工智能和大型語言模型(LLM)作為行業數字化轉型的一部分,只會繼續凸顯對更多數據的需求,其中內存和存儲是關鍵組件。
在許多情況下,人工智能可以實現更高的產量、更長的正常運行時間、更高的效率和更高的質量。它確實可以在零售、運輸和遠程保健等不同部門發揮作用,以更少的成本和資源實現更好的結果。
人工智能的潛力是巨大的。即使是今天所做的事情也產生了深遠的影響,但這只是冰山一角。看到記憶在解鎖與人工智能相關的這些未來好處方面發揮的作用,真是令人興奮。