工業自動化、機器人技術、智能城市和家庭自動化僅僅是推動提高計算機性能和能力需求的幾個應用領域。過去,這些類型系統中的傳感器要簡單得多,而且不連接,不過,人工智能和機器學習(ML)現在能夠提高本地智能水平,允許本地的設備決策,而過去簡單的控制算法是不可能做到的。

　　人工智能時代通用處理器的演變

　　多年前,開發者把邏輯和控制算法作為軟件開發的核心,然而數字信號處理(DSP)算法隨后出現,這使許多增強語音、視覺和音頻應用成為可能。

　　應用程序開發的這種轉變進入了一個新的時代,正在影響計算體系結構的設計。現在我們已經到了推理是算法開發的一個主要焦點的階段.這帶來了對計算性能、能源效率、延遲、實時處理和可伸縮性等新的或更高的要求。

　　我們看到,不僅需要新的處理器加速器,而且需要改進通用處理,為開發人員提供必要的平衡,并啟用應用程序,如特征檢查或人的實時視頻檢測。

　　幾年前開發人員創建噪音取消應用程序時,只會依賴基于頻率的濾波器。但是今天,開發人員可以通過將過濾與ML/AI模型和推理相混合來提高應用程序的性能和功能。這推動了對處理器和工具的需求,使這些任務更加高效,并且盡可能地無縫地提供給用戶。

　　邊緣和端點裝置中的智能標記

　　這種演變是由ML驅動的,但它并非沒有技術上的挑戰。多年的啟動和停止,以及創造一個"一刀切"方法的嘗試,都促使業界改變了其方法,以釋放大規模的擴展機會。

　　現在,開發者正在利用安全、性能提高的技術,使小型、低功率嵌入式系統能夠應用于先前難以想象的聲音、視覺和振動應用,這些應用正在改變世界。語言和變壓器模型的各種版本將很快在具有新的計算能力的iot邊緣設備中找到他們的位置。這將打開開發人員曾經夢想的新的可能性。

　　為了給開發人員配備這種開發改造所需的硬件,幾年前我們在ARM8.1M體系結構中引入了ARM矢量處理技術。ARM作為小型低功率嵌入式器件,在ML和數字信號處理中的應用有著顯著的性能提升。它還提供單一指令多數據(SIMD)功能,為ARMcortexM設備提供新水平的性能,支持預測維護和環境監測等應用。

　　ARM增強了DSP和ML的性能,加速了信號調節(如濾波、消除噪聲和消除回聲)和特征提取(音頻或像素數據),然后可以通過神經網絡處理器輸入分類部分。

　　實現智能邊緣能力

　　我們已經看到合作伙伴在他們的最新產品中選擇ARM技術,使開發者能夠利用最受約束的設備在網絡的最邊緣的ML能力。ARMcortex-55于2020年2月發布,而Alif半導體于2021年9月發布了第一個cortex-55硅。它在其整體和產品家族中使用ARM的cortex-M-55。HMAX還采用了帶ARM的cortexM-55作為下一代W2AI處理器的一部分,該處理器的目標是電池驅動的iot設備中的計算機視覺。

　　第二個使用ARM的CPU,ARMcortex-M85,于2022年4月n發布,雷納斯在2022年和2023年嵌入式世界上展示了M85演示。普魯梅雷是一家開發了基于相機的人員檢測完整軟件解決方案的公司,該公司在演示過程中利用了雷納斯RAMU技術來顯著加速其推理引擎。該公司相信,性能提升將使其客戶能夠使用更大、更精確的普魯梅雷人檢測人工智能,增加額外的產品功能,并延長電池壽命。

　　隨著硬件的不斷發展,開發人員面臨著越來越復雜的軟件需求,需要新的開發流程來創建優化的ML模型和高效的設備驅動程序。至關重要的是,為生態系統提供的軟件開發平臺和工具與硬件一起發展。

　　有各種各樣的ARM和第三方工具可以支持最終用戶創建AI算法。一旦數據科學家離線創建了模型,就會有工具對模型進行優化,無論是在基于電子的NPPS上使用,還是在基于cortex的處理器上使用ARM指令。

　　QEexo是第一家為邊緣設備自動化端到端機器學習的公司,其自動化平臺提供了一個直觀的用戶界面,允許用戶收集、清理和可視化傳感器數據,并使用不同的算法自動建立機器學習模型。傳統的嵌入式工具,如凱伊微控制器開發工具包(凱伊MDK)補充了MLPOP工具,并幫助建立了一個用于驗證復雜的軟件工作負載的開發流程。因此,嵌入式、iot和AI應用程序在一個單一的開發流中收斂,這是許多軟件開發人員已知的。

　　邊緣的潛力正在被解鎖。人們對微控制器性能的需求越來越大,特別是在語音激活的門鎖、人員檢測和識別、將電動機控制與預測性維護連接起來以及無數其他高端人工智能和ML應用等方面。

　　配備了正確的技術,開發者可以重新設想邊緣和端點設備,在成本、性能、能源效率和隱私之間達成正確的平衡,這是這些受限系統的關鍵因素。