人工智能終端應用的可能性無限，舉凡智能型手機、汽車、照明等，都有機會成為所謂的邊緣運算裝置。但在過去，運算處理器是在數據中心有較為明顯的需求。目前邊緣運算此一產業走向的大逆轉，已可從各芯片供貨商，如GPU、CPU等，以及硅智財（IP）授權商紛紛針對人工智能展開布局，推出各自處理器縮小化的解決方案，明顯可見一斑。

隨著人工智能的發展，有越來越多應用產品開始在終端上進行實時運算，也就是所謂的邊緣運算。不過，目前的處理器核心對許多終端裝置來說，功耗仍嫌偏高。

AIoT浪潮興起小型處理器核心滿足邊緣運算需求

索思未來（Socionext）戰略銷售組銷售部銷售項目總監張育豪（圖1）表示，目前市場上主流的CPU或GPU核心規模很大，雖然運算效能很強，但功耗也高，而且不易針對應用進行客制化設計。有鑒于此，Socionext采取用小型核心堆棧的設計架構，其好處在于從云到端都可以采用同樣的處理器核心，且也較容易針對個別應用進行客制化，例如將CPU核心跟圖像處理核心（VPU）整合在單芯片上。

張育豪觀察，目前的人工智能應用大多與影像相關，但不管是CPU或GPU，在進行影像運算時，功耗/性能比都不盡理想。這是因為CPU跟GPU原本就不是為了處理影像而設計的芯片。CPU的強項在于進行數據運算，而GPU則適合用來進行3D繪圖處理。因此，用CPU或GPU來進行影像分析，其實效率不是太好。相較之下，專門為處理影像而設計的VPU，在圖像處理的功耗/性能比方面，是遠勝過CPU跟GPU的。

舉例來說，用CPU來對4K影像進行處理跟分析，功耗預算大概是230瓦左右；若用GPU來進行，功耗更可達到400?500瓦。但如果是用Socionext的解決方案，一顆核心的功耗只有5瓦左右，就算串聯多顆核心，也會比CPU或GPU來得省電許多。因此，張育豪認為，在人工智能進駐各類終端裝置的趨勢下，如果是與影像分析有關的人工智能應用，VPU將有非常大的發展潛力。Socionext本身擁有業界領先的VPU技術，更是目前市場上唯一已經有8K圖像處理芯片的芯片業者。

不管是針對大規模數據中心，或是在各種終端裝置上直接進行邊緣運算，功耗都是非常關鍵的考慮。功耗越高，則系統的散熱設計也越昂貴，不僅會增加終端裝置的生產制造成本，也會增加系統擁有者的總體持有成本（TCO）。

以數據中心為例，冷卻系統的電費是相當可觀的，如果處理器能更省電，空調冷卻的電費也可以隨之降低。其他形形色色的終端裝置也一樣，當芯片的功耗太高時，就得采用更大的散熱片，甚至用風扇來散熱，這些都會造成產品的生產成本跟總體持有成本增加。

單一叢集配置更彈性DynamIQ推升大小核效率

針對小型處理器需求的增加，安謀國際（ARM）日前在處理器架構上，也宣布了大幅度調整，也就是DynamIQ技術。DynamIQ達成了上一代big.LITTLE架構在單一運算叢集上無法實現的大小核彈性配置，對異質運算及人工智能這類應用帶來相當明顯的效率提升。其將作為未來ARMCortex-A系列處理器的基礎，亦同時代表了業界在多核處理程序設計上的新紀元。

ARM行動通訊暨數字家庭市場資深營銷經理林修平（圖2）表示，DynamIQ可以說是ARMbig.LITTLE的第二代硬件架構，其最主要的特點在于其可以在同一個叢集（Cluster）中同時擺放大小核，且電源（Power）與頻率（Clock）都可以單獨作管理。在第一代的大小核架構中，一個叢集只能擺放大核或小核，因此在執行轉換任務時，必須經過快取（Cache）轉換。但在DynamIQ中，由于所有任務都將能在同個叢集中運作，在任務切換上，便會相對迅速很多。

林修平指出，由于人工智能所需要的運算量很大，同時需要很多矩陣乘法，透過DynamIQ的架構，將能做1+3、1+7、2+2+4等設計配置。在過去的big.LITTLE架構中，由于一個叢集最多即是4核（大核（Big）4核，小核（LITTLE）4核），是沒有辦法做到1+7的。DynamIQ所帶來的多元變化SoC設計配置，將能幫助應用達到CPU優化，進而讓效能與功耗能更往上提升。

DynamIQ的頻率可以單獨管理，也將帶來很大好處。第一代的大小核，在同一個叢集當中，頻率是統一的，但DynamIQ可以讓同一叢集中的不同核心，依據運算需求在不同的頻率下運作。

此外，林修平也表示，DynamIQ還可連接外部的硬件加速器。以人工智能來說，不同應用會有不同的軟硬件加速需求，例如加速器、DSP、CPU、GPU等，像是在高階智能型手機上，可能會放置加速器，來使其表現度達到最好、功耗達到最低，不過這也會增加集成電路的成本。因此，若是比較大眾化的產品，則可能會利用系統上現有的CPU、GPU，來滿足人工智能的需要。

更多資訊請關注工業機器人頻道