AI核心平臺挑戰大 Arm推全面運算解決方案

矽智財(IP)廠安謀(Arm)IP產品事業總裁Rene Haas,Computex 2019。(圖/業者提供)

記者周康玉臺北報導

矽智財(IP)廠安謀(Arm)IP產品事業羣總裁Rene Haas指出,AI核心平臺邁向異質時代,在安全、成本、跨處理元件運用等都面臨很大的挑戰,Arm則是會提供結合硬體IP、軟體架構和最佳化工具,一次解決未來運算複雜性的「全面運算」(Total Compute) 解決方案

Arm IP產品事業羣總裁Rene Haas在COMPUTEX論壇中發表「全面運算引領AI成長」(Scaling AI Through Total Compute)主題演說,探討AI運算在各個市場所面臨的複雜挑戰,以及Total Compute解決方案爲何能夠同時滿足AI效能提升與應用開發的需求。

AI運算核心走向異質平臺

Rene指出,AI未來走向核心平臺邁向異質化時代。現在的智慧手機已經內建許多人工智慧和機器學習(ML)的基礎功能,包括即時影像擷取、人臉辨識等,但在全球將近40億支智慧型手機中,目前約有85%還是將機器學習的工作負載交由CPU或者CPU + GPU(圖形處理器)執行的。而根據Arm對AI處理器工作負載的研究,爲達成更佳的應用效能和使用體驗,發揮AI和ML的優勢,未來智慧型裝置的AI運算核心,將以CPU爲中心,再整合運用GPU、NPU (類神經網路處理器)、DPU (資料流處理器)、FPGA (現場可編程邏輯閘陣列)等運算資源

碎片化的軟體/開發者生態系統

產業轉型來看,不論是自動駕駛、5G引爆的邊緣伺服器需求、AI型穿戴裝置和虛擬實境 (VR)、擴增實境 (AR)、高畫質遊戲體驗、5G 智慧手機等,都帶來超高的運算效能與智慧功能要求。此外,安全也是一項極大的考驗,前述各種市場領域設備與裝置,都儲存大量個人資訊,沒有人希望竊取個人機密資料的事件再次發生。

Rene指出,然而,這些大規模運算流程、跨處理元件的運用、安全保護要求等,都將讓應用開發變得越來越困難、成本越來越高,此外,市面上太多不同軟體的選擇,造成開發人員和生態系統碎片化,讓推動裝置AI化更困難。

Arm推全面運算

面對AI運算與體驗挑戰,Rene指出,Arm提供從系統整體出發,結合硬體IP (矽智財)、軟體架構和最佳化工具,一次解決未來運算複雜性的「全面運算」(Total Compute) 解決方案。

一方面,Total Compute解決方案能以CPU爲任務控制核心,再透過System IP確保AI運算的工作負載能達到最佳分配。例如影像搜尋作業由NPU執行,將比CPU更快、更有效率

另一方面,Total Compute解決方案能讓開發者成本更低,速度更快,運用了Arm IP以及Arm NN、Arm Compute Library、 Arm Development Studios和Arm Mobile Studios,能有效加速產品開發的上市時程