人工智慧(AI）蓬勃發展，全球產業多半走向AIoT生態系的發展策略，很多業者積極建構或加入AIoT生態系進行卡位，共同創造AIoT應用生態體系新商機。
台灣廠商長期經營 ICT 製造代工訂單，國外業者對台灣硬體的品質與成本優勢有正面肯定。然而，在AI、物聯網與大數據發展下，也面臨雲端運算效率、AI運算能力及大數據分析品質等技術挑戰與產業需求，其中AI邊緣運算（Edge computing）技術是目前全球產業關注的發展焦點。
當各種大量IoT Data上傳雲端進行AI運算、訓練與分析，此多半延遲整體運算分析、資料回應與機器運作的效率，因此將部分的機器學習機制從雲端下放到終端設備上，邊緣運算技術將原本要送到雲端伺服器或大數據中心進行資料訓練、分析與預測的工作，移往各個網絡邏輯架構上的邊緣節點處理，因而必須提高這些邊緣節點處理數據的能力。
市調機構IDC統計，預估2020 年將有超過500億元的終端和設備聯網，其中50%以上的數據需要在網絡邊緣進行分析、處理與存儲。
工研院觀察發現，2017及2018年電信業、網通設備業、伺服器業、平台大廠、系統整合業、半導體晶片業、零組件與終端業者，積極發展各種邊緣運算的技術解決方案。
從AI邊緣運算技術發展趨勢看來，已從臨近性、地區性等跨裝置聯網、Hub 集散中心的層次，轉往終端應用情境、邊緣裝置。換句話說，AI技術中，部分的機器學習技術、AI自主決策機制將從雲端移轉到邊緣上進行，帶來三大發展趨勢：
首先，On-Line Training 快速崛起，On-Device Training 將成為顯學。
邊緣運算宗旨是將應用程序、數據資料與服務等運算移往網路邏輯上邊緣節點。但以從彈性部署、即時性回應、頻寬、成本等層面來看，愈靠近使用端，愈能提供較好的效能與即時性體驗。歸納領導廠商的技術解決方案，所有IoT裝置不需要時刻處於聯網狀態，也消耗頻寬、電力與運算資源等，因此AI 邊緣運算技術將具備「On- Line Training」與「On- Device Training」兩個面向。意即連網時才需要傳輸資料並進行AI訓練，以及當IoT裝置處於離線狀態時，也必須具備部分的決策能力與即時反應能力。
其次，「Edge AI 晶片+ AI演算法」是全球邊緣運算技術發展趨勢。
包括Amazon併購晶片商Annapurna Labs，並招募晶片人才，有意將人工智慧助理Alexa 部分功能從雲端上轉到智慧音箱 Echo上面進行。Microsoft除結合Intel FPGA來發展Project Brainwave硬體架構平台，也與聯發科合作推出支援Azure Sphere的系統單晶片（SoC） MT3620，提供 MCU 的 IoT 產品可以內建安全與聯網功能。
Google除發展Cloud IoT Edge外，也自行開發 Edge TPU晶片，讓邊緣裝置可利用TPU進行AI機器學習推論。由此可見，領導大廠從平台、系統到軟體，開始整合晶片，顯示出晶片與演算法將是定義未來邊緣運算軟硬體的發展方向。
第三，朝向AI機器學習為導向的應用生態系。
邊緣運算生態系除以電信主導的跨裝置聯網體系、或以平台大廠帶領的應用生態體系，此時以最底層的半導體晶片來主導的機器學習生態系也成形，如英國半導體大廠ARM提供 CPU，GPU、NPU及開源軟體相結合的解決方案，進而建立全球AI邊緣運算生態系。預估將有利於台廠從智慧邊緣硬體出發，切入人工智慧邊緣運算產業與市場的機會。
當前AI邊緣運算技術發展處於百家爭鳴的狀態，從電信營運商、IoT 設備商、雲端平台大廠、系統整合業者、晶片半導體業等，都在部署並完備邊緣運算的技術解決方案。台廠可從運算資源、部署成本、彈性化、擴充性、即時性回應、易用性等層面思考切入AI邊緣運算。
另外，台灣具有智慧邊緣硬體的優勢，On-Device Training是較有利台廠的發展方向，建議台廠能更具體向終端裝置靠攏，並使用者裝置最簡化、最佳化運算、過濾有效數據或收斂共通性功能等，更進一步掃除雲端平台大廠和5G業者的制約，以便於進入各國市場。
（本文由作者工研院產業科技國際策略發展所分析師陳右怡授權轉載）
