邊緣AI 2026將成 IoT晶片發展核心

04:102021/05/02 工商時報 集邦科技資深分析師曾伯楷

隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求，AI與IoT結合已是現在進行式。在AI晶片助益下，IoT邊緣與終端裝置可透過機器學習或深度學習等技術加值，同時帶出無延遲、低成本、高隱私等優勢，顯示出AI晶片的重要性。預估全球AI晶片產值至2025年將達720億美元。

與此同時，邊緣運算透過AI使終端設備於運行上更加智慧，不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢，並進一步使系統具有主動性與智慧性。若以場景角度切入，邊緣AI相較傳統邊緣運算，其主要帶來的效益包括數據處理過濾和邊緣智慧分析，此也將成為兩技術持續結合的動能。

一、MCU、連接晶片、AI晶片為IoT晶片產業鏈三大關鍵零組件。　物聯網在傳統上多以感知層、網路層、系統層與應用層作為架構堆疊，主要經濟效益雖來自應用層的智慧情境發展，然感知層所需的產業鏈之上游零組件仍是支撐終端場景運作重要核心，其中又以微控制器（MCU）、連接晶片與AI晶片最關鍵。

MCU方面，建立在高效能、低功耗與高整合發展主軸下，IoT MCU現行從通用MCU演化成特定為IoT應用或場景所打造，如2021年3月STMicroelectronics推出新一代超低功耗微控制器STM32U5系列，可用於穿戴裝置與個人醫療設備；Silicon Labs同期推出PG22 32位元MCU，主打空間受限且須低功耗的工業應用、Renesas RA4M2 MCU著眼IoT邊緣運用等。

連接晶片方面，受物聯網設備連線技術與標準各異影響，通訊成物聯網晶片中相當重要的一環，從蜂巢式的4G、5G、LTE-M、NB-IoT，到非蜂巢式的LoRa、Sigfox、Wi-Fi、Wi-SUN等，從智慧城市、工廠、家庭至零售店面皆被廣泛運用，範圍擴及至太空，如2020年下旬聯發科與國際航海衛星通訊公司（Inmarsat）合作，成功以NB-IoT晶片完成全球首次5G物聯網高軌衛星資料傳輸測試。AI晶片方面，隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求，AI與IoT結合已是現在進行式。此外，Microsoft在其2021年3月舉辦的年度技術盛會Ignite 2021上指出，2022年邊緣運算市場規模將達到67.2億美元，與深度學習晶片市場相當吻合，亦提及市場預估至2025年全球深度學習晶片市場將有望達663億美元。同時，Microsoft認為至2026年全球AI晶片有3／4將為邊緣運算所用，顯示出IoT晶片於邊緣運算的發展將成未來廠商重要布局之一。

二、邊緣AI效益顯著，成長動能仰賴數據處理過濾、邊緣智慧分析。

首先，從邊緣運算定義來看，市場雖已談論數年但定義與類別始終未統一，原因是各廠商於邊緣託管工作的目的不盡相同。例如對電信商而言，初步處理數據的微型數據中心是其邊緣端，而對製造商來說邊緣裝置可能是生產線的感測器，此也造就邊緣運算的分類方式略有出入。另外，例如IBM有雲端邊緣、IoT邊緣與行動邊緣的類別，ARM多將邊緣視為雲端與終端間的伺服器等裝置，亦有個人邊緣、業務邊緣、多雲邊緣等類型。

其次，從邊緣運算類別來看，現行分類趨勢和研究方式尚有以數據產生源為核心，藉由設備與數據源的物理距離作為分類參考，並將其分為厚邊緣（Thick Edge）、薄邊緣（Thin Edge）與微邊緣（Micro Edge）。厚邊緣多用以表示處理高數據流量的計算資源，並配有高階CPU、GPU等，例如數據中心的數據儲存與分析；薄邊緣則包含網路設備、工業電腦等以整合數據為主要目的，除了配有中間處理器外，也不乏GPU、ASIC等AI晶片；微邊源因與數據源幾無距離，故常被歸類為生成數據的設備或感測器，計算資源雖較為匱乏，但也可因AI晶片發揮更大效益。

整體而言，邊緣運算透過AI使終端設備於運行上更加智慧，不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢，並進一步使系統具有主動性與智慧性，在平台管理、工作量合併與分布式應用也更有彈性。若以場景角度切入，邊緣AI相較傳統邊緣運算，其主要帶來的效益提升包括數據處理過濾和邊緣智慧分析，此也將成為兩技術持續結合的動能。

數據處理與邊緣分析於過往邊緣運算時已可做到，並在AI加值下進一步提升效益。以前者而言，數據透過智慧邊緣計算資源可在邊緣處預先處理數據，且僅將相關資訊發送至雲端，從而減少數據傳輸和儲存成本；從邊緣分析效能來看，過往多數邊緣運算資源處理能力有限，運行功能時往往較為單一，而邊緣智慧分析透過AI晶片賦能，進而能執行更為繁複、低延遲與高數據吞吐量的作業。

三、全球大廠搶攻IoT晶片市場，中國加重AI晶片發展力道。

IoT晶片於邊緣運算所產生的效益，使其成為廠商重要策略布局領域，雲端大廠如Google、AWS等紛紛投身晶片自製；傳統晶片大廠如ARM最新產品即鎖定邊緣AI於攝影機和火車的辨識應用、Intel亦投資1.3億美元於十餘家新創AI晶片設計廠商，NXP Semiconductors、Silicon Labs、ST則陸續在其MCU或SoC添加邊緣AI功能。此外，新創企業Halio、EdgeQ、Graphcore皆以AI晶片為主打。整體而言，若以區域來看，歐美大廠聚焦加速AI運算效能，但最積極發展AI晶片產業的則屬產官學三方皆支持的?心，代表性廠商包含地平線、華為旗下海思等代表；台灣則由產業聯盟領頭與聯發科和耐能等重要廠商。

（一）中國產官學助力，2023年AI晶片產值估將逼近35億美元。

AI產業是中國發展重點之一，其輔助政策如2017年《新一代人工智能發展規劃》、《2019年促進人工智能和實體經濟深度融合》，至「十四五」與「新基建」，都將AI視為未來關鍵國家競爭力。各大廠也因此陸續跟進，如百度發布AI新基建版圖著眼智慧雲伺服器；阿里宣布未來至2023年將圍繞作業系統、晶片、網路等研發和建設，騰訊則聚焦區塊鏈、超算中心等領域。

產官學研加重AI的發展力道也反映於AI晶片上，ASIC（特殊應用基體電路）廠商比比皆是。其中，AI晶片布局物聯網領域的廠商眾多，包含瑞芯微、雲天勵飛、平頭哥半導體、全志科技等，主要面向雲端運算、行動通訊、物聯網與自動駕駛四大領域。其中，物聯網領域進一步聚焦於智慧家庭、智慧交通、智慧零售與智慧安防部分，執行語音、圖像、人臉與行為辨識等應用。若進一步聚焦於邊緣運算領域，則以地平線、寒武紀、華為海思、比特大陸、鯤雲科技等最為積極。整體而言，TrendForce預估，中國AI晶片市場有望從2019年13億美元增長至2023年近35億美元。

綜觀中國AI晶片發展，雖有中美貿易摩擦導致設計工具、製造封測等環節較受限制，且開發成本始終居高不下，然而，藉由產官合作以及中國內需市場需求動能，仍能有效支撐該產業成長。若以邊緣運算來看，鑒於AIoT市場持續茁壯，特定應用的ASIC將是重要發展趨勢，尤以汽車、城市與製造業來看，相關場景應用如人身語音行為辨識、人車流量辨識、機器視覺等需求皆相當明朗，預期也將成廠商中長期發展主軸。

（二）台灣人工智慧晶片聯盟積極整合，監控與機器人為邊緣AI應用兩大方向。

台灣廠商聯發科和耐能同樣結合邊緣運算與AI兩技術作策略布局，就整體產業而言，2019年由聯發科、聯詠、聯電、日月光、華碩、研揚等廠商共同組成的台灣人工智慧晶片聯盟（AITA）發展迄今已越趨成形，各關鍵技術委員會（SIG）亦訂定短中長期發展目標。

邊緣AI發展則由AI系統應用SIG推動，其第一階段至2020年著眼半通用AI晶片發展與智慧監控系統應用平台的裝置端推論，2021年則聚焦以裝置端學習系統參考設計，以及軟硬體發展平台的裝置端學習為主，並規劃在2023年能以多功能機器人為主體，發展多感知人工智慧和智慧機器人AI晶片發展平台。

換言之，藉由業界在智慧裝置、系統應用與AI晶片的串聯，短期至2022年都將是台灣邊緣AI大力發展階段，並朝智慧監控、多功能機器人深化，預期此也將帶動系統整合的凌群、博遠，終端設備的奇偶、晶睿碩，以及晶片設計的聯發科、瑞昱等邊緣AI商機；但相較中國廣大內需市場，台灣仍需藉由打造讓晶片廠和系統商充分整合的互補平台，以利降低晶片開發成本，並從其中尋求更多可供切入的大廠產業鏈。

附圖：2019～2023年中國AI晶片市場推估
AI於IOT流程主要著眼數據處理與分析之效
台灣人工智慧晶片聯盟系統應用SIG發展架構

資料來源：https://www.chinatimes.com/newspapers/20210502000153-260511?fbclid=IwAR0zlvUv8MKpcHrbgpa3xRAFaQXaxZuep9TCeZ-75myILNjuDV4SWEIdKZ8&chdtv

#亞馬遜推出工業用傳感器搭配AWS機器學習可預知機器潛在故障
#亞馬遜從PaaS往SaaS移動
#AIoT的成敗關鍵將會落在如何玩弄數據

比較有趣的是，Monitron 在工業應用上卻走的是 BLE 5.0 協議，而不是工業物聯網常用的ZigBee協議。是需要加上 Monitron BLE Gateway 才能配置成系統使用。

系統的組成是：裝置(3軸MEMS加速度計+溫度) + 網關(BLE Gateway) + 雲計算(AWS) + 人機界面(APP)

『AWS Monitron 感測器體積小，成本低廉，可以偵測異常震動或溫度，預知潛在失誤。AWS Panorama 服務則採用電腦視覺技術，可分析攝影資料，確保勞工配戴個人防護設備，避免機具超出行駛範圍。

目前有很多企業正在測試 AWS Panorama，Siemens Mobility 預計運用這項科技來監控城市的交通流量，Deloitte 也試圖藉此監控船運狀況。』

AI監控守護工廠勞安　亞馬遜進軍工業
https://lnkd.in/gi4RFph

---
https://www.facebook.com/groups/smartcitylab #智慧城市實驗室
#智慧家庭 #智能家居 #smarthome #智慧城市 #smartcity

5G與邊緣互為體用 體現完美分散式運算

讓網路智能邁向邊緣網路

【作者： 籃貫銘、王岫晨】 2020年07月31日 星期五

分散式的概念由來已久，尤其從有網路以來，資料的運算和儲存架構就不斷的朝向「去中心化」發展。到了物聯網時代，這個模式更成了理所當然和不可或缺的系統建置架構。

最初，分散式運算（Distributed computing）的提出，就是一種基於多計算機以網路連接的運算系統。基本上就是使用一組電腦，透過網路互相連結並通訊，之後運用軟體的控制機制，讓它們形成一個大型的運算系統，已完成更大的運算目標。

也因此，這種形式的系統運作思維，就是要把一個需要大量計算的工程資料，分割成諸多小塊，再分給多台電腦個別去計算，接著再上傳運算結果，最後統一合併成資料結果。

所以可想而知，傳統的分散式運算是站在降低整體成本的思維來進行，就目的而言，仍是集中式的思考，只是在運算手段上採用了分散的形式，著名的蛋白質藥物運算專案Folding@home，就是在這種架構下執行的一項任務。

跳脫傳統框架 物聯網實現真正分散式運算

然而目前的物聯網則完全跳脫了傳統的框架，它們本身就不存在一個被指定的巨大任務，因此在設計上就顯得更加自由，架構上當然也更加彈性，因此物聯網可以說是真正的實現了分散式運算的理念。

首先，在本質上，物聯網就是一種去中心的架構，它透過有線和無線的網路系統，將各式的裝置連結起來。儘管在這個架構中，所有的裝置連結成一個大網路，但網路中的每個節點裝置都是獨立運行，有各自的功能與目標。

連結成網的目的，則是要打破物與物溝通的藩籬，讓彼此的運行可以更緊密，同時應用的深度也更加貼近實際的需求。

再者，從技術上看，物聯網裝置本身也需要一定的運算力，才能運行前端種種的功能，而且物聯網裝置經常會產生許多的數據，這些資料的處理、傳輸、儲存也會提供對端點裝置運算力的需要。也因此，分散式運算的功能在物聯網應用中更顯重要。

而物聯網的分散式運算技術應用中，邊緣運算則是當前最受關注的一環，它可以說是實現智慧物聯（AIoT）應用的關鍵技術，甚至也是把人工智慧帶進人們日常生活的重要技術，因此，包含AWS、英特爾、NVIDIA與Microsoft等大型的科技公司，紛紛鎖定邊緣運算的技術與應用，最為其在物聯網時代的主要服務項目，積極投入邊緣晶片與邊緣平台的開發。

根據市場研究公司technavio的研究，全球2019至2023年全球邊緣運算市場的年複合成長率（CAGR）將近41%，市場規模將達到57億美元。而其主要的驅力則來自於對於「去中心化」的運算力需求，藉此減低因數據傳輸路徑過長所造成的決策延遲。

另一方面，萬物聯網的時代，必然出現數據資料量爆炸性成長的情況，這不僅考驗網路基礎建設與傳輸技術，同時數據的儲存與隱私問題也會變成發展的挑戰。也因此「分散式儲存」和「分散式帳本」的技術與應用，也將隨之而來。

而隨著全球5G陸續啟用之後，尤其是5G的低延遲與大連結的技術，更是有助於提升分散式運算的性能，對於上述種種的分散式運算技術與應用，將會刺激其進一步的加速發展，並成為未來幾年內重要的市場成長驅力。

分散式運算的最佳體現

提起分散式運算，智慧手機算是最典型的一個代表產物了。越來越強大的運算功能，可以由使用者隨身攜帶，真正做到隨時隨地、不同空間的異地運算。特別是隨著5G問世，更大的通訊頻寬，使得更為強大的分散式運算成為可能，並開啟更多全新的應用體驗。我們可以說，去中心化的邊緣運算，就是實現分散式運算的最佳體現方式。

Marvell 首席架構師 George Hervey指出，當我們邁向「始終在線，始終連接」（Always On，Always Connected）模式的更進階階段時，智慧手機已經成為生活中不可或缺的一部分。我們的手機提供即時的資料和溝通媒體存取，這樣的存取方式影響我們的決定，最終左右我們的行為。這便是分散式運算的全新意涵。

思科預計，到了 2022 年，全球行動網路將會支援超過 120 億部行動裝置及物聯網連線。而這些行動裝置將會支援更多元的功能。如今，我們的手機已然取代許多小工具並提供諸多服務。如果您的手機可以提供 Apple Pay、Google Pay 或執行電子支付，那麼便無需隨身攜帶皮夾。如果手機可以開車門並且啟動汽車，或是可以打開車庫的門，那麼就無需隨身攜帶車鑰匙。目前，應用程式已經涵蓋即時串流服務，可提供 VR/AR（虛擬實境/擴增實境）體驗和即時分享等服務。未來的服務和應用程式似乎可以滿足無限的想像，不過它們的發展需要新世代資料基礎架構的支援與協助。

對於邊緣智能的需求

網路連線能力和流量成長都在持續提升，原因是新型數據密集應用程式的採用率的提升，造成對頻寬以及更高智慧基礎架構的需求。這樣的基礎架構可以透過智能辨識特定的應用程式和基礎架構需求，並且在必要時提供邊緣的處理作業。隨著Multi-Gigabit 乙太網路和 400GE 骨幹連線的進步，網速也獲得提升，但最新的 5G 和 Wi-Fi 科技可用頻寬卻持續造成回程傳輸中的瓶頸。

George Hervey說，邊緣處理有助於避免大量資料跨網路移動。這種更高階的網路智能可以讓網路在無須使用者介入的情?下提供複雜的軟體定義基礎架構管理、管理推論引擎、應用相關策略。最重要的是可提供主動式的應用程式功能。 透過使用具有低延遲性、高可靠度和安全性的基礎架構提供幾乎即時的互動式平台，使用者體驗將會獲得提升。

伴隨對頻寬的需求迅速激增，該怎麼有效在大範圍內解決這個問題呢？在平行處理雲端資料中心時發現，要擴展並處理新增的頻寬和大量節點，可以在網路邊緣新增處理作業。這個方法可以在資料中心完成，方法是透過使用智慧網卡（smartNIC）從伺服器卸載複雜的處理工作，包含封包處理、安全性、以及虛擬化。 另一個相似的方法可在電信業者網路中達成，方法是透過部署位於邊緣的SD-WAN/uCPE/vCPE提供智能服務並減少連線成本。然而，這個方法在企業網路中會出現問題，因為企業網路需要多樣功能的端點，而第一個一致功能需求位置出現在網路的存取層。

結語：利用AI

如果使用傳統方式在企業網路中部署服務（例如集中式防火牆和驗證伺服器），還會遇到其他挑戰。按照預期，會有更多的裝置需要存取網路，而且每部裝置會需要更多頻寬。這種情況下，這些傳統方式的限制會造成瓶頸。如果要解決這些問題，必須真正實現網路邊緣處理，讓處理作業貼近需求端，並且更加智能。 網路 OEM、IT 基礎架構擁有者和服務提供者，都必須在企業網路的存取層善用新世代的AI和網路功能卸載。

附圖：圖一 : 5G與邊緣運算將是共生互用的緊密關聯。（CTIMES製圖；source：lanner-america）
圖二 : 5G問世使得更為強大的分散式運算成為可能，並開啟更多應用體驗。（source: pxhere.com）

資料來源：http://www.ctimes.com.tw/DispArt/tw/5G/%E9%82%8A%E7%B7%A3%E9%81%8B%E7%AE%97/%E5%88%86%E6%95%A3%E5%BC%8F%E9%81%8B%E7%AE%97/%E7%89%A9%E8%81%AF%E7%B6%B2/2007311411T5.shtml?fbclid=IwAR2OybGp6M7ELrGsybQlhJvBdK7hZdBWKmELLBKWYAKyaGatAwLpm8caRTQ