銀行如何提供超級個人化服務？百人數據團隊靠AI打造中信腦

為了顧及全產品、全客群、全通路、全覆蓋，中國信託採取的對策是走入AI與大數據，更為發展AI應用訂下3大KPI，來掌握研發資源的最適化；今年，中信更成立數據治理委員會，希望將數據治理走向更全行化的關鍵議題

文/李靜宜 | 2021-06-10發表

「透過科技力，來創造競爭力。」中國信託銀行數據暨科技研發處處長王俊權，用一句話點出中國信託大力發展AI與大數據的戰略核心。

3年多前，中國信託定調以AI與大數據作為主要發展方向，並成立了數據研發中心，要用AI來加值業務場景的服務與產品。設立初期僅有一人，到現在已擴大為百人團隊，更在2020年初正式提升為數據暨科技研發處。王俊權正是該團隊的一號員工，更是中國信託內部大力推動AI與大數據的關鍵人物。

中國信託的經營策略是，顧及全產品、全客群、全通路、全覆蓋。而為了守住既有的優勢，中信採取的對策是走入AI與大數據，來作為轉型的利器。不只要轉型，王俊權表示，中信更希望透過AI與大數據，孵化出不同於以往的經營模式。

「CTBC+AI」是中國信託發展AI的大方向，在各業務線上，都能將既有的經營方法加上AI，來提升效率與效能，更要以這樣的科技力創造競爭力。更以優化、平臺、全面、轉型、顛覆這5大階段任務，往下推動AI。

王俊權解釋，中信的策略是，從最小且最有把握的項目開始，所以，透過AI來優化既有的經營方式，是中信切入AI的第一項任務。運用AI優化的專案成功後，下一步，中信就能將AI技術進一步平臺化；有了平臺之後，就能將AI技術全面導入到銀行。

走過了優化階段、平臺階段到全面發展階段，AI已經落地到中信的金融場景，也陸續有了一些階段性成果。王俊權表示，中信現在聚焦「轉型」與「顛覆」，希望透過AI幫助組織轉型，最終期待是要用AI提出顛覆的想法，創造新的經營模式，他透露，目前已有幾個專案正在進行中。

依循著CTBC+AI這項大主軸，中國信託打造了「中信腦」，定調3條研發路線： 電腦視覺、自然語言處理（NLP）、機器思考，也成立了3大實驗室，聚焦研發6大AI應用核心，包括了精準行銷、市場預測引擎、文字與文件辨識應用、人臉與物件辨識應用、機器閱讀到機器對話。從應用場景來看，則鎖定營銷經營、流程優化、風險控管這3項。累計至今，中信在業務單位落地的AI專案超過了20個。

第一類應用場景的AI，中信稱為「營銷經營+AI」，囊括個人化推薦、需求預測，目的是協助增加收益，並提升客戶滿意度、客戶資產、新申購產品數等。王俊權提到，像是推薦引擎專案，中信金控整體客戶數有1,100多萬戶，產品與通路又多，需要透過AI推薦引擎來實現精準行銷，預測顧客未來的金融需求，才能進一步推薦。中信也將這類預測技術，應用到金融商品的預測，比如房價預測、股市預測、匯率預測等。

「流程優化+AI」則是中信第二大類應用場景，包含法金作業流程、客戶申請流程、線上作業流程，希望用來協助內部提升作業效率，來減少作業成本，最終目的也同樣要能夠提升客戶滿意度。 目前，中信內部有多項端對端的流程數位化專案，像是個金、法金、AML（反洗錢）、HR等業務，都有導入AI來優化既有流程。

最後一類場景的應用是「風險控管+AI」，則應用在AML作業、偽冒偵測、稽核，來改善內部作業效率，減少風險的損失。比如，王俊權提到，前年底，中信銀行上線了一套用自然語言處理技術分析負面新聞的平臺，這個AI反洗錢專案的成果，後來更從臺灣擴大應用到7個國家的海外分行。

王俊權表示，3大實驗室所負責的6大AI核心，就是沿著這3大類應用分頭進行，其中，因為銀行面對數位化的壓力較大，所以，又以銀行為應用主力，再逐漸將AI技術擴大到金控旗下子公司，如投信、台灣人壽、中國信託資融等。

自行培養AI研發能力，更訂定3大AI管理KPI

AI發展策略上，中國信託除了自主研發，也會與廠商協作。不過，這兩種策略該如何拿捏，中信內部也走過一段辯論的路。王俊權表示，最後的判斷依據是，「金融業需要的核心能力，中信會投入有限的研發資源。若不是中信認為的核心能力，則盡可能用市場上的解決方案，來加快回應市場的時間。」

舉例來說，銀行業使用分析模型並非新鮮事，AI技術與傳統統計回歸最大的不同是，能夠處理大量非結構數據，像是人臉、電文等資料，可是，這些數據機敏性較高，如果銀行不能自行掌握技術，而需委外，王俊權認為，第一個問題就是，銀行創新的保密性較弱，再者，廠商進入銀行接觸到如此多的機密性資料，有時也有法遵問題。

尤其，金融業對個資的管制嚴格，非結構化資料很難離開金融業，但是，在臺灣，許多AI技術原廠來自海外，對於銀行來說，整體應用或導入的彈性都相對較低，這些都是中國信託選擇培養自家AI研發能量的關鍵因素。

中信在AI應用發展策略，更訂出3大關鍵績效指摽（KPI），作為研發資源最適化的參考。王俊權表示：「對資源有限，需求無限的單位而言，研發的管理是一大關鍵。」首先，中信不會輕易增加AI生產線，因每開一條生產線就會涉及維運與資源分散的議題。所以，「AI生產線的管理」是第一項KPI。

「AI研發資源調度的管理」是第二項KPI。王俊權提到，資源有限狀況下，應該分配多少資源，投入短期的落地變現，還是長期的亮點顛覆，「是一種決策的藝術。」過去，中信希望AI可以迅速擴大到各單位，所以，王俊權採取80／20法則，將80%的資源用在短期落地變現，讓大家有感，保留20%在真正創新的研發。不過，他表示，這個比例每年或每季會進行調整，要讓研發資源投入到需要的地方。

第三項KPI則是「核心複用的比率」，也就是同一項核心技術盡可能重複利用的比率。王俊權要求研發團隊，每條AI生產線至少要有3個落地應用。目前，中國信託共有6條AI生產線，以及20幾個AI落地應用的專案，他提到：「平均每條AI生產線，有3～4個核心複用。」未來，更希望將每個AI核心，擴大到金控內各個應用，所以，要盡可能提升核心的複用，他對團隊的期待是，能提高到兩位數的複用率。

他進一步舉例，3年前，中信導入工研院智能文審技術，來辨識客戶申辦信用卡、貸款所需檢附的財力證明，像是存摺、扣繳憑單等金融常用的固定格式文件。去年，中信將文字辨識應用，複用到分行的場景，上線AI票券辨識服務，在審票機中加入AI、OCR技術來辨識支票，來減少櫃員人工審票與顧客等待的時間，及提升作業人員登打的產能。

目前，中信已做到一張支票上的7個要件，包括到期日、抬頭人、金額、禁止背書轉、發票章讓章或手寫、背書、帳號，都能夠用AI辨識。王俊權提到，中信將自行研發的印刷體的文字辨識核心、手寫英數的AI辨識核心、文印鑑辨識技術，通通導入支票辨識上，「這就是一種AI核心的複用」。此外，為了持續優化辨識正確率，中信更導入AI反饋機制，內部自己發展出標記功能，來改善標記效率，長期目標是達到9成的辨識正確率。今年，中信預計將該AI應用擴大到22家分行。

中信還有另一項AI核心應用是人臉與物件辨識應用，王俊權坦言：「人臉辨識技術，對於組織的轉型與顛覆是亮點有餘，可是力道不足。」不過，若能結合防偽能力及數位流程，可能會創造出藍海的新應用。中信正在思考，如何運用人臉辨識、活體辨識、微表情辨識、情緒辨識等AI核心，交錯組合來打造遠端核身相關應用。

金融業需緊跟科技的腳步，轉變為自身的競爭力，才能在指數型成長的趨勢下，站上領先地位。AI與大數據，正是下一波競爭力的最大利器。─── 中國信託銀行數據暨科技研發處處長　王俊權

推動超級個人化服務，中信靠大數據建立5大行銷策略

「中信銀行每個月有1.5億筆的金融數據，1.9億筆的非金融數據。更可觀的是，疫情期間，顧客更加喜歡使用數位服務，每月高達2億筆的顧客數位數據。」王俊權首度揭露了中信內部統計的海量數據。不只如此，中信銀行1年與顧客會有20億次的行銷溝通，顧客造訪行動銀行、網路銀行或到行銷網頁觀望的次數，更是高達16億次。

「中國信託的數據含金量很高，因此，全都要採集起來，作為銀行KYC的關鍵第一步。」他提到，光在2017年到2018年這段期間，中信內部就採集了大量數據，來建立360度客戶全景標籤。即便，當時各個單位已有自己的全景標籤，中信仍認為要有一個可以全行共用的主數據庫。

有數據來了解顧客，銀行就能出手，中信的策略是以數據掌握顧客人生不同階段需求，提供超級個人化服務。王俊權表示，中信策略是運用AI與大數據，透過個人化溝通方式，來提升顧客的成交機會。中信更先將這種作法，落地到銀行的「艱困區」，若在艱困區測試後有成效，再轉移到「黃金區」主戰場。「一方面不會影響到既有的業務動能，另一方面團隊也會比較有信心。」

在推動超級個人化服務，中信採取了5大行銷策略，並各自搭配合適的AI技術。第一項策略是使用最適合的通路對不同顧客溝通；第二項是尋找顧客有興趣的話題來互動，王俊權透露，今年底將從人工轉為全自動化，用AI生成銀行與顧客行銷的文案。

選擇對的時間，則是第三項策略，比如，當外幣跌到一定數值時，跟該名顧客歷史申購外幣的成本有競爭性，就能在此時發送推薦資訊給顧客。

第四項策略則是打造貼合顧客需求的產品，他提到，中信已有不同產品的預測模型，能預測未來3個月或1周後，該名顧客可能需要的產品。可供業務單位、EDM數位行銷，來聚焦其中高成交率的顧客。最後一項策略是對的活動，即便是賣同一項產品，不同活動的優惠或行銷設計都要不一樣。

王俊權認為，不僅不要過度叨擾顧客，更希望提供一次就能擊中顧客的服務。甚至，目標是做到自動化行銷，他透露，目前正在建置平臺的階段，除了要能自動採集數據，更要自動反應顧客下一步的預測，讓銀行出手可以更快，或盡可能減少PM或行銷出手時會遇上的人工斷點，甚至，讓每次出手後的反饋可以更為即時，來推動多波段行銷。

成立數據治理委員會，優先梳理2類數據

「數據治理是比下水道還要更下水道的底層工程。」特別對於大型金融機構來說，海量的數據勢必要有與過往不同的梳理方式，王俊權如此說著。

因此，今年中信銀行成立了數據治理委員會，由總經理親自主持，各個業務單位主管都參與，「希望將數據治理走向更全行化的關鍵議題。」他坦言，今年是試行階段，但中信已經注意到這個趨勢，而且必須往這方向走。

中信在數據治理特別強調「以用為治」，去年，更研究了全世界數據治理做得較好的企業，比如，數據治理發展超過20年的華為。王俊權坦言：「對中信而言，數據治理既然是一場長期抗戰，就必須明確為何而戰。」

由於資源有限，中信在數據治理的戰略，優先從兩類業務來推動，第一類是不能犯的錯，這類資料的處理一旦犯錯，銀行容忍度很低，如監理報送這類數據就需要優先梳理。另外一類是業務效益較大者，王俊權表示，若沒有好的數據治理標準，業務效益很難有長期的呈現。這是中信今年訂下數據治理的方向，也希望從小開始，慢慢擴大到全行。

經理人小檔案

王俊權

中國信託銀行數據暨科技研發處處長

學歷：臺灣大學國際企業研究所商學碩士

經歷：早年在美國矽谷的科技公司做美股分析，回臺後陸續待過4家銀行，主要負責風險管理；2005年加入中國信託銀行擔任全球個金風險管理處處長，2018年兼任數據研發中心最高主管；現為中信銀行數據暨科技研發處處長，兼任中信金控數據主管

附圖：中國信託銀行數據暨科技研發處處長 王俊權　（攝影／洪政偉）

資料來源：https://www.ithome.com.tw/people/144842?fbclid=IwAR0XaBPczoiqTWTEQH8qHfNDbmyyTpA43Akd2gYWhsBbh0oIbWsBNWdF4Fk

Joe：「未來很多中低技術性的工作，很可能會被日益進步的自動化取代，中高階技術人才需求會持續增加，中低階工作還是會有需求，但薪水拉不上去，因為人力成本太高的，乾脆就用自動化取代就好，這個趨勢其實也不是剛開始，只是疫情後又加快速度了。」

方舟投資創辦人Cathie Wood針對當今的市場投資策略提到，未來人們要擔心的是人工智慧（AI）。事實上機器部署速度正在加速，除了美國，日本和亞洲國家的企業正使用比以往更多機器人取代人類工作，減少人與人接觸，而這將成為長期趨勢，隨著基本工資不斷提升，加上人工智慧訓練成本大幅降低，企業將更積極採用AI取代人力，她觀察到美國運輸業與餐飲業已加速導入無人技術，即使疫情結束，這些趨勢也不會逆轉，許多人將成為永久失業的一群。

一種會快速取代人力的技術是原本在工廠使用的自主移動機器人。醫療電子產品製造商Omron在疫情間開始出售原本自家工廠使用的貨運搬運機器人，Omron表示已在20多個國家銷售機器人，其中一半在亞太地區，包括中國、韓國、印尼、泰國、越南和印度，新加坡機器人製造商SESTO Robotics執行長Ang Chor Chen提到，以往在工廠搬運與物流業使用的自動行動機器人，未來將不再局限於工廠車間，新應用包括餐飲業送餐機器人、飯店業消毒機器人等都會出現龐大的市場需求。

日經新聞觀察在日本已經有連鎖餐飲業加速採用送餐機器人，這類機器人使用AI計算最短路徑，一次行動可將餐點從廚房送到3張桌子。生產這種機器人的公司Japan System Project於2020年3月開始在日本銷售，客戶主要來自餐廳和工廠，每台售價為200萬日圓，2020年5月詢問度就增加一倍。

另外一家生產服務機器人的公司SoftBank Robotics表示，使用服務機器人，餐廳只需要原本一半的服務人員。疫情期間，東京許多飯店配備機器人為中國武漢肺炎症狀的旅客提供服務。市場研究機構Fuji Keizai Group估計，到2025年，用於購買服務機器人的金額將從2019年的1.9兆日圓增加到4.6兆日圓。

2020年日本郵政還在東京街頭實驗機器人送郵件的可行性。日本郵政說，「大流行改變人們的觀念，越來越多人開始認為機器人可以代替人類長期以來所做的工作。」南韓也在加速採用，LG計劃推出具有消毒功能的機器人，鎖定酒店、零售、企業和教育市場，SESTO Robotics估計，2019年全球自動行動機器人市場規模為380億美元，2026年將達到1,455億美元。其中全球服務機器人市場的規模在2020年為141億美元，2027年將由於疫情大流行而增長三倍以上，達到509億美元。而全球清潔和消毒機器人市場的收入到2027年將達到83億美元。

這場疫情讓AI取代人類工作的進程恐怕又加快一步。日本非營利組織RobiZy表示這場流行病將讓社會迫切需要機器人，直言「社會正處於轉折點，並將發生巨大變化。」與Cathie Wood的說法一致，Flippy是Miso Robotics公司為企業廚房打造的機器人，專門處理危險、繁瑣且注重時間的烹飪，例如翻轉漢堡、炸雞、切菜等，換而言之，就是做餐廳中工資最低的工作，Miso Robotics的目的很明確，就是讓機器人能在速食生產線上像人類一樣幹活，並且讓成本比最低工資還低，最初Flippy的價格並不便宜，一台需要10萬美元，但由於硬體成本迅速降低，2020年它的價格已經降至不到1萬美元，且很快會有更便宜且更節省空間的型號登場。

Miso Robotics還推出訂閱制，每月2,000美元就可以僱一台機器人在後廚幫忙，相當於每小時的用工成本只要約3美元。同樣的工作若僱傭真人員工，根據餐廳的營業時間和不同地區的最低​​工資，每月需要支出4,000到10,000美元，何況機器人永遠不用請病假，只要你願意，它可以24×7小時運轉，目前Flippy已經在道奇體育場和連鎖店CaliBurger投入使用，或許美國人不久以後就能在各種速食店吃到由機器人製作的漢堡了，說不定勞動力成本降低後，食物的價格也能更便宜，Flippy有望解決餐飲業長期以來人手不足的困擾，消費者對速食食品的需求不斷增長，但較低的薪資導致美國餐飲業離職率居高不下，每年超過100%。

如今電機發動機和感測器技術都得到了改善，成本也大為降低，Flippy等機器人既便宜又可靠，還能在正常環境下工作，這才引起了人們的焦慮乃至恐慌，不只是餐廳工作人員，自動化對工作職缺的侵襲是全方位的，而且來得比想像中快一些，貝恩諮詢公司2018年發布的報告《勞動力 2030》就因探討了自動化對社會環境的衝擊而備受關注，到2030年，自動化的普及將減少當前20%-25%的工作職缺，也就是說有4,000萬人的工作會被機器取代，這還只是在美國。

更糟糕的是，即便保住飯碗的員工，工資的增長也會慢得多，例如餐廳採用自動點餐機和線上點餐系統，其成本可能低於專門僱傭服務員，因此若服務生的工資保持在該水平以下，就不用擔心就業問題，只不過工資漲幅就變得極其有限。JL Warren Capital的報告指出，特斯拉上海工廠的自動化程度低於其加州工廠，原因是上海的勞動力成本低於全自動化產業的成本。

未來幾十年中，大約80%的工人或受到工資增長停滯或失業的影響，而且Flippy的例子已告訴我們，自動化的成本只會越來越低，中國武漢肺炎疫情的爆發，也讓許多原本依賴人力的行業看到或重新思考自動化的必要性，機器人除了降低人工成本和提高生產效率外，也能在病毒面前無所畏懼。在提倡「非接觸」的大環境下，我們也能看到機器人在送餐、消毒、體溫等場景的應用。

當然，自動化給就業帶來的也不全是壞消息，機器人消除舊有工作，但新的技術也意味著新的就業機會，就像電腦讓成打字員退出歷史舞台的同時，也創造出軟體開發者、電腦技術人員等新的職業一樣，自動化的普及勢必會讓機器維護人員的需求迅速擴大，AI 產業高速發展的背後，「數據標註師」的隊伍也在不斷壯大。

好在，低技術勞動力被機器取代大概率是一個漸進的過程，總還有機會向其他勞動力密集的領域轉移，餐廳的工作沒了，還可以去送外賣、快遞，總不至於所有人在一夜之間都丟掉飯碗，自動化技術侵占勞動力市場不是AI出現後才有的現象，美國1900到1940年的農業自動化使數百萬農民失業，就被視為大蕭條的誘因之一，在那一時期出現的商業洗碗機，更是威脅要消滅整個後場工作，歷史彷彿進入了新的輪迴，但和上個世紀相比，如今技術變革的步伐顯然越來越快，留給人們適應的時間也越來越少。

https://technews.tw/2020/03/25/robot-labor-is-indeed-getting-cheaper/
https://technews.tw/2021/02/18/robots-deploy-faster-will-replace-human-jobs/

迎接終端AI新時代：讓運算更靠近資料所在

作者 : Andrew Brown，Strategy Analytics
2021-03-03

資料/數據(data)成長的速度越來越快。據估計，人類目前每秒產出1.7Mb的資料。智慧與個人裝置如智慧型手機、平板電腦與穿戴式裝置不但快速成長，現在我們也真正目睹物聯網(IoT)的成長，未來連網的裝置數量將遠遠超越地球的人口。

這包括種類繁多的不同裝置，像是智慧感測器與致動器，它們可以監控從震動、語音到視覺等所有的東西，以及幾乎大家可以想像到的所有東西。這些裝置無所不在，從工廠所在位置到監控攝影機、智慧手錶、智慧家庭以及自主性越來越高的車輛。隨著我們企圖測量生活週遭數位世界中更多的事物，它們的數量將持續爆炸性成長。

資料爆量成長，讓許多企業把資料從內部部署運作移到雲端。儘管集中到雲端運算的性質，在成本與資源效率、彈性與便利性有它的優點，但也有一些缺點。由於運算與儲存在遠端進行，來自終端、也就是那些在網路最邊緣裝置的資料，需要從起始點經過網際網路或其他網路，來到集中式的資料中心(例如雲端)，然後在這裡處理與儲存，最後再傳回給用戶。

對於一些傳統的應用，這種方式雖然還可以接受，但越來越多的使用場景就是無法承受終端與雲端之間，資訊被接力傳遞產生的延遲。我們必須即時做出決策，網路延遲要越小越好。基於這些原因，開始有人轉向終端運算；越來越多人轉而使用智慧終端，而去中心化的程度也越來越高。此外，在這些即時應用中產生的龐大資料量，意味著處理與智慧必須在本地以分散的方式進行。

與資料成長連袂而來的，是人工智慧與機器學習(ML)也朝終端移動，並且越來越朝終端本身移動。大量來自真實世界的資訊，需要用ML的方式來進行詮釋與採取行動。透過AI與ML，是以最小的延遲分析影像、動作、影片或數量龐大的資料，唯一可行且合乎成本效益的方式。運用AI與ML的演算法與應用將在邊緣運作，在未來還將會直接在終端裝置上進行。

資料正在帶動從集中化到分散化的轉變

隨著資訊科技市場逐漸發展與成熟，網路的設計以及在其運作的所有裝置，也都跟著進化。全盛時期從服務數千個小型客戶端的主機，一直到客戶端伺服器模型中使用的越來越本地化的個人電腦運算效能，基礎架構持續重組與最佳化，以便更貼近網路上的裝置以及符合運作應用的需求。這些需求包含檔案存取與資料儲存，以及資料處理的需求。

智慧型手機與其他行動裝置的爆炸性成長，加上物聯網的快速成長，促使我們需要為如何讓資產進行最佳的部署與安排進行評估。而影響這個評估的因素，包括網路的可用性、安全性、裝置的運算力，以及把資料從終端傳送到儲存設備的相關費用，近來也已轉向使用分散式的運算模型。

從邊緣到終端：AI與ML改變終端典範

在成本、資源效率、彈性與便利性等方面，雲端有它的優點，裝置數量的急遽增加(如圖2)，將導致資料產出量大幅增加。這些資料大部份都相當複雜且非結構化的，這也是為何企業只會分析1%~12% 的資料的原因之一。把大量非結構化的資料送到雲端的費用相當高、容易形成瓶頸，而且從能源、頻寬與運算力角度來看，相當沒有效率。

在終端執行進階處理與分析的能力，可協助為關鍵應用降低延遲、減少對雲端的依賴，並且更好地管理物聯網產出的巨量資料。

終端AI：感測、推論與行動

在終端部署更多智慧的主要原因之一，是為了創造更大的敏捷性。終端裝置處於網路的最邊緣與資料產生的地方，可以更快與更準確地做出回應，同時免除不必要的資料傳輸、延遲與資料移動中的安全風險，可以節省費用。

處理能力與神經網路的重大進展，正協助帶動終端裝置的新能力，另一股驅動力則是對即時資訊、效率(傳送較少的資訊到雲端)、自動化與在多數情況下，對近乎即時回應的需求。這是一個三道步驟的程序：傳送資料、資料推論(例如依據機器學習辨識影像、聲音或動作)，以及採取行動(如物件是披薩，冰箱的壓縮機發出正常範圍外的聲音，因此發出警告)。

感測

處理器、微控制器與感測器產生的資料量相當龐大。例如，自駕車每小時要搜集25GB的資料。智慧家庭裝置、智慧牙刷、健身追蹤器或智慧手錶持續進化，並且與以往相比，會搜集更多的資料。

它們搜集到的資料極具價值，但每次都從各個終端節點把資料推回給雲端，數量又會過多。因此必須在終端進行處理。倘若部份的作業負載能在終端本身進行，就可以大幅提升效率。

推論

終端搜集到的資料是非結構性的。當機器學習從資料擷取到關聯性時，就是在進行推論。這表示使用AI與ML工具來幫忙訓練裝置辨識物件。拜神經網路的進展之賜，機器學習工具越來越能訓練物件以高度的精準度辨識影像、聲音與動作，這對體積越來越小的裝置，極為關鍵。

例如，圖4顯示使用像ONNX、PyTorch、Caffe2、Arm NN或 Tensorflow Lite 等神經網路工具，訓練高效能的意法半導體(ST)微控制器(MCU)，以轉換成最佳化的程式碼，讓MCU進行物件辨識(這個的情況辨識對象是影像、聲音或動作)。更高效能的MCU越來越常利用這些ML工具來辨識動作、音訊或影像，而且準確度相當高，而我們接下來馬上就要對此進行檢視。這些動作越來越頻繁地從邊緣，轉移到在終端運作的MCU本身。

行動

資料一旦完成感測與推論後，結果就是行動。這有可能是回饋簡單的回應(裝置是開啟或關閉)，或針對應用情況進行最佳化(戴耳機的人正在移動中，因此會針對穩定度而非音質進行最佳化)，或是回饋迴路(根據裝置訓練取得的機器學習，輸送帶若發出聲音，顯示它可能歪掉了)。物聯網裝置將會變得更複雜且更具智慧，因為這些能力提升後，運算力也會因此增加。在我們使用新的機器學習工具後，一些之前在雲端或終端完成的關鍵功能，將可以移到終端本身的內部進行。

終端 AI：千里之行始於足下

從智慧型手機到車輛，今日所有電子裝置的核心都是許多的處理器、微控制器與感測器。它們執行各種任務，從最簡單到最複雜，並需要各式各樣的能力。例如，應用處理器是高階處理器，它們是為行動運算、智慧型手機與伺服器設計；即時處理器是為例如硬碟控制、汽車動力傳動系統，與無線通訊的基頻控制使用的非常高效能的處理器，至於微控制器處理器的矽晶圓面積則小了許多，能源效率也高出很多，同時擁有特定的功能。

這意味著利用ML工具訓練如MCU等較不複雜元件來執行的動作，之前必須透過威力更強大的元件才能完成，但現在邊緣與雲端則是理想的場所。這將讓較小型的裝置以更低的延遲執行更多種類的功能，例如智慧手錶、健康追蹤器或健康照護監控等穿戴式裝置。

隨著更多功能在較小型的終端進行，這將可以省下資源，包括資料傳輸費用與能源費用，同時也會產生極大的環境衝擊，特別是考量到全球目前已有超過200億台連網裝置，以及超過2,500億顆MCU(根據Strategy Analytics統計數據)。

TinyML、MCU與人工智慧

根據Google的TesnsorFlow 技術主管、同時也是深度學習與TinyML領域的指標人物 Pete Warden 表示：「令人相當興奮的是，我還不知道我們將如何使用這些全新的裝置，特別是它們後面代表的科技是如此的吸引人，我無法想像那些即將出現的全新應用。」

微型機器學習(TinyML)的崛起，已經催化嵌入式系統與機器學習結合，而兩者傳統上大多是獨立運作的。TinyML 捨棄在雲端上運作複雜的機器學習模型，過程包含在終端裝置內與微控制器上運作經過最佳化的模式識別模型，耗電量只有數毫瓦。

物聯網環境中有數十億個微型裝置，可以為各個產業提供更多的洞察與效率，包括消費、醫療、汽車與工業。TinyML 獲得 Arm、Google、Qualcomm、Arduino等業者的支持，可望改變我們處理物聯網資料的方式。

受惠於TinyML，微控制器搭配AI已經開始增添各種傳統上威力更強大的元件才能執行的功能。這些功能包括語音辨識(例如自然語言處理)、影像處理(例如物件辨識與識別)，以及動作(例如震動、溫度波動等)。啟用這些功能後，準確度與安全性更高，但電池的續航力卻不會打折扣，同時也考量到各種更微妙的應用。

儘管之前提到的雲端神經網路框架工具，是取用這個公用程式最常用的方法，但把AI函式庫整合進MCU，然後把本地的AI訓練與分析能力插入程式碼中也是可行的。這讓開發人員依據從感測器、麥克風與其他終端嵌入式裝置取得的訊號導出資料模式，然後從中建立模型，例如預測性維護能力。

如Arm Cortex-M55處理器與Ethos U55微神經處理器(microNPU)，利用CMSIS-DSP與CMSIS-NN等常見API來簡化程式碼的轉移性，讓MCU與共同處理器緊密耦合以加速AI功能。透過推論工具在低成本的MCU上實現AI功能並符合嵌入式設計需求極為重要，原因是具有AI功能的MCU有機會在各種物聯網應用中轉變裝置的設計。

AI在較小型、低耗電與記憶體受限的裝置中可以協助的關鍵功能，我們可以把其精華歸納至我們簡稱為「3V」的三大領域：語音(Voice，如自然語言處理)、視覺(Vision，如影像處理)以及震動(Vibration，如處理來自多種感測器的資料，包括從加速計到溫度感測器，或是來自馬達的電氣訊號)。

終端智慧對「3V」至關重要

多數的物聯網應用聚焦在一些特定的領域：基本控制(開/關)、測量(狀態、溫度、流量、噪音與震動、濕度等)、資產的狀況(所在地點以及狀況如何？)，以及安全性功能、自動化、預測性維護以及遠端遙控(詳見圖 6)。

Strategy Analytics的研究顯示，許多已經完成部署或將要部署的物聯網B2B應用，仍然只需要相對簡單的指令，如基本的開/關，以及對設備與環境狀態的監控。在消費性物聯網領域中，智慧音箱的語音控制AI已經出現爆炸性成長，成為智慧家庭指令的中樞，包括智慧插座、智慧照明、智慧攝影機、智慧門鈴，以及智慧恆溫器等。消費性裝置如藍牙耳機現在已經具備情境感知功能，可以依據地點與環境，在音質優先與穩定度優先之間自動切換。

如同我們檢視的結果，終端AI可以在「3V」核心領域提供價值，而它觸及的許多物聯網領域，遍及B2B與B2C的應用：

震動：包含來自多種感測器資料的處理，從加速計感測器到溫度感測器，或來自馬達的電氣訊號。
視覺：影像與影片辨識；分析與識別靜止影像或影片內物件的能力。
語音：包括自然語言處理(NLP)、瞭解人類口中說出與寫出的語言的能力，以及使用人類語言與人類交談的能力-自然語言產生(NLG)。
垂直市場中有多種可以實作AI技術的使用場景：

震動

可以用來把智慧帶進MCU中的終端AI的進展，有各式各樣的不同應用領域，對於成本與物聯網裝置與應用的效用，都會帶來衝擊。這包括我們在圖6中點出的數個關鍵物聯網應用領域，包括：

溫度監控；
壓力監控；
溼度監控；
物理動作，包括滑倒與跌倒偵測；
物質檢測(漏水、瓦斯漏氣等) ；
磁通量(如鄰近感測器與流量監控) ；
感測器融合(見圖7)；
電場變化。

一如我們將在使用場景單元中檢視的，這些能力有許多可以應用在各種被普遍部署的物聯網應用中。

語音

語音是進化的產物，也是人類溝通非常有效率的方式。因此我們常常想要用語音來對機器下指令，也不令人意外；聲音檢測是持續成長的類別。語音啟動在智慧家庭應用中很常見，例如智慧音箱，而它也逐漸成為啟動智慧家庭裝置與智慧家電的語音中樞，如電視、遊戲主機與其他新的電器。

在工業環境中，供車床、銑床與磨床等電腦數值控制(CNC)機器使用的電腦語音引擎正方興未艾。iTSpeex的ATHENA4是第一批專為這些產品設計的語音啟動作業系統。這些產品往往因為安全原因，有離線語音處理的需求，因此終端 AI 語音發展在這裡也創造出有趣的機會。用戶可以指示機器執行特定的運作，並從機器手冊與工廠文件，立即取用資訊。

語音整合在車輛中也相當關鍵。OEM 代工廠商持續對車載娛樂系統中的語音辨識系統，進行大量投資。語音有潛力成為最安全的輸入模式，因為它可以讓駕駛的眼睛持續盯著道路，而雙手仍持續握著方向盤。

對於使用觸控螢幕或硬體控制器通常需要多道步驟的複雜任務，語音辨識系統特別能勝任。這些任務包括輸入文字簡訊、輸入目的地、播放特定歌曲或歌曲子集，以及選擇廣播電台頻道。其他的服務包含如拋錨服務(或bCall)與禮賓服務。

視覺

正如我們之前已經檢視過，終端 AI 提供視覺領域全新的機會，特別是與物件檢測及辨識相關。這可能包括觀察生產線的製造瑕疵，以及找出自動販賣機需要補貨的庫存。其他實例包括農業應用，例如依據大小與品質為農產品分級。

曳引機裝上機器視覺攝影機後，我們幾乎可以即時檢測出雜草。雜草冒出後，AI可以分類雜草並估算它對農產收穫的潛在威脅。這讓農民可以鎖定特定的雜草，並打造客製的除草解決方案。機器視覺然後可以檢測除草劑的效用，並找出農地中仍具抗藥性的殘餘雜草。

使用場景

預測性維護工具已經從擷取與比較震動的量測資料，進化到提出即時的資產監控。藉由連接物聯網感測器裝置與維護軟體，我們也可能做到遠端監控。

震動分析

這種類型的預測性維護在旋轉型機器密集的製造工廠裡，相當常見。震動分析可以揭露鬆脫、不平衡、錯位與軸承磨損等狀況。例如，把震動計量器接上靠近選煤廠離心泵浦內部承軸處，就可以讓工程師建立起正常震動範圍的基線。超出這個範圍的震動，可能顯示滾珠軸承出現鬆動，需要更換。

磁感測器融合

磁感測器利用磁性浮筒與一系列可以感應並與液體表面一起移動的感測器，測量液面的高低。所有的這些應用都使用一個固定面上的磁感測器，它與附近平面的磁鐵一起作動，與這個磁鐵相對應的感測器也會移動。

聲學分析(聲音)

與震動分析相似，聲測方位分析也是供潤滑技師使用，主要是專注在主動採取潤滑措施。這意味我們可以避免移動設備時產生的過度磨損，否則會為了修理造成代價高昂的停機。實際的例子可能包括測量輸送皮帶的承軸狀況。出現過度磨損時，承軸會因為潤滑不足或錯位出現故障，可能造成整個生產流程的中斷。

聲學分析(超音波)

聲音聲學分析雖然可以用來進行主動與預測性維護，超音波聲學分析卻只能用於預測性維護。它可以在超音波範圍內找出與機器摩擦及壓力相關的聲音，並使用在會發出較細微聲音的電氣設備與機器設備。我們可以說這一類型的分析與震動或油量分析相比，更可以預測即將出現的故障。目前它部署起來比其他種類的預防性維護花費較高，但終端 AI 的進展可以促成這種細微層級的聲學檢測，大幅降低部署的費用。

熱顯影

熱顯影利用紅外線影像來監控互動機器零件的溫度，讓任何異常情況很快變得顯而易見。具備終端 AI 能力的裝置，可以長期檢測微細的變化。與其他對事故敏感的監視器一樣，它們會觸發排程系統，自動採取適當的行動來預防零件故障。

消費者與智慧家庭

將語音運用在消費者與智慧家庭，是最常看到的場景之一。這包括智慧型手機與平板電腦上、未包含電話整合功能的裝置，例如螢幕尺寸有限的穿戴式裝置。這類型的裝置包含智慧手錶與健康穿戴式裝置，可以為各種功能提供免動手的語音啟動。像 Amazon 的 Echo 或 Google 的 Home 等智慧音箱市場的成長，說明消費者對於可接收與提供語音互動等現有裝置的強勁需求，與日俱增。

消費者基於各種理由使用智慧音箱，最常見的使用場景為：

聽音樂；
控制如照明等智慧家庭裝置；
取得新聞與天氣預報的更新；
建立購物與待辦事項清單。

除了像智慧音箱與智慧電視等消費裝置，智慧家庭裝置語音的使用，也顯現相當的潛力。諸如連網門鈴(如 ring.com)等裝置與連網的煙霧偵測器(例如 Nest Protect 煙霧與一氧化碳警報)目前都已上市可供消費者選購，它們結合了語音與視覺的感測器融合功能以及運動檢測。有了連網的煙霧偵測器，裝置在偵測到煙霧或一氧化碳時，可以發出語音警告。

終端 AI 為強化這些能力提供了全新機會，而且常常結合震動(動作)、視覺與語音控制。例如，增加姿態辨識來控制例如電視等家電，或是把語音控制嵌入白色家電，即是以最低成本強化功能性最直接的方式。

健康照護

用來發現醫護資訊的 AI 驅動終端裝置的應用，將為病況的治療與診斷，提供更多的價值。這種資訊可能是資料，也可能是影像、影片以及說出的話，我們可以透過 AI 進行型態與診斷分析。這些資料將引發全新、更有效的治療方法，為整個產業節省成本。受惠於終端 AI 的進展，像 Google Duplex 等語音系統的複雜性將會降低。例如門診預約等勞力密集的工作，也可以轉換成 AI 活動。利用自然語言語音來延伸 AI 的使用，也可以把 AI 用在第一線的病人診斷，然後再由醫師接手提供諮詢。

其他健康照護實例包括像 Wewalk5 等物件，這是一個供半盲與全盲人員使用的智慧拐杖。它使用感測器來檢測胸口水平以上的物件，並搭配 Google Maps 與 Amazon Alexa 等 app，方便使用者提出問題。

結論

由於連網的終端裝置數量越來越多，這個世界也越來越複雜。連接到網際網路的裝置已經超過 300 億個，而微控制器的數量也超過 2,500 億，每年還會增加約 300 億個。越來越多的程序開始進行自動化，不過，把大量資料傳送到雲端涉及的延遲以及邊緣運算的額外費用，意味著許多全新、令人興奮且引人矚目的物聯網使用場景，可能無法開花結果。

解決這些挑戰的答案，並不是為雲端資料中心持續增添運算力。降低出現在邊緣的延遲雖然會有幫助，但不會解決日益分散的世界的所有挑戰。我們需要把智能應用到基礎架構中。

儘管為終端裝置增添先進的運算能力在十年前仍不可行，TinyML 技術近來的提升，已經讓位處相當邊緣的裝置 (也就是終端本身)增添智能的機會大大改觀。在終端增加運算與人工智慧能力，可以讓我們在源頭搜集到更多更具關聯性與相關的資訊。隨著裝置與資料的數量持續攀升，在源頭掌握情境化與具關聯性的資料，具有極大的價值，並將開啟全新的使用場景與營收機會。

終端裝置的機器學習，可以促成全新的終端 AI 世界。新的應用場景正在崛起，甚至跳過傳送大量資料的需求，因而紓解資料傳輸的瓶頸與延遲，並在各種作業環境中創造全新機會。終端 AI 將為我們開啟一個充滿全新機會與應用場景的世界，其中還有很多我們現在想像不到的機會。

附圖：圖1：從集中式到分散式運算的轉變。
(資料來源：《The End of Cloud Computing》，by Peter Levine，Andreessen Horowitz)
圖2：全球上網裝置安裝量。
(資料來源：Strategy Analytics)
圖3：深度學習流程。
圖4：MCU的視覺、震動與語音。
(資料來源：意法半導體)
圖5：AI 工具集執行模型轉換，以便在MCU上執行經最佳化的神經網路推論。
(資料來源：意法半導體)
圖6：物聯網企業對企業應用的使用-目前與未來。
(資料來源：Strategy Analytics)
圖7：促成情境感知的感測器融合。
(資料來源：恩智浦半導體)

資料來源：https://www.eettaiwan.com/20210303nt31-the-dawn-of-endpoint-ai-bringing-compute-closer-to-data/?fbclid=IwAR0JTRpNsJUl-DmSNpfIcymGQpkQaUgXixEaczwDpELxGCaCeJpkTyoqUtI