創新工場和BCG波士頓諮詢合作的「+AI改造者」系列：創新工場投資的追一科技，用領先的「數位員工」解決方案幫傳統企業降本提效。

改造者系列：傳統企業應用AI別想「短平快」 -- 本文来自BCG微信公眾號，經授權轉載。

近期，創新工場聯合BCG波士頓咨詢旗下亨德森智庫，推出「AI融合產業：『改造者』如何促進AI普惠」系列研究。人工智慧在大陸有著明確的落地應用場景，大量的AI企業活躍於這些垂直場景中，我們定義這些企業為「改造者」。「改造者」通過傳授其AI技術和垂直行業理解，極大地打破了傳統企業應用AI的瓶頸。

作為擅於趨勢前瞻的TechVC，創新工場長期看好AI領域，深入佈局，至今已經投出了7只AI獨角獸。在系列研究中，我們采訪了數家創新系AI企業，通過這些「改造者」的視角，探究傳統企業擁抱AI的範式與路徑。

隨著當前人口紅利趨弱，企業的用工成本增加，「數位員工」存在大量的市場需求。成立於2016年的追一科技，通過其核心的AI語義分析技術，幫助傳統企業利用人工智慧技術解決勞動力短缺的問題，實現降本提效。

在采訪中，追一科技首席戰略官成捷認為，傳統企業應該扭轉AI應用「短平快」的認知，投入時間和精力去梳理和構建特定於AI的業務流程，以達到正向的循環。

■系列導讀

本系列由BCG亨德森智庫與創新工場董事長兼首席執行官李開復博士帶領的創新工場團隊共同推出，圍繞「AI融合產業：『改造者』如何促進AI普惠」的課題，我們致力於探究傳統企業在應用AI過程中的關鍵要素與合作夥伴，以及傳統企業擁抱AI的範式與路徑。

在企業服務領域，AI企業，即「改造者」，能夠最直接地賦能企業提升管理效率與節降成本。追一科技便是這一賽道的佼佼者之一，借助自然語言處理技術，其「AI數位員工」可以勝任線上客服專員、行銷專員、資料質檢員、銷售上崗培訓師、反洗錢專家等崗位。

■本期受訪嘉賓：成捷

追一科技是「AI數位員工」提供商，主攻深度學習和自然語言處理，提供智慧語義、語音和視覺的AI全棧服務。追一科技的AI數位員工智慧平臺與業務場景深度融合，提供不同類型的AI數位員工，滿足企業和政府使用者服務、行銷、運營、 辦公等多種場景的智慧化升級需求，幫助他們降本提效，改善用戶體驗，驅動創新和增長。

成捷是追一科技首席戰略官。在此之前，他曾任職于麥肯錫與騰訊。成捷先生擁有清華大學學士學位與加州理工大學博士學位。

■對談實錄

Q1：追一科技為何選擇幫助傳統企業應用AI？

成博士：追一科技的定位是「AI數位員工」服務商，本質上是智慧軟件，面向企業提供AI企業軟件來説明其降本增效。當前，隨著人口紅利趨弱，企業用工成本水漲船高，員工的流動性也在增加，市場上存在大量對於智慧客服、行銷、內部溝通等的需求，企業希望由機器解決勞動力短缺問題，並為企業降本。而追一的核心AI能力是語義分析，即機器如何像真人一樣理解和表達文本資訊，再結合創始人團隊的企業服務背景，恰好能夠滿足我們稱之為「數字員工」的市場需求。追一的語音、視頻應用能夠滿足銀行、運營商等企業線上交互管道上海量的對話交互需求，涉及行銷和業務辦理等，幾乎等同于傳統呼叫中心上千乃至上萬的人工。

同時，我們也看到近些年大量企業在推進資訊化建設、雲建設，企業數位化的基礎在不斷成熟。許多企業已經積累了大量結構化或非結構化的資料，但並不知道如何應用，不知道如何從海量資料中提煉洞察。追一可以説明他們通過資料分析來實現更精細化的運營，從而提升人的產能。以保險電銷為例，通過對銷售人員的資料分析，追一能夠提煉高績效員工值得借鑒的話術和知識點，標準化後以輔助推廣培訓。

Q2：在賦能傳統企業應用AI的過程中，追一遇到過哪些挑戰？又是如何應對的？

成博士：AI火爆之後，大部分企業的心態是先投資一部分進行嘗試，其中有些企業成功地體驗到了AI的成效，於是自發地持續梳理其業務流程、構建並優化知識庫，進入了一個正向循環，投入產出比也合理，逐漸能夠覆蓋到更多場景和業務部門。

而有些企業原本對AI的預期是「隨插即用」，期待AI能在短期之內帶來巨大改變，他們應用AI的效果往往就無法達到預期，也很難將AI的效用發揮到最大，往往在一次采購之後就沒有下文了。AI企業要扭轉傳統企業認為AI「短平快」的認知，投入時間和精力去梳理和構建特定於AI的業務流程，才能步入正向的循環。

其次，許多較早開始應用AI的企業組織規模都很大，涉及到很多不同的部門——分條線、分版塊、分職能等。如何能夠協調大型企業多部門之間不同的利益和訴求，這對於AI應用而言是另一大難點。以銀行為例，總行負責智慧化建設的IT或科技部門往往考慮更有整體性的、大量部門可以通用的、長期的解決方案，且看中綜合性和可持續性更強的供應商。而業務部門往往偏好更迅速、更精准的解決方案，傾向于先行自行采購。AI企業就需要平衡和兼顧雙方的需求。我判斷在中長期會有多流匯聚的趨勢，即企業的科技部門會統籌AI智慧化建設的規劃以及技術合作夥伴的選取，總部科技部門和一線業務部門會一同系統性地梳理需求。

同時，在業務梳理過程中，AI企業也需要增進其對行業的理解，從而幫助傳統企業梳理出哪些業務或場景更有AI價值、更容易落地，以塑造短期速贏。追一在進入每個行業時都需要花大量時間瞭解業務流程，建立行業知識庫。

最後，AI不像ERP之類的傳統軟體系統，沒有成熟的全鏈路玩家，還處在比較初級的階段，因此端到端的、定制化的AI服務是稀缺資源且具差異化優勢——系統實施上，大型企業系統多，往往也不標準化，十分消耗人力；知識庫定制上，不同企業的業務流程不同、知識不同，需要定制知識庫；軟體功能定制方面，不同規模、業務類型的企業依然存在不同的需求；哪怕在部署之後，AI企業依然需要持續優化場景，根據交互的效果持續優化業務流程，並試圖拓展新的場景。

Q3：如何理解追一「開放共贏的生態合作體系」？

成博士：追一對各類企業都秉持著開放合作的心態，我們識別了四大類合作夥伴——平臺夥伴、行業夥伴、區域夥伴和咨詢夥伴。

1. 平臺夥伴包括騰訊雲、華為雲等企業，平臺夥伴能夠提供基礎設施，起到「鋪電線」的作用。憑藉平臺夥伴強大的客戶資源和銷售網路，追一能夠觸達更多的終端客戶。而追一能在平臺夥伴通用性的基礎設施之上提供特定垂直領域的解決方案，使面向客戶的解決方案更好落地實施。

2. 行業夥伴指特定行業領域的資訊科技企業，他們相比其他夥伴有更深的行業理解以及更多行業內的客戶資源，也願意在科技方面進行嘗試。追一可以與行業夥伴共同拓展行業內的科技解決方案。

3. 區域夥伴指在當地有較強商務關係、對當地市場瞭解較深入的夥伴。

4. 咨詢夥伴則能夠提供整合咨詢服務，在數位化咨詢、財務咨詢等細分方向擁有豐富的咨詢經驗。

追一在生態合作中除了能夠提供行業定制化的技術方案之外，還可以分享和拓展渠道資源，幫助系統集成商、ISV增收。長遠來看，追一希望把產品服務做得更加標準化，可供他人調用，也可以在自有平臺上集成協力廠商產品和服務。

Q4：你認為未來AI企業的發展趨勢是什麼？

成博士：大趨勢一定是行業越做越深、場景越做越精，提供整體性的行業AI解決方案。這也是追一未來發展的優先事項。

此外，AI企業還應當繼續推進技術普惠，在當前AI大多只在大型企業使用，而未來應當覆蓋更多中小規模的企業。AI企業能做的是把大客戶的主流需求打磨好、標準化，大量復用從頭部企業積累的垂直領域專識，再在過程中逐步建立跨行業復用的能力。

■要點回顧

1.「人工智慧即服務」（AI-as-a-service）依然處於初級階段，還沒有成熟的全鏈路玩家，因此端到端的、定制化的AI服務能夠打造差異化的競爭優勢。

2. 傳統企業需要抓住時間窗口，憑藉多年深耕行業的經驗積累，在AI技術企業追趕行業知識的檔口自我顛覆、自我革命。

3. 對「改造者」而言，「先縱後橫」不失為可行的策略——欲實現持續穩定的AI發展，需要長期深耕垂直領域，持續積累行業know-how，並將縱深積累標準化，以複製到更多的垂直行業。

「星星的孩子」：報導下被汙名化的「自閉症」
自閉症是天生的嗎？而我們身邊又有多少這樣的孩子呢？這幾年在許多社會事件報導中，常見自閉症與案件的關鍵字連結，有時候傳播媒體中的自閉症樣貌，未必是真實的，我們不應該輕易推論或標籤化這些行為。
　
近年來自閉症有機會透過不同的形式出現在媒體版面中，傳播媒體如何塑造自閉症的形象，大大影響了自閉症的社會印象。在許多社會事件報導中，也有機會看見自閉症與殺人犯、死刑犯、變態等社會新聞連結，最讓人擔心的，是過度簡化的資訊使得社會大眾對自閉症產生偏差的刻板印象。
　
■不放棄每一個孩子
自閉症只是一個人的部分特質，自閉症並不等於偏差或犯罪。即使自閉症是天生的，但後天環境的教養與支持仍然是他們穩定發展的重要因素。看到媒體報導中出現自閉症時，請不要驟下判斷，避免直接將犯罪、殺人和自閉症劃上等號。
　
日前臺北一名媽媽推著雙人嬰兒車搭捷運，卻遭某名男子毆打她的二歲兒子，她見狀大喊「你打他幹嘛啦！」並回打那名男子頭部。這起事件引起社會重視，由於那名男子患有自閉症，因此網路上出現一些貶抑自閉症的言詞，標籤化自閉症孩子，甚至有人羞辱自閉症孩子。
　
在這起捷運毆打兒童事件後，有位自閉症孩子的母親淚訴另一個有自閉症孩子的朋友竟被親戚諷刺說：「你家自閉症小孩要管好，最好出門都不要放他單獨一個人，免得哪天無法控制情緒，跟新聞中那個捷運打人的一樣，聽說他跟你兒子一樣是神經病，其實政府應該設一個院所，把你兒子那種病的都關起來治療，好了才能放出去，不然放出來到處跑，哪天又無法控制情緒打死人，家裡可丟不起那個臉。」這番說法讓自閉症孩子的媽媽心碎，也讓發文的媽媽想怒吼：「誰希望自己小孩是自閉症？他們不是神經病，他們是中樞神經受損。」[1]
　
■「星星的孩子」
「自閉症」也稱為「泛自閉症障礙」，主因是因為症狀多元，不同的病人症狀也會有所差距，因「自閉症」有汙名化之慮，所以醫界目前更常使用「泛自閉症障礙」一詞。自閉症是一種腦部功能異常的廣泛性發展障礙，大部分在幼兒時期就會出現症狀，有些人會將自閉症稱為「星星的孩子」，不論是溝通方式，或是某些重複、固執的行為，跟一般人不太一樣。
　
自閉症孩童通常會有幾個特點，像是與他人相處困難、難以理解社交暗示（臉部表情、講話語調、身體動作等），甚至常常情緒不佳、無法自己照顧自己。自閉症孩童的治療需要依賴職能治療師、臨床心理師，幫助他們正常發展、並調整不適當的行為，且協助孩童發展個人的興趣。早期發現、治療、復健以及跟教育體系密切合作，才能幫助孩子得到最大改善[2]。
　
■自閉症種類
►「廣泛性自閉症」
自閉症大部分在幼童階段開始，目前發現自閉症的幼童智商會略低於整體平均，自閉症又能分成「高功能型」以及「低功能型」，「低功能型」在接收以及表達語言上較差，甚至沒有口語表達能力，「高功能型」則相反。
►「亞斯伯格症」
亞斯伯格症的人語言發展大多是正常的，主要的障礙是在動作技能以及肌肉發展上，部分亞斯伯格的人在智商上甚至高於正常人。
►「廣泛性發展障礙」
這類型的人主要是在社交溝通、互動、重覆行為等各方面中缺少幾項顯著障礙，以致於不完全符合自閉症的診斷，又稱為非典型自閉症，某些高功能自閉症孩童能透過學習以及復健可以改善症狀，甚至使症狀消失，也算是廣泛性發展障礙的一種。[3]
　
■「另類星兒」：亞斯伯格症候群
亞斯伯格醫師為維也納的小兒科醫師，但他終生的研究興趣為藉由觀察來了解生命中隱含的定律。因為他對孩童的情緒發展的興趣及仔細觀察的成果，自1944年以來即逐漸報導一些與自閉症類似（具有社交技巧及溝通障礙）又相異（不同的人格特質及較優的認知能力）的亞斯格症候群。
　
亞斯伯格醫師在1944年首次報告四位具有社交互動(social interaction deficit)困難的男孩，並稱之為自閉性精神病態 (autistic psychopathy)。亞斯伯格醫師在這一方面的觀點，與首位報告自閉症的Kanner醫師一樣，採用了Bleuler大師"autism"的來強調這些個案的強烈自我中心 (egocentrism)及關閉與外界的一切溝通的特質。
　
雖然亞斯伯格醫師在50年前即提出亞斯伯格症候群，然而一直到1994年，第四版美國精神醫學診斷手冊DSM-IV及1993年世界衛生組織WHO「正式」承認亞斯伯格症候群後，相關的研究才逐漸增加[4]。
　
■亞斯格症候群
臺灣著名漫畫家朱德庸在五十三歲時被診斷為自閉症（亞斯伯格症），童年時期的他和同學無法相處，也常因聽不懂老師的指令而不快樂，喜歡畫畫的他，於是將畫畫當作人生的出口。在他五十多歲確診後，他開始對於過去種種釋懷，原諒自己和他人不同。
　
日本歌手米津玄師特殊的名字也讓他在求學時期遭同儕欺負。後來他二十歲時，被醫生診斷出患有高功能自閉症，是一種智商中等或較高，自閉傾向不明顯，但是語言表達、人際互動能力有障礙的自閉症。米津玄師也曾在訪談中說，「在此之前，只覺得自己是個來路不明的怪物，被鄭重告知病名後，便坦然接受了。」
　
而臺北市長柯文哲和太太也多次在公開場合指出，柯文哲罹患自閉症（亞斯伯格症），以致他在公開場合有不得體的發言與行為表現[5]。
　
台北市長柯文哲的妻子、台北市立聯合醫院和平婦幼院區新生兒科主任陳佩琪回憶起，兒子小學數學考試的題目是：「媽媽走路送小明上學，請問媽媽走了幾公里？」正確答案是：家裡到學校的距離乘以2，因為媽媽必須來回。結果我兒子卡住了，因為他想到，我媽媽要去上班，她沒有回家(亞斯伯格的人無法理解抽象概念的描述)。
　
陳佩琪，講到家裡兩個大小亞斯，信手拈來都是笑話，但幽默背後，不敢想像裡頭堆疊了多少挫敗、孤獨、壓力、擔憂。
　
柯文哲在一封寫給兒子的信也提到，「如果有什麼要告訴你的，只有告訴你要謝謝媽媽。雖然我是你成長過程中缺席的父親，還好你媽媽的加倍付出而彌補過去了，真險！」這是一個難以傳達情感的亞斯父親的浪漫，像盞溫暖的燭火，在暗夜裡閃閃發光。[6]
　
■「擁抱多元，尊重差異」：醫嘆：社會污名害了孩子！
林口長庚醫院兒童心智科主任黃玉書不捨的表示，台灣社會對自閉症仍有污名化，事實上，自閉症最大特徵就是「自己躲在自己的世界裡」，不愛跟人互動，很自我、很乖，呼籲不要二度傷害他們。
　
根據統計，國內自閉症患者中，約有70%屬於智商較差的中、重度患者，黃玉書指出，不少孩子都是經過復健、訓練，克服重重困難，才可能獨自出門、搭車，真有困難，也會主動向旁人求救，民眾遇到時，應該親切伸出援手，拉他一把而非恐懼他。
　
另有2成左右的患者，屬於智商很高、甚至在某些領域有特殊專才的輕度高功能自閉症，外表完全與常人無異，這些高功能自閉症患者，不乏醫師、科學家等高成就者，在國內還有不少擔任電腦工程師，只喜歡跟電腦互動。
　
自閉症的孩子，絕對不會主動傷人！黃玉書說，跟任何人都一樣，除非他們遭受外界攻擊，否則自閉症孩子很安全、很乖，不會攻擊人[7]。

　　
【Reference】。
1.來源
➤➤資料
∎[1] ( 親子天下 )「管好你家自閉兒，別放出來亂打人？報導下被汙名化的自閉症」： https://www.parenting.com.tw/article/5087619
∎[2] 康健雜誌-康健知識庫【自閉症】：https://kb.commonhealth.com.tw/library/367.html#data-2-collapse
∎[3] ( 台北市自閉症家長協會 )「自閉症分類」：http://www.tpaa.org.tw/OnePage.aspx?tid=136
∎[4] ( 長庚醫療財團法人)「另類星兒----- 亞斯伯格症候群(兒童心智科 張學岑醫師)」：https://www1.cgmh.org.tw/intr/intr2/c3360/E_CHL(ASPER).htm
∎[5] (親子天下)「管好你家自閉兒，別放出來亂打人？報導下被汙名化的自閉症」： https://www.parenting.com.tw/article/5087619
∎[6] ( 康健雜誌 )「陳佩琪談家中大小亞斯伯格：柯文哲這樣安慰我」：https://www.commonhealth.com.tw/article/68312
∎[7] ( Anue鉅亨網財經新聞)「自閉兒被當狂魔　醫嘆：社會污名害了孩子！」：https://news.cnyes.com/news/id/1075280
　
➤➤照片
∎「從雨人到柯P─家中寶貝是「星星的孩子」自閉症患者嗎？」：https://www.grandmasbear.com.tw/2017/12/28/grandmasbear-and-grace-column-3/
　
2. 【國衛院論壇出版品 免費閱覽】
▶國家衛生研究院論壇出版品-電子書(PDF)-線上閱覽
https://forum.nhri.org.tw/publications/
　　
3. 【國衛院論壇學術活動】
▶https://forum.nhri.org.tw/events/
　　
#國家衛生研究院 #國衛院 #國家衛生研究院論壇 #國衛院論壇 #衛生福利部 #國民健康署 #精神疾病汙名化 #星星的孩子 #自閉症 #泛自閉症障礙 #廣泛性自閉症 #亞斯伯格症 #廣泛性發展障礙
　
林口長庚醫院兒童心智科 / 衛生福利部 / 國民健康署 / 財團法人國家衛生研究院 / 國家衛生研究院-論壇

迎接終端AI新時代：讓運算更靠近資料所在

作者 : Andrew Brown，Strategy Analytics
2021-03-03

資料/數據(data)成長的速度越來越快。據估計，人類目前每秒產出1.7Mb的資料。智慧與個人裝置如智慧型手機、平板電腦與穿戴式裝置不但快速成長，現在我們也真正目睹物聯網(IoT)的成長，未來連網的裝置數量將遠遠超越地球的人口。

這包括種類繁多的不同裝置，像是智慧感測器與致動器，它們可以監控從震動、語音到視覺等所有的東西，以及幾乎大家可以想像到的所有東西。這些裝置無所不在，從工廠所在位置到監控攝影機、智慧手錶、智慧家庭以及自主性越來越高的車輛。隨著我們企圖測量生活週遭數位世界中更多的事物，它們的數量將持續爆炸性成長。

資料爆量成長，讓許多企業把資料從內部部署運作移到雲端。儘管集中到雲端運算的性質，在成本與資源效率、彈性與便利性有它的優點，但也有一些缺點。由於運算與儲存在遠端進行，來自終端、也就是那些在網路最邊緣裝置的資料，需要從起始點經過網際網路或其他網路，來到集中式的資料中心(例如雲端)，然後在這裡處理與儲存，最後再傳回給用戶。

對於一些傳統的應用，這種方式雖然還可以接受，但越來越多的使用場景就是無法承受終端與雲端之間，資訊被接力傳遞產生的延遲。我們必須即時做出決策，網路延遲要越小越好。基於這些原因，開始有人轉向終端運算；越來越多人轉而使用智慧終端，而去中心化的程度也越來越高。此外，在這些即時應用中產生的龐大資料量，意味著處理與智慧必須在本地以分散的方式進行。

與資料成長連袂而來的，是人工智慧與機器學習(ML)也朝終端移動，並且越來越朝終端本身移動。大量來自真實世界的資訊，需要用ML的方式來進行詮釋與採取行動。透過AI與ML，是以最小的延遲分析影像、動作、影片或數量龐大的資料，唯一可行且合乎成本效益的方式。運用AI與ML的演算法與應用將在邊緣運作，在未來還將會直接在終端裝置上進行。

資料正在帶動從集中化到分散化的轉變

隨著資訊科技市場逐漸發展與成熟，網路的設計以及在其運作的所有裝置，也都跟著進化。全盛時期從服務數千個小型客戶端的主機，一直到客戶端伺服器模型中使用的越來越本地化的個人電腦運算效能，基礎架構持續重組與最佳化，以便更貼近網路上的裝置以及符合運作應用的需求。這些需求包含檔案存取與資料儲存，以及資料處理的需求。

智慧型手機與其他行動裝置的爆炸性成長，加上物聯網的快速成長，促使我們需要為如何讓資產進行最佳的部署與安排進行評估。而影響這個評估的因素，包括網路的可用性、安全性、裝置的運算力，以及把資料從終端傳送到儲存設備的相關費用，近來也已轉向使用分散式的運算模型。

從邊緣到終端：AI與ML改變終端典範

在成本、資源效率、彈性與便利性等方面，雲端有它的優點，裝置數量的急遽增加(如圖2)，將導致資料產出量大幅增加。這些資料大部份都相當複雜且非結構化的，這也是為何企業只會分析1%~12% 的資料的原因之一。把大量非結構化的資料送到雲端的費用相當高、容易形成瓶頸，而且從能源、頻寬與運算力角度來看，相當沒有效率。

在終端執行進階處理與分析的能力，可協助為關鍵應用降低延遲、減少對雲端的依賴，並且更好地管理物聯網產出的巨量資料。

終端AI：感測、推論與行動

在終端部署更多智慧的主要原因之一，是為了創造更大的敏捷性。終端裝置處於網路的最邊緣與資料產生的地方，可以更快與更準確地做出回應，同時免除不必要的資料傳輸、延遲與資料移動中的安全風險，可以節省費用。

處理能力與神經網路的重大進展，正協助帶動終端裝置的新能力，另一股驅動力則是對即時資訊、效率(傳送較少的資訊到雲端)、自動化與在多數情況下，對近乎即時回應的需求。這是一個三道步驟的程序：傳送資料、資料推論(例如依據機器學習辨識影像、聲音或動作)，以及採取行動(如物件是披薩，冰箱的壓縮機發出正常範圍外的聲音，因此發出警告)。

感測

處理器、微控制器與感測器產生的資料量相當龐大。例如，自駕車每小時要搜集25GB的資料。智慧家庭裝置、智慧牙刷、健身追蹤器或智慧手錶持續進化，並且與以往相比，會搜集更多的資料。

它們搜集到的資料極具價值，但每次都從各個終端節點把資料推回給雲端，數量又會過多。因此必須在終端進行處理。倘若部份的作業負載能在終端本身進行，就可以大幅提升效率。

推論

終端搜集到的資料是非結構性的。當機器學習從資料擷取到關聯性時，就是在進行推論。這表示使用AI與ML工具來幫忙訓練裝置辨識物件。拜神經網路的進展之賜，機器學習工具越來越能訓練物件以高度的精準度辨識影像、聲音與動作，這對體積越來越小的裝置，極為關鍵。

例如，圖4顯示使用像ONNX、PyTorch、Caffe2、Arm NN或 Tensorflow Lite 等神經網路工具，訓練高效能的意法半導體(ST)微控制器(MCU)，以轉換成最佳化的程式碼，讓MCU進行物件辨識(這個的情況辨識對象是影像、聲音或動作)。更高效能的MCU越來越常利用這些ML工具來辨識動作、音訊或影像，而且準確度相當高，而我們接下來馬上就要對此進行檢視。這些動作越來越頻繁地從邊緣，轉移到在終端運作的MCU本身。

行動

資料一旦完成感測與推論後，結果就是行動。這有可能是回饋簡單的回應(裝置是開啟或關閉)，或針對應用情況進行最佳化(戴耳機的人正在移動中，因此會針對穩定度而非音質進行最佳化)，或是回饋迴路(根據裝置訓練取得的機器學習，輸送帶若發出聲音，顯示它可能歪掉了)。物聯網裝置將會變得更複雜且更具智慧，因為這些能力提升後，運算力也會因此增加。在我們使用新的機器學習工具後，一些之前在雲端或終端完成的關鍵功能，將可以移到終端本身的內部進行。

終端 AI：千里之行始於足下

從智慧型手機到車輛，今日所有電子裝置的核心都是許多的處理器、微控制器與感測器。它們執行各種任務，從最簡單到最複雜，並需要各式各樣的能力。例如，應用處理器是高階處理器，它們是為行動運算、智慧型手機與伺服器設計；即時處理器是為例如硬碟控制、汽車動力傳動系統，與無線通訊的基頻控制使用的非常高效能的處理器，至於微控制器處理器的矽晶圓面積則小了許多，能源效率也高出很多，同時擁有特定的功能。

這意味著利用ML工具訓練如MCU等較不複雜元件來執行的動作，之前必須透過威力更強大的元件才能完成，但現在邊緣與雲端則是理想的場所。這將讓較小型的裝置以更低的延遲執行更多種類的功能，例如智慧手錶、健康追蹤器或健康照護監控等穿戴式裝置。

隨著更多功能在較小型的終端進行，這將可以省下資源，包括資料傳輸費用與能源費用，同時也會產生極大的環境衝擊，特別是考量到全球目前已有超過200億台連網裝置，以及超過2,500億顆MCU(根據Strategy Analytics統計數據)。

TinyML、MCU與人工智慧

根據Google的TesnsorFlow 技術主管、同時也是深度學習與TinyML領域的指標人物 Pete Warden 表示：「令人相當興奮的是，我還不知道我們將如何使用這些全新的裝置，特別是它們後面代表的科技是如此的吸引人，我無法想像那些即將出現的全新應用。」

微型機器學習(TinyML)的崛起，已經催化嵌入式系統與機器學習結合，而兩者傳統上大多是獨立運作的。TinyML 捨棄在雲端上運作複雜的機器學習模型，過程包含在終端裝置內與微控制器上運作經過最佳化的模式識別模型，耗電量只有數毫瓦。

物聯網環境中有數十億個微型裝置，可以為各個產業提供更多的洞察與效率，包括消費、醫療、汽車與工業。TinyML 獲得 Arm、Google、Qualcomm、Arduino等業者的支持，可望改變我們處理物聯網資料的方式。

受惠於TinyML，微控制器搭配AI已經開始增添各種傳統上威力更強大的元件才能執行的功能。這些功能包括語音辨識(例如自然語言處理)、影像處理(例如物件辨識與識別)，以及動作(例如震動、溫度波動等)。啟用這些功能後，準確度與安全性更高，但電池的續航力卻不會打折扣，同時也考量到各種更微妙的應用。

儘管之前提到的雲端神經網路框架工具，是取用這個公用程式最常用的方法，但把AI函式庫整合進MCU，然後把本地的AI訓練與分析能力插入程式碼中也是可行的。這讓開發人員依據從感測器、麥克風與其他終端嵌入式裝置取得的訊號導出資料模式，然後從中建立模型，例如預測性維護能力。

如Arm Cortex-M55處理器與Ethos U55微神經處理器(microNPU)，利用CMSIS-DSP與CMSIS-NN等常見API來簡化程式碼的轉移性，讓MCU與共同處理器緊密耦合以加速AI功能。透過推論工具在低成本的MCU上實現AI功能並符合嵌入式設計需求極為重要，原因是具有AI功能的MCU有機會在各種物聯網應用中轉變裝置的設計。

AI在較小型、低耗電與記憶體受限的裝置中可以協助的關鍵功能，我們可以把其精華歸納至我們簡稱為「3V」的三大領域：語音(Voice，如自然語言處理)、視覺(Vision，如影像處理)以及震動(Vibration，如處理來自多種感測器的資料，包括從加速計到溫度感測器，或是來自馬達的電氣訊號)。

終端智慧對「3V」至關重要

多數的物聯網應用聚焦在一些特定的領域：基本控制(開/關)、測量(狀態、溫度、流量、噪音與震動、濕度等)、資產的狀況(所在地點以及狀況如何？)，以及安全性功能、自動化、預測性維護以及遠端遙控(詳見圖 6)。

Strategy Analytics的研究顯示，許多已經完成部署或將要部署的物聯網B2B應用，仍然只需要相對簡單的指令，如基本的開/關，以及對設備與環境狀態的監控。在消費性物聯網領域中，智慧音箱的語音控制AI已經出現爆炸性成長，成為智慧家庭指令的中樞，包括智慧插座、智慧照明、智慧攝影機、智慧門鈴，以及智慧恆溫器等。消費性裝置如藍牙耳機現在已經具備情境感知功能，可以依據地點與環境，在音質優先與穩定度優先之間自動切換。

如同我們檢視的結果，終端AI可以在「3V」核心領域提供價值，而它觸及的許多物聯網領域，遍及B2B與B2C的應用：

震動：包含來自多種感測器資料的處理，從加速計感測器到溫度感測器，或來自馬達的電氣訊號。
視覺：影像與影片辨識；分析與識別靜止影像或影片內物件的能力。
語音：包括自然語言處理(NLP)、瞭解人類口中說出與寫出的語言的能力，以及使用人類語言與人類交談的能力-自然語言產生(NLG)。
垂直市場中有多種可以實作AI技術的使用場景：

震動

可以用來把智慧帶進MCU中的終端AI的進展，有各式各樣的不同應用領域，對於成本與物聯網裝置與應用的效用，都會帶來衝擊。這包括我們在圖6中點出的數個關鍵物聯網應用領域，包括：

溫度監控；
壓力監控；
溼度監控；
物理動作，包括滑倒與跌倒偵測；
物質檢測(漏水、瓦斯漏氣等) ；
磁通量(如鄰近感測器與流量監控) ；
感測器融合(見圖7)；
電場變化。

一如我們將在使用場景單元中檢視的，這些能力有許多可以應用在各種被普遍部署的物聯網應用中。

語音

語音是進化的產物，也是人類溝通非常有效率的方式。因此我們常常想要用語音來對機器下指令，也不令人意外；聲音檢測是持續成長的類別。語音啟動在智慧家庭應用中很常見，例如智慧音箱，而它也逐漸成為啟動智慧家庭裝置與智慧家電的語音中樞，如電視、遊戲主機與其他新的電器。

在工業環境中，供車床、銑床與磨床等電腦數值控制(CNC)機器使用的電腦語音引擎正方興未艾。iTSpeex的ATHENA4是第一批專為這些產品設計的語音啟動作業系統。這些產品往往因為安全原因，有離線語音處理的需求，因此終端 AI 語音發展在這裡也創造出有趣的機會。用戶可以指示機器執行特定的運作，並從機器手冊與工廠文件，立即取用資訊。

語音整合在車輛中也相當關鍵。OEM 代工廠商持續對車載娛樂系統中的語音辨識系統，進行大量投資。語音有潛力成為最安全的輸入模式，因為它可以讓駕駛的眼睛持續盯著道路，而雙手仍持續握著方向盤。

對於使用觸控螢幕或硬體控制器通常需要多道步驟的複雜任務，語音辨識系統特別能勝任。這些任務包括輸入文字簡訊、輸入目的地、播放特定歌曲或歌曲子集，以及選擇廣播電台頻道。其他的服務包含如拋錨服務(或bCall)與禮賓服務。

視覺

正如我們之前已經檢視過，終端 AI 提供視覺領域全新的機會，特別是與物件檢測及辨識相關。這可能包括觀察生產線的製造瑕疵，以及找出自動販賣機需要補貨的庫存。其他實例包括農業應用，例如依據大小與品質為農產品分級。

曳引機裝上機器視覺攝影機後，我們幾乎可以即時檢測出雜草。雜草冒出後，AI可以分類雜草並估算它對農產收穫的潛在威脅。這讓農民可以鎖定特定的雜草，並打造客製的除草解決方案。機器視覺然後可以檢測除草劑的效用，並找出農地中仍具抗藥性的殘餘雜草。

使用場景

預測性維護工具已經從擷取與比較震動的量測資料，進化到提出即時的資產監控。藉由連接物聯網感測器裝置與維護軟體，我們也可能做到遠端監控。

震動分析

這種類型的預測性維護在旋轉型機器密集的製造工廠裡，相當常見。震動分析可以揭露鬆脫、不平衡、錯位與軸承磨損等狀況。例如，把震動計量器接上靠近選煤廠離心泵浦內部承軸處，就可以讓工程師建立起正常震動範圍的基線。超出這個範圍的震動，可能顯示滾珠軸承出現鬆動，需要更換。

磁感測器融合

磁感測器利用磁性浮筒與一系列可以感應並與液體表面一起移動的感測器，測量液面的高低。所有的這些應用都使用一個固定面上的磁感測器，它與附近平面的磁鐵一起作動，與這個磁鐵相對應的感測器也會移動。

聲學分析(聲音)

與震動分析相似，聲測方位分析也是供潤滑技師使用，主要是專注在主動採取潤滑措施。這意味我們可以避免移動設備時產生的過度磨損，否則會為了修理造成代價高昂的停機。實際的例子可能包括測量輸送皮帶的承軸狀況。出現過度磨損時，承軸會因為潤滑不足或錯位出現故障，可能造成整個生產流程的中斷。

聲學分析(超音波)

聲音聲學分析雖然可以用來進行主動與預測性維護，超音波聲學分析卻只能用於預測性維護。它可以在超音波範圍內找出與機器摩擦及壓力相關的聲音，並使用在會發出較細微聲音的電氣設備與機器設備。我們可以說這一類型的分析與震動或油量分析相比，更可以預測即將出現的故障。目前它部署起來比其他種類的預防性維護花費較高，但終端 AI 的進展可以促成這種細微層級的聲學檢測，大幅降低部署的費用。

熱顯影

熱顯影利用紅外線影像來監控互動機器零件的溫度，讓任何異常情況很快變得顯而易見。具備終端 AI 能力的裝置，可以長期檢測微細的變化。與其他對事故敏感的監視器一樣，它們會觸發排程系統，自動採取適當的行動來預防零件故障。

消費者與智慧家庭

將語音運用在消費者與智慧家庭，是最常看到的場景之一。這包括智慧型手機與平板電腦上、未包含電話整合功能的裝置，例如螢幕尺寸有限的穿戴式裝置。這類型的裝置包含智慧手錶與健康穿戴式裝置，可以為各種功能提供免動手的語音啟動。像 Amazon 的 Echo 或 Google 的 Home 等智慧音箱市場的成長，說明消費者對於可接收與提供語音互動等現有裝置的強勁需求，與日俱增。

消費者基於各種理由使用智慧音箱，最常見的使用場景為：

聽音樂；
控制如照明等智慧家庭裝置；
取得新聞與天氣預報的更新；
建立購物與待辦事項清單。

除了像智慧音箱與智慧電視等消費裝置，智慧家庭裝置語音的使用，也顯現相當的潛力。諸如連網門鈴(如 ring.com)等裝置與連網的煙霧偵測器(例如 Nest Protect 煙霧與一氧化碳警報)目前都已上市可供消費者選購，它們結合了語音與視覺的感測器融合功能以及運動檢測。有了連網的煙霧偵測器，裝置在偵測到煙霧或一氧化碳時，可以發出語音警告。

終端 AI 為強化這些能力提供了全新機會，而且常常結合震動(動作)、視覺與語音控制。例如，增加姿態辨識來控制例如電視等家電，或是把語音控制嵌入白色家電，即是以最低成本強化功能性最直接的方式。

健康照護

用來發現醫護資訊的 AI 驅動終端裝置的應用，將為病況的治療與診斷，提供更多的價值。這種資訊可能是資料，也可能是影像、影片以及說出的話，我們可以透過 AI 進行型態與診斷分析。這些資料將引發全新、更有效的治療方法，為整個產業節省成本。受惠於終端 AI 的進展，像 Google Duplex 等語音系統的複雜性將會降低。例如門診預約等勞力密集的工作，也可以轉換成 AI 活動。利用自然語言語音來延伸 AI 的使用，也可以把 AI 用在第一線的病人診斷，然後再由醫師接手提供諮詢。

其他健康照護實例包括像 Wewalk5 等物件，這是一個供半盲與全盲人員使用的智慧拐杖。它使用感測器來檢測胸口水平以上的物件，並搭配 Google Maps 與 Amazon Alexa 等 app，方便使用者提出問題。

結論

由於連網的終端裝置數量越來越多，這個世界也越來越複雜。連接到網際網路的裝置已經超過 300 億個，而微控制器的數量也超過 2,500 億，每年還會增加約 300 億個。越來越多的程序開始進行自動化，不過，把大量資料傳送到雲端涉及的延遲以及邊緣運算的額外費用，意味著許多全新、令人興奮且引人矚目的物聯網使用場景，可能無法開花結果。

解決這些挑戰的答案，並不是為雲端資料中心持續增添運算力。降低出現在邊緣的延遲雖然會有幫助，但不會解決日益分散的世界的所有挑戰。我們需要把智能應用到基礎架構中。

儘管為終端裝置增添先進的運算能力在十年前仍不可行，TinyML 技術近來的提升，已經讓位處相當邊緣的裝置 (也就是終端本身)增添智能的機會大大改觀。在終端增加運算與人工智慧能力，可以讓我們在源頭搜集到更多更具關聯性與相關的資訊。隨著裝置與資料的數量持續攀升，在源頭掌握情境化與具關聯性的資料，具有極大的價值，並將開啟全新的使用場景與營收機會。

終端裝置的機器學習，可以促成全新的終端 AI 世界。新的應用場景正在崛起，甚至跳過傳送大量資料的需求，因而紓解資料傳輸的瓶頸與延遲，並在各種作業環境中創造全新機會。終端 AI 將為我們開啟一個充滿全新機會與應用場景的世界，其中還有很多我們現在想像不到的機會。

附圖：圖1：從集中式到分散式運算的轉變。
(資料來源：《The End of Cloud Computing》，by Peter Levine，Andreessen Horowitz)
圖2：全球上網裝置安裝量。
(資料來源：Strategy Analytics)
圖3：深度學習流程。
圖4：MCU的視覺、震動與語音。
(資料來源：意法半導體)
圖5：AI 工具集執行模型轉換，以便在MCU上執行經最佳化的神經網路推論。
(資料來源：意法半導體)
圖6：物聯網企業對企業應用的使用-目前與未來。
(資料來源：Strategy Analytics)
圖7：促成情境感知的感測器融合。
(資料來源：恩智浦半導體)

資料來源：https://www.eettaiwan.com/20210303nt31-the-dawn-of-endpoint-ai-bringing-compute-closer-to-data/?fbclid=IwAR0JTRpNsJUl-DmSNpfIcymGQpkQaUgXixEaczwDpELxGCaCeJpkTyoqUtI