摩爾定律放緩　靠啥提升AI晶片運算力？

作者 : 黃燁鋒，EE Times China
2021-07-26

對於電子科技革命的即將終結的說法，一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續，也就意味著資訊技術的整棟大樓建造都將出現停滯，那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有的，但這波革命始終也沒有結束。AI技術本質上仍然是第三次科技革命的延續……

人工智慧(AI)的技術發展，被很多人形容為第四次科技革命。前三次科技革命，分別是蒸汽、電氣、資訊技術(電子科技)革命。彷彿這“第四次”有很多種說辭，比如有人說第四次科技革命是生物技術革命，還有人說是量子技術革命。但既然AI也是第四次科技革命之一的候選技術，而且作為資訊技術的組成部分，卻又獨立於資訊技術，即表示它有獨到之處。

電子科技革命的即將終結，一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續，也就意味著資訊技術的整棟大樓建造都將出現停滯，那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有，但這波革命始終也沒有結束。

AI技術本質上仍然是第三次科技革命的延續，它的發展也依託於幾十年來半導體科技的進步。這些年出現了不少專門的AI晶片——而且市場參與者相眾多。當某一個類別的技術發展到出現一種專門的處理器為之服務的程度，那麼這個領域自然就不可小覷，就像當年GPU出現專門為圖形運算服務一樣。

所以AI晶片被形容為CPU、GPU之後的第三大類電腦處理器。AI專用處理器的出現，很大程度上也是因為摩爾定律的發展進入緩慢期：電晶體的尺寸縮減速度，已經無法滿足需求，所以就必須有某種專用架構(DSA)出現，以快速提升晶片效率，也才有了專門的AI晶片。

另一方面，摩爾定律的延緩也成為AI晶片發展的桎梏。在摩爾定律和登納德縮放比例定律(Dennard Scaling)發展的前期，電晶體製程進步為晶片帶來了相當大的助益，那是「happy scaling down」的時代——CPU、GPU都是這個時代受益，不過Dennard Scaling早在45nm時期就失效了。

AI晶片作為第三大類處理器，在這波發展中沒有趕上happy scaling down的好時機。與此同時，AI應用對運算力的需求越來越貪婪。今年WAIC晶片論壇圓桌討論環節，燧原科技創始人暨CEO趙立東說：「現在訓練的GPT-3模型有1750億參數，接近人腦神經元數量，我以為這是最大的模型了，要千張Nvidia的GPU卡才能做。談到AI運算力需求、模型大小的問題，說最大模型超過萬億參數，又是10倍。」

英特爾(Intel)研究院副總裁、中國研究院院長宋繼強說：「前兩年用GPU訓練一個大規模的深度學習模型，其碳排放量相當於5台美式車整個生命週期產生的碳排量。」這也說明了AI運算力需求的貪婪，以及提供運算力的AI晶片不夠高效。

不過作為產業的底層驅動力，半導體製造技術仍源源不斷地為AI發展提供推力。本文將討論WAIC晶片論壇上聽到，針對這個問題的一些前瞻性解決方案——有些已經實現，有些則可能有待時代驗證。

XPU、摩爾定律和異質整合

「電腦產業中的貝爾定律，是說能效每提高1,000倍，就會衍生出一種新的運算形態。」中科院院士劉明在論壇上說，「若每瓦功耗只能支撐1KOPS的運算，當時的這種運算形態是超算；到了智慧型手機時代，能效就提高到每瓦1TOPS；未來的智慧終端我們要達到每瓦1POPS。 這對IC提出了非常高的要求，如果依然沿著CMOS這條路去走，當然可以，但會比較艱辛。」

針對性能和效率提升，除了尺寸微縮，半導體產業比較常見的思路是電晶體結構、晶片結構、材料等方面的最佳化，以及處理架構的革新。

(1)AI晶片本身其實就是對處理器架構的革新，從運算架構的層面來看，針對不同的應用方向造不同架構的處理器是常規，更專用的處理器能促成效率和性能的成倍增長，而不需要依賴於電晶體尺寸的微縮。比如GPU、神經網路處理器(NPU，即AI處理器)，乃至更專用的ASIC出現，都是這類思路。

CPU、GPU、NPU、FPGA等不同類型的晶片各司其職，Intel這兩年一直在推行所謂的「XPU」策略就是用不同類型的處理器去做不同的事情，「整合起來各取所需，用組合拳會好過用一種武器去解決所有問題。」宋繼強說。Intel的晶片產品就涵蓋了幾個大類，Core CPU、Xe GPU，以及透過收購獲得的AI晶片Habana等。

另外針對不同類型的晶片，可能還有更具體的最佳化方案。如當代CPU普遍加入AVX512指令，本質上是特別針對深度學習做加強。「專用」的不一定是處理器，也可以是處理器內的某些特定單元，甚至固定功能單元，就好像GPU中加入專用的光線追蹤單元一樣，這是當代處理器普遍都在做的一件事。

(2)從電晶體、晶片結構層面來看，電晶體的尺寸現在仍然在縮減過程中，只不過縮減幅度相比過去變小了——而且為緩解電晶體性能的下降，需要有各種不同的技術來輔助尺寸變小。比如說在22nm節點之後，電晶體變為FinFET結構，在3nm之後，電晶體即將演變為Gate All Around FET結構。最終會演化為互補FET (CFET)，其本質都是電晶體本身充分利用Z軸，來實現微縮性能的提升。

劉明認為，「除了基礎元件的變革，IC現在的發展還是比較多元化，包括新材料的引進、元件結構革新，也包括微影技術。長期賴以微縮的基本手段，現在也在發生巨大的變化，特別是未來3D的異質整合。這些多元技術的協同發展，都為晶片整體性能提升帶來了很好的增益。」

他並指出，「從電晶體級、到晶圓級，再到晶片堆疊、引線接合(lead bonding)，精準度從毫米向奈米演進，互連密度大大提升。」從晶圓/裸晶的層面來看，則是眾所周知的朝more than moore’s law這樣的路線發展，比如把兩片裸晶疊起來。現在很熱門的chiplet技術就是比較典型的並不依賴於傳統電晶體尺寸微縮，來彈性擴展性能的方案。

台積電和Intel這兩年都在大推將不同類型的裸晶，異質整合的技術。2.5D封裝方案典型如台積電的CoWoS，Intel的EMIB，而在3D堆疊上，Intel的Core LakeField晶片就是用3D Foveros方案，將不同的裸晶疊在一起，甚至可以實現兩片運算裸晶的堆疊、互連。

之前的文章也提到過AMD剛發佈的3D V-Cache，將CPU的L3 cache裸晶疊在運算裸晶上方，將處理器的L3 cache大小增大至192MB，對儲存敏感延遲應用的性能提升。相比Intel，台積電這項技術的獨特之處在於裸晶間是以混合接合(hybrid bonding)的方式互連，而不是micro-bump，做到更小的打線間距，以及晶片之間數十倍通訊性能和效率提升。

這些方案也不直接依賴傳統的電晶體微縮方案。這裡實際上還有一個方面，即新材料的導入專家們沒有在論壇上多說，本文也略過不談。

1,000倍的性能提升

劉明談到，當電晶體微縮的空間沒有那麼大的時候，產業界傾向於採用新的策略來評價技術——「PPACt」——即Powe r(功耗)、Performance (性能)、Cost/Area-Time (成本/面積-時間)。t指的具體是time-to-market，理論上應該也屬於成本的一部分。

電晶體微縮方案失效以後，「多元化的技術變革，依然會讓IC性能得到進一步的提升。」劉明說，「根據預測，這些技術即使不再做尺寸微縮，也會讓IC的晶片性能做到500~1,000倍的提升，到2035年實現Zetta Flops的系統性能水準。且超算的發展還可以一如既往地前進；單裸晶儲存容量變得越來越大，IC依然會為產業發展提供基礎。」

500~1,000倍的預測來自DARPA，感覺有些過於樂觀。因為其中的不少技術存在比較大的邊際遞減效應，而且有更實際的工程問題待解決，比如運算裸晶疊層的散熱問題——即便業界對於這類工程問題的探討也始終在持續。

不過1,000倍的性能提升，的確說明摩爾定律的終結並不能代表第三次科技革命的終結，而且還有相當大的發展空間。尤其本文談的主要是AI晶片，而不是更具通用性的CPU。

矽光、記憶體內運算和神經型態運算

在非傳統發展路線上(以上內容都屬於半導體製造的常規思路)，WAIC晶片論壇上宋繼強和劉明都提到了一些頗具代表性的技術方向(雖然這可能與他們自己的業務方向或研究方向有很大的關係)。這些技術可能尚未大規模推廣，或者仍在商業化的極早期。

(1)近記憶體運算和記憶體內運算：處理器性能和效率如今面臨的瓶頸，很大程度並不在單純的運算階段，而在資料傳輸和儲存方面——這也是共識。所以提升資料的傳輸和存取效率，可能是提升整體系統性能時，一個非常靠譜的思路。

這兩年市場上的處理器產品用「近記憶體運算」(near-memory computing)思路的，應該不在少數。所謂的近記憶體運算，就是讓儲存(如cache、memory)單元更靠近運算單元。CPU的多層cache結構(L1、L2、L3)，以及電腦處理器cache、記憶體、硬碟這種多層儲存結構是常規。而「近記憶體運算」主要在於究竟有多「近」，cache記憶體有利於隱藏當代電腦架構中延遲和頻寬的局限性。

這兩年在近記憶體運算方面比較有代表性的，一是AMD——比如前文提到3D V-cache增大處理器的cache容量，還有其GPU不僅在裸晶內導入了Infinity Cache這種類似L3 cache的結構，也更早應用了HBM2記憶體方案。這些實踐都表明，儲存方面的革新的確能帶來性能的提升。

另外一個例子則是Graphcore的IPU處理器：IPU的特點之一是在裸晶內堆了相當多的cache資源，cache容量遠大於一般的GPU和AI晶片——也就避免了頻繁的訪問外部儲存資源的操作，極大提升頻寬、降低延遲和功耗。

近記憶體運算的本質仍然是馮紐曼架構(Von Neumann architecture)的延續。「在做處理的過程中，多層級的儲存結構，資料的搬運不僅僅在處理和儲存之間，還在不同的儲存層級之間。這樣頻繁的資料搬運帶來了頻寬延遲、功耗的問題。也就有了我們經常說的運算體系內的儲存牆的問題。」劉明說。

構建非馮(non-von Neumann)架構，把傳統的、以運算為中心的馮氏架構，變換一種新的運算範式。把部分運算力下推到儲存。這便是記憶體內運算(in-memory computing)的概念。

記憶體內運算的就現在看來還是比較新，也有稱其為「存算一體」。通常理解為在記憶體中嵌入演算法，儲存單元本身就有運算能力，理論上消除資料存取的延遲和功耗。記憶體內運算這個概念似乎這在資料爆炸時代格外醒目，畢竟可極大減少海量資料的移動操作。

其實記憶體內運算的概念都還沒有非常明確的定義。現階段它可能的內涵至少涉及到在儲記憶體內部，部分執行資料處理工作；主要應用於神經網路(因為非常契合神經網路的工作方式)，以及這類晶片具體的工作方法上，可能更傾向於神經型態運算(neuromorphic computing)。

對於AI晶片而言，記憶體內運算的確是很好的思路。一般的GPU和AI晶片執行AI負載時，有比較頻繁的資料存取操作，這對性能和功耗都有影響。不過記憶體內運算的具體實施方案，在市場上也是五花八門，早期比較具有代表性的Mythic導入了一種矩陣乘的儲存架構，用40nm嵌入式NOR，在儲記憶體內部執行運算，不過替換掉了數位週邊電路，改用類比的方式。在陣列內部進行模擬運算。這家公司之前得到過美國國防部的資金支援。

劉明列舉了近記憶體運算和記憶體內運算兩種方案的例子。其中，近記憶體運算的這個方案應該和AMD的3D V-cache比較類似，把儲存裸晶和運算裸晶疊起來。

劉明指出，「這是我們最近的一個工作，採用hybrid bonding的技術，與矽通孔(TSV)做比較，hybrid bonding功耗是0.8pJ/bit，而TSV是4pJ/bit。延遲方面，hybrid bonding只有0.5ns，而TSV方案是3ns。」台積電在3D堆疊方面的領先優勢其實也體現在hybrid bonding混合鍵合上，前文也提到了它具備更高的互連密度和效率。

另外這套方案還將DRAM刷新頻率提高了一倍，從64ms提高至128ms，以降低功耗。「應對刷新率變慢出現拖尾bit，我們引入RRAM TCAM索引這些tail bits」劉明說。

記憶體內運算方面，「傳統運算是用布林邏輯，一個4位元的乘法需要用到幾百個電晶體，這個過程中需要進行資料來回的移動。記憶體內運算是利用單一元件的歐姆定律來完成一次乘法，然後利用基爾霍夫定律完成列的累加。」劉明表示，「這對於今天深度學習的矩陣乘非常有利。它是原位的運算和儲存，沒有資料搬運。」這是記憶體內運算的常規思路。

「無論是基於SRAM，還是基於新型記憶體，相比近記憶體運算都有明顯優勢，」劉明認為。下圖是記憶體內運算和近記憶體運算，精準度、能效等方面的對比，記憶體內運算架構對於低精準度運算有價值。

下圖則總結了業內主要的一些記憶體內運算研究，在精確度和能效方面的對應關係。劉明表示，「需要高精確度、高運算力的情況下，近記憶體運算目前還是有優勢。不過記憶體內運算是更新的技術，這幾年的進步也非常快。」

去年阿里達摩院發佈2020年十大科技趨勢中，有一個就是存算一體突破AI算力瓶頸。不過記憶體內運算面臨的商用挑戰也一點都不小。記憶體內運算的通常思路都是類比電路的運算方式，這對記憶體、運算單元設計都需要做工程上的考量。與此同時這樣的晶片究竟由誰來造也是個問題：是記憶體廠商，還是數文書處理器廠商？(三星推過記憶體內運算晶片，三星、Intel垂直整合型企業似乎很適合做記憶體內運算…)

(2)神經型態運算：神經型態運算和記憶體內運算一樣，也是新興技術的熱門話題，這項技術有時也叫作compute in memory，可以認為它是記憶體內運算的某種發展方向。神經型態和一般神經網路AI晶片的差異是，這種結構更偏「類人腦」。

進行神經型態研究的企業現在也逐漸變得多起來，劉明也提到了AI晶片「最終的理想是在結構層次模仿腦，元件層次逼近腦，功能層次超越人腦」的「類腦運算」。Intel是比較早關注神經型態運算研究的企業之一。

傳說中的Intel Loihi就是比較典型存算一體的架構，「這片裸晶裡面包含128個小核心，每個核心用於模擬1,024個神經元的運算結構。」宋繼強說，「這樣一塊晶片大概可以類比13萬個神經元。我們做到的是把768個晶片再連起來，構成接近1億神經元的系統，讓學術界的夥伴去試用。」

「它和深度學習加速器相比，沒有任何浮點運算——就像人腦裡面沒有乘加器。所以其學習和訓練方法是採用一種名為spike neutral network的路線，功耗很低，也可以訓練出做視覺辨識、語言辨識和其他種類的模型。」宋繼強認為，不採用同步時脈，「刺激的時候就是一個非同步電動勢，只有工作部分耗電，功耗是現在深度學習加速晶片的千分之一。」

「而且未來我們可以對不同區域做劃分，比如這兒是視覺區、那兒是語言區、那兒是觸覺區，同時進行多模態訓練，互相之間產生關聯。這是現在的深度學習模型無法比擬的。」宋繼強說。這種神經型態運算晶片，似乎也是Intel在XPU方向上探索不同架構運算的方向之一。

(2)微型化矽光：這個技術方向可能在層級上更偏高了一些，不再晶片架構層級，不過仍然值得一提。去年Intel在Labs Day上特別談到了自己在矽光(Silicon Photonics)的一些技術進展。其實矽光技術在連接資料中心的交換機方面，已有應用了，發出資料時，連接埠處會有個收發器把電訊號轉為光訊號，透過光纖來傳輸資料，另一端光訊號再轉為電訊號。不過傳統的光收發器成本都比較高，內部元件數量大，尺寸也就比較大。

Intel在整合化的矽光(IIIV族monolithic的光學整合化方案)方面應該是商業化走在比較前列的，就是把光和電子相關的組成部分高度整合到晶片上，用IC製造技術。未來的光通訊不只是資料中心機架到機架之間，也可以下沉到板級——就跟現在傳統的電I/O一樣。電互連的主要問題是功耗太大，也就是所謂的I/O功耗牆，這是這類微型化矽光元件存在的重要價值。

這其中存在的技術挑戰還是比較多，如做資料的光訊號調變的調變器調變器，據說Intel的技術使其實現了1,000倍的縮小；還有在接收端需要有個探測器(detector)轉換光訊號，用所謂的全矽微環(micro-ring)結構，實現矽對光的檢測能力；波分複用技術實現頻寬倍增，以及把矽光和CMOS晶片做整合等。

Intel認為，把矽光模組與運算資源整合，就能打破必須帶更多I/O接腳做更大尺寸處理器的這種趨勢。矽光能夠實現的是更低的功耗、更大的頻寬、更小的接腳數量和尺寸。在跨處理器、跨伺服器節點之間的資料互動上，這類技術還是頗具前景，Intel此前說目標是實現每根光纖1Tbps的速率，並且能效在1pJ/bit，最遠距離1km，這在非本地傳輸上是很理想的數字。

還有軟體…

除了AI晶片本身，從整個生態的角度，包括AI感知到運算的整個鏈條上的其他組成部分，都有促成性能和效率提升的餘地。比如這兩年Nvidia從軟體層面，針對AI運算的中間層、庫做了大量最佳化。相同的底層硬體，透過軟體最佳化就能實現幾倍的性能提升。

宋繼強說，「我們發現軟體最佳化與否，在同一個硬體上可以達到百倍的性能差距。」這其中的餘量還是比較大。

在AI開發生態上，雖然Nvidia是最具發言權的；但從戰略角度來看，像Intel這種研發CPU、GPU、FPGA、ASIC，甚至還有神經型態運算處理器的企業而言，不同處理器統一開發生態可能更具前瞻性。Intel有個稱oneAPI的軟體平台，用一套API實現不同硬體性能埠的對接。這類策略對廠商的軟體框架構建能力是非常大的考驗——也極大程度關乎底層晶片的執行效率。

在摩爾定律放緩、電晶體尺寸微縮變慢甚至不縮小的前提下，處理器架構革新、異質整合與2.5D/3D封裝技術依然可以達成1,000倍的性能提升；而一些新的技術方向，包括近記憶體運算、記憶體內運算和微型矽光，能夠在資料訪存、傳輸方面產生新的價值；神經型態運算這種類腦運算方式，是實現AI運算的目標；軟體層面的最佳化，也能夠帶動AI性能的成倍增長。所以即便摩爾定律嚴重放緩，AI晶片的性能、效率提升在上面提到的這麼多方案加持下，終將在未來很長一段時間內持續飛越。這第三(四)次科技革命恐怕還很難停歇。

資料來源：https://www.eettaiwan.com/20210726nt61-ai-computing/?fbclid=IwAR3BaorLm9rL2s1ff6cNkL6Z7dK8Q96XulQPzuMQ_Yky9H_EmLsBpjBOsWg

迎接終端AI新時代：讓運算更靠近資料所在

作者 : Andrew Brown，Strategy Analytics
2021-03-03

資料/數據(data)成長的速度越來越快。據估計，人類目前每秒產出1.7Mb的資料。智慧與個人裝置如智慧型手機、平板電腦與穿戴式裝置不但快速成長，現在我們也真正目睹物聯網(IoT)的成長，未來連網的裝置數量將遠遠超越地球的人口。

這包括種類繁多的不同裝置，像是智慧感測器與致動器，它們可以監控從震動、語音到視覺等所有的東西，以及幾乎大家可以想像到的所有東西。這些裝置無所不在，從工廠所在位置到監控攝影機、智慧手錶、智慧家庭以及自主性越來越高的車輛。隨著我們企圖測量生活週遭數位世界中更多的事物，它們的數量將持續爆炸性成長。

資料爆量成長，讓許多企業把資料從內部部署運作移到雲端。儘管集中到雲端運算的性質，在成本與資源效率、彈性與便利性有它的優點，但也有一些缺點。由於運算與儲存在遠端進行，來自終端、也就是那些在網路最邊緣裝置的資料，需要從起始點經過網際網路或其他網路，來到集中式的資料中心(例如雲端)，然後在這裡處理與儲存，最後再傳回給用戶。

對於一些傳統的應用，這種方式雖然還可以接受，但越來越多的使用場景就是無法承受終端與雲端之間，資訊被接力傳遞產生的延遲。我們必須即時做出決策，網路延遲要越小越好。基於這些原因，開始有人轉向終端運算；越來越多人轉而使用智慧終端，而去中心化的程度也越來越高。此外，在這些即時應用中產生的龐大資料量，意味著處理與智慧必須在本地以分散的方式進行。

與資料成長連袂而來的，是人工智慧與機器學習(ML)也朝終端移動，並且越來越朝終端本身移動。大量來自真實世界的資訊，需要用ML的方式來進行詮釋與採取行動。透過AI與ML，是以最小的延遲分析影像、動作、影片或數量龐大的資料，唯一可行且合乎成本效益的方式。運用AI與ML的演算法與應用將在邊緣運作，在未來還將會直接在終端裝置上進行。

資料正在帶動從集中化到分散化的轉變

隨著資訊科技市場逐漸發展與成熟，網路的設計以及在其運作的所有裝置，也都跟著進化。全盛時期從服務數千個小型客戶端的主機，一直到客戶端伺服器模型中使用的越來越本地化的個人電腦運算效能，基礎架構持續重組與最佳化，以便更貼近網路上的裝置以及符合運作應用的需求。這些需求包含檔案存取與資料儲存，以及資料處理的需求。

智慧型手機與其他行動裝置的爆炸性成長，加上物聯網的快速成長，促使我們需要為如何讓資產進行最佳的部署與安排進行評估。而影響這個評估的因素，包括網路的可用性、安全性、裝置的運算力，以及把資料從終端傳送到儲存設備的相關費用，近來也已轉向使用分散式的運算模型。

從邊緣到終端：AI與ML改變終端典範

在成本、資源效率、彈性與便利性等方面，雲端有它的優點，裝置數量的急遽增加(如圖2)，將導致資料產出量大幅增加。這些資料大部份都相當複雜且非結構化的，這也是為何企業只會分析1%~12% 的資料的原因之一。把大量非結構化的資料送到雲端的費用相當高、容易形成瓶頸，而且從能源、頻寬與運算力角度來看，相當沒有效率。

在終端執行進階處理與分析的能力，可協助為關鍵應用降低延遲、減少對雲端的依賴，並且更好地管理物聯網產出的巨量資料。

終端AI：感測、推論與行動

在終端部署更多智慧的主要原因之一，是為了創造更大的敏捷性。終端裝置處於網路的最邊緣與資料產生的地方，可以更快與更準確地做出回應，同時免除不必要的資料傳輸、延遲與資料移動中的安全風險，可以節省費用。

處理能力與神經網路的重大進展，正協助帶動終端裝置的新能力，另一股驅動力則是對即時資訊、效率(傳送較少的資訊到雲端)、自動化與在多數情況下，對近乎即時回應的需求。這是一個三道步驟的程序：傳送資料、資料推論(例如依據機器學習辨識影像、聲音或動作)，以及採取行動(如物件是披薩，冰箱的壓縮機發出正常範圍外的聲音，因此發出警告)。

感測

處理器、微控制器與感測器產生的資料量相當龐大。例如，自駕車每小時要搜集25GB的資料。智慧家庭裝置、智慧牙刷、健身追蹤器或智慧手錶持續進化，並且與以往相比，會搜集更多的資料。

它們搜集到的資料極具價值，但每次都從各個終端節點把資料推回給雲端，數量又會過多。因此必須在終端進行處理。倘若部份的作業負載能在終端本身進行，就可以大幅提升效率。

推論

終端搜集到的資料是非結構性的。當機器學習從資料擷取到關聯性時，就是在進行推論。這表示使用AI與ML工具來幫忙訓練裝置辨識物件。拜神經網路的進展之賜，機器學習工具越來越能訓練物件以高度的精準度辨識影像、聲音與動作，這對體積越來越小的裝置，極為關鍵。

例如，圖4顯示使用像ONNX、PyTorch、Caffe2、Arm NN或 Tensorflow Lite 等神經網路工具，訓練高效能的意法半導體(ST)微控制器(MCU)，以轉換成最佳化的程式碼，讓MCU進行物件辨識(這個的情況辨識對象是影像、聲音或動作)。更高效能的MCU越來越常利用這些ML工具來辨識動作、音訊或影像，而且準確度相當高，而我們接下來馬上就要對此進行檢視。這些動作越來越頻繁地從邊緣，轉移到在終端運作的MCU本身。

行動

資料一旦完成感測與推論後，結果就是行動。這有可能是回饋簡單的回應(裝置是開啟或關閉)，或針對應用情況進行最佳化(戴耳機的人正在移動中，因此會針對穩定度而非音質進行最佳化)，或是回饋迴路(根據裝置訓練取得的機器學習，輸送帶若發出聲音，顯示它可能歪掉了)。物聯網裝置將會變得更複雜且更具智慧，因為這些能力提升後，運算力也會因此增加。在我們使用新的機器學習工具後，一些之前在雲端或終端完成的關鍵功能，將可以移到終端本身的內部進行。

終端 AI：千里之行始於足下

從智慧型手機到車輛，今日所有電子裝置的核心都是許多的處理器、微控制器與感測器。它們執行各種任務，從最簡單到最複雜，並需要各式各樣的能力。例如，應用處理器是高階處理器，它們是為行動運算、智慧型手機與伺服器設計；即時處理器是為例如硬碟控制、汽車動力傳動系統，與無線通訊的基頻控制使用的非常高效能的處理器，至於微控制器處理器的矽晶圓面積則小了許多，能源效率也高出很多，同時擁有特定的功能。

這意味著利用ML工具訓練如MCU等較不複雜元件來執行的動作，之前必須透過威力更強大的元件才能完成，但現在邊緣與雲端則是理想的場所。這將讓較小型的裝置以更低的延遲執行更多種類的功能，例如智慧手錶、健康追蹤器或健康照護監控等穿戴式裝置。

隨著更多功能在較小型的終端進行，這將可以省下資源，包括資料傳輸費用與能源費用，同時也會產生極大的環境衝擊，特別是考量到全球目前已有超過200億台連網裝置，以及超過2,500億顆MCU(根據Strategy Analytics統計數據)。

TinyML、MCU與人工智慧

根據Google的TesnsorFlow 技術主管、同時也是深度學習與TinyML領域的指標人物 Pete Warden 表示：「令人相當興奮的是，我還不知道我們將如何使用這些全新的裝置，特別是它們後面代表的科技是如此的吸引人，我無法想像那些即將出現的全新應用。」

微型機器學習(TinyML)的崛起，已經催化嵌入式系統與機器學習結合，而兩者傳統上大多是獨立運作的。TinyML 捨棄在雲端上運作複雜的機器學習模型，過程包含在終端裝置內與微控制器上運作經過最佳化的模式識別模型，耗電量只有數毫瓦。

物聯網環境中有數十億個微型裝置，可以為各個產業提供更多的洞察與效率，包括消費、醫療、汽車與工業。TinyML 獲得 Arm、Google、Qualcomm、Arduino等業者的支持，可望改變我們處理物聯網資料的方式。

受惠於TinyML，微控制器搭配AI已經開始增添各種傳統上威力更強大的元件才能執行的功能。這些功能包括語音辨識(例如自然語言處理)、影像處理(例如物件辨識與識別)，以及動作(例如震動、溫度波動等)。啟用這些功能後，準確度與安全性更高，但電池的續航力卻不會打折扣，同時也考量到各種更微妙的應用。

儘管之前提到的雲端神經網路框架工具，是取用這個公用程式最常用的方法，但把AI函式庫整合進MCU，然後把本地的AI訓練與分析能力插入程式碼中也是可行的。這讓開發人員依據從感測器、麥克風與其他終端嵌入式裝置取得的訊號導出資料模式，然後從中建立模型，例如預測性維護能力。

如Arm Cortex-M55處理器與Ethos U55微神經處理器(microNPU)，利用CMSIS-DSP與CMSIS-NN等常見API來簡化程式碼的轉移性，讓MCU與共同處理器緊密耦合以加速AI功能。透過推論工具在低成本的MCU上實現AI功能並符合嵌入式設計需求極為重要，原因是具有AI功能的MCU有機會在各種物聯網應用中轉變裝置的設計。

AI在較小型、低耗電與記憶體受限的裝置中可以協助的關鍵功能，我們可以把其精華歸納至我們簡稱為「3V」的三大領域：語音(Voice，如自然語言處理)、視覺(Vision，如影像處理)以及震動(Vibration，如處理來自多種感測器的資料，包括從加速計到溫度感測器，或是來自馬達的電氣訊號)。

終端智慧對「3V」至關重要

多數的物聯網應用聚焦在一些特定的領域：基本控制(開/關)、測量(狀態、溫度、流量、噪音與震動、濕度等)、資產的狀況(所在地點以及狀況如何？)，以及安全性功能、自動化、預測性維護以及遠端遙控(詳見圖 6)。

Strategy Analytics的研究顯示，許多已經完成部署或將要部署的物聯網B2B應用，仍然只需要相對簡單的指令，如基本的開/關，以及對設備與環境狀態的監控。在消費性物聯網領域中，智慧音箱的語音控制AI已經出現爆炸性成長，成為智慧家庭指令的中樞，包括智慧插座、智慧照明、智慧攝影機、智慧門鈴，以及智慧恆溫器等。消費性裝置如藍牙耳機現在已經具備情境感知功能，可以依據地點與環境，在音質優先與穩定度優先之間自動切換。

如同我們檢視的結果，終端AI可以在「3V」核心領域提供價值，而它觸及的許多物聯網領域，遍及B2B與B2C的應用：

震動：包含來自多種感測器資料的處理，從加速計感測器到溫度感測器，或來自馬達的電氣訊號。
視覺：影像與影片辨識；分析與識別靜止影像或影片內物件的能力。
語音：包括自然語言處理(NLP)、瞭解人類口中說出與寫出的語言的能力，以及使用人類語言與人類交談的能力-自然語言產生(NLG)。
垂直市場中有多種可以實作AI技術的使用場景：

震動

可以用來把智慧帶進MCU中的終端AI的進展，有各式各樣的不同應用領域，對於成本與物聯網裝置與應用的效用，都會帶來衝擊。這包括我們在圖6中點出的數個關鍵物聯網應用領域，包括：

溫度監控；
壓力監控；
溼度監控；
物理動作，包括滑倒與跌倒偵測；
物質檢測(漏水、瓦斯漏氣等) ；
磁通量(如鄰近感測器與流量監控) ；
感測器融合(見圖7)；
電場變化。

一如我們將在使用場景單元中檢視的，這些能力有許多可以應用在各種被普遍部署的物聯網應用中。

語音

語音是進化的產物，也是人類溝通非常有效率的方式。因此我們常常想要用語音來對機器下指令，也不令人意外；聲音檢測是持續成長的類別。語音啟動在智慧家庭應用中很常見，例如智慧音箱，而它也逐漸成為啟動智慧家庭裝置與智慧家電的語音中樞，如電視、遊戲主機與其他新的電器。

在工業環境中，供車床、銑床與磨床等電腦數值控制(CNC)機器使用的電腦語音引擎正方興未艾。iTSpeex的ATHENA4是第一批專為這些產品設計的語音啟動作業系統。這些產品往往因為安全原因，有離線語音處理的需求，因此終端 AI 語音發展在這裡也創造出有趣的機會。用戶可以指示機器執行特定的運作，並從機器手冊與工廠文件，立即取用資訊。

語音整合在車輛中也相當關鍵。OEM 代工廠商持續對車載娛樂系統中的語音辨識系統，進行大量投資。語音有潛力成為最安全的輸入模式，因為它可以讓駕駛的眼睛持續盯著道路，而雙手仍持續握著方向盤。

對於使用觸控螢幕或硬體控制器通常需要多道步驟的複雜任務，語音辨識系統特別能勝任。這些任務包括輸入文字簡訊、輸入目的地、播放特定歌曲或歌曲子集，以及選擇廣播電台頻道。其他的服務包含如拋錨服務(或bCall)與禮賓服務。

視覺

正如我們之前已經檢視過，終端 AI 提供視覺領域全新的機會，特別是與物件檢測及辨識相關。這可能包括觀察生產線的製造瑕疵，以及找出自動販賣機需要補貨的庫存。其他實例包括農業應用，例如依據大小與品質為農產品分級。

曳引機裝上機器視覺攝影機後，我們幾乎可以即時檢測出雜草。雜草冒出後，AI可以分類雜草並估算它對農產收穫的潛在威脅。這讓農民可以鎖定特定的雜草，並打造客製的除草解決方案。機器視覺然後可以檢測除草劑的效用，並找出農地中仍具抗藥性的殘餘雜草。

使用場景

預測性維護工具已經從擷取與比較震動的量測資料，進化到提出即時的資產監控。藉由連接物聯網感測器裝置與維護軟體，我們也可能做到遠端監控。

震動分析

這種類型的預測性維護在旋轉型機器密集的製造工廠裡，相當常見。震動分析可以揭露鬆脫、不平衡、錯位與軸承磨損等狀況。例如，把震動計量器接上靠近選煤廠離心泵浦內部承軸處，就可以讓工程師建立起正常震動範圍的基線。超出這個範圍的震動，可能顯示滾珠軸承出現鬆動，需要更換。

磁感測器融合

磁感測器利用磁性浮筒與一系列可以感應並與液體表面一起移動的感測器，測量液面的高低。所有的這些應用都使用一個固定面上的磁感測器，它與附近平面的磁鐵一起作動，與這個磁鐵相對應的感測器也會移動。

聲學分析(聲音)

與震動分析相似，聲測方位分析也是供潤滑技師使用，主要是專注在主動採取潤滑措施。這意味我們可以避免移動設備時產生的過度磨損，否則會為了修理造成代價高昂的停機。實際的例子可能包括測量輸送皮帶的承軸狀況。出現過度磨損時，承軸會因為潤滑不足或錯位出現故障，可能造成整個生產流程的中斷。

聲學分析(超音波)

聲音聲學分析雖然可以用來進行主動與預測性維護，超音波聲學分析卻只能用於預測性維護。它可以在超音波範圍內找出與機器摩擦及壓力相關的聲音，並使用在會發出較細微聲音的電氣設備與機器設備。我們可以說這一類型的分析與震動或油量分析相比，更可以預測即將出現的故障。目前它部署起來比其他種類的預防性維護花費較高，但終端 AI 的進展可以促成這種細微層級的聲學檢測，大幅降低部署的費用。

熱顯影

熱顯影利用紅外線影像來監控互動機器零件的溫度，讓任何異常情況很快變得顯而易見。具備終端 AI 能力的裝置，可以長期檢測微細的變化。與其他對事故敏感的監視器一樣，它們會觸發排程系統，自動採取適當的行動來預防零件故障。

消費者與智慧家庭

將語音運用在消費者與智慧家庭，是最常看到的場景之一。這包括智慧型手機與平板電腦上、未包含電話整合功能的裝置，例如螢幕尺寸有限的穿戴式裝置。這類型的裝置包含智慧手錶與健康穿戴式裝置，可以為各種功能提供免動手的語音啟動。像 Amazon 的 Echo 或 Google 的 Home 等智慧音箱市場的成長，說明消費者對於可接收與提供語音互動等現有裝置的強勁需求，與日俱增。

消費者基於各種理由使用智慧音箱，最常見的使用場景為：

聽音樂；
控制如照明等智慧家庭裝置；
取得新聞與天氣預報的更新；
建立購物與待辦事項清單。

除了像智慧音箱與智慧電視等消費裝置，智慧家庭裝置語音的使用，也顯現相當的潛力。諸如連網門鈴(如 ring.com)等裝置與連網的煙霧偵測器(例如 Nest Protect 煙霧與一氧化碳警報)目前都已上市可供消費者選購，它們結合了語音與視覺的感測器融合功能以及運動檢測。有了連網的煙霧偵測器，裝置在偵測到煙霧或一氧化碳時，可以發出語音警告。

終端 AI 為強化這些能力提供了全新機會，而且常常結合震動(動作)、視覺與語音控制。例如，增加姿態辨識來控制例如電視等家電，或是把語音控制嵌入白色家電，即是以最低成本強化功能性最直接的方式。

健康照護

用來發現醫護資訊的 AI 驅動終端裝置的應用，將為病況的治療與診斷，提供更多的價值。這種資訊可能是資料，也可能是影像、影片以及說出的話，我們可以透過 AI 進行型態與診斷分析。這些資料將引發全新、更有效的治療方法，為整個產業節省成本。受惠於終端 AI 的進展，像 Google Duplex 等語音系統的複雜性將會降低。例如門診預約等勞力密集的工作，也可以轉換成 AI 活動。利用自然語言語音來延伸 AI 的使用，也可以把 AI 用在第一線的病人診斷，然後再由醫師接手提供諮詢。

其他健康照護實例包括像 Wewalk5 等物件，這是一個供半盲與全盲人員使用的智慧拐杖。它使用感測器來檢測胸口水平以上的物件，並搭配 Google Maps 與 Amazon Alexa 等 app，方便使用者提出問題。

結論

由於連網的終端裝置數量越來越多，這個世界也越來越複雜。連接到網際網路的裝置已經超過 300 億個，而微控制器的數量也超過 2,500 億，每年還會增加約 300 億個。越來越多的程序開始進行自動化，不過，把大量資料傳送到雲端涉及的延遲以及邊緣運算的額外費用，意味著許多全新、令人興奮且引人矚目的物聯網使用場景，可能無法開花結果。

解決這些挑戰的答案，並不是為雲端資料中心持續增添運算力。降低出現在邊緣的延遲雖然會有幫助，但不會解決日益分散的世界的所有挑戰。我們需要把智能應用到基礎架構中。

儘管為終端裝置增添先進的運算能力在十年前仍不可行，TinyML 技術近來的提升，已經讓位處相當邊緣的裝置 (也就是終端本身)增添智能的機會大大改觀。在終端增加運算與人工智慧能力，可以讓我們在源頭搜集到更多更具關聯性與相關的資訊。隨著裝置與資料的數量持續攀升，在源頭掌握情境化與具關聯性的資料，具有極大的價值，並將開啟全新的使用場景與營收機會。

終端裝置的機器學習，可以促成全新的終端 AI 世界。新的應用場景正在崛起，甚至跳過傳送大量資料的需求，因而紓解資料傳輸的瓶頸與延遲，並在各種作業環境中創造全新機會。終端 AI 將為我們開啟一個充滿全新機會與應用場景的世界，其中還有很多我們現在想像不到的機會。

附圖：圖1：從集中式到分散式運算的轉變。
(資料來源：《The End of Cloud Computing》，by Peter Levine，Andreessen Horowitz)
圖2：全球上網裝置安裝量。
(資料來源：Strategy Analytics)
圖3：深度學習流程。
圖4：MCU的視覺、震動與語音。
(資料來源：意法半導體)
圖5：AI 工具集執行模型轉換，以便在MCU上執行經最佳化的神經網路推論。
(資料來源：意法半導體)
圖6：物聯網企業對企業應用的使用-目前與未來。
(資料來源：Strategy Analytics)
圖7：促成情境感知的感測器融合。
(資料來源：恩智浦半導體)

資料來源：https://www.eettaiwan.com/20210303nt31-the-dawn-of-endpoint-ai-bringing-compute-closer-to-data/?fbclid=IwAR0JTRpNsJUl-DmSNpfIcymGQpkQaUgXixEaczwDpELxGCaCeJpkTyoqUtI

佈署 IoT Edge 和霧運算技術以開發智慧建築服務

2021年2月19日 星期五

《3S MARKET》這篇報導把物聯網的架構與實作，描寫的非常詳細，雖然在建築的細節上描述不多，但報導中也提及這是個實際驗證，可適用在很多的場域。不知道，有多少人真正看得懂？當然，連這篇都看不懂的人，就別說他真正了解物聯網、Edge 與 Cloud。

事實上這篇報導的描述不難了解，真正物聯網與邊緣運算的挑戰，是在實作。實作真正面臨的，是這些數據處理、融合、分析上的完整度，還有 —— 找到實作的場景！

摘要

基於 SoC 架構的嵌入式系統的進步，使許多商業設備的開發變得足夠強大，足以運行操作系統和複雜的算法。這些設備整合了一組具有連通性、運算能力和成本降低的不同感測器。在這種情況下，物聯網（IoT）的潛力不斷增加，並帶來了其他發展可能性：「事物」現在可以增加數據源附近的運算量；因此，可以在本地系統上，佈署不同的物聯網服務。

這種範例稱為「邊緣運算」，它整合了物聯網技術和雲端運算系統。邊緣運算可以減少感測器與中央數據中心之間，所需的通信頻寬。此方法需要管理感測器、執行器、嵌入式設備，和可能不連續連接到網路的其他資源（例如智慧手機）。這種趨勢對於智慧建築設計非常有吸引力，在智慧建築設計中，必須整合不同的子系統（能源、氣候控制、安全性、舒適性、使用者服務、維護和營運成本）以開發智慧設施。在這項工作中，分析和提出了一種基於邊緣運算範例的智慧服務設計方法。

這種新穎的方法，克服了現有設計中與服務的互操作性，和可伸縮性有關的一些缺點。描述了基於嵌入式設備的實驗架構。能源管理、安全系統、氣候控制和資訊服務，是實施新智慧設施的子系統。

1. 簡介

建築自動化系統使用開放式通信標準和介面，可以整合多種不同的建築控制規則，例如供暖、通風、空調、照明和百葉窗、安全功能和設備。但是，現有建築物通常不具有這些系統。

通常，每種安裝類型都提供特定的服務：供暖通風和空調（HVAC）控制氣候服務，攝影機和感測器提供安全服務等。僅當設計能源管理系統時，不同的子系統相關，但僅透過以下方式，連接建築物的能源管理系統。能源管理服務，集中在專用軟體中。

對於使用者和維護技術人員來說，提供不同服務的不同製造商，發現很難整合新的服務和功能。自動化建築將用於控制和數據採集的軟體，與工業協議和介面整合在一起。此外，將新服務整合到這種解決方案中並不容易，這取決於已安裝軟體的開發。

這些工業發展還為能源管理，提供了雲端連接解決方案和智慧服務。這些服務，也在集中式電腦系統中開發。數據被傳輸到這些系統或雲端進行分析。本文提出使用佈署在物聯網（IoT）技術中的邊緣和霧運算範例，主要有兩個目的：

A. 在自動化和非自動化建築物中，促進新的智慧和可互操作服務的整合（整合）。

B. 允許在建築物的所有子系統之間，分配智慧服務（互操作性）。

透過該建議，可以促進建築物子系統之間的關係。它還促進創建新的智慧服務（例如，新的分佈式智慧控制算法；使用電源管理捕獲的數據，來檢測人類活動；捕獲設備連接的模式辨識，運算可再生電力預測，在安全服務中使用電力數據等）。在這項工作中，我們設計了一個中間軟體的體系結構，該體系結構具有兩個主要層，這些層基於嵌入式設備、IoT 通信協議和硬體支援，來開發人工智慧算法（圖1）。

為了實現這一目標，我們在建築物的設施中添加了兩個概念等級：邊緣節點和霧節點。每個等級都有不同種類的設備和功能。我們佈署並實現了基於層的中間軟體的體系結構，以對模式進行實驗。

本文的組織結構如下：第 2 節回顧了智慧建築技術，建築物中的 IoT 佈署以及邊緣運算範例。第 3 節提出了一種在建築物（自動與否）中佈署邊緣和霧運算範例的方法。第 4 節介紹了進行的實驗。最後，第 5 節介紹了結論和未來的工作。

2. 相關工作

本節介紹與這項工作相關的主要研究領域。首先，我們在分析雲端運算層之後，回顧了基於邊緣運算範例的資源和服務供應。最後，我們研究了實現智慧建築的技術，並在最後的小節中，總結了先前研究的貢獻。

2.1. 邊緣運算資源和服務供應

最近，網路在兩端被標記為「邊緣」和「核心」，以查明處理發生的位置。邊緣端靠近數據源和使用者，核心端由雲端伺服器組成。透過這種方式，邊緣運算範例將運算推送到 IoT 網路的邊緣，以減少數據處理延遲，和發送到雲端的數據數量。基於雲端的後端，可以處理對時間不太敏感，或源設備本身不需要結果的處理請求（例如，物聯網網路狀態下的大數據分析）。

在邊緣運算資源供應方面，正在進行的 Horizo​​n 2020 RECAP 項目，提出了一種整合的雲端 - 邊緣 - 霧端架構，目的在解決應用放置、基礎架構管理和容量供應。雲端/邊緣基礎架構監控功能豐富了應用，基礎架構和工作負載模型，這些模型又被回饋到優化系統中，該系統可以協調應用並持續配置基礎架構。

徐等人進行的研究。 提出了一種用於邊緣運算的實用感知資源分配方法，稱為 Zenith。借助 Zenith，服務提供商可以與邊緣基礎設施提供商，建立資源共享合同，從而允許延遲感知資源調配算法，以滿足其延遲需求的方式，來調度邊緣任務。

邊緣節點資源管理（簡稱 ENORM），是管理邊緣/霧節點資源的框架，可透過監控應用需求，來自動擴展邊緣節點。可以透過靜態優先等級分配，來確定特定應用的優先等級。供應和自動縮放機制，是基於線性搜索的相對簡單的實現。

當源本身是可行動的時，邊緣雲範例也是可行的。 Chen 等人研究了行動設備向邊緣節點（特別是在無線電接入網路邊緣）的智慧運算分流。在這項工作中，作者提供了任務卸載算法，將分佈式運算卸載決策表述，為多使用者運算卸載功能。在同一項工作中，Wang 等人研究了聯合協調卸載任務，到多個邊緣節點的問題，並提出在邊緣等級引入及准入控制，以及兩階段調度方法，與傳統的最近邊緣選擇方法相比，改進了卸載性能。

2.2. 雲端運算服務配置

就社會和行業採用資訊技術而言，雲端運算範例是最具創新性的策略之一。提供的優勢提高了效率，並降低了成本，同時提供了可透過 Internet，普遍存取訪問的按需 IT 資源和服務。

當前，雲端運算服務種類繁多，甚至如何提供，這是一個受到廣泛研究的主題，正在提出許多的方案。甚至有評論總結了雲端運算範例的相關研究。

本小節介紹了有關以下問題的先前工作，這些問題與本手稿的主題有關：（i）安全性； （ii）服務品質（QoS）； （iii）提供邊緣服務。

（i）安全是雲端運算中一個具有挑戰性的問題。雲端服務位於應用環境之外，並且超出了防火牆的保護範圍，因此，需要附加的安全層。另外，邊緣和霧運算應用的行動性和異構性，使得難以定義單個過程。因此，需要一種分佈式安全策略。

此外，必須有一個標準化的環境，才能正確解決此問題，並指定霧運算和邊緣設備，如何相互協作。網路邊緣上的多個霧節點之間的敏感數據通信，需要資源受限的事物的輕量級解決方案。另一個與安全性相關的問題是數據位置。在雲端中運行數據分析是很常見的。因此，關於數據安全或隱私的公有雲與私有雲的爭論就出現了。

（ii）分配給雲端應用的資源，通常是根據合同規定的服務水準協議（SLA）所設置的。但是，實際上，由於偶爾執行大量事務，而導致分配的基礎結構飽和，可能會出現瓶頸。為了解決此問題，可以在資源可用時，動態擴展雲端基礎架構。當前，最具創新性的趨勢，目的在建構自動 SLA 合同合規系統。在 Faniyi 和 Bahsoon，以及 Singh 和 Chana 進行的研究中，可以找到與品質服務管理相關建議的詳盡綜述。考慮到這一點，提出了幾種策略來預測，應用的資源需求和 QoS 的要求。最近的工作試圖將安全性和 QoS 問題結合起來，以提供全面的性能指標。

（iii）最後，濫用雲端服務，是該領域的另一個問題。物聯網環境是霧和邊緣設備不斷加入或離開，動態的執行前後關聯。因此必須在網路邊緣提供彈性的服務。為此，在網路的可用設備之間，共享應用工作負載，可以為高階運算應用提供靈活性。提出了可靠的服務供應方法，來為系統提供更高的彈性，並提供靈活和優化的雲端服務。

在本主題中，將雲端框架和中間軟體技術，設置為與雲端層，以及具有不同介面操作系統，和體系結構的設備之間，進行通信的平台。

2.3. 物聯網在建築服務工程中

物聯網開發為在建築物上，開發數位服務提供了新資源。建築物中常見的物聯網應用，包括節能的過程環節、維護改進、雜務自動化和增強安全性。由於全球變暖，建築物的節能是一個重要的課題。

物聯網技術引入智慧建築，不僅可以減少本地溫室氣體排放，還可以將減少溫室效應擴大到更大的領域。目前，物聯網還被用於建築領域，以協助設施管理。物聯網使營運系統能夠提供更準確和更有用的資訊，從而改善營運，並為房客租戶提供最佳體驗。有基於物聯網的建議，這些建議顯示建築系統，如何與雲端進行通信，並分析所獲取的數據，以開發新的業務見解，從而能夠推動真正的增值和更高的績效。

實驗研究顯示，物聯網平台不僅可以改善，工業能源管理系統中實體的互連性，而且可以降低工業設施的能源成本。 FacilitiesNet 表示，建築物聯網（BIoT）正在推動我們獲取資訊，彼此互動和做出決策的方式發生重大轉變。BIoT 不僅與連接性或設備數量有關，而且還與交付實際和相關結果有關。當前，有很多基於物聯網的智慧家庭應用的例子。

然而，智慧設備或「物」，僅僅是連接到網路的設備或嵌入式系統。增值來自設計協調系統，和提供智慧服務，以提供實際收益的能力。這些特徵基本上，取決於對不同類型連接事物的異質性，及其互操作性的管理，並取決於數據處理提供的情報潛力。

Tolga 和 Esra 進行的研究得出的結論是，就智慧家庭系統中的軟體和硬體而言，物聯網技術尚未變得穩定。原因之一，有可能是物聯網技術仍處於發展階段。McEIhannon 所撰寫有關物聯網應用的邊緣雲和邊緣運算的未來，其評論得出了類似的結論。這篇評論提到概念和發展，目前還處於早期階段，從學術和行業的角度來看，許多挑戰都需要解決。

物聯網帶來了新的機會，但許多企業仍在尋求了解和分析，其將如何影響，並與現有的 IT 結構和管理策略整合。為此，必須創建專門的使用模式和技術，來彌合這一差距。

2.4. 發現

以下結論闡明了這項研究建議的新穎之處：

雲端運算作為「實用」的一般概念，非常適合智慧家庭應用的常規需求。但是，在某些情況下，將所有運算都移到雲端中，是不切實際的。

邊緣計算作為一種計算範例而出現，可以在物聯網設備生成的數據附近執行計算。這種範例可能有助於滿足最新應用的安全性和 QoS 的要求。

當前，控制子系統的高級建築設施，通常使用 Internet、IoT 協議和 Web 服務。專有系統是使用標準的 Internet 通信協議設計的，用於管制和監控。先前的工作顯示，基於無線感測器網路、Web 介面和工業控制模式，用於氣候控制、電源管理或安全性的控制系統，使用不同的監視和控制技術。監控應用分析，得自監控和數據採集系統中的這些子系統。對於不同的子系統，有不同的解決方案。考慮到上述情況，本工作中提出的模式，引入了以下新穎元素：

A. 介紹了一種分層架構（整合了邊緣和霧端等級），以及提供子系統之間互操作性，以及在建築物控制中開發智慧服務的方法，該方法使用了邊緣和霧端範例，這些範例將 IoT 協議整合在一起，並在本地 Intranet 中操作 AI 技術，讓雲端服務的通信層，完善了該層的架構。

B. 介紹了一種基於使用者為中心的方法，用於在互操作性需求下設計、驗證和改進新服務。

C. 該提案允許使用可以在已建的建築物中，實施的非專有硬體和軟體系統。

3. 計算模式設計

建築物中的設施子系統分為有照明、氣候、能源、安全、警報、電梯等。在自動化建築中，這些子系統由專門的控制技術控制和監控。在非自動化建築物中，不存在這些服務，並且子系統透過電子和電氣方式進行控制。在這兩種情況下，所有子系統都為建築營運，提供必要的服務。

從邏輯上講，每個子系統都在其場景中起作用，並且不能與其他子系統互操作。嵌入式電子控制器和連接的不同感測器，可以使每個子系統自動化。這些服務都是基於直接反應性控制規則。除了嵌入式控制系統和感測器之外，通信技術（基於 Internet 協議）和新的行動設備還為開發管制、監控和數據訪問服務，提供了新的可能性。

在智慧型動設備上開發，並連接到 Web 伺服器的人機介面和專用應用，是近年來已實現的服務的範例。每個子系統中的專家（氣候、安全性、電源等），都具有可以轉換為專家規則的知識。這些規則被轉換為用於管理、維護、控制、優化和其他活動的控制算法。這些規則是可以，在可程式設備上編程和實現的。但是，它們是靜態的，不會在出現新情況時發生變化，並且不能互操作，也無法適應每個安裝的特性。

例如，氣候或安全專家決定，如何使用標準啟動條件，來配置每個子系統。每個控制規則僅在一個子系統（此範例中為氣候或安全性）中工作，因此，這些子系統之間沒有互操作性。考慮到這種情況，提出的模式有助於並允許，基於不同子系統的互操作性，來整合新的數位服務，並將人工智慧（AI）技術的新服務，引入當前設施。

例如，諸如電梯控制的設施，可以用於安全服務或建築能源管理服務。氣候控制設施，可以與安全子系統整合在一起。整合到模式中的天氣預報軟體系統，可以由能源管理服務，或建築物空調服務使用。

目的是讓每個子系統中的專家，參與設計整合服務，並將所有子系統轉換為可互操作的系統。該模式會開發自動規則，並允許在考慮安裝行為本身的情況下進行決策。該模式基於一個過程，該過程包括四個開發階段（圖2）和分為不同級別的硬體 - 軟體體系結構（圖3）。該體系結構的主要等級，是邊緣等級和霧等級。這兩個層次介紹了在建築物中，應用物聯網技術的新穎性。下面介紹了模式的各個階段（分析、設計、實施和啟動）。

．分析：在此階段確定了不同的專家使用者（氣候、安全、電力、水、能源、管理人員，以及資訊和通信技術（ICT）技術人員）。諮詢專家使用者，以指定需要控制的主要過程。資訊通信技術專家作為整合環節，參與了這一過程。第一種方法產生了設計控制規則，和潛在服務所需的事物（對象）。在此階段，使用以使用者為中心的方法，並捕獲子系統的需求。

．設計：我們提出了一個三層架構（邊緣、霧端和雲端），如圖 3 所示。

．實施和數據分析：在此階段中已安裝和整合了子系統。服務基於每個子系統中的規則，分析事物（對象）生成的數據，以設計基於機器學習的服務。

．啟動：最初，在每個子系統的監督下制訂專家規則。然後，使用回饋過程安裝規則。最後，透過人工智慧技術，可以推斷出自動的和經過調整的規則。

3.1. 分析與設計

專家使用者對此過程，進行不同的審查。以使用者為中心的技術，用於設計整合流程。目的是獲得所需的所有事物（對象），它們之間的關係，以及潛在的服務。一旦指定了事物（對象）和服務，就必須關聯通信協議和控制技術。選擇了物聯網協議和嵌入式控制器；提出了人機介面；指定了邊緣層和霧層及其功能；分析專家規則和智慧服務。最後，提出了維護和操作方法。所有這些任務在專家技術人員，和資訊技術專家之間共享。

結果是事物的定義，它們之間的關係，以及與邊緣和霧層的交互作用。該過程中代表了建築物的所有子系統，數據感測器、執行器、控制器、規則和過程經過設計，可以整合所有子系統。數據集、對象和設備，由物聯網概念表示。事物由具有狀態和配置數據的實體，和前後關聯組成。事物數據位於霧和邊緣節點中，儲存的不同配置中的關聯性。

事物以數據向量表示：[ID、類型、節點、前後關聯情境]。

– ID是辨識碼。

– 類型可以是感測器、執行器、變量、過程、設備、介面、數據儲存，或可以在 IoT 生態系統中寫入、處理、通信、儲存或讀取數據的任何對象。

– 節點指定建築物子系統、功能描述、層類型（邊緣、霧端、通信或雲端）、IoT 協議和時程存取訪問。

– 前後關聯表示在 IoT 生態系統中，用於發布或讀取數據的時間、日期、位置，與其他事物的關係、狀態和訪問頻率。

表 1 是由事物（[ID、類型、節點]）。所有事物都可以訪問配置文件（CF），以了解如何使用可用數據，以及如何使用適當的訪問權限配置新數據。前後關聯數據位於內建記憶體，或是靜態儲存。使用定義的事物，設計不同的控制規則。這些控制規則是分佈在連接到網路的不同嵌入式系統中，控制過程的一部分。事物表示佈署在安裝的不同子系統中，所有的可用資源。在此等級上，設計師對所有事物進行分析、指定和關聯。基本控制算法是使用此資訊實現的。配置關聯性允許層和設備之間，所有事物的互操作性。

在此階段的另一級設計，必須提出物聯網管理中，使用的節點要求和規範。設計的流程和服務，將在邊緣或模糊節點中實施。必須指定每個節點，以確定其內部功能、通信及其服務。在獲取數據的地方，開發了智慧和處理能力。邊緣和霧層的節點，位於數據感測器、執行器和控制器附近。本文提出的方法，使用具有兩個功能的兩層（邊緣和霧端）。每一層都可以佈署互連節點的網路，以促進互操作性。

邊緣和霧層的功能是：

邊緣層功能：在連接感測器/執行器的嵌入式設備上，開發的控制軟體。某些 AI 算法可以安裝在邊緣節點上。中央處理器（CPU）和計算資源有限。安裝了通信介面，以允許在本地網路中進行整合。

霧層功能：局域網級別的通信、AI 範例、儲存、配置關聯性和監控活動。霧節點透過處理、通信和儲存，來處理 IoT 的Gateway、伺服器設備，或其他設備中的數據。在此等級實施本地、全球的整合服務。利用這些節點的硬體、軟體和通信功能，開發了基於機器學習範例的算法。霧層設備還可以在很少單位的設施或服務中，執行邊緣節點功能。

透過這兩個等級，可以優化建築設施，以獲得不同子系統之間的整合和互操作性。

表 1 顯示了每件事與關聯性配置，和節點規範的關係。節點標識其所屬的子系統（控制、能源、氣候等），層（霧端、邊緣、通信和雲端）及其執行的功能。

3.2. 架構設計

在分析和設計階段，獲得對象（事物）及其關係。規範和要求用於實現每個層。實施取決於提供所需功能的設計，和現有技術（硬體、通信和軟體）。在此階段，開發了一種適合現有設施的體系結構。物聯網協議提供互操作性，而 AI 範例則提供了適應性和優化性。邊緣運算節點用於控制設備，霧運算節點安裝在本地網路節點上。這些等級為配置、安裝和運行新流程，提供了強大的資源。

物聯網協議，傳達所有子系統數據。每個子系統由對象/事物（虛擬等級）組成，安裝為可連接的感測器/執行器/控制器設備（硬體等級）。

物聯網通信中，針對建築場景建立的要求是：標準協議、低功耗、易於存取訪問和維護、支援整合新模組，非專有硬體或軟體，以及低成本設備。

MQTT 協議，是目的在用於提供整合和互操作性資源，異構通信場景的主要物聯網協議之一。該協議被提議作為感測器、執行器、控制器、通信設備，和子系統之間的通信範例。

MQTT 協議的一些主要功能，在不同的著作中有所顯示，這使其特別適合於這項研究。他們之中有一些是：

．它是針對資源受限的場景開發的發布 - 訂閱消息協議。

．它具有低頻寬要求。

．這是一個非常節能的協議。

．編程資源非常簡單，使其特別適合於嵌入式設備。

．具有三個 QoS 等級，它提供了可靠和安全的通信。

MQTT 開發了無所不在的網路，該網路支持 n-m 節點通信模式。任何節點都可以查詢其他節點，並對其進行查詢。在這些情況下，任何節點都可以充當基地台的角色，能夠將其資訊傳輸到遠端處理位置。無處不在的感測器網路（USN）中的節點，可以處理本地數據。如果使用 Gateway，則它們具有全局可訪問性；他們可以提供擴展服務。

節點（邊緣或霧），可以具有本地和全局存取訪問權限。這些設施具有不同的可能性和益處。本地數據處理，對於基本過程控制是必需的，而全局處理則可用於模式檢測和資訊生成。從這個意義上講，擬議的平台使用了組合功能：連接到 IoT 雲端服務，本地網路區域上不同的 USN。在這種情況下，運算層（邊緣或模糊等級）將用作控制流程和雲端服務之間的介面。該層可以在與雲端進行通信之前，進行處理數據。

實現邊緣和霧端運算節點需要執行三個操作：

．連接和通信服務：所有設備必須在同一網路中，並且可以互操作。所有感測器和執行器都可用於開發服務。此活動的一個示例，是在 Internet 上遠端讀取建築物的電源參數、環境條件和開放的天氣預報數據。此活動中應實現其他功能，例如連接的安全性、可靠性和互操作性。

．嵌入式設備（邊緣運算層）中的控制算法和數據處理：在此活動中，這些設備中實現的基本控制規則和數據分析服務，可以開發新功能。此階段可以應用於數據過濾、運算氣候數據或分析功耗、直接反應控製，或使用模式辨識技術檢測事件。

．Gateway 節點（霧運算層）上的高階服務：此等級使用和管理 AI 範例，和 IoT 通信協議。霧運算節點對數據執行智慧分析，對其進行儲存，過濾並將其傳遞到不同等級，以糾正較低級別的新控制措施，或者生成雲端中服務感興趣的資訊。此階段的應用示例，包括分析新模式、預測用水量，或功耗、智慧檢測和其他預測服務。

3.3. 測試與回饋

在測試階段使用標準方法，邊緣和霧層提供不同的功能。提出了針對不同子系統的機器學習模式，並且可以將其安裝在邊緣或霧節點上。必須執行以下操作，來測試機器學習應用：

A. 定義和捕獲數據集：必須辨識、捕獲和儲存主要變量。在不同的建築子系統中，過程數據集是由連接到邊緣層的感測器捕獲的數據。使用通信協議監控和儲存數據集。一個案例是電表，該電表在配電盤中連接到嵌入式設備（邊緣節點），該嵌入式設備傳送電力數據，以在霧節點設備中儲存和處理。

B. 訓練數據集和形式辨識模式。先前數據集的一個子集，用於訓練不同的模式。評估針對從未用於訓練的數據測試模式，此過程的結果已由專家使用者驗證。目的是獲得一組代表性的結果，以了解模式在現實世界中的表現。

C. 實際場景中的驗證：必須在邊緣和霧節點上，實施新的服務和控制算法。這些模式具有用於分析數據，實施特定模式，並使用結果開發最佳參數的算法。在此階段，可以修改或進行改善模式。

D. 用統計術語和模式演變，得出測試結果：基於 AI 算法的模式而將產生近似值，而不是精確的結果。分析應用結果以確定置信度，並允許模式演化。該活動支持開發新的 AI 服務，或對已實現的算法進行修改。有監督的自動更改，是維護和改進系統的過程。此階段的過程，包括所有模式層。

建議對使用邊緣和霧，任何的安裝進行這些活動。如前所述，該模式既可以安裝在既有舊的建築物中，也可以安裝在新建築物中。對於新建築設計，基於建議模式的安裝更易於整合。此外，可以提供的服務的潛力，也使其對於既有建築物具有吸引力。

4.在建築子系統中，實施智慧服務

該模式在預先存在的住宅建築物上，進行了測試。設計和實施電源管理、管制和監控服務。物聯網協議（MQTT 和 HTTP）和 ML 範例，用於建議的層體系結構。基於 KNN 的機器學習方法，和樹決策算法用於管理功耗（家用電器），和可再生能源發電（風能和太陽能）。使用房屋中的霧節點，在雲端平台上實現監控和統計數據。該節點連接到控制可再生，和家用電器子系統的不同邊緣節點。

在圖 6 中，邊緣節點，整合在先前安裝的可再生子系統中。透過邊緣層上的這種新設備、電源管理、安全控制和操作流程得以整合，並且可以與其他子系統互操作。可以設計新的智慧服務。邊緣節點將數據傳輸到霧節點 Gateway，該 Gateway 管理功耗和發電，並控製家用電器。該節點中的輸入，是可再生能源發電的數據。輸出控件是 ON-OFF 開關，用於優化發電、安全性和操作。

4.1. 分析與設計

分析了住宅建築，以設計電源管理，安全和控制服務。 在第一種方法中，所需的主要事物（對象），它們之間的關係和不同的服務，如表 2 所示。

4.2. 執行

分析房屋中的建築子系統，以整合這個執行模式層：邊緣控制、霧服務，與雲端的通信和雲端服務。 選擇了本實驗工作中使用的感測器、執行器和控制過程（事物）。 表 3 列出了使用的嵌入式設備。

家庭服務中的控制過程，需要反應時間和互操作性。人機介面、數據存取訪問和分析服務，是本地和雲端運算上的服務。上面提到的兩個需求，都使用不同的協議處理：控制/通信上的 MQTT，和雲端服務上的 HTTP（RESTful API）是用於整合，並使所有子系統互操作的 IoT 協議。在提出的該層模式中，還使用 MQTT 協議、控制、數據處理，以及使用 RESTful 協議，到雲端的數據通信，來開發機器對機器（M2M）應用。

MQTT 使用開放的消息協議，該協議可以將遙測樣式的數據（即在遠端位置收集的測量結果），以消息的形式，從設備和感測器，沿著不可靠或受約束的網路傳輸，到伺服器（BROKER）。消息是簡單、緊湊的二進制數據包，有效載荷（壓縮的標頭，比超連結傳輸協議（HTTP）少得多的詳細資訊），並且非常適合推送簡單的消息傳遞方案，例如溫度更新或移動通知。例如，消息也可以很好地用於，將受約束的或更小的設備，和感測器連接到 Web 服務。

MQTT 通信協議，使所有對象可以互操作。透過此協議實現的發布者和訂閱者模式，可以互連所有設備和事物。該通信層由安裝在霧節點上的代理設備管理。不同的發布者和訂閱者，在不同的節點上實現。安裝了一個 Gateway 設備（霧節點）和兩個嵌入式控制器（邊緣節點），來控製家用電器和電源管理。事物和流程佈署在所有節點上。

邊緣節點控制子系統，霧節點根據決策樹，以及專家定義的規則，實現 AI 範例。霧設備將數據傳輸到雲端平台，以開發儀表板螢幕，來監看子系統的狀態。

可以開發新的雲端平台服務：事件檢測、機器學習處理、統計分析等。專家使用者設計基本的控制算法。在學習和訓練過程之後，將根據專家系統的結果，對這些算法進行調整和修改。在這項工作中，目標是在不損失生產力的情況下優化資源（控制和能源）。在邊緣或霧節點中，執行不同的控製過程；分類過程和決策樹在霧節點中實現。算法以 Python 語言實現。此語言的開源庫用於不同的應用。

4.3. 佈署與測試

對於現有建築物，邊緣節點交錯插入已安裝的控制器、配電板，以及感測器和執行器中。如果在分析階段指定了新的東西（電錶、氣候和控制器），則會安裝一些新的感測器/執行器。這項工作中佈署的邊緣節點具有以下優點：

．請勿干擾先前的安裝操作。

．他們使用新的專家規則和自動規則，引入新控件。

．他們測試和重新配置，在分析、學習和測試驗證中，設計更新的專家規則。


圖 7. 佈署在配電盤中的節點。 使用 IoT 協議通信，在不同節點中開發數據捕獲、控制算法、數據分析、儲存和通信服務

在電力管理過程中，專家使用者根據電力消耗、發電量、消耗負荷曲線、氣候數據和氣候預測數據，對具有選定流程的時間表，進行可程式處理。邊緣節點捕獲數據，並將其發送到霧節點。

霧節點處理室內和室外環境的日記數據，以及天氣狀況。霧節點還可以捕獲其他感測器數據。對房屋中的這些數據消耗和生成方式，進行檢測和分類。消費和發電結果，作為數據添加，以便與儲存的數據一起進行分析。可以使用機器學習方法開發，作為家用電器或人類活動檢測的智慧服務（圖8）。

4.3.1. 機器學習：數據捕獲過程（邊緣節點）和家用電器分類（霧節點）

連接在主配電盤中的電表，用於捕獲數據，並使用標準的 K 近似值，最近鄰（KNN）分類算法，來開發形式辨識模式。 KNN 是機器學習系統中最常見的方法之一。電表捕獲電流；如果連接了新的家用電器，則電流數據會更改。不同的家用電器具有不同的變化等級。

用於辨識家用電器的不同模式的主要變量，是連接時的電流水準差異。數據捕獲過程流程圖（圖9），顯示了在邊緣節點中實現的算法，以捕獲預處理並傳遞電力數據。

在此過程中，監督階段使用訓練數據集。接下來，真實場景中的驗證，將測試分類模式。家用分類設備將用於不同的服務：人類活動的辨識、負載控制、可再生能源管理、空調、安全性等。在訓練階段，已捕獲了不同的家用電器開機，以獲得一組形式。每個家庭都有一個矩心向量，將用於分類過程中的檢測。如上面所示的算法所示，分類器處理將產生連接時的電流數據作為輸入。KNN 分類過程流程圖（圖10）描述了 KNN 方法，它在霧節點中實現。

4.3.2. 可再生電源管理。控制電力自耗的決策樹

每個建築物都有不同的需求曲線，以及在接入電網方面的特定情況。為此，整合和可互操作的設施，可以實施適用於每種情況的不同解決方案，從而提供對太陽風資源的最佳管理，優化電源效率，簡化管理流程，並實現最高的成本節省。當可再生能源超過消耗的能源時，在使用 AC 耦合到電網的設施中，會出現問題。

在實驗工作中，太陽能在一天的中央時段的能量，大於所消耗的能量（圖11）。但是，在分析了消耗曲線之後，可以在這段時間內連接負載，以避免注入電網。可以透過設計一種算法，來滿足這一要求，該算法可以預測，何時發生此事件，以自動連接不同的負載。利用所有感測器和執行器的整合，和互操作通信，已經開發了在不同節點中，所實現的算法（圖12）。

13. 在電源管理子系統上開發的決策樹。 它由專業使用者設計，並整合在邊緣節點上。該決策樹的目的，在優化可再生能源的使用。

4.3.3. 基於 Edge 和 Fog 節點的 Control Home

圖 14 顯示了安裝在住宅房間中的邊緣節點。 該節點可以控制四個設備（設備），並捕獲感測器數據（功耗、發電量、溫度、濕度等）。該設備可以使用 MQTT 協議進行通信。該協議允許設備之間，進行其他類型的通信：智慧手機、新邊緣節點等。圖 7 和圖 14 顯示了可以在其他建築物中，佈署的標準實現。在所有系統中，都有配電板，這些配電盤佈署了霧節點和邊緣節點，如圖所示。

4.3.4. 使用物聯網協議的雲端服務

雲端服務可以監控，透過霧節點或人機介面（HMI）訪問的數據。 IoT 協議（MQTT）從任何已連接 Internet 的設備推送數據。事件檢測、儲存統計分析等其他服務，完善了該資源的功能。提供類似服務的不同平台，顯示了商用物聯網技術的狀態：Amazon IoT、Microsoft Azure、Ubidots 和 Thingspeak，是提供 IoT 平台的公司一些案例。提供了資源以及客戶端，和 IoT 平台之間的應用程式介面（API）通信，以便可以使用它們。

用於設計儀表板監控和管制的 HMI 資源，是這些平台上的主要實用功能之一。霧節點使用雲端 API 傳達數據和資訊，可以實施其他控制服務。在這些雲端平台上，預先建構了用於監控數據的儀表板設計。使用 API​​ 實用功能，霧節點中的過程處理，會將數據發送到每個儀表板。API 文件指定了在設備、IoT 平台和 Mobile-Alerts Cloud 之間，交換數據的結構，以及用於加速項目的代碼案例和形成資料庫。

圖 15 顯示了在 Ubidots 雲平台上，設計的儀表板。Ubidots是本實驗工作中使用的物聯網平台。該模式可以在實現這些協議的層，和平台中使用不同的標準協議。圖 16 顯示了在雲端平台中，IF 變量 THEN 動作的事件配置。大多數物聯網平台，都提供此功能。

5. 結論

為了設計物聯網系統，越來越多地提出邊緣霧模式。但是，每個範例都提供特定應用領域的解決方案。不同子系統之間的整合和互操作性，可以改善這種情況，並提供更好的服務。這項工作的主要目的，是透過提出一種基於邊緣層和霧層，兩層體系結構的運算模式，來解決這個問題。透過這兩層，可以基於使用邊緣或霧節點中，嵌入式的設備捕獲數據所產生的新型有用資訊，來設計和開發新服務。這些節點使用雲端平台和 IoT 協議（例如 MQTT）。

MQTT 是作為不同層（霧 – 邊緣 – 雲）之間提出的通信協議，並進行實驗的。雲端平台用於開發儀表板的面板資訊和 Internet 上的新服務，例如控制、儲存和通信事件。該平台可用於透過 API，交付不同的服務。

該模式可以在現有建築物和新建築物中，開發這些服務。在這種情況下，要求每個子系統中的專家和專業人員，參與新服務的設計。

為了測試該模式的功能，並顯示如何在實際設施中，實現該模式，在住宅中進行了一項實驗性工作。在此霧和邊緣節點前後關聯中，描述了實現的幾個範例。開發了模式辨識和決策樹方法，以展示人工智慧在設計 IoT 解決方案中的潛力。已安裝服務的結果顯示，邊緣和霧節點佈署，產生了預期中整合和互操作性的好處。

提出的工作演示了，如何將邊緣和霧範例，整合到可以增強其優勢的新架構中，從而擴展了應用領域。該體系結構的主要科學貢獻，是整合、技術的互操作性，及其為開發 AI 服務提供的設施的範例。所有這些改進，都在已開發的實驗的不同示例中顯示。具體的優化和改進，將在以後的工作中進行。此外，使用機器學習平台，和 AI 範例的新控制規則，將確保可以創建和改進新的智慧服務。

附圖：圖1.自動建構子系統和資訊技術環境。
圖2.基於使用者為中心關係的模式。
圖3.通信架構。 每個等級都有不同的功能。 提出了兩個通信等級：IoT（使用消息隊列遙測傳輸（MQTT））和 Web（使用代表性狀態傳輸（REST）協議）。這些協議的層，涵蓋了已建立的整合和互操作性要求。
圖4. 在建築物的現有設施上實施的邊緣霧架構示例：邊緣節點是較低的層次，必須與安裝的設備進行新連接。互連所有子系統的霧節點，是透過整合連接到邊緣節點的新設備來實現的。邊緣和霧節點，可以佈署在所有建築物子系統中。
圖5. 住宅建築中的第一個實驗工作。
圖6. 整合在先前安裝的可再生子系統中，邊緣節點的示例。 該節點可以使用新算法控制 ON-OFF 開關，以管理發電過程，以及通信和監控電源數據。
表1.事物示例描述。寫入 ID、類型和節點數據，以配置 XML 文件。配置關聯性儲存在霧節點中。
表 2. 實驗工作中的分析和設計要求。
表 3. 實驗室內使用的嵌入式設備。
圖 7 顯示了分佈在配電板上的節點（邊緣和霧狀）。在此節點中，設計並安裝了功率計、ON-OFF 開關控件和 AI 服務。
圖 8. 佈署的智慧電源功能。在霧節點中實施的分類過程，可用於檢測電連接和人類活動。可以使用 IoT 通信實現其他服務
圖9. 邊緣節點中捕獲，並預處理的用電量數據；MQTT 協議用於通信數據。另外，其他節點可以使用捕獲的數據，來提供其他智慧服務，佈署了整合和互操作性。
圖10. 分類過程。處理捕獲的電數據以檢測家用電器連接。可以使用 IoT 協議整合，來設計其他智慧服務。
圖11. 該圖顯示了實驗工作中的消耗和生產數據。 在自儲存的電力自備設施中，沒有儲存並且沒有注入電網，所產生的能量必須即時使用，並且不得超過所消耗的能量。 能源經理必須預測此事件，並提前連接電荷。
圖 12. 用電自耗設施中的可再生電源管理。
圖 13 是在電源管理子系統中，開發的算法的示例。 可以在邊緣節點上安裝此過程。該節點獲取氣候數據預測，並預測系統是否可以在不儲存的情況下，使用可再生能源。
圖14. 佈署的邊緣節點。該節點可以使用新算法，控制 ON-OFF 開關，並可以在每個房間或建築物中，通信和監控感測器數據。
圖 15. 在雲平台上配置的儀表板。顯示了風力發電數據和預測風力。
圖 16. 在雲端平台上配置事件的儀表板：IF 事件 THEN 動作。 該服務顯示了，如何使用雲端訪問來控制設施。與霧節點的 Internet 通信，可以控制建築物中的不同子系統，並使用電子郵件，SMS 或其他 Internet 服務來通報事件。

資料來源：https://3smarket-info.blogspot.com/2021/02/iot-edge.html?m=1&fbclid=IwAR0uijX5WdNrfzmGjVsakFGaEsWivPgyH1zumxVr7fwvvgqtdFFTI6jJXS8