【散熱劃時代革命-液冷散熱】
時間：2021/8/1
發文：NO.1287篇
大家好，我是 LEO
.
❖晶片效能越強-解熱難度越高
隨著半導體晶片發展-體積越來越小，電晶體密度越來越高，逐漸朝向高性能，超薄，微型化發展，電子元件散熱的空間越來越小，單位面積內所產生的熱能卻越來越高，無論是手機、電腦發熱發熱密度皆呈現指數級增長，此外，加密貨幣挖礦場，大型伺服器與資料中心，高階CPU、GPU產生的熱能更為驚人，如果熱能不能快速有效散出，輕則影響效能，嚴重會導致電腦或手機產生「電子遷移效應」，導致當機無法工作。
.
❖台積電未雨綢繆超前部署
今年7月台積電在超大型積體電路 (VLSI) 研討會，展示晶片水冷研究結果，採用水通道直接引導到晶片，藉此提高晶片散熱效率。聽起來覺得不可思議，為什麼突然做這項研究？傳統晶片散熱-在晶片上塗導熱矽脂，將熱量傳到散熱器底部，導熱管、水冷管再將熱量導到鰭片，最後風扇將鰭片的熱量吹走，完成散熱。
.
但是，若未來晶片採用 3D 堆疊技術，最新的SoIC先進封裝可以任意組合各種不同製程的晶片，除了記憶體甚至還能直接將感測器一起封裝在同一顆晶片裡面，線路的密度將是2.5D的1000倍，散熱就會遇到大瓶頸。
.
3D堆疊晶片設計更複雜，更小的微縮製程，把晶片一層一層的堆疊起來，中間部分難以有效散熱，所以台積電的研究人員認為，解決方法就是讓水在夾層電路間流動，讓水直接從晶片內帶走熱量，這是最有效的方案，這裡指的水並非一般純水，而是不會導電的介電液，實際上操作起來非常複雜且昂貴，目前處於研究階段，這顯示出解決晶片散熱問題，將是半導體產業未來重要發展趨勢之一。
.
❖晶片改朝換代推動-伺服器新設計
我們從上面描述可以知道新晶片設計只會更小，更複雜，更熱，而伺服器產業面臨的問題會更大，試想大型資料處理中心，裡面有多少伺服器？多少高階CPU、GPU都是24小時不斷電持續運作，龐大的熱能如何處理？當處理器的瓦數越來越高，一般來說，處理器的熱設計功耗超過240W就很難用風扇(氣冷)來解決，偏偏霸主Intel或是AMD新一代處理器動輒超過270甚至280W，現在馬上面臨到需要液冷散熱來帶走熱量。
.
❖跟著產業霸主的方向走準沒錯
Intel在伺服器市場，主流解決方案以x86架構為主，全球 CPU市占率約 92%左右。未來Intel 仍將保持產業龍頭的地位，圍繞它的 CPU平台的升級仍是影響伺服器硬體產業鏈周期性變化的關鍵因素。
.
2021 年第一季開始Intel最新的 Whitley Ice Lake 的處理器已向資料中心業者小量出貨，第二季開始放量，到第四季預估將占總出貨量的 40%，滲透率將大幅且快速提升，下一步，Intel英特爾預計 2022 年初量產支援 PCIe Gen5 的 Eagle Stream 平台，將會加速升級資料傳輸速度。
.
❖英特爾正式將水冷散熱放進白皮書
有趣的事情來了，產業龍頭也意識到新平台-散熱問題非常棘手，2020年Whitley平台是intel「首度」將水冷頭(注意：非浸沒式)納入技術白皮書，更誇張的事情是未來的新平台 Eagle Stream第一顆CPU Sapphire Rapids至少 300W以上，甚至將來很多GPU會達到500瓦甚至700W以上，水冷散熱方案成為唯一解方，冷卻液監控主機(CDU)與水冷頭(覆蓋在處理器上方的水冷散熱片)全世界只有三家廠商通過Intel認證，台灣的廣運(6125)是唯一兩項全拿的合格供應商。
.
❖節能減碳-省電又可以賺積分
歐盟在7月剛通過55套案，其中碳邊境調整機制，又稱碳關稅，預計自2023年起試行，2026年正式實施，先從鋼鐵、電力等產業先行，但是用電大戶的資料中心無法置身事外，跟大家分享一個數字會比較有概念，2017年中國數據中心總耗電量為1200-1300億KW，超過三峽大壩與葛洲壩電廠2017年全年發電量總和(分別為976億KW、190億KW)，占中國總發電量的2%，到了2025年資料中心耗電將高達 3842億KW，占全中國總發電量的 6%，這隻吃電怪獸肯定會被盯上，高排碳業者會被課較高關稅(碳關稅)，將進一步帶動資料中心業者積極導入液冷散熱達到「省電」與「節能減碳」的效果，甚至有望仿效電動車Tesla透過碳積分來挹注獲利，可望大幅提高液冷散熱滲透率。
.
❖水冷散熱技術門檻高-不簡單
2021年3月26日雲端資料中心伺服器開發商---緯穎科技宣佈，參與資料中心液冷廠商LiquidStack的A輪融資，並取得一席董事席位，其實早在2019年緯穎就與3M合作開發液冷方案，但是3M的電子氟化液是非導電-介電液是一種專利配方，掌握在3M手中，未來耗材都需向3M購買補充，入股LiquidStack可望取得自主技術。
.
大家知道這種-不導電的「介電液」有多貴嗎？1公斤要價100美元，一個180KW的機櫃光是介電液裝滿就要價1000萬，重點是這個介電液每年都會耗損，需要定時補充，這樣就知道賣水的概念有恐怖、有多賺了吧，得介電液者得天下。
就算目前短期重點放在一般的「冷卻水」，得到英特爾認證的兩款冷卻水，一個櫃的成本大約7~8萬元，廣運集團研發成功的介電液打七折賣，一公斤70美元就相當有競爭力，而冷卻水一個櫃更只需要8000元，重點是水要通過認證，水在管線裡面跑如何恆久不變質？裡面還必須添加抗凍劑、苔癬抑制劑等特殊配方，是不是很多眉角！這些都是LEO深入研究去挖出來的。
.
❖廣運(6125)上中下游整套系統全部整合
目前有三大產品線，水冷背門(20~25萬)/櫃，水冷頭(100~150萬)/櫃-目前英特爾首度放入新平台技術白皮書，已通過Intel認證，浸沒式機櫃(1000萬)/櫃，此外還有最重要的冷卻液監控主機(CDU)它是水冷散熱技術的根源，還有各種耗材、管線、冷卻水、介電液都是未來的發展重點。
.
傳統散熱模組雖然便宜，一個42U的機櫃，風扇加散熱模組成本頂多台幣8~10萬，但將來水冷變成剛性需求，水冷頭機櫃，水對氣120~150萬/櫃，水對水90~120萬/櫃，全球的資料中心大約有 500萬櫃，每年新增30萬櫃左右，大家可以算看看，這產值增速有多恐怖。
.
目前全世界只有2家公司有能力量產伺服器等級水冷頭機櫃，雙鴻、超眾這些傳統大廠要跨入最難的CDU(水冷監控主機)至少需要5年以上的參數與經驗值，而廣運的陳總已經深耕30年的散熱產業經驗，水冷頭機櫃的五大關鍵零件--廣運擁有四項(CDU、水冷頭、分岐管、制冷背門)盲插或快接頭，這個產業很新，很多法人也還沒那麼了解，有很多眉角，很多技術秘密，篇幅有限今天LEO就先介紹的這邊。
.
如果大家想知道更多關於這個新的「水冷散熱產業」訊息，請鎖定 LEO股民當家團隊的頻道喔，⧉傳送門在下方↓
.
❖Line群組傳送門⤵
https://lihi1.com/jjjwf
❖TG 頻道傳送門⤵
https://t.me/stock17168
天佑台灣，疫情早日結束❤️

邊緣AI 2026將成 IoT晶片發展核心

04:102021/05/02 工商時報 集邦科技資深分析師曾伯楷

隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求，AI與IoT結合已是現在進行式。在AI晶片助益下，IoT邊緣與終端裝置可透過機器學習或深度學習等技術加值，同時帶出無延遲、低成本、高隱私等優勢，顯示出AI晶片的重要性。預估全球AI晶片產值至2025年將達720億美元。

與此同時，邊緣運算透過AI使終端設備於運行上更加智慧，不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢，並進一步使系統具有主動性與智慧性。若以場景角度切入，邊緣AI相較傳統邊緣運算，其主要帶來的效益包括數據處理過濾和邊緣智慧分析，此也將成為兩技術持續結合的動能。

一、MCU、連接晶片、AI晶片為IoT晶片產業鏈三大關鍵零組件。　物聯網在傳統上多以感知層、網路層、系統層與應用層作為架構堆疊，主要經濟效益雖來自應用層的智慧情境發展，然感知層所需的產業鏈之上游零組件仍是支撐終端場景運作重要核心，其中又以微控制器（MCU）、連接晶片與AI晶片最關鍵。

MCU方面，建立在高效能、低功耗與高整合發展主軸下，IoT MCU現行從通用MCU演化成特定為IoT應用或場景所打造，如2021年3月STMicroelectronics推出新一代超低功耗微控制器STM32U5系列，可用於穿戴裝置與個人醫療設備；Silicon Labs同期推出PG22 32位元MCU，主打空間受限且須低功耗的工業應用、Renesas RA4M2 MCU著眼IoT邊緣運用等。

連接晶片方面，受物聯網設備連線技術與標準各異影響，通訊成物聯網晶片中相當重要的一環，從蜂巢式的4G、5G、LTE-M、NB-IoT，到非蜂巢式的LoRa、Sigfox、Wi-Fi、Wi-SUN等，從智慧城市、工廠、家庭至零售店面皆被廣泛運用，範圍擴及至太空，如2020年下旬聯發科與國際航海衛星通訊公司（Inmarsat）合作，成功以NB-IoT晶片完成全球首次5G物聯網高軌衛星資料傳輸測試。AI晶片方面，隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求，AI與IoT結合已是現在進行式。此外，Microsoft在其2021年3月舉辦的年度技術盛會Ignite 2021上指出，2022年邊緣運算市場規模將達到67.2億美元，與深度學習晶片市場相當吻合，亦提及市場預估至2025年全球深度學習晶片市場將有望達663億美元。同時，Microsoft認為至2026年全球AI晶片有3／4將為邊緣運算所用，顯示出IoT晶片於邊緣運算的發展將成未來廠商重要布局之一。

二、邊緣AI效益顯著，成長動能仰賴數據處理過濾、邊緣智慧分析。

首先，從邊緣運算定義來看，市場雖已談論數年但定義與類別始終未統一，原因是各廠商於邊緣託管工作的目的不盡相同。例如對電信商而言，初步處理數據的微型數據中心是其邊緣端，而對製造商來說邊緣裝置可能是生產線的感測器，此也造就邊緣運算的分類方式略有出入。另外，例如IBM有雲端邊緣、IoT邊緣與行動邊緣的類別，ARM多將邊緣視為雲端與終端間的伺服器等裝置，亦有個人邊緣、業務邊緣、多雲邊緣等類型。

其次，從邊緣運算類別來看，現行分類趨勢和研究方式尚有以數據產生源為核心，藉由設備與數據源的物理距離作為分類參考，並將其分為厚邊緣（Thick Edge）、薄邊緣（Thin Edge）與微邊緣（Micro Edge）。厚邊緣多用以表示處理高數據流量的計算資源，並配有高階CPU、GPU等，例如數據中心的數據儲存與分析；薄邊緣則包含網路設備、工業電腦等以整合數據為主要目的，除了配有中間處理器外，也不乏GPU、ASIC等AI晶片；微邊源因與數據源幾無距離，故常被歸類為生成數據的設備或感測器，計算資源雖較為匱乏，但也可因AI晶片發揮更大效益。

整體而言，邊緣運算透過AI使終端設備於運行上更加智慧，不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢，並進一步使系統具有主動性與智慧性，在平台管理、工作量合併與分布式應用也更有彈性。若以場景角度切入，邊緣AI相較傳統邊緣運算，其主要帶來的效益提升包括數據處理過濾和邊緣智慧分析，此也將成為兩技術持續結合的動能。

數據處理與邊緣分析於過往邊緣運算時已可做到，並在AI加值下進一步提升效益。以前者而言，數據透過智慧邊緣計算資源可在邊緣處預先處理數據，且僅將相關資訊發送至雲端，從而減少數據傳輸和儲存成本；從邊緣分析效能來看，過往多數邊緣運算資源處理能力有限，運行功能時往往較為單一，而邊緣智慧分析透過AI晶片賦能，進而能執行更為繁複、低延遲與高數據吞吐量的作業。

三、全球大廠搶攻IoT晶片市場，中國加重AI晶片發展力道。

IoT晶片於邊緣運算所產生的效益，使其成為廠商重要策略布局領域，雲端大廠如Google、AWS等紛紛投身晶片自製；傳統晶片大廠如ARM最新產品即鎖定邊緣AI於攝影機和火車的辨識應用、Intel亦投資1.3億美元於十餘家新創AI晶片設計廠商，NXP Semiconductors、Silicon Labs、ST則陸續在其MCU或SoC添加邊緣AI功能。此外，新創企業Halio、EdgeQ、Graphcore皆以AI晶片為主打。整體而言，若以區域來看，歐美大廠聚焦加速AI運算效能，但最積極發展AI晶片產業的則屬產官學三方皆支持的?心，代表性廠商包含地平線、華為旗下海思等代表；台灣則由產業聯盟領頭與聯發科和耐能等重要廠商。

（一）中國產官學助力，2023年AI晶片產值估將逼近35億美元。

AI產業是中國發展重點之一，其輔助政策如2017年《新一代人工智能發展規劃》、《2019年促進人工智能和實體經濟深度融合》，至「十四五」與「新基建」，都將AI視為未來關鍵國家競爭力。各大廠也因此陸續跟進，如百度發布AI新基建版圖著眼智慧雲伺服器；阿里宣布未來至2023年將圍繞作業系統、晶片、網路等研發和建設，騰訊則聚焦區塊鏈、超算中心等領域。

產官學研加重AI的發展力道也反映於AI晶片上，ASIC（特殊應用基體電路）廠商比比皆是。其中，AI晶片布局物聯網領域的廠商眾多，包含瑞芯微、雲天勵飛、平頭哥半導體、全志科技等，主要面向雲端運算、行動通訊、物聯網與自動駕駛四大領域。其中，物聯網領域進一步聚焦於智慧家庭、智慧交通、智慧零售與智慧安防部分，執行語音、圖像、人臉與行為辨識等應用。若進一步聚焦於邊緣運算領域，則以地平線、寒武紀、華為海思、比特大陸、鯤雲科技等最為積極。整體而言，TrendForce預估，中國AI晶片市場有望從2019年13億美元增長至2023年近35億美元。

綜觀中國AI晶片發展，雖有中美貿易摩擦導致設計工具、製造封測等環節較受限制，且開發成本始終居高不下，然而，藉由產官合作以及中國內需市場需求動能，仍能有效支撐該產業成長。若以邊緣運算來看，鑒於AIoT市場持續茁壯，特定應用的ASIC將是重要發展趨勢，尤以汽車、城市與製造業來看，相關場景應用如人身語音行為辨識、人車流量辨識、機器視覺等需求皆相當明朗，預期也將成廠商中長期發展主軸。

（二）台灣人工智慧晶片聯盟積極整合，監控與機器人為邊緣AI應用兩大方向。

台灣廠商聯發科和耐能同樣結合邊緣運算與AI兩技術作策略布局，就整體產業而言，2019年由聯發科、聯詠、聯電、日月光、華碩、研揚等廠商共同組成的台灣人工智慧晶片聯盟（AITA）發展迄今已越趨成形，各關鍵技術委員會（SIG）亦訂定短中長期發展目標。

邊緣AI發展則由AI系統應用SIG推動，其第一階段至2020年著眼半通用AI晶片發展與智慧監控系統應用平台的裝置端推論，2021年則聚焦以裝置端學習系統參考設計，以及軟硬體發展平台的裝置端學習為主，並規劃在2023年能以多功能機器人為主體，發展多感知人工智慧和智慧機器人AI晶片發展平台。

換言之，藉由業界在智慧裝置、系統應用與AI晶片的串聯，短期至2022年都將是台灣邊緣AI大力發展階段，並朝智慧監控、多功能機器人深化，預期此也將帶動系統整合的凌群、博遠，終端設備的奇偶、晶睿碩，以及晶片設計的聯發科、瑞昱等邊緣AI商機；但相較中國廣大內需市場，台灣仍需藉由打造讓晶片廠和系統商充分整合的互補平台，以利降低晶片開發成本，並從其中尋求更多可供切入的大廠產業鏈。

附圖：2019～2023年中國AI晶片市場推估
AI於IOT流程主要著眼數據處理與分析之效
台灣人工智慧晶片聯盟系統應用SIG發展架構

資料來源：https://www.chinatimes.com/newspapers/20210502000153-260511?fbclid=IwAR0zlvUv8MKpcHrbgpa3xRAFaQXaxZuep9TCeZ-75myILNjuDV4SWEIdKZ8&chdtv

全球軟體、製造與零售業都在積極數位轉型，資訊安全產業也正在進行翻天覆地的變革，衍生出龐大的科技商機，2019 年全球資安支出就高達 1,140 億美元，產值比晶圓代工的 840 億美元還高。

這波引爆點起源於全球企業仰賴雲端化的方式改善運作流程，進一步降低成本與縮短產品上市時程，大多數的雲端工具只要一個瀏覽器與雲端帳號就能使用，就像你打開 Google Drive 把檔案共享給同事那樣快速方便。

但便利之下，資安的複雜程度也跟著提高，企業又願意為此付出多少成本？ 資訊安全牽涉到「商業機密」與「公司產能」，你想想台積電在 7 奈米機台病毒感染事件後一年投入多少錢在資訊安全上？

今年廣達也發生 REvil 勒索攻擊流出內部 Macbook 設計圖，國際級企業重視資訊安全已是全球趨勢，也越來越願意投資在資訊安全領域。

但對於企業而言，要如何確保網路安全是一件日益困難的事情，除了在內部搭建個防火牆抵擋外部駭客入侵，現在還得擔心雲端工具的資料安全，假設員工把 Google 企業帳號密碼給了釣魚網站怎麼辦？駭客可以直接用受害者帳號看到許多共享的機密檔案。

以前環境較單純，只要管好本地伺服器就好，但現在雲端也是風險，面對越趨複雜的網路威脅，資安界便提出「零信任（Zero Trust）」概念，預期替全球資安公司帶來驚人的經濟效益，就讓我帶你一窺最新的產業動態。

https://kopu.chat/2021/04/17/zero_trust/