2021 全球 AI 奧運會 MLPerf 測試榜單出爐！浪潮與 NVIDIA 雙雙霸榜，佔據了 70% 的冠軍榜單

– – – – – – – – – –

NVIDIA 超強， AI 運算各種霸榜！
TO #獨家論壇 >>【影像辨識王者，NVIDIA 的 AI + GPU 落地應用】

重磅邀請 NVIDIA 架構工程師親自解密 AI 即時處理技術的應用！
完整內容這裡看>> hhttps://supr.link/y34yv

– – – – – – – – – –

2021年五大科技趨勢深度剖析

2021-01-18 09:09 聯合新聞網 / CTimes零組件

【作者： 編輯部】

2021年已經到來。在新冠疫情的陰霾中，半導體業繼續踩著既定的步伐往前邁進。在2021年，有哪些值得期待的半導體產業趨勢呢？CTIMES封面故事本月份的特別企劃，重點選擇了今年度值得關注的五大科技趨勢，這五大科技趨勢分別是：Open RAN、AI加速、工業數位轉型、第三代半導體，以及數位資訊醫療照護等。且聽本刊編輯部為各位讀者細說道來。

Open RAN

自從蜂窩式網路首次被數位化並展開2G通訊以來，其發展迅速，並且每一代技術的複雜性都在發生變化。近年來，行動網路的資料數據量不斷地增加，並大量支援各類新業務與應用場景，使得接下來的5G系統必須考慮更大的行動數據量與設備連接性。

無線接取網路（Radio Access Network；RAN）的設置，除了必須考量關鍵性能指標要求、網路商業營運能力，還有具備持續演進能力等三大因素之外，全球電信營運業者也希望有機會與第三方設備供應商合作，來推動介面的開放性並走向標準化的制訂，如此才有機會進一步降低設備成本。因此，5G無線接取網路的基礎架構必須走向開放化、虛擬化、靈活性以及與節能等趨勢。

在早期，電信營運商若有基地台建置需求，都必須向傳統電信設備商（例如Ericsson、Nokia、中興、華為等）購買基地台設備。這些營運商總是可以透過一個固定的電信設備供應商來提供其核心網路設備，儘管有效提升了整體的性能，但代價則是降低了來自不同供應商的RAN設備之間的互操作性。結果，使用這樣的解決方案很難將無線電和基頻元件供應商整合在一起。

到了接下來的第五代行動通訊系統（5G NR），將開始導入O-RAN（Open Radio Access Network）網路系統。透過O-RAN這樣的開放架構，未來營運商可跳過傳統電信設備商，直接向硬體設備業者（如廣達、中磊這類廠商）採購電信設備，除了有利於創建高靈活性的下一代無線網路，台灣資通訊廠商更有機會切入此傳統封閉的電信設備系統，建構出一套新的商業模式。

O-RAN架構以智能和開放的原則為基礎，是在具有嵌入式AI驅動的無線電控制的開放式硬體和雲端，構建虛擬化的RAN。O-RAN聯盟正在將無線電接取網路產業轉變成為開放、智能、虛擬化和完全可互操作的RAN架構。O-RAN標準透過更快的創新，可實現更具競爭力和靈活性的RAN供應商生態系統，而基於O-RAN的行動網路更能有效提高RAN部署和運營的效率。

AI加速

當前防疫所需的非接觸性應用、未來新常態的遠距應用，以及實現永續發展的自動化應用，成了數位轉型策略的重要引子—人工智慧（AI）技術則是主藥，從分析大數據的雲端平台，到即時決策的邊緣終端，凡是數據所在，都會看到AI更顯著地牽引著各大產業質變的動向。

國際數據資訊（IDC）2020年推出的報告預測，全球在AI系統上的支出將加速成長，2019~2024年間的年複合成長率（CAGR）可高達20.1%。因為對企業而言，要在數位轉型的過程中維持競爭力，人工智慧技術佔了部份。

疫情刺激市場快速轉型，AI猛地從產業部署的藍圖要塞上，躍然化為戰場主將，改善實際應用的效率，並推動新興的產業合作模式，將是後疫情時代的發展重點。2021年AI將會加速發展，但如何加速？答案或許可見於兩大面向。

其一，產業將會加速分工，鏈結從資料中心到裝置終端的開發資源。2020年NVIDIA與Arm的併購案就能當作這項趨勢的楔子。

累積多年的GPU研發與應用資源，NVIDA對雲端AI運算的核心技術可說是勢在必得，未來若成功將Arm在行動運算上的廣泛佈局納入麾下，就能在智慧應用普及化的龐大運算架構中，更快速地實現高度整合且易於彈性部署的AI解決方案。

雖說在商業上，這是在整併業務與開發資源，但就技術發展而言，卻是在深化集中式與分散式資料管理的分工模式。AI是改變未來科技開發與應用的首要關口，要加速AI落地，更細緻的產業分工，會是這條轉型之路起點上的一小步。

其二，AI應用將會加速，確切的說，產業將更積極建立AI應用的規則性，這不僅能確立問責AI的機制，實現負責任、可信、可靠的智慧運算（responsible AI），對加速技術普及來說，也至關重要。

AI應用涉及更複雜的軟硬體整合，從演算法的智財權界定、開發規則制定甚至是標準化，到通用或客製專用硬體的開發模式創新，最後是在大小規模裝置上，處理推論與做出決策時的資料可溯性與合法性問題，這些目前都還存在不少潛在疑慮。

2020年我們看到了由G7成員國提出的AI全球夥伴關係（Global Partnership on AI；GPAI）成立，業界亦有微軟、國際標準化組織（ISO）等跨域共組的AI Global非營利組織，還有前身為MLPerf的開放工程聯盟（MLCommons）集結了更多的產業要角，共同推動機器學習技術的開發與應用。

正是有了產業共識，才能延續並穩定這波AI成長的動能，而在2021年，這些針對AI應用的跨國跨界協商與規則訂立將會持續。

工業數位轉型

2020疫戰，不僅改變了人們的生活日常，更極速的驅動了數位轉型及發展。這場全球化的疫情已從根本改變了人們的生活方式，並史無前例的加速了數位生活轉型。從一般生活層面、企業端，到製造業，都正經歷著一波數位轉型的革命。事實上，數位轉型早在疫情之前，各企業早就已經開始陸續佈局，然而疫情的突然到來，讓各企業原本的數位轉型加速進行，一波快速數位轉型的革命，正如火如荼的開展。然而所有的企業都一樣，在數位轉型的路上，總是遇到重重的關卡與挑戰，需要進一步克服。

事實上，不管任何企業，數位轉型都是一段漫長的旅程，例如正在工業4.0的框架下，加速邁向智慧化的製造業也不例外。製造業涵蓋多項設備，正以智慧工廠為目標，並朝向「自主化」的趨勢發展。目前製造業轉型面臨的痛點，包含產線設備效能有限，無法因應新興的與複雜的工作負載；過去部署的設備與新購入的設備整合不易，缺乏即時反應；以及設備、系統的安全性等。

為了解決上述痛點，成功的智慧化解決方案可由四個面向切入，分別是：效能、即時處理能力、資安與功能性安全。這「四大要件」在IIoT的部署中，扮演重要角色，將直接影響各式工業的發展，從工廠自動化、現有工廠設備的整合，到作業負載的整合，以及機器人的應用等。在智能化工廠的自主化發展趨勢中，下列幾點需要特別注意：

●可擴展的計算能力，以省電的方式解決不同的工作負載；

●結合安全性與即時性，避免系統故障或網路受損的潛在風險；

●隨著系統複雜性增加，來自多個感測器（如：視覺、雷達及光達）的感測器融合（Sensor fusion）訊息必須結合機器學習，得出準確及可行的資訊；

●所有硬體皆須透過整體性的規模設計，以運行自主系統所需的複雜工作負載，並同時具備高效能以進行商業部署。

第三代半導體：SiC & GaN

第一代半導體是矽（Si），第二代是砷化鎵（GaAs），目前市場所談的第三代，則是碳化矽（SiC）和氮化鎵（GaN）。

第三代半導體有什麼不同？其最主要的特點，就是在「寬能隙（Wide Band Gap）」上。能隙是一個基礎的物理學原理，主要用來研究電子運動的現象，其所產生的效用就是導電性的差異。能隙越寬，電子越不容易越過，當然也就越能承受高電壓的系統應用。

所以跟傳統的矽材料相比，使用寬能隙材料的半導體產品，就展現出對於大功率系統和較高溫的環境有良好的適性，並實現了更好的能源轉換效率，以及更高的穩定度與可靠性。

而基於先天材料上的體質優勢，採用寬能隙材料的半導體元件，並不需要太多其他的輔助設計，例如散熱等，因此也有助於減少裝置的體積，達成輕量化的系統。

上述這些特色正好符合了當前產業趨勢的需要，例如電動車、再生能源、工業4.0、5G等，這些應用的最大特色就是採用高功率的電路設計，也因此使用寬能隙材料的元件就受到市場的青睞。

目前全球主要的電源元件供應商都已陸續布局了碳化矽和氮化鎵的方案與產能，尤其是這類元件的材料製作的成本較高，產能十分有限，現在幾乎已成了兵家必爭之物。一線的大廠更是透過策略聯盟，或者收購的方式，來確保自家的產能。

像是英飛凌（Infineon）除了與Cree達成SiC晶圓長期供貨戰略協定外，近期也與GT Advanced Technologies(GTAT)簽署碳化矽(SiC)晶棒供貨協議；意法半導體則收購了瑞典SiC晶圓製造商Norstel AB，不久前也與羅姆集團旗下的SiCrystal GmbH，簽署了長期供應SiC晶圓的協定。

台灣的晶圓供應商環球晶，日前則公告了將收購Siltronic AG，以強化在GaN和SiC的製造能量；世界先進經過了多年的研發後，目前已逐步量產了GaN的產品。

依據半導體市場研究機構Yole的分析報告，採用SiC電源元件的裝置，在2021年將有25%的年成長率；2023年則將達到44%；2025年則會進一步增加至50%的年成長。

數位資訊醫療照護

在2020年COVID-19疫情重創全球經濟態勢之際，防疫科技和醫療照護產業相關的人力、技術及產品的需求都很迫切，也讓個人智能健康照護與數位照護服務系統的成效倍受矚目，例如其中的醫用輔助軟體、生理偵測系統及遠距問診等設備促進個人健康品質及管理的產品，正促進數位資訊醫療發展。

資料來源：https://udn.com/news/story/6903/5177162

AI 時代的摩爾定律？黃氏定律靠的是自身技術力將 AI 性能年年加倍

作者 雷鋒網 | 發布日期 2020 年 12 月 16 日 8:45

1965 年，時任快捷半導體公司工程師，也是後來英特爾（Intel）的創始人之一的戈登·摩爾（Gordon Moore）提出了摩爾定律（Moore’s law），預測積體電路上可以容納的晶體管數目大約每經過 24 個月便會增加 1 倍。

後來廣為人知的每 18 個月晶片性能將提高 1 倍的說法是由 Intel CEO 大衛·豪斯（David House）提出。過去的半個多世紀，半導體行業按照摩爾定律發展，並驅動了一系列的科技創新。

有意思的是，在摩爾定律放緩的當下，以全球另一大晶片公司 NVIDIA 創始黃仁勳（Jensen Huang）名字命名的定律——「黃氏定律（Huang’s Law）」對 AI 性能的提升作出預測，預測 GPU 將推動 AI 性能實現逐年翻倍。

Intel 提出了摩爾定律，也是過去幾十年最成功的晶片公司之一。NVIDIA 作為當下最炙手可熱的 AI 晶片公司之一，提出黃氏定律是否也意味著其將引領未來幾十年晶片行業的發展？

AI 性能將逐年翻倍

受疫情影響，一年一度展示 NVIDIA 最新技術、產品和中國合作夥伴成果的 GTC China 改為線上舉行，黃仁勳缺席今年的主題演講，由 NVIDIA 首席科學家兼研究院副總裁 Bill Dally 進行分享。Bill Dally 是全球著名的電腦科學家，擁有 120 多項專利，在 2009 年加入 NVIDIA 之前，曾任史丹佛大學電腦科學系主任。加入 NVIDIA 之後，Dally 曾負責 NVIDIA 在 AI、光線追蹤和高速互連領域的相關研究。

在 GTC China 2020 演講中，Dally 稱：「如果我們真想提高電腦性能，黃氏定律就是一項重要指標，且在可預見的未來都將一直適用。」

Dally 用三個項目說明黃氏定律將如何得以實現。首先是為了實現超高能效加速器的 MAGNet 工具。NVIDIA 稱，MAGNet 生成的 AI 推理加速器在模擬測試中，能夠達到每瓦 100 tera ops 的推理能力，比目前的商用晶片高出一個數量級。

之所以能夠實現數量級的性能提升，主要是因為 MAGNet 採用了一系列新技術來協調並控制通過設備的訊息流，最大限度地減少數據傳輸。數據搬運是 AI 晶片最耗能的環節已經是當今業界的共識，這一研究模型以模組化實現能夠實現靈活擴展。

Dally 帶領的 200 人的研究團隊的另一個研究項目目標是以更快速的光鏈路取代現有系統內的電氣鏈路。Dally 說：「我們可以將連接 GPU 的 NVLink 速度提高一倍，也許還會再翻番，但電信號最終會消耗殆盡。」

這個項目是 NVIDIA 與哥倫比亞大學的研究團隊合作，探討如何利用電信供應商在其核心網絡中所採用的技術，通過一條光纖來傳輸數十路信號。據悉，這種名為「密集波分複用」的技術，有望在僅一毫米大小的晶片上實現 Tb/s 級數據的傳輸，是如今連網密度的 10 倍以上。

Dally 在演講中舉例展示了一個未來將搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。這意味著，利用「密集波分複用」技術，不僅可以實現更大的吞吐量，光鏈路也有助於打造更為密集的系統。

想要發揮光鏈路的全部潛能，還需要相應的軟件，這也是 Dally 分享的第三個項目——全新程式語言系統原型 Legate。Legate 將一種新的編程速記融入了加速軟件庫和高級運行時環境 Legion，借助 Legate，開發者可在任何規模的系統上運行針對單一 GPU 編寫的程序——甚至適用於諸如 Selene 等搭載數千個 GPU 的巨型超級電腦。

Dally 稱 Legate 正在美國國家實驗室接受測試。

MAGNet、以光鏈路取代現有系統內的電氣鏈路以及 Legate 是成功實現黃氏定律的關鍵，但 GPU 的成功才是基礎。因此，GPU 當下的成功以及未來的演進都尤其重要。

GPU 是黃氏定律的基礎

今年 5 月，NVIDIA 發布了面積高達 826 平方毫米，整合了 540 億個晶體管的 7 奈米全新安培（Ampere）架構 GPU A100。相比 Volta 架構的 GPU 能夠實現 20 倍的性能提升，並可以同時滿足 AI 訓練和推理的需求。

憑藉更高精度的第三代 Tensor Core 核心，A100 GPU AI 性能相比上一代有明顯提升，此前報導，在 7 月的第三個版本 MLPerf Training v0.7 基準測試（Benchmark）結果中，NVIDIA 的 DGX SuperPOD 系統在性能上開創了 8 個全新里程碑，共打破 16 項紀錄。

另外，在 10 月出爐的 MLPerf Inference v0.7 結果中，A100 Tensor Core GPU 在雲端推理的基準測試性能是最先進 Intel CPU 的 237 倍。

更強大的 A100 GPU 迅速被多個大客戶採用，迄今為止，阿里雲、百度智能雲、滴滴雲、騰訊雲等眾多中國雲服務提供商推出搭載了 NVIDIA A100 的多款雲服務及 GPU 實例，包括圖像辨識、語音辨識，以及計算流體動力學、計算金融學、分子動力學等快速增長的高性能計算場景。

另外，新華三、浪潮、聯想、寧暢等系統製造商等也選擇了最新發布的 A100 PCIe 版本以及 NVIDIA A100 80GB GPU，為超大數據中心提供兼具超強性能與靈活的 AI 加速系統。

Dally 在演講中提到：「經過幾代人的努力，NVIDIA 的產品將通過基於物理渲染的路徑追蹤技術，即時生成令人驚豔的圖像，並能夠借助 AI 構建整個場景。」

與光鏈路取代現有系統內的電氣鏈路需要軟硬體的匹配一樣，NVIDIA GPU 軟硬體的結合才能應對更多 AI 應用場景苛刻的挑戰。

Dally 在此次的 GTC China上首次公開展示了 NVIDIA 對話式 AI 框架 Jarvis 與 GauGAN 的組合。GauGAN 利用生成式對抗網路，只需簡略構圖，就能創建美麗的風景圖。演示中，用戶可通過語音指令，即時生成像照片一樣栩栩如生的畫作。

GPU 是黃氏定律的基礎，而能否實現並延續黃氏定律，僅靠少數的大公司顯然不夠，還需要眾多的合作夥伴激發對 AI 算力的需求和更多創新。

黃氏定律能帶來什麼？

NVIDIA 已經在構建 AI 生態，並在 GTC China 上展示了 NVIDIA 初創加速計劃從 100 多家 AI 初創公司中脫穎而出的 12 家公司，這些公司涵蓋會話人工智慧、智慧醫療 / 零售、消費者網路 / 行業應用、深度學習應用 / 加速數據科學、自主機器 / IoT / 工業製造、自動駕駛汽車。

智慧語音正在改變我們的生活。會話人工智慧的深思維提供的是離線智慧語音解決方案，在佔有很少空間的前提下實現智慧交互，語音合成和語音辨識保證毫秒級響應。深聲科技基於 NVIDIA 的產品研發高質量中英文語音合成、聲音定制、聲音複製等語音 AI 技術。

對於行業應用而言，星雲 Clustar 利用 NVIDIA GPU 和 DGX 工作站，能夠大幅提升模型預測精確度以及解決方案處理性能，讓傳統行業的 AI 升級成本更低、效率更高。

摩爾定律的成功帶來了新的時代，黃氏定律能否成功仍需時間給我們答案。但這一定律的提出對 AI 性能的提升給出了明確的預測，並且 NVIDIA 正在通過硬體、軟體的提升和創新，努力實現黃氏定律，同時藉生態的打造想要更深遠的影響 AI 發展。

黃氏定律值得我們期待。

附圖：▲ NVIDIA GPU 助推 AI 推理性能每年提升 1 倍以上。（Source：影片截圖）
▲NVIDIA 首席科學家兼研究院副總裁 Bill Dally。
▲ 搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。

資料來源：https://technews.tw/2020/12/16/huang-law-predicts-that-ai-performance-will-double-every-year/?fbclid=IwAR1vXHWAGt_b8nDRW6VUqzpAINX_n_DzJ0KwJvdBnl18s8Q1A3Thk7hgBoI