AI 時代的摩爾定律？黃氏定律靠的是自身技術力將 AI 性能年年加倍

作者 雷鋒網 | 發布日期 2020 年 12 月 16 日 8:45

1965 年，時任快捷半導體公司工程師，也是後來英特爾（Intel）的創始人之一的戈登·摩爾（Gordon Moore）提出了摩爾定律（Moore’s law），預測積體電路上可以容納的晶體管數目大約每經過 24 個月便會增加 1 倍。

後來廣為人知的每 18 個月晶片性能將提高 1 倍的說法是由 Intel CEO 大衛·豪斯（David House）提出。過去的半個多世紀，半導體行業按照摩爾定律發展，並驅動了一系列的科技創新。

有意思的是，在摩爾定律放緩的當下，以全球另一大晶片公司 NVIDIA 創始黃仁勳（Jensen Huang）名字命名的定律——「黃氏定律（Huang’s Law）」對 AI 性能的提升作出預測，預測 GPU 將推動 AI 性能實現逐年翻倍。

Intel 提出了摩爾定律，也是過去幾十年最成功的晶片公司之一。NVIDIA 作為當下最炙手可熱的 AI 晶片公司之一，提出黃氏定律是否也意味著其將引領未來幾十年晶片行業的發展？

AI 性能將逐年翻倍

受疫情影響，一年一度展示 NVIDIA 最新技術、產品和中國合作夥伴成果的 GTC China 改為線上舉行，黃仁勳缺席今年的主題演講，由 NVIDIA 首席科學家兼研究院副總裁 Bill Dally 進行分享。Bill Dally 是全球著名的電腦科學家，擁有 120 多項專利，在 2009 年加入 NVIDIA 之前，曾任史丹佛大學電腦科學系主任。加入 NVIDIA 之後，Dally 曾負責 NVIDIA 在 AI、光線追蹤和高速互連領域的相關研究。

在 GTC China 2020 演講中，Dally 稱：「如果我們真想提高電腦性能，黃氏定律就是一項重要指標，且在可預見的未來都將一直適用。」

Dally 用三個項目說明黃氏定律將如何得以實現。首先是為了實現超高能效加速器的 MAGNet 工具。NVIDIA 稱，MAGNet 生成的 AI 推理加速器在模擬測試中，能夠達到每瓦 100 tera ops 的推理能力，比目前的商用晶片高出一個數量級。

之所以能夠實現數量級的性能提升，主要是因為 MAGNet 採用了一系列新技術來協調並控制通過設備的訊息流，最大限度地減少數據傳輸。數據搬運是 AI 晶片最耗能的環節已經是當今業界的共識，這一研究模型以模組化實現能夠實現靈活擴展。

Dally 帶領的 200 人的研究團隊的另一個研究項目目標是以更快速的光鏈路取代現有系統內的電氣鏈路。Dally 說：「我們可以將連接 GPU 的 NVLink 速度提高一倍，也許還會再翻番，但電信號最終會消耗殆盡。」

這個項目是 NVIDIA 與哥倫比亞大學的研究團隊合作，探討如何利用電信供應商在其核心網絡中所採用的技術，通過一條光纖來傳輸數十路信號。據悉，這種名為「密集波分複用」的技術，有望在僅一毫米大小的晶片上實現 Tb/s 級數據的傳輸，是如今連網密度的 10 倍以上。

Dally 在演講中舉例展示了一個未來將搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。這意味著，利用「密集波分複用」技術，不僅可以實現更大的吞吐量，光鏈路也有助於打造更為密集的系統。

想要發揮光鏈路的全部潛能，還需要相應的軟件，這也是 Dally 分享的第三個項目——全新程式語言系統原型 Legate。Legate 將一種新的編程速記融入了加速軟件庫和高級運行時環境 Legion，借助 Legate，開發者可在任何規模的系統上運行針對單一 GPU 編寫的程序——甚至適用於諸如 Selene 等搭載數千個 GPU 的巨型超級電腦。

Dally 稱 Legate 正在美國國家實驗室接受測試。

MAGNet、以光鏈路取代現有系統內的電氣鏈路以及 Legate 是成功實現黃氏定律的關鍵，但 GPU 的成功才是基礎。因此，GPU 當下的成功以及未來的演進都尤其重要。

GPU 是黃氏定律的基礎

今年 5 月，NVIDIA 發布了面積高達 826 平方毫米，整合了 540 億個晶體管的 7 奈米全新安培（Ampere）架構 GPU A100。相比 Volta 架構的 GPU 能夠實現 20 倍的性能提升，並可以同時滿足 AI 訓練和推理的需求。

憑藉更高精度的第三代 Tensor Core 核心，A100 GPU AI 性能相比上一代有明顯提升，此前報導，在 7 月的第三個版本 MLPerf Training v0.7 基準測試（Benchmark）結果中，NVIDIA 的 DGX SuperPOD 系統在性能上開創了 8 個全新里程碑，共打破 16 項紀錄。

另外，在 10 月出爐的 MLPerf Inference v0.7 結果中，A100 Tensor Core GPU 在雲端推理的基準測試性能是最先進 Intel CPU 的 237 倍。

更強大的 A100 GPU 迅速被多個大客戶採用，迄今為止，阿里雲、百度智能雲、滴滴雲、騰訊雲等眾多中國雲服務提供商推出搭載了 NVIDIA A100 的多款雲服務及 GPU 實例，包括圖像辨識、語音辨識，以及計算流體動力學、計算金融學、分子動力學等快速增長的高性能計算場景。

另外，新華三、浪潮、聯想、寧暢等系統製造商等也選擇了最新發布的 A100 PCIe 版本以及 NVIDIA A100 80GB GPU，為超大數據中心提供兼具超強性能與靈活的 AI 加速系統。

Dally 在演講中提到：「經過幾代人的努力，NVIDIA 的產品將通過基於物理渲染的路徑追蹤技術，即時生成令人驚豔的圖像，並能夠借助 AI 構建整個場景。」

與光鏈路取代現有系統內的電氣鏈路需要軟硬體的匹配一樣，NVIDIA GPU 軟硬體的結合才能應對更多 AI 應用場景苛刻的挑戰。

Dally 在此次的 GTC China上首次公開展示了 NVIDIA 對話式 AI 框架 Jarvis 與 GauGAN 的組合。GauGAN 利用生成式對抗網路，只需簡略構圖，就能創建美麗的風景圖。演示中，用戶可通過語音指令，即時生成像照片一樣栩栩如生的畫作。

GPU 是黃氏定律的基礎，而能否實現並延續黃氏定律，僅靠少數的大公司顯然不夠，還需要眾多的合作夥伴激發對 AI 算力的需求和更多創新。

黃氏定律能帶來什麼？

NVIDIA 已經在構建 AI 生態，並在 GTC China 上展示了 NVIDIA 初創加速計劃從 100 多家 AI 初創公司中脫穎而出的 12 家公司，這些公司涵蓋會話人工智慧、智慧醫療 / 零售、消費者網路 / 行業應用、深度學習應用 / 加速數據科學、自主機器 / IoT / 工業製造、自動駕駛汽車。

智慧語音正在改變我們的生活。會話人工智慧的深思維提供的是離線智慧語音解決方案，在佔有很少空間的前提下實現智慧交互，語音合成和語音辨識保證毫秒級響應。深聲科技基於 NVIDIA 的產品研發高質量中英文語音合成、聲音定制、聲音複製等語音 AI 技術。

對於行業應用而言，星雲 Clustar 利用 NVIDIA GPU 和 DGX 工作站，能夠大幅提升模型預測精確度以及解決方案處理性能，讓傳統行業的 AI 升級成本更低、效率更高。

摩爾定律的成功帶來了新的時代，黃氏定律能否成功仍需時間給我們答案。但這一定律的提出對 AI 性能的提升給出了明確的預測，並且 NVIDIA 正在通過硬體、軟體的提升和創新，努力實現黃氏定律，同時藉生態的打造想要更深遠的影響 AI 發展。

黃氏定律值得我們期待。

附圖：▲ NVIDIA GPU 助推 AI 推理性能每年提升 1 倍以上。（Source：影片截圖）
▲NVIDIA 首席科學家兼研究院副總裁 Bill Dally。
▲ 搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。

資料來源：https://technews.tw/2020/12/16/huang-law-predicts-that-ai-performance-will-double-every-year/?fbclid=IwAR1vXHWAGt_b8nDRW6VUqzpAINX_n_DzJ0KwJvdBnl18s8Q1A3Thk7hgBoI

　　大家晚安，今天來大家如何點餐！我們到日本玩的時候，往往會肚子餓了，想吃點小東西，尤其對小資族而言，牛丼（ぎゅうどん）、ラーメン（拉麵）、うどん（烏龍麵）、そば（蕎麥麵）、弁当（べんとう都是好夥伴，陪著我們漫遊日本！！我上課的時候往往都會讓同學透過實用單字和文型進行一對一的會話練習，歡迎各位同學找正在學日文的夥伴，一起練練看如何點餐和聽懂店員的回應！（可以把上述單字都代入，練習五次，你就會說囉）
單字：
牛丼（ぎゅうどん）牛肉蓋飯
うどん　　烏龍麵
そば　蕎麥麵
ラーメン　拉麵
弁当（べんとう）便當
注文（ちゅうもん）します　點餐
お会計（かいけい）結帳

文型：
～（你點的東西），お願（ねが）いします
麻煩給我～～

例句：
例：そば、お願いします
麻煩給我蕎麥麵
例：月見（つきみ）そば、お願いします。
麻煩給我一碗生雞蛋烏龍麵

會話：

A（お客）:すみません、月見（つきみ）そば、お願いします。不好意思，我要一碗生蛋蕎麥麵
B(店員）：はい。月見そばですね。好，一碗生蛋蕎麥麵吼（確認）
A:はい、そうです。是的，沒錯
＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿
上菜：
B:月見そばです。ゆっくりどうぞ　（您點的）生蛋蕎麥麵，請慢用

吃完：
A:すみません、お会計（かいけい）です。不好意思，我要結帳
B:はい、２６０円です。どうも　好ＤＥＲ！２６０日幣，感謝你
A:ご馳走（ちそう）さまでした。おいしかったです。
感謝款待，很好吃
B:ありがとうございました。謝謝
圖片修改自網路

　　大家晚安：）
　　初級階段的數字總是讓我們很頭痛，也常常錯在一些"變化"。時間的"分"就是這些讓我們頭痛的數字之一，提供一個記法給大家，順便再分享相關的單字和短句。

１、分（ふん）有三種發音，無變化是（ふん）、半濁音有直接改（ぷん）跟促音（っぷん）兩種，相當複雜。

２、促音：1,6,8,10（小心拼法！！，1.6.8.10，記得這個你就168，而且發10輩子！）
1分（いっぷん）
6分（ろっぷん）
8 分（はっぷん）
10分（じゅっぷん、じっぷん）

３、半濁音：3.4（例外！！）
3分（さんぷん）
4分（よんぷん）

４、無變化：2.5.7.9
2分（にふん）
5分（ごふん）
7分（ななふん・しちふん）
9分（きゅうふん）

５、半點的說法：半（はん）＝３０分（さんじゅっぷん・さんじっぷん）

６、整點的說法：ちょうど＝整點　例：一時（いちじ）ちょうど　一點整

７、＂現在幾點＂的問答：
Q:すみません、今は何時（なんじ）ですか。
不好意思，現在幾點呢？
A:今は夜十時三分です。
現在是晚上10點3分

8、単語：
時（じ）　　小時
朝（あさ）　早上
昼（ひる）　中午
夜（よる）　晚上
夕方（ゆうがた）傍晚（可能是下午4-7點）
深夜（しんや）深夜（可能是晚上10點過後）
早朝（そうちょう）清晨(可能是6-9點）
未明（みめい） 凌晨　（日本氣象廳認為是晚上12點後到凌晨3點之間）
午前（ごぜん）上午(am)
午後（ごご）　下午(pm)

圖片修改自網路

新頻道成立！歡迎訂閱及加入：
【游泳私房話】YouTube：https://www.youtube.com/channel/UCWfGGxRvTJwgZz6Wak2zalw
【游泳私房話】FB社團：https://www.facebook.com/groups/swimmerprivatetalk
－－－－－－－－－－ 【今天不談車！】聊聊瘦身

很多人都在我的影片或FB中留言，問我是不是瘦了？的確，「瘦了！」，這是肯定的事實，不過另外還有很多朋友是問我：「你是怎麼瘦的？」

「瘦身」是個很有意思的話題，以瘦身之名做一個網站、粉絲頁，百分之百會比弄一個汽車網還要流行十倍！不過，我其實是不懂瘦身之道的，我也只曉得上網爬爬文，找一個最簡單、我還能接受得了的方式，就依樣畫葫蘆吧。

這次瘦身的開端，是從去年的11月23日、採訪完澳門WTCC賽車後、回到台灣的那天開始。那次採訪讓我覺得「我好累、好喘、好容易油流浹背...」(對，就是那些胖子該有的症狀)，所以回來之後，就決定減肥吧。

之前我失敗過幾次，撐一個月就放棄了，所以這次的開始，我也實在不曉得會持續多久？不過，目前還在進行中，推測應該不會輕易就停下來了。

我不是一生下來就很有肉感的人，反而，我從小就是個瘦子。記得到發育階段停止時，我是173公分、62~65公斤左右；雖然不高、但看起來還算標準身材。直到結婚後開始發福、生小孩後加速發福、生第二隻之後嚴重發福；而我的健檢報告中，也開始出現紅字(對，就是那些胖子該有的紅字)。

我記得認識我老婆時，我是68公斤，一直到這次開始減肥時、我是97.7公斤；事實上，我應該有破百過，因為有次我在磅秤上看到自己已經是99點幾公斤後，我有好長一段時間都不去量體重了！(對，就是那些胖子該有的舉動)。

總而言之，回歸正傳，我就是開始運動了。

參考之前幾次失敗的案例，我曉得「出門運動」的方式，總會被雨天打斷，然後就自然而然地、無限期自行被打斷下去，所以我這次採取的是室內運動的方式 - 騎健身車。

就是這台：
tokuyo 歐風方程式立式健身車 TB-719BP
https://goo.gl/9EZzq4

這台車之前已經在我家已經默默存在一年多了，不過我騎不到幾次，只是一直丟在客廳安慰自己「我要開始減肥了！」，但其實從來沒有過！

而我給自己設定的騎法就是：一天只騎40分鐘，不管騎多少難度、不管騎多少距離、不管騎多少熱量(對，機器會顯示推估消耗的熱量)。

當然啦，隨著一天天的日子下來，我是越騎越快、越騎越難、越騎越遠...而體重也是在頭兩個月中，大幅下降！一降就是6~7公斤吧。但、它就這麼地卡在91~92公斤之間，再也動彈不得；這一卡就是三、四個月吧！

後來我上網爬文，發現有人說：「別在意體重計的數字，看看褲頭有沒有鬆動、身形有沒有變化比較實際」。我發現，的確，我從36腰的褲子、換成34腰了，皮帶的格數也有進展；所以心情也就略為好過一些。直到我發現有個健身媽媽在網路上說：「維持心跳大約130下/分鐘，這樣比較容易減肥」。我心想，這樣更好啊！因為我之前的心跳可以跳到165下/分鐘，那真的很累耶～～XD。這樣比較輕鬆，我當然表示認同～

結果，我就將步調放輕鬆了一些，居然體重就突破了！繼續瘦了下來。這次來到大概85公斤上下吧。

有在follow我臉書的朋友應該都曉得，我小孩今年暑假去學游泳了，我也跟去攪和一下；因為我最喜歡的運動，就是游泳。想想，上一次去游泳的日子大概相隔十年之久，我還以為我再也不會去游泳了～

總之，這一游、就游出了我年輕時不曾有的進階興趣～我現在變成：每天早上晨泳40分鐘～1小時，每天晚上踩健身車40分鐘＋手臂的重量訓練(為了更有肌力的划水需要)。

手臂重量訓練其實超單純的，就是：舉2.5公斤的啞鈴片(對，就是散裝的一片)。做些簡單的抬臂動作，一次一手40下，做八回。這個部分大概不用十分鐘就搞定，還不算費時。

整體來說，晚上運動的出汗量不多，也不太喘～我也不想把自己逼到一個累人的程度，畢竟我也會懶（外加哪來那麼多力氣嘛？）～

游泳的部分，我一向喜歡游蝶式、自由式，所以就專攻這兩式。有同學問我：「你好像不喜歡游仰式、蛙式？」
是的，仰式我會游歪、蛙式我嫌太慢，所以...不太去游。只有游累的時候，我會游游抬頭蛙來休息休息。後來我發現更好的休息方式，就是停在池邊泡著就好...這休息方式更有效！XD

至於我一天游多遠？我是時間制的！就是游40分鐘～1小時、游到該上班了，就換裝去公司。我不計較游多遠，而我也「不」來來回回游不停！我就是想游的時候，就游個幾趟，想休息時、就靠在池邊。有時來幾趟衝刺～如此而已。

我花更多的時間，來揣摩自由式＋蝶式的技巧。

在晚上騎健身車時，我會打開手機YouTube來研究這兩個泳姿的教學影片，一下子40分鐘就過去了～還常常意猶未盡。很多奧運選手、國內外游泳教練，都有指導教學影片；真的很容易就學到一些眉眉角角。

終於有天，我覺得我這輩子應該就是此時此刻、right here right now，是游得最好的階段了！我想要報名今年10月中下旬在彰化的全國分齡盃游泳錦標賽，參考報名資訊，我可以參加45~49歲的這個組別。

看了看前兩年這個組別的成績：50蝶式、50自由式大概分別都游在33秒、28秒左右，就可以拿到獎牌了吧...所以我對照我17歲時的成績，心想，「哎呦，有機會喔！」。於是，上個月的某天，我請同學幫我測一下50自由式的成績，也好心裡先有個譜...

尼瑪，不測還好、一測大失所望！比以前慢了快10秒、花了40秒完成。後來我在短池(25m)自己測了多次，真的！每次25m都要20秒...真的快把哥給氣死了XD。

但終究，哥還是有天份的，最近奮力一測，短池出現16.8秒的成績～推測，我游不快的原因有二，其一：我現在81公斤、還是跟當年62公斤相差太多；其二：30年前年輕力壯，我這回真的老了（然後還會繼續老下去）...

最後，我打消今年報名分齡盃泳賽的念頭，畢竟我完全不想去彰化陪公子練劍。我想...也許是不服老，但我還是想再去拿個獎牌回來吧（不知此生是否還有無機會^^）。

嗯～差點忘了，是關於飲食的部分。

我完全沒有吃什麼瘦身餐，早餐隨我老婆弄、跟小孩一起吃，中餐吃自助餐(這半年來是素食)，晚餐一樣隨我老婆弄～只是在晚餐的部分，我會吃少一點，少一點點的食量、大約是以前的六成。

而鍛鍊的部分，也並不是日日週而復始，一週總有一天、兩天完全沒健身，就這麼擱著～我的重點是：別讓自己感到很負擔，那樣太累人了～畢竟我是挺懶的。

好啦～這篇落落長的分享，完全跟車子無關，希望大家看完不要想幹樵我，只是我也想鼓勵一下自己罷了。(都寫成這樣，不見到70公斤大關怎麼行呢？)

ps.其實有在游泳的朋友，有機會真的可以請人錄下你游泳的模樣，因為那樣才會發現自己的動作，還有哪些地方可以改進！挺好的。（下次，我可能會用Gopro錄一下水底的畫面）

◉ 訂購 剛剛好水餃：https://shopee.tw/privatetalk

網站：http://www.autoprivatetalk.com
FB：https://www.facebook.com/harry.liaokang
社團：https://www.facebook.com/groups/autoprivatetalk
主講人/剪輯後製/企劃：廖剛
註：不會有字幕(我手邊沒有人力)(但你有興趣也可以幫我上字幕)、不要用粗話罵人～

#游泳 #瘦身 #減肥