AI 時代的摩爾定律？黃氏定律靠的是自身技術力將 AI 性能年年加倍

作者 雷鋒網 | 發布日期 2020 年 12 月 16 日 8:45

1965 年，時任快捷半導體公司工程師，也是後來英特爾（Intel）的創始人之一的戈登·摩爾（Gordon Moore）提出了摩爾定律（Moore’s law），預測積體電路上可以容納的晶體管數目大約每經過 24 個月便會增加 1 倍。

後來廣為人知的每 18 個月晶片性能將提高 1 倍的說法是由 Intel CEO 大衛·豪斯（David House）提出。過去的半個多世紀，半導體行業按照摩爾定律發展，並驅動了一系列的科技創新。

有意思的是，在摩爾定律放緩的當下，以全球另一大晶片公司 NVIDIA 創始黃仁勳（Jensen Huang）名字命名的定律——「黃氏定律（Huang’s Law）」對 AI 性能的提升作出預測，預測 GPU 將推動 AI 性能實現逐年翻倍。

Intel 提出了摩爾定律，也是過去幾十年最成功的晶片公司之一。NVIDIA 作為當下最炙手可熱的 AI 晶片公司之一，提出黃氏定律是否也意味著其將引領未來幾十年晶片行業的發展？

AI 性能將逐年翻倍

受疫情影響，一年一度展示 NVIDIA 最新技術、產品和中國合作夥伴成果的 GTC China 改為線上舉行，黃仁勳缺席今年的主題演講，由 NVIDIA 首席科學家兼研究院副總裁 Bill Dally 進行分享。Bill Dally 是全球著名的電腦科學家，擁有 120 多項專利，在 2009 年加入 NVIDIA 之前，曾任史丹佛大學電腦科學系主任。加入 NVIDIA 之後，Dally 曾負責 NVIDIA 在 AI、光線追蹤和高速互連領域的相關研究。

在 GTC China 2020 演講中，Dally 稱：「如果我們真想提高電腦性能，黃氏定律就是一項重要指標，且在可預見的未來都將一直適用。」

Dally 用三個項目說明黃氏定律將如何得以實現。首先是為了實現超高能效加速器的 MAGNet 工具。NVIDIA 稱，MAGNet 生成的 AI 推理加速器在模擬測試中，能夠達到每瓦 100 tera ops 的推理能力，比目前的商用晶片高出一個數量級。

之所以能夠實現數量級的性能提升，主要是因為 MAGNet 採用了一系列新技術來協調並控制通過設備的訊息流，最大限度地減少數據傳輸。數據搬運是 AI 晶片最耗能的環節已經是當今業界的共識，這一研究模型以模組化實現能夠實現靈活擴展。

Dally 帶領的 200 人的研究團隊的另一個研究項目目標是以更快速的光鏈路取代現有系統內的電氣鏈路。Dally 說：「我們可以將連接 GPU 的 NVLink 速度提高一倍，也許還會再翻番，但電信號最終會消耗殆盡。」

這個項目是 NVIDIA 與哥倫比亞大學的研究團隊合作，探討如何利用電信供應商在其核心網絡中所採用的技術，通過一條光纖來傳輸數十路信號。據悉，這種名為「密集波分複用」的技術，有望在僅一毫米大小的晶片上實現 Tb/s 級數據的傳輸，是如今連網密度的 10 倍以上。

Dally 在演講中舉例展示了一個未來將搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。這意味著，利用「密集波分複用」技術，不僅可以實現更大的吞吐量，光鏈路也有助於打造更為密集的系統。

想要發揮光鏈路的全部潛能，還需要相應的軟件，這也是 Dally 分享的第三個項目——全新程式語言系統原型 Legate。Legate 將一種新的編程速記融入了加速軟件庫和高級運行時環境 Legion，借助 Legate，開發者可在任何規模的系統上運行針對單一 GPU 編寫的程序——甚至適用於諸如 Selene 等搭載數千個 GPU 的巨型超級電腦。

Dally 稱 Legate 正在美國國家實驗室接受測試。

MAGNet、以光鏈路取代現有系統內的電氣鏈路以及 Legate 是成功實現黃氏定律的關鍵，但 GPU 的成功才是基礎。因此，GPU 當下的成功以及未來的演進都尤其重要。

GPU 是黃氏定律的基礎

今年 5 月，NVIDIA 發布了面積高達 826 平方毫米，整合了 540 億個晶體管的 7 奈米全新安培（Ampere）架構 GPU A100。相比 Volta 架構的 GPU 能夠實現 20 倍的性能提升，並可以同時滿足 AI 訓練和推理的需求。

憑藉更高精度的第三代 Tensor Core 核心，A100 GPU AI 性能相比上一代有明顯提升，此前報導，在 7 月的第三個版本 MLPerf Training v0.7 基準測試（Benchmark）結果中，NVIDIA 的 DGX SuperPOD 系統在性能上開創了 8 個全新里程碑，共打破 16 項紀錄。

另外，在 10 月出爐的 MLPerf Inference v0.7 結果中，A100 Tensor Core GPU 在雲端推理的基準測試性能是最先進 Intel CPU 的 237 倍。

更強大的 A100 GPU 迅速被多個大客戶採用，迄今為止，阿里雲、百度智能雲、滴滴雲、騰訊雲等眾多中國雲服務提供商推出搭載了 NVIDIA A100 的多款雲服務及 GPU 實例，包括圖像辨識、語音辨識，以及計算流體動力學、計算金融學、分子動力學等快速增長的高性能計算場景。

另外，新華三、浪潮、聯想、寧暢等系統製造商等也選擇了最新發布的 A100 PCIe 版本以及 NVIDIA A100 80GB GPU，為超大數據中心提供兼具超強性能與靈活的 AI 加速系統。

Dally 在演講中提到：「經過幾代人的努力，NVIDIA 的產品將通過基於物理渲染的路徑追蹤技術，即時生成令人驚豔的圖像，並能夠借助 AI 構建整個場景。」

與光鏈路取代現有系統內的電氣鏈路需要軟硬體的匹配一樣，NVIDIA GPU 軟硬體的結合才能應對更多 AI 應用場景苛刻的挑戰。

Dally 在此次的 GTC China上首次公開展示了 NVIDIA 對話式 AI 框架 Jarvis 與 GauGAN 的組合。GauGAN 利用生成式對抗網路，只需簡略構圖，就能創建美麗的風景圖。演示中，用戶可通過語音指令，即時生成像照片一樣栩栩如生的畫作。

GPU 是黃氏定律的基礎，而能否實現並延續黃氏定律，僅靠少數的大公司顯然不夠，還需要眾多的合作夥伴激發對 AI 算力的需求和更多創新。

黃氏定律能帶來什麼？

NVIDIA 已經在構建 AI 生態，並在 GTC China 上展示了 NVIDIA 初創加速計劃從 100 多家 AI 初創公司中脫穎而出的 12 家公司，這些公司涵蓋會話人工智慧、智慧醫療 / 零售、消費者網路 / 行業應用、深度學習應用 / 加速數據科學、自主機器 / IoT / 工業製造、自動駕駛汽車。

智慧語音正在改變我們的生活。會話人工智慧的深思維提供的是離線智慧語音解決方案，在佔有很少空間的前提下實現智慧交互，語音合成和語音辨識保證毫秒級響應。深聲科技基於 NVIDIA 的產品研發高質量中英文語音合成、聲音定制、聲音複製等語音 AI 技術。

對於行業應用而言，星雲 Clustar 利用 NVIDIA GPU 和 DGX 工作站，能夠大幅提升模型預測精確度以及解決方案處理性能，讓傳統行業的 AI 升級成本更低、效率更高。

摩爾定律的成功帶來了新的時代，黃氏定律能否成功仍需時間給我們答案。但這一定律的提出對 AI 性能的提升給出了明確的預測，並且 NVIDIA 正在通過硬體、軟體的提升和創新，努力實現黃氏定律，同時藉生態的打造想要更深遠的影響 AI 發展。

黃氏定律值得我們期待。

附圖：▲ NVIDIA GPU 助推 AI 推理性能每年提升 1 倍以上。（Source：影片截圖）
▲NVIDIA 首席科學家兼研究院副總裁 Bill Dally。
▲ 搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。

資料來源：https://technews.tw/2020/12/16/huang-law-predicts-that-ai-performance-will-double-every-year/?fbclid=IwAR1vXHWAGt_b8nDRW6VUqzpAINX_n_DzJ0KwJvdBnl18s8Q1A3Thk7hgBoI

一位出身台灣的世界頂級菁英

這傢伙到底是何方神聖？讓負責台灣安全的國安會三大巨頭，三個鐘頭從頭到尾聆聽他一個人演講。」
前不久，職掌台灣安全的最高機構國安會，透過管道安排，邀請美國一位具有特殊背景的神秘人物來台，對內部做了一場有關「台海危機處理及危機化解」的專題演講。
現場聆聽者有國安會秘書長莊銘耀、兩位副秘書長，以及海基會、國防部參謀總部等相關主管幹部。 兩個小時的專題演講結束後，與會的不少高階將官、重要幹部等，都對這個身高不滿一百六十公分，模樣並不顯眼的台灣學者充滿疑惑：「這個從英國請來的小個子到底是何來路？能令長官們這麼信他。」
這個人是邱強，道道地地的台灣人：認識他的人都稱呼他「危機處理大師」。拜科技之賜，美國近年冒出不少華裔億萬富翁：不過，邱強是極少數不靠科技而能晉身億萬富豪的台灣人。 他的專長極為特殊：他開的公司全世界僅此一間，別無他 家！美國企業界封他為「危機大師」。他靠分析風險與化解危機致富，公司共有一千多名各種領域專家，工作只有一項：解決危機。 從三十五歲創立公司至今十四年。 邱強 博士的危機處理公司，總共在十幾個國，處理過一千六百多個不同的危機，從美國三哩島核能掌故、大停電、波斯灣戰爭到俄國核能外洩、土耳其大地震都是這位蜚聲國際 危機 博士的代表作。 除了國際性的危機處理，美國企業家口中的Chung Chiu，更是許多跨國性集98遇到經營危機第一個想到的救世主：包括全球知名比爾．蓋茲的微軟公司、資本額高達兩千億美元猶太人開的石油公司Texaco等世界前五百大公司，都曾經委請這個來自台灣的「 小巨人」：幫忙化解各種經營危機為轉機，到現在，這些大企業的某些老闆仍然與邸強維持良好的互動關係。 雖然身為風險與危機處理公司的總裁，而且是美國知名的華籍億萬富豪，邱強一向很低調，沒必要不接受各種媒體的採訪。

本刊獲悉他應國安會邀請來台秘密演講，透過管道安排，在他離台飛美前夕，獨家採訪這位全球獨一無二專靠化解危機致富的億萬富豪。今年四十九歲的邱強，出生書香世家。 父親邱言曦(楠)畢業於日本帝國大學新聞系，一生任職公務員，幹到新聞局副局長退休、之後獲聘為美洲中國時報的首任發行人。
邱強高中考上建中，但他坦承年少輕狂，好玩不愛念書，邱強說：「我玩到連教科書都扔掉了，真是玩得很離譜！」 直到考前三個月，才重新買書苦讀，結果考上清大核子工程系。邱強說：「清華四年最大的收獲，是建立我思考邏輯的底子。」 當年，邱強是掛車尾最後一名考上：畢業時，卻是全班第一名。
之後，他跟一般念理工科的畢業生一樣申請留學，他以百分之一的幸運機率，竟然獲得麻省理工學院核能工程研究所的就讀許可，厲害的是學校還給他獎學金（只有一個名額）。能打敗那麼多的競爭者獨獲青睞，邱強自己也感到很驚訝。 第一天報到時，他大膽問系主任：「為何會選中我？」系主任笑著回答：「不是你特別優秀，也不是別的學生比較差，最主要的原因是你雖然最後一名考進清大，卻是第一名畢業，我們認為你有潛力！」 邱強念了一年就順利拿到碩士，指導教授認為他資質不錯，攻理工最好也要懂得企管，於是建議他到隔鄰的哈佛修商務管理。
邱強在哈佛念完八個月的課程後，獲益良多，他說：「麻管理工學院讓我學習數據分析：哈佛增強我的邏輯概念。還有認識了馬英九和他的老婆周美青，又碰上台灣退出聯合國，那真是一段令人動容的歲月。」 回到麻省理工學院，邱強轉攻機械工程博士，指導教授剛巧是系主任。邱強覺得很幸運，教授讓他率領一組十六名大學生協助做流體力學的實驗：他自謙運氣好，人時地都配合無間，竟然在八個月內，博士論文與實驗一氣呵成，又通過博士面試，使他打破以往紀錄，成為麻省理工學院前無古人、後無來者，第一個也是唯一一個在八個月就獲得博學位的研究生，當時，他才二十四歲（他因身體因素沒服兵役）。

由於表現特別優異，邱強一拿到博士學位，就進入全世界最大的燃燒工程公司當核工程設計師。他運用他博士論文發明的「邱氏定律」，幫公司提升三十％核能發電的功率，第二年立刻被破格拔擢為經理（通常須四十歲左右）。 二十七歲，這個身材矮小的「台灣ㄧㄣ仔」，已經被美國政府核能管制委員 NRC 聘請為三哩島核電外洩首席調查員，帶領十六個核能專家，分析處理這次意外事故造成的危機，以及日後預防化解之道。
這是他第一次在大事故危機處理嶄露頭角，美國政府對這位年僅二十七歲的台灣小伙子，特別刮目相看。 邱強的優越表現，讓許多白人既欽羨又忌妒，在公司也受到一些排擠，因此，當他三十五歲當上有色人種最高職位資深經理，他決定離職。
人才總是不會被埋沒的，市值達三百二十億美金的南加大電力公司，立刻聘請他當副總裁。 當時，南加大電力公司因經營管理不善，股價從二十一美元跌落至十四元，可是高層始終沒發現癥結， 邱強 博士當下向總裁提出，必須立刻做緊急危機處理，否則不僅股價持續下跌，甚至 會危及公司生存。 南加大電力公司總裁撥款四百五十萬美元，讓他成立危機診斷及化解小組，他用了十名各專業領域的精英，花了七個月時間研析處理，對症下藥，公司的營運獲得立即明顯的改善，股價也重新回升到二十一元。
他也因此發現，美國有許多跨國企業，卻沒有一家專門解決危機的公司，於是，他跳出來組成全球惟一的危機及風險管埋公司。
接下來，找上門的大企業是美國第二大的石油公司，當時市值達一千億美金的Texaco。 他們透過南加大電力請邱強幫忙把脈，當時Texaco碰到生產成本過高、銷售速度太慢，導致競爭力薄弱的問題，邱強花了五個月時間，透過科學的數據分析，發現最大的問題出在管理制度﹔而公司知道有危機，卻查不出危機的原因，以及化解的方法。 邱強因為成功幫這些跨國性集團解決危機，連世界猶太人首富開的市值達兩千億美金的Home Depot家具連鎖店，也來請他開藥方這次，因為遭逢美國經濟不景氣，存貨又過多，邱強整整花了兩年的時間，才提升了四十五%的業績成長率，雖然時間長了些。猶太首富還是很感激他。
一九八六年，舉世最大的電腦軟體微軟公司，比爾蓋茲下面第四號人物科技執行長席思麥，也親自登門求診。 微軟的病灶跟一般公司不同，微軟的軟體雖然稱霸全世界，但卻有本土語言翻譯的障礙，也就是如何讓「產品當地化並被接受」，而且要比競爭對手快。 邱強透露，他只用三個月的時間，就解決了微軟的「速度危機」，至於是何妙方，他說基於職業道德與商業機密，無法洩漏，否則必須付出高額的賠償。
不過，這位國際公認的「危機化解大師」點出，處理各種不同類型的危機，有一個共通處，就是：什麼是危機？怎麼樣發現危機？如何化危機為轉機？ 他目前接的case幾乎都是國際性的集團，而且並非來者不拒，有兩種情況他會婉拒﹔一種是已經病入膏肓﹔一種是因為股價跌落，大股東要求問診，執行者僅為應付做形式上的敷衍。
此外，如果遇上兩家同質性的公司，他一定堅守職業道德，只挑選一家。邱強最著名的代表作之一，是一九九零的美國對伊拉克發動突襲，代號「沙漠風暴」的軍事行動。 邱強首度透露這段秘辛，邱強首度透露這段秘辛，一九九零年9月，他突然接到白宮首席安全顧問約翰史勒辛格的緊急電問他：「可不可以研擬伊拉克可能再度發動戰爭所造成危機的各種分析，並以科學客觀的數據研判哪些危機可能發生？」
五角大廈要他負責「沙漠風暴」行動的「危機數據分析及破解」，邱強立即招集危機處理及數據分析的博士精英，成立秘密七人小組，花了四個月時間，研擬出伊拉克可能對阿拉伯或美國發動戰爭的一百二十八種狀況，並針對每一種情況找出化解之道。
周詳的模擬計畫完成後，他親自飛往華盛頓DC，到白宮與約翰史勒辛格報告，並為此在白宮與其他專家開了三次冗長的機密會議。一九九一年一月底，美國決定在 二月二十三日 發動突襲。 約翰史勒辛格又打一通電話給他，請他研擬在發動戰突襲時可能導致的危機﹔這次，邱強的危幾處理小組研擬出五種可能情況，並提出破解之道。
這場驚動全球的「沙漠風暴」突襲行動，完全在美國的掌握之中，在七天之內迅速攻下伊拉克，美軍付出極少的代價，伊拉克卻死傷慘重。 邱強再度透露一個秘辛：「如果伊拉克也有做戰爭危機數據分析及破解」，邱強立即招集危機處理及數據分析的博士精英，成立秘密七人小組，花了四個月時間，危機處理，美國不可能在七日內打完而且美國最擔心的一種情況，伊拉克根本沒有想到。 如果，伊拉克用上這招，美國一定投鼠忌器，這場戰爭不見得會快速打贏。」
當然，美國政府付出一筆相當豐厚的酬勞，邱強在「沙漠風暴行動」的風險分析與危機處理，讓他不僅名利雙收，更提升他公司的國際知名度。
1999年，台灣發生五十年來的七二九超級大停電，台灣透過美國政府能源總署找到他，由當時的經濟部長王志剛聘請他回台成立國際小組，調查大停電危機的原因。
邱強由於成為國際危機化解大師，忙的十年沒回台灣，自己又是台灣人，沒談酬勞就一口答應，而且還率領了十三個博士級精英來台調查。 花了三個月的時間，邱強與他的危機處理小組，終於找出為何只倒一個輸電塔就造成全台灣大停電的癥結。
邱強說：「事關國家安全，而且我們也簽了保密協定，所以不透露。」 在國安會的內部演講中，他指出台灣當前有四大危機：軍事危機、財政危機、經濟危機及信心危機.

多數台灣民眾最擔心中共武力犯台﹔邱強卻認為，這種危機機率最小，因為，中共要付出最高的代價，獲益卻最低。 他覺得目前最大的危機反而是信心問題，信心危機台灣付出的成本最大﹔而中共卻不必動一兵一彈，就可輕易達成。

處理過各種不同型態與層面，幾位傑出危機大師說：「不管國家或台灣企業有需要，我一定回來為台灣打拼！」