「第一問，問時間
第一問，問時間，我怎樣才能留住你？
前面的信里我和你講了很多避免走彎路的方法，但我們不能不承認，其實走彎路是一件人在所難免的事情。我們擔心彎路走得太多，會不如別人走得遠，但也不妨想想事情的另一面。那就是，每一個人走過的路，讀過的書，做過的事，遇到過的人，也是我們獨一無二的人生的印記。
時間是有記憶的，我們的付出，時間總會懂得。我們希望時間能夠成就我們的夢想，可時間很少輕易許我們一個「夢想成真」。但有些時候，它又會補償我們一個「無心插柳柳成蔭」。你是否有過這樣的經歷呢？也許你曾經對一個人非常好，希望他也如此待你，但終究願望落空了；可是你也許在無意間幫助過一些人，那些事你都淡忘了，多年後他們卻給你帶來了驚喜。
20歲時，我讀了很多書，自己都不知道它們有什麼用。但或早或晚，或顯或隱，在我需要的時候，那些書中的智慧浮現在了我的腦海中。也是20多歲時，我曾經在國內做過一些工作，比如之前在一次問答里和你聊過的賣打印機的故事。當時那些經驗，我本以為永遠不會再用上了，結果到了40歲的時候，它們還真派上了用場。
只要我們認真對待了時間，拿它做了有意義的事情，時間就不會辜負我們。早晚有一天，以物質的形式，以精神的形式，它會帶給我們回報。
我們當然希望避免走彎路，但世界上可能從來沒有哪一個人的人生只有一條筆直的路線。即使走了彎路，只要我們認真經歷了，記住了，它們就會沈澱在生命中。某個時刻，當過去的印記再次浮現，這時你就會說：我留住了時間，它不曾消失。
第二問，問生活
第二個問題，問生活，怎樣才能成為生活的贏家？
人人都渴望成為贏家，但到底怎樣才是生活真正的贏家？在我看來，他人眼中的成功是一回事，自己的幸福是另一回事，後者才是人生的贏家。也許有時我們想控訴命運的不公，或者抱怨社會的複雜，但這其實沒有什麼意義，沒有一個抱怨者會成為人生贏家。
總有人比我們強、比我們幸運，但也總有人比我們弱、比我們不幸，這就是生活。不管是誰，都會經歷掙扎與困惑，只是我們容易看到別人的光芒，往往看不見背後的艱辛和努力罷了。我們今天收穫的，不過是昨天的付出，在遺憾沒有成為理想中的自己之前，不妨先想一想，為了成為理想中的自己，我是否付出了行動？
得到幸福有時候遠比想象的容易，因為幸福並不是獲得一切、應有盡有，不切實際的慾望和幻想只會讓幸福更遙遠。幸福本身是一種感受，把幸福寄託於物質之上總是難以持久。而且當我們為了追求物質變得像機器一樣沒有閒暇思考，就無法產生身心上的愉悅了，而那其實才是幸福真正的源泉。在我看來，所謂幸福的生活，是我們每天能夠有一點閒暇的時間去感受和觸碰，能做到這一點，我們就能在當下的每一天收穫幸福。
第三問，問金錢
第三個問題，問金錢，我怎樣才能擁有你？
也許除了隱士和真正的哲學家，每個人都會希望金錢多一點。因此，以各種各樣的方式，其實每個人都在時不時向金錢發問：到底怎樣才能擁有你呢？
有的人不懂得世間的規則，以為奪得就是擁有，所以覺得不論用什麼手段，得到了就行了，哪怕是去搶、去騙，稍微聰明的人還會用一些方法讓這種「搶」和「騙」合法化。不過，搶和騙的方式終究難以持久。
我上中學時，母親對我講，錢就是對你所做的貢獻的等值回報。她沒有學過經濟學，不知道勞動力等價交換這件事。但她這句話講出了獲得金錢的真正法則：用貢獻換取回報，貢獻越大，回報越大。
再往後，我對錢有了新的認識——錢只是媒介，用來衡量你所能調動的各種資源。這些資源可能是物質的，也可能是勞動力，也可能是人脈。你用1萬元買一條項鍊，你就獲得了其中所包含的金屬、人工等各種資源；你雇兩個人裝修房子，付了1萬元工錢，就獲得了1萬元的勞動力資源。不管你怎麼花，在一個商業社會里，1萬元對應的不同資源是等價的。你有10萬元，就可以調動比1萬元多10倍的資源，為你想要達成的目標服務。
所以一個人想要擁有更多的錢，就需要讓自己在單位時間內做出的貢獻更大，這些貢獻在商業社會里又會以錢來量化。如果你一小時的貢獻能抵得上別人一個月，你的收入就可能比別人多上百倍。當然，絕大部分的人達不到這個水平，我們和周圍的人相比，通常收入差距也就是百分之幾十。
不過，正如我之前多次和你介紹的朗道層級所言，在一個專業領域內部，人和人的差異就可能跨越數量級了。之前有同學留言，說看到一些演員年收入上億，覺得自己那麼辛苦讀書上學搞開發，一年還掙不到人家一天的錢，心裡很不舒服。其實大家不必覺得不平衡，因為這並不是對等的比較。
如果要看平均收入，演藝界的平均收入水平並不比IT行業更高，只是它的頭部效應更加明顯。在演藝界，第一名和第十名收入可能就差出一個數量級，第十名和第一百名又差出一個數量級。而無論是在哪個專業領域內部，一旦達到了頂級水平，收入就很難壓低。因為在市場的作用下，總會有人願意支付他高額的報酬。當然，社會公平很重要，因此國家會有稅收政策做二次分配的調節。
我自己碰到過一件事，一位在大學里搞科研的年輕科技工作者有一次很委屈地向我抱怨，說自己拿了博士學位，一年在海內外發表了十多篇論文，承擔了國家200多萬經費的研究項目，結果算了算，自己得從明朝開始工作才能趕得上掙錢最多的演員一年的收入。我告誡他，這樣的心態很要不得。在比較收入之前，要看看自己在行業中的位置。
我和他講，你拿了國家200多萬的科研經費，但那並不是你的創造，而是人民把資源給你使用。你發表了十多篇論文，每篇的引用數量只有十次左右，加起來剛過百，還有一半是自己引用自己，全世界讀過你論文的人不過百十來人，到目前為止，也沒有哪一個產品直接或者間接用到了你的研究成果。如果要和擁有上億觀眾的最頂級演員相比，這個貢獻可能還真沒法比。當然，如果這些研究後來開發出了實際的用途，為社會做出了貢獻，那社會也會給出應有的回報。只不過從經驗來講，可能99%的論文最後不過是變成了故紙堆而已。
換一個角度講，做對比也要在同檔次的人之間對比。那些真正在科技上有突出貢獻的人收入可不低，他們能夠調動的資源可能更多。在谷歌發明瞭自動駕駛汽車技術的拉萬斯基，薪酬收入有上億美元，但谷歌普通工程師則和他差了三個數量級。如果想和其他領域的第一名比，不如先問問自己是否在自己的領域內做到了第一名。
追求自己的發展也是同樣的道理，如果你身在一個一萬人的單位，不妨問問自己，自己的重要性和貢獻是否能排到前一百名呢？如果還沒有，那就把心思放到這上面，真做到了那一步，金錢趕都趕不走。
另外，獲得金錢這種資源是一種能力，用好它又是另一回事。如果自己擁有很多資源卻沒有本事用好它，不如把它們交給更能夠用好資源的人去使用。很多人問我，精英在見識上究竟比常人高在哪裡？在我看來，真正的精英想要的是一個更好的世界，而常人通常只是要一個更好的自己。
擁有了很多資源卻不能利用好，最多算是一個土財主或者守財奴。對於一個人來講，賺到錢是社會對他過去貢獻的認可，而他花掉的錢、花得有意義的錢，才體現錢這個資源未來的價值。
第四問，問眼前人
最後一個問題，問眼前人，我怎樣才能贏得友誼，怎樣才能收穫愛情，怎樣才能讓婚姻長久？
我收到過很多與此有關的問題，不過在我看來，無論是上面講的哪一種關係，要維持好它們，最好的行動就是陪伴和交流。再好的朋友，如果不經常走動走動，也會變成陌生人；再深情的海誓山盟，都不如花時間去陪伴。
人一輩子打交道最多的人就是身邊的親友伴侶，大概也就十幾個人，這十幾個人的關係處理好了，一輩子的生活都會更順利。
有的人會講，其實我心裡一直想著他們。既然想著，那就行動。心裡想著和花時間陪伴是兩回事，心裡想想幾乎沒有成本，但花時間去陪伴實際上是在把生命交付給彼此。
我身邊有不少人回國創業或者去尋找新的機會，通常夫妻雙方為了孩子的教育，會一個人回國，一個人留美，這樣幾年後的結果一般是離婚。雖然異地戀有成功的，但對於飲食男女來講，婚姻很難經得起兩地分居的考驗，更不要說戀愛了。感情需要在每一天的相處、每一次的交談、每一件小事中細細體會。距離是親密關係的天敵。
大多數人可能說不出到底什麼才是愛，但幾乎每一個人都能感知自己是否快樂、是否感到幸福，都能區分溫情和冷漠的差異。不要等到失去了才懷念起那種幸福的可貴，趁著感情在，趁著兩個人還共享同一個時空，好好相愛吧。
愛無需總是掛在嘴邊，更不用曬給別人看，只要把心思放在彼此身上，把生活的細節處理妥當：一天三頓吃什麼，節假日做什麼，早起散步還是晚上遛彎……彼此多溝通，有事多商量，都為對方著想，感情就能持久。
小結
總結一下，人的一輩子其實很短暫，要讓自己健康、開心地活著。心裡有追求，出門有工作，身邊有親人，這一輩子就沒有白活。」

摩爾定律放緩　靠啥提升AI晶片運算力？

作者 : 黃燁鋒，EE Times China
2021-07-26

對於電子科技革命的即將終結的說法，一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續，也就意味著資訊技術的整棟大樓建造都將出現停滯，那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有的，但這波革命始終也沒有結束。AI技術本質上仍然是第三次科技革命的延續……

人工智慧(AI)的技術發展，被很多人形容為第四次科技革命。前三次科技革命，分別是蒸汽、電氣、資訊技術(電子科技)革命。彷彿這“第四次”有很多種說辭，比如有人說第四次科技革命是生物技術革命，還有人說是量子技術革命。但既然AI也是第四次科技革命之一的候選技術，而且作為資訊技術的組成部分，卻又獨立於資訊技術，即表示它有獨到之處。

電子科技革命的即將終結，一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續，也就意味著資訊技術的整棟大樓建造都將出現停滯，那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有，但這波革命始終也沒有結束。

AI技術本質上仍然是第三次科技革命的延續，它的發展也依託於幾十年來半導體科技的進步。這些年出現了不少專門的AI晶片——而且市場參與者相眾多。當某一個類別的技術發展到出現一種專門的處理器為之服務的程度，那麼這個領域自然就不可小覷，就像當年GPU出現專門為圖形運算服務一樣。

所以AI晶片被形容為CPU、GPU之後的第三大類電腦處理器。AI專用處理器的出現，很大程度上也是因為摩爾定律的發展進入緩慢期：電晶體的尺寸縮減速度，已經無法滿足需求，所以就必須有某種專用架構(DSA)出現，以快速提升晶片效率，也才有了專門的AI晶片。

另一方面，摩爾定律的延緩也成為AI晶片發展的桎梏。在摩爾定律和登納德縮放比例定律(Dennard Scaling)發展的前期，電晶體製程進步為晶片帶來了相當大的助益，那是「happy scaling down」的時代——CPU、GPU都是這個時代受益，不過Dennard Scaling早在45nm時期就失效了。

AI晶片作為第三大類處理器，在這波發展中沒有趕上happy scaling down的好時機。與此同時，AI應用對運算力的需求越來越貪婪。今年WAIC晶片論壇圓桌討論環節，燧原科技創始人暨CEO趙立東說：「現在訓練的GPT-3模型有1750億參數，接近人腦神經元數量，我以為這是最大的模型了，要千張Nvidia的GPU卡才能做。談到AI運算力需求、模型大小的問題，說最大模型超過萬億參數，又是10倍。」

英特爾(Intel)研究院副總裁、中國研究院院長宋繼強說：「前兩年用GPU訓練一個大規模的深度學習模型，其碳排放量相當於5台美式車整個生命週期產生的碳排量。」這也說明了AI運算力需求的貪婪，以及提供運算力的AI晶片不夠高效。

不過作為產業的底層驅動力，半導體製造技術仍源源不斷地為AI發展提供推力。本文將討論WAIC晶片論壇上聽到，針對這個問題的一些前瞻性解決方案——有些已經實現，有些則可能有待時代驗證。

XPU、摩爾定律和異質整合

「電腦產業中的貝爾定律，是說能效每提高1,000倍，就會衍生出一種新的運算形態。」中科院院士劉明在論壇上說，「若每瓦功耗只能支撐1KOPS的運算，當時的這種運算形態是超算；到了智慧型手機時代，能效就提高到每瓦1TOPS；未來的智慧終端我們要達到每瓦1POPS。 這對IC提出了非常高的要求，如果依然沿著CMOS這條路去走，當然可以，但會比較艱辛。」

針對性能和效率提升，除了尺寸微縮，半導體產業比較常見的思路是電晶體結構、晶片結構、材料等方面的最佳化，以及處理架構的革新。

(1)AI晶片本身其實就是對處理器架構的革新，從運算架構的層面來看，針對不同的應用方向造不同架構的處理器是常規，更專用的處理器能促成效率和性能的成倍增長，而不需要依賴於電晶體尺寸的微縮。比如GPU、神經網路處理器(NPU，即AI處理器)，乃至更專用的ASIC出現，都是這類思路。

CPU、GPU、NPU、FPGA等不同類型的晶片各司其職，Intel這兩年一直在推行所謂的「XPU」策略就是用不同類型的處理器去做不同的事情，「整合起來各取所需，用組合拳會好過用一種武器去解決所有問題。」宋繼強說。Intel的晶片產品就涵蓋了幾個大類，Core CPU、Xe GPU，以及透過收購獲得的AI晶片Habana等。

另外針對不同類型的晶片，可能還有更具體的最佳化方案。如當代CPU普遍加入AVX512指令，本質上是特別針對深度學習做加強。「專用」的不一定是處理器，也可以是處理器內的某些特定單元，甚至固定功能單元，就好像GPU中加入專用的光線追蹤單元一樣，這是當代處理器普遍都在做的一件事。

(2)從電晶體、晶片結構層面來看，電晶體的尺寸現在仍然在縮減過程中，只不過縮減幅度相比過去變小了——而且為緩解電晶體性能的下降，需要有各種不同的技術來輔助尺寸變小。比如說在22nm節點之後，電晶體變為FinFET結構，在3nm之後，電晶體即將演變為Gate All Around FET結構。最終會演化為互補FET (CFET)，其本質都是電晶體本身充分利用Z軸，來實現微縮性能的提升。

劉明認為，「除了基礎元件的變革，IC現在的發展還是比較多元化，包括新材料的引進、元件結構革新，也包括微影技術。長期賴以微縮的基本手段，現在也在發生巨大的變化，特別是未來3D的異質整合。這些多元技術的協同發展，都為晶片整體性能提升帶來了很好的增益。」

他並指出，「從電晶體級、到晶圓級，再到晶片堆疊、引線接合(lead bonding)，精準度從毫米向奈米演進，互連密度大大提升。」從晶圓/裸晶的層面來看，則是眾所周知的朝more than moore’s law這樣的路線發展，比如把兩片裸晶疊起來。現在很熱門的chiplet技術就是比較典型的並不依賴於傳統電晶體尺寸微縮，來彈性擴展性能的方案。

台積電和Intel這兩年都在大推將不同類型的裸晶，異質整合的技術。2.5D封裝方案典型如台積電的CoWoS，Intel的EMIB，而在3D堆疊上，Intel的Core LakeField晶片就是用3D Foveros方案，將不同的裸晶疊在一起，甚至可以實現兩片運算裸晶的堆疊、互連。

之前的文章也提到過AMD剛發佈的3D V-Cache，將CPU的L3 cache裸晶疊在運算裸晶上方，將處理器的L3 cache大小增大至192MB，對儲存敏感延遲應用的性能提升。相比Intel，台積電這項技術的獨特之處在於裸晶間是以混合接合(hybrid bonding)的方式互連，而不是micro-bump，做到更小的打線間距，以及晶片之間數十倍通訊性能和效率提升。

這些方案也不直接依賴傳統的電晶體微縮方案。這裡實際上還有一個方面，即新材料的導入專家們沒有在論壇上多說，本文也略過不談。

1,000倍的性能提升

劉明談到，當電晶體微縮的空間沒有那麼大的時候，產業界傾向於採用新的策略來評價技術——「PPACt」——即Powe r(功耗)、Performance (性能)、Cost/Area-Time (成本/面積-時間)。t指的具體是time-to-market，理論上應該也屬於成本的一部分。

電晶體微縮方案失效以後，「多元化的技術變革，依然會讓IC性能得到進一步的提升。」劉明說，「根據預測，這些技術即使不再做尺寸微縮，也會讓IC的晶片性能做到500~1,000倍的提升，到2035年實現Zetta Flops的系統性能水準。且超算的發展還可以一如既往地前進；單裸晶儲存容量變得越來越大，IC依然會為產業發展提供基礎。」

500~1,000倍的預測來自DARPA，感覺有些過於樂觀。因為其中的不少技術存在比較大的邊際遞減效應，而且有更實際的工程問題待解決，比如運算裸晶疊層的散熱問題——即便業界對於這類工程問題的探討也始終在持續。

不過1,000倍的性能提升，的確說明摩爾定律的終結並不能代表第三次科技革命的終結，而且還有相當大的發展空間。尤其本文談的主要是AI晶片，而不是更具通用性的CPU。

矽光、記憶體內運算和神經型態運算

在非傳統發展路線上(以上內容都屬於半導體製造的常規思路)，WAIC晶片論壇上宋繼強和劉明都提到了一些頗具代表性的技術方向(雖然這可能與他們自己的業務方向或研究方向有很大的關係)。這些技術可能尚未大規模推廣，或者仍在商業化的極早期。

(1)近記憶體運算和記憶體內運算：處理器性能和效率如今面臨的瓶頸，很大程度並不在單純的運算階段，而在資料傳輸和儲存方面——這也是共識。所以提升資料的傳輸和存取效率，可能是提升整體系統性能時，一個非常靠譜的思路。

這兩年市場上的處理器產品用「近記憶體運算」(near-memory computing)思路的，應該不在少數。所謂的近記憶體運算，就是讓儲存(如cache、memory)單元更靠近運算單元。CPU的多層cache結構(L1、L2、L3)，以及電腦處理器cache、記憶體、硬碟這種多層儲存結構是常規。而「近記憶體運算」主要在於究竟有多「近」，cache記憶體有利於隱藏當代電腦架構中延遲和頻寬的局限性。

這兩年在近記憶體運算方面比較有代表性的，一是AMD——比如前文提到3D V-cache增大處理器的cache容量，還有其GPU不僅在裸晶內導入了Infinity Cache這種類似L3 cache的結構，也更早應用了HBM2記憶體方案。這些實踐都表明，儲存方面的革新的確能帶來性能的提升。

另外一個例子則是Graphcore的IPU處理器：IPU的特點之一是在裸晶內堆了相當多的cache資源，cache容量遠大於一般的GPU和AI晶片——也就避免了頻繁的訪問外部儲存資源的操作，極大提升頻寬、降低延遲和功耗。

近記憶體運算的本質仍然是馮紐曼架構(Von Neumann architecture)的延續。「在做處理的過程中，多層級的儲存結構，資料的搬運不僅僅在處理和儲存之間，還在不同的儲存層級之間。這樣頻繁的資料搬運帶來了頻寬延遲、功耗的問題。也就有了我們經常說的運算體系內的儲存牆的問題。」劉明說。

構建非馮(non-von Neumann)架構，把傳統的、以運算為中心的馮氏架構，變換一種新的運算範式。把部分運算力下推到儲存。這便是記憶體內運算(in-memory computing)的概念。

記憶體內運算的就現在看來還是比較新，也有稱其為「存算一體」。通常理解為在記憶體中嵌入演算法，儲存單元本身就有運算能力，理論上消除資料存取的延遲和功耗。記憶體內運算這個概念似乎這在資料爆炸時代格外醒目，畢竟可極大減少海量資料的移動操作。

其實記憶體內運算的概念都還沒有非常明確的定義。現階段它可能的內涵至少涉及到在儲記憶體內部，部分執行資料處理工作；主要應用於神經網路(因為非常契合神經網路的工作方式)，以及這類晶片具體的工作方法上，可能更傾向於神經型態運算(neuromorphic computing)。

對於AI晶片而言，記憶體內運算的確是很好的思路。一般的GPU和AI晶片執行AI負載時，有比較頻繁的資料存取操作，這對性能和功耗都有影響。不過記憶體內運算的具體實施方案，在市場上也是五花八門，早期比較具有代表性的Mythic導入了一種矩陣乘的儲存架構，用40nm嵌入式NOR，在儲記憶體內部執行運算，不過替換掉了數位週邊電路，改用類比的方式。在陣列內部進行模擬運算。這家公司之前得到過美國國防部的資金支援。

劉明列舉了近記憶體運算和記憶體內運算兩種方案的例子。其中，近記憶體運算的這個方案應該和AMD的3D V-cache比較類似，把儲存裸晶和運算裸晶疊起來。

劉明指出，「這是我們最近的一個工作，採用hybrid bonding的技術，與矽通孔(TSV)做比較，hybrid bonding功耗是0.8pJ/bit，而TSV是4pJ/bit。延遲方面，hybrid bonding只有0.5ns，而TSV方案是3ns。」台積電在3D堆疊方面的領先優勢其實也體現在hybrid bonding混合鍵合上，前文也提到了它具備更高的互連密度和效率。

另外這套方案還將DRAM刷新頻率提高了一倍，從64ms提高至128ms，以降低功耗。「應對刷新率變慢出現拖尾bit，我們引入RRAM TCAM索引這些tail bits」劉明說。

記憶體內運算方面，「傳統運算是用布林邏輯，一個4位元的乘法需要用到幾百個電晶體，這個過程中需要進行資料來回的移動。記憶體內運算是利用單一元件的歐姆定律來完成一次乘法，然後利用基爾霍夫定律完成列的累加。」劉明表示，「這對於今天深度學習的矩陣乘非常有利。它是原位的運算和儲存，沒有資料搬運。」這是記憶體內運算的常規思路。

「無論是基於SRAM，還是基於新型記憶體，相比近記憶體運算都有明顯優勢，」劉明認為。下圖是記憶體內運算和近記憶體運算，精準度、能效等方面的對比，記憶體內運算架構對於低精準度運算有價值。

下圖則總結了業內主要的一些記憶體內運算研究，在精確度和能效方面的對應關係。劉明表示，「需要高精確度、高運算力的情況下，近記憶體運算目前還是有優勢。不過記憶體內運算是更新的技術，這幾年的進步也非常快。」

去年阿里達摩院發佈2020年十大科技趨勢中，有一個就是存算一體突破AI算力瓶頸。不過記憶體內運算面臨的商用挑戰也一點都不小。記憶體內運算的通常思路都是類比電路的運算方式，這對記憶體、運算單元設計都需要做工程上的考量。與此同時這樣的晶片究竟由誰來造也是個問題：是記憶體廠商，還是數文書處理器廠商？(三星推過記憶體內運算晶片，三星、Intel垂直整合型企業似乎很適合做記憶體內運算…)

(2)神經型態運算：神經型態運算和記憶體內運算一樣，也是新興技術的熱門話題，這項技術有時也叫作compute in memory，可以認為它是記憶體內運算的某種發展方向。神經型態和一般神經網路AI晶片的差異是，這種結構更偏「類人腦」。

進行神經型態研究的企業現在也逐漸變得多起來，劉明也提到了AI晶片「最終的理想是在結構層次模仿腦，元件層次逼近腦，功能層次超越人腦」的「類腦運算」。Intel是比較早關注神經型態運算研究的企業之一。

傳說中的Intel Loihi就是比較典型存算一體的架構，「這片裸晶裡面包含128個小核心，每個核心用於模擬1,024個神經元的運算結構。」宋繼強說，「這樣一塊晶片大概可以類比13萬個神經元。我們做到的是把768個晶片再連起來，構成接近1億神經元的系統，讓學術界的夥伴去試用。」

「它和深度學習加速器相比，沒有任何浮點運算——就像人腦裡面沒有乘加器。所以其學習和訓練方法是採用一種名為spike neutral network的路線，功耗很低，也可以訓練出做視覺辨識、語言辨識和其他種類的模型。」宋繼強認為，不採用同步時脈，「刺激的時候就是一個非同步電動勢，只有工作部分耗電，功耗是現在深度學習加速晶片的千分之一。」

「而且未來我們可以對不同區域做劃分，比如這兒是視覺區、那兒是語言區、那兒是觸覺區，同時進行多模態訓練，互相之間產生關聯。這是現在的深度學習模型無法比擬的。」宋繼強說。這種神經型態運算晶片，似乎也是Intel在XPU方向上探索不同架構運算的方向之一。

(2)微型化矽光：這個技術方向可能在層級上更偏高了一些，不再晶片架構層級，不過仍然值得一提。去年Intel在Labs Day上特別談到了自己在矽光(Silicon Photonics)的一些技術進展。其實矽光技術在連接資料中心的交換機方面，已有應用了，發出資料時，連接埠處會有個收發器把電訊號轉為光訊號，透過光纖來傳輸資料，另一端光訊號再轉為電訊號。不過傳統的光收發器成本都比較高，內部元件數量大，尺寸也就比較大。

Intel在整合化的矽光(IIIV族monolithic的光學整合化方案)方面應該是商業化走在比較前列的，就是把光和電子相關的組成部分高度整合到晶片上，用IC製造技術。未來的光通訊不只是資料中心機架到機架之間，也可以下沉到板級——就跟現在傳統的電I/O一樣。電互連的主要問題是功耗太大，也就是所謂的I/O功耗牆，這是這類微型化矽光元件存在的重要價值。

這其中存在的技術挑戰還是比較多，如做資料的光訊號調變的調變器調變器，據說Intel的技術使其實現了1,000倍的縮小；還有在接收端需要有個探測器(detector)轉換光訊號，用所謂的全矽微環(micro-ring)結構，實現矽對光的檢測能力；波分複用技術實現頻寬倍增，以及把矽光和CMOS晶片做整合等。

Intel認為，把矽光模組與運算資源整合，就能打破必須帶更多I/O接腳做更大尺寸處理器的這種趨勢。矽光能夠實現的是更低的功耗、更大的頻寬、更小的接腳數量和尺寸。在跨處理器、跨伺服器節點之間的資料互動上，這類技術還是頗具前景，Intel此前說目標是實現每根光纖1Tbps的速率，並且能效在1pJ/bit，最遠距離1km，這在非本地傳輸上是很理想的數字。

還有軟體…

除了AI晶片本身，從整個生態的角度，包括AI感知到運算的整個鏈條上的其他組成部分，都有促成性能和效率提升的餘地。比如這兩年Nvidia從軟體層面，針對AI運算的中間層、庫做了大量最佳化。相同的底層硬體，透過軟體最佳化就能實現幾倍的性能提升。

宋繼強說，「我們發現軟體最佳化與否，在同一個硬體上可以達到百倍的性能差距。」這其中的餘量還是比較大。

在AI開發生態上，雖然Nvidia是最具發言權的；但從戰略角度來看，像Intel這種研發CPU、GPU、FPGA、ASIC，甚至還有神經型態運算處理器的企業而言，不同處理器統一開發生態可能更具前瞻性。Intel有個稱oneAPI的軟體平台，用一套API實現不同硬體性能埠的對接。這類策略對廠商的軟體框架構建能力是非常大的考驗——也極大程度關乎底層晶片的執行效率。

在摩爾定律放緩、電晶體尺寸微縮變慢甚至不縮小的前提下，處理器架構革新、異質整合與2.5D/3D封裝技術依然可以達成1,000倍的性能提升；而一些新的技術方向，包括近記憶體運算、記憶體內運算和微型矽光，能夠在資料訪存、傳輸方面產生新的價值；神經型態運算這種類腦運算方式，是實現AI運算的目標；軟體層面的最佳化，也能夠帶動AI性能的成倍增長。所以即便摩爾定律嚴重放緩，AI晶片的性能、效率提升在上面提到的這麼多方案加持下，終將在未來很長一段時間內持續飛越。這第三(四)次科技革命恐怕還很難停歇。

資料來源：https://www.eettaiwan.com/20210726nt61-ai-computing/?fbclid=IwAR3BaorLm9rL2s1ff6cNkL6Z7dK8Q96XulQPzuMQ_Yky9H_EmLsBpjBOsWg

📜 [專欄新文章] 從 Rollups 來聊聊以太坊 Layer2 的演進

✍️ Kimi Wu

📥 歡迎投稿： https://medium.com/taipei-ethereum-meetup #徵技術分享文 #使用心得 #教學文 #medium

Photo by Clark Van Der Beken on Unsplash

去年 Defi summer 的熱潮後，以太上 Defi 應用呈現爆炸性成長，造就高昂的交易手續費，為了有更快的交易速度及可負擔的交易費用，人們對側鏈、Layer2 的需求更加強烈。Rollups 是 Layer2 的一種技術，在今年相當熱門，幾個耕耘已久的專案 zkSync、Optimism、Arbitrum 等也開始廣為人知。今天想來聊聊以太坊上 Layer2 技術的演進。

State Channel

state channel 最一開始是建立在 Bitcoin 上，最廣為人知的就是 lightning network。簡單來說，就是兩方在私下建立一條可以互相轉帳的通道，轉帳完畢後把通道關閉，接著將交易後的狀態更新到鏈上。若交易一筆後即關閉通道，那交易成本就跟在鏈上一樣，所以在實務上，通道一直開著（或是一段時間），交易數筆、數百筆後再上鏈更新狀態，藉此平均每筆的交易手續費就大幅降低。也因為只需通道雙方驗證交易內容，交易速度能大幅提升，讓小額支付能夠實現，就不需等10分鐘（Bitcoin）後交易才會被打包，甚至要等6個區塊的時間。而最早在以太上的 state channel 是 Raiden。

對於 Raiden 技術有興趣的可以參考這篇文章。

Plasma

Plasma 於2017年8月由 V 跟 Joseph Poon （Lightning Network的創始人之一）所提出，概念上是可以有鏈中鏈中鏈（就是Layer2 → Layer3 → … LayerN)，藉此可達到百萬級甚至更高的交易量，不過概念太美好，沒人知道怎麼實作。

隔年1月 V 提出了 Plasma 的第一個版本 Plasma MVP，是以 UTXOs 模型的設計，接著3月提出了第二個版本 Plasma Cash，同年（2018）Plasma 的提案數呈現著爆炸性的成長（絕大部分都是基於 Plasma MVP 跟 Plasma Cash 做改進）（如下圖），強大的社群力量，讓大部分關鍵的問題在同年年底都找到了解答。也為之後的 Optimistic Rollup 打下了基礎。

而較著名的開發團隊，除了 EF 出來的 Plasma Group 外，還有 OmiseGo 跟 Matic（現在的 Polygon）。

對 Plasma 技術有興趣的，可以參考這篇、這篇跟這篇

https://ethresear.ch/t/plasma-world-map-the-hitchhiker-s-guide-to-the-plasma/4333

Plasma 看似一切美好，但因為資料的可取得性（data availability）的問題，使得在使用者體驗上有點糟糕。

Plasma 的所有交易資料都在 Plasma 鏈上，而 Plasma 鏈的礦工（即operator）只需繳交 Merkle root 到 L1 的合約作公證就好。因此若 operator 作惡，在 Plasma 鏈上交易者，就需有能力證明 operator 作惡。

在 Plasma 設計中有”所有者”的概念（UTXOs 的設計中，收款者需要到拿送款者的轉出證明，才能動用這筆款項，轉出證明只有收款人會擁有），如果該所有者不關心自己的資產，就可能造成資產無效的結果（account-based 的設計，若你不理你的帳號，別人一樣可以轉帳到你的戶頭中）。因此每個交易者須有能力自行提出證明，無法委託第三方。

而要證明這件事，用戶需要把 Plasma 鏈上的交易都下載下來，才能證明 operator 做了一件不合法的行為，也才能產生詐欺證明（fraud proof）到 L1 上的合約來證明 operator 作惡。而這個送出的詐欺證明，必需要被確保可以安全地送到 L1 上的合約被執行，因此需要有一段挑戰期，讓使用者可以下載及驗證資料（或是網路塞車造成詐欺證明無法被合約執行）。

題外話，Eth 2.0 light client利用了 ECC （Error Correction Code）的原理，所以只需要部分資料就可以驗證正確性。

Rollups

同年（2018) 9月，在支線專注隱私性的開發的 Barry Whitehat 提出了 zk Rollup，隨後 V 也在以太坊研究員論壇發了一篇文章，解釋 zk Rollup 是如何運作的，並以On-chain scaling to potentially ~500 tx/sec through mass tx validation 為標題，也因此開啟了 Layer2 新的一頁。隔年（2019）三月，Matter Labs 獲得了 EF 的 grant 將 zk Rollup 產品化，也就是大家所知的 zkSync。

所謂的 rollups，一樣是在 Layer2 上做交易，不同的是 L1 上會記錄每一筆的交易紀錄。什麼！如果每一筆交易紀錄都上鏈，跟一般 L1 交易有什麼不同？想了解細節可以看這篇。簡單來說，在合約裡用了一顆樹來記錄每個帳號的狀態，樹的第幾片葉子（index）代表一個帳號地址，因此帳號就從20 bytes 的地址變成了幾個 bytes 的 index。以 ZK Rollups 來說，交易都是在 Layer2 被驗證過的，所以簽章資訊（65 bytes）也不用上鏈，Optimistic Rollups 會利用簽章聚合的技術，數百個簽章最終會被聚合成一個。因此，交易資料從原本100多 bytes 變成了10幾個 bytes。因為交易紀錄都 ”放上鏈“，資料可取得性也就不是問題了。

”放上鏈”指的是利用 calldata 的方式放在鏈上，並非一般認知的寫進合約裡。非０值的 calldata 每 byte 需要耗費 16 gas，而合約寫進一個 32bytes 的資料需要花 20,000（新增） or 5,000（修改） gas，相當於每個 byte 的成本為625 or 156 gas，約為 calldata 的 40 or 10倍。

同年（2019）六月 John Adler 在以太坊研究者論壇提出了Minimal Viable Merged Consensus，也就是大家熟知的 Optimistic Rollups 的原型，接著 Plasma Group 基於John Adler 的提案，提出了 OVM，從此 Layer2 上除了單純的轉帳外，還可以執行合約，也奠定了 Rollups 在 Layer2 的地位，開啟 rollups 的新世代。

StarkWare 團隊建立了可評估的數學模型，驗證了 calldata 的成本從64 gas 降到 16 gas並不會對鏈的安全造成危害，提出了 EIP-2028（在 Istanbul 上線），也是推動 rollups 可行性的重要一環。

Validity Proof v.s. Fraud Proof

Optimistic Rollups 跟 ZK Rollups 最近有很多文章在介紹跟比較，這邊就不贅述。這邊想聊的是資料的有效性，這篇文章解釋地很好，這裏擷取部分敘述。ZK Rollups 保證了上鏈的資料都是正確的，資料必須被驗證過是合法的（例如沒有被雙花）才會改變使用者的狀態（例如 balance），跟現在各個主鏈的設計是一樣的，稱作有效性證明（Validity Proof），這種設計假設大家都是壞人，要通過驗證才會相信你，確認資料是百分之百的正確聽起來很理所當然，但是背後要維護資料的正確性，需要相當高的成本。

Optimistic Rollups 則是相反，假設大家都是好人，送上鏈的交易都接受，當發現有人作弊，再靠檢舉機制來更正狀態，這稱作詐欺證明（Fraud Proof）。這樣的機制系統維護成本較低（L1 上不需要驗證每一筆資料的正確性），但需要多一個爪耙子的角色來維護系統的安全，也就多一個系統潛在的風險。而要確保爪耙子有足過的時間反應，就不能讓使用者即時地離開系統，這是 Optimistic Rollups 最被詬病的一點，提款要等七天（現在有第三方流動性提供者，使用者可以請第三方流動性提供者預付使用者的提款。使用者支付手續費來換取快速提款的服務，而流動性提供者則承擔資產鎖住七天的風險來賺取手續費。不過在 protocol 層以安全性為主要考量，還是需要較長的挑戰期）。

ZK Rollups 的實作上，也有數個小時的提款期，不過那是基於成本考量，而非安全性。

此外對照於 Plasma， rollups 的設計是 account-based，交易也都公開在鏈上，每個人都可以參與監督及提出詐欺證明。

ZK Rollups v.s. Optimistic Rollups

ZK Rollups 從資料的有效性來看勝過 Optimistic Rollups，離開系統時不需要額外的挑戰期，能即時提款離開系統，不過付出的代價就是交易延遲上鏈。因為產生 zkp 證明需要龐大的運算量，產生一次證明，大約需要10 ~ 20分鐘，所以說在 Layer2 上做一筆交易，10分鐘後你的交易才是有 L1 的安全性。

為了能盡早得知發出的交易是否完成，實作上會把完成的交易先丟上鏈，等zkp 證明產生後再上鏈驗證其正確性，若驗證成功，則交易視同有 L1 的安全性。

但是在通用性上，Optimistic Rollups 沒有複雜的 zkp 電路的限制，對於合約的支援度上更好，而且 zkp（SNAKRKs）在使用前需要一個盛大的啟用典禮（trusted setup ceremony）。

zkSync

zkSync 1.0 在去年（2020） 六月上線，因為不能執行合約，使用的專案並不多。同年的年初，Matter Labs 已經默默在開發一種新語言 Zinc，是可以在 zkSync 上開發合約的語言。年底，與 Defi 專案 Curve 合作，發表了在 zkSync上可以跑基本版的 Curve（兩幣交換）。今年（2021）三月，Matter Labs 發表了令人振奮的消息，zkSync 支援 EVM！只需要部分修改現有的合約就可以部署到 zkSync 上，測試網今年五月已經上線，主網預計8月上線。不過目前測試網上的交易量非常地少，相信在初期還是有相當多問題或是困難，以短期來看，Optimistic Rollups 陣營的速度跟支援度略勝一籌，不過個人相信長期會是 ZK Rollups 的世代（私心認為 lol），但最終還是由生態系的大小來決定贏家。

在 ZK 這個陣線上有延伸出不同的設計，為了加快速度及減少上鏈成本，StarkWare 提出了 Validium 的概念，資料不上鏈但使用 zkp 確保資料的正確性，像是 StarkWare 的 Volition 跟 Matter Labs 的 zkPorter 都是同樣概念的實作，不過不是本篇的重點，就不多解釋。

ETH 2

V在2020年10月提出了 A Rollup Centric Ethereum，rollup 也因此進到 Eth2 的規劃中。Eth2 的設計中 shard chain 是資料層，而在 phase 2 後才有執行層（也就是才能執行合約），V 的提案 除了讓 shard chain 當資料層外，也會內建 rollups 的邏輯。至於會採用哪種 rollups 目前沒看到結論，不過 V 本人是傾向 ZK Rollups。如果成真，那未來數百個 rollups 之間的溝通，將會是另一個挑戰 。

專案比較

ZK Rollups 有目前這幾個較知名的專案： zkSync（Matter Labs）、 Hermez（Iden3）、 Loopring（Loopring）、 StarkNet（StarkWare）跟 Aztec（Aztec）。

Optimistic Rollups 目前幾個專案 Optimism（Optimisim，前Plasma Group 成員）、 Arbitrum（Offchain Labs）、 Fuel（Fuel）。

這是目前幾大 rollups 的生態系（今年3月時的統計），比較值得一提的是，Uniswap 團隊因為社群的投票，也將會在 Arbitrum 上面部署，對於整個 Arbitrum 的生態，相信有很大的影響。

https://www.chainnews.com/articles/872971457746.htm

感謝 NIC Lin 及 Chih-Cheng Liang 的審查跟建議。若有錯誤或不同觀點，歡迎指教。

從 Rollups 來聊聊以太坊 Layer2 的演進 was originally published in Taipei Ethereum Meetup on Medium, where people are continuing the conversation by highlighting and responding to this story.

👏 歡迎轉載分享鼓掌

要出國了，準備好要換外幣了？🧐
匯率看板一堆密密麻麻的數字總是有看沒有懂？
為什麼出國刷卡少一句話可能多虧3%？😱
這三件事學起來，不要讓銀行默默賺很大

★風險提示★：鼠在影片所提供之方法，僅為舉例參考，並無任何推薦投資人買賣之意，不保證損益，投資前請獨立思考、審慎評估可承擔之風險，且勿任意買賣。

【玩泰國泰幣怎麼換？鼠算給你看】
http://rj1980.pixnet.net/blog/post/48064172

【12/5補充】
大家對影片中「先換美金再換泰幣」的看法有些分歧
鼠算給大家看好了
以2017/12/5臺銀和泰國觀光最常換錢的SuperRich匯率來比較
臺銀：現金賣出美金30.177、現金賣出泰銖0.9592
泰國SR：現金買入美金32.25、現金買入台幣1.09
同樣拿1萬台幣來換：

⟪台幣直接換泰幣⟫
1萬台幣在臺銀可以換到10,425泰銖 (1:0.9592)
1萬台幣在泰國SR可以換到10,900泰銖(1:1.09)
⟪台幣先換美金再換泰幣⟫
1萬台幣在臺銀可以換到331美金 (1:30.177)
331美金在泰國SR可以換到10,674泰銖 (1:32.25)

結論是說，十張小朋友直接拿到泰國SuperRich窗口換，會比「先換美金再換泰幣」多換到226塊泰銖，還可以少跑一次銀行，這也與鼠多次在泰國換匯的實驗結果相符。

不過「先換美金再換泰幣」確實會比在台灣用台幣直接換泰幣來得好一點點，但缺點是：
要多跑一次銀行(台灣一次、泰國一次)
要多付一個手續費(機場櫃台有收)
要多一道計算(台換美再換泰)
要多承擔一個匯率波動的因素(美金對泰銖的部分)

如果考慮以上這些因素之後
還是覺得要「先換美金再換泰銖」
那就屬於見仁見智的範疇了😆

而鼠也不認為沒有賣回外幣「剝皮」就不發生
這應該要和即期匯率(信用卡/ATM)一起看會比較精準
因為只要使用「現金匯率」就已被轉嫁了銀行的風險成本
所以買賣匯率才會比較差
二次現金兌換(不論境內或境外)，就是使用了二次現金匯率進行交換
對原始本金的價值，便已隱含二次額外的折損(被轉嫁二次)
只是現金數量在多次交換當中默默變小，表面上沒有感覺而已

【12/18補充】
關於網友在影片下方發問題到「飛機上」應該刷何種幣別的問題，鼠分別請教了二位資深的華航和國泰的空服員之後，除非客人有特別要求，他們基本上都是依照航空公司的國籍刷該國貨幣，例如華航就是刷台幣、國泰就是刷港幣。如果旅客要求刷美金或其他國貨幣，也不是所有航空公司都有支援多國貨幣喔，建議致電航空公司客服查詢。

簡單來說，可以把航空公司當成會飛的當地商店，全日空就是日本商店、新航就是新加坡商店…以此類推，此時的"當地貨幣"就是該航空公司的所屬國的貨幣，不論它飛到哪裡。
(感謝二位空服員朋友協助解答)

=================更多FQ影片=================
夯翻鼠FQ ►ETF系列
【FQ11】ETF基礎篇-就是便當的一種https://youtu.be/HDz6xAbNQ70
【FQ12】ETF進階篇-槓桿型/反向型ETF https://youtu.be/y1WwEhg1fqk
【FQ15】0050 pk 0056選誰比較好？上集 https://youtu.be/I-D1GmzzRKc
【FQ16】0050 pk 0056選誰比較好？下集 https://youtu.be/UA_btOz4uho
【FQ17】從0056捕獲高股息不死鳥 https://youtu.be/hM3wemKQT-8
【FQ32】買反向ETF等黑天鵝？先聽鼠說完鬼故事再決定https://youtu.be/kKUjclzcurk
【FQ33】十大配息ETF排行～填息最快的不是0056 https://youtu.be/_j2HR9xUafY
【FQ37】0056最新成分股更新分析 新同學來了！

夯翻鼠FQ►台股基礎系列
【FQ30】股票怎麼買？600秒學完台股交易基礎 https://youtu.be/zEDJ7LBZO4M
【FQ31】股票1元不是你的1元～搞懂零股先從除權講起 https://youtu.be/R0NAdlmZ70s
【FQ2】存股一定打敗銀行定存？常被忽略的三個弱點和一個關鍵 https://youtu.be/kF6XomSRcUw
【FQ6】存股如何決定進場時機？2018台股萬點對新手的意義 https://youtu.be/9QxXoD3zTks
【FQ1】什麼是利率與殖利率？ https://youtu.be/yd3fZRrjzGM
【FQ4】存股怎麼選？新手秒懂的放山雞選股法(基礎篇) https://youtu.be/854HH85QCdU
【FQ5】台股殖利率排行前三名是他們⋯放山雞選股法(網站實作篇) https://youtu.be/cY0P5fh-d9o

夯翻鼠FQ►儲蓄系列
【FQ29】從0%到5%保本儲蓄工具PK～(定存/外幣/儲蓄險/貨幣基金) https://youtu.be/H53540h21rA
【FQ23】利率明明一樣 定儲利息贏定存的原因～(正港懶人投資) https://youtu.be/W7k1TntmInk
【FQ3】匯率霧傻傻？先換起來放？錢被銀行默默吃掉的三個秘密 https://youtu.be/U8wLmL6PKnI
【FQ28】匯率表有隱藏數字@@” 高利外幣定存前先注意這三個率～ https://youtu.be/07NBkJNiHqs
【FQ21】投資理財必學的升息&降息～(央行vs美國聯準會FED) https://youtu.be/E64cTPnojWc

夯翻鼠FQ►理財系列
【FQ9】告別負身價～鼠先教你畫這張圖(理財起手式) https://youtu.be/W6Zq6dlolrE
【FQ10】再也沒失敗的～滿月記帳法 https://youtu.be/juLfUYkCVDI
【FQ20】理財先理信用卡～循環利息和最低應角算給你看 https://youtu.be/15s-TAyOssg

夯翻鼠FQ►基金系列
【FQ18】新手買基金學什麼？這三個能力最值得 (粽子投資法) https://youtu.be/MI3YjuXlr3c
【FQ8】定期定額超過二年就GG？因為很少人注意這二隻Bug https://youtu.be/U_A95yWC2eI
【FQ19】覺得基金很難選？讓AI來吧~(推薦新手) https://youtu.be/uxYrR-TFTVo

夯翻鼠FQ►台股進階系列
【FQ14】參加除權息可節稅？2018稅改股利申報二擇一制https://youtu.be/DDNZACHMDog
【FQ13】大牛不爽領股利？股票除權息的各種股民～https://youtu.be/Huyej6CHgFs
【FQ7】2018二月全球股災～黑天鵝是機器人？ https://youtu.be/FlY7Ms53wyI
【FQ22】三大法人不是三個人啦XD～吻仔魚跟著鯨魚怎麼賺錢？ https://youtu.be/2XOI0ipIML8

夯翻鼠FQ►股國四面系列
【FQ24】要聽懂股票國語言先學金字塔這四面(基本/籌碼/技術/消息) https://youtu.be/4jRM4Zze7Ng
【FQ25】股票怎麼選？基本面先問這三題 (股本/EPS) https://youtu.be/9Oew02e5uqg
【FQ26】新手學基本面二大指標 評估企業賺錢能力(ROE/ROA) https://youtu.be/VnYdpRMU8Y0
【FQ27】股票估值的基本面三大指標～(本益比/股價淨值比/殖利率) https://youtu.be/yUUO7dtFInk
【FQ34】徹底搞懂技術線圖七大元素～先從各種K線開始https://youtu.be/V__cjhFm0L8
【FQ35】判斷股價強弱的關鍵~先學會看均線https://youtu.be/ti8m7rJmB3E

【不用花錢也可以贊助柴鼠】
https://youtu.be/DGV964Fks2s

【訂閱柴鼠也是一種鼓勵】
https://ppt.cc/fUrThx

【柴鼠兄弟相關頻道】
YouTube頻道 https://www.youtube.com/c/柴鼠兄弟ZRBros
FB粉絲頁 https://www.facebook.com/zrbros
IG https://www.instagram.com/zrbros/
bilibili https://space.bilibili.com/130090309
愛奇藝 http://tw.iqiyi.com/u/1421309132

【聯絡柴鼠】
e-mail：[email protected]

＃銀行不是吃素的
＃能刷就不要用現金