#物聯網IoT #人工智慧AI #現場可編程邏輯閘陣列FPGA #數位訊號處理器DSP #直接記憶體存取DMA #記憶體式運算IMC #科技部半導體射月計畫

【AI 演算法日新月異，晶片架構當然也要與時俱進！】

當人工智慧 (AI) 強勢來襲、而半導體已趨近物理極限，業界該如何因應？

回顧 2016 年以前，雲端在運算力與延遲性略勝一籌，直到 Inception-ResNet 出現，才讓在終端進行推論 (inference) 成為可行，只要 50ms 就可算完一幀 (frame) 圖檔。加之，不少人對雲端仍有隱私與網路環境的顧慮，隨著演算法的複雜度下降、準確度提升，有越來越多推論工作會從雲端移至終端。

在資料中心方面，傳統運作是由一台伺服器，經由網路向另一台伺服器完成資料庫詢問，而在其中建置 FPGA 具備以下好處：
●擁有豐富 I/O 且配置靈活，可直接從攝影機或網路抓取資料、中間不須繁重交換動作且能依目的將資料轉送出去；
●不需 CPU 參與，就能將所有資料庫放到 CDR (Clock and Data-Recovery，時脈資料回復) 做影像預處理或合成，能耗低、效率高；
●甚至有 AI 晶片商將 FPGA 重新編譯，藉以開發更具成本效益的專用晶片 (eASIC)，非常適合利基市場；
●若 AI 部分元素的 CPU 運算力不足，亦可將初步結果丟給 FPGA 接手處理。

然不可否認，擁有平行運算能力的 GPU 更適合用於「訓練」；不過，GPU 與 CPU、FPGA 或專用晶片並非壁壘分明的競爭、而是協作關係。另「多處理器」(Multi-processor) 運算為提升效率，晶片商會在既有架構上發展通訊方式，以便大幅拉升 GPU 卡片之間的通訊頻寬、加速數據訓練時間。再者，就是設法利用函式庫，以混合精度 (Mixed Precision) 極大化晶片的運算效能。

從半導體製程觀點來看，要將數位、類比 IC 和記憶體三種截然不同的製程整合成一個晶片，只得從「系統級封裝」(SiP) 著手；然而，若要兼顧效能、功耗和成本，更值得討論的是：怎麼將不同 CPU 架構集成在一個單晶片中。統整 AI 晶片設計有三大挑戰：處理器架構、記憶體效能與安全機制；以往演算法存在「大就是好」的謎思，但現在講究的是怎麼降低模型要求、又能維持一定的精準度。

延伸閱讀：
《AI 風起雲湧，新的晶片架構勢在必行！》
http://compotechasia.com/a/opportunity/2019/0726/42399.html

#國際半導體產業協會SEMI #聯發科技MediaTek #NeuroPilot #英特爾Intel #微軟Microsoft #OpenVINO #輝達NVIDIA #新思科技Synopsys

【IC上的電晶體每隔兩年便會增加一倍… 所以電晶體到底是做什麼用的？電晶體如何做出邏輯閘？】

摩爾定律可以說是驅動半導體和科技業最廣為人知的一句名言了：「積體電路 (IC) 上可容納的電晶體數目，約每隔兩年便會增加一倍。」

但，你知道電晶體到底是做什麼用的嗎？(Google一般都告訴你它是「開關」，但到底是做什麼？)

先前我們在《為什麼電腦是只有 0 與 1 的世界？世界上只有 10 種人，一種是懂二進位的》一文中介紹了 AND、OR、NOT 等邏輯閘，和要怎麼用邏輯閘建立出邏輯電路來實現運算。

然而我們卻還沒介紹「邏輯閘是怎麼建構出來的」和「電晶體的功用是什麼」這兩個重要的問題。今天就用一篇短短的文章，來瞭解一下吧！

一天到晚聽到半導體、CMOS、電晶體等名詞，卻搞不懂它的意義？看完本文，保證能從此看懂相關評論文章與Wiki 。(有沒有Wiki百科都是寫給已經懂得人的八卦QQ？)

交大電子莊紹勳教授團隊傑出研究榮登全球各大學最佳論文-VLSI Technology Symposium

(中央社訊息服務20170609 16:09:00)為期五天的「2017IEEE VLSI Technology and Circuits Symposium」國際會議，於6月5日起在京都舉行。交通大學講座教授莊紹勳研究群發表一篇與台灣師大、聯電共同研究的14奈米鰭式電晶體(FinFET)嵌入型電阻記憶體，風糜全場，主要是現有晶圓代工廠的嵌入式記憶體技術多停留在28nm以上的節點(如40奈米邏輯製程)，蓋因28奈米及以下技術，都改用high-k/Metal-gate技術，要將傳統浮閘記憶體或SONOS記憶體與28奈米以下先進邏輯技術整合不易，因此，本文率先提出將記憶體與先進14奈米FinFET邏輯技術整合在一起，本項發明尚屬世界首屈一指。

會議分為二個部份，一為VLSI Technology Symposium，另一為VLSI Circuits Symposium。前者共發表72篇論文(含8篇邀請論文)，後者發表115篇論文。參與人數超過千人，創有史以來新高。 此次VLSI Technology Symposium投稿160篇，被接受的論文，美國15篇，日本10篇，比利時、台灣與韓國各有8篇。台灣上榜的論文，交大及台積電各3篇，奈米國家實驗室一篇，清大一篇。最重要的是交通大學與東京大學為全球各大學發表論文數同列第一，然而由交大莊教授帶領的團隊論文，名列「全球學術界最佳論文」，與Samsung、IBM、Globalfoundries另三篇一同獲選highlight session論文。

莊教授表示，台灣雖然擁有傲視全球的半導體產業，但整體論文發表數量仍不夠多。莊教授極力建議，台灣各大學院校應加強與產業界的合作，運用先進的業界製程設備講究創新，才有可能在研發質量上與世界知名大學及知名半導體公司力拼。

另外一則重要新聞，莊教授引述大陸微信網的一篇報導，標題為「VLSI国际会议中国仅一篇论文入选，占比1/64」的新聞報導，其中大陸此次投稿18篇但只有一篇被接受，又說：「日本PCWatch网站报道了一些有关大会论文的数据，提交及入选的论文一定程度上可以代表这个公司及所在国在该行业的地位。.. 这次会议也暴露了我们在半导体制造技术依然没有什么存在感，虽然总计提交了18篇论文，但入选的只有1篇，仅占全部入选论文的1/64，远远低于美国、日本、欧洲、韩国、新加坡及台湾地区。」。該報導又說: 「虽然说被采纳的论文跟这个国家或者地区的半导体技术实力不能绝对挂钩，但被采纳的论文越多，总体上依然能证明这个国家/地区的实力的」。

莊紹勳指出，VLSI技術國際會議緣起於1980年，由美國IEEE EDS及日本最大的應用物理學會(The Japan Society of Applied Physics)聯合發起，偶數年於美國夏威夷舉行，奇數年於日本舉行。該會議被視為半導體製程、元件技術發展的指標，是VLSI領域技術發表的期艦會議(flagship conference)，上榜的論文有些比權威的IEDM會議還困難。長期以來，此一國際會議一直扮演半導體VLSI高科技電子IC相關產業火車頭的角色，因此每年都吸引世界各大半導體廠的菁英前來參與盛會。

該研討會今年的重點，除了先進邏輯元件製程技術外，在先進的記憶體技術論文也不遑相讓。先進邏輯元件製程技術是CPU、GPU、繪圖晶片、通訊IC、消費性電子如手機、汽車用記憶體、訊號處理IC等的核心技術，目前已到7奈米技術將進入可以量產的階段，該會議還探討了5奈米的FinFET技術，但因微影術的現制，製程技術，仍趕不上微縮(scaling)的需求。另外，物聯網(IoT)及穿戴式裝置，如何提供低功耗的設計，也成為近期的重點。

此次的會議，除了更小尺寸的先進邏輯製程技術，也強化仿生運算及相關記憶體、Quantum computing等，汽車自動駕駛未來在硬體發展的需求。

關於交大電子 ( http://www.ee.nctu.edu.tw )
交大電子系是交大創校及全國第一個電子科系，長久以來為交大第一志願科系、國內電子電機科系亦名列前茅，已經設立超過50年，開啟了台灣高科技的教育，也奠定了台灣電子資訊產業發展的基石。五十年來交大電子在師資、課程及設備上，不僅在國內首屈一指，並與世界最著名的科系並駕齊驅，深獲各界肯定。

http://www.cna.com.tw/postwrite/Detail/215187.aspx…