雖然這篇api種類鄉民發文沒有被收入到精華區:在api種類這個話題中,我們另外找到其它相關的精選爆讚文章
在 api種類產品中有32篇Facebook貼文,粉絲數超過3,992的網紅台灣物聯網實驗室 IOT Labs,也在其Facebook貼文中提到, 摩爾定律放緩 靠啥提升AI晶片運算力? 作者 : 黃燁鋒,EE Times China 2021-07-26 對於電子科技革命的即將終結的說法,一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續,也就意味著資訊技術的整棟大樓建造都將出現停滯,那麼第三次科技革命也就正式結束了。這種聲音似乎...
同時也有9部Youtube影片,追蹤數超過14萬的網紅RagaFinance財經台,也在其Youtube影片中提到,www.RagaFinance.com RagaFinance Facebook: https://www.facebook.com/ragafin/ 《Calvin直播室》眾籌計劃 ? http://patreon.com/calvinchoy ◎◎◎訂閱 ◎◎◎ ▶Ragazine ...
「api種類」的推薦目錄
- 關於api種類 在 凱心琳 — Untyped 對啊我是工程師 Instagram 的精選貼文
- 關於api種類 在 劉琦偉 Andrew Liu Instagram 的精選貼文
- 關於api種類 在 ????♥︎ (???????) Instagram 的最佳貼文
- 關於api種類 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
- 關於api種類 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳貼文
- 關於api種類 在 台灣物聯網實驗室 IOT Labs Facebook 的精選貼文
- 關於api種類 在 RagaFinance財經台 Youtube 的最讚貼文
- 關於api種類 在 Untyped 對啊我是工程師 Youtube 的最佳貼文
- 關於api種類 在 Untyped 對啊我是工程師 Youtube 的最佳貼文
api種類 在 凱心琳 — Untyped 對啊我是工程師 Instagram 的精選貼文
2021-07-11 01:36:10
Link in bio 🔗 API? IPA? 應用程式介面是什麼? API種類介紹 | What is API? REST? SOAP? 【電腦說人話】 API、IPA 傻傻分不清楚?某個app又發布了新的API?你知道應用程式之間是怎麼溝通的嗎?API好多種到底怎麼分? 公司的工程師同事又...
api種類 在 劉琦偉 Andrew Liu Instagram 的精選貼文
2020-07-04 16:22:42
閉關了一年,這一年沉澱了許多,終於有時間來跟大家聊聊我的近況! 一年多以前,經身邊友人介紹,誤打誤撞的去了柬埔寨,又誤打誤撞投資一個莫名其妙的人幾百萬,沒想到圍觀變事主,誤打誤撞的進了博弈遊戲產業... 開始真的是存粹抱著投資的心態而相信了這位大哥,"沒想到遊戲業的水深的比什麼死人骨頭海溝還要深!...
api種類 在 ????♥︎ (???????) Instagram 的最佳貼文
2021-04-04 18:10:59
୨୧ 70周年を迎えた #山田養蜂場 🐝🍯 スキンケアシリーズは20周年を迎え ブランドリニューアルを記念した第一弾 #アピセラピーコスメティクス が誕生します✨ コンセプトは、"ミツバチの恵みで 女性ひとりひとりの美しさを引き出す" ピンクのパケが印象的な"RJエクセレント"は...
-
api種類 在 RagaFinance財經台 Youtube 的最讚貼文
2020-07-14 05:52:03www.RagaFinance.com
RagaFinance Facebook:
https://www.facebook.com/ragafin/
《Calvin直播室》眾籌計劃 ?
http://patreon.com/calvinchoy
◎◎◎訂閱 ◎◎◎
▶Ragazine : https://www.youtube.com/channel/UC5DWcqCjBne2-wRnrjxkuHQ
▶Raga Finance: https://www.youtube.com/c/RagazineFinanceVideo
▶Giggs.hk: https://www.youtube.com/channel/UCVZTkv6LM-_xWUM9t-jS5JA
#RagaFinance
-------------------------------------------------------------------------------------------------------------------------------------------
免責聲明:《Raga Finance》竭力提供準確資訊,惟不保證絕對無誤,資訊如有錯漏而令閣下蒙受損失(不論公司是否與侵權行為、訂立契約或其他方面有關),本公司概不負責。
同時,《Raga Finance》所提供之投資分析技巧與建議,只可作為參考之用,並不構成要約、招攬、邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力自行作出投資決定,如因相關建議招致損失,概與《Raga Finance》主持、嘉賓、編輯及記者無關。
同時,《Raga Finance》所有節目或資訊,相關內容屬作者個人意見,並不代表《Raga Finance》立場。
Raga Finance
網址: www.ragafinance.com -
api種類 在 Untyped 對啊我是工程師 Youtube 的最佳貼文
2020-04-30 13:00:14Coding vs Programming 軟體工程師在 編碼 or 編程? | 5 Differences between Coding and Programming【電腦說人話】
-
軟體工程師到底在幹嘛?內行外行怎麼說?
Coding? Programming? 程式設計?編碼編程?想到電腦科學就會想到這些詞,但是它們到底是什麼意思?差別又在哪呢?
讓凱心琳告訴你這兩個詞的5大層面的差別!
(Tools 使用工具, Expertise 專業知識, Approach 方法途徑, Outcome 成果產出, Learning 學習過程)
在這個人手好幾台電腦的時代,實在是有好多電腦的詞聽不懂。Cookie 不再是好吃的餅乾,Class不再是學生上的課,Bug 因為非常不一樣的原因而令人討厭。Coding, Programming 兩個詞表面上好像一樣,但是實際上卻截然不同。好多詞不懂~沒關係!讓 Untyped 為你解惑!
【電腦說人話】這個系列是希望透過口語化的方式,透過生活中的例子去介紹一些看似艱澀像外星語但實際上卻不難懂的電腦科學專有名詞。希望能讓曾經對這些詞彙充滿畏懼與疑惑的妳,能夠不再害怕,勇敢學習Computer Science!
【㊫ 電腦科學/軟體工程 學習資源 📖】
全端工程師密技 Full Stack Eng - Career Path (Codecademy)
https://bit.ly/3niTwLN
前端工程師密技 Front End Eng - Career Path (Codecademy)
https://bit.ly/32K1eql
用Scala學習函式程式設計
https://bit.ly/2IF0Thv
Scala 函数式程式設計原理
https://bit.ly/3kBQXTb
平行程式設計
https://bit.ly/3pCeaZf
Android 應用程式開發 專項課程
https://bit.ly/3lGCUwW
普林斯頓大學 電腦科學 演算法 基礎理論
https://bit.ly/3nxomAh
Go 語言學起來
https://bit.ly/35AWhlv
Parallel, Concurrent, and Distributed Programming in Java 專項課程
https://bit.ly/2IGnlH4
Java 軟體工程基礎課程
https://bit.ly/3fa4gJi
全端開發 跨平台手機app 開發 完整課程
https://bit.ly/2UCGWum
#程式設計 #Programming #電腦說人話
一定要看到影片最後面並且在「YouTube影片下方」按讚留言訂閱分享唷!
-
歡迎留言告訴我你的想法,或是你想認識的程式語言唷!
每(隔週)週四晚上9點更新,請記得開啟YouTube🔔通知!
-
【相關連結】
Coding vs Programming
[https://www.codementor.io/@edwardbailey/coding-vs-programming-what-s-the-difference-yr0aeug9o]
[https://www.educba.com/coding-vs-programming/]
[https://www.goodcore.co.uk/blog/coding-vs-programming/]
【愛屋及烏】
Facebook 臉書粉專 👉 [https://www.facebook.com/untyped/]
Instagram 👉 [[https://www.instagram.com/untypedcoding/]
合作邀約 👉 untypedcoding@gmail.com
-
Untyped 對啊我是工程師 - There are so many data types in the world of computer science, so are the people who write the code. We aim to UNTYPE the stereotype of engineers and of how coding is only for a certain type of people.
凱心琳: 一個喜歡電腦科學邏輯推理,在科技圈努力為性別平等奮鬥的女工程師。
-
This video contains affiliate links, which means that if you click on one of the product links, I'll receive a small commission.
圖片影片音效:[giphy.com] [pngwave.com][freesound.org][soundbible.org]
【Disclaimer 聲明】
Some links are affiliated.
上面有些連結是回饋連結,如果你透過這些連結購買商品,我可以得到一些小獎勵,但不會影響到你購買的價格,甚至會是更低的價格!謝謝你的支持💕 -
api種類 在 Untyped 對啊我是工程師 Youtube 的最佳貼文
2020-04-16 13:00:37API? IPA? 應用程式介面是什麼? API種類介紹 | What is API? REST? SOAP? 【電腦說人話】
-
API、IPA 傻傻分不清楚?某個app又發布了新的API?你知道應用程式之間是怎麼溝通的嗎?API好多種到底怎麼分?
公司的工程師同事又在討論新的API,啥?API是什麼?查了一下發現API的中文是應用程式介面。字都會唸但就是不懂。相信不論你有沒有接觸過Computer Science 電腦科學,可能都有聽過API這個詞。
凱心琳我曾經也被API這個詞搞得一頭霧水,大家都說它很重要它很棒,但是很少有人講得清楚他到底是什麼做什麼用的。一下REST一下SOAP的,到底在講什麼?甚至很多寫過API的工程師也無法解釋API的本質,以為所有的API都是同一種形式。這次要透過一些生活化的例子,介紹鼎鼎大名的API。並且分享Open API, Internal API, Partner API, Web Service, REST, SOAP 這些東西到底是什麼。
【電腦說人話】這個系列是希望透過口語化的方式,透過生活中的例子去介紹一些看似艱澀像外星語但實際上卻不難懂的電腦科學專有名詞。希望能讓曾經對這些詞彙充滿畏懼與疑惑的妳,能夠不再害怕,勇敢學習Computer Science!
#API #REST #電腦說人話
一定要看到影片最後面並且在「YouTube影片下方」按讚留言訂閱分享唷!
-
歡迎留言告訴我你的想法,或是你想認識的程式語言唷!
每(隔週)週四晚上9點更新,請記得開啟YouTube🔔通知!
-
【相關連結】
*What is an API? In English, please.*
[https://www.freecodecamp.org/news/what-is-an-api-in-english-please-b880a3214a82/]
[https://www.howtogeek.com/343877/what-is-an-api/]
[https://apifriends.com/api-management/what-is-an-api/]
*Types of APIs*
[https://rapidapi.com/blog/types-of-apis/]
[https://stoplight.io/api-types/]
[https://www.cevgroup.org/what-is-api/]
【What I used to make this video】
個人電腦:Apple MacBook Pro [https://amzn.to/2HKgI2T]
拍攝錄音錄影: iPhone X [https://amzn.to/3c0s6Fu]
相機: Canon 80D [https://amzn.to/2VVmiYz]
錄音: Rode [https://amzn.to/3aqnzL2]
鍵盤: Logitech MX Keys Wireless Keyboard [https://amzn.to/3awqi5L]
【愛屋及烏】
Facebook 臉書粉專 👉 [https://www.facebook.com/untyped/]
Instagram 👉 [https://www.instagram.com/untypedcoding/]
合作邀約 👉 untypedcoding@gmail.com
-
Untyped 對啊我是工程師 - There are so many data types in the world of computer science, so are the people who write the code. We aim to UNTYPE the stereotype of engineers and of how coding is only for a certain type of people.
凱心琳: 一個喜歡電腦科學邏輯推理,在科技圈努力為性別平等奮鬥的女工程師。
-
This video contains affiliate links, which means that if you click on one of the product links, I'll receive a small commission.
圖片影片音效:[giphy.com] [pngwave.com][freesound.org]
api種類 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
摩爾定律放緩 靠啥提升AI晶片運算力?
作者 : 黃燁鋒,EE Times China
2021-07-26
對於電子科技革命的即將終結的說法,一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續,也就意味著資訊技術的整棟大樓建造都將出現停滯,那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有的,但這波革命始終也沒有結束。AI技術本質上仍然是第三次科技革命的延續……
人工智慧(AI)的技術發展,被很多人形容為第四次科技革命。前三次科技革命,分別是蒸汽、電氣、資訊技術(電子科技)革命。彷彿這“第四次”有很多種說辭,比如有人說第四次科技革命是生物技術革命,還有人說是量子技術革命。但既然AI也是第四次科技革命之一的候選技術,而且作為資訊技術的組成部分,卻又獨立於資訊技術,即表示它有獨到之處。
電子科技革命的即將終結,一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續,也就意味著資訊技術的整棟大樓建造都將出現停滯,那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有,但這波革命始終也沒有結束。
AI技術本質上仍然是第三次科技革命的延續,它的發展也依託於幾十年來半導體科技的進步。這些年出現了不少專門的AI晶片——而且市場參與者相眾多。當某一個類別的技術發展到出現一種專門的處理器為之服務的程度,那麼這個領域自然就不可小覷,就像當年GPU出現專門為圖形運算服務一樣。
所以AI晶片被形容為CPU、GPU之後的第三大類電腦處理器。AI專用處理器的出現,很大程度上也是因為摩爾定律的發展進入緩慢期:電晶體的尺寸縮減速度,已經無法滿足需求,所以就必須有某種專用架構(DSA)出現,以快速提升晶片效率,也才有了專門的AI晶片。
另一方面,摩爾定律的延緩也成為AI晶片發展的桎梏。在摩爾定律和登納德縮放比例定律(Dennard Scaling)發展的前期,電晶體製程進步為晶片帶來了相當大的助益,那是「happy scaling down」的時代——CPU、GPU都是這個時代受益,不過Dennard Scaling早在45nm時期就失效了。
AI晶片作為第三大類處理器,在這波發展中沒有趕上happy scaling down的好時機。與此同時,AI應用對運算力的需求越來越貪婪。今年WAIC晶片論壇圓桌討論環節,燧原科技創始人暨CEO趙立東說:「現在訓練的GPT-3模型有1750億參數,接近人腦神經元數量,我以為這是最大的模型了,要千張Nvidia的GPU卡才能做。談到AI運算力需求、模型大小的問題,說最大模型超過萬億參數,又是10倍。」
英特爾(Intel)研究院副總裁、中國研究院院長宋繼強說:「前兩年用GPU訓練一個大規模的深度學習模型,其碳排放量相當於5台美式車整個生命週期產生的碳排量。」這也說明了AI運算力需求的貪婪,以及提供運算力的AI晶片不夠高效。
不過作為產業的底層驅動力,半導體製造技術仍源源不斷地為AI發展提供推力。本文將討論WAIC晶片論壇上聽到,針對這個問題的一些前瞻性解決方案——有些已經實現,有些則可能有待時代驗證。
XPU、摩爾定律和異質整合
「電腦產業中的貝爾定律,是說能效每提高1,000倍,就會衍生出一種新的運算形態。」中科院院士劉明在論壇上說,「若每瓦功耗只能支撐1KOPS的運算,當時的這種運算形態是超算;到了智慧型手機時代,能效就提高到每瓦1TOPS;未來的智慧終端我們要達到每瓦1POPS。 這對IC提出了非常高的要求,如果依然沿著CMOS這條路去走,當然可以,但會比較艱辛。」
針對性能和效率提升,除了尺寸微縮,半導體產業比較常見的思路是電晶體結構、晶片結構、材料等方面的最佳化,以及處理架構的革新。
(1)AI晶片本身其實就是對處理器架構的革新,從運算架構的層面來看,針對不同的應用方向造不同架構的處理器是常規,更專用的處理器能促成效率和性能的成倍增長,而不需要依賴於電晶體尺寸的微縮。比如GPU、神經網路處理器(NPU,即AI處理器),乃至更專用的ASIC出現,都是這類思路。
CPU、GPU、NPU、FPGA等不同類型的晶片各司其職,Intel這兩年一直在推行所謂的「XPU」策略就是用不同類型的處理器去做不同的事情,「整合起來各取所需,用組合拳會好過用一種武器去解決所有問題。」宋繼強說。Intel的晶片產品就涵蓋了幾個大類,Core CPU、Xe GPU,以及透過收購獲得的AI晶片Habana等。
另外針對不同類型的晶片,可能還有更具體的最佳化方案。如當代CPU普遍加入AVX512指令,本質上是特別針對深度學習做加強。「專用」的不一定是處理器,也可以是處理器內的某些特定單元,甚至固定功能單元,就好像GPU中加入專用的光線追蹤單元一樣,這是當代處理器普遍都在做的一件事。
(2)從電晶體、晶片結構層面來看,電晶體的尺寸現在仍然在縮減過程中,只不過縮減幅度相比過去變小了——而且為緩解電晶體性能的下降,需要有各種不同的技術來輔助尺寸變小。比如說在22nm節點之後,電晶體變為FinFET結構,在3nm之後,電晶體即將演變為Gate All Around FET結構。最終會演化為互補FET (CFET),其本質都是電晶體本身充分利用Z軸,來實現微縮性能的提升。
劉明認為,「除了基礎元件的變革,IC現在的發展還是比較多元化,包括新材料的引進、元件結構革新,也包括微影技術。長期賴以微縮的基本手段,現在也在發生巨大的變化,特別是未來3D的異質整合。這些多元技術的協同發展,都為晶片整體性能提升帶來了很好的增益。」
他並指出,「從電晶體級、到晶圓級,再到晶片堆疊、引線接合(lead bonding),精準度從毫米向奈米演進,互連密度大大提升。」從晶圓/裸晶的層面來看,則是眾所周知的朝more than moore’s law這樣的路線發展,比如把兩片裸晶疊起來。現在很熱門的chiplet技術就是比較典型的並不依賴於傳統電晶體尺寸微縮,來彈性擴展性能的方案。
台積電和Intel這兩年都在大推將不同類型的裸晶,異質整合的技術。2.5D封裝方案典型如台積電的CoWoS,Intel的EMIB,而在3D堆疊上,Intel的Core LakeField晶片就是用3D Foveros方案,將不同的裸晶疊在一起,甚至可以實現兩片運算裸晶的堆疊、互連。
之前的文章也提到過AMD剛發佈的3D V-Cache,將CPU的L3 cache裸晶疊在運算裸晶上方,將處理器的L3 cache大小增大至192MB,對儲存敏感延遲應用的性能提升。相比Intel,台積電這項技術的獨特之處在於裸晶間是以混合接合(hybrid bonding)的方式互連,而不是micro-bump,做到更小的打線間距,以及晶片之間數十倍通訊性能和效率提升。
這些方案也不直接依賴傳統的電晶體微縮方案。這裡實際上還有一個方面,即新材料的導入專家們沒有在論壇上多說,本文也略過不談。
1,000倍的性能提升
劉明談到,當電晶體微縮的空間沒有那麼大的時候,產業界傾向於採用新的策略來評價技術——「PPACt」——即Powe r(功耗)、Performance (性能)、Cost/Area-Time (成本/面積-時間)。t指的具體是time-to-market,理論上應該也屬於成本的一部分。
電晶體微縮方案失效以後,「多元化的技術變革,依然會讓IC性能得到進一步的提升。」劉明說,「根據預測,這些技術即使不再做尺寸微縮,也會讓IC的晶片性能做到500~1,000倍的提升,到2035年實現Zetta Flops的系統性能水準。且超算的發展還可以一如既往地前進;單裸晶儲存容量變得越來越大,IC依然會為產業發展提供基礎。」
500~1,000倍的預測來自DARPA,感覺有些過於樂觀。因為其中的不少技術存在比較大的邊際遞減效應,而且有更實際的工程問題待解決,比如運算裸晶疊層的散熱問題——即便業界對於這類工程問題的探討也始終在持續。
不過1,000倍的性能提升,的確說明摩爾定律的終結並不能代表第三次科技革命的終結,而且還有相當大的發展空間。尤其本文談的主要是AI晶片,而不是更具通用性的CPU。
矽光、記憶體內運算和神經型態運算
在非傳統發展路線上(以上內容都屬於半導體製造的常規思路),WAIC晶片論壇上宋繼強和劉明都提到了一些頗具代表性的技術方向(雖然這可能與他們自己的業務方向或研究方向有很大的關係)。這些技術可能尚未大規模推廣,或者仍在商業化的極早期。
(1)近記憶體運算和記憶體內運算:處理器性能和效率如今面臨的瓶頸,很大程度並不在單純的運算階段,而在資料傳輸和儲存方面——這也是共識。所以提升資料的傳輸和存取效率,可能是提升整體系統性能時,一個非常靠譜的思路。
這兩年市場上的處理器產品用「近記憶體運算」(near-memory computing)思路的,應該不在少數。所謂的近記憶體運算,就是讓儲存(如cache、memory)單元更靠近運算單元。CPU的多層cache結構(L1、L2、L3),以及電腦處理器cache、記憶體、硬碟這種多層儲存結構是常規。而「近記憶體運算」主要在於究竟有多「近」,cache記憶體有利於隱藏當代電腦架構中延遲和頻寬的局限性。
這兩年在近記憶體運算方面比較有代表性的,一是AMD——比如前文提到3D V-cache增大處理器的cache容量,還有其GPU不僅在裸晶內導入了Infinity Cache這種類似L3 cache的結構,也更早應用了HBM2記憶體方案。這些實踐都表明,儲存方面的革新的確能帶來性能的提升。
另外一個例子則是Graphcore的IPU處理器:IPU的特點之一是在裸晶內堆了相當多的cache資源,cache容量遠大於一般的GPU和AI晶片——也就避免了頻繁的訪問外部儲存資源的操作,極大提升頻寬、降低延遲和功耗。
近記憶體運算的本質仍然是馮紐曼架構(Von Neumann architecture)的延續。「在做處理的過程中,多層級的儲存結構,資料的搬運不僅僅在處理和儲存之間,還在不同的儲存層級之間。這樣頻繁的資料搬運帶來了頻寬延遲、功耗的問題。也就有了我們經常說的運算體系內的儲存牆的問題。」劉明說。
構建非馮(non-von Neumann)架構,把傳統的、以運算為中心的馮氏架構,變換一種新的運算範式。把部分運算力下推到儲存。這便是記憶體內運算(in-memory computing)的概念。
記憶體內運算的就現在看來還是比較新,也有稱其為「存算一體」。通常理解為在記憶體中嵌入演算法,儲存單元本身就有運算能力,理論上消除資料存取的延遲和功耗。記憶體內運算這個概念似乎這在資料爆炸時代格外醒目,畢竟可極大減少海量資料的移動操作。
其實記憶體內運算的概念都還沒有非常明確的定義。現階段它可能的內涵至少涉及到在儲記憶體內部,部分執行資料處理工作;主要應用於神經網路(因為非常契合神經網路的工作方式),以及這類晶片具體的工作方法上,可能更傾向於神經型態運算(neuromorphic computing)。
對於AI晶片而言,記憶體內運算的確是很好的思路。一般的GPU和AI晶片執行AI負載時,有比較頻繁的資料存取操作,這對性能和功耗都有影響。不過記憶體內運算的具體實施方案,在市場上也是五花八門,早期比較具有代表性的Mythic導入了一種矩陣乘的儲存架構,用40nm嵌入式NOR,在儲記憶體內部執行運算,不過替換掉了數位週邊電路,改用類比的方式。在陣列內部進行模擬運算。這家公司之前得到過美國國防部的資金支援。
劉明列舉了近記憶體運算和記憶體內運算兩種方案的例子。其中,近記憶體運算的這個方案應該和AMD的3D V-cache比較類似,把儲存裸晶和運算裸晶疊起來。
劉明指出,「這是我們最近的一個工作,採用hybrid bonding的技術,與矽通孔(TSV)做比較,hybrid bonding功耗是0.8pJ/bit,而TSV是4pJ/bit。延遲方面,hybrid bonding只有0.5ns,而TSV方案是3ns。」台積電在3D堆疊方面的領先優勢其實也體現在hybrid bonding混合鍵合上,前文也提到了它具備更高的互連密度和效率。
另外這套方案還將DRAM刷新頻率提高了一倍,從64ms提高至128ms,以降低功耗。「應對刷新率變慢出現拖尾bit,我們引入RRAM TCAM索引這些tail bits」劉明說。
記憶體內運算方面,「傳統運算是用布林邏輯,一個4位元的乘法需要用到幾百個電晶體,這個過程中需要進行資料來回的移動。記憶體內運算是利用單一元件的歐姆定律來完成一次乘法,然後利用基爾霍夫定律完成列的累加。」劉明表示,「這對於今天深度學習的矩陣乘非常有利。它是原位的運算和儲存,沒有資料搬運。」這是記憶體內運算的常規思路。
「無論是基於SRAM,還是基於新型記憶體,相比近記憶體運算都有明顯優勢,」劉明認為。下圖是記憶體內運算和近記憶體運算,精準度、能效等方面的對比,記憶體內運算架構對於低精準度運算有價值。
下圖則總結了業內主要的一些記憶體內運算研究,在精確度和能效方面的對應關係。劉明表示,「需要高精確度、高運算力的情況下,近記憶體運算目前還是有優勢。不過記憶體內運算是更新的技術,這幾年的進步也非常快。」
去年阿里達摩院發佈2020年十大科技趨勢中,有一個就是存算一體突破AI算力瓶頸。不過記憶體內運算面臨的商用挑戰也一點都不小。記憶體內運算的通常思路都是類比電路的運算方式,這對記憶體、運算單元設計都需要做工程上的考量。與此同時這樣的晶片究竟由誰來造也是個問題:是記憶體廠商,還是數文書處理器廠商?(三星推過記憶體內運算晶片,三星、Intel垂直整合型企業似乎很適合做記憶體內運算…)
(2)神經型態運算:神經型態運算和記憶體內運算一樣,也是新興技術的熱門話題,這項技術有時也叫作compute in memory,可以認為它是記憶體內運算的某種發展方向。神經型態和一般神經網路AI晶片的差異是,這種結構更偏「類人腦」。
進行神經型態研究的企業現在也逐漸變得多起來,劉明也提到了AI晶片「最終的理想是在結構層次模仿腦,元件層次逼近腦,功能層次超越人腦」的「類腦運算」。Intel是比較早關注神經型態運算研究的企業之一。
傳說中的Intel Loihi就是比較典型存算一體的架構,「這片裸晶裡面包含128個小核心,每個核心用於模擬1,024個神經元的運算結構。」宋繼強說,「這樣一塊晶片大概可以類比13萬個神經元。我們做到的是把768個晶片再連起來,構成接近1億神經元的系統,讓學術界的夥伴去試用。」
「它和深度學習加速器相比,沒有任何浮點運算——就像人腦裡面沒有乘加器。所以其學習和訓練方法是採用一種名為spike neutral network的路線,功耗很低,也可以訓練出做視覺辨識、語言辨識和其他種類的模型。」宋繼強認為,不採用同步時脈,「刺激的時候就是一個非同步電動勢,只有工作部分耗電,功耗是現在深度學習加速晶片的千分之一。」
「而且未來我們可以對不同區域做劃分,比如這兒是視覺區、那兒是語言區、那兒是觸覺區,同時進行多模態訓練,互相之間產生關聯。這是現在的深度學習模型無法比擬的。」宋繼強說。這種神經型態運算晶片,似乎也是Intel在XPU方向上探索不同架構運算的方向之一。
(2)微型化矽光:這個技術方向可能在層級上更偏高了一些,不再晶片架構層級,不過仍然值得一提。去年Intel在Labs Day上特別談到了自己在矽光(Silicon Photonics)的一些技術進展。其實矽光技術在連接資料中心的交換機方面,已有應用了,發出資料時,連接埠處會有個收發器把電訊號轉為光訊號,透過光纖來傳輸資料,另一端光訊號再轉為電訊號。不過傳統的光收發器成本都比較高,內部元件數量大,尺寸也就比較大。
Intel在整合化的矽光(IIIV族monolithic的光學整合化方案)方面應該是商業化走在比較前列的,就是把光和電子相關的組成部分高度整合到晶片上,用IC製造技術。未來的光通訊不只是資料中心機架到機架之間,也可以下沉到板級——就跟現在傳統的電I/O一樣。電互連的主要問題是功耗太大,也就是所謂的I/O功耗牆,這是這類微型化矽光元件存在的重要價值。
這其中存在的技術挑戰還是比較多,如做資料的光訊號調變的調變器調變器,據說Intel的技術使其實現了1,000倍的縮小;還有在接收端需要有個探測器(detector)轉換光訊號,用所謂的全矽微環(micro-ring)結構,實現矽對光的檢測能力;波分複用技術實現頻寬倍增,以及把矽光和CMOS晶片做整合等。
Intel認為,把矽光模組與運算資源整合,就能打破必須帶更多I/O接腳做更大尺寸處理器的這種趨勢。矽光能夠實現的是更低的功耗、更大的頻寬、更小的接腳數量和尺寸。在跨處理器、跨伺服器節點之間的資料互動上,這類技術還是頗具前景,Intel此前說目標是實現每根光纖1Tbps的速率,並且能效在1pJ/bit,最遠距離1km,這在非本地傳輸上是很理想的數字。
還有軟體…
除了AI晶片本身,從整個生態的角度,包括AI感知到運算的整個鏈條上的其他組成部分,都有促成性能和效率提升的餘地。比如這兩年Nvidia從軟體層面,針對AI運算的中間層、庫做了大量最佳化。相同的底層硬體,透過軟體最佳化就能實現幾倍的性能提升。
宋繼強說,「我們發現軟體最佳化與否,在同一個硬體上可以達到百倍的性能差距。」這其中的餘量還是比較大。
在AI開發生態上,雖然Nvidia是最具發言權的;但從戰略角度來看,像Intel這種研發CPU、GPU、FPGA、ASIC,甚至還有神經型態運算處理器的企業而言,不同處理器統一開發生態可能更具前瞻性。Intel有個稱oneAPI的軟體平台,用一套API實現不同硬體性能埠的對接。這類策略對廠商的軟體框架構建能力是非常大的考驗——也極大程度關乎底層晶片的執行效率。
在摩爾定律放緩、電晶體尺寸微縮變慢甚至不縮小的前提下,處理器架構革新、異質整合與2.5D/3D封裝技術依然可以達成1,000倍的性能提升;而一些新的技術方向,包括近記憶體運算、記憶體內運算和微型矽光,能夠在資料訪存、傳輸方面產生新的價值;神經型態運算這種類腦運算方式,是實現AI運算的目標;軟體層面的最佳化,也能夠帶動AI性能的成倍增長。所以即便摩爾定律嚴重放緩,AI晶片的性能、效率提升在上面提到的這麼多方案加持下,終將在未來很長一段時間內持續飛越。這第三(四)次科技革命恐怕還很難停歇。
資料來源:https://www.eettaiwan.com/20210726nt61-ai-computing/?fbclid=IwAR3BaorLm9rL2s1ff6cNkL6Z7dK8Q96XulQPzuMQ_Yky9H_EmLsBpjBOsWg
api種類 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳貼文
日本智慧農業大步走 加速擴張帶動成本降低
農傳媒 20210529
內容提供/《農政與農情》 文/行政院農業委員會農業藥物毒物試驗所 陳彥佑、李春燕、陳思昀、行政院農業委員會臺南區農業改良場 張淳淳、工業技術研究院產業服務中心 林意潔
近年因資訊快速且多方突破發展,使其他可應用之領域及軟硬體同步帶動變化,除在網頁設計優化、開放資料多元應用、IoT、ICT、資料分析工具便利化及資料視覺化發展外,乃至高端如大數據、AI應用,也頻受矚目,本文將分享2019年日本農業Week活動資訊與及後續的發展方向觀點。
日本東京農業Week
2019年10月,農委會及工研院單位同仁於強烈颱風哈吉貝影響東日本時,自費前往日本東京農業Week參訪並收集資訊。這次展覽結合日本原有的國際農業資材展、國際次世代農業展、國際6次產業化展及國際畜產資材展,於千葉縣幕張展場合併為單一農業展 ,規模龐大,超過600家日本及各國廠商,3天展期近4萬人次登記參訪,展場中另有登記參觀的工具展和園藝展,三大展覽幅員非常廣闊,並結合不同農業發展方向,吸引各國的農資、機械開發公司、農企業、政府單位、研究單位等相關人員參觀,龐大的資訊量,如要仔細體驗及參與,勢必耗時一天半以上。
農業資訊的進階應用,目前可說是「百花爭艷」狀態,功能近似產品不斷推出並相互競爭,如各類無人機、辨識系統、管理軟體、機械外骨骼、管理連動應用平台等,各有特色,本展覽不僅止於展示農業相關資訊外,亦有各種農業資材的應用、新型態資材及栽培設施、農產品及農產加工器具、農具等展出,以「農業展」而言,可說非常完備,也明示了農業各領域將走向相互融合的方向。
接下來,筆者將就「無人載具、軟體、機械外骨骼、資材與技術」等主題,與各位讀者分享本次見聞。
無人載具
無人機為近年熱門發展的器械,包含水、陸、空形式及自動採收機等其他功能性的無人機械等,依需求而有不同的機型和設計,甚至有異業結合開發,如汽車企業結合飛行用藥無人機的共同開發,成為更便利作業的用藥組合,無人機發展方向為公分級精準定位及便利的自動作業,搭配遠端作業器具和軟體,可實現遠端作業、減少勞力及增進田間作業安全,達成精準農業及安全農業的目標,並減少農業缺工的問題。
軟體
2019年日本農業展展出的農業軟體,大多具整合及記錄性質,性質相似的軟體數量眾多,部分並搭配感測器械共同推出的軟體,如設施栽培內監測環境及疾病預測的軟體。另外,結合UAV多光譜拍攝做作物肥份影像解析的軟體,再以UAV定點調整施肥量;紀錄田間從業人員的工作與休息時間、體溫等紀錄和提醒的監測軟體;農產品行銷部分,不少廠商提供B2B 及 B2C類型的「農產品銷售管理系統」,提供生產者和消費者進行互動和販售;生產部分則提供生產者付費的管理解決方案(或稱營農指導員),內容類似國內植物醫生及農業張老師等,針對委託者進行客製化的栽培管理服務,提供者主要為日本國內廠商。展場另有攤位進行日本各地農產品、農藥施用講習、農產公司產品推廣。
機械外骨骼
機械外骨骼(又稱肌甲裝、動力服、Powered suit),主要以外骨骼模樣進行依使用需求設計,為著裝後可提升特定功能的裝備,在農業領域常見為提升搬運重物效率、避免重複動作造成職業傷害的外骨骼,對於務農人口老齡化及新農民的身體保護都有絕大幫助。而本次日本農業展令人印象最深刻的為著裝簡易化、輕量化的類型,甚至輕如一般大衣,且穿戴方式接近衣服的形式,展出國家為尼德蘭,筆者親自著裝試用後,明顯感覺提升搬運重量效果及作業時保護腰部的功能。未來外骨骼也將可結合或協同其他器械協同進行複雜作業,因應國內日益老化之農業從業人員及雇傭勞力減少部份,具有廣大的發展潛力與商機。
資材及技術
各式農業資材與技術亦是本次亮點,在栽培設備方面,有各種育苗材料、家庭用耕栽培裝置、高效能燈具、有機肥與土壤微生物商品、栽培介質,以及溫室建材組裝展示、植物工廠VR參訪、授粉資材等。防治資材方面,品項同樣繁多,除各類噴頭、農藥製劑及無人機用製劑外,在其他防治資材方面也具備高度多樣性,如生物防治罐、蟎類陷阱、安全可溶農藥包裝、費洛蒙產品、燻蒸器具、各色光波誘蟲、忌避燈、有害動物聲光忌避設備,及施藥專用口罩等。在採收及包裝的資材部分,則有透氣長貯包裝及包材等。上述資材多為跨領域合作開發,顯示農業研究相關人員可多與其他領域確切進行交流討論、研究協作,共創解決農業問題技術。
商業化生物防治天敵製劑罐。
農業科技因資訊技術的發展,有爆發性的成長,許多內容都逐漸貼合Global G.A.P及作業標準化、自動化、安全性提升的需求,從參訪各專案及產品項目來看,無論直接引進或進行跨領域開發合作,就「目的」、「經費」及「合作」、「商業模式」,皆須在不同領域的多方完整溝通理解後有明確同步,否則將易陷入單方利用;或因領域差異而限縮成果,浪費經費、時間,且無法解決問題或強化開發,因此未來農業資訊跨領域、組織合作時,必須更精實及對目標有共識。
2020年的日本農業展及日本農業發展政策,重點之一為智慧農業的成本降低及普及化(如搭配日本的準天頂衛星的精準定位,減少定位儀器成本),配合日本農林水產省針對智慧農業公告的政策「スマート農業推進総合パッケージ」(Smart Agricultural Promotion Comprehensive Package),並在資料格式規格化後與其中的WAGRI平台資訊連動(2020年開始公開OPEN API的服務),且於日本全國148個地區執行智慧農業實地作業示範推廣,無論從政策資料或展覽內容,均顯示智慧農業不僅只是單一的農業發展區塊,而是上述各類展出區塊內容的各項統整,也宣示了日本的智慧農業逐步走向橫向連結及加速擴張的階段。2021年開始日本農業展的其中一個展區「次世代農業EXPO」也將改名為「スマート農業EXPO」(智慧農業),可以想見智慧農業發展的比重越來越多。
本次除參觀展覽外,筆者亦前往大學拜訪開發茄科IPM技術的教授(前農研機構研究員),教授於對談中提到日本推廣IPM時,也遭遇農民傾向選擇簡單便利的害物防治方式(如單純使用農藥),使IPM即便效果卓越,但因操作相對複雜,降低農民採用意願,因此對於新科技或現有技術的推出,如能具備便利且直覺模式,將有機會提升利用率。
因應COVID-19疫情影響、氣候變遷及人力缺乏情形下,智慧農業企業加速選汰,筆者數年來參訪農業展及持續關注智慧農業演變,雖農業資訊更迭速度,不若科技業以「季」為計,也可略以「年」計變化,建議有興趣的讀者,可規劃每年或隔年參訪相關展覽,即可看見發展的趨勢及進度。待疫情趨緩後,無論公費申請或自費前往,日本農業展都非常值得前往參訪及收集各類資訊,或接洽引進適用國內的技術、資材,將有助持續強化國內農業競爭力及研究能力。
附圖:日本農業展於2019年開始將多個展覽一併展出。
東京農業展展場情形。
自動採收機器人示範採收蘆筍。
汽車企業與無人機公司的合作開發無人機用藥組合。
軟體應用種類多元(左至右為UAV應用、影像辨識、作物販售)。
月租型農業栽培管理軟體。
機械外骨骼輔具。
韓國企業的梨果類授粉用花粉噴射機(搭配噴藥車)。
農藥資材展示,提升安全性的可溶性農藥定量包裝(類似洗衣球)。
施用農藥使用口罩。
資料來源:https://www.agriharvest.tw/archives/59516
api種類 在 台灣物聯網實驗室 IOT Labs Facebook 的精選貼文
AI強勢來襲 物聯終端運算需求急遽增溫
2021-03-10 11:55 聯合新聞網 / CTimes零組件
【作者: 王岫晨】
物聯網正帶動人工智慧走向終端裝置,在後疫情時代,企業對物聯網 AI 的投資與布局動作頻頻。Arm 主任應用工程師張維良指出,我們可以很明顯看到四大趨勢如下:
新冠疫情加速 AI 部署
根據 Arm 於 2020 年 8 月與<<麻省理工學院科技評論洞察(MIT Technology Review)>>合作、針對來自 12 個不同產業的 301 位 C Level 的科技專業人士進行的訪談報告顯示,超過 62% 的受訪者表示,他們正在投資並使用 AI 技術。來自大型企業組織(年營收超過 5 億美元)受訪者的部署率較高,接近 80%。較小型的企業組織(營收低於 500 萬美元)的部署率則為 58%。1/3 的受訪者表示,2020 年新冠疫情的爆發加速了他們在 AI 策略上的部署。
企業組織正在提高對 AI 的投資
超過一半(57%)的受訪者看到他們的 AI 預算在過去三年內提升,且接近四分之一的人表示,他們在 2016 年到 2019 年間,年度 AI 支出最少增加一倍。其中,大型企業在 AI 支出的增加更多,73% 來自年營收超過 5 億美元的企業組織受訪者的預算都有增加,有近三分之一的受訪者預算甚至提升超過 100%。這些投資加碼反映 AI 對企業營運持續成長且普遍的影響。
超過半數企業將 AI 部署在終端裝置或邊緣運算
儘管對於已經使用 AI 的企業組織,雲端運算是他們最喜歡的基礎架構,不過在越來越需要極低延遲的數據存取,以及終端/邊緣處理能力的應用上,為了兼顧成本效益及運算效率,越來越多應用將往數據產生的來源靠近,邊緣運算或是將資源擺在更靠進存取它們的裝置的地方,相關的部署將急起直追。
對應軟硬體攻擊與保護個資/隱私的需求
AI 對幾乎所有商業與社會活動層面的衝擊持續擴大,讓企業領袖必須正視 AI 能否在負責任的規範下使用。消費者一方面對於交易與運作流程中藉助 AI 的接受度越來越高,但也期待企業能在公平的、高道德標準,並能顧及永續發展的條件下使用這項技術,特別在個資的搜集。因此在邊緣運算上,也衍生出對應軟硬體攻擊以及保護隱私等運算能力的強烈需求。
物聯網 AI 應用將聚焦於「3V」
根據 Arm 與 Strategy Analytics 合作的報告顯示,多數的物聯網應用聚焦在一些特定的領域:基本控制(開/關)、測量(狀態、溫度、流量、噪音與震動、濕度等)、資產的狀況(所在地點以及狀況如何?),以及安全性功能、自動化、預測性維護以及遠端遙控,可參考圖一。
而終端 AI 可以在三個核心領域提供價值,而它觸及的許多物聯網領域,遍及 B2B 與 B2C(企業對消費者)的應用:震動(Vibration),語音(Voice)與視覺(Vision)。
震動
包含來自多種感測器數據的處理,從加速計感測器到溫度感測器,或來自馬達的電氣訊號。它可將智能帶進 MCU 中的終端 AI 的進展,產生不同應用領域,包括溫、濕度、壓力檢測、物理檢測(如滑倒偵測)、物質偵測(如漏水、漏氣)、磁通量偵測與電場偵測等等。運用震動分析的預測性維護(PdM),在旋轉型機器密集的製造工廠裡相當常見,可以揭露鬆脫、不平衡、錯位與軸承磨損等狀況。此外,磁感測器利用磁性浮筒與一系列可以感應並與液體表面一起移動的感測器,測量液面的高低。
語音
語音啟動在智慧家庭應用中很常見,例如智慧音箱,而它也逐漸成為啟動智慧家庭裝置與智慧家電的語音中樞,如電視、遊戲主機與其它新的電器。在工業環境中,供車床、銑床與磨床等電腦數值控制(CNC)機器使用的電腦語音引擎正在興起。語音整合在車輛中也相當關鍵,因為語音有潛力成為最安全的輸入模式。OEM 代工廠商持續對車載娛樂系統中的語音辨識系統,進行大量投資。其他車用的應用包括語音輸入文字簡訊、輸入目的地、播放特定歌曲或歌曲子集,以及選擇廣播電台頻道,甚至拋錨服務與禮賓服務等。
視覺
終端 AI 提供視覺領域全新的機會,特別是與物件檢測及辨識相關。包括觀察生產線的製造瑕疵,以及找出自動販賣機需要補貨的庫存。其它實例包括農業應用,例如依據大小與品質為農產品分級。曳引機裝上機器視覺攝影機後可即時檢測出雜草、分類其種類、分析其對農穫的威脅、進而客製化除草解決方案。在工業上,包括利用熱顯影來監控互動機器零件的溫度,讓任何異常情況很快變得顯而易見。具備終端 AI 能力的裝置,可以長期檢測微細的變化,觸發排程系統,自動採取適當的行動來預防零件故障。
推動物聯網運算需求
隨著物聯網與 AI 的進展以及 5G 的推出,更多的終端智能意謂小型且成本敏感的裝置,會愈來愈有聰明、功能也愈來愈強,同時因為對雲端與網際網路的依賴較小,也將具備更高的隱私性與可靠度。因此,Arm對於MCU核心,也 透過新的設計為微處理器帶來智能,降低半導體與開發成本,同時為想要有效提升終端數位訊號處理(DSP)與機器學習能力(ML)的產品製造商,加快他們產品上市的速度。
TinyML
微型機器學習(TinyML)的崛起,已經催化嵌入式系統與機器學習結合。它捨棄在雲端上運行複雜的機器學習模型,過程包含在終端裝置內與微控制器上運行經過優化的圖型識別模型,耗電量只有數毫瓦特。受惠於 TinyML,微控制器搭配 AI 已經開始增添各種傳統上威力更強大的元件才能執行的功能。這些功能包括語音辨識(例如,自然語言處理)、影像處理(例如物件辨識與識別),以及動作(例如震動、溫度波動等)。啟用這些功能後,準確度與安全性更高,但電池的續航力卻不會打折扣,同時也考量到各種更微妙的應用。
簡化程式碼的轉移性
把AI函式庫整合進 MCU,將本地的 AI 訓練與分析能力插入程式碼中是可能的。這讓開發人員依據從感測器、麥克風與其它終端嵌入式裝置取得的訊號,導出數據的型樣,然後從中建立模型。Arm Cortex-M55 處理器與 Ethos U55 微神經處理器(microNPU),利用像 CMSIS-DSP 與 CMSIS-NN 等常見API來簡化程式碼的轉移性,讓 MCU 與共同處理器緊密耦合以加速 AI 功能。透過推論工具把 AI 功能放在低成本的 MCU 上實作,並符合嵌入式設計需求,如此一來,有 AI 功能的 MCU 就有機會在各種物聯網應用中,讓裝置的設計改觀。
附圖:圖一 : 多數的物聯網應用聚焦在一些特定的領域。
圖二 : 不同應用對於機器學習的採用比起以往更盛。圖為Arm運算方案的對應圖。
資料來源:https://udn.com/news/story/6903/5307140?fbclid=IwAR2eJEJFLD1DFifJHQNbTkWEAjQSKBk3UFlM3whrk9T69h9tNXIw3geMQ8U