本文延續前篇效能校正的經驗談，上篇文章探討了關於系統呼叫, iptables 可以最佳化的部分，。本篇文章將繼續剩下最佳化步驟的探討。

Perfect Locality
預設情況下， Linux Kernel 會盡量平均地將請求給分配到所有的處理佇列，譬如 network queues, processes, CPUS. 大部分情況下這種機制運作良好不會有太多問題，不過如果今天要追求的不單單只是好的效能，而是極致的效能，則 locality 這個概念就要特別的去注意。

這篇文章中提到很多不同的方式，包含了 CPU Pinning, Receive Side Scaling(RSS), Transmit Packet Sterring(XPS)等，其實用比較簡單的介紹方式就是，希望可以使用固定的 CPU 來處理一條連線上的所有封包(進出)，這樣帶來的好處有
1. CPU Cache 可以盡可能的去使用，減少各種 miss 產生的成本
2. 減少 context switch 帶來的成本
3. 減少跨 CPU 之間交換資料帶來的成本
4. 減少 lock 之間帶來的成本
除了 CPU Pin, RSS, XPS 外，還有 irqbalance, smp_affinity_list 等相關的概念需要一併學習，對於這個概念有興趣的讀者非常歡迎去找尋這類型的資料

接者是 SO_REUSEPORT 這個參數，創建 Socket 時使用這個參數能夠使得多個 Process 共用一個連接埠，底層 Kernel 會針對 src/dst{ip/port} 來產生對應的 Hash，並且決定當前封包要送給哪一個 Process。
這個方式搭配前述各種 CPU Pin, 中斷的最佳化則會遇到問題，因為可能底層將該封包送到 CPU2 結果這個函式又把封包重新分配到 CPU0, 這樣就導致該連線要跨 CPU 處理了。
為了解決這個問題， Linux Kernel 4.6 後有新的參數 SO_ATTACH_REUSEPORT_CBPF，使用者可以自行撰寫 BPF 的程式來決定如何分配封包。作者根據這過想法撰寫了一個 BPF 的程式，來確保這個機制可以與前述的最佳化穩定運作。

這次的最佳化帶來的 38% 的成長，這時候的封包處理能力從 603k req/s 提升到 834k req/s
原文中關於這次的最佳化還有一些後續探討，有興趣的可以閱讀

Interrupt Optimizations

當封包透過網路送到網卡後，網卡必須要通知 OS 讓它知道有封包來了，要記得處理。一切處理完畢後網卡就可以繼續等待新的封包過來並且再次發送中斷給 OS 處理封包。這個流程大部分情況也是運作良好，不過當有大量的封包不停傳送來時，頻繁的中斷其實也是會造成不小的額外成本。

為了解決這個問題，目前比較嶄新的網卡都有支援中斷聚合等功能，透過這個功能可以延後中斷一個小週期，而該週期內收到的所有封包只需要透過一次的中斷就可以來處理，藉此降低中斷的次數。更為進階的網卡甚至支援動態自行調整該週期的時間，譬如當網路空閒時，減少週期使得每個封包能夠盡快的發送中斷被處理，而當網路流量很大時則會加大該該週期時間來更有效地處理封包。

註: AWS ENA 有支持這種動態調整的機制

作者基於 AWS 開啟動態調整收端中斷時間的功能，整個效能提升了 14%，從 834k req/s 提升到 955k req/s。作者說這次的調整可以說是整篇文章中幾個非常強的改動，改動的地方少，效能提升明顯，同時背後的隱憂與限制也少。

除了上述中斷的方式外，另外一種則是透過 Busy Polling 這種針對低延遲性的方式。預設情況下其允訓設定為 blocked 的 socket 能夠消耗額外的 CPU Cycle 來讀取接下來的封包，可以將其想成一成一種混合體，當底層網卡告訴我有資料要讀取時，我預期接下來還會有更多的資料，因此我就透過輪詢的方式去多問幾個封包。

由於作者的應用程式是使用 non-blocking 的方式去讀寫封包，所以預設的方式是沒有辦法使用的。而該應用程式又是使用 epoll 來進行底層封包的讀寫。 epoll 於 kenel 4.12 後正式支援 busy polling 的方式，所以這部分就沒有太大的問題。文章中有滿多關於 busy_poll 的一些參數調整。

將這兩個機制給整合後，整體的效能提升達到 28%，從 834k req/s 到達 1060k req/s，同時 99%的 latency 也從 361μs 下降到 292μs.

同時這兩個機制導入後，整個系統每秒產生的硬體中斷數量也從 183k 降到 16k。 Context switches 的數字也從 6k 下降到 1k 左右。

下篇文章會繼續從剩下的三個最佳化策略繼續介紹

https://talawah.io/blog/extreme-http-performance-tuning-one-point-two-million/

《解決預約亂象！提前練兵！趕快成立社區接種站增加注射量能！》

《學習高雄模式並不丟臉》

今天是台北市第一天開放85歲以上長者預約施打Covid19疫苗
一早從8點開始包含我及服務處所有同仁都接到民眾電話反映同一件事：「家裡附近院所沒名額了」。

一詢問就證實了我心中的擔憂：由於打完疫苗需要有30分鐘的觀察期
即使醫師公會已經全力協助，礙於協力診所有其空間限制，每個時段僅能開放少少的30個名額。民眾想就近施打疫苗，沒辦法像其他貼心的縣市依照市府規畫通知的時間直接去打，還要自行上網預約也就算了。名額不足造成的亂象讓人感覺像在搶五月天演唱會門票，真的有夠誇張。

以下幾點請市府儘速改善：

1.長照機構、居家臥床等由機動疫苗注射隊施打沒問題，但要快。
2.身障、行動不便的長者要趕快主動聯絡並協助安排施打細節，並派無障礙計程車接送。
3.承上，趕快與計程車行或uber taxi等計程車業者洽談，協助調度派車接送長者往返，車資由市府吸收
4.趕快成立社區接種站！1個診所單1個時段只有30個名額、且部分診所只有開放兩個時段，以萬華區為例，8個合約診所即使都開放3個時段，一日滿載最多僅能注射720人，這經過高估的數字實在是太差強人意了！而且多數都集中在南萬華，中、北萬華的長者要去哪裡打？以合約診所的方式處理不就是要讓市民能就近施打嗎？

疫苗打完不是馬上見效，需要兩周以上才能慢慢產生抗體，兩周已經是Covid19的一個週期，時間拖越長風險越高，疫苗一定要以最快的速度照冊接種，這點非常非常非常重要！

萬華區這一波符合資格的85歲以上長輩僅僅不到5000人，如果台北市政府連這種人數都沒辦法在三天內迅速搞定，未來開放大規模預約接種時一定更亂！

再說一次！趕快成立社區接種站！就從剝皮寮及和平青草園開始！

【SEMI專訪🎤｜#人工智慧 實現 #智慧製造 願景】​
​
在工業4.0驅動下，製造業與自動化設備、物聯網、大數據及雲端計算等技術結合，成為產業發展的重要趨勢。為協助產業轉型智慧製造，SEMI推廣智慧製造計畫 (SEMI SMART Manufacturing Initiative)以提升各界對智慧製造的認識，聚焦提供產業認可的最佳方案與服務，促進微電子供應鏈採取智慧製程。​
​
SEMI有幸專訪目前在 Tokyo Electron Limited擔任服務策略與卓越部門資深副總裁的Eyal Shekel，分享TEL在智慧製造領域的實踐成果與未來展望​
​
#人工智慧的關鍵：降低製程成本與縮短週期時間​
Shekel認為，在材料資訊學領域中，人工智慧扮演愈來愈關鍵的角色，必須判斷出適合的材料與處理技術，未來才能符合設備的需求，也能讓從業人員更精準、更即時的監控客戶的元件晶圓(device wafer)。​
​
為了監控與管理半導體製程良率，直接量測是關鍵環節，然而礙於量產階段的時間與成本因素，半導體廠往往無法監測所有的晶圓。拜人工智慧的深度學習之賜，目前參考生產設備數據與先前處理過的晶圓量測變數後，越來越能夠預測每個晶圓的量測結果，進而達到全面品質管理(TQM)與批次控制(run-to-run control)，同時降低製造成本與縮短週期時間。​
​
#因為SEMI_擁有更多同業交流的機會​
在專訪中Shekel也提到透過SEMICON半導體展，他能夠跟同業與客戶交流，跟大家保持聯繫，也有機會認識更多業界的新朋友。​
➜閱讀更多：https://lihi1.com/M4H3y​
​
今年九月的SEMICON將聚焦半導體產業「先進製程」、「智慧製造」、「綠色製造」三大主題，防疫期間我們將為大家帶來更多精彩內容，居家防疫也不會和產業新知脫節，歡迎持續關注SEMI粉專！🚀​
​
​
#SEMI​
#SEMICON ​
#TEL

2019/11/06生命及工作記錄（公益視頻）
「我們與時間的互動，直接影響我們的氣場脈輪及未來走向」
00:04 ”時間分大週期、小週期、及個人週期“
00:13 你與時間的互動是否良好，會影響到你的氣場、脈輪及人生整體的走向
00:46 ”人生氣脈（脈輪）銜接最外圍的物質氣場及四時循環“，是否互動良好會影響人生對未來的判斷及決策力, 互動不良會形成延遲阻滯現象
02:41 小週期，潛意識壓力狀態，與集體意識互動狀態，會影響到小週期
03:04 所有言論從三年前開始及強調為個人生命紀錄及歷程，“書本中查不到”多次有提及
03:21 所有記錄為全世界300多位華語系手術客戶的觀察及工作紀錄，沒有參考書
03:39 "集體潛意識“與自己的互動關係是否為良性的，小週期與大週期是否銜接通暢
4:40 許多人做噩夢或是沒有夢
4:53 客戶手術過程中“夢境為不可缺乏的潛意識資訊”
5:34 ”想法影響行為“
5:50 只習慣與負面的信念做共振及回應時，時間會失衡
6:26 加工食物及肉食會間接加強自身“索取””不滿足“的能量
6:49 因此在“閱讀能量”時我們必須知道三個必要條件，“姓名、出生年月日、及出生地！”
”星體日照的狀態“
6:36 平衡的給予者在於健康的給以及收
警語：言論所有內容為生命紀實，所有發現為原創，許多文字為新創，請高度注意他台最初發佈時間是否為實！發布時間是否為錯誤時間！自行判斷！大量來信，為保存體力及能量給予真正需要的人，已不回答任何問題，敬請見諒, 基礎問題如「如何冥想」、「個人人生困擾」「夢境」「超自然」等請勿一再重複提問，為保護自己及客戶，能量嚴重為他台竊取並扭曲原創訊息、雜訊、或是其他隱藏動機而導致扭曲/偷竊/耗弱/捏造論據間接負面信念植入能量纏結，過於嚴重者，為避免浪費時間彼此寶貴時間，恕刪，不再耗費時間另行通知。
銀行代號：048
銀行名稱：王道銀行
帳號：01000115473288
Dream Walker Studio: RastaWang.com
（僅將時間給予親近的朋友家人及客戶，僅提供兩種協助，務必至官網網詳閱
#王大喜 #RastaWang #夢行者 #DreamWalker