本篇文章是個經驗談，作者想要聊聊是如何將一個 4vCPU 的VM給調整到可以達到每秒處理 1.2M(120萬)個 JSON Reuqest，本篇文章非常的長，所以會分多天來介紹。

整篇文章探討的是各種 turning 的步驟，來聊聊如何從最初每秒 224k(22萬四千) 給調整到每秒 1.2M 的處理能力。

整個過程分成九大步驟，後面同時標示每個過程後的每秒請求能力
1. Application Optimizations (347k)
2. Speculative Execution Migtigations (446k)
3. Syscall Auditing/Blocking (495k)
4. Disabling iptables/netfilter (603k)
5. Perfect Locality (834k)
6. Interrypt Optimizations (1.06M)
7. The Case of the Nosy Neighbor (1.12M)
8. The Battle Against the Spin Lock (1.15M)
9. This Gost to Twelv (1.20M)

作者強調，上述的過程不一定適合你的應用程式，但是透過這些步驟能夠讓你更佳瞭解應用程式的運作行為，同時也有機會發現一些潛在的瓶頸問題。

環境介紹
1. 團隊使用 Techempower 來進行 JSON Serialization 的測試
2. 使用 libreactor(event-driven框架) 來搭建一個簡單的 API Server
3. HTTP 的解析使用 picohttpparser，同時使用 libclo 來處理 JSON 的編碼
4. 硬體環境
- Server: 4 vCPU, c5n.xlarge AWS VM
- Client: 16 vCPU, c5n.4xlarge AWS VM (clinet太弱會變成瓶頸)
- Network: Server/Client 屬於同一個可用區域(AZ)
5. 軟體環境
- 作業系統: Amazon Linux2 (Kernel 4.14)
- Server: 使用 libreactor (使用不同版本，分別是 Round18 以及 Round20)
- Client: 修改 wrk 這個知名的工具並重新命名為 twrk，詳細差異自己看文章內部，主要都跟顯示有關
6. 實驗方式
- 每個測試跑三次，取中間值
- 256 連線，16 threads，同時每個 thread 都會 pin 到一個固定的 CPU
- 每個實驗都有兩秒的暖機時間來建立連線


Ground Zero
第一個要探討的就是什麼最佳化都還沒有使用前，到底當前應用程式可能的瓶頸在哪裏
首先團隊將該應用程式與其他常見的應用程式或是開發框架比較，譬如 Netty, Nginx, Actix, aspcore 等， libreactor 的效能不錯，有中上水準。

接者作者使用火焰圖(Flame Graphs)來 Profile 該伺服器，作者很好心地將文章中所有的火焰圖都調整了一下，讓所有的 user-space 相關的 function call 都轉成藍色，而剩下跟 kernel 相關都維持紅色。
1. 大部分的時間都在 Kernel 處理
2. 主要是花費在收封包與送封包
3. 應用程式本身主要是分兩大部分，解析 HTTP 的封包以及處理請求與回應。
從上述兩點來看，作者認為目前的應用程式寫得算不錯，因為瓶頸很明顯是卡在 Kernel 端

接下來就正式進入到各種 Turning 的章節探討

Application Optimizations

長話短說:
- 作者基於 libreactor Round18 的框架進行修改，並且所有的修改都已經被合併到 Round20 的版本中，而這些修改主要是實作方面的強化以及整個框架的最佳化。

1. 作者首先透過 htop 觀察運行過程，發現 Server 只有使用 2vCPU 而已(系統有 4vCPU)，因此這是作者進行的第一個修改，讓 Server 使用了 4vCPU，這個簡單調整就讓效能提升 25%

註: 作者特別強調，不要覺得從 2vCPU 變成 4vCPU 效能就可以變成兩倍，主要是1) 沒有使用的 vCPU 還有很多其他的工作要處理，因此不是完全都送給你應用程式處理。2)基於 hypter-thread vCPU 的架構，環境只有兩個真正的 CPU 而是透過邏輯的方式產生四個抽象的 CPU，所以全用一定會變快，但是基於很多資源還是要競爭與共用，數字不是單純翻倍

2. 作者自己的應用程式本身使用 gcc 建置時有使用 "-o3" 的方式來最佳化處理，然而框架本身卻沒有使用 "-o3" 的方式來弄，因此作者也針對這個部分來處理，讓建制框架時能夠使用 -o3
3. 從實作方面來看，作者觀察到 libreactor 1.0 版本使用的是 read/write 這兩個常見的方式來處理封包的送收，作者將其修改成 recv/send 整個效能就提升了將近 10%。

註: write(針對 FD，更全面廣泛的用法) 與 send(針對 Socket，更針對的用法) 使用上差異不大，但是 write 於底層 Kernel 最終還是會呼叫到 send 來處理，所以基本上可以理解就是在沒有特別參數需求時，可以直接跳過幾個 kernel function 來達到加速的效果。

write kernel 內的走向: sys_write -> vfs_write -> __vfs_write -> sock_write_iter -> sock_sendmsg

send kernel 內的走向: sendto -> sock_sendmsg

4. 作者觀察到火焰圖中有一些 pthread 相關的資料，進而發現 libreactor 會創造一個 thread pool 來處理非同步的 DNS 名稱解析問題。對於一個 HTTP Client 來說，如果今天要發送請求到多個不同的 domain，而每個 domain 都會需要進行一個 blocking 的解析過程，透過這種方式可以減少 DNS 解析造成的 blocking 問題。然而對於 HTTP Server 來說，這個使用情境帶來的效益似乎就稍微低了些，畢竟 Server 只有 Bind Socket 之前可能會需要去解析一次 DNS 而已。
大部分的情境下， thread pool 都是應用程式初期會去創造而接者就不太會管她，但是對於錙銖必較的效能除錯人來說，任何能夠調整的部分都可能是個值得探討的地方。
作者透過修改 Server 端(準確來說是 libreactor 框架內的程式碼)關於 Thread Pool 的一些用法，成長的讓整個效能提升了 2~3%

結論來說，透過上述四個概念來提升的程式碼效能。
1. vCPU 盡量使用: 25%-27%
2. 使用 gcc -O3 來建置框架的程式碼: 5%-10%
3. 使用 march=native 等參數來建置最後的 server 應用程式: 5%-10%
4. 使用 send/recv 而非 write/read: 5%-10%
5. 修改 pthread 的用法: 2%-3%

註: 作者強調每個最佳化的結果並非是單純累積的概念，反而還會有互補的效果。
可能前述的操作實際上也會讓後續的操作達到更好的效果，
譬如如果先跑 vCPU 的調整，效能大概提升 25%，但是如果先執行別的最佳化過程，最後再來調整 vCPU，就可以達到 40% 的效果，主要是 CPU 可以共有效率的去執行程式。

最後，這個部分讓整個處理封包能力從 224k 提升了 55% 到 347k (req/s)。
從火焰圖來看，整個 user-space 的範圍縮小許多，同時 send/recv 的處理也有使得整體的高度下降一點點(大概四格..)

為了避免文章過長，本篇文章就探討第一個最佳化的過程，剩下的就敬請期待後續!

https://talawah.io/blog/extreme-http-performance-tuning-one-point-two-million/

【每日國際選讀】
#文末挑戰多益選擇題📝
2020全美大學排名出爐
最強名校獎落誰家？
開啟「接收通知」和「搶先看」每天吸收雙語時事新知
來讀華爾街日報獨家

🔥 The Top-Ranked College Is…
全美排名第一的大學是……

- top-ranked 排名最高的、最好的

🗽 Go west for a diverse school. Look to the Northeast for a rich one most likely to land you a great job. For great bang for your buck, consider the City University of New York.
具多樣性的大學，要去西岸找；放眼東北部，一所資金雄厚的學校最有可能為你帶來一份好工作；若要追求性價比，不妨考慮紐約市立大學。

- for great bang for your buck 物超所值
- City University of New York 紐約市立大學

🧑🏻‍💻These are some of the conclusions of this year’s Wall Street Journal/Times Higher Education College Rankings, which reveal a rich array of options for students whether they’re most focused on the academic environment, extracurricular engagement, career opportunities or return on investment.
以上是本年度《華爾街日報》/《泰晤士高等教育》大學排名得出的部分結論。從這份榜單可看出，無論學生們最關注的是學術環境、在校參與度、職業機會，抑或是投資回報，他們都有豐富的選擇。

- extracurricular 課外的
- Times Higher Education (THE) College Rankings 《泰晤士高等教育》大學排名
- array 一系列，一批
✍️常見的用法：an array of… 豐富的、無數的…
- return on investment 投資報酬率，也就是我們常聽到的“ROI”。

💼 Four Ivy League schools rank among the top five. Harvard University stands atop the overall list, followed by its Cambridge neighbor, the Massachusetts Institute of Technology.
四所常春藤聯盟學校躋身前五，哈佛大學位居榜首，緊隨其後的是同在劍橋地區的麻省理工學院。

- Massachusetts Institute of Technology (MIT) 麻省理工學院
✍️ Massachusetts 麻薩諸塞州，簡稱「麻省、麻州」，而文中提到的劍橋 (Cambridge) 則是麻州的一個城市名，緊鄰波士頓市西北方。

✏️Yale University and the University of Pennsylvania are next, with the California Institute of Technology and Princeton University tied for fifth.
耶魯大學和賓夕法尼亞大學分列第三、第四名，加州理工學院和普林斯頓大學並列第五名。

- University of Pennsylvania (UPenn) 賓夕法尼亞大學，簡稱賓大。
- California Institute of Technology (Caltech) 加州理工學院
✍️fun fact: 知名美劇TBBT(The Big Bang Theory) 劇中，四位主角就是設定在Caltech工作喔

未完待續...
相信這幾所名校大家都已耳熟能詳
不過究竟他們有哪些共同的特色
才能如此突出呢？
加入文末每日國際選讀計畫，解鎖完整語音導讀版

——
原文連結請看留言
——

❓多益模擬題❓:
________ activities are of great importance to university students. They can complement the university's academic curriculum and expose students to a rich ____ of learning opportunities.
課外活動對大學學生至關重要，不但補足了課堂內的學術課程，也讓學生有更豐富的學習機會。

🙋🏻‍♀‍🙋🏼‍♀‍
A. Extracellular/ arrayed
B. Extracurricular/array
C. Sheldon/Amy

-
【每日商業英文計畫，熱烈招生中！】
華爾街日報訂閱超值方案 📰
專屬 #臉書社團，浩爾 #每日語音導讀
「留言+1」，就送你 #優惠碼 及 #導讀試聽！

◆——————————————————◆
★HAPA英会話プレミアムコース
～2019年3月期生、締切まで後４日！～★
コミュニティページ講師をご紹介
◆——————————————————◆

プレミアムコースではコミュニティ講師が課題の質問にお答えします！どんな回答がもらえるのか？実際にあった受講生の質問と、講師からの回答をご紹介！
優しく丁寧に解説をしますので、どうぞ安心して受講下さい🤗
　
【受講生からの質問】
『Week2-5たくさんの前置詞がでてきます。
前置詞の使い方がわからなくなってしまいます。特にasの使い方がいまいちよくわかりません。
よろしくお願いします🌷』
　
【講師からの回答】
『“as” には驚くほどたくさんの意味がありますものね。
私の日本の高校の先生が ”as” の意味を呪文とも歌ともとれる読み上げ方で唱えていたので、いつのまにか覚えてしまっていました。
『ときのようにつれてけれどものでとして』
つまり「～の時、～のように、～につれて、けれども、～なので、～として」のこと。
比較的に使用頻度の高いものを並べただけだそうですが、色んな場面でそれに助けられましたよ。
Week2 Day5 に “as” は3回登場するのですが、そのどれも同じ「～として」の用法です。
Practice 1
5. I work as a doctor. (職業は医者です)
＝ 私は医者として働いています。
Practice 3
6. I work as a carpenter. (職業は大工です)
＝ 私は大工として働いています。
Practice 5
7th response: Yes, I’ve always worked as an English teacher. (はい、昔から英語の講師でした)
＝はい、私は今までいつも英語講師として働いてきました。
「～の時」
He brought more paperwork as I just finished them.
As I entered the room, everyone shouted “surprise!”.
「～のように」
She sang as a bird.
Do as I do.
「～につれて」
As we got older, my friends and I stopped hanging out.
The scenery started to change as we drove out the town.
「けれども」
Cold as it was, Lisa went swimming in the lake.
Good husband as he was, he was always cheating on her.
「～なので」
As he had a headache, he stayed home.
As John learned a lesson in such a hard way, he won’t do that again.
「～として」
I made this cake as a gift to my neighbor.
I worked for the ABC company as a sales manager.』
　
【Hapa英会話プレミアムオンラインコース専用ページ】
https://hapaeikaiwa.com/premium/

この質問の回答をしたコミュニティ講師
【Yumi W. 講師のプロフィール】
https://cafetalk.com/tutors/profile/?id=21425&lang=ja

★楽譜の販売始めました！
　販売ページはこちらです　→　https://store.piascore.com/
　「聴くだけ音感」「きくおん」で、検索して下さい。ぜひご利用ください！！

この動画は、原曲とは違うkey₌C(Am)です。
同じ動画の、原曲key固定ド読みバージョンはこちら→https://youtu.be/iVD_fw6OhXo


※tik tok始めました。https://vt.tiktok.com/RMpHVn/
※ツイッター始めました。https://twitter.com/pIc5akRAs2iRUDn
宜しければ、フォローよろしくお願いします。

＜音符に付くドレミの表記方法が変わりました。＞
これまでは、そのkeyの音には、♯や♭は付かず、臨時記号だけに付いていましたが・・・これからは、keyの音には、予め♯や♭が付いた状態になります。そして、これまでと同じように、さらなる変化音は、青く表記されます。
また、key=Ｃと移動ド読みは従来通りです。
・・・・・・・・・・・・・・・・・・・・・・・・・・
修業時代に、こんな教材が欲しかった。聴いているだけで、ドレミに強くなり、音感が良くなります。もちろん、一緒に歌えば、さらに効果倍増。#・ｂなどが出て来ても心の中でイメージしながら、実際には、そのままドレミで歌います。小さなお子さんの絶対音感トレーニング。ドレミに苦手意識のあるミュージシャン・プロを目指す方などに最適です。

音感が良いと楽器の習得も早くなります。曲を覚えるのも楽になります。練習効果バツグンです。また、様々なメロディを覚えると、アドリブや作曲能力にも効果があります。当然、楽器で弾けるように練習するのも価値あります。チューニングは、１２平均律、A＝４４０Hz、固定ドです。最近、リクエストがあり、移動ド読みの動画も載せるようになりました。

小さな子供さんの絶対音感トレーニングの場合には、移動ド読みの物は避けて下さい。他の方は、どれでもオッケーです。どれかをやって、マイナスになることなんてありません。ただ、何かの目的がハッキリしている場合には、選べると役に立つと思い分けてあります。逆に選ぶ知識・経験の無い方は、そんなことを考えなくても良いです。

使用方法；
１、まずは、流し聴きしてみて下さい。
２、可能なら、本物のオーディオ推奨。
３、速度調節します。youtube 動画は、音程を変えずに、速度を変えることが出来ます。画面右下の設定、再生速度とあり、選べるようになっています。
４、何度か、聞いているだけで、自然と覚えて、音名が、時々でも浮かぶようになって来ます。寝ながら、ループ再生しておいても、効果あります。
５、余裕があれば声も出してみましょう。正しい言葉・文字でなくて構いません。分からない部分は、唸るような感じで。
６、音楽教室の教材などにも最適です。ご活用下さい。
７、他にも、様々な活用法が考えられると思います。

＜音をドレミで理解することの意味・価値＞
音は音です。振動です、なぜドレミと言う違う言葉を当てはめるのでしょうか？
人は、モノに名前を与えて、初めて・・・より細かく分類理解することが出来ます。

例えば、犬。チワワとブルドック、ドーベルマンに柴犬など見た目で判断するなら、全く別な生き物です。でも、そこに犬と言う言葉を付けてみるとどうでしょう？突然そこに、何らかの統一感が生まれ、人の心に同じ種類の生き物だと認識出来るようになります。

そして音にも同じようなことが言えます。ドレミと言う言葉によって、漠然とした音に多くの感覚的な統一感を感じ取る事が、出来るようになります。その感覚を身に付けるのに、当チャンネルの動画こそ最適です。

チャンネル登録よろしくお願いします。動画編集。追加の励みになります。
＃きくおん＃聴くだけ音感＃無料楽譜

視聴者からもらったデッキです。使ってほしいデッキがあれば、誰でも、呪文をコメントしてください。

■通知が来ない方はTwitterをフォロー⇒https://twitter.com/shuntokyo1

■チャンネル登録で最新動画をチェックしよう！⇒https://www.youtube.com/channel/UC9LvUW0rO67bqL6PdHu7SzA?sub_confirmation=1
チャンネル登録お済の方は、ベルマークをクリックしてゲリラ生放送に備えよう!!

■配信や動画が止まる時は【720p】から【480p】【360p】 などに変更して下さい。

■スイッチのフレコ
・フレンドコード：SW-7977-0899-9942

■よく来る質問・要望
Q.本当に東大生ですか？
A.https://www.youtube.com/watch?v=R4vb2Amk5mc

Q.勉強方法教えてください
A.https://www.youtube.com/watch?v=oMQN-q8JBc0

Q.しゅんの個人情報は？
A.非公開です。僕の発言から推測してください

Q.モデレータになりたいです!
A.募集してないです。どうしてもなりたい方は、スポンサーになってしっかりと上記のルールを守っていてください。

Q.コラボしたいです!
A.https://www.youtube.com/watch?v=qVHdDnTBUbo

Q.なんで低評価多いんですか？
A.https://www.youtube.com/watch?v=oJNPLMGqC5s

■Superchatの送り方
https://support.google.com/youtube/answer/7277005?hl=ja

■月額490円 スポンサー登録先
https://gaming.youtube.com/channel/UC9LvUW0rO67bqL6PdHu7SzA
・iOSなどは上のURLブブラウザで開くをアプリでなく、ウェブ上から開く(safariやChoromeなど)
　クレジットカード、デビットカード、PayPalのどれかが必要

■Amazon ほしい物リスト(任意の金額のAmazonギフト券です。ゲーム実況の環境整備に使います)
http://amzn.asia/5LU00fR

■LIVE配信上のルールと禁止事項
一言でいうと配信に関係ないコメント・常識のないコメントを控えてください

※以下のコメをした方はブロックします※
・僕が名前を出していない他の配信者の名前
・配信やゲームに関係ない発言
・視聴者同士の会話
・個人情報
・ネタバレ
・誹謗中傷
・連投コメント
・宣伝行為

理解できないことがある場合以下の動画を見てください
https://www.youtube.com/watch?v=eOzIf_qNsOA&t=1412s

■今年の目標(全て達成済み)
・チャンネルの総視聴回数1,000,000回以上
・チャンネル登録者数3,000人以上
・雑談配信を月1本出す
・同時視聴者数500人以上
・ライバルズ以外の動画で10,000回以上
・他の実況者とコラボ5人

■一番再生回数が伸びた動画
https://www.youtube.com/watch?v=cG5aO2ENBZ0

■今までやってきたゲーム達(見たい方は"ある東大生実況者しゅん" "ゲームタイトル"で検索してください)
ドラゴンクエスト1,2,3,4,5,6,7,8,テリーのワンダーランド,Minecraft,PUBG,スプラトゥーン2,Getting Over It,Stardew Valley,人狼殺,バイオハザード7,スーパーマリオワールド,狼ゲーム,殺戮の天使,ストリートファイター2,RPGツクールMV,ウォッチドグス2,FF10,ドラゴンボールZ ブッチギリマッチ,マリオ64,スーパードンキーコング,ポケモン金,Hello Neighbor,魔女の家,Undertale,ハリーポッターと賢者の石,バーガーバーガー,洞窟物語,巡り回る。,ぷよぷよーん,Shadowverse,スマブラSP,DX,64

Support the stream: https://streamlabs.com/ある東大生実況者しゅん

■ほかの配信場所
★ある東大生実況者しゅんのブログ(ブログの著者募集中です)- https://shunchandaga.wixsite.com/syunchanndayo
★niconico- http://www.nicovideo.jp/watch/sm33043427
★OPENREC.tv- https://www.openrec.tv/user/shunchandayoo
★Twitch- https://www.twitch.tv/shunchandaze

■お仕事のご依頼はこちらまで↓
shunchandaga@yahoo.co.jp

■著作権関係
音楽：魔王魂
ドラクエライバルズ：（C）2017, 2018 ARMOR PROJECT/BIRD STUDIO/SQUARE ENIX All Rights Reserved.（C）SUGIYAMA KOBO
Nintendo Creators Programが利用可能なタイトル：任天堂著作物の利用許諾を受けて配信しています。

Thanks for watching my Gameplay and Walkthrough! I've been a fan of this game for years, and I'm so excited to be playing this game! You may have seen a trailer or review, but this playthrough will feature my impressions, reactions, and commentary throughout the full game including the ending! If you're a fan of it, then let's play this game! Subscribe to ShunGames for new episodes today!

Gracias por ver mi juego y tutorial! ¡Hace años que soy fanático de este juego, y estoy muy emocionado de jugarlo! Es posible que hayas visto un tráiler o una revisión, ¡pero este juego contará con mis impresiones, reacciones y comentarios durante todo el juego, incluido el final! Si eres fan de eso, ¡entonces juguemos este juego! ¡Suscríbete a ShunGames para nuevos episodios hoy!

Vielen Dank, dass Sie sich mein Gameplay und meine Komplettlösung angesehen haben! Ich bin seit Jahren ein Fan dieses Spiels und ich bin so aufgeregt, dieses Spiel zu spielen! Sie haben vielleicht einen Trailer oder eine Rezension gesehen, aber dieses Spiel wird meine Eindrücke, Reaktionen und Kommentare im gesamten Spiel einschließlich des Endes enthalten! Wenn Sie ein Fan davon sind, dann spielen wir dieses Spiel! Abonniere noch heute ShunGames für neue Episoden!

#実況プレイ動画 #ゲーム #しゅん #ある東大生実況者しゅん #ゲーム実況ｖ