本篇文章是個經驗談，作者想要聊聊是如何將一個 4vCPU 的VM給調整到可以達到每秒處理 1.2M(120萬)個 JSON Reuqest，本篇文章非常的長，所以會分多天來介紹。

整篇文章探討的是各種 turning 的步驟，來聊聊如何從最初每秒 224k(22萬四千) 給調整到每秒 1.2M 的處理能力。

整個過程分成九大步驟，後面同時標示每個過程後的每秒請求能力
1. Application Optimizations (347k)
2. Speculative Execution Migtigations (446k)
3. Syscall Auditing/Blocking (495k)
4. Disabling iptables/netfilter (603k)
5. Perfect Locality (834k)
6. Interrypt Optimizations (1.06M)
7. The Case of the Nosy Neighbor (1.12M)
8. The Battle Against the Spin Lock (1.15M)
9. This Gost to Twelv (1.20M)

作者強調，上述的過程不一定適合你的應用程式，但是透過這些步驟能夠讓你更佳瞭解應用程式的運作行為，同時也有機會發現一些潛在的瓶頸問題。

環境介紹
1. 團隊使用 Techempower 來進行 JSON Serialization 的測試
2. 使用 libreactor(event-driven框架) 來搭建一個簡單的 API Server
3. HTTP 的解析使用 picohttpparser，同時使用 libclo 來處理 JSON 的編碼
4. 硬體環境
- Server: 4 vCPU, c5n.xlarge AWS VM
- Client: 16 vCPU, c5n.4xlarge AWS VM (clinet太弱會變成瓶頸)
- Network: Server/Client 屬於同一個可用區域(AZ)
5. 軟體環境
- 作業系統: Amazon Linux2 (Kernel 4.14)
- Server: 使用 libreactor (使用不同版本，分別是 Round18 以及 Round20)
- Client: 修改 wrk 這個知名的工具並重新命名為 twrk，詳細差異自己看文章內部，主要都跟顯示有關
6. 實驗方式
- 每個測試跑三次，取中間值
- 256 連線，16 threads，同時每個 thread 都會 pin 到一個固定的 CPU
- 每個實驗都有兩秒的暖機時間來建立連線


Ground Zero
第一個要探討的就是什麼最佳化都還沒有使用前，到底當前應用程式可能的瓶頸在哪裏
首先團隊將該應用程式與其他常見的應用程式或是開發框架比較，譬如 Netty, Nginx, Actix, aspcore 等， libreactor 的效能不錯，有中上水準。

接者作者使用火焰圖(Flame Graphs)來 Profile 該伺服器，作者很好心地將文章中所有的火焰圖都調整了一下，讓所有的 user-space 相關的 function call 都轉成藍色，而剩下跟 kernel 相關都維持紅色。
1. 大部分的時間都在 Kernel 處理
2. 主要是花費在收封包與送封包
3. 應用程式本身主要是分兩大部分，解析 HTTP 的封包以及處理請求與回應。
從上述兩點來看，作者認為目前的應用程式寫得算不錯，因為瓶頸很明顯是卡在 Kernel 端

接下來就正式進入到各種 Turning 的章節探討

Application Optimizations

長話短說:
- 作者基於 libreactor Round18 的框架進行修改，並且所有的修改都已經被合併到 Round20 的版本中，而這些修改主要是實作方面的強化以及整個框架的最佳化。

1. 作者首先透過 htop 觀察運行過程，發現 Server 只有使用 2vCPU 而已(系統有 4vCPU)，因此這是作者進行的第一個修改，讓 Server 使用了 4vCPU，這個簡單調整就讓效能提升 25%

註: 作者特別強調，不要覺得從 2vCPU 變成 4vCPU 效能就可以變成兩倍，主要是1) 沒有使用的 vCPU 還有很多其他的工作要處理，因此不是完全都送給你應用程式處理。2)基於 hypter-thread vCPU 的架構，環境只有兩個真正的 CPU 而是透過邏輯的方式產生四個抽象的 CPU，所以全用一定會變快，但是基於很多資源還是要競爭與共用，數字不是單純翻倍

2. 作者自己的應用程式本身使用 gcc 建置時有使用 "-o3" 的方式來最佳化處理，然而框架本身卻沒有使用 "-o3" 的方式來弄，因此作者也針對這個部分來處理，讓建制框架時能夠使用 -o3
3. 從實作方面來看，作者觀察到 libreactor 1.0 版本使用的是 read/write 這兩個常見的方式來處理封包的送收，作者將其修改成 recv/send 整個效能就提升了將近 10%。

註: write(針對 FD，更全面廣泛的用法) 與 send(針對 Socket，更針對的用法) 使用上差異不大，但是 write 於底層 Kernel 最終還是會呼叫到 send 來處理，所以基本上可以理解就是在沒有特別參數需求時，可以直接跳過幾個 kernel function 來達到加速的效果。

write kernel 內的走向: sys_write -> vfs_write -> __vfs_write -> sock_write_iter -> sock_sendmsg

send kernel 內的走向: sendto -> sock_sendmsg

4. 作者觀察到火焰圖中有一些 pthread 相關的資料，進而發現 libreactor 會創造一個 thread pool 來處理非同步的 DNS 名稱解析問題。對於一個 HTTP Client 來說，如果今天要發送請求到多個不同的 domain，而每個 domain 都會需要進行一個 blocking 的解析過程，透過這種方式可以減少 DNS 解析造成的 blocking 問題。然而對於 HTTP Server 來說，這個使用情境帶來的效益似乎就稍微低了些，畢竟 Server 只有 Bind Socket 之前可能會需要去解析一次 DNS 而已。
大部分的情境下， thread pool 都是應用程式初期會去創造而接者就不太會管她，但是對於錙銖必較的效能除錯人來說，任何能夠調整的部分都可能是個值得探討的地方。
作者透過修改 Server 端(準確來說是 libreactor 框架內的程式碼)關於 Thread Pool 的一些用法，成長的讓整個效能提升了 2~3%

結論來說，透過上述四個概念來提升的程式碼效能。
1. vCPU 盡量使用: 25%-27%
2. 使用 gcc -O3 來建置框架的程式碼: 5%-10%
3. 使用 march=native 等參數來建置最後的 server 應用程式: 5%-10%
4. 使用 send/recv 而非 write/read: 5%-10%
5. 修改 pthread 的用法: 2%-3%

註: 作者強調每個最佳化的結果並非是單純累積的概念，反而還會有互補的效果。
可能前述的操作實際上也會讓後續的操作達到更好的效果，
譬如如果先跑 vCPU 的調整，效能大概提升 25%，但是如果先執行別的最佳化過程，最後再來調整 vCPU，就可以達到 40% 的效果，主要是 CPU 可以共有效率的去執行程式。

最後，這個部分讓整個處理封包能力從 224k 提升了 55% 到 347k (req/s)。
從火焰圖來看，整個 user-space 的範圍縮小許多，同時 send/recv 的處理也有使得整體的高度下降一點點(大概四格..)

為了避免文章過長，本篇文章就探討第一個最佳化的過程，剩下的就敬請期待後續!

https://talawah.io/blog/extreme-http-performance-tuning-one-point-two-million/

#你做公關顧問最有成就感的是？

第一次簽下新客的那天，我正在趕去政大徵才說明會的路上，手機一直響，同事紛紛在群組Tag我，原來是客戶回簽了合約，正式確立了合作關係，我也以Finder（客戶探勘者）的角色，拿下第一個自己的客戶！當下真的超級興奮。

一開始客戶聯繫時，我們不確定有多少預算，主管讓我去探探。本來客戶對公關公司的期待只是簡單的新聞發稿，反問之下才發現客戶的需求不少，只不過不知道「公關公司」可以提供這麼多服務。

我的Mentor Allen常提醒我「先聆聽再說」，在理解客戶的情況後，我們用架構性、策略出發的思考，提出完整的操作建議，包含媒體公關、形象影片、KOC口碑串聯等等。

在短短的時間內建立起客戶間的信任，慶幸的是，客戶也抱著開放的心態去聆聽，主動分享更多資訊與計畫、徵詢我們的意見，最終拿下客戶全額的預算，成為客戶本次主要協力夥伴的機會。除了拿下客戶合約、第一筆新客獎金，在過程中能因為自己，讓外界對於「公關顧問」的角色有更多的想像，都是有成就感的事。

#若換作其他公關顧問來接這個案子，會有一樣的結果嗎？

Finder一直是公司內部公認有挑戰性的角色，作為一名Young Finder，肯定要感謝過程中Mentor的提點，同時他也以Project Owner的角色，作為Finder的最佳後盾應援。但我想合作能夠推進，也跟自己打破砂鍋問到底的個性也有點關聯吧！這次公關操作的目的是什麼？為什麼想跟外部的公關團隊合作？這次專案中最擔憂的是什麼？如何做到Client-centric，而不會讓客戶覺得我只是想賺他錢的對立方，都是這次過程中不斷學習的事。

- 公關顧問 賈孟慈 Vivian Chia
－－－
也想挑戰公關顧問職涯嗎？布爾喬亞海選招募中‼
➡報名海選：https://wooo.tw/vSRx2Mc

【小編將被AI取代？】
～AI多元應用，讓撰文更簡單

人工智慧(AI)的發展一直是全球矚目焦點美國一個新創團隊Copy.ai，研發出可為企業產出文案的AI功能，這項核心技術為「人工智慧圈當紅的 GPT-3」，它擁有龐大的資料庫，可以產出更生活化的語言文字，不僅能編撰新聞稿與文案、譜詞曲，還可以協助技術文件、生成程式碼。

未來這項技術普及，小編們僅需要透過網站，進行三步驟：選擇文案方向、形容目標產品、推薦進行編輯，就能有十多筆文案可參考，從作者的角色轉為編輯者，產出各式行銷文案更簡單。
--------
#DOC數位機會中心
#城鄉交流數位應用
--------
更多職人 : http://expert.chineseink.com.tw/client/default.aspx
--------
Doc職人產品
http://docmall.doctw.com/index.php

這次合作奇妙的緣分，我原先也不知道謝佳見有學習過人類圖，是打開他寫真的介紹頁才發現這件事。於是列定訪綱的時候放進了很多人類圖的相關問題，想說下次遇到有學習人類圖的演員不知道會是什麼時候了，所以多聊點，於是就有了這支影片。

以前不認識他，但這次的相處很開心，跟謝佳見聊天覺得非常非常療癒，是個很親切的前輩！希望你們也可以感受到這支影片呈現的，了解自己接納自己的談話跟過程😁。謝謝人類圖促成這樣的緣分。


博客來-謝佳見：臨界之地：
https://www.books.com.tw/products/0010901035?utm_source=www&utm_medium=share&utm_content=copy&utm_campaign=product&utm_term=0010901035

謝佳見IG：
https://www.google.com/search?client=safari&rls=en&q=%E8%AC%9D%E4%BD%B3%E8%A6%8B+ig&ie=UTF-8&oe=UTF-8

-
🦌記得訂閱米鹿YT🦌 https://www.youtube.com/user/jamiedeermusic

🌟米鹿IG🌟 deerdeer_milu
🦌米鹿FB🦌 https://www.facebook.com/deerdeermilu/
🌟米鹿Line官方帳號🌟 @deerdeermilu
🌟業務合作請洽🌟 deermilu@capsuleinc.cc
-
#兩性 #戀愛 #分享

#WiFi分享器 #無線訊號放大器 #Mesh #無線中繼器 #電力線網路
兩千訂閱解密 無線中繼器 電力線網路 與WiFi Mesh 分佈式路由 WiFi分享器 差別在哪裡? - Wilson說給你聽
時間軸
00:00 開場
01:04 訊號中繼器
05:35 電力線網路
10:00 Mesh WiFi
13:55 綜合分析
16:20 QA

感謝大家支持Wilson的頻道 在前不久突破了兩千訂閱
除了持續新增電腦網路知識相關影片之外
Wilson也會開始針對大家留言的問題
在每一集影片最後做個QA喔
那這一集就是來分享說明很多人會問的一個問題
究竟 無線中繼器 電力線網路 以及Mesh WiFi有什麼差異
要如何進行選購
這邊就讓 Wilson說給你聽

當你打從心底無壓地充滿愉悅，顏面不自覺展開笑靨的來由會是什麼呢？快樂其實很常從時間間隙裡路過，一如轉角不經意地遇上一家常保笑顏的店。
　　
瀰漫著閃亮、甜膩的粉色主調，CiPU LAB點亮了綠意盎然的民生社區，像是一首旋律的高音，突出但不尖銳，設計師運用灰白等中性色調來平衡感受，宛如夾心餅乾一般，襯托起粉嫩的可口。空間櫃體的多變性，則讓每一次挪移，就如同少女的泡泡情懷在裡頭輕盈浮動，激盪成美好生活的新樣貌。
　　
若從街角轉往店家，率先映入眼簾的很可能是那面傳播大笑精神的哈哈形象牆，來往的過客不由自主地被這面牆引出會心一笑的嘴角，直接感受紓壓、自在、享受生活的理念，也想必是最近的我們再也需要不過的正能量了！

/ 詳細報導 /
https://reurl.cc/zyv3D6

-----------

Project : CiPU LAB 喜室好好
https://cipu.com.tw/
Client：45tilt 肆伍形物所
https://45tilt.com/

■ Subscribe Hey!Cheese Channel ■
https://www.youtube.com/c/heycheesenow
＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿

Follow more of Hey!Cheese on

Ｗ ｜ http://www.heycheese.com/
FB｜ https://www.facebook.com/HeyCheese/
IG ｜ https://www.instagram.com/heycheese.tw/
Be｜ https://www.behance.net/heycheese
Line@｜ @heycheese

#heycheese #heycheesemotion #45tilt肆伍形物所