ref: https://lwn.net/Articles/853637/

如果對 SO_REUSEPORT 這個能夠提供網路服務吞吐量的 socket options 不陌生的話，那這篇文章強烈推薦看看。
本篇文章是從討論開啟 SO_REUSEPORT 這個選項會出現的一些行為以及可能可以怎麼做

最直得看的應該是留言區本身，有很多不同層級的討論，大家最愛講的 Google SRE 人也都出來分享自己的經驗了。

正常情況下，每個 TCP Port 只能被一個 process 給使用來聽取封包，但是對於一些網路重度使用的系統來說，就算讓該 process 將連線給分散到其他的 process 去處理，該 process 依然可能是系統的效能瓶頸。
Linux Kernel 3.9 後引入的 SO_REUSEPORT 參數就是為了解決這個效能問題而來的，這個參數允許多個 Process 同時使用一個 TCP Port，每當底層有一條新的連線請求時， Kernel 會從眾多的候選人之一中挑選一個可用來處理。
這種情況下，網路應用程式就可以專心處理連線工作，然後實務上同時執行多個 Process 即可。底層的 Kernel 會幫忙做連線的負載分配。

當眾多候選 process 其中之一掛掉了(可能是 crash，也有可能是有意的重啟)， kernel 會注意到這個候選人要說掰掰，這候選人處理的所有 connection 都會被移除，比較糟糕的是其他待在 Accept-Queue 那些還沒被建立連線的連線請求也會一併被移除。
作者認為 Kernel 應該要有能力可以轉移那些 Accept-queue 中的連線到其他還工作的候選 process 下去處理，這樣使用者/Client 的連線就不會需要處理太多重連的問題。

文章後面都在探討可行的做法以及這個問題可能會導致什麼問題。

留言區滿熱鬧的，譬如說
1. 有人認為 server 重啟的情況實在太少見，有需要為這麽少見的情況導入這麼複雜的修改到 Kernel 中?
a. 有人回答使用 Let's Encrypt 你可能每幾週就要重啟一次。
b. Google SRE 回答其內部因為調整設定的緣由，幾乎無時無刻都需要重啟服務，不過這問題已經從別的層級去處理掉，所以修改 Kernel 對他們的用途不太大。
2. 有人提出 Nginx 本身有 live migration 的功能，可以將 fd 給轉移到其他的 process 去處理。
a. 有人提出這邊談的是 socket/connection 的層級，這些東西都還沒發生到 userspace process 同時也不是 userspace 應用程式可以接觸處理的。
b. 本文探討的是 bind(), accept(), listen() 這類型 function call 之間 kernel 會幫忙做的事情。

有興趣的別忘了閱讀留言區

立秋補補身
居家的好朋友～專業大廚為你掌廚的小桌菜
早早訂了餐廳
但還是有一丁點的擔心
不免俗的每年父親節都要吃個大餐什麼的
今年很多事都改居家
那慶祝這件事也只好跟風囉😊😊😊
把餐廳料理帶回家🏠

上海菜首選
🐟砂鍋魚頭🍲
這道上海砂鍋魚頭雖說是四人份
但份量相當足夠
湯裡面的食材更是一點都不手軟
有大白菜🥬竹筍、凍豆腐、豬肉、花枝虱目魚丸、寬版冬粉
還有蛋餃、花枝
當然還有靈魂人物-魚頭
經過幾小時的精心燉成這道上海砂鍋魚頭湯底
而湯頭十分不錯
利用辣椒蒜豆瓣醬等調味有其獨到之處
打開魚頭包裝和湯底放在一起加熱
湯頭也會更濃郁
魚頭也能入味

等到鍋加熱至滾沸再自行加入喜歡的火鍋料
溫溫暖暖
暖心必備✅✅✅
即使只想簡單一道菜搞定一餐
自己再添加各種食材也更有飽足感唷💕💕💕

如果覺得味道太辛辣
也可以自己加入高湯或者是開水調和
調出適合自己的好味道❤️

因為是真空密封包裝
建議以流水方式解凍10到15分鐘
或置室溫下6到8小時自然解凍
置於盤中電鍋加熱蒸15分鐘
或放鍋中加熱煮沸

🐠蔥烤鯽魚🔥
這道蔥烤鯽魚也是內行人必點的名菜之一
主廚利用鎮江醋提升鯽魚的香味
炸魚真功夫了得
魚骨就會酥酥的💕

而這道菜不會過油、過濕
而且也把蔥味巧妙帶入
滿滿的魚蛋也是小編無敵愛的部分
雖說是烤
其實是運用小火長時間把湯汁收緊
足足要比燒法還要多上一倍時間呢👍

而且非常方便
可以直接退冰或稍微微波即可食用
這道是涼菜喔
比較沒有人是吃熱的或是溫的啦⋯⋯
放涼後
蔥與醬料會更融入
美味加倍💯💯💯

✳️油燜烤麩
裡面有香菇、毛豆、竹筍、烤麩佐上醬油糖和鹽
這也是一道素食可吃的菜
所謂烤麩就是用麵筋發酵做成的小饅頭狀
先把食材煮熟炸熟再加入調味料、湯汁
長時間小火悶煮後～
軟嫩軟嫩也是長輩們很喜歡的一道料理

而冷凍可以保持三個月🧊
也可以冷食或者是退冰微波解凍後即可享用
如果喜歡熱食當然也可以加熱🔥

✳️八寶辣醬
裡面居然有滿滿的料
▶️豬肚、豬里肌、雞肉、竹筍、香菇、豆干、毛豆、辣豆瓣醬
除了當成一道菜色
這道上海的名菜
也很適合拿來拌麵或者是拌飯
微微偏辣的口感
在炎炎夏日也很能增加胃口⬆️⬆️⬆️
以電鍋加熱蒸8到10分鐘即可使用
也很方便😃

✳️桂花蜜芋頭
內行人都知道芋頭當然是要吃大甲的芋頭啦
除了能用糖蜜芋頭之外
還可以加上特殊香味的桂花
將兩者互相激盪堆疊出不同的口感
而芋頭的綿密搭配剛剛好的甜度
也是飯後必吃的小點❤️❤️❤️

✳️梅汁番茄
吃了飽足感的砂鍋魚頭
當然要來道清爽解膩的梅汁蕃茄
選用台灣在地的紅蕃茄及黃金蕃茄
利用紫蘇梅、酸梅、白醋和糖醃製而成
增加了食物層次不同的口感
簡單來說
就是好吃
好好吃😉😉😉

由於冷藏只能15天
記得吃不完就冷凍保存

✳️小魚豆乾辣椒
選用宜蘭的三星蔥、青辣椒、紅辣椒、豆乾、小魚干
也是搭啤酒的指定小菜
我是還蠻喜歡搭配湯麵吃的😍
也是微波加熱2到3分鐘就可以囉✅

大家對於晶宴的認識
大概就是尾牙、婚宴的場地
而家庭聚會、慶祝節日
也是雙北人很喜歡去的餐廳

最近因應疫情的關係
#晶宴會館
也推出居家防疫的冷凍料理
主婦們如果已經想不到要變出什麼菜色
也可以參考看看
這一次的晶宴選擇真的是頗讓人驚艷喔～
當然

我還是喜歡到現場吃啦😋😋😋

❤️晶宴會館
https://www.facebook.com/amazinghallofficial/

🍴 晶宴商城
https://www.facebook.com/amazingshopping.co

🍴晶宴商城網路購物平台

https://lihi1.cc/JvQVL

• 優惠方案:
▶️超值六件組-組合優惠價$1099(原價$1730六四折)
砂鍋魚頭、柚香玉鳳腿、香草松阪豬、油燜烤麩、梅汁番茄、小魚豆乾辣椒

▶️好料六件組-組合優惠價$888(原價$1209六六折)
德國豬腳、蔥烤鯽魚、油燜烤麩、桂花蜜芋頭、小魚豆乾辣椒、麻油松阪雞湯

▶️港點五件組-組合優惠價$599(原價$810六六折)
松露燒賣、小豬流沙包、牛蒡炸春捲、古早味芋丸、荷葉珍珠雞

▶️小菜五件組-組合優惠價$599(原價$780七七折)
蔥烤鯽魚、油燜烤麩、桂花蜜芋頭、梅汁番茄、小魚豆乾辣椒

• 商品份量:所有商品皆為4~6人份

🚗單筆滿$2000即享黑貓宅配免運

#晶宴商城 #晶宴會館 #晶宴私廚手路菜 #單筆滿2000元享免運
#宅配美食 #料理 #美食 #美食推薦 #美食分享 #防疫美食

ref: https://ably.com/blog/no-we-dont-use-kubernetes

八月第一篇，就來個有趣的文章，來看看 ably 這間 SaaS 公司為什麼沒有使用 Kubernetes，不但當前沒有使用，甚至短期未來內都不會想要使用
更是直接的說如果你有興趣來加入團隊，千萬不要把將 Kubernetes 導入到團隊中是一個可能發生的事情。

我個人覺得這篇文章滿好的，因為是認真的去比較導入 Kubernetes 帶來的改變，而這些改變對團隊來說到底是可接受還是不可接受
而不是所謂的人云亦云，人家要我也要，人家不要我也不要...

文章分成兩部分，前述介紹當前 Ably 的環境架構是什麼，而半部分則是很技術的去探討如果導入 Kubernetes 帶來的好處與壞處是什麼
最終權衡比較之下，會發現導入 Kubernetes 沒有帶來實質上的好處。

文章開頭先簡述了一下 Kubernetes 這幾年的風潮，從最初 Google Borg 的開發開始談起，作者特別提到當初 Borg 的用法可是將一堆實體機器給搭建出一個 Private Cloud 的叢集給團隊使用，
而目前 Kubernetes 更多的用法則是搭建於 Public Cloud 上面的虛擬機器中，透過將 Kubernetes 部署到這些不同的 Cloud Provider 似乎帶來了介面統一的結果，對於 DevOps 人員來說
不同 Cloud Provider 如今看起來都是 Kubernetes 的樣貌。

Ably 目前到底怎麼部署應用程式
Ably 主要使用 AWS 作為其 Cloud Provider，並且於 EC2 機器上使用 docker/container 來部署團隊中的應用程式。
作者團隊中沒有使用任何已知的 Orchestration 服務來管理多節點上的 docker/container，取而代之的則是每個 VM 開機後則會根據 autoscaling group 的機制來判斷
每個機器應該要部署哪種 container/docker。

對於 Ably 來說，團隊中沒有任何 scheduler 相關的服務來調度各種服務，這意味每個 VM 就代表一種服務，所以將 VM 上的服務從 Core 轉換成 frontend 這種行為不會發生。
今天需要針對需求轉換服務時就以 VM 為基準來整批換掉即可。
每個節點上面都會有一個輕量的監控服務，用來確保運作的 Container 如果掛掉後可以被重啟，甚至如果當前運行的版本不符合需求時也能夠將該服務給停止。

流量方面，因為每個 Autoscaling Group 就代表一個服務，所以直接使用 NLB 與 Target Group 來將流量導入該 Autoscaling Group 即可。
至於容器與容器之間的內部流量(譬如 k8s service 等)作者認為也不是太大問題，畢竟每個機器本身都會被 VPC 賦予一個 IP 地址，所以使用上沒有什麼太大的問題。

接下來作者從幾個層次去探討當前設計與使用 Kubernetes 帶來的改變，分別有 (原文很多，這邊摘要不然文章會太長)
題外話，由於 Ably 的 Infra Team 數量有限，所以要考慮 K8s 只會考慮 K8s Service，如 EKS。
1. Resource Management
Ably:
a. 根據服務的需求來決定每個服務要用到的 VM 等級
b. 不需要去煩惱如何處理將多個小服務給部署到一個適合的大 VM 中
c. 作者稱這種行為其實就是 AWS 官方強調的 Right Sizing, 譬如只能跑兩個 Thread 的服務不需要 16vCPUs, 久久寫一次硬碟的服務也不需要一個 90,000 IOPS 的 SSD
d. 選擇一個正確的元件來搭建一個符合服務的 VM 讓團隊可以控制成本同時也減少額外的管理負擔
K8s:
a. 必須要使用一個比較強大等級的 EC2 VM，畢竟上面要透過 Container 部署很多服務
b. 針對那些需要小資源的服務來說，透過這種方式能夠盡可能的榨乾機器的資源，整體效能使用率會更好
c. 但是針對資源量沒有很辦法明確定義的服務則是會盡可能地去吃掉系統上的資源，這種被稱為 nosy neighbors 的常見問題已經不是首次出現了， Cloud Provider 本身就需要針對 VM 這類型的服務去思考如何處理資源使用，而 Cloud Provider 都有十年以上的經驗再處理這一塊
而所有 Kubernetes 的使用者則必須要自己去處理這些。
d. 一個可能的作法則是一個 VM 部署一個服務，不過這個做法跟團隊目前的作法已經完全一致，所以就資源管理這一塊，團隊看不到使用 Kubernetes 的優勢。

2. Autoscaling
Ably:
a. EC2 VM 本身可以藉由 Autoscaling Group 來動態調整需求
b. 有時候也是會手動的去調整 EC2 的數量，基本上手動跟自動是互相輔佐的
c. 團隊提供的是 SaaS 服務，所以其收費是針對客戶實際上用多少服務來收，如果開了過多 EC2 VM，則很多不要的花費與開銷都是團隊要自行吸收
d. 團隊需要一個盡可能有效率的方式能夠即使遇到流量暴衝時也能夠保證良好的服務的機制
K8s:
a. 可以透過不少方式來動態調整 Container 的數量，
b. 甚至可以透過 Cluster autoscaler 來針對節點進行調整，根據需求關閉節點或是產生更多節點
c. 動態關閉節點的有個問題是關閉節點時通常會選擇盡可能閒置的節點，但是閒置並不代表沒有任何服務部署再
上面，因此該節點上的 Container 都要先被轉移到其餘節點接者該目標節點才可以被正式關閉。這部分的邏輯作者認為相對複雜
d. 整體來說，k8s 有兩個動態調整的部分，動態節點與動態服務，而現有的架構只有一個動態節點。所以使用 k8s 則會讓問題變得更多更複雜。

3. Traffic Ingress
Ably:
a. Traffic Ingress 基本上每個 cloud provider 都提供了很好的解決方案，基本上團隊只要能夠維持每個服務與背後的機器的關係圖，網路流量基本上都沒有什麼需要團隊管理的。
b. 使用者會透過直接存取 NLB 或是透過 CloudFront 的方式來存取團隊內的服務

K8s:
a. EKS 本身可以透過 AWS VPC CNI 使得每個 Container 都獲得 VPC 內的 IP，這些 IP 都可以讓 VPC 內的其他服務直接存取
b. 透過 AWS LB Controller，這些 Container 可以跟 AWS LB 直接整合，讓封包到達 LoadBalancer 後直接轉發到對應的 Container
c. 整體架構並不會比團隊目前架構複雜
d. 唯一缺點大概就是這個解決方案是完全 AWS 綁定，所以想要透過 k8s 來打造一個跨 Cloud Provider 的統一介面可能就會遇到不好轉移的問題。

4. DevOps
Ably:
a. 開發團隊可以透過簡單的設定檔案來調整部署軟體的版本，後續相關機制就會將 VM 給替換掉，然後網路流量也會自然的導向新版服務
K8s:
a. 開發團隊改使用 Kubernetes 的格式來達到一樣的效果，雖然背後運作的方式不同但是最終都可以對開發團隊帶來一樣的效果。

上次四個分析基本上就是，使用 k8s 沒有帶來任何突破性的好處，但是 k8s 本身還有其他的功能，所以接下來作者想看看 k8s 是否能夠從其他方面帶來好處

Multi-Cloud Readiness
作者引用兩篇文章的內容作為開頭，「除非經過評估，否則任何團隊都應該要有一個跨 Cloud-Provider 的策略」
作者表明自己團隊的產品就是那個經過評估後斷言不需要跨 Cloud Provider 策略的團隊，同時目前沒有往這個方向去追求的打算。
同時作者也不認為 K8s 是一個能夠有效達成這個任務的工具。舉例來說，光 Storage 每家的做法都不同，而 K8s 沒有辦法完全將這些差異性給抽象畫，這意味者開發者終究還是要針對這些細節去處理。

Hybrid Cloud Readiness
管理混合雲(Public Cloud + Private Cloud based on Bare-Metal servers)是作者認為一個很合理使用 K8s 的理由，畢竟這種用法就跟當初 Google Borg 用法一致，是經過驗證可行的。
所以 Ably 如果有計畫要維護自己的資料中心時，底層就會考慮使用 Kubernetes 來管理服務。畢竟這時候沒有任何 Cloud Provider 提供任何好像的功能。
不過 Ably 目前沒有任何計畫，所以這個優點也沒有辦法幫助到團隊

Infrastructure as Code
團隊已經大量使用 Terraform, CloudFormation 來達成 IaC，所以透過 k8s YAML 來維護各種架構不是一個必要且真的好用的方式。

Access to a large and active community
另外一個很多人鼓吹 K8S 的好處就是有龐大的使用者社群，社群內有各種問題分享與探討。
作者認為
a. AWS 的使用者社群數量是高於 Kubernetes
b. 很多情況下，一個迭代太快速的產品其實也不一定對團隊有太大的幫助。
c. 很多人都使用 k8s，但是真正理解 k8s 的人微乎其微，所以想要透過社群來幫忙解決問題其實比你想像的還要難，畢竟裡面的問題太雜，很多時候根本很難找到一個真正有效的答案。

Added Costs of Kubernetes
為了轉移到 K8s, 團隊需要一個全新的 team 來維護 k8s 叢集以及使用到的所有基本服務。舉例來說，EKS, VPN CNI, AWS LB 帶來的網路好處並不是啟動 EKS 就會有的，
還必須要安裝相關的 Controller 並且進行設定，這些都是額外的維運成本。
如果找其他的服務供應商來管理 Kubernetes，這意味公司就要花費更多的$$來處理，所以對團隊來說，金錢與工作量都會提高，不同的解決方式只是這兩個指標的比例不同而已。

結論:
1. Ably 覺得 Kubernetes 做得很好，但是團隊目前沒有任何計畫去使用它，至少目前這階段沒有看到任何實質好處
2. 仔細評估後會發現，導入 k8s 其實也會帶出不少管理上的問題，反而並沒有減輕本來的負擔