[Azure] Boosting Azure Network Performance with Accelerated Networking on AKS

Refer to: https://www.kristhecodingunicorn.com/post/aks-nodes-accelerated-networking/

Accelerated Networking (AN) trên AKS giúp giảm độ trễ nội bộ giữa các node và tăng thông lượng nhờ bypass Hyper‑V vSwitch để gói tin đi thẳng vào NIC và offload xử lý mạng xuống phần cứng, vì vậy CPU host ít bị ngắt và xử lý được nhiều gói hơn trong cùng thời gian.

Tác động chính:

• Giảm độ trễ node‑to‑node rõ rệt, nhiều bài test ghi nhận giảm hơn 50% latency khi bật AN trong cùng điều kiện đo với SockPerf/latte
• Tăng thông lượng và ổn định dưới tải, các bài test throughput và under‑load cho thấy số message/giây cao hơn khi bật AN.
• Giảm sử dụng CPU và số lần ngắt trên Windows nodes ước tính 70–80% khi bật AN, nhờ offload chính sách mạng xuống NIC.

Khi nào hiệu quả nhất

• Mạnh nhất trong cùng Virtual Network (giao tiếp nội bộ giữa các AKS nodes), còn tác dụng tối thiểu với lưu lượng xuyên mạng hoặc ra Internet/on‑prem.

Cách bật/kiểm tra nhanh

• Từ 2022, tạo AKS cluster hoặc node pool mới (Linux/Windows) sẽ được bật AN mặc định nếu VM SKU hỗ trợ; có thể kiểm tra thuộc tính “Accelerated networking” trên VMSS hoặc qua CLI az vmss show.
• Với node pool cũ chưa có AN, tạo node pool mới có AN rồi drain/pod migrate dần để tận dụng hiệu năng mà không downtime lớn.

Nếu không bật Accelerated Networking (AN)

Không bật Accelerated Networking (AN), lưu lượng mạng của VM/node sẽ đi qua Hyper‑V Virtual Switch trên host trước khi tới NIC ảo, rồi mới vào VM; mỗi gói phải xử lý bởi vSwitch, áp dụng policy ở tầng phần mềm và gây thêm ngắt CPU, nên độ trễ cao hơn và thông lượng thấp hơn so với khi bypass thẳng xuống NIC như AN.​

Luồng chi tiết

• Ingress/egress của VM: gói vào/ra VM đều phải traverse vSwitch trên hypervisor, qua các bước kiểm tra, lọc và áp chính sách ở phần mềm trước khi chuyển đến NIC ảo và stack mạng của VM, làm tăng overhead xử lý và context switch.​
• Trong AKS: lưu lượng node‑to‑node nội bộ vẫn chịu chi phí vSwitch/host networking, nên latency giữa nodes cao hơn và CPU host bận hơn; blog thử nghiệm cho thấy khi chưa bật AN thì ping‑pong/throughput/under‑load đều kém hơn đáng kể so với bật AN.​
• Phạm vi tác động: thiếu AN chủ yếu ảnh hưởng lưu lượng trong cùng Virtual Network của cluster; với lưu lượng xuyên VNet/ra Internet, khác biệt AN vốn đã nhỏ nên không bật AN cũng ít giúp cải thiện đường ngoài này.​

Liên hệ với mô hình AKS

• AKS dùng các mô hình mạng (overlay/flat) và tài nguyên như NSG, LB, NAT Gateway; nhưng ở cấp VM/node, khi không có AN thì đường đi vẫn qua vSwitch phần mềm, nên chi phí xử lý mỗi gói cao hơn bất kể mô hình mạng Kubernetes nào đang dùng.

Bạn có thể sửa dụng comamd này để tìm ra Instance nào có hố trợ accelerated network:

az vm list-skus \
  --location westus \
  --all true \
  --resource-type virtualMachines \
  --query '[].{size:size, name:name, acceleratedNetworkingEnabled: capabilities[?name==`AcceleratedNetworkingEnabled`].value | [0]}' \
  --output table