Vietnamese Professional - CCIE Enterprise https://www.forum.vnpro.org/ vi Sun, 07 Jun 2026 13:11:43 GMT vBulletin 60 images/misc/rss.png Vietnamese Professional - CCIE Enterprise https://www.forum.vnpro.org/ So sánh MultiPath và Load Balancing https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/441073-so-sánh-multipath-và-load-balancing Wed, 03 Jun 2026 13:13:30 GMT Vì sao ECMP chưa đủ cho Storage Network? Trong các mạng AI, HPC hoặc Storage hiện đại, chúng ta thường triển khai nhiều đường kết nối song song... Vì sao ECMP chưa đủ cho Storage Network?


Trong các mạng AI, HPC hoặc Storage hiện đại, chúng ta thường triển khai nhiều đường kết nối song song giữa máy chủ và hệ thống lưu trữ nhằm tăng băng thông và khả năng dự phòng.
Nhiều người cho rằng ECMP sẽ tự động phân phối lưu lượng đều trên tất cả các đường truyền. Tuy nhiên thực tế không hoàn toàn như vậy. Mời các bạn đọc tiếp để hiểu rõ hơn sự khác nhau giữa hai cơ chế này.
ECMP hoạt động dựa trên cơ chế băm (hashing) các thông tin của một flow như Source IP, Destination IP, Protocol, Source Port và Destination Port. Sau khi tính toán, toàn bộ dòng lưu lượng (flow) sẽ được gán vào một đường đi cụ thể. Điều này có nghĩa là:
  • Một phiên NVMe/TCP có thể sử dụng duy nhất một liên kết 100G.
  • Một luồng RoCEv2 có thể chỉ chạy trên một đường truyền duy nhất.
  • Một số liên kết có thể hoạt động gần như tối đa công suất trong khi các liên kết khác lại nhàn rỗi.
Đây là hiện tượng hot spot hoặc uneven utilization (sử dụng tài nguyên không đồng đều). Trong khi đó, Fibre Channel từ lâu đã hỗ trợ cân bằng tải theo từng tác vụ I/O, giúp các hoạt động đọc ghi được phân bố đồng đều hơn trên nhiều đường kết nối.
Để đạt được hiệu quả tương tự trong môi trường IP Storage, các nhà sản xuất khuyến nghị triển khai MPIO (Multipath I/O) trên máy chủ. MPIO cho phép hệ điều hành nhìn thấy nhiều đường truy cập đến cùng một thiết bị lưu trữ và chủ động phân phối các lệnh I/O qua nhiều đường khác nhau. Kết quả của kỹ thuật này là:
  • Tận dụng tốt hơn tổng băng thông của nhiều liên kết.
  • Giảm hiện tượng nghẽn cục bộ.
  • Tăng khả năng chịu lỗi khi một đường truyền gặp sự cố.
  • Cải thiện hiệu năng tổng thể cho các ứng dụng AI, cơ sở dữ liệu và lưu trữ hiệu năng cao.
Góc nhìn thực tế cho HẠ TẦNG AI Infrastructure


Trong các cụm GPU AI hiện đại sử dụng NVMe/TCP hoặc RoCEv2 trên Ethernet 100G/200G/400G, việc chỉ dựa vào ECMP thường không đủ để khai thác hết năng lực mạng. Do đó, các kiến trúc AI-ready Data Center thường kết hợp:
  • ECMP trong mạng Spine-Leaf để mở rộng quy mô (scale-out)
  • MPIO trên máy chủ để phân phối I/O hiệu quả
  • RDMA/RoCEv2 để giảm độ trễ
  • Nhiều NIC và nhiều đường truyền vật lý để tăng thông lượng
Tóm lại, ECMP giúp cân bằng các dòng lưu lượng flow mạng, còn MPIO cân bằng các hoạt động lưu trữ. Muốn khai thác tối đa hạ tầng Storage Network cho AI, cần kết hợp cả hai cơ chế này thay vì chỉ dựa vào ECMP.​]]> CCIE Enterprise dangquangminh https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/441073-so-sánh-multipath-và-load-balancing Ba cách triển khai RDMA https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/440870-ba-cách-triển-khai-rdma Fri, 29 May 2026 11:29:16 GMT Hình này mô tả ba cách triển khai RDMA (Remote Direct Memory Access) trên hạ tầng mạng hiện đại: RoCE, RoCEv2 và iWARP, đồng thời cho thấy cách chúng... RDMA (Remote Direct Memory Access) trên hạ tầng mạng hiện đại: RoCE, RoCEv2 và iWARP, đồng thời cho thấy cách chúng ánh xạ giữa thế giới Ethernet và InfiniBand.

Điểm quan trọng nhất là ứng dụng AI, HPC hay Storage không làm việc trực tiếp với TCP/IP hay Ethernet. Chúng sử dụng tập lệnh RDMA Verbs của InfiniBand để truy cập bộ nhớ từ xa với độ trễ cực thấp và gần như không cần CPU tham gia.

iWARP hoạt động trên nền TCP. Nó tận dụng cơ chế đáng tin cậy của TCP như truyền đúng thứ tự, kiểm soát luồng (flow control) và kiểm soát nghẽn (congestion control). Ưu điểm là dễ triển khai trên mạng IP hiện hữu, nhưng chi phí xử lý giao thức thường cao hơn.

RoCE (RDMA over Converged Ethernet) là RDMA chạy trực tiếp trên Ethernet Layer 2. Phiên bản đầu tiên không hỗ trợ định tuyến IP nên chỉ hoạt động trong cùng miền Layer 2. Vì vậy RoCE thường yêu cầu mạng lossless sử dụng các cơ chế như PFC (Priority Flow Control).

RoCEv2 là phiên bản được sử dụng phổ biến hiện nay. Thay vì chỉ chạy trên Ethernet Layer 2, nó đóng gói RDMA vào UDP/IP nên có thể định tuyến qua mạng Layer 3. Nhờ đó RoCEv2 phù hợp với các AI Data Center quy mô lớn sử dụng kiến trúc Spine-Leaf. RoCEv2 thường kết hợp với:
  • ECN (Explicit Congestion Notification) để tránh nghẽn.
  • DSCP để phân loại QoS.
  • UDP để hỗ trợ cân bằng tải trên mạng.

Ở phía phải của hình là InfiniBand, vốn được thiết kế ngay từ đầu cho HPC và AI với cơ chế credit-based flow control giúp tránh mất gói. Trong khi đó Ethernet phải bổ sung các công nghệ như PFC và ECN để đạt được hành vi gần tương tự.

Nếu nhìn từ góc độ hạ tầng AI hiện nay:
  • InfiniBand vẫn thống trị các siêu máy tính và cụm GPU cực lớn.
  • RoCEv2 đang trở thành lựa chọn phổ biến trong các AI Data Center dựa trên Ethernet.
  • iWARP ít phổ biến hơn trong các triển khai AI quy mô lớn.

Một cách đơn giản, có thể xem:

InfiniBand = RDMA nguyên bản

RoCEv2 = RDMA chạy trên Ethernet/IP

iWARP = RDMA chạy trên TCP/IP

Đây cũng là lý do tại sao khi xây dựng mạng cho AI/ML, các kỹ sư mạng ngày nay phải hiểu thêm về PFC, ECN, QoS, Spine-Leaf và RDMA, thay vì chỉ tập trung vào các giao thức Ethernet truyền thống.​]]> CCIE Enterprise dangquangminh https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/440870-ba-cách-triển-khai-rdma Hạ tầng cho AI https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/440664-hạ-tầng-cho-ai Mon, 25 May 2026 11:22:31 GMT AI không chỉ là mô hình, mà là cả một bài toán hạ tầng Nhiều người khi nói về AI thường chỉ nghĩ đến mô hình: LLM nào tốt hơn, tham số bao nhiêu... AI không chỉ là mô hình, mà là cả một bài toán hạ tầng


Nhiều người khi nói về AI thường chỉ nghĩ đến mô hình: LLM nào tốt hơn, tham số bao nhiêu tỷ, dùng pre-training hay fine-tuning, có tích hợp RAG hay không. Nhưng nếu nhìn từ góc độ hạ tầng, mô hình AI thực ra chỉ là phần nổi của tảng băng.

Phía sau một hệ thống AI chạy được trong môi trường thật là cả một stack công nghệ khá đồ sộ.

Ở lớp trên cùng là vòng đời của mô hình AI: huấn luyện ban đầu (pre-training), tinh chỉnh (fine-tuning), bổ sung tri thức ngoài qua RAG, rồi cuối cùng là giai đoạn suy luận (inference) — tức lúc người dùng thực sự gửi prompt và chờ phản hồi. Mỗi giai đoạn này lại có yêu cầu hạ tầng rất khác nhau. Huấn luyện thì ngốn GPU, inference thì cần tối ưu độ trễ, còn RAG lại phụ thuộc mạnh vào hệ thống lưu trữ và truy xuất dữ liệu.

Ngay bên dưới là lớp framework và công cụ quản lý AI. Đây là thế giới của PyTorch, TensorFlow, Hugging Face, orchestration pipeline, model serving và monitoring. Xa hơn nữa là lớp ảo hóa và Kubernetes — thứ đang dần trở thành “VMware của thời AI”.

Nhưng điều thú vị nhất nằm ở phần data center.

Dù là AI triển khai trong doanh nghiệp (on-prem AI) hay các cụm AI quy mô hyperscale, những thành phần cốt lõi gần như không thay đổi: compute, storage, kiến trúc mạng, bảo mật và khả năng quan sát hệ thống.

Compute thì ai cũng nghĩ đến GPU. Nhưng network mới là thứ dễ bị đánh giá thấp.

AI training không giống workload enterprise truyền thống. GPU không thể ngồi chờ dữ liệu. Nếu mạng chậm, latency cao, congestion xảy ra hoặc east-west traffic nghẽn, cụm GPU trị giá hàng triệu đô có thể bị idle chỉ vì network bottleneck.

Đó là lý do vì sao trong AI data center, mạng không còn là “phần kết nối” nữa, mà trở thành một thành phần trực tiếp quyết định hiệu suất AI.

Nhìn hàng dưới của sơ đồ sẽ thấy rõ hơn: access, WAN, inter-data center, edge compute, inter-cluster. Điều này cho thấy AI không phải chỉ nằm trong một rack server. Nó là một hệ sinh thái phân tán, nơi dữ liệu, mô hình và compute liên tục di chuyển giữa nhiều domain.

AI engineer có thể nói về model, nhưng để AI chạy thật ngoài production, hạ tầng mới là nơi quyết định thành bại.​]]> CCIE Enterprise dangquangminh https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/440664-hạ-tầng-cho-ai Cơ chế Packet Switching https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/440314-cơ-chế-packet-switching Sat, 16 May 2026 10:36:46 GMT Packet Switching và Ảnh Hưởng Đến Hiệu Năng Router Ngoài các vấn đề về CPU utilization cao đã đề cập trước đó, một yếu tố khác có thể ảnh hưởng... Packet Switching và Ảnh Hưởng Đến Hiệu Năng Router


Ngoài các vấn đề về CPU utilization cao đã đề cập trước đó, một yếu tố khác có thể ảnh hưởng mạnh đến hiệu năng của router là chế độ packet switching mà thiết bị đang sử dụng. Trong thực tế, không phải mọi router đều xử lý packet theo cùng một cách. Cách router quyết định chuyển tiếp packet phụ thuộc rất nhiều vào kiến trúc phần cứng và phần mềm của thiết bị.

Vì vậy, khi troubleshooting ngoài môi trường production, bạn luôn nên tham khảo tài liệu của dòng router cụ thể để hiểu chính xác cách nó triển khai forwarding plane.

Tuy nhiên, về mặt tổng quát, các router Cisco và multilayer switch thường hỗ trợ ba cơ chế packet switching chính:
  • Process Switching
  • Fast Switching (Route Caching)
  • Cisco Express Forwarding - CEF (Topology-Based Switching)

Đây là những khái niệm rất quan trọng đối với kỹ sư CCNP/CCIE, bởi vì chúng ảnh hưởng trực tiếp đến throughput, latency, CPU load, và khả năng mở rộng của hệ thống.
Packet Switching Là Gì?


Packet switching là quá trình router quyết định:
"Packet này sẽ được gửi đi đâu?"

Khi một packet đi vào router, thiết bị phải thực hiện nhiều bước xử lý:

Bước 1: Loại bỏ Layer 2 header

Ví dụ Ethernet header sẽ bị bỏ đi vì MAC source/destination chỉ có ý nghĩa trong local segment.

Ví dụ packet đến với:
Src MAC: 00:11:22:33:44:55
Dst MAC: AA:BB:CC:DD:EE:FF

Router sẽ bỏ phần này.

Bước 2: Kiểm tra Layer 3 header

Router đọc thông tin IP:
Source IP
Destination IP
TTL
Protocol

Ví dụ:
Source IP: 10.1.1.10
Destination IP: 192.168.1.100

Router sẽ tra cứu routing table để xác định next-hop.

Bước 3: Quyết định forwarding

Ví dụ routing table:
192.168.1.0/24 via 172.16.1.1

Router xác định:
"Packet này phải gửi ra interface GigabitEthernet0/1"

Bước 4: Viết lại Layer 2 header

Router tạo Ethernet frame mới:
New Source MAC = MAC của router trên cổng ra
New Destination MAC = MAC của next-hop

Ví dụ:
Src MAC: 00:AA:BB:CC:DD:EE
Dst MAC: 11:22:33:44:55:66

Bước 5: Tính lại FCS

Do frame đã thay đổi nên checksum Layer 2 cũng phải được tính lại.

Bước 6: Forward packet

Packet được gửi ra cổng phù hợp.
1. Process Switching

Cách hoạt động


Đây là phương pháp packet switching truyền thống nhất.

Với process switching, mỗi packet đi vào đều được CPU xử lý trực tiếp.

Luồng xử lý:
Packet đến
↓
CPU kiểm tra header
↓
CPU tra routing table
↓
CPU rewrite Layer 2 header
↓
CPU tính FCS
↓
CPU gửi packet ra ngoài

Toàn bộ quyết định forwarding đều do CPU đảm nhiệm.
Minh họa logic

Incoming Packet
↓
CPU xử lý
↓
Routing Decision
↓
Rewrite Frame
↓
Outgoing Interface

Điều này tương ứng với mô hình:
  • Control Plane tham gia trực tiếp
  • CPU trở thành điểm xử lý trung tâm
Vì sao chậm?


CPU là tài nguyên hữu hạn.

Nếu traffic nhỏ:
100 pps

CPU vẫn xử lý ổn.

Nhưng nếu traffic tăng:
50,000 pps
100,000 pps
500,000 pps

CPU sẽ nhanh chóng quá tải.

Kết quả:
  • latency tăng
  • packet drop
  • routing protocol bị ảnh hưởng
  • management session lag
  • SSH/Telnet phản hồi chậm
Ví dụ thực tế


Router nhận traffic:
200 Mbps

Packet size trung bình:
500 bytes

Packets per second:
200,000,000 / (500 × 8)
= 50,000 pps

Nếu CPU phải process-switch 50,000 packet mỗi giây:

=> cực kỳ nặng.
Khi nào xảy ra?


Thông thường router hiện đại không dùng process switching cho forwarding thông thường.

Nhưng vẫn có thể xảy ra khi:
  • packet đầu tiên của flow
  • traffic đặc biệt cần CPU xử lý
  • exception traffic
  • control-plane traffic
  • fast switching bị disable
  • CEF bị disable
Cấu hình ép dùng Process Switching


Có thể disable Fast Switching và CEF bằng lệnh:
interface GigabitEthernet0/0
no ip route-cache

Lệnh này buộc interface dùng process switching.
Kiểm tra

show ip interface

Ví dụ:
IP fast switching is disabled
Tác động đến Troubleshooting


Nếu router CPU cao, cần kiểm tra:
show processes cpu

Nếu CPU bị packet forwarding chiếm nhiều:
IP Input

process IP Input cao thường là dấu hiệu process switching hoặc exception packet processing.

Ví dụ:
PID Runtime(ms) Invoked uSecs 5Sec 1Min 5Min Process
66 458293 ... IP Input

Nếu IP Input cao bất thường:

→ nghi ngờ packet đang đi vào CPU.
Kiến thức thực chiến


Process switching gần như là “worst-case forwarding path”.

Nếu traffic data-plane phải đi qua CPU:

router sẽ giống như:
"Dùng general-purpose CPU để làm forwarding ASIC"

Điều này cực kỳ kém hiệu quả.
Tóm tắt


Process switching có đặc điểm:

Ưu điểm
  • đơn giản
  • luôn hoạt động
  • xử lý được exception traffic

Nhược điểm
  • CPU intensive
  • throughput thấp
  • latency cao
  • không scalable

Trong phần tiếp theo, cơ chế Fast Switching và đặc biệt Cisco Express Forwarding (CEF) mới là các kỹ thuật giúp router forwarding hiệu quả ở tốc độ cao.
​]]> CCIE Enterprise dangquangminh https://www.forum.vnpro.org/forum/ccie®/ccie-enterprise/440314-cơ-chế-packet-switching