Trong thế giới data center hiện đại, lưu lượng mạng không hề giống nhau. Có những luồng dữ liệu cực ngắn, nhỏ gọn (gọi là mice flows) và những luồng dữ liệu dài, chiếm băng thông khổng lồ (gọi là elephant flows).
Vấn đề nằm ở chỗ: switch truyền thống không phân biệt được hai loại luồng này. Khi nghẽn xảy ra, tất cả gói tin bị xếp chung một hàng đợi theo kiểu FIFO (first in, first out). Kết quả là:
Một số switch được thiết kế với deep buffer (bộ đệm cực lớn) để chống rớt gói. Nhưng cách làm này có hai nhược điểm rõ rệt:
Nói cách khác: buffer càng lớn, chưa chắc mạng đã nhanh hơn! Giải pháp của Cisco Nexus 9000: Bộ đệm thông minh
Cisco đã chọn một hướng khác cho dòng Nexus 9000 với cloud-scale ASIC: không cần buffer quá lớn, mà cần quản lý bộ đệm thông minh.
Điểm khác biệt nằm ở khả năng phân biệt mice và elephant flows để xử lý theo cách phù hợp:
Nhờ vậy, Cisco Nexus 9000:
✨ Thay vì “càng nhiều buffer càng tốt”, Cisco cho thấy tương lai của mạng data center nằm ở bộ đệm thông minh – nơi mà phần cứng và phần mềm cùng phối hợp để tối ưu hóa từng loại lưu lượng.
Vấn đề nằm ở chỗ: switch truyền thống không phân biệt được hai loại luồng này. Khi nghẽn xảy ra, tất cả gói tin bị xếp chung một hàng đợi theo kiểu FIFO (first in, first out). Kết quả là:
- Mice flows (nhiều khi mang thông tin điều khiển quan trọng) có thể bị chậm hoặc rớt gói.
- Elephant flows lại chiếm hết băng thông và bộ đệm, kéo theo độ trễ tăng lên cho toàn mạng.
Một số switch được thiết kế với deep buffer (bộ đệm cực lớn) để chống rớt gói. Nhưng cách làm này có hai nhược điểm rõ rệt:
- Chi phí đội lên cao: bộ nhớ tốc độ cao cho switch không hề rẻ.
- Độ trễ gia tăng: gói tin nằm trong hàng đợi quá sâu sẽ khiến thời gian hoàn tất luồng (flow completion time) lâu hơn, giảm hiệu năng ứng dụng.
Nói cách khác: buffer càng lớn, chưa chắc mạng đã nhanh hơn! Giải pháp của Cisco Nexus 9000: Bộ đệm thông minh
Cisco đã chọn một hướng khác cho dòng Nexus 9000 với cloud-scale ASIC: không cần buffer quá lớn, mà cần quản lý bộ đệm thông minh.
Điểm khác biệt nằm ở khả năng phân biệt mice và elephant flows để xử lý theo cách phù hợp:
- Approximate Fair Dropping (AFD) + Elephant Trap (ETRAP): nhận diện elephant flows, giới hạn mức tiêu thụ buffer của chúng để bảo vệ không gian cho mice flows và đảm bảo công bằng giữa các elephant flows.
- Dynamic Packet Prioritization (DPP): tách riêng mice và elephant flows vào hai hàng đợi khác nhau. Mice flows được đưa vào hàng đợi độ trễ thấp, còn elephant flows đi theo hàng đợi công bằng có trọng số (WFQ).
- Dynamic Buffer Protection (DBP): đảm bảo mọi hàng đợi đều có quyền truy cập công bằng vào buffer.
Nhờ vậy, Cisco Nexus 9000:
- Giữ độ trễ thấp cho các mice flows quan trọng.
- Duy trì công bằng và hiệu quả cho các elephant flows chiếm băng thông lớn.
- Giảm chi phí phần cứng nhờ không cần buffer khổng lồ.
- Tăng hiệu năng ứng dụng tổng thể trong môi trường AI/ML, cloud và data center hiện đại.
✨ Thay vì “càng nhiều buffer càng tốt”, Cisco cho thấy tương lai của mạng data center nằm ở bộ đệm thông minh – nơi mà phần cứng và phần mềm cùng phối hợp để tối ưu hóa từng loại lưu lượng.