Tweet
RDMA là gì? Vì sao dân IT nên biết nó?
RDMA là gì? Vì sao dân IT nên biết nó?
RDMA (Remote Direct Memory Access) là một công nghệ mạng tốc độ cao cho phép một máy chủ truy cập bộ nhớ của máy chủ khác mà không cần CPU, không cần hệ điều hành can thiệp. Điều này mang lại độ trễ thấp, tốc độ cao, và giảm tải cho hệ thống. 🚀 Lợi ích nổi bật của RDMA
RDMA NIC sẽ giúp máy Client và File Server truyền dữ liệu trực tiếp giữa vùng nhớ (memory-to-memory), mà không cần hệ điều hành hay CPU tham gia xử lý. Trên hình, ta thấy:
Nếu bạn từng truyền file giữa hai server Windows hỗ trợ SMB Direct (như Windows Server 2019 trở lên) với card NIC hỗ trợ RDMA, bạn sẽ thấy tốc độ truyền cực nhanh, gần như saturate băng thông mà CPU usage vẫn rất thấp.
📌 Kết luận:
RDMA đang trở thành trụ cột hạ tầng trong Data Center hiện đại, đặc biệt trong các cụm tính toán AI/ML cần xử lý dữ liệu lớn với độ trễ thấp. Nếu bạn đang nghiên cứu về hạ tầng AI, hãy tìm hiểu RDMA, RoCE và InfiniBand – đây là “mạch máu” của các hệ thống tính toán hiệu suất cao.
RDMA (Remote Direct Memory Access) là một công nghệ mạng tốc độ cao cho phép một máy chủ truy cập bộ nhớ của máy chủ khác mà không cần CPU, không cần hệ điều hành can thiệp. Điều này mang lại độ trễ thấp, tốc độ cao, và giảm tải cho hệ thống. 🚀 Lợi ích nổi bật của RDMA
- Bypass hệ điều hành (OS stack)
→ Ứng dụng có thể giao tiếp trực tiếp với phần cứng (RDMA NIC), không cần phải qua tầng kernel hoặc driver mạng thông thường. - Zero-Copy
→ Dữ liệu được truyền trực tiếp từ vùng nhớ này sang vùng nhớ kia, không cần sao chép trung gian, giảm tải hệ thống và tăng tốc độ. - Bypass CPU – Tiết kiệm chu kỳ xử lý
→ CPU không cần xử lý gói dữ liệu khi truyền/nhận từ xa, giúp CPU tập trung vào các tác vụ khác.
- RoCE (RDMA over Converged Ethernet)
Sử dụng RDMA trên nền Ethernet. Phổ biến trong các trung tâm dữ liệu AI hiện đại. - iWARP (RDMA over TCP/IP)
RDMA hoạt động thông qua giao thức TCP/IP, giúp triển khai dễ dàng hơn trên mạng LAN thông thường. - InfiniBand
Giao thức hiệu suất cực cao chuyên dùng cho hệ thống siêu máy tính và AI cluster.
RDMA NIC sẽ giúp máy Client và File Server truyền dữ liệu trực tiếp giữa vùng nhớ (memory-to-memory), mà không cần hệ điều hành hay CPU tham gia xử lý. Trên hình, ta thấy:
- Ứng dụng SMB Client dùng SMB Direct qua NIC hỗ trợ RDMA.
- NIC này kết nối trực tiếp với máy chủ SMB Server cũng có RDMA NIC.
- Dữ liệu truyền đi qua Ethernet hoặc InfiniBand mà không cần STP, TCP stack hoặc CPU xử lý.
Nếu bạn từng truyền file giữa hai server Windows hỗ trợ SMB Direct (như Windows Server 2019 trở lên) với card NIC hỗ trợ RDMA, bạn sẽ thấy tốc độ truyền cực nhanh, gần như saturate băng thông mà CPU usage vẫn rất thấp.
📌 Kết luận:
RDMA đang trở thành trụ cột hạ tầng trong Data Center hiện đại, đặc biệt trong các cụm tính toán AI/ML cần xử lý dữ liệu lớn với độ trễ thấp. Nếu bạn đang nghiên cứu về hạ tầng AI, hãy tìm hiểu RDMA, RoCE và InfiniBand – đây là “mạch máu” của các hệ thống tính toán hiệu suất cao.