NVIDIA GPUs cho AI/ML

[dangquangminh]

NVIDIA đã phát triển nhiều thế hệ GPU, ban đầu chủ yếu là card đồ họa trong dòng GeForce, phục vụ cho thị trường máy trạm và máy tính cá nhân. Tuy nhiên, cùng với sự bùng nổ của trí tuệ nhân tạo (AI) và machine learning (ML), mỗi thế hệ phần cứng mới của NVIDIA đều được cải tiến về sức mạnh tính toán, tích hợp thêm tính năng mới, và tập trung mạnh vào năng lực xử lý hiệu năng cao dành cho trung tâm dữ liệu và các ứng dụng AI.

• NVIDIA H100 Tensor Core GPU
  Đây là dòng GPU hàng đầu, được thiết kế để phục vụ huấn luyện và suy luận AI quy mô lớn, cũng như điện toán hiệu năng cao (HPC). H100 tích hợp NVIDIA AI Enterprise, một bộ công cụ phần mềm giúp đơn giản hóa việc phát triển và triển khai AI. GPU này hỗ trợ NVLink thế hệ 4 với băng thông hơn 100 Gbps, cho phép nhiều GPU kết nối trực tiếp và mở rộng hiệu năng để xử lý các mô hình ngôn ngữ hàng nghìn tỷ tham số. Ngoài ra, H100 hỗ trợ Multi-Instance GPU (MIG), chia GPU thành tối đa 7 phân vùng độc lập, rất hữu ích cho môi trường đa người dùng hoặc dịch vụ đám mây.
• NVIDIA A100 Tensor Core GPU
  Đây là thế hệ trước H100, tối ưu cho các workload nặng như deep learning, AI, và khoa học dữ liệu. A100 có hai dạng form factor: PCIe và SXM (dành cho máy chủ hỗ trợ NVLink). Với SXM, A100 đạt hiệu năng cao hơn và hỗ trợ mở rộng cho các trung tâm dữ liệu hyperscale và HPC. A100 cũng hỗ trợ MIG tối đa 7 phân vùng.
• NVIDIA A30 Tensor Core GPU
  Đây là lựa chọn cân bằng chi phí – hiệu năng, hướng đến các workload suy luận (inference). Điểm nổi bật của A30 là MIG tối đa 4 phân vùng, cho phép nhiều workload chạy song song một cách cách ly, phù hợp cho dịch vụ đám mây đa người dùng.

---

Tóm tắt nhanh

• H100: mạnh nhất, tối đa 7 MIG, tối ưu cho huấn luyện + inference AI và HPC.
• A100: thế hệ trước H100, tối đa 7 MIG, dùng nhiều trong hyperscale data center.
• A30: cân bằng chi phí, tối đa 4 MIG, tập trung inference.

---

Câu hỏi ôn tập


GPU nào của NVIDIA hỗ trợ tối đa 4 MIG?

• A100
• A30 ✅
• GeForce
• H100

👉 Đáp án đúng: A30