Tweet
GenAI đang làm đảo lộn mô hình chi tiêu CNTT toàn cầu
🔥 Những con số đáng chú ý:
📌 Giải thích thêm:
💡 Ví dụ thực tế (few-shot learning style):
📣 Kết luận:
Chi tiêu cho AI không còn là một phần nhỏ trong ngành CNTT nữa – nó đang tái định hình toàn bộ hạ tầng toàn cầu, từ chip, mạng, đến nguồn điện.
🔥 Những con số đáng chú ý:
- Hyperscalers (như Google, Microsoft, Amazon...) đã chi ~180 tỷ USD cho hạ tầng chỉ trong năm 2024.
- Doanh thu từ chip tăng tốc AI (AI accelerator silicon) đã tăng 130% chỉ trong Q3/2024.
- Thị trường switching và NIC (network interface card) cho Data Center sẽ tăng gấp đôi lên >50 tỷ USD trong vòng 5 năm.
- Các Hyperscalers đang đầu tư mạnh vào năng lượng tái tạo và năng lượng hạt nhân để đảm bảo đủ điện cho AI.
- Blackstone dự báo nhu cầu điện tại Mỹ sẽ tăng 40% trong 10 năm tới, chủ yếu do AI.
📌 Giải thích thêm:
- Hyperscaler là gì?
Là các công ty có trung tâm dữ liệu khổng lồ, phục vụ cho hàng triệu hoặc hàng tỷ người dùng (ví dụ: AWS, Azure, Google Cloud). - Vì sao AI cần nhiều điện và hạ tầng đến vậy?
Mỗi mô hình GenAI lớn (như GPT-4 hoặc Gemini) cần hàng ngàn GPU chạy liên tục để huấn luyện và phục vụ người dùng – điều này đòi hỏi sức mạnh điện toán và năng lượng cực lớn. - Tại sao switching và NIC lại quan trọng?
GenAI yêu cầu các GPU/TPU giao tiếp với tốc độ cực nhanh, nên cần mạng tốc độ cao (ví dụ: 400G hoặc 800G). Đây là lý do switch/NIC bùng nổ.
💡 Ví dụ thực tế (few-shot learning style):
- Ví dụ 1: Khi bạn dùng ChatGPT để viết bài, có hàng chục máy chủ AI đang xử lý dữ liệu đầu vào của bạn, và điều này diễn ra trong vòng mili giây.
- Ví dụ 2: Một công ty khởi nghiệp AI muốn huấn luyện mô hình GenAI cho tiếng Việt – họ cần thuê hạ tầng cloud với GPU chuyên dụng, điều này tốn vài nghìn đến vài chục nghìn USD mỗi tháng chỉ cho điện toán và lưu trữ.
📣 Kết luận:
Chi tiêu cho AI không còn là một phần nhỏ trong ngành CNTT nữa – nó đang tái định hình toàn bộ hạ tầng toàn cầu, từ chip, mạng, đến nguồn điện.