Tweet
Một vấn đề rất thực tế khi doanh nghiệp triển khai Generative AI: AI không chỉ là một ứng dụng mới, mà là một bề mặt tấn công (attack surface) hoàn toàn mới.
Generative AI khác với phần mềm truyền thống ở chỗ nó non-deterministic — cùng một câu hỏi nhưng có thể sinh ra kết quả khác nhau. Điều này khiến việc kiểm thử, kiểm soát và dự đoán hành vi trở nên khó hơn rất nhiều. Nếu nhìn theo stack, rủi ro không chỉ nằm ở model mà trải dài từ Users → Applications → Models → Data → Infrastructure.
Ở tầng người dùng, rủi ro đến từ prompt injection, lộ dữ liệu nhạy cảm khi nhân viên copy dữ liệu nội bộ vào chatbot, hoặc lạm dụng AI ngoài chính sách công ty. Ở tầng ứng dụng, AI agent có thể gọi API, truy cập hệ thống backend hoặc thực hiện action không mong muốn nếu bị thao túng.
Model tạo ra một new risk vector vì đây là thành phần mới mà đội security truyền thống chưa quen bảo vệ. Model có thể hallucinate, bị jailbreak, model poisoning, hoặc bị đánh cắp thông qua API abuse.
Dữ liệu là khu vực cực kỳ nhạy cảm. Nếu training data, vector database, RAG repository hoặc prompt history không được bảo vệ tốt, nguy cơ rò rỉ thông tin doanh nghiệp là rất lớn.
Hạ tầng AI cũng mang rủi ro riêng: insecure API endpoint, container vulnerabilities, supply chain attacks từ open-source model/package, GPU cluster exposure, hoặc lateral movement trong AI infrastructure.
Kết quả cuối cùng là 5 nhóm tác động lớn mà slide bên phải nhấn mạnh: thiệt hại uy tín doanh nghiệp, mất an toàn dữ liệu và quyền riêng tư, rủi ro chuỗi cung ứng, tấn công mạng, và vi phạm tuân thủ (compliance).
Suy cho cùng, AI không chỉ là bài toán về độ thông minh của model. AI là bài toán tổng thể của cybersecurity, governance và enterprise architecture.
Generative AI khác với phần mềm truyền thống ở chỗ nó non-deterministic — cùng một câu hỏi nhưng có thể sinh ra kết quả khác nhau. Điều này khiến việc kiểm thử, kiểm soát và dự đoán hành vi trở nên khó hơn rất nhiều. Nếu nhìn theo stack, rủi ro không chỉ nằm ở model mà trải dài từ Users → Applications → Models → Data → Infrastructure.
Ở tầng người dùng, rủi ro đến từ prompt injection, lộ dữ liệu nhạy cảm khi nhân viên copy dữ liệu nội bộ vào chatbot, hoặc lạm dụng AI ngoài chính sách công ty. Ở tầng ứng dụng, AI agent có thể gọi API, truy cập hệ thống backend hoặc thực hiện action không mong muốn nếu bị thao túng.
Model tạo ra một new risk vector vì đây là thành phần mới mà đội security truyền thống chưa quen bảo vệ. Model có thể hallucinate, bị jailbreak, model poisoning, hoặc bị đánh cắp thông qua API abuse.
Dữ liệu là khu vực cực kỳ nhạy cảm. Nếu training data, vector database, RAG repository hoặc prompt history không được bảo vệ tốt, nguy cơ rò rỉ thông tin doanh nghiệp là rất lớn.
Hạ tầng AI cũng mang rủi ro riêng: insecure API endpoint, container vulnerabilities, supply chain attacks từ open-source model/package, GPU cluster exposure, hoặc lateral movement trong AI infrastructure.
Kết quả cuối cùng là 5 nhóm tác động lớn mà slide bên phải nhấn mạnh: thiệt hại uy tín doanh nghiệp, mất an toàn dữ liệu và quyền riêng tư, rủi ro chuỗi cung ứng, tấn công mạng, và vi phạm tuân thủ (compliance).
Suy cho cùng, AI không chỉ là bài toán về độ thông minh của model. AI là bài toán tổng thể của cybersecurity, governance và enterprise architecture.
Attached Files