Rag

[dangquangminh]

Ôn tập khái niệm RAG (Retrieval-Augmented Generation)


RAG (Retrieval-Augmented Generation) là một kỹ thuật giúp LLM (Large Language Model) trả lời chính xác hơn bằng cách kết hợp mô hình ngôn ngữ với hệ thống truy xuất dữ liệu (Information Retrieval).

Điểm quan trọng nhất của RAG là không cần huấn luyện lại (retrain) mô hình. Thay vào đó, mỗi khi người dùng đặt câu hỏi, hệ thống sẽ tự động tìm kiếm thông tin mới nhất từ một nguồn dữ liệu bên ngoài rồi đưa thông tin đó vào làm ngữ cảnh (context) trước khi LLM sinh câu trả lời. Quy trình hoạt động của RAG


Bước 1 – User Input

Người dùng nhập câu hỏi.

Ví dụ:

"Chính sách nghỉ phép của công ty là gì?"

---

Bước 2 – Query và Search for Knowledge

Thay vì để LLM trả lời ngay dựa trên những gì đã học từ trước, hệ thống RAG sẽ:

• Phân tích câu hỏi
• Chuyển thành truy vấn (Query)
• Tìm kiếm trong kho tri thức (Knowledge Base)

Kho tri thức này có thể là:

• Tài liệu PDF
• Microsoft Word
• Wiki nội bộ
• SharePoint
• Database
• Website
• Hồ sơ khách hàng
• Email
• Tài liệu kỹ thuật

---

Bước 3 – Context Enhanced

Hệ thống lấy những đoạn tài liệu liên quan nhất và đưa vào Prompt.

Lúc này Prompt thực tế sẽ giống như:
Question:
Chính sách nghỉ phép của công ty là gì?

Context:
Theo tài liệu HR Policy 2026...
...

LLM sẽ trả lời dựa trên ngữ cảnh vừa được truy xuất, thay vì chỉ dựa vào kiến thức đã học nhiều tháng hoặc nhiều năm trước.

---

Bước 4 – User Output

Người dùng nhận được câu trả lời:

• Chính xác hơn
• Có thông tin mới nhất
• Bám sát tài liệu của doanh nghiệp
• Giảm hiện tượng "hallucination" (AI bịa thông tin)

---

Vì sao RAG quan trọng?


Một LLM thông thường chỉ biết những gì đã được học trong quá trình huấn luyện.

Nếu doanh nghiệp có:

• Quy trình nội bộ
• Chính sách mới
• Tài liệu kỹ thuật riêng
• Báo cáo mới phát hành

thì LLM sẽ không biết các thông tin này.

RAG giải quyết vấn đề bằng cách đọc tài liệu ngay tại thời điểm người dùng đặt câu hỏi, giống như một kỹ sư mở tài liệu hướng dẫn trước khi trả lời.

---

Ví dụ trong lĩnh vực Network


Một kỹ sư hỏi:

"Switch Leaf-03 đang chạy phiên bản NX-OS nào và có hỗ trợ EVPN Multisite không?"

Nếu chỉ dùng LLM:

• AI có thể trả lời theo kiến thức chung.
• Có thể không đúng với hệ thống thực tế của doanh nghiệp.

Nếu dùng RAG:

• AI sẽ tìm trong CMDB, tài liệu triển khai hoặc cấu hình hiện tại.
• Đọc đúng thông tin của Leaf-03.
• Trả lời dựa trên dữ liệu thực tế của doanh nghiệp.

---

RAG không thay thế LLM


Một cách dễ hình dung:

• LLM là "bộ não" có khả năng hiểu ngôn ngữ và lập luận.
• RAG là "thư viện thông minh" giúp bộ não tra cứu tài liệu trước khi trả lời.

Hai thành phần kết hợp với nhau sẽ tạo nên một trợ lý AI vừa thông minh, vừa cập nhật và đáng tin cậy hơn.

Đó cũng là lý do hầu hết các chatbot AI dành cho doanh nghiệp hiện nay đều được xây dựng theo kiến trúc LLM + RAG, thay vì chỉ sử dụng LLM đơn thuần.