RAG Là Gì? Cách Doanh Nghiệp Cho AI Trả Lời Đúng Theo Tài Liệu Nội Bộ

Nhân viên hỏi đi hỏi lại về chính sách nghỉ phép, quy trình thanh toán hay điều khoản hợp đồng mẫu, trong khi câu trả lời nằm rải rác ở SharePoint, Google Drive và email. ChatGPT trả lời nhanh nhưng không biết quy định riêng của công ty, còn dán tài liệu nội bộ vào công cụ công cộng lại kéo theo rủi ro lộ dữ liệu. RAG là cách để doanh nghiệp có trợ lý AI trả lời đúng theo tài liệu của chính mình, đúng quyền của từng người hỏi.

Tóm tắt nhanh

RAG (Retrieval Augmented Generation) là cách cho AI tìm đúng đoạn tài liệu nội bộ liên quan rồi mới viết câu trả lời, kèm nguồn để đối chiếu. RAG không cần huấn luyện lại mô hình: tài liệu cập nhật thì câu trả lời đổi theo. Muốn dùng an toàn trong doanh nghiệp, cần thêm ba việc: phân quyền để mỗi người chỉ nhận câu trả lời từ tài liệu mình được xem, chọn nơi đặt dữ liệu phù hợp quy định bảo vệ dữ liệu cá nhân, và làm sạch tài liệu trước khi nạp.

1. RAG là gì, khác gì hỏi ChatGPT thông thường và fine-tuning?

RAG là kỹ thuật cho AI tra cứu kho tài liệu doanh nghiệp trước khi trả lời, rồi viết câu trả lời dựa trên đúng những đoạn vừa tìm được, kèm nguồn. ChatGPT công cộng chỉ dựa vào kiến thức chung; fine-tuning là huấn luyện lại mô hình. RAG giữ nguyên mô hình, chỉ thay đổi thông tin đưa vào.

Tên Retrieval Augmented Generation gồm ba phần: truy xuất (tìm đoạn tài liệu liên quan), bổ sung (đưa các đoạn đó kèm câu hỏi gửi cho AI) và tạo sinh (AI viết câu trả lời). AI ở đây là mô hình ngôn ngữ lớn (LLM), loại mô hình đứng sau ChatGPT, Gemini hay Claude. Có thể hình dung RAG như một bài thi được sử dụng tài liệu: mô hình vẫn là người làm bài, nhưng được lật đúng trang quy chế trước khi viết thay vì trả lời theo trí nhớ.

Phần lớn bài toán hỏi đáp tài liệu nội bộ nên bắt đầu bằng RAG vì nhanh hơn, dễ cập nhật và kiểm soát được nguồn; fine-tuning chỉ đáng cân nhắc khi cần mô hình viết theo một khuôn rất riêng. Doanh nghiệp đang kết nối mô hình qua API có thể tham khảo thêm những câu hỏi thường gặp khi dùng ChatGPT API.

2. RAG hoạt động thế nào với tài liệu công ty?

Hệ thống RAG chạy hai luồng. Luồng nạp tài liệu làm trước: gom tài liệu, chia đoạn ngắn, gắn quyền xem, lưu vào kho tìm kiếm theo ý nghĩa. Luồng hỏi đáp chạy mỗi khi có câu hỏi: kiểm quyền người hỏi, lấy các đoạn liên quan người đó được xem, rồi để AI trả lời kèm nguồn.

Luồng 1: nạp tài liệu

1. Kho tài liệu công ty: kết nối SharePoint, Google Drive, máy chủ lưu tệp, hệ thống quản lý văn bản. Tài liệu scan cần qua bước nhận dạng ký tự quang học (OCR) để thành văn bản tìm được.
2. Chia thành đoạn ngắn: mỗi đoạn vừa đủ ý, giữ tên tài liệu, tiêu đề mục và trang gốc để câu trả lời trích đúng chỗ.
3. Gắn quyền xem: mỗi đoạn mang theo thông tin phòng ban, chức danh nào được đọc, cùng phiên bản và ngày hiệu lực.
4. Kho tìm kiếm theo ý nghĩa: mỗi đoạn được chuyển thành một dãy số thể hiện ý nghĩa (thường gọi là vector), nên câu hỏi “nghỉ sinh con được bao lâu” vẫn tìm ra đoạn “chế độ thai sản” dù không trùng chữ.

Luồng 2: hỏi đáp

1. Nhân viên hỏi: gõ câu hỏi bằng lời thường ngày trên trang web nội bộ hoặc ứng dụng chat như Teams, Slack.
2. Kiểm quyền người hỏi: hệ thống xác định người hỏi thuộc phòng nào và chỉ mở phần tài liệu người đó được xem.
3. Lấy đoạn liên quan: tìm vài đoạn sát câu hỏi nhất, thường kết hợp tìm theo ý nghĩa với tìm theo từ khóa để không bỏ sót mã số, tên riêng.
4. AI trả lời kèm nguồn: mô hình chỉ dựa trên các đoạn vừa lấy, ghi rõ tài liệu gốc; tài liệu không có thông tin thì báo không tìm thấy.

Chất lượng câu trả lời phụ thuộc nhiều nhất vào bước lấy đoạn liên quan: lấy sai đoạn thì mô hình tốt đến đâu cũng trả lời sai. Vì vậy, phần lớn công sức của một dự án RAG nằm ở tài liệu và cách tìm kiếm, không nằm ở việc chọn mô hình.

3. Doanh nghiệp dùng RAG vào việc gì?

Doanh nghiệp dùng RAG cho những việc có nhiều câu hỏi lặp lại mà câu trả lời đã nằm sẵn trong tài liệu: hỏi đáp chính sách nhân sự, tra cứu quy trình vận hành, tìm điều khoản hợp đồng, hỗ trợ đội chăm sóc khách hàng và giúp nhân viên mới tự tra cứu từ những tuần đầu.

Giá trị lớn nhất của một chatbot tài liệu nội bộ là trả lại thời gian cho các phòng hỗ trợ: nhân sự và IT bớt trả lời một câu hỏi nhiều lần, nhân viên có câu trả lời kèm tài liệu gốc ngay khi cần. Chatbot phục vụ khách hàng bên ngoài thì phải dùng kho riêng, chỉ chứa nội dung đã được phép công bố. Bức tranh rộng hơn có trong bài các ứng dụng AI trong vận hành doanh nghiệp.

4. Làm sao để mỗi người chỉ thấy tài liệu mình được phép xem?

Muốn mỗi người chỉ thấy tài liệu được phép xem, phân quyền phải áp dụng ngay ở bước tìm tài liệu: hệ thống xác định người hỏi, lọc kho chỉ còn những đoạn người đó có quyền đọc, rồi mới đưa cho AI. Quyền nên lấy theo hệ thống gốc như SharePoint, Google Drive để luôn đồng bộ.

Một cách làm thiếu an toàn hay gặp ở các bản thử là nạp toàn bộ tài liệu vào một kho chung rồi dặn AI “không được tiết lộ thông tin lương”. Lời dặn không phải hàng rào bảo mật: một câu hỏi khéo léo vẫn có thể khiến mô hình nhắc lại nội dung đã được đưa vào. Nguyên tắc đúng là tài liệu người hỏi không được xem thì không bao giờ được chuyển tới mô hình.

• Đăng nhập bằng tài khoản công ty (Microsoft 365, Google Workspace) để hệ thống biết chắc người hỏi là ai.
• Gắn quyền vào từng đoạn khi nạp theo phòng ban, chức danh, dự án.
• Đồng bộ quyền định kỳ: nhân viên chuyển phòng hay nghỉ việc thì quyền trong trợ lý thay đổi theo.
• Tách riêng dữ liệu đặc biệt nhạy cảm như bảng lương, hồ sơ kỷ luật; chưa có nhu cầu rõ thì chưa nạp.
• Lưu nhật ký và kiểm thử theo vai trò: ghi lại ai hỏi gì, câu trả lời trích tài liệu nào; thử hỏi bằng tài khoản từng vai trò trước khi mở rộng.

Trong dự án trợ lý AI giao dịch ngoại hối qua kênh chat cho một công ty dịch vụ tài chính tại Hàn Quốc, đội ngũ chuyên gia Savvycom xây dựng phân quyền theo vai trò: cấu hình thanh toán chỉ quản trị viên được chỉnh, lịch sử giao dịch tra cứu lại được để phục vụ kiểm toán. Cùng nguyên tắc đó được áp dụng cho Savvy Agent, trợ lý AI nội bộ trả lời theo tài liệu công ty: trợ lý chỉ trả lời từ tài liệu người hỏi vốn được phép xem, theo phòng ban và cấp bậc.

5. Dữ liệu nội bộ đặt ở đâu và cần lưu ý pháp lý gì?

Dữ liệu của hệ thống RAG có thể đặt trên dịch vụ AI đám mây, vùng đám mây riêng do doanh nghiệp quản lý hoặc máy chủ tại doanh nghiệp, tùy mức nhạy cảm và hạ tầng sẵn có. Tài liệu chứa dữ liệu cá nhân cần được phân loại trước khi nạp, cùng bộ phận pháp chế.

Một hệ thống RAG chạm vào dữ liệu ở ba chỗ: kho tài liệu gốc, kho tìm kiếm chứa các đoạn đã chia, và mô hình ngôn ngữ nhận câu hỏi cùng các đoạn được lấy ra. Câu hỏi “dữ liệu đặt ở đâu” cần được trả lời cho cả ba.

Doanh nghiệp cũng có thể kết hợp: tài liệu thông thường dùng dịch vụ đám mây, tài liệu nhạy cảm xử lý trên hạ tầng riêng. Các dự án AI Savvycom đã triển khai chạy trên Google Cloud, Azure, AWS hoặc mô hình kết hợp, tùy hạ tầng khách hàng đang dùng.

Lưu ý pháp lý khi nạp tài liệu có dữ liệu cá nhân

Luật Bảo vệ dữ liệu cá nhân số 91/2025/QH15 có hiệu lực từ ngày 1/1/2026, cùng Nghị định 356/2025/NĐ-CP hướng dẫn luật này và thay thế Nghị định 13/2023/NĐ-CP, là khung pháp lý doanh nghiệp cần đối chiếu khi đưa dữ liệu vào hệ thống AI. Hồ sơ nhân sự, dữ liệu khách hàng hay hợp đồng có thông tin cá nhân nên được phân loại trước khi nạp: tài liệu nào thật sự cần, ai được hỏi, phần nào cần che hoặc loại bỏ. Việc này nên làm cùng bộ phận pháp chế hoặc luật sư tư vấn ngay từ giai đoạn chọn tài liệu.

Savvycom có chứng nhận ISO/IEC 27001 về quản lý an toàn thông tin và ISO 9001 về quản lý chất lượng. Với Savvy Agent, nơi lưu dữ liệu và mô hình AI được chốt cùng doanh nghiệp ngay từ đầu dự án, kèm điều khoản về việc dữ liệu có được dùng để huấn luyện mô hình hay không.

6. Triển khai RAG cho doanh nghiệp gồm những bước nào?

Triển khai RAG gồm sáu bước: chọn một bài toán hẹp, gom và làm sạch tài liệu, thiết lập phân quyền cùng nơi đặt dữ liệu, chạy thử với nhóm nhỏ, đo tỷ lệ trả lời đúng trên câu hỏi thật, rồi mới mở rộng. Bắt đầu hẹp giúp thấy hiệu quả sớm và giới hạn rủi ro.

1. Chọn bài toán hẹp, có người chịu trách nhiệm: một nhóm tài liệu, một nhóm người dùng, ví dụ hỏi đáp chính sách nhân sự. Phòng sở hữu tài liệu cử người duyệt câu trả lời.
2. Gom và làm sạch tài liệu: loại bản cũ, bản trùng, bản nháp; đánh dấu bản đang hiệu lực; chuyển tài liệu scan thành văn bản. Chỗ nào tài liệu mâu thuẫn phải được chủ sở hữu chốt trước, vì AI không tự phân xử được.
3. Thiết lập phân quyền và nơi đặt dữ liệu theo hai mục ở trên, có IT và pháp chế tham gia.
4. Chạy thử với nhóm nhỏ: người dùng thật hỏi câu thật trong công việc hằng ngày, đánh giá đúng hoặc sai cho từng câu trả lời.
5. Đo câu trả lời đúng sai: lập bộ câu hỏi kiểm thử kèm đáp án do chủ sở hữu tài liệu xác nhận; theo dõi tỷ lệ trả lời đúng, trích đúng nguồn, biết báo “không tìm thấy” và không trả lời vượt quyền.
6. Mở rộng: thêm phòng ban, nguồn tài liệu, kênh sử dụng; giao người cập nhật tài liệu định kỳ để trợ lý không trả lời theo quy định đã cũ.

Ở công đoạn sai sót gây hậu quả lớn, nên giữ nguyên tắc AI làm, con người kiểm. Trong nền tảng AI số hóa hồ sơ y tế Savvycom phát triển cho một tổ chức y tế tại Mỹ, dữ liệu AI trích xuất với độ tin cậy thấp được tự động chuyển cho nhân viên kiểm tra lại.

7. Khi nào RAG chưa đủ?

RAG chưa đủ khi tài liệu gốc lộn xộn hoặc mâu thuẫn, khi câu hỏi cần số liệu đang chạy trong ERP, CRM, khi cần tổng hợp toàn bộ kho, hoặc khi người dùng muốn AI làm việc thay vì chỉ trả lời. Lúc đó cần chuẩn hóa tài liệu, tích hợp hệ thống hoặc dùng AI agent.

Hệ thống hiệu quả thường kết hợp cả ba: RAG để trả lời từ tài liệu, tích hợp để lấy số liệu, agent để thực hiện thao tác. Dự án trợ lý giao dịch ngoại hối ở mục 4 minh họa phần agent: người dùng ra lệnh bằng ngôn ngữ thường ngày trong kênh chat Mattermost, hệ thống AI tự động xử lý trọn quy trình tra tỷ giá, khóa báo giá, xác nhận mua bán, có quản trị viên phê duyệt. Khác biệt giữa trợ lý hỏi đáp và hệ thống tự thực hiện công việc được phân tích trong bài AI Agent là gì và doanh nghiệp ứng dụng thế nào.

8. Savvycom đã triển khai những dự án AI nào liên quan đến tài liệu và hội thoại?

Savvycom đã đồng hành cùng doanh nghiệp xây dựng giải pháp AI đọc tài liệu (rà soát hợp đồng cho một công ty logistics Hàn Quốc, số hóa hồ sơ cho một tổ chức y tế tại Mỹ), trợ lý AI giao dịch ngoại hối qua kênh chat, cùng Savvy Agent, trợ lý AI nội bộ trả lời theo tài liệu công ty mà Savvycom cung cấp cho doanh nghiệp.

Các dự án trên không dùng chung một công nghệ: hợp đồng logistics dùng mô hình học máy xây riêng trên Google Cloud, hồ sơ y tế kết hợp OCR với mô hình ngôn ngữ lớn để kiểm tra dữ liệu. Là công ty phát triển phần mềm và giải pháp may đo, Savvycom bắt đầu từ bài toán của doanh nghiệp rồi mới chọn RAG, fine-tuning, agent hay cách kết hợp. Doanh nghiệp đang so sánh đối tác có thể đối chiếu thêm danh sách công ty phát triển AI tại Việt Nam.

Câu hỏi thường gặp về RAG

RAG AI là gì?

RAG AI là cách gọi phổ biến của Retrieval Augmented Generation, kỹ thuật cho AI tìm thông tin trong một kho tài liệu được chỉ định rồi mới trả lời. Nhờ vậy, câu trả lời bám đúng tài liệu, có nguồn để kiểm tra và cập nhật ngay khi tài liệu thay đổi.

Hệ thống RAG là gì?

Hệ thống RAG là bộ giải pháp hoàn chỉnh để vận hành RAG trong doanh nghiệp, gồm phần kết nối nguồn tài liệu, phần chia đoạn, kho tìm kiếm, mô hình ngôn ngữ lớn, lớp phân quyền và nhật ký truy cập. Người dùng hỏi qua khung chat riêng hoặc ngay trong Teams, Slack.

RAG LLM là gì?

RAG LLM là cách kết hợp RAG với mô hình ngôn ngữ lớn (LLM) như GPT, Gemini, Claude hoặc mô hình mã nguồn mở. LLM lo phần hiểu câu hỏi và viết câu trả lời, RAG lo phần cung cấp đúng tài liệu. Đổi sang LLM khác vẫn giữ nguyên kho tài liệu và cách phân quyền.

RAG có cần huấn luyện lại mô hình không?

Không. RAG dùng mô hình có sẵn và chỉ đưa thêm các đoạn tài liệu liên quan vào mỗi câu hỏi. Khi quy định thay đổi, doanh nghiệp cập nhật tài liệu trong kho và câu trả lời đổi theo. Fine-tuning chỉ nên cân nhắc thêm khi cần mô hình viết theo văn phong, định dạng riêng.

Dữ liệu nội bộ có bị lộ khi dùng RAG không?

Rủi ro lộ dữ liệu được kiểm soát khi hệ thống thiết kế đúng: lọc theo quyền trước khi đưa tài liệu cho AI, chọn nơi đặt dữ liệu phù hợp mức nhạy cảm, chọn dịch vụ cam kết không dùng dữ liệu để huấn luyện, lưu nhật ký truy cập. Rủi ro thường đến từ phân quyền sơ sài.