# AI RAG sinh văn bản truy xuất

Tiếng Anh: Retrieval-Augmented Generation (RAG)

Kiến trúc kết hợp LLM với cơ sở dữ liệu nội bộ, giúp chatbot ngân hàng trả lời chính xác dựa trên quy định và sản phẩm hiện hành.

Nguồn: https://vieclam.nganhang.com/thuat-ngu/ai-rag-sinh-van-ban-truy-xuat-la-gi
Danh mục: AI & Machine Learning trong ngân hàng
Cập nhật: 13/09/2026

**Retrieval-Augmented Generation (RAG)** - hay còn gọi là **Sinh văn bản có truy xuất** - là một kiến trúc trí tuệ nhân tạo tiên tiến kết hợp giữa **mô hình ngôn ngữ lớn (Large Language Model - LLM)** với hệ thống truy xuất thông tin từ cơ sở dữ liệu nội bộ hoặc kho tri thức chuyên ngành. Thay vì chỉ dựa vào kiến thức đã được huấn luyện sẵn từ dữ liệu quá khứ, RAG cho phép mô hình tìm kiếm và tham chiếu các tài liệu, quy định, sản phẩm cụ thể trước khi tạo ra câu trả lời cuối cùng. Kiến trúc này đặc biệt phù hợp với lĩnh vực ngân hàng - nơi yêu cầu độ chính xác tuyệt đối, tính cập nhật theo thời gian thực và khả năng giải thích nguồn gốc thông tin.

Về cơ chế hoạt động, RAG gồm hai thành phần chính là **bộ truy xuất (retriever)** và **bộ sinh (generator)**. Khi người dùng đặt câu hỏi, bộ truy xuất sẽ tìm kiếm trong **cơ sở dữ liệu vector (vector database)** hoặc kho tài liệu nội bộ những đoạn văn bản liên quan nhất dựa trên **độ tương đồng ngữ nghĩa (semantic similarity)**. Sau đó, các đoạn thông tin được đánh giá là phù hợp nhất sẽ được đưa vào ngữ cảnh (context) cho mô hình ngôn ngữ lớn để tổng hợp và sinh ra câu trả lời. Quy trình này giúp giải quyết triệt để hạn chế **"ảo giác" (hallucination)** của LLM khi phải trả lời các câu hỏi về sản phẩm, lãi suất hay quy định mới chưa có trong dữ liệu huấn luyện ban đầu. Hệ thống còn cho phép trích dẫn nguồn gốc thông tin, giúp tăng độ tin cậy và khả năng kiểm chứng - yếu tố đặc biệt quan trọng trong môi trường ngân hàng đòi hỏi tính minh bạch cao.

Trong ngành ngân hàng Việt Nam, RAG đang trở thành công nghệ nền tảng cho nhiều ứng dụng quan trọng như chatbot tư vấn khách hàng 24/7, hệ thống hỗ trợ nhân viên tín dụng tra cứu quy định nội bộ, trợ lý ảo giải đáp thắc mắc về sản phẩm và dịch vụ, cũng như công cụ hỗ trợ tuân thủ quy định phòng chống rửa tiền (AML) và phát hiện gian lận. Về khung pháp lý, Nghị định 13/2023/NĐ-CP về bảo vệ dữ liệu cá nhân yêu cầu các tổ chức tín dụng phải đảm bảo tính minh bạch khi sử dụng AI xử lý dữ liệu khách hàng; Quyết định 2345/QĐ-NHNN năm 2023 về triển khai giải pháp an toàn bảo mật trong thanh toán trực tuyến cũng khuyến khích ứng dụng công nghệ AI có kiểm soát.

**Thuật ngữ tiếng Anh:** Retrieval-Augmented Generation (RAG)
**Lĩnh vực:** AI & Machine Learning trong ngân hàng

## Đặc điểm và phân loại

### Cấu trúc kỹ thuật của hệ thống RAG

| Thành phần | Chức năng | Công nghệ điển hình |
|---|---|---|
| **Bộ truy xuất (Retriever)** | Tìm kiếm tài liệu liên quan theo ngữ nghĩa | Vector Database, BM25, **Semantic Search** |
| **Bộ mã hóa (Encoder)** | Chuyển văn bản thành vector số học | **Embedding Models** (BERT, Sentence Transformers, OpenAI Embeddings) |
| **Kho tri thức (Knowledge Base)** | Lưu trữ và quản lý tài liệu đã được mã hóa | Pinecone, Weaviate, Milvus, ChromaDB, Qdrant |
| **Bộ sinh (Generator)** | Tổng hợp và tạo câu trả lời từ ngữ cảnh | **LLM** (GPT-4, Claude, Llama, VinAI...) |
| **Bộ xếp hạng (Reranker)** | Sắp xếp lại kết quả theo mức độ liên quan | Cross-Encoder, Cohere Rerank, BGE Reranker |
| **Bộ quản lý hội thoại (Conversation Manager)** | Duy trì ngữ cảnh giữa các lượt hỏi | Memory Module, LangChain, LlamaIndex |

### Phân loại các dạng kiến trúc RAG

Hiện nay, kiến trúc RAG được phát triển thành nhiều dạng khác nhau tùy theo mức độ phức tạp và mục đích sử dụng:

- **Naive RAG (RAG cơ bản):** Là dạng đơn giản nhất với quy trình 3 bước tuần tự - truy xuất (retrieve) → tăng cường (augment) → sinh (generate). Hệ thống chỉ thực hiện một lần tìm kiếm duy nhất rồi đưa trực tiếp kết quả vào mô hình sinh. Ưu điểm là dễ triển khai, chi phí thấp; nhược điểm là độ chính xác chưa cao với các truy vấn phức tạp và không có khả năng tự đánh giá chất lượng ngữ cảnh.

- **Advanced RAG (RAG nâng cao):** Bổ sung thêm các kỹ thuật tiền xử lý (pre-retrieval) và hậu xử lý (post-retrieval) như **chunking optimization** (tối ưu phân đoạn văn bản với kích thước 256-1024 token), **query rewriting** (viết lại truy vấn cho rõ ràng hơn), **reranking** (xếp hạng lại bằng cross-encoder) và **contextual compression** (nén ngữ cảnh để tiết kiệm token). Dạng này phù hợp với các hệ thống chatbot ngân hàng phục vụ khách hàng cá nhân với hàng triệu người dùng.

- **Modular RAG (RAG mô-đun):** Cho phép tùy biến từng thành phần trong pipeline, có thể bổ sung các module như **reflection** (tự đánh giá chất lượng), **verification** (kiểm chứng thông tin qua cross-reference), **adaptive retrieval** (truy xuất thích ứng theo độ phức tạp của câu hỏi). Đây là kiến trúc được các ngân hàng lớn lựa chọn cho các hệ thống phức tạp như trợ lý tuân thủ quy định đa cấp.

- **Agentic RAG:** Phiên bản tiên tiến nhất, trong đó **agent AI** có khả năng tự quyết định khi nào cần truy xuất, truy xuất từ nguồn nào, sử dụng công cụ nào và xử lý thông tin như thế nào. Dạng này phù hợp với các tác vụ đa bước trong ngân hàng như phân tích rủi ro tín dụng phức tạp, xử lý khiếu nại đa cấp hoặc tự động hóa quy trình KYC (Know Your Customer).

- **Graph RAG:** Sử dụng **đồ thị tri thức (Knowledge Graph)** để biểu diễn mối quan hệ giữa các thực thể, giúp mô hình hiểu được mối liên hệ phức tạp giữa khách hàng, sản phẩm, giao dịch và quy định - rất phù hợp với bài toán phát hiện gian lận và phòng chống rửa tiền.

### Đặc điểm nổi bật của RAG trong ngân hàng

- **Cập nhật theo thời gian thực:** Thông tin về lãi suất, tỷ giá, biểu phí có thể được cập nhật ngay lập tức mà không cần huấn luyện lại mô hình - chỉ cần cập nhật tài liệu trong kho tri thức.
- **Khả năng trích dẫn nguồn rõ ràng:** Mỗi câu trả lời đều kèm theo nguồn tài liệu tham chiếu cụ thể, giúp kiểm chứng và đáp ứng yêu cầu minh bạch của NHNN.
- **Giảm thiểu ảo giác hiệu quả:** Độ chính xác tăng từ 60-70% (chỉ dùng LLM thuần) lên 85-95% khi kết hợp RAG với kho tri thức chất lượng cao.
- **Tiết kiệm chi phí vận hành:** Không cần huấn luyện lại mô hình mỗi khi có thay đổi - chi phí triển khai thấp hơn 10-20 lần so với Fine-tuning.
- **Bảo mật dữ liệu:** Kho tri thức nội bộ giúp bảo vệ thông tin nhạy cảm, không gửi dữ liệu khách hàng ra bên ngoài hệ thống.
- **Khả năng mở rộng:** Dễ dàng mở rộng thêm ngôn ngữ, sản phẩm hay khu vực phục vụ chỉ bằng cách bổ sung tài liệu.

## Ví dụ thực tế trong ngành ngân hàng

### Ví dụ 1: Chatbot tư vấn khách hàng tại Ngân hàng A

Ngân hàng A - một trong những ngân hàng thương mại cổ phần lớn nhất Việt Nam với hơn 12 triệu khách hàng và 600 chi nhánh - đã triển khai chatbot RAG từ năm 2024. Hệ thống được tích hợp với cơ sở dữ liệu gồm 50.000 tài liệu nội bộ: bảng giá sản phẩm, quy định tín dụng, hướng dẫn sử dụng dịch vụ, điều khoản thẻ tín dụng và câu hỏi thường gặp (FAQ). Khi khách hàng hỏi: *"Lãi suất gửi tiết kiệm 12 tháng hiện tại là bao nhiêu?"*, hệ thống RAG sẽ truy xuất ngay bảng lãi suất mới nhất (ví dụ: 5,2%/năm cho kỳ hạn 12 tháng, áp dụng từ ngày 01/01/2025) kèm theo ngày cập nhật và nguồn tài liệu chính xác. **Kết quả đo lường:** tỷ lệ khách hàng được giải đáp tự động tăng từ 35% lên 78%, giảm 40% khối lượng cuộc gọi đến tổng đài, tiết kiệm khoảng 150 tỷ đồng chi phí vận hành mỗi năm, đồng thời chỉ số CSAT tăng từ 72% lên 89%.

### Ví dụ 2: Trợ lý ảo cho nhân viên tín dụng tại Ngân hàng B

Ngân hàng B triển khai hệ thống RAG nội bộ phục vụ 8.000 nhân viên tín dụng trên toàn quốc. Kho tri thức được tích hợp gồm: Thông tư 39/2016/TT-NHNN về cho vay, các Quyết định nội bộ về chính sách tín dụng, hướng dẫn xử lý nợ xấu theo Thông tư 11/2021/TT-NHNN, quy trình thẩm định và bộ câu hỏi phỏng vấn khách hàng. Khi nhân viên hỏi: *"Tỷ lệ cho vay mua nhà tối đa đối với khách hàng cá nhân có thu nhập từ 30 triệu đồng/tháng là bao nhiêu?"*, hệ thống sẽ truy xuất quy định mới nhất (ví dụ: tối đa 70% giá trị căn nhà, thời hạn tối đa 20 năm, hệ số trả nợ không quá 60% thu nhập) kèm theo trích dẫn cụ thể từ văn bản pháp lý. **Kết quả:** giảm 60% thời gian tra cứu quy định (từ 8 phút xuống 3 phút/ca), tăng 35% độ chính xác trong việc áp dụng chính sách, giảm 45% sai sót trong hồ sơ tín dụng.

### Ví dụ 3: Hệ thống hỗ trợ phòng chống rửa tiền (AML) tại Ngân hàng C

Ngân hàng C xây dựng hệ thống RAG chuyên biệt cho bộ phận tuân thủ với kho dữ liệu gồm: Luật Phòng chống rửa tiền 2022, các Nghị định hướng dẫn, danh sách đen quốc tế của OFAC và EU, hồ sơ giao dịch đáng ngờ và quy trình báo cáo theo Quyết định 13/2023/QĐ-TTg. Khi nhân viên tuân thủ cần xác minh một giao dịch 500 triệu đồng từ nước ngoài, hệ thống có thể tự động truy xuất quy định về ngưỡng báo cáo (hiện tại là 400 triệu đồng đối với giao dịch đáng ngờ), danh sách quốc gia có rủi ro cao, các dấu hiệu đáng ngờ như giao dịch chia nhỏ, chuyển tiền qua nhiều trung gian. **Kết quả:** thời gian xử lý một ca cảnh báo giảm từ 45 phút xuống còn 12 phút, tỷ lệ phát hiện giao dịch đáng ngờ tăng 25%, số ca báo cáo sai giảm 30%, giúp ngân hàng tiết kiệm 30 tỷ đồng chi phí vận hành bộ phận tuân thủ mỗi năm.

## AI RAG sinh văn bản truy xuất trong các ngôn ngữ khác

| Ngôn ngữ | Thuật ngữ | Phiên âm |
|---|---|---|
| Tiếng Anh | Retrieval-Augmented Generation (RAG) | /rɪˈtriː.vəl ɔː(ɹ)ˈɡmɛn.tɪd ˌdʒɛn.əˈɹeɪ.ʃən/ |
| Tiếng Nhật | 検索拡張生成 (けんさくかくちょうせいせい) | Kensaku Kakuchō Seisei /ken.sa.ku ka.kɯ.tɕoː sei.sei/ |
| Tiếng Hàn | 검색 증강 생성 (Geomjeom Jeunggang Saengseong) | /kʌm.tɕʌk tsɯŋ.ɡaŋ sɛŋ.sʌŋ/ |
| Tiếng Trung | 检索增强生成 (Jiǎnsuǒ Zēngqiáng Shēngchéng) | /tɕjɛn˨˩˦.suo˨˩˦ tsəŋ˥.tɕʰjaŋ˥ ʂəŋ˥.tʂʰəŋ˧˥/ |
| Tiếng Tây Ban Nha | Generación Aumentada por Recuperación | /xe.ne.ɾaˈθjon aw.menˈta.ða poɾ re.ku.pe.ɾaˈθjon/ |

## Câu hỏi thường gặp

### RAG khác gì Fine-tuning (tinh chỉnh mô hình)?

**Fine-tuning** là quá trình huấn luyện lại toàn bộ trọng số của mô hình ngôn ngữ lớn trên tập dữ liệu chuyên ngành, yêu cầu thời gian từ vài tuần đến vài tháng, chi phí rất cao (hàng trăm triệu đồng cho mỗi lần huấn luyện) và cần nhiều tài nguyên GPU. Trong khi đó, **RAG** chỉ cần cập nhật kho tri thức là có thể đưa vào sử dụng ngay trong vài giờ, chi phí thấp hơn 10-20 lần. Về bản chất: **Fine-tuning** thay đổi "kiến thức cốt lõi" được nạp vào trọng số mô hình, còn **RAG** bổ sung "tài liệu tham khảo" theo thời gian thực. Trong ngân hàng, RAG thường được ưu tiên vì giúp truy vết được nguồn thông tin rõ ràng - điều mà Fine-tuning không làm được.

### Khi nào cần biết về RAG trong ngân hàng?

Người làm việc trong lĩnh vực ngân hàng - đặc biệt ở các vị trí liên quan đến chuyển đổi số, phát triển sản phẩm số, quản trị rủi ro và tuân thủ - cần nắm vững về RAG trong các trường hợp cụ thể: (1) **Xây dựng hoặc đánh giá** hệ thống chatbot AI phục vụ khách hàng trên app mobile, web hoặc các kênh OTT; (2) **Triển khai các giải pháp** tự động hóa quy trình tín dụng, KYC, mở tài khoản eKYC; (3) **Thiết kế hệ thống** hỗ trợ nhân viên truy vấn quy định nội bộ, chính sách tín dụng thay thế cho việc tra cứu thủ công; (4) **Tham gia các kỳ thi chứng chỉ chuyên ngành** như CFT (Chứng chỉ Tài chính), CSDP (Chứng chỉ Thanh toán và Dịch vụ ngân hàng số), CDCS (Chứng chỉ Chuyên gia Dịch vụ chứng khoán) hoặc các khóa đào tạo nội bộ về AI trong ngân hàng do NHNN tổ chức.

### RAG ảnh hưởng thế nào đến trải nghiệm khách hàng ngân hàng?

RAG mang lại bốn tác động tích cực chính đến khách hàng ngân hàng: (1) **Tốc độ phản hồi nhanh hơn** - khách hàng nhận câu trả lời chính xác trong vòng 2-3 giây thay vì chờ 5-10 phút gọi tổng đài hay phải đến quầy; (2) **Độ chính xác cao hơn** - thông tin luôn được cập nhật theo bảng giá, biểu phí, quy định mới nhất, giảm thiểu tình trạng cung cấp thông tin sai lệch mà nhân viên có thể mắc phải; (3) **Dịch vụ 24/7 đa kênh** - khách hàng có thể hỏi đáp qua app mobile, web banking, Zalo, Messenger, Apple Business Chat bất kỳ lúc nào; (4) **Cá nhân hóa trải nghiệm** - hệ thống có thể kết hợp kho tri thức sản phẩm với thông tin phân khúc khách hàng để đưa ra tư vấn phù hợp (ví dụ: gói tiết kiệm phù hợp với nhóm tuổi, thu nhập). Theo khảo sát của Ngân hàng A, mức độ hài lòng CSAT tăng từ 72% lên 89% sau khi triển khai chatbot RAG, đồng thời tỷ lệ khách hàng rời bỏ dịch vụ (churn rate) giảm 18%, số lượng khách hàng mới tăng 22% nhờ truyền thông tốt hơn.

## Tổng kết

**Retrieval-Augmented Generation (RAG)** là kiến trúc AI chiến lược giúp ngân hàng vượt qua những hạn chế cố hữu của mô hình ngôn ngữ lớn truyền thống, đặc biệt trong bối cảnh yêu cầu ngày càng cao về tính chính xác tuyệt đối, khả năng cập nhật liên tục và tính minh bạch trong mọi quyết định có sự tham gia của AI. Với khả năng kết hợp sức mạnh sinh ngôn ngữ tự nhiên của LLM với độ tin cậy của hệ thống truy xuất thông tin nội bộ, RAG không chỉ giúp tự động hóa dịch vụ khách hàng mà còn hỗ trợ đắc lực cho hoạt động tín dụng, tuân thủ quy định và quản trị rủi ro trong toàn hệ thống. Đối với người ôn thi ngân hàng, việc hiểu rõ cơ chế hoạt động, cách phân loại kiến trúc (Naive, Advanced, Modular, Agentic, Graph) cùng các ứng dụng thực tiễn của RAG là yêu cầu bắt buộc trong thời đại chuyển đổi số, giúp bạn tự tin chinh phục các kỳ thi chuyên ngành, cập nhật xu hướng công nghệ tài chính - ngân hàng toàn cầu và trở thành chuyên gia FinTech trong tương lai gần.

## Thuật ngữ liên quan

- [Bảo vệ dữ liệu cá nhân](https://vieclam.nganhang.com/thuat-ngu/bao-ve-du-lieu-ca-nhan-la-gi) — Yêu cầu pháp lý ngân hàng phải thu thập, lưu trữ và xử lý dữ liệu cá nhân khách hàng theo Nghị định 13/2023/NĐ-CP và các quy định liên quan.
- [Chuyển đổi số ngân hàng](https://vieclam.nganhang.com/thuat-ngu/chuyen-doi-so-ngan-hang-la-gi) — Quá trình ngân hàng chuyển đổi toàn diện từ mô hình truyền thống sang vận hành số, nâng cao trải nghiệm khách hàng.
- [Nghị định 13/2023/NĐ-CP](https://vieclam.nganhang.com/thuat-ngu/nghi-dinh-132023nd-cp-la-gi) — Văn bản pháp lý quan trọng quy định về xử lý và bảo vệ dữ liệu cá nhân tại Việt Nam có hiệu lực từ ngày 01/07/2023.
- [Nghị định 13/2023/NĐ-CP về bảo vệ dữ liệu cá nhân](https://vieclam.nganhang.com/thuat-ngu/nghi-dinh-132023nd-cp-ve-bao-ve-du-lieu-ca-nhan-la-gi) — Văn bản pháp lý quan trọng quy định bảo vệ dữ liệu cá nhân tại Việt Nam, áp dụng cho dịch vụ tài chính số.
- [Phòng chống rửa tiền (AML)](https://vieclam.nganhang.com/thuat-ngu/phong-chong-rua-tien-aml-la-gi) — Hệ thống quy định và quy trình nội bộ nhằm phát hiện, ngăn chặn việc hợp pháp hóa tiền từ hoạt động phi pháp tại các tổ chức tài chính.
- [Quy trình mở thẻ tín dụng](https://vieclam.nganhang.com/thuat-ngu/quy-trinh-mo-the-tin-dung-la-gi) — Các bước từ nộp đơn, cung cấp hồ sơ, xét duyệt đến khi nhận thẻ tín dụng từ ngân hàng phát hành.
- [Quyết định 2345/QĐ-NHNN](https://vieclam.nganhang.com/thuat-ngu/quyet-dinh-2345qd-nhnn-la-gi) — Quyết định của Ngân hàng Nhà nước Việt Nam ban hành năm 2023 quy định về bảo đảm an toàn thông tin trong hoạt động ngân hàng.
- [Tuân thủ quy định phòng chống rửa tiền](https://vieclam.nganhang.com/thuat-ngu/tuan-thu-quy-dinh-phong-chong-rua-tien-la-gi) — Việc ngân hàng tuân thủ các quy định pháp luật về chống rửa tiền, bao gồm xây dựng chính sách, kiểm soát nội bộ và báo cáo cơ quan chức năng.