RAG (Retrieval Augmented Generation – Tạo sinh tăng cường truy xuất)

RAG (Retrieval Augmented Generation) là gì?

Retrieval Augmented Generation (RAG – Tạo sinh tăng cường truy xuất) là kiến trúc AI kết hợp truy xuất thông tin với tạo văn bản để đưa ra câu trả lời chính xác, có căn cứ. Thay vì chỉ dựa vào kiến thức nội tại của mô hình ngôn ngữ lớn (LLM) — vốn có thể đã lỗi thời hoặc chưa đầy đủ — RAG truy xuất các tài liệu liên quan từ nguồn tri thức bên ngoài và đưa ngữ cảnh đó vào mô hình ngôn ngữ trong quá trình tạo câu trả lời. Cách tiếp cận "truy xuất rồi tạo sinh" này là nền tảng của các nền tảng dịch vụ khách hàng bằng AI hiện đại, vì nó giảm ảo giác AI và đảm bảo câu trả lời dựa trên thông tin đã được xác minh và cập nhật.

RAG hoạt động như thế nào

Quy trình RAG gồm 2 giai đoạn chính: truy xuất và tạo sinh.

Giai đoạn truy xuất: Khi khách hàng gửi câu hỏi, hệ thống chuyển câu hỏi thành vector embedding dày đặc — một biểu diễn dạng số nắm bắt ý nghĩa ngữ nghĩa. Embedding này được so sánh với chỉ mục vector của các tài liệu đã được xử lý trước (bài viết trợ giúp, tài liệu sản phẩm, trang chính sách, phiếu hỗ trợ cũ) bằng các thuật toán tìm kiếm tương đồng như cosine similarity hoặc tìm kiếm láng giềng gần đúng (ANN). Các đoạn tài liệu liên quan nhất sẽ được truy xuất và xếp hạng. Các triển khai nâng cao bổ sung cho tìm kiếm vector bằng tra cứu đồ thị tri thức và truy xuất theo từ khóa (tìm kiếm kết hợp) để nắm bắt cả ý nghĩa ngữ nghĩa lẫn các thuật ngữ cần khớp chính xác như mã sản phẩm hay mã lỗi.

Giai đoạn tạo sinh: Các đoạn tài liệu được truy xuất sẽ được đưa vào prompt của LLM làm ngữ cảnh. Mô hình ngôn ngữ tạo ra câu trả lời tổng hợp thông tin đã truy xuất thành một phản hồi mạch lạc bằng ngôn ngữ tự nhiên. Vì mô hình dựa trên tài liệu nguồn thực tế chứ không chỉ dựa vào bộ nhớ tham số, câu trả lời có căn cứ xác thực và có thể truy ngược về từng tài liệu cụ thể.

Các hệ thống RAG cấp production bổ sung thêm các bước trung gian: viết lại truy vấn để cải thiện chất lượng truy xuất, xếp hạng lại để ưu tiên các đoạn liên quan nhất, và kỹ thuật RAG Fusion để hợp nhất kết quả từ nhiều chiến lược truy xuất. Những tinh chỉnh này giúp giảm nhiễu và tăng độ chính xác.

Vì sao RAG quan trọng

Mô hình ngôn ngữ lớn có khả năng tạo sinh mạnh mẽ nhưng có một hạn chế nghiêm trọng: chúng có thể đưa ra thông tin nghe có vẻ đúng nhưng thực tế lại sai. Đó là hiện tượng ảo giác, và trong dịch vụ khách hàng, điều này có nghĩa là cung cấp cho khách hàng chính sách thanh toán không chính xác, bước khắc phục sự cố sai hoặc một tính năng không hề tồn tại. RAG giải quyết vấn đề này bằng cách neo mọi câu trả lời vào bằng chứng đã truy xuất.

Công trình nền tảng về RAG của Lewis và cộng sự (2020), công bố tại NeurIPS, đã chứng minh rằng việc kết hợp mô hình ngôn ngữ được huấn luyện trước với bộ truy xuất nơ-ron trên tài liệu bên ngoài cho ra kết quả cụ thể, đa dạng và chính xác hơn so với các mô hình chỉ dựa vào tham số. Kể từ đó, kiến trúc này đã trở thành tiêu chuẩn cho các ứng dụng AI đòi hỏi nhiều tri thức, như được ghi nhận trong nghiên cứu RAG gốc trên arXiv.

Với dịch vụ khách hàng, tác động của RAG là trực tiếp. Tác tử AI có thể dẫn nguồn, đội ngũ hỗ trợ có thể kiểm chứng độ chính xác và khách hàng nhận được câu trả lời dựa trên tri thức thực tế của doanh nghiệp, chứ không phải phỏng đoán của mô hình. RAG cũng giúp việc cập nhật AI trở nên đơn giản: chỉ cần cập nhật chỉ mục tài liệu, AI sẽ phản ánh thông tin mới ngay lập tức mà không cần huấn luyện lại.

Trường hợp sử dụng và ứng dụng

RAG là xương sống kỹ thuật của hỗ trợ AI chính xác trong nhiều ngành:

• Hỗ trợ khách hàng: Truy xuất bài viết trợ giúp, tài liệu sản phẩm và dữ liệu tài khoản để đưa ra câu trả lời chính xác cho câu hỏi của khách hàng
• Quản lý tri thức nội bộ: Cho phép nhân viên tra cứu trên Confluence, Notion, Google Drive và các kho dữ liệu khác bằng ngôn ngữ tự nhiên
• Tuân thủ và các ngành được quản lý chặt chẽ: Neo mọi câu trả lời của AI vào các tài liệu chính sách đã được phê duyệt và lưu vết trích dẫn phục vụ kiểm toán
• Khắc phục sự cố kỹ thuật: Truy xuất tài liệu về lỗi, tài liệu tham chiếu API và các mẫu giải quyết trước đây để định hướng các tương tác hỗ trợ SaaS
• Hỗ trợ đa ngôn ngữ: Truy xuất tài liệu nguồn bằng một ngôn ngữ và tạo câu trả lời bằng ngôn ngữ khách hàng ưa thích

Lợi thế của Maven

Nền tảng của Maven AGI được xây dựng trên kiến trúc RAG tinh vi. Agent Maven sử dụng tìm kiếm kết hợp giữa vector embedding dày đặc và tra cứu đồ thị tri thức có cấu trúc trên hơn 100 nguồn dữ liệu được kết nối. Cơ chế xếp hạng lại nhiều tầng và hợp nhất ngữ cảnh đảm bảo thông tin liên quan nhất đến được lớp tạo sinh, cho ra câu trả lời chính xác và đầy đủ.

Enumerate, một công ty PropTech, đạt tỷ lệ giải quyết 91% với Maven AGI. Mức độ chính xác này chỉ có thể đạt được vì quy trình RAG của Maven truy xuất thông tin đã được xác minh từ chính cơ sở tri thức và hệ thống sản phẩm của doanh nghiệp, chứ không phải từ bộ nhớ tham số của LLM, loại bỏ rủi ro ảo giác vốn làm suy giảm niềm tin vào hỗ trợ bằng AI.

Maven AGI, được rót vốn 78 triệu USD, coi RAG là lớp nền tảng. Mọi câu trả lời Agent Maven tạo ra đều dựa trên bằng chứng đã truy xuất, kèm trích dẫn nguồn để đảm bảo minh bạch. Đó là lý do các khách hàng của Maven như K1x đạt tỷ lệ giải quyết 80% (gấp 10 lần so với giải pháp AI trước đây) và Papaya Pay đạt 90% giải quyết tự động. Tìm hiểu thêm trong nghiên cứu của IBM Research về Retrieval Augmented Generation, hoặc khám phá cách truy xuất kết hợp đang phát triển trong nghiên cứu gần đây về RAG với đồ thị tri thức.

Câu hỏi thường gặp

RAG giảm ảo giác AI như thế nào?

RAG giảm ảo giác bằng cách buộc đầu ra của mô hình ngôn ngữ dựa trên các tài liệu nguồn được truy xuất thay vì chỉ dựa vào tham số nội tại. Mô hình lấy thông tin từ những đoạn văn bản cụ thể, đã được xác minh. Nếu ngữ cảnh truy xuất không chứa câu trả lời, các hệ thống RAG được thiết kế tốt sẽ thừa nhận khoảng trống thay vì bịa ra câu trả lời.

Vector embedding là gì và vì sao quan trọng với RAG?

Vector embedding là các biểu diễn dạng số của văn bản, nắm bắt ý nghĩa ngữ nghĩa. Từ "refund" (hoàn tiền) và cụm "get my money back" (lấy lại tiền) sẽ có embedding tương tự nhau dù không có từ nào trùng lặp. Trong RAG, embedding cho phép tìm kiếm ngữ nghĩa: hệ thống tìm ra các tài liệu liên quan về mặt khái niệm, không chỉ khớp từ khóa. Đây là lý do RAG hiệu quả hơn hẳn tìm kiếm truyền thống đối với AI hội thoại.

RAG có yêu cầu huấn luyện lại mô hình ngôn ngữ không?

Không. Một trong những ưu điểm chính của RAG là mô hình ngôn ngữ không cần huấn luyện lại khi thông tin thay đổi. Đội ngũ chỉ cần cập nhật chỉ mục tài liệu, lớp truy xuất sẽ ngay lập tức cung cấp thông tin mới trong quá trình tạo sinh. Điều này khiến RAG trở nên lý tưởng cho các môi trường thay đổi nhanh như hỗ trợ SaaS, nơi tài liệu được cập nhật thường xuyên.

Tìm kiếm kết hợp trong hệ thống RAG là gì?

Tìm kiếm kết hợp (hybrid search) kết hợp tìm kiếm ngữ nghĩa dựa trên vector với truy xuất theo từ khóa (BM25 hoặc tương tự). Tìm kiếm vector vượt trội trong việc hiểu ý nghĩa và ý định, còn tìm kiếm từ khóa phù hợp hơn với các trường hợp cần khớp chính xác như mã sản phẩm và mã lỗi. Kết hợp cả hai giúp quy trình RAG truy xuất kết quả phù hợp dù truy vấn mang tính hội thoại hay cụ thể. Maven AGI áp dụng cách tiếp cận kết hợp này trên toàn bộ nền tảng hỗ trợ AI cho doanh nghiệp của mình.