Câu hỏi phổ biến nhất từ đội kinh doanh: “Chúng tôi có 200 trang biểu phí và chính sách — làm sao để avatar trả lời đúng từ đó?” Câu trả lời ngắn: hệ thống tri thức (knowledge base) với RAG. Câu trả lời dài hơn — và đáng đọc — là hành trình của một tài liệu từ lúc tải lên đến lúc thành câu trả lời có trích dẫn. Bài viết đi qua từng chặng bằng ngôn ngữ thường.
Chặng 1 · Trích chữ và chia đoạn
File PDF được tách thành chữ theo từng trang; file DOCX giữ cấu trúc mục. Nội dung được chia thành các đoạn (chunk) vừa đủ nhỏ để tra chính xác, vừa đủ lớn để đứng về nghĩa riêng — biểu phí một loại thẻ thường là một đoạn, không phải cả 30 trang.
Bẫy thường gặp: chia đoạn quá nhỏ thì câu trả lời mất ngữ cảnh (đọc được “2%” mà không biết là phí của gì); quá lớn thì tìm kiếm dính cả tài liệu không liên quan.
Chặng 2 · Tạo vector và chỉ mục từ khoá
Mỗi đoạn được chuyển thành vector nhúng (dãy số biểu diễn ý nghĩa) và lưu cùng chỉ mục từ khoá truyền thống. Vì sao cần cả hai? Vector tìm được “phí duy trì hằng năm” khi khách hỏi “tiền phí giữ thẻ mỗi tháng” — khác từ nhưng cùng ý. Từ khoá bắt chính xác mã sản phẩm, số hiệu biểu mẫu — chỗ vector hay làm tròn số.
Avatin gộp kết quả hai đường bằng xếp hạng hợp nhất (RRF) — kỹ thuật chuẩn của tìm kiếm lai, không phải sáng chế riêng.
Chặng 3 · Tra theo tổ chức — cách ly tuyệt đối
Mọi truy vấn tri thức đều lọc theo tổ chức: tri thức của ngân hàng A không bao giờ xuất hiện trong câu trả lời cho khách của ngân hàng B, kể cả khi hai bên nạp tài liệu giống nhau. Cách ly này nằm ở tầng dữ liệu (row-level security), không phải tầng ứng dụng — nên không có đường vòng để “quên” lọc.
Chặng 4 · Trả lời có mốc trích dẫn
Mô hình ngôn ngữ nhận các đoạn đã tra như tài liệu tham khảo có đánh số — [1], [2] — và được yêu cầu trích mốc khi dùng. Hệ thống ánh xạ mốc về nguồn gốc (tên tài liệu, trang, đoạn) để khách chạm xem được; mốc được lọc khỏi giọng đọc nhưng giữ trong phụ đề. Câu trả lời không dùng đoạn nào thì không có trích dẫn — và ở chế độ strict, không có căn cứ nghĩa là “chưa có thông tin”.
Ba câu hỏi kiểm tra nền tảng tri thức của bạn
- Câu trả lời của AI lấy từ đâu? — phải chỉ ra được tài liệu và trang, không phải “từ mô hình”.
- Hai tổ chức nạp cùng một tài liệu thì tri thức có lẫn không? — phải là không, bằng chứng ở tầng dữ liệu.
- Tài liệu cập nhật thì câu trả lời cập nhật khi nào? — ingest xong là trả lời mới, không cần “huấn luyện lại” gì cả.
Kết
200 trang tài liệu không phải vấn đề — vấn đề là hệ thống biến nó thành tri thức tra được, có nguồn, và biết im lặng khi thiếu căn cứ. Đó là phần hạ tầng ít thấy của một avatar biết trả lời đúng, và là phần nên kiểm tra kỹ nhất khi chọn nền tảng.