Mistral ra mắt Agentic Search: Tối ưu độ chính xác khi truy vấn tài liệu phức tạp

Tư duy

Tóm tắt

Mistral Agentic Search mang lại kết quả tìm kiếm chính xác hơn đồng thời giảm số lượt truy vấn, mức sử dụng token và độ trễ so với các tiêu chuẩn FinanceBench và OfficeQA Pro. Agentic Search là lớp truy xuất cho phép các hệ thống AI điều hướng, đọc và xác minh thông tin ngay cả trong những tài liệu phức tạp nhất. Hiện đã có sẵn thông qua Mistral Search Toolkit và Libraries.

Mistral Agentic Search giúp các doanh nghiệp đạt được kết quả tốt hơn từ hệ thống AI của họ bằng cách cho phép các mô hình tìm kiếm và điều hướng qua những dữ liệu và tài liệu phức tạp nhất của tổ chức. Agentic Search giới thiệu một vòng lặp truy xuất đa bước để tìm kiếm, kiểm tra và xác minh thông tin trên các nguồn dữ liệu, bất kể chúng được lưu trữ ở đâu. Agentic Search hiện có sẵn thông qua Mistral Search Toolkit, được tích hợp vào các Libraries trong cả Studio và Vibe, mang đến cho bạn:

Hỗ trợ dữ liệu nhạy cảm đặc thù theo lĩnh vực. Các công cụ di động và mã nguồn mở của Mistral giúp bạn khai thác giá trị từ dữ liệu của mình mà không cần vượt qua các ranh giới cô lập trên đám mây hoặc tại chỗ (on-premises).

Cải thiện kết quả tìm kiếm. Các mô hình của bạn có thể tìm kiếm và điều hướng dữ liệu vượt ra ngoài các đoạn văn bản (chunks) được truy xuất – đi sâu vào các tài liệu dài, dày đặc thông tin hoặc trên nhiều nguồn khác nhau.

Truy cập vào các chỉ mục hiện có. Agentic Search xây dựng dựa trên chỉ mục tìm kiếm hiện tại của bạn bằng cách sử dụng năm công cụ: search (tìm kiếm), open (mở), navigate (điều hướng), read (đọc) và grep (tìm kiếm mẫu).

Độ chính xác cao hơn. Agentic Search mang lại độ chính xác gấp 3 lần trên các hồ sơ tài chính, tăng từ 26,7% lên 86% dựa trên FinanceBench. Đối với các câu hỏi đa tài liệu chứa nhiều bảng biểu của tiêu chuẩn OfficeQA Pro, chúng tôi ghi nhận mức tăng +45,6 điểm (từ 6,3% lên 51,9%).

Giảm độ trễ và mức sử dụng token. Việc điều hướng có mục tiêu cho phép Agentic Search giảm độ trễ p90 lên tới 39,6%. Việc giảm các lượt tìm kiếm lặp lại giúp tiết kiệm mức tiêu thụ token lên tới một phần ba.

Dữ liệu tạo ra lợi thế cạnh tranh

Lợi thế cạnh tranh được xây dựng dựa trên nhiều năm vận hành thực tế – dữ liệu của bạn, quy trình của bạn và chuyên môn trong lĩnh vực của bạn. Kiến thức độc quyền vừa quan trọng đối với sự thành công của bạn, vừa mang tính bảo mật cao, nghĩa là nó nằm sau các ranh giới cô lập, các triển khai phân đoạn và các nền tảng tự lưu trữ. Nó tích lũy trong các hồ sơ tài chính, hợp đồng pháp lý, tài nguyên nội bộ và hồ sơ chính phủ – những tài liệu dài, dày đặc mà các phương pháp tìm kiếm truyền thống không thể điều hướng hiệu quả.

Các tác nhân (agents) có khả năng học hỏi và cải thiện liên tục có thể giúp bạn gia tăng lợi thế cạnh tranh, nhưng các tác nhân này thường bị tách biệt khỏi dữ liệu bảo mật và kiến thức độc quyền vì lý do an ninh. Để đạt được tác động thực sự từ AI, cần kết hợp khả năng suy luận tiên tiến với các công cụ truy xuất có thể tiếp cận an toàn các tài liệu nhạy cảm nhất của bạn.

RAG truyền thống còn nhiều hạn chế

RAG truyền thống (one-shot RAG) truy xuất một tập hợp cố định các đoạn văn bản và yêu cầu mô hình trả lời trong một lần duy nhất. Cách này hiệu quả khi câu trả lời xuất hiện trong một trong những kết quả hàng đầu, nhưng lại thất bại khi mô hình cần điều hướng qua một báo cáo dài, theo dõi các tài liệu tham khảo, so sánh nhiều tài liệu hoặc xác minh bằng chứng cơ sở.

Hạn chế này càng rõ rệt hơn đối với các dữ liệu và tài liệu phức tạp, dày đặc. Thông tin cần thiết để trả lời một câu hỏi có thể nằm rải rác giữa các tài liệu hoặc bị ẩn trong một bảng biểu, chú thích hoặc điều khoản cụ thể. Tìm kiếm dựa trên RAG một lần (one-shot RAG) không thể tận dụng toàn bộ sức mạnh của AI tiên tiến và cung cấp các câu trả lời đáng tin cậy vì ba lý do:

Truy xuất thiếu suy luận: Mô hình buộc phải trả lời từ các đoạn văn bản được chọn trong quá trình truy xuất ban đầu, ngay cả khi chúng không đầy đủ hoặc không liên quan. Nó không thể quyết định rằng mình cần một tài liệu khác, một phần khác hoặc nhiều ngữ cảnh hơn trước khi phản hồi, điều này hạn chế tác động từ khả năng suy luận của mô hình.

Giới hạn ở cấp độ đoạn văn (chunk-level): Dữ liệu quan trọng thường nằm trong các tài liệu đa phương thức phức tạp. Khi được hỏi “Thuế suất hiệu dụng của công ty trong quý 3 là bao nhiêu?”, một chỉ mục có thể tìm thấy tài liệu chính xác nhưng không thể mở nó, điều hướng đến bảng biểu, đọc ngữ cảnh xung quanh hoặc xác minh câu trả lời.

Không có sự lặp lại: Nhiều câu hỏi cần nhiều hơn một lượt truy xuất để có được câu trả lời chính xác. Mô hình có thể cần tinh chỉnh tìm kiếm, kiểm tra một tài liệu tiềm năng, theo dõi tài liệu tham khảo, so sánh nhiều nguồn, theo dõi những gì đã xem và thử một hướng đi mới khi kết quả đầu tiên không đủ. RAG một lần không cung cấp cách thức để thực hiện các bước tiếp theo này.

Với Agentic Search

Chỉ sử dụng các giá trị được báo cáo cho tất cả các tháng dương lịch riêng lẻ trong năm 1953, tổng số tiền chi tiêu cho quốc phòng Hoa Kỳ và các hoạt động liên quan (tính bằng triệu đô la danh nghĩa) là bao nhiêu?

Quỹ đạo 3 tool_calls (2× search → read)

search("chi tiêu quốc phòng hàng tháng 1953") → bản tin hàng tháng (một phần của năm)

search("…1953 tháng 11 tháng 12 năm 1954 đến nay") → hiển thị treasury_bulletin_1954_02.pdf trang 15 (Bảng 3, tất cả 12 tháng của năm 1953)

read(treasury_bulletin_1954_02.pdf, trang 15) → trích xuất toàn bộ Bảng 3

Các giá trị hàng tháng cho năm 1953

Bảng 3, tính bằng triệu đô la

Tổng = 44.463.

Cách thức hoạt động của Agentic Search

Mistral Search Toolkit cung cấp các mô-đun mở để thu thập, nhúng và lập chỉ mục dữ liệu quan trọng và phức tạp trên đám mây hoặc tại chỗ. Agentic Search xây dựng dựa trên chỉ mục này bằng cách cung cấp cho mô hình năm công cụ tương tự như các thao tác hệ thống tệp quen thuộc:

search tìm kiếm các tài liệu liên quan trong toàn bộ kho dữ liệu bằng cách sử dụng chỉ mục hiện có.

open mở một tài liệu cụ thể.

navigate di chuyển đến một trang, phần hoặc vùng trong tài liệu đó.

read truy xuất nội dung tại vị trí đó.

grep tìm kiếm một mẫu trong một tài liệu đang mở.

Thay vì chỉ trả lời từ các kết quả hàng đầu (top-k) ban đầu, mô hình có thể kiểm tra những gì nó tìm thấy, tinh chỉnh tìm kiếm, mở các tài liệu liên quan, điều hướng đến các phần cụ thể và đọc tài liệu nguồn trước khi trả lời. Chỉ mục xác định các nguồn có khả năng chứa thông tin; Agentic Search xác định những gì cần kiểm tra bên trong và giữa các nguồn đó.

One-shot RAG

Agentic Search

Các công cụ này không yêu cầu tinh chỉnh (fine-tuning) hoặc đào tạo dành riêng cho mô hình. Khi các mô hình trở nên tốt hơn trong việc suy luận và sử dụng công cụ, khả năng truy xuất cũng cải thiện mà không cần thay đổi cơ sở hạ tầng. Đây là một đặc tính quan trọng: chất lượng truy xuất tăng theo khả năng của mô hình thay vì bị giới hạn bởi chiến lược chia đoạn (chunking) của bạn.

Sử dụng Agentic Search cho