Feyn AI ra mắt SQRL: Dòng mô hình Text-to-SQL tự kiểm tra dữ liệu trước khi truy vấn

Hầu hết các hệ thống text-to-SQL đều coi tác vụ này là một bài toán dịch thuật. Feyn AI (startup được YC hậu thuẫn) đã định hình lại nó theo hướng kiểm tra dữ liệu. Đội ngũ Feyn vừa ra mắt SQRL, một dòng mô hình có khả năng chuyển đổi các câu hỏi ngôn ngữ tự nhiên thành SQL. Thay vì tạo truy vấn ngay lập tức, SQRL có thể kiểm tra cơ sở dữ liệu trước. Điều này cho phép nó giải quyết các điểm mơ hồ và chỉ viết những truy vấn mà dữ liệu thực sự hỗ trợ.

Đội ngũ Feyn báo cáo rằng mô hình chủ lực SQRL-35B-A3B đạt độ chính xác thực thi 70,6% trên tập BIRD Dev. Con số này vượt qua Claude Opus 4.6 với 68,77% trong cùng một đánh giá. Ba phiên bản checkpoint đã được phát hành công khai trên Hugging Face: SQRL-4B, SQRL-9B và SQRL-35B-A3B.

Một truy vấn có thể là SQL hợp lệ nhưng vẫn sai về kết quả

Text-to-SQL thường được mô tả là một bài toán dịch thuật, nhưng cách định nghĩa đó đã bỏ qua phần khó nhất. Một truy vấn có thể là SQL hoàn toàn hợp lệ nhưng vẫn trả về kết quả sai. Nó có thể join nhầm bảng, đọc sai một cột mơ hồ hoặc lọc các giá trị không tồn tại. Không lỗi nào trong số này gây ra thông báo lỗi, vì vậy không lỗi nào bị phát hiện chỉ bằng việc thực thi.

Thông tin lược đồ (schema) không ngăn chặn được những sai sót này. Một lược đồ liệt kê các bảng, cột, kiểu dữ liệu và đôi khi là các mối quan hệ. Nó không tiết lộ liệu một quận (county) được lưu trữ là "Alameda", "Alameda County" hay "ALAMEDA". Nó cũng không thể cho bạn biết phép join nào sẽ tạo ra các hàng trùng lặp.

Benchmark BIRD giúp các lỗi này trở nên có thể đo lường được. Các cơ sở dữ liệu của nó trải rộng trên nhiều lĩnh vực thực tế và chứa các giá trị không hoàn hảo, các cột mơ hồ và các mối quan hệ phức tạp. Một hệ thống được chấm điểm bằng cách thực thi SQL của nó và so sánh các hàng trả về với kết quả tham chiếu. Đối với các ngôn ngữ truy vấn, tính đúng đắn về cú pháp là chưa đủ. Thông tin cốt lõi mà Feyn nhận ra là thông tin còn thiếu vốn đã nằm sẵn bên trong cơ sở dữ liệu. Mô hình chỉ cần được cấp quyền để truy vấn thông tin đó.

SQRL kiểm tra trước khi đưa ra câu trả lời

SQRL nhận một câu hỏi, lược đồ của nó và các bằng chứng tùy chọn về cơ sở dữ liệu. Nếu ngữ cảnh đó là đủ, nó sẽ trả về truy vấn ngay lập tức. Nếu vẫn còn điểm mơ hồ, nó sẽ chạy các truy vấn chỉ đọc (read-only) và sử dụng các hàng trả về để soạn thảo câu trả lời cuối cùng. Quyết định kiểm tra phụ thuộc vào tình huống. Việc đếm số hàng trong một bảng đơn lẻ không cần tra cứu, vì vậy SQRL sẽ trả lời trực tiếp.

Tương tác này sử dụng hai hành động riêng biệt. Khối <sql> yêu cầu một quan sát từ cơ sở dữ liệu. Khối <answer> cam kết với truy vấn cuối cùng. Hệ thống thực thi các truy vấn khám phá ở chế độ chỉ đọc và trả về các hàng của chúng bên trong các thẻ <observation>. SQRL có thể kiểm tra tối đa năm lần, mặc dù hầu hết các câu hỏi đều hoàn thành trong ít bước hơn.

Phần giải thích bên dưới sẽ đi qua cả hai hành vi trên các ví dụ thực tế, sau đó so sánh dòng mô hình này với các mô hình tiên phong trên BIRD Dev.

Một mô hình kết hợp cả hai chiến lược truyền thống

Text-to-SQL trong lịch sử đã đi theo hai hướng tiếp cận, và mỗi hướng đều phải đánh đổi một thứ quan trọng.

Các mô hình single-shot tạo toàn bộ truy vấn trong một lượt. Chúng có chi phí vận hành thấp, nhưng phải suy luận mọi thứ từ lược đồ, điều này có thể tạo ra các truy vấn sai về logic. Ngược lại, các pipeline tiên phong sẽ truy xuất ngữ cảnh, tạo các ứng viên, phê bình chúng và sau đó chọn câu trả lời. Cách này có thể tối đa hóa độ chính xác, nhưng mỗi câu hỏi đòi hỏi nhiều lệnh gọi mô hình đắt đỏ và nhiều lần truy cập cơ sở dữ liệu. Chi phí đó khiến các pipeline như vậy khó triển khai trong các quy trình yêu cầu tốc độ cao.

SQRL kết hợp cả hai trong một mô hình duy nhất. Các câu hỏi dễ vẫn ngắn gọn, trong khi các câu hỏi mơ hồ sẽ được kiểm tra thêm. Mô hình chỉ phải trả chi phí cho việc tra cứu khi câu hỏi thực sự cần đến nó.

Huấn luyện quyết định kiểm tra

Việc cấp quyền truy cập cơ sở dữ liệu cho mô hình không dạy nó cách hoặc khi nào cần tra cứu. Hành vi đó phải được huấn luyện, và việc huấn luyện dựa trên thực thi rất khắt khe. Nếu một truy vấn tham chiếu bản thân nó đã sai, một câu trả lời đúng của mô hình sẽ nhận được phần thưởng sai. Do đó, Feyn đã làm sạch tập huấn luyện trước. Bắt đầu từ BIRD và Spider, họ đã loại bỏ các ví dụ mà SQL tham chiếu không tạo ra kết quả hữu ích. Sau đó, ba mô hình giám khảo đã xem xét các cặp còn lại và loại bỏ bất kỳ truy vấn nào không trả lời đúng câu hỏi như đã viết. Tập kiểm tra kết hợp một phần của Spider với BIRD dev, và phần dữ liệu còn lại được đưa vào huấn luyện.

Mô hình giáo viên 35B-A3B được huấn luyện trực tiếp với CISPO, một phương pháp học tăng cường từ công trình M1 của MiniMax. CISPO cắt tỉa các trọng số lấy mẫu quan trọng thay vì tỷ lệ chính sách, giúp bảo toàn tín hiệu gradient từ các token hiếm nhưng mang tính quyết định. Với mỗi câu hỏi, mô hình tạo ra tám quỹ đạo hoàn chỉnh. Feyn thực thi mọi truy vấn cuối cùng và thưởng cho kết quả khớp với tham chiếu, một tín hiệu nhị phân bỏ qua cách diễn đạt và chỉ kiểm tra các hàng được trả về.

Huấn luyện dựa trên nhóm cần sự biến thiên bên trong mỗi nhóm. Tám nỗ lực đúng hoặc tám nỗ lực thất bại không mang lại tín hiệu nào về việc quyết định nào đã giúp ích. Do đó, Feyn đã huấn luyện trên "vùng hỗn hợp", nơi chỉ một số trong tám nỗ lực thành công, để mỗi nhóm có thể củng cố các lựa chọn giúp phân biệt một quỹ đạo đúng với một quỹ đạo sai. Đó là cách mô hình giáo viên học được khi nào cần kiểm tra.

Để đưa hành vi này vào triển khai, đội ngũ Feyn đã lấy mẫu các quỹ đạo giáo viên hoàn chỉnh và chỉ giữ lại những lần chạy mà SQL cuối cùng trả về kết quả đúng. Điều này tạo ra khoảng 10.200 ví dụ, mỗi ví dụ bảo toàn quá trình suy luận, các truy vấn khám phá, quan sát và câu trả lời cuối cùng. Các mô hình học sinh 4B và 9B được tinh chỉnh trên các quỹ đạo này, sau đó được cải thiện với cùng phần thưởng thực thi CISPO. SQRL được xây dựng dựa trên các dòng mô hình Qwen3.5 và Qwen3.6.

Hiệu suất trên toàn dòng mô hình

Feyn đã đánh giá SQRL trên BIRD Dev, chấm một truy vấn là đúng khi nó trả về cùng kết quả với tham chiếu. SQRL-35B-A3B đạt 70,60% và kích hoạt khoảng 3 tỷ tham số mỗi token. Mô hình học sinh 9B duy trì gần như toàn bộ hiệu suất đó ở mức 69,80%. SQRL-4B đạt 68,80%, ngang bằng với Claude Opus 4.6 trong đánh giá này với một mô hình đủ nhỏ để lưu trữ ở bất cứ đâu, giúp lược đồ, truy vấn và quan sát của bạn nằm trên cơ sở hạ tầng mà bạn kiểm soát.

Trong so sánh được Feyn báo cáo, các mô hình tiên phong khác theo sau: Claude 4.5 Sonnet đạt 67,34%, Qwen3-Coder-480B-A35B đạt 66,17%, GLM-4.7 đạt 63,82%, DeepSeek-R1 đạt 61,67% và Kimi-K2-Thinking đạt 60,63%.

Lưu ý triển khai

Feyn khuyến nghị SQRL-9B là checkpoint mặc định, với SQRL-4B cho các ngân sách hạn hẹp nhất và SQRL-35B-A3B cho độ chính xác cao nhất. Mô hình 9B phục vụ với vLLM:

Vòng lặp ứng dụng rất nhỏ. Hãy giữ việc thực thi cơ sở dữ liệu ở chế độ chỉ đọc và trả lại từng quan sát cho mô hình cho đến khi nó đưa ra câu trả lời. Một lưu ý quan trọng: Đừng bật trình phân tích suy luận ở lớp phục vụ (serving-layer). Giao thức hành động xuất hiện trong nội dung sau thẻ đóng </think>, vì vậy việc loại bỏ nội dung đó sẽ làm mất hành động <sql> hoặc <answer> của mô hình. Hãy phân tích nội dung tin nhắn thô và bảo toàn mọi thứ sau thẻ think cuối cùng. Các thẻ mô hình (model cards) chứa prompt hệ thống hoàn chỉnh và một bộ khung tham chiếu.

Những điểm chính cần lưu ý

Asif Razzaq là CEO của Marktechpost Media Inc.. Là một doanh nhân và kỹ sư có tầm nhìn, Asif cam kết khai thác tiềm năng của Trí tuệ nhân tạo vì lợi ích xã hội. Nỗ lực gần đây nhất của ông là ra mắt Nền tảng Truyền thông Trí tuệ nhân tạo, Marktechpost, nổi bật với việc đưa tin chuyên sâu về học máy và học sâu, vừa đảm bảo tính kỹ thuật vừa dễ hiểu đối với đông đảo công chúng. Nền tảng này tự hào với hơn 2 triệu lượt xem hàng tháng, minh chứng cho sự phổ biến của nó đối với độc giả.