Tomer Tunguz: AI chuyên biệt thay thế lệnh 'if-then', giảm chi phí vận hành tới 200 lần

Công việc ở khu vực hậu cần của một cửa hàng tạp hóa có những quy tắc riêng: nếu là chuối, hãy chuyển đến quầy nông sản; nếu là bánh quy, hãy đưa đến kệ đồ ăn nhẹ; nếu là thì là, hãy xếp nó cùng với các loại gia vị.

Nhưng nếu lô chuối đã bị hỏng, bánh quy bị vụn nát và thì là bị vón cục thì sao? Những quy tắc và ngoại lệ này chi phối mọi cửa hàng tạp hóa và siêu thị mini. Ban đầu, chúng rất cứng nhắc; theo thời gian, nhiều ngoại lệ được phát hiện hơn: đó có phải là chuối tây (plantain) không? Sô-cô-la Dubai: là món tráng miệng hay nguyên liệu làm bánh?

Lập trình theo nghĩa đen là mã hóa các quy tắc và ngoại lệ này vào phần mềm. Trước thời đại AI, các chương trình này rất cứng nhắc. AI xử lý các ngoại lệ: một công cụ tìm kiếm hình ảnh xác định loại trái cây lạ là Musa paradisiaca, một "người anh em" của chuối.1

Nhưng chúng ta không cần đến mô hình thông minh nhất thế giới chỉ để xử lý logic "nếu là chuối tây thì đưa vào quầy nông sản".

Làn sóng AI mới nhất là một bộ quyết định "nếu-thì" (if-then) mạnh mẽ. Jev2 và SemIf3 trả lời những câu hỏi như thế này trong vài trăm mili giây với chi phí giảm 99% so với AI truyền thống.4 Chúng đơn giản hóa các mô hình hiện có bằng cách chạy toán tử chú ý (attention math) một lần, sau đó xác định xác suất của từng câu trả lời cho phép dựa trên một vài token đầu ra.5

Tôi đã tìm kiếm các câu lệnh "nếu-thì" trong mã nguồn của chính mình, những câu lệnh mà tôi đã giao cho AI. Chỉ trong vài phút, tôi đã thay thế khoảng một phần tư các lệnh gọi đó trong một trong các tác nhân (agent) của mình. Trên 98 chuỗi email thực tế đã được xác minh thủ công, các bộ quyết định chuyên biệt này gần như tăng gấp đôi độ chính xác phân loại của mô hình sản xuất, nhảy vọt từ 47% lên hơn 80%.6

Phần mềm được cấu thành từ các nguyên hàm (primitives): câu lệnh "nếu-thì" là một trong số đó. Bằng cách tối ưu hóa nguyên hàm đơn lẻ này, chúng ta thấy chi phí giảm gần hai bậc độ lớn cùng với độ chính xác cao hơn.

Những tiến bộ này đặt ra câu hỏi về việc những nguyên hàm lập trình nào khác sẽ được hưởng lợi từ sự chuyên biệt hóa tương tự. Chúng cũng làm nổi bật sự phân hóa kinh tế của AI: các mô hình tiên tiến nhất (state of the art) dành cho khám phá và các mô hình tối ưu hóa dành cho sản xuất. Chúng ta sử dụng các mô hình biên (frontier models) lớn nhất để huấn luyện các mô hình mới và các mô hình có năng lực nhất để kiến trúc hệ thống. Nhưng một khi hệ thống đã được thiết kế và củng cố, việc chạy nó hàng nghìn hoặc hàng triệu lần thông qua một quy trình làm việc sẽ được hưởng lợi từ AI chuyên biệt hơn.

Nếu đây là nguyên hàm đầu tiên trong số nhiều nguyên hàm được chuyên biệt hóa cho sản xuất, thì các hệ thống điều khiển (harnesses) sắp sửa thu được biên lợi nhuận lớn hơn nhiều.7

Musa × paradisiaca. Linnaeus đã đặt tên cho chuối tây là Musa paradisiaca và chuối tráng miệng là Musa sapientum vào năm 1753; cả hai hiện nay đều được biết đến là giống lai của cùng hai loài cha mẹ, Musa acuminata và Musa balbisiana. Việc phân loại khó đến mức ông đã chia một nhóm thành hai. ↩︎

Jev, TypeSafe, phát hành ngày 15 tháng 9 năm 2026. Trả về các quyết định đã được định kiểu và hiệu chuẩn trong một luồng song song thay vì tạo văn bản. ↩︎

SemIf, Theodore Lee, giấy phép MIT, phát hành ngày 18 tháng 9 năm 2026, và kev, Jared Palmer: các bản tái tạo mã nguồn mở của mô hình giao diện này. Các điểm chuẩn là số liệu được SemIf công bố trên RTX 3090 với mô hình Qwen3.5-4B đã đóng băng (frozen). ↩︎

Giá của Jev: 0,042 USD cho mỗi triệu token đầu vào, 0 USD cho đầu ra, mức giá mà TypeSafe cho biết có thể được trợ giá. Giá của các mô hình cùng phân khúc với Sonnet là 3 USD cho đầu vào và 15 USD cho đầu ra trên mỗi triệu token. Với một lệnh gọi phân loại điển hình gồm 2.000 token đầu vào và 60 token đầu ra, mức giá này rẻ hơn 82 lần. Các đánh giá quy trình làm việc của chính TypeSafe cho thấy Jev có giá 0,0004 USD mỗi trường hợp so với 0,0304 USD và 0,0836 USD của hai mô hình biên, chênh lệch từ 76 đến 209 lần. ↩︎

Cơ chế của SemIf. Thay vì tạo token theo kiểu tự hồi quy (autoregressively) thông qua toàn bộ cấu trúc transformer, bản triển khai mã nguồn mở chạy cơ chế chú ý (attention mechanism) trên prompt và đánh giá trực tiếp các lựa chọn ứng viên từ các logit đầu ra, bỏ qua hoàn toàn mạng truyền thẳng (feed-forward network) nhiều lớp và các bước giải mã. ↩︎

Đánh giá trên 98 chuỗi email sản xuất đã được xác minh thủ công, tháng 9 năm 2026: trên cùng một tập dữ liệu, bộ phân loại LLM tạo sinh trong sản xuất đạt độ chính xác 47% (46/98), trong khi Jev đạt 80% (78/98) và SemIf cục bộ đạt 82% (80/98). Ngoài ra, trong các nhật ký sản xuất thực tế trên 31 email gửi đến, bộ quyết định cục bộ đã xử lý 8 email với sai số bằng 0 và chuyển phần còn lại một cách an toàn cho mô hình biên. ↩︎

Cơ hội biên lợi nhuận của Harness. Một hệ thống harness giúp cắt giảm chi phí thực thi mà không làm giảm độ chính xác; việc chuyên biệt hóa các nguyên hàm mô hình cơ sở sẽ mở rộng biên lợi nhuận gộp đó hơn nữa. ↩︎