TypeSafe AI ra mắt Jev: Mô hình AI đưa ra quyết định có cấu trúc thay vì văn bản

Khoảnh khắc ChatGPT vào năm 2022 đã dạy cho AI cách trò chuyện với con người. Một trong những người tạo ra nó hiện đang đặt cược rằng khoảnh khắc tiếp theo sẽ là AI trò chuyện với phần mềm, thay vì con người. TypeSafe AI vừa ra mắt Jev. Jev dựa trên kiến trúc transformer, nhưng nó không phải là một mô hình ngôn ngữ lớn (LLM). Nó không tạo ra văn bản. Bạn gửi một trạng thái (state) và các câu hỏi có kiểu dữ liệu xác định. Nó trả về các quyết định có kiểu dữ liệu xác định kèm theo xác suất để mã nguồn có thể phân nhánh xử lý.

Nó có thể triển khai được không? Có, dưới dạng một API được lưu trữ (hosted API) trong giai đoạn truy cập sớm thông qua danh sách chờ. TypeSafe chưa công bố trọng số, số lượng tham số hay tùy chọn tự lưu trữ (self-hosting).

System One Model là gì?

Cái tên này mượn ý tưởng từ sự phân chia của Daniel Kahneman giữa tư duy nhanh (trực giác) và tư duy chậm (lập luận). Đội ngũ TypeSafe lập luận rằng RLHF (Học tăng cường từ phản hồi của con người) đã tinh chỉnh các mô hình theo sở thích của con người. Điều đó tạo ra khả năng trò chuyện, nhưng cũng dẫn đến sự tự tin thái quá và hiện tượng "mode dropping". Những khiếm khuyết đó buộc con người phải luôn tham gia vào quy trình (human in the loop).

Jev sử dụng một hệ thống mới: kiến trúc mới, bộ lấy mẫu song song (parallel sampler) và Reinforcement Learning for Calibrated Decisions (RLCD - Học tăng cường cho các quyết định đã hiệu chuẩn). TypeSafe chưa tiết lộ về kiến trúc này.

Cách thức hoạt động của Jev API

Một endpoint duy nhất xử lý mọi thứ: POST https://api.typesafe.ai/v1/systemone. Phần thân (body) chứa trạng thái, mô hình và một bản đồ các câu hỏi. Tài liệu hướng dẫn định nghĩa 3 loại câu hỏi.

Các câu hỏi chạy song song và độc lập trên cùng một trạng thái. TypeSafe cho biết việc thêm câu hỏi hầu như không làm thay đổi thời gian phản hồi. Một lựa chọn (Choice) hỗ trợ tối đa 255 tùy chọn.

Cài đặt bằng lệnh pip install typesafe-sdk (Python 3.10 trở lên). Một SDK JavaScript được phát hành dưới tên @typesafe-ai/sdk. Hướng dẫn nhanh (quickstart) cũng bao gồm cURL và một agent skill cho Claude Code.

Sự tự tin chính là sản phẩm

Mỗi câu trả lời dạng Choice và Score đều mang một giá trị độ tin cậy (confidence) từ 0 đến 1. TypeSafe suy luận giá trị này từ hình dạng của phân phối xác suất. Trong ví dụ tài liệu, "billing" (thanh toán) thắng với 0.84. Độ tin cậy chỉ là 0.596, vì "technical" (kỹ thuật) vẫn chiếm 0.159.

Tài liệu gợi ý 3 hướng xử lý. Hành động với độ tin cậy cao. Xem xét lại với độ tin cậy trung bình. Gửi cho con người nếu độ tin cậy thấp. Các ngưỡng (thresholds) nên được điều chỉnh theo chi phí của một hành động sai lầm.

Giá cả, tốc độ và các lưu ý về Benchmark

Jev có giá 42 USD cho mỗi tỷ token đầu vào. TypeSafe trích dẫn các LLM hiện tại có giá từ 0,20 USD đến 10 USD cho mỗi 1 triệu token đầu vào. Trong bản demo được ghi lại, Jev hoàn thành trong 0,114 giây với chi phí 0,000081 USD. GPT-5.6 Terra mất 8,566 giây với chi phí 0,013880 USD.

Đội ngũ TypeSafe tuyên bố nó nhanh hơn 193,6 lần và rẻ hơn 444,6 lần. Những con số đó đến từ các đánh giá quy trình làm việc của chính TypeSafe. Nhưng hãy khoan, đây là một số điều cần lưu ý:

"Không ảo tưởng" (Zero hallucinations) có nghĩa là việc khớp lược đồ (schema matching) được đảm bảo. Con số 0% không phải là kết quả thực nghiệm. Các câu trả lời vẫn có thể sai.

Các nhà phát triển đang xây dựng gì với Jev

Các dự án cộng đồng đã xuất hiện chỉ vài ngày sau khi ra mắt. Dưới đây là một số ví dụ:

Công cụ giải thích tương tác (Interactive Explainer)

Những điểm chính cần lưu ý

Hãy xem bài viết ra mắt, tài liệu và GitHub của TypeSafe. Mọi công lao đều thuộc về nhà nghiên cứu của dự án này. Ngoài ra, hãy thoải mái theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit 150k+ ML của chúng tôi và đăng ký nhận Bản tin (Newsletter). Khoan đã! Bạn có dùng Telegram không? Bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Cần hợp tác với chúng tôi để quảng bá GitHub Repo, Hugging Face Page, Product Release hoặc Webinar của bạn? Hãy kết nối với chúng tôi.

Asif Razzaq là CEO của Marktechpost AI Media Inc. Là một doanh nhân và kỹ sư có tầm nhìn, Asif cam kết khai thác tiềm năng của Trí tuệ nhân tạo vì lợi ích xã hội. Nỗ lực gần đây nhất của ông là ra mắt nền tảng truyền thông về Trí tuệ nhân tạo, Marktechpost, nổi bật với việc đưa tin chuyên sâu về tin tức học máy (machine learning) và học sâu (deep learning), vừa đảm bảo tính kỹ thuật vừa dễ hiểu đối với đông đảo khán giả. Nền tảng này tự hào với hơn 2 triệu lượt xem mỗi tháng, minh chứng cho sự phổ biến của nó đối với độc giả.