Đồng sáng lập ChatGPT ra mắt Jev: Mô hình AI chuyên biệt cho tư duy logic và ra quyết định

TypeSafe, công ty được thành lập bởi một trong những người đồng sáng tạo ra ChatGPT, vừa chính thức lộ diện và ra mắt mô hình Jev nhằm tự động hóa các quyết định lập trình với kiến trúc lấy mẫu song song.

Các hệ thống phần mềm yêu cầu logic xác định tự động giờ đây có thể bỏ qua các mô hình ngôn ngữ hội thoại sau khi TypeSafe AI phát hành Jev, một "System One Model" chuyên biệt được thiết kế để thực thi các quyết định xác suất có cấu trúc trực tiếp bên trong các codebase sản xuất.

Được phát triển trong hai năm ẩn mình bởi Diogo Almeida, cựu nhân viên OpenAI và là đồng sáng tạo ChatGPT, mô hình này từ bỏ hoàn toàn việc tạo văn bản và chuỗi ký tự.

Thay vì tạo các token văn bản tuần tự theo cơ chế tự hồi quy (autoregressive), hệ thống tiếp nhận trạng thái phi cấu trúc làm đầu vào và xuất ra các giá trị có cấu trúc an toàn về kiểu (type-safe) trong một truy vấn song song duy nhất. Kiến trúc này nhắm đến việc tích hợp mã nguồn mang tính xác định, ngăn chặn lỗi cú pháp kiểu dữ liệu và hiện tượng ảo giác đầu ra ngay từ khâu thiết kế.

Diogo Almeida, Nhà sáng lập tại TypeSafe, cho biết: “Hãy coi Jev như một lời gọi hàm trí tuệ tiên phong: đầu vào là trạng thái phi cấu trúc, đầu ra là các quyết định xác suất có định kiểu.”

Kiến trúc mô hình Jev: Cách thức hoạt động của lấy mẫu song song nhận biết phần cứng

Các kỹ sư đã xây dựng nền tảng này dựa trên một phương pháp huấn luyện thay thế có tên là Reinforcement Learning for Calibrated Decisions (RLCD - Học tăng cường cho các quyết định đã hiệu chuẩn).

Các mô hình tiên phong truyền thống được huấn luyện thông qua Reinforcement Learning with Human Feedback (RLHF) hoặc Reinforcement Learning with Verifiable Rewards (RLVR) để đáp ứng các ưu tiên hội thoại của con người hoặc các kiểm tra lập trình biệt lập. TypeSafe huấn luyện Jev để tạo ra các xác suất đã hiệu chuẩn trên logic thực thi, đảm bảo điểm tin cậy trả về tương quan trực tiếp với độ chính xác của đầu ra.

Khác biệt với việc tạo token tự hồi quy, Jev dựa vào bộ lấy mẫu song song nhận biết phần cứng để đánh giá và cung cấp tất cả các giá trị có cấu trúc cùng một lúc.

Ràng buộc cấu trúc giới hạn đầu ra trong các lược đồ (schema) được xác định trước, loại bỏ các đường ống phân tích cú pháp và các lớp bảo vệ (guardrail) vốn cần thiết khi triển khai các mô hình ngôn ngữ lớn truyền thống trong các luồng tự động hóa doanh nghiệp. Bộ lấy mẫu nội bộ xử lý các lựa chọn có độ phân tán cao lên đến 255 tùy chọn rời rạc, sử dụng quy trình hai giai đoạn để chấm điểm các tùy chọn một cách độc lập trước khi đưa ra lựa chọn cuối cùng.

Các đánh giá nội bộ được thực hiện từ máy chủ của nhóm tại Bờ Tây ghi nhận độ trễ phản hồi toàn trình từ 70–500 mili giây, so với mức 3–329 giây quan sát được ở các mô hình hội thoại tiên phong hiện nay.

Các đánh giá quy trình làm việc được công bố chạy trên các đồ thị tính toán cố định (đo lường việc phân nhánh quyết định đa bước so với các tiêu chuẩn đồng thuận từ GPT-6 Astra và Fable 5.1) đã ghi nhận tốc độ thực thi nhanh hơn tới 193,6 lần.

Chi phí xử lý đầu vào được định giá ở mức 0,042 USD cho mỗi triệu token, thấp hơn so với mức giá hội thoại tiêu chuẩn từ 0,20 USD đến 10 USD cho mỗi triệu token. Vì lấy mẫu song song tạo ra các trạng thái có cấu trúc mà không cần các lượt tạo token tự hồi quy, TypeSafe cung cấp các token đầu ra mà không tính phí đo lường.

Từ bot trong game Doom đến dữ liệu petabyte: Thử nghiệm triển khai Jev trong thực tế

Các bản trình diễn thực tế cho thấy Jev giải quyết các quy tắc phân nhánh trên các trạng thái game tốc độ cao và cây duyệt web. Trong thử nghiệm áp lực động, các kỹ sư đã vận hành một bot phản ứng thời gian thực trên các cấu trúc trạng thái của game Doom với tốc độ 10 truy vấn mỗi giây, tạo ra chi phí vận hành khoảng 7 USD mỗi giờ.

Một thử nghiệm Wikiracing thứ hai đã đánh giá việc chọn liên kết trên các thư mục bách khoa toàn thư dày đặc, hoàn thành việc duyệt qua các bước ít hơn so với các mô hình không suy luận bên ngoài bằng cách đánh giá các tùy chọn mà không tạo ra các ngõ cụt ảo giác.

Thử nghiệm thực địa xác nhận các ứng dụng mục tiêu chính bao gồm trích xuất tính năng thời gian thực, luồng dữ liệu quy mô petabyte, các lớp xác minh đầu ra và logic phân nhánh tự động nơi các quy tắc viết tay tỏ ra thiếu linh hoạt.

TypeSafe đã mở quyền truy cập sớm cho nhà phát triển vào hôm nay và bắt đầu tiếp nhận các đội ngũ kỹ thuật từ danh sách chờ triển khai.

Xem thêm: Microsoft AI mở cuộc đánh giá về Quy tắc ứng xử AI nhân văn (Humanist AI Code of Conduct)

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo trong ngành? Hãy tham khảo AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng địa điểm với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.