CEO TypeSafe Diogo Almeida: Jev là mô hình 'System One' thực dụng cho sản xuất, không phải AI vạn năng

Vé tham dự AIE NYC hiện đã mở bán, hãy đăng ký nhận thư mời tham gia AIE CODE. Hãy tham gia cùng chúng tôi!

Chúng tôi có một mối quan hệ khá đặc biệt với khách mời hôm nay: trong nhiều năm kể từ khi đồng tác giả bài báo về InstructGPT, Diogo Almeida vẫn luôn cho rằng các mô hình tiên phong (frontier models) có sẵn qua API đang đi sai hướng, từ khía cạnh căn chỉnh (alignment), sự từ chối (refusals) cho đến độ tin cậy. Ông cho rằng chúng ta đã bỏ rơi mọi phương thức khác ngoài các LLM tự hồi quy (autoregressive) được tinh chỉnh cho trò chuyện (chat-tuned) chỉ vì sự thành công quá lớn của ChatGPT.

Trong một video ra mắt hiện đã đạt khoảng 40 triệu lượt xem (để so sánh, GPT4o là 22 triệu, Fable 5 là 15 triệu, Navier Stokes là 74 triệu và 6 Astra là 137 triệu), Diogo đã giới thiệu Jev và nó ngay lập tức chiếm sóng trên dòng thời gian về AI — chúng tôi sẽ bỏ qua các bài giải thích đầy đủ về Jev vì những người có sức ảnh hưởng/giáo dục về AI mà chúng tôi yêu thích có lẽ đã thực hiện rồi. Chúng tôi cũng đã tổng hợp:

các mẫu (patterns) và tài liệu hướng dẫn (cookbooks) chính thức mà bạn nên xem trước, từ Allie

các trường hợp sử dụng (usecases) của Jev

dựa trên tốc độ - trò chơi và sử dụng máy tính

ví dụ về giọng nói + sử dụng máy tính mà chúng tôi thảo luận ở phút 1:34

giọng nói + điều khiển trình duyệt

Bản demo Doom không thể bỏ qua

Lái xe trong trò chơi

Excalidraw

thử đồ ảo (virtual try-ons)

“Trò chơi thông minh”/NPC thông minh

phản hồi có hướng dẫn trong tin nhắn văn bản

Jev cho các tác nhân lập trình (coding agents) có hướng dẫn chính thức

jev cho việc kiểm lỗi (linting)

nén các lệnh gọi công cụ (tool calls)

phản biện hợp lý từ Theo - Diogo đã xuất bản một ghi chú về "Sự độc tài của KV Cache" (Tyranny of the KV Cache) mà bạn nên đọc như một phần tiếp theo sau podcast về Jev + các tác nhân lập trình, vì niềm tin của ông rằng "Cache thống trị mọi thứ" (Cache Rules Everything)

Các ngôn ngữ lập trình được xây dựng trên nền tảng Jev (thứ mà Diogo yêu thích nhất)

Jev cho việc phát lại phân tích (analytics replay) và đánh giá hành trình người dùng

“dữ liệu tối” (dark data)

phân giải thực thể (entity resolution)

tìm kiếm bằng ngôn ngữ tự nhiên

“phần mềm thông minh”

một mục tiêu cốt lõi của Jev là “hòa mình vào nền” - ví dụ như trở nên bình thường như regex

Jev đóng vai trò là trọng tài (judge)

Meme về Jev

Jev so với khả năng của LLM

kết hợp giữa transformer và bộ phân loại (classifiers)

về API độ tin cậy (confidence api)

Jev so với GLiNER (lưu ý sự khác biệt/phản biện, đồng ý, đồng ý, đồng ý)

Jev với bài toán xe điện (trolley problem)

Jev Bush

Thay vào đó, chúng tôi sẽ tập trung vào những gì chúng tôi có thể cung cấp một cách độc đáo — một sự hiểu biết rộng hơn về triết học và sứ mệnh đằng sau việc tại sao Jev được tạo ra, những gì bạn nên mong đợi tiếp theo về các mô hình tương lai từ TypeSafe (ReasoningJev?) và những ý tưởng, trường hợp sử dụng nào bạn nên thực hiện thay vì tạo ra bản sao nỗ lực thấp thứ 55 của API Jev hay thực hiện một bài kiểm tra JevBench chung chung — điều mà Diogo đã công khai bác bỏ.

Diogo biết rất nhiều về RLHF, vì ông từng nằm trong đội ngũ tiên phong về hậu đào tạo (post-training) tại OpenAI — và truy nguyên ba nhánh chính đến Christiano và cộng sự năm 2017 (bản demo robot lộn ngược), Stiennon và cộng sự năm 2020 (học cách tóm tắt) và "đứa con tinh thần" của ông, Ouyang và cộng sự năm 2022 (InstructGPT). Kể từ đó, mọi đổi mới từ Gọi hàm (Function Calling) đến Đầu ra có cấu trúc (Structured Outputs) cho đến Lập luận (Reasoning) đều giống như một bản vá lỗi trên mô hình dự đoán chuỗi dựa trên văn bản (string based, sequence to sequence). Như ông đề cập trong podcast, từ năm 2023-2024, ông đã đấu tranh không thành công, do cả sự đánh giá thấp từ cá nhân và tổ chức, để huấn luyện một mô hình mà

Đổi mới cốt lõi của Jev là "Học tăng cường cho các quyết định được hiệu chuẩn" (Reinforcement Learning for Calibrated Decisions - RLCD), một kỹ thuật mới, chưa được công bố, tối ưu hóa cho “các câu trả lời với xác suất trung thực về mặt nhận thức (epistemically honest) trên các tác vụ Hệ thống Một” thay vì phản hồi do con người đánh giá (RLHF) — thứ gây ra ảo giác, sự xu nịnh và sự phụ thuộc vĩnh viễn vào con người — hoặc các đầu ra có thể xác minh bằng lập trình với các tiêu chí (RLVR) — thứ giải quyết được Navier Stokes nhưng làm trầm trọng thêm sự thông minh không đồng đều (jagged intelligence) và không tích hợp tốt với các phần mềm khác.

Chúng tôi đã thảo luận về vấn đề hiệu chuẩn (calibration) trước đây trên podcast, nhưng có lẽ nơi tốt nhất để hiểu tại sao RLCD trở nên cần thiết là bài nói chuyện của Diogo tại AIE, nơi thảo luận về lý do tại sao một thế hệ huấn luyện trợ lý AI hữu ích cho con người lại làm suy yếu khả năng huấn luyện các mô hình AI có thể kết hợp, có thể lập trình cho tự động hóa.

Cuối cùng, ông cũng hé lộ quan điểm trái chiều của mình về các định luật mở rộng (scaling laws) — điều gợi mở cách xây dựng một phòng thí nghiệm hiện đại mà không cần hàng tỷ đô la như các phòng thí nghiệm lớn...

Chúng tôi dành khá nhiều thời gian để thảo luận về bài luận của Diogo về "Bài học cay đắng nhất" (The Bitterest Lesson):