Cựu chuyên gia OpenAI ra mắt Jev: Mô hình AI mới tập trung vào xác suất thay vì tạo văn bản

ChatGPT đã làm tan nát trái tim của Diogo Almeida.

Almeida từng là một nhà nghiên cứu tại OpenAI, người đã góp phần xây dựng chatbot này và sau đó phát minh ra phương pháp học tăng cường từ phản hồi của con người (RLHF) — kỹ thuật huấn luyện mô hình có lẽ đóng vai trò quan trọng nhất đối với kỷ nguyên AI hiện nay của chúng ta. Tuy nhiên, bất chấp những khả năng của nó, anh vẫn cảm thấy thất vọng.

“Chúng ta đang nắm giữ một sức mạnh phi thường, nhưng nó lại không hữu dụng,” Almeida chia sẻ với TechCrunch. “Tôi đã vật lộn với vấn đề đó kể từ lúc ấy. Phải mất một thời gian tôi mới đi đến kết luận: vấn đề nằm ở chỗ chúng ta đang tối ưu hóa cho ngôn ngữ con người… Chúng ta đã làm rất tốt với ngôn ngữ con người trong bốn năm qua, nhưng nó lại không hữu ích cho tự động hóa vì máy tính sử dụng một ngôn ngữ khác.”

Hai năm trước, Almeida rời OpenAI để thành lập TypeSafe AI, một startup đang cố gắng giải quyết vấn đề đó. Tuần này, công ty đã phát hành một mô hình dựa trên kiến trúc transformer mới có tên là Jev, vốn không phải là một mô hình ngôn ngữ lớn (LLM). Nó không xuất ra văn bản mà thay vào đó tạo ra các xác suất, hay còn được công ty gọi là “các quyết định đã được hiệu chuẩn” (calibrated decisions).

Việc từ bỏ ngôn ngữ mang lại một vài lợi ích: Nó giúp mô hình trở nên cực kỳ rẻ và nhanh chóng, và vì người dùng xác định trước các đầu ra, nó không thể bị “ảo giác” (hallucinate). Các token đầu ra của nó là miễn phí, và các token đầu vào được tính phí theo đơn vị hàng tỷ thay vì hàng triệu.

Các nhà phát triển đang dành sự quan tâm lớn cho sản phẩm này; công ty đã từng tạm thời mất khả năng phục vụ người dùng từ API của mình vì nhu cầu quá cao. Jev tỏ ra hữu ích nhất trong lĩnh vực tự động hóa phần mềm. Cho đến nay, các nhà phát triển phần mềm coi đây là một cách rẻ hơn và mạnh mẽ hơn để tích hợp trí tuệ vào mã nguồn của họ.

Ví dụ, Pranit Sharma, một kỹ sư phần mềm tại Vercel, công ty chuyên xây dựng cơ sở hạ tầng tác nhân (agentic infrastructure), cho biết công ty của anh đã sử dụng ChatGPT Luna 5.6 của OpenAI để chạy một bộ phân loại nhằm kiểm tra các lệnh vì mục đích an toàn. Khi Vercel thay thế Luna của OpenAI bằng Jev, họ đã nhận được kết quả nhanh hơn từ 5 đến 18 lần với độ chính xác cao hơn.

Một nhà phát triển khác, Nikhil Mudholkar, CTO của Bryo AI, đã thử nghiệm Jev so với Gemini để phân loại email doanh nghiệp. Trong thử nghiệm của anh, Gemini chính xác hơn một chút nhưng lại đắt hơn từ 10 đến 20 lần. Điều thú vị hơn đối với Mudholkar chính là các điểm số tự tin (confidence scores) của Jev — “đây là mô hình duy nhất trả về một xác suất thực tế, điều này khiến nó trở nên lý tưởng cho việc tự động hóa các quy trình làm việc!!”

Bên cạnh việc thay thế các LLM trong một số trường hợp sử dụng nhất định, mô hình mới này còn có thể tăng cường cho chúng, đóng vai trò như một cơ chế kiểm soát thông minh đối với các hành vi sai lệch. Việc sử dụng các tác nhân để giám sát các tác nhân khác có thể nhanh chóng trở nên đắt đỏ, nhưng Almeida lập luận rằng sử dụng Jev để làm việc đó là hoàn toàn hợp lý. Anh hình dung người dùng sẽ triển khai Jev để theo dõi các dấu vết của tác nhân LLM và ngăn chặn các hành vi vượt rào (jailbreak).

“Xét cho cùng, nó chuyển giao một phần vấn đề ảo giác cho người dùng,” Armin Ronacher, CTO của Earendil, đơn vị xây dựng bộ khung mô hình mã nguồn mở Pi, giải thích. “Người dùng phải tự quyết định, ví dụ nếu kết quả trả về chỉ có xác suất 50%, có lẽ đó chỉ là trò tung đồng xu và tôi sẽ bỏ qua nó. Nhưng nếu là 95%, chắc chắn rồi, tôi có thể làm gì đó với nó.”

Một ứng dụng tiềm năng khác của Jev là định tuyến mô hình (model routing), Ronacher cho biết. Việc dự đoán liệu một khối lượng công việc nhất định có yêu cầu một mô hình cụ thể hay không sẽ rất hữu ích, nhưng sử dụng một LLM cho công việc này sẽ rất tốn kém. Chi phí thấp và tốc độ của Jev giúp việc phân loại theo thời gian thực như vậy trở nên khả thi.

Và đó chính là hy vọng của Almeida. Mô hình này được đặt theo tên của William Stanley Jevons, nhà kinh tế học thế kỷ 19, người có nghịch lý cùng tên mô tả cách chi phí của một loại hàng hóa giảm xuống có thể dẫn đến việc nó được sử dụng ngày càng nhiều hơn. Trong trường hợp này, chi phí trí tuệ giảm xuống sẽ dẫn đến việc triển khai rộng rãi.

“Chúng tôi nghĩ rằng phần mềm thông minh sẽ xuất hiện ở khắp mọi nơi theo cách tự phát và phân tán… giống với thời kỳ đầu của internet hơn là những siêu ứng dụng mà mọi người đang cố gắng xây dựng hiện nay,” Almeida nói.

Almeida khá kín tiếng về kiến trúc của mô hình, điều mà các quan sát viên bên ngoài nghi ngờ là được xây dựng dựa trên một LLM có trọng số mở. Công ty gọi Jev là một “mô hình Hệ thống 1” (System One model), tập trung vào trực giác thay vì suy luận, và tập trung cụ thể vào đúng nhiệm vụ. Almeida cho biết Jev được huấn luyện độc quyền trên dữ liệu tổng hợp bằng cách sử dụng kỹ thuật mà anh gọi là “học tăng cường từ các quyết định đã được hiệu chuẩn”.

“Chúng tôi đã đặt cược sớm rằng chúng tôi sẽ tự tạo ra tất cả dữ liệu của mình, và đó là một trong những quyết định đúng đắn nhất mà tôi từng thực hiện trong đời — theo ý kiến của tôi, nó còn tốt hơn cả đợt ra mắt của chúng tôi, tốt hơn cả RLHF,” anh nói với TechCrunch. “Một nửa [công ty của chúng tôi] là một phòng thí nghiệm về cơ bản sở hữu toàn bộ lĩnh vực con về dữ liệu tổng hợp được hiểu rõ về mặt thống kê, và đó hiện là niềm vui trong cuộc sống của tôi.”

Hiện tại, Jev vẫn là mô hình duy nhất thuộc loại này, nhưng Ronacher dự đoán rằng các đối thủ cạnh tranh sẽ sớm xuất hiện khi tính hữu dụng của nó đã trở nên rõ ràng.

“Đáng lẽ chúng ta phải thấy điều này sớm hơn ở nhiều khía cạnh, nhưng có lẽ vì các LLM quá rẻ và được trợ giá, nên bạn thường chưa cần phải sáng tạo,” ông nói.

Bản thân TypeSafe sẽ xây dựng thêm nhiều phiên bản của mô hình này với các phương thức mới. Khi được hỏi liệu TypeSafe có phải là một phòng thí nghiệm tiên phong (frontier lab) hay không, Almeida nói: “Sản phẩm chính của các Frontier Labs là nỗi sợ hãi hoặc sự thổi phồng. Tôi muốn sản phẩm chính của chúng tôi là trí tuệ… [nhưng chúng tôi] không phải là một phòng thí nghiệm theo kiểu đặt cược vào sự giàu có vô hạn, hay một tôn giáo, hay xây dựng Chúa trong một trung tâm dữ liệu, hay bất cứ thứ gì đang là xu hướng hiện nay.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.