Thinking Machines ra mắt Inkling: Mô hình mã nguồn mở thách thức xu hướng AI 'một kích cỡ cho tất cả'

Thinking Machines Lab, startup AI do cựu CTO OpenAI Mira Murati sáng lập, đã ra mắt mô hình AI độc quyền đầu tiên vào sáng thứ Tư với tên gọi Inkling. Khác với các mô hình chủ lực từ OpenAI, Anthropic hay Google, đây là mô hình "open-weight" (mở trọng số), nghĩa là các nhà phát triển và doanh nghiệp bên ngoài có thể tải xuống và tùy chỉnh trực tiếp.

Inkling là một hệ thống "mixture-of-experts" (hỗn hợp chuyên gia) với tổng cộng 975 tỷ tham số, mặc dù nó chỉ sử dụng một phần nhỏ trong số đó — khoảng 41 tỷ — cho bất kỳ tác vụ cụ thể nào. Đây là một thiết kế phổ biến giúp các mô hình quy mô lớn vận hành nhanh hơn và tiết kiệm chi phí hơn. Theo tài liệu phát hành của công ty, mô hình này được huấn luyện trên 45 nghìn tỷ token văn bản, hình ảnh, âm thanh và video, đồng thời có khả năng suy luận tự nhiên trên cả ba loại dữ liệu này.

Đây là bằng chứng công khai đầu tiên của công ty sau một năm rưỡi xây dựng cơ sở hạ tầng AI gần như tách biệt với công chúng. Một phần công việc đó đã lộ diện trong bản xem trước nghiên cứu vào tháng 5 về các "mô hình tương tác" — loại AI được thiết kế để lắng nghe và phản hồi (thậm chí là ngắt lời) thay vì dừng lại và chờ đợi như các chatbot thông thường. Đây cũng là bài kiểm tra cho canh bạc cốt lõi của Thinking Machines: AI mà các tổ chức có thể tự thích ứng sẽ vượt trội hơn các mô hình "một kích cỡ cho tất cả" mà các phòng thí nghiệm lớn nhất hiện đang bán.

Đây là một mô hình thú vị, được thiết kế để đưa ra các câu trả lời đã được hiệu chuẩn, bao gồm cả việc gắn cờ các thông tin không chắc chắn thay vì đoán mò, đồng thời cho phép người dùng tăng hoặc giảm "nỗ lực suy nghĩ" khi muốn đánh đổi lấy tốc độ. Theo công ty, trên một tiêu chuẩn đánh giá, Inkling chỉ sử dụng lượng token bằng một phần ba so với Nemotron 3 Ultra của Nvidia để đạt được hiệu suất lập trình tương đương. Cần lưu ý rằng Thinking Machines không khẳng định Inkling là mô hình tốt nhất trong phân khúc. Tài liệu tóm tắt của họ nêu rõ rằng Inkling "không phải là mô hình mạnh nhất hiện có, dù là đóng hay mở". Thay vào đó, mục tiêu rõ ràng của họ là hiệu suất toàn diện.

Tất nhiên, điều này đặt ra một câu hỏi lớn là sản phẩm này nhắm đến ai, ngoài những đối tượng hiển nhiên — đây chắc chắn là một sản phẩm dành cho doanh nghiệp. Hiện tại, Thinking Machines đang tiếp thị nó không phải như một tác phẩm hoàn thiện mà như một điểm khởi đầu, một thứ để các tổ chức tự tinh chỉnh thông qua Tinker, nền tảng tùy chỉnh mô hình của công ty. (OpenAI, Anthropic và Google đều có cách tiếp cận rất khác với ChatGPT, Claude và Gemini, vốn được xây dựng để cạnh tranh như các chatbot đa năng trước, sau đó mới bổ sung các tính năng tự chủ và tác nhân sau).

Một bài đăng do Thinking Machines xuất bản tuần trước rõ ràng nhằm tạo tiền đề cho đợt ra mắt này. Công ty lập luận trong bài đăng rằng AI được huấn luyện tập trung bởi một công ty rồi "đóng băng" sẽ hoạt động kém hiệu quả hơn AI do chính các tổ chức định hình, bởi vì phần lớn chuyên môn đều gắn liền với những người nắm giữ nó. Ý tưởng rộng hơn là các phòng thí nghiệm tập trung đang bán cùng một sản phẩm cho tất cả mọi người, được tinh chỉnh lặp đi lặp lại bởi chính phòng thí nghiệm đó, trong khi các doanh nghiệp sẵn sàng sở hữu và tùy chỉnh mô hình của riêng mình có thể khai thác được nhiều giá trị hơn từ chúng.

Đây là một lập luận đang ngày càng có sức nặng. Trong một bài đăng trên blog vào Chủ nhật, CEO Satya Nadella của Microsoft — công ty đã đầu tư hàng tỷ USD vào cả OpenAI và Anthropic — cảnh báo rằng các doanh nghiệp sử dụng mô hình AI độc quyền thực chất đang phải trả giá hai lần: một lần là chi phí đăng ký, và lần nữa là bằng cách bàn giao kiến thức kinh doanh được nhúng trong hàng nghìn câu lệnh (prompt) và chỉnh sửa của họ, vốn có thể bị hấp thụ vào các phiên bản mô hình trong tương lai.

CEO Clem Delangue của Hugging Face cũng đưa ra dự đoán tương tự trong cuộc trò chuyện với TechCrunch tuần trước. Ông cho biết các mô hình tiên phong (frontier models) sẽ ngày càng được dành riêng cho thử nghiệm và các tác vụ giá trị cao, trong khi hầu hết công việc AI trong sản xuất sẽ chuyển sang các lựa chọn thay thế riêng tư hoặc mã nguồn mở — chính là sự phân tách mà Thinking Machines đang xây dựng.

Bằng chứng rõ ràng nhất cho lập luận đó đến gần đây từ một dự án với Bridgewater Associates, quỹ đầu cơ lớn nhất thế giới (dù họ không phải là nhà đầu tư của Thinking Machines). Các nhà nghiên cứu từ cả hai công ty đã lấy một mô hình mã nguồn mở hiện có và huấn luyện thêm dựa trên chuyên môn tài chính của Bridgewater. Kết quả đạt 84,7% trong các bài kiểm tra suy luận tài chính, đánh bại các mô hình AI độc quyền hàng đầu, trong khi chi phí vận hành chỉ bằng khoảng 1/14. Tuy nhiên, những kết quả này, được công bố chung vào cuối tháng 6, đến từ đánh giá của chính hai công ty chứ không phải đánh giá độc lập.

Thinking Machines cũng nhấn mạnh tốc độ đạt được thành quả này: OpenAI mất khoảng 5 năm và Anthropic mất khoảng 3 năm để đưa công nghệ ra thị trường và tạo doanh thu; Thinking Machines cho biết họ đã làm được điều tương tự trong khoảng 9 tháng.

Một số người sẽ tự hỏi liệu Inkling có được huấn luyện trên đầu ra từ các mô hình của đối thủ cạnh tranh hay không, một phương pháp được gọi là "distillation" (chưng cất) vốn đã thu hút sự giám sát trong toàn ngành. Câu trả lời ngắn gọn, theo tài liệu của công ty, là có một phần. Thinking Machines đã huấn luyện trước Inkling từ đầu, nhưng họ cho biết đã sử dụng các mô hình open-weight khác — bao gồm Kimi K2.5 của Moonshot AI — để giúp tạo ra một số dữ liệu hậu huấn luyện ban đầu trước khi quá trình học tăng cường quy mô lớn tiếp quản. Công ty khẳng định mô hình tiếp theo sẽ sử dụng quy trình hậu huấn luyện hoàn toàn khép kín.

Về khía cạnh chi phí, Thinking Machines tỏ ra thận trọng hơn. Họ đã đạt được quan hệ đối tác chiến lược với Nvidia vào tháng 3 để triển khai công suất tính toán Vera Rubin quy mô gigawatt, và cho biết bản thân Inkling được huấn luyện hoàn toàn trên các hệ thống GB300 NVL72 của Nvidia. Tuy nhiên, công ty chưa cho biết kế hoạch cân bằng chi phí đó với doanh thu, vốn theo hầu hết các báo cáo, chưa phải là trọng tâm chính cho đến nay. (Một vòng gọi vốn 50 tỷ USD được cho là đang diễn ra vào tháng 11 năm ngoái, nhưng nhiều nguồn tin cho biết đã bị đình trệ vào tháng 1; công ty đã từ chối bình luận về tình hình tài chính kể từ đó, mặc dù Nvidia cho biết họ đã thực hiện một "khoản đầu tư đáng kể" vào Thinking Machines khi hai công ty công bố quan hệ đối tác vào tháng 3).

Một câu hỏi liên quan là liệu chi tiêu của Thinking Machines có bao giờ đạt đến quy mô của OpenAI hay Anthropic hay không, hay cách tiếp cận dựa trên hiệu quả của họ có nghĩa là các khía cạnh kinh tế sẽ khác biệt. Nói cách khác, canh bạc của công ty có lẽ không nằm ở việc họ sẽ chi tiêu như các đối thủ lớn hơn, mà là họ không cần phải làm vậy — vì một khi trọng số đã công khai, không ai tải xuống chúng buộc phải trả tiền cho Thinking Machines để vận hành, không giống như quyền truy cập có tính phí mà OpenAI và Anthropic đang bán. Tinker, chứ không phải bản thân mô hình, mới là nơi doanh thu của công ty phải đến từ đó, thông qua đào tạo, tinh chỉnh và giờ đây là một phần doanh thu từ hệ sinh thái lưu trữ được xây dựng xung quanh nó.

Về nhân sự, mọi thứ có vẻ ổn định hơn. Thinking Machines hiện có khoảng 200 nhân viên, tăng so với mức được báo cáo sau làn sóng rời đi đầu năm nay, bao gồm cả hai nhà đồng sáng lập đã chuyển sang OpenAI vào tháng 1.

Về phần mình, Thinking Machines dường như không quan tâm đến việc đánh bóng các cá nhân như cách phần lớn ngành công nghiệp đang làm. Theo một nguồn tin nội bộ, văn hóa của công ty được thiết kế để ưu tiên tính liên tục hơn là sự phụ thuộc vào bất kỳ cá nhân nào. Điều này hợp lý: việc thay đổi nhân sự sẽ ít gây trở ngại hơn nếu họ chưa bao giờ được đặt lên bệ phóng ngay từ đầu. Đây cũng là một điều đáng chú ý đối với một công ty, khi xét đến việc phần lớn câu chuyện của chính họ vẫn gắn liền với tên tuổi của vị đồng sáng lập nổi tiếng hiện nay, dù cô ấy có dự định đó hay không.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.