Inkling: Mô hình mã nguồn mở mới từ Thinking Machines Lab của Mira Murati

Inkling: Mô hình open-weights của chúng tôi (thông qua) Thinking Machines Lab của Mira Murati vừa phát hành mô hình open-weights đầu tiên của họ. Inkling là "một mô hình transformer Mixture-of-Experts với tổng cộng 975 tỷ tham số, 41 tỷ tham số hoạt động" - một mô hình đa phương thức được cấp phép theo chuẩn Apache-2.0, huấn luyện trên 45 nghìn tỷ token văn bản, hình ảnh, âm thanh và video.

Họ cũng hứa hẹn về Inkling-Small, một mô hình 276 tỷ tham số (12 tỷ tham số hoạt động), nhưng mô hình này vẫn đang trong quá trình thử nghiệm và các trọng số sẽ được phát hành "ngay khi công việc đó hoàn tất".

Thẻ mô hình (model card) ngắn hơn nhiều so với những gì tôi thường thấy từ các phòng thí nghiệm AI tại Mỹ. Nó dẫn đến Tài liệu Dữ liệu Huấn luyện thậm chí còn ngắn hơn với hầu như không có thông tin gì đáng chú ý - nội dung của nó được tóm tắt tốt nhất qua hai đoạn sau:

Các tập dữ liệu mà Thinking Machines Lab sử dụng để phát triển các dịch vụ AI của mình bao gồm nội dung thuộc phạm vi công cộng cũng như nội dung có thể chịu sự bảo hộ của quyền sở hữu trí tuệ.

Các dịch vụ của Thinking Machines Lab được phát triển bằng cách sử dụng nội dung có sẵn công khai thu thập từ internet mở và các kho dữ liệu có thể truy cập công cộng. Một số tập dữ liệu nhất định cũng được lấy từ các bên thứ ba.

Theo chính thừa nhận của Thinking Machines, đây không phải là một mô hình tiên phong (frontier model). Thay vào đó, nó được dự định là một mô hình nền tảng mạnh mẽ để tinh chỉnh (fine-tuning) bằng cách sử dụng nền tảng huấn luyện Tinker của riêng họ:

Inkling không phải là mô hình mạnh nhất hiện có trên thị trường hiện nay, dù là mô hình mở hay đóng. Thay vào đó, sự kết hợp của nhiều phẩm chất khiến nó trở thành một mô hình nền tảng open-weights tốt để tùy chỉnh: khả năng đa phương thức, tư duy hiệu quả và khả năng sẵn sàng trên Tinker để tinh chỉnh.

Có rất nhiều điểm đáng khen về bản phát hành này. Nó được cấp phép theo chuẩn Apache-2.0 và có vẻ cạnh tranh với các mô hình open-weights đến từ Trung Quốc - thật tốt khi thấy hệ sinh thái open-weights của Mỹ có thêm một đối thủ cạnh tranh khả thi để tham gia cùng NVIDIA Nemotron và Gemma 4.

Đây là nỗ lực của nó trong việc tạo ra một hình ảnh SVG chú bồ nông đang đi xe đạp, mà tôi đã tạo bằng cách sử dụng lệnh curl này gửi tới API của Thinking Machines:

Phản hồi đầy đủ tại đây.

Vì đây là một mô hình đa phương thức, tôi đã yêu cầu nó mô tả chính hình ảnh của mình (sau khi tôi kết xuất nó thành tệp JPEG) bằng cách gửi đoạn JSON này:

Đây là phản hồi đầy đủ. Nó nghĩ rằng nó đã vẽ một "con cò hoặc mòng biển":

Đây là một hình minh họa hoạt hình phẳng, vui tươi, có hình một chú chim trắng đang đi xe đạp trên một khung cảnh xanh tươi.

Chú chim: Nhân vật trung tâm là một chú chim trắng được cách điệu—giống như một con cò hoặc mòng biển—với thân hình tròn trịa, mũm mĩm. Nó có chiếc mỏ màu cam dài, nổi bật, hơi mở ra, để lộ một đường kẻ đen làm miệng. Mắt của nó nhỏ và đen với một điểm nhấn màu trắng li ti. Chú chim có lông cánh và đuôi màu đen với các cạnh màu trắng, cùng đôi chân màu cam mảnh khảnh kết thúc bằng bàn chân màu đen đặt trên bàn đạp màu cam của xe đạp.

Chiếc xe đạp: Xe đạp có khung màu đen đơn giản với hai bánh lớn có lốp đen, vành trong màu xám và nan hoa màu đen được sắp xếp theo hình chữ thập. Tay lái màu đen, và có bàn đạp màu cam sáng gắn vào trục khuỷu màu đen. Một chiếc yên xe màu trắng có thể nhìn thấy phía sau thân chú chim.

Bối cảnh: Khung cảnh được đặt trên nền bầu trời xanh nhạt, trong trẻo. Có hai đám mây trắng bồng bềnh—một ở phía bên trái và một đám nhỏ hơn gần đầu chú chim ở phía bên phải. Một mặt trời màu vàng sáng, đặc tỏa sáng ở góc trên bên phải. Ở phía dưới là những ngọn đồi xanh nhấp nhô với cạnh trên cong, mượt mà nơi chiếc xe đạp đang dừng lại.

Phong cách tổng thể rất vui tươi, đơn giản và đầy màu sắc, với những đường nét rõ ràng và bầu không khí tươi sáng, đầy nắng.