Tác giả oMLX Jun Kim gia nhập Hugging Face để thúc đẩy hệ sinh thái MLX

Chúng tôi vô cùng hào hứng chào đón Jun trở thành thành viên mới nhất của đội ngũ 🔥. Chúng tôi hoàn toàn đầu tư vào AI cục bộ (local AI), và MLX là một phần trọng tâm của hệ sinh thái này. Chúng tôi rất vui mừng khi Jun đã chọn chúng tôi làm "ngôi nhà" để tiếp tục đóng góp cho MLX.

MLX là framework của Apple dành cho AI cục bộ, được tối ưu hóa đặc biệt cho Apple Silicon. Chúng tôi là những người ủng hộ nhiệt thành của MLX kể từ khi nó được Awni và Angelos ra mắt như một món quà Giáng sinh vào năm 2023, và tự hào rằng Hugging Face là Hub nơi mọi người tìm thấy các mô hình MLX cũng như đóng góp các mô hình của riêng họ. Việc sử dụng AI cục bộ, mã nguồn mở đang tăng tốc, và chúng tôi tin vào một hệ sinh thái lành mạnh nơi mọi người có thể tìm thấy những công cụ phù hợp với nhu cầu của mình.

Tác động đối với oMLX là gì?

Sự ổn định, và hy vọng là tốc độ phát triển nhanh hơn! Việc chuyển từ một dự án phụ sang một dự án được duy trì và tài trợ toàn diện sẽ cho phép Jun hướng dẫn các cộng tác viên tốt hơn và xây dựng lộ trình dài hạn. oMLX vẫn giữ giấy phép Apache 2.0 và Jun vẫn tiếp tục dẫn dắt dự án như trước đây.

Tác động đối với MLX nói chung là gì?

Mục tiêu cuối cùng của chúng tôi là giúp cộng đồng có thể chạy AI cục bộ dưới bất kỳ hình thức nào, đồng thời cung cấp các công cụ và nền tảng để hiện thực hóa điều đó. Chúng tôi kỳ vọng oMLX sẽ đóng vai trò là môi trường thử nghiệm cho các ý tưởng mới, đồng thời tận dụng nền tảng từ các phụ thuộc mà nó đang dựa vào, chẳng hạn như mlx-lm hoặc mlx-vlm. Chúng tôi tin rằng các thư viện mô hình hóa và suy luận mạnh mẽ sẽ giúp ích cho cộng đồng, vì vậy chúng tôi rất muốn đóng góp ngược (upstream) các công việc của mình bất cứ khi nào phù hợp. Chúng tôi đã và đang hợp tác với nhiều dự án như mlx-lm, mlx-vlm, LMStudio và hy vọng có thể thắt chặt mối quan hệ với Cheng, Prince, Yagil và đội ngũ của họ để cùng nhau phục vụ cộng đồng tốt hơn.

Cụ thể, một lĩnh vực trọng tâm là quá trình chuyển đổi nhanh chóng từ định nghĩa mô hình transformers sang một bản triển khai MLX tham chiếu, có thể được sử dụng bởi các engine khác nhau, để mỗi bên có thể tập trung vào những tính năng độc đáo mà họ cung cấp. Thư viện transformers đã trở thành chuẩn mực cho các định nghĩa mô hình ML, và chúng tôi muốn hợp lý hóa quy trình để giúp các mô hình transformers mới có thể chạy trên MLX.

Chúng tôi vô cùng hào hứng về tương lai phía trước.

Chào mừng Jun! 🙌