Cựu lãnh đạo marketing tại Figma và Dropbox, Sheila Vashee, chính thức gia nhập Baseten để thúc đẩy tăng trưởng cho nền tảng hạ tầng AI chuyên biệt cho các mô hình mở.
LangChain vừa giới thiệu LangSmith Fine-Tuning tại hội nghị Interrupt, cho phép chuyển đổi các lượt chạy thành công từ LangSmith thành tập dữ liệu huấn luyện thông qua công cụ CLI mã nguồn mở smithtune trên nền tảng Baseten Loops.
Cùng sự kiện, bài đại diện «LangChain ra mắt tính năng LangSmith Fine-Tuning và công cụ CLI SmithTune»Baseten ra mắt dịch vụ lưu trữ cho mô hình NVIDIA Nemotron 3 Diarization, hỗ trợ ba chế độ xử lý từ batch đến thời gian thực với chi phí tối ưu chỉ 1 cent mỗi giờ âm thanh.
Cùng sự kiện, bài đại diện «NVIDIA ra mắt mô hình tách giọng nói Nemotron 3 Diarization: Đỉnh cao mới trên VoiceArena»
Rohan Paul@rohanpaul_aiBaseten CEO Tuhin Srivastava (@tuhinone) just dropped 2 numbers. shows how fast AI inference is expl…
DịchCEO Tuhin Srivastava tiết lộ dữ liệu tăng trưởng ấn tượng của Baseten: lưu lượng token suy luận AI tăng gấp 40 lần và doanh thu tăng 10 lần chỉ trong 12 tháng qua, cho thấy nhu cầu thực tế về hạ tầng AI đang bùng nổ.
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfHappy to start collaborating with @baselabs from @baseten and @GoodfireAI to push safety and interpr…
DịchHugging Face bắt tay với Baseten và Goodfire nhằm tích hợp các cơ chế an toàn và khả năng giải thích trực tiếp vào hạ tầng suy luận, giúp kiểm soát mô hình hiệu quả hơn mà vẫn duy trì tính mở.
Thêm 1 nguồn khác đưa tinTechCrunch: AIBaseten giới thiệu bộ công cụ Hosted Tools, cho phép các mô hình AI nguồn mở trên nền tảng này truy cập dữ liệu thời gian thực thông qua 4 nhà cung cấp dịch vụ tìm kiếm như Exa và You.com.
LangChain tích hợp Baseten Loops nhằm tối ưu hóa quy trình huấn luyện và tinh chỉnh mô hình cho LangSmith, cho phép triển khai trực tiếp lên nền tảng suy luận của Baseten thông qua API.
Bài viết phân tích khung 'Biên hiệu quả' của LLM, chia các kỹ thuật tối ưu thành hai nhóm: cân bằng giữa độ trễ và thông lượng, hoặc đẩy xa giới hạn hiệu suất để đạt hiệu quả tổng thể cao hơn.
AI Notes@AYi_AInotesBaseten đã cắt giảm thành công 42,3% độ trễ cho Qwen-Image và 15,2% cho FLUX.2 bằng cách kết hợp SGLang với kiến trúc B300, đồng thời tự động hóa quy trình tối ưu hóa trong môi trường sản xuất.
