Base Labs hợp tác cùng Hugging Face và Goodfire phát triển hạ tầng an toàn cho mô hình AI mở

Vào thứ Tư, Baseten đã ra mắt một tiêu chuẩn hạ tầng an toàn mới cùng với nhánh nghiên cứu Base Labs của mình, đồng thời hợp tác với Hugging Face và Goodfire AI để xây dựng hạ tầng đánh giá và giám sát an toàn cho các mô hình mã nguồn mở (open-weight models).

Thông báo này được đưa ra trong bối cảnh đang có nhiều tranh luận về tính an toàn của các mô hình mã nguồn mở — vốn có thể trở nên nguy hiểm khi các biện pháp bảo vệ bị loại bỏ thông qua một kỹ thuật đang ngày càng phổ biến gọi là "abliteration". Quy mô của vấn đề này là rất lớn: Hugging Face, nền tảng lưu trữ các mô hình AI mã nguồn mở, hiện đang liệt kê hơn 6.000 mô hình đã bị loại bỏ biện pháp bảo vệ (abliterated models).

Base Labs, nhóm nghiên cứu được Baseten thành lập đầu năm nay, sẽ phát triển và công bố các phương pháp huấn luyện và giám sát các mô hình mở. Công ty đang định hướng công việc tương lai của họ như một "tiêu chuẩn" cho các mô hình mở, đảm bảo tính minh bạch và được tích hợp ngay từ khâu huấn luyện và triển khai, thay vì chỉ là một lớp bổ sung sau đó.

"Chúng tôi tin rằng sự cởi mở là một lợi thế cho an toàn AI," công ty chia sẻ trên X. "Sự cởi mở mang lại khả năng quan sát tốt hơn về hành vi của các mô hình và quan trọng nhất là cung cấp nhiều phương thức hơn để biến các nghiên cứu an toàn thành những biện pháp kiểm soát minh bạch và khả thi so với các mô hình đóng."

Các công ty chưa tiết lộ chi tiết về cách thức vận hành kỹ thuật của mối quan hệ đối tác này, mặc dù Goodfire đã nêu rõ mục tiêu trong một phản hồi trên bài đăng của Baseten: "An toàn phải được tích hợp vào các mô hình mở và được cung cấp bởi chính những đơn vị vận hành chúng." Goodfire, đơn vị chuyên giải mã "hộp đen" của AI để giải thích cách các mô hình đưa ra quyết định, là ứng viên sáng giá nhất cho phần "tích hợp" này.

Baseten, một nhà cung cấp dịch vụ suy luận AI (AI inference provider), đã huy động được 1,5 tỷ USD trong vòng gọi vốn Series F vào tháng 6, đưa định giá công ty lên mức 13 tỷ USD. Đối tác Goodfire AI cũng có nguồn vốn dồi dào tương tự, sau khi huy động được 150 triệu USD trong vòng Series B do B Capital dẫn đầu vào đầu năm nay để phát triển nền tảng diễn giải mô hình của mình.

Hướng tới tương lai, Baseten đang kêu gọi cộng đồng nhà phát triển rộng lớn hơn đóng góp vào khung làm việc này. "Cùng nhau, chúng ta đang xây dựng một hệ sinh thái các mô hình mở an toàn và dễ tiếp cận cho tất cả mọi người," công ty lưu ý.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Russell Brandom đã theo dõi ngành công nghệ từ năm 2012, tập trung vào chính sách nền tảng và các công nghệ mới nổi. Trước đây, anh từng làm việc tại The Verge và Rest of World, đồng thời viết bài cho Wired, The Awl và MIT’s Technology Review. Bạn có thể liên hệ với anh ấy qua email [email protected] hoặc qua Signal theo số 412-401-5489.

Xem tiểu sử