Liên minh OSAA do Nvidia dẫn đầu tung đề xuất bảo mật AI chỉ sau một tuần thành lập

Open Secure AI Alliance (OSAA), một nhóm ngành do Nvidia dẫn đầu mới thành lập được một tuần nhưng đã phát triển lên hơn 120 công ty, vừa thành lập một nhóm làm việc với cái tên khá thú vị là Shared AI Findings Exchange, viết tắt là SAFE. Nhóm này hiện đang trình bày các đề xuất để lấy ý kiến công khai, và The Linux Foundation, một thành viên của nhóm, đang chịu trách nhiệm quản lý các đề xuất đó.

Nhóm đã phát triển các đề xuất này trong khi các thành viên hội tụ tại tâm điểm của thế giới an ninh mạng, hội nghị Black Hat, đang diễn ra trong tuần này tại Las Vegas.

Các hướng dẫn này hiện tại chưa có gì quá đột phá. Các đề xuất bao gồm những lĩnh vực như cách báo cáo bảo mật AI một cách bảo mật, thông báo cho những bên bị ảnh hưởng, và sau đó thực hiện phân tích không đổ lỗi để tất cả mọi người có thể rút kinh nghiệm.

Đồng thời, các thành viên của OSAA cũng đang đóng góp và lập danh mục các phần công nghệ mã nguồn mở của họ mà có thể hữu ích. Theo cách vận hành của các tổ chức ngành kiểu này, cuối cùng nó có thể hợp nhất thành một phương thức mã nguồn mở để doanh nghiệp bảo mật các AI agent của họ, hoặc phòng thủ trước các kẻ tấn công AI bất hảo, chẳng hạn như mô hình OpenAI đã xâm nhập vào Hugging Face. (Hugging Face cũng là một thành viên của nhóm này.)

Ví dụ, Nvidia cho biết họ cung cấp một hệ sinh thái đầy đủ các mô hình mở, cũng như một trình quét lỗ hổng LLM mã nguồn mở có tên là Garak; Okta đang nghiên cứu công nghệ định danh agent; Red Hat đang nghiên cứu về quản trị agent; Amazon đã đóng góp cả công cụ xây dựng agent mở là Strands Agents và ngôn ngữ ủy quyền Cedar. Và còn rất nhiều ví dụ khác nữa.

Nhóm hiện bao gồm hàng loạt tên tuổi lớn như Adobe, BlackRock, Cisco, Intel, Microsoft và Visa, nhưng cũng có một vài sự vắng mặt đáng chú ý như Anthropic, OpenAI và Google.

Điều thú vị là cả OpenAI và Google đều đã ký vào bức thư ngỏ ban đầu dẫn đến sự ra đời của nhóm này. Bức thư được công bố vào tuần trước, kêu gọi Nhà Trắng ủng hộ các nỗ lực AI mã nguồn mở thay vì ngăn cản chúng. Bức thư này được Nvidia khởi xướng và có hơn 200 công ty công nghệ ký tên.

Mặc dù việc Anthropic thờ ơ với bức thư và nhóm ngành này cho đến nay không phải là điều ngạc nhiên, nhưng cả OpenAI và Google đều đã tự phát hành các mô hình open weight của riêng họ. Google cũng thường được biết đến là một người ủng hộ lớn cho mã nguồn mở. Chúng ta hãy chờ xem liệu họ có tham gia khi nhóm này tạo được đà phát triển hay không.

Trong khi đó, nhóm đang hoạt động với tốc độ của AI. Chỉ mới vài tuần kể từ khi có tin tức cho rằng Chính quyền Trump đang cân nhắc cấm các mô hình open weight của Trung Quốc, gây ra sự lo ngại trong ngành dẫn đến bức thư ngỏ kể trên.

Dù cuối cùng điều gì xảy ra với các mô hình open weight của Trung Quốc tại Hoa Kỳ, hành động nhanh chóng của nhóm "hạng nặng" này dường như là một điều tốt cho hệ sinh thái AI mở của Hoa Kỳ. Một số người trong hệ sinh thái, như đồng sáng lập kiêm giám đốc công nghệ của phòng thí nghiệm AI open weight Arcee tại Hoa Kỳ, cho rằng đó cuối cùng là cách tốt nhất để vượt qua bất kỳ mối đe dọa nào — dù là thực tế hay tưởng tượng — mà các phòng thí nghiệm AI của Trung Quốc gây ra cho Hoa Kỳ.

"Sự cởi mở có thể là một trong những con đường quan trọng nhất dẫn đến sự an toàn và bảo mật cho AI," nhóm ngành này đã viết trong thư của họ. Có vẻ như họ đã sẵn sàng để ngay lập tức hiện thực hóa những lời nói của mình bằng nỗ lực và công nghệ thực tế.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.