NVIDIA cùng các ông lớn công nghệ thành lập liên minh Open Secure AI Alliance thúc đẩy bảo mật AI mã nguồn mở

Phần mềm mã nguồn mở là trụ cột quan trọng của nền kinh tế toàn cầu. Nó là nền tảng cho điện toán đám mây, dịch vụ tài chính, sản xuất, viễn thông, chính phủ và các dịch vụ internet bằng cách giúp công nghệ trở nên dễ tiếp cận và có thể quan sát được đối với cộng đồng chuyên gia.

An ninh mạng là một trong ba lĩnh vực hưởng lợi hàng đầu từ phần mềm mã nguồn mở. Open Secure AI Alliance — kế thừa sự dẫn dắt từ sáng kiến Akrites của Linux Foundation và công việc của cộng đồng OpenSSF — sẽ nỗ lực khắc phục và công bố các lỗ hổng bảo mật bằng cách sử dụng các công nghệ mở.

Cũng giống như cách mã nguồn mở tạo ra nền tảng chung cho phần mềm, Hoa Kỳ và các đối tác hiện đang đối mặt với một lựa chọn trong bảo mật AI: liệu các biện pháp phòng thủ bảo vệ cơ sở hạ tầng của chúng ta sẽ nằm trong một vài hệ thống khép kín, hay được xây dựng trên các mô hình, khung hỗ trợ (harnesses) và công cụ mở mà bất kỳ người phòng thủ nào cũng có thể nghiên cứu, tùy chỉnh và triển khai.

Thế giới cần cả mô hình đóng và mô hình mở. Đối với an ninh mạng, các mô hình mở và khung hỗ trợ mở là yếu tố thiết yếu vì chúng dân chủ hóa năng lực phòng thủ, tăng tính minh bạch cho người bảo vệ, cho phép phòng thủ mạng trong khi vẫn bảo vệ dữ liệu, đồng thời bổ sung cho các mô hình đóng tiên tiến bằng các biện pháp kiểm soát có thể tùy chỉnh và bản địa hóa. Mã nguồn mở cho phép khả năng phòng thủ được phân tán rộng rãi, do cộng đồng thúc đẩy và tự kiểm soát — không có điểm lỗi duy nhất.

Các mô hình mở, giống như bất kỳ công nghệ mạnh mẽ nào, đều có thể bị lạm dụng — bao gồm cả những nỗ lực làm suy yếu các biện pháp bảo vệ hoặc tái sử dụng các khả năng cho các cuộc tấn công mạng — nhưng những rủi ro đó không chỉ riêng đối với các hệ thống mở, và chúng phải được quản lý ở bất cứ nơi nào AI tiên tiến được triển khai.

Sự cố bảo mật gần đây tại Hugging Face là một lời nhắc nhở rõ ràng: những người bảo vệ an ninh mạng cần các hệ thống tác nhân (agentic systems) tiên tiến, mở để tự vệ. Khi các công cụ AI đóng — không thể phân biệt được kẻ tấn công và người phòng thủ — chặn các phân tích pháp y thiết yếu, Hugging Face đã chạy mô hình GLM 5.2 trọng số mở trên cơ sở hạ tầng của chính mình để phân tích hơn 17.000 hành động và ngăn chặn sự xâm nhập.

Sự cố đó cho thấy một thực tế thực tiễn: khi những người bảo vệ không thể kiểm tra, tùy chỉnh và chạy AI tiên tiến trên cơ sở hạ tầng của riêng họ, khả năng phản ứng của họ bị hạn chế đúng vào thời điểm tốc độ là yếu tố quan trọng nhất. Các công ty và quốc gia cần các công cụ và kỹ thuật phòng thủ tiên tiến, mở để các ngành công nghiệp quan trọng có thể xây dựng hệ thống bảo mật trên một hệ sinh thái đa nhà cung cấp và tránh các điểm lỗi duy nhất.

Đó chính là sứ mệnh của Open Secure AI Alliance: đảm bảo những người bảo vệ ở khắp mọi nơi đều có các công cụ tiên tiến, mở mà họ có thể tin tưởng và kiểm soát.

Các nhà lãnh đạo trong lĩnh vực điện toán đám mây, an ninh mạng, phần mềm doanh nghiệp, các tổ chức mã nguồn mở và nghiên cứu AI — bao gồm NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab và TrendAI là những đối tác đầu tiên của Open Secure AI Alliance, một phong trào nhằm phát triển và chia sẻ các công nghệ, kỹ thuật và công cụ mở để bảo vệ phần mềm và các tác nhân trong kỷ nguyên AI.

Một số người cho rằng các mô hình mở vốn kém an toàn hơn vì chúng có thể bị lạm dụng cho các cuộc tấn công mạng hoặc bị sửa đổi để loại bỏ các rào cản bảo vệ. Những rủi ro đó là có thật, nhưng chúng không biến mất trong các hệ thống đóng, và việc chỉ giữ kín các trọng số không ngăn cản được những kẻ tấn công quyết tâm tìm kiếm hoặc khai thác AI mạnh mẽ.

Phản ứng đúng đắn không phải là từ chối quyền truy cập của người phòng thủ vào các hệ thống mở có năng lực. Đó là kết hợp sự cởi mở với các biện pháp bảo vệ mạnh mẽ, các quy tắc rõ ràng chống lại việc lạm dụng độc hại, đánh giá nghiêm ngặt và khắc phục nhanh chóng. Trong an ninh mạng, con đường an toàn hơn là con đường mang lại cho nhiều người bảo vệ khả năng kiểm tra, xác minh và củng cố các hệ thống mà xã hội dựa vào.

Những người bảo vệ cần cả mô hình đóng tiên tiến và mô hình mở tiên tiến, hoạt động cùng nhau, để họ có thể chọn đúng hệ thống cho công việc và đảm bảo rằng tính minh bạch, khả năng thích ứng và quyền kiểm soát chủ quyền luôn sẵn sàng ở bất cứ nơi nào an ninh yêu cầu.

Nghiên cứu mở nâng cao an ninh mạng và an toàn AI

Một tác nhân AI không chỉ là một mô hình ngôn ngữ. Đó là một hệ thống phức tạp được xây dựng từ các mô hình, khung hỗ trợ và rào cản bảo vệ.

An toàn và an ninh AI thực sự phụ thuộc vào toàn bộ ngăn xếp tác nhân (agent stack) — danh tính, quyền hạn, khung hỗ trợ, rào cản bảo vệ, nhật ký và đánh giá — chứ không chỉ phụ thuộc vào việc trọng số mô hình là mở hay đóng. Các khung hỗ trợ và công cụ mở giúp những người bảo vệ kiểm tra, thử nghiệm và cải thiện các biện pháp kiểm soát đó dễ dàng hơn.

NVIDIA đang đóng góp các mô hình mở, trọng số mô hình, dữ liệu và nghiên cứu mới về khung hỗ trợ tác nhân cho Open Secure AI Alliance để đẩy nhanh quá trình phát triển các công cụ và kỹ thuật an ninh mạng mới.

Dự án mã nguồn mở mới NVIDIA Labs Object-Oriented Agent (NOOA) hiện đã có trên GitHub để giúp các khả năng an toàn AI tiên tiến dễ tiếp cận hơn đối với các khung hỗ trợ tác nhân. Khung nghiên cứu NOOA cho phép các khung hỗ trợ tích hợp tốt hơn với các mô hình để giúp hành vi của tác nhân dễ kiểm tra, theo dõi, kiểm toán và quản lý hơn.

Trên toàn Liên minh, các cộng tác viên đang xây dựng một ngăn xếp phòng thủ mở cho các tác nhân — từ danh tính và cách ly đến các định dạng mô hình an toàn, quét đa mô hình và quy trình làm việc mã hóa an toàn.

HPE đóng góp cho SPIFFE/SPIRE, tạo ra các tiêu chuẩn và phương pháp khung danh tính không tin cậy (zero-trust) có thể xác minh bằng mật mã các tác nhân và dịch vụ AI để đảm bảo chỉ các khối lượng công việc được ủy quyền mới có thể giao tiếp và truy cập tài nguyên doanh nghiệp.

Hugging Face đã cung cấp Safetensors — một định dạng an toàn để lưu trữ trọng số mô hình AI, mang lại sự minh bạch và đảm bảo không có thực thi mã từ xa — cho PyTorch Foundation.

Lightwell của IBM và Red Hat mở rộng bảo mật trên toàn bộ chuỗi cung ứng mã nguồn mở bằng các bản vá được ký kỹ thuật số.

Khung quét tác nhân đa mô hình MDASH của Microsoft điều phối các tác nhân AI chuyên biệt để khám phá, tranh luận và chứng minh các lỗi có thể khai thác.

SpaceXAI đã mở mã nguồn tác nhân lập trình AI dựa trên thiết bị đầu cuối Grok Build để thúc đẩy sự tin tưởng, minh bạch và các khả năng mới, đồng thời có kế hoạch mở mã nguồn trọng số của dòng mô hình Grok để hỗ trợ cộng đồng nhà phát triển và nghiên cứu.

Lời kêu gọi các nhà hoạch định chính sách và cơ quan quản lý

Khi các nhà hoạch định chính sách và cơ quan quản lý giải quyết vấn đề an toàn AI, việc công nhận các mô hình, khung hỗ trợ và công cụ bảo mật mở là tài sản phòng thủ, chứ không phải là trách nhiệm pháp lý, trong chính sách AI và an ninh mạng sẽ là điều cốt yếu. Các hạn chế bao trùm đối với các hệ thống AI tiên tiến mở sẽ làm suy yếu năng lực phòng thủ và có nguy cơ tập trung quyền lực, sự phụ thuộc và lỗ hổng vào một vài nhà cung cấp đóng.

Các công ty và chính phủ nên đầu tư vào cơ sở hạ tầng mở dùng chung cho phòng thủ AI — tập dữ liệu, khung đánh giá, trình mô phỏng tấn công và công cụ red-teaming — giống như các thế hệ trước đã đầu tư vào phần mềm mã nguồn mở.

Tương lai chúng ta nên xây dựng

Kỷ nguyên của các tác nhân AI có thể là kỷ nguyên của sự kiên cường và an ninh chung. Với những lựa chọn đúng đắn, các hệ thống AI bảo mật mở có thể cung cấp cho những người bảo vệ các công cụ họ cần, tăng cường cạnh tranh, mở rộng vị thế dẫn đầu về công nghệ và đảm bảo rằng sự an toàn và bảo mật của công nghệ phi thường này được xây dựng một cách công khai cho tất cả mọi người.

Tương lai đó sẽ không được đảm bảo bằng cách cho rằng chỉ riêng sự bí mật là an toàn. Nó sẽ được đảm bảo bằng cách xây dựng các hệ thống đủ mạnh để chịu được sự giám sát, đủ linh hoạt để cải tiến và đủ mở để huy động toàn bộ cộng đồng những người bảo vệ.

Tương lai đó xứng đáng được xây dựng — và Open Secure AI Alliance mời gọi các chính phủ, ngành công nghiệp và các nhà nghiên cứu cùng tham gia vào công việc bảo vệ kỷ nguyên AI.

Tìm hiểu thêm hoặc chia sẻ sự quan tâm khi tham gia Open Secure AI Alliance.