OpenAI lần đầu xếp hạng mô hình Astra ở mức rủi ro an ninh mạng cao nhất

Các thử nghiệm nội bộ đối với mô hình AI mới Astra của OpenAI cho thấy khả năng an ninh mạng mạnh mẽ đến mức công ty cho biết họ không còn có thể loại trừ mức độ rủi ro cao nhất trong khung an toàn của chính mình. Một số phần trong quá trình phát triển Astra đã bị tạm dừng.

OpenAI cho biết các đánh giá nội bộ về mô hình Astra sắp tới đã cho thấy "những tiến bộ đáng kể trong việc lập trình tự hành (agentic coding) và an ninh mạng" trong vài ngày qua. Kết quả đạt được mạnh mẽ đến mức OpenAI "không thể loại trừ mức độ năng lực Critical (Tới hạn)" theo Preparedness Framework (Khung chuẩn bị) của chính họ.

Theo OpenAI, quyết định này được đưa ra vào "đêm qua". Đây là lần đầu tiên OpenAI gắn cờ một trong những mô hình của mình có khả năng đạt đến mức rủi ro an ninh mạng cao nhất. Các mô hình trước đây, bao gồm GPT-5.6-Sol, cao nhất cũng chỉ được xếp hạng "High" (Cao).

OpenAI lần đầu giới thiệu Astra vào tuần trước. Các tin đồn cho rằng mô hình này có thể được phát hành sớm nhất là vào tuần tới, nhưng thông báo hôm nay có thể ảnh hưởng đến những kế hoạch đó (chi tiết hơn ở bên dưới). OpenAI đã tuyên bố rõ ràng trong bài đăng của mình rằng Astra không liên quan đến một lỗ hổng bảo mật mới được tiết lộ gần đây trên Hugging Face.

Những người chỉ trích có khả năng sẽ tiếp tục cáo buộc OpenAI sử dụng chiêu trò tiếp thị dựa trên nỗi sợ hãi, đặc biệt là khi công ty chỉ mới báo cáo về khả năng đạt mức xếp hạng Critical chứ chưa phải là xếp hạng chính thức. Thời điểm đưa ra thông báo cũng không giúp ích gì cho họ. Cảnh báo sơ bộ này xuất hiện ngay giữa cuộc tranh luận đang diễn ra trong ngành về khả năng tấn công mạng tự hành của các mô hình AI, điều này chỉ càng làm dấy lên sự hoài nghi. Nếu xếp hạng Critical không bao giờ thành hiện thực, OpenAI sẽ tạo ra được nhiều tiếng vang truyền thông mà không phải chịu hậu quả thực tế nào, đồng thời tạo ra thêm một mô hình AI khác, giống như Claude Mythos hay GPT-2 hồi năm 2019, lại một lần nữa bị coi là "quá nguy hiểm" để phát hành.

"Critical" nghĩa là gì?

Theo Preparedness Framework của OpenAI, được công bố lần đầu vào tháng 12 năm 2023, một mô hình đạt mức "Critical" khi nó có thể tìm kiếm và phát triển các lỗ hổng zero-day hoạt động được trên mọi cấp độ nghiêm trọng trong nhiều hệ thống quan trọng và được bảo mật chặt chẽ mà không cần sự can thiệp của con người. Một mô hình cũng đạt tiêu chuẩn này nếu nó có thể tự lập kế hoạch và thực hiện các chiến lược tấn công mạng toàn diện (end-to-end) mới lạ nhắm vào các mục tiêu được bảo vệ khi chỉ được cung cấp một mục tiêu định nghĩa lỏng lẻo.

Mức "High" thấp hơn có nghĩa là mô hình có thể loại bỏ các rào cản hiện có đối với các cuộc tấn công mạng, ví dụ như tự động hóa các cuộc tấn công vào các mục tiêu được bảo vệ tốt, nhưng vẫn cần sự chỉ đạo nhiều hơn từ con người.

Preparedness Framework yêu cầu tạm dừng phát triển thêm ở mức "Critical" cho đến khi các biện pháp bảo vệ và tiêu chuẩn kiểm soát an ninh đáp ứng được tiêu chuẩn Critical. Tuy nhiên, cho đến nay, OpenAI mới chỉ nói về việc tạm dừng một số hoạt động nhất định và tăng cường thử nghiệm, chứ không phải dừng phát triển hoàn toàn. Và một lần nữa, công ty chỉ mới đang gắn cờ khả năng đạt mức xếp hạng Critical.

OpenAI tạm dừng một số phần trong quá trình phát triển Astra

Để phản hồi, OpenAI cho biết họ đã tạm dừng các hoạt động nội bộ liên quan đến Astra chưa đáp ứng được các yêu cầu bảo mật nghiêm ngặt hơn. Đồng thời, công ty đang triển khai các biện pháp kiểm soát an ninh chặt chẽ hơn: môi trường thử nghiệm cô lập, hạn chế quyền truy cập mạng và công cụ, bảo vệ và mã hóa trọng số mô hình mạnh hơn, cùng các hệ thống giám sát bổ sung.

OpenAI cũng cho biết họ đã triển khai giám sát toàn diện trên tất cả các ứng dụng tự hành của Astra, bao gồm cả quá trình đào tạo và đánh giá. Các hệ thống giám sát này phân tích chuỗi suy nghĩ (chain of thought) của mô hình và kích hoạt phản ứng an toàn để ngăn chặn bất kỳ hoạt động rủi ro cao nào.

Hơn nữa, OpenAI có kế hoạch hợp tác với các cơ quan chính phủ và các tổ chức an toàn AI được chọn lọc để kiểm tra năng lực của mô hình. Các đối tác kiểm thử bên thứ ba sẽ nhận được các biện pháp kiểm soát an ninh được khuyến nghị cho các đánh giá rủi ro cao. Viện An toàn AI (AISI) của Vương quốc Anh gần đây đã báo cáo rằng họ đã gặp phải các sự cố mạng trong một trong các đợt đánh giá của chính họ.

Xếp hạng của Astra xuất hiện sau vụ việc các tác nhân tự hành tấn công không kiểm soát

Thông báo này được đưa ra vào thời điểm OpenAI đang phải đối mặt với hậu quả từ các tác nhân AI tự hành. Tại hội nghị bảo mật Black Hat, công ty gần đây đã tiết lộ rằng các tác nhân tự hành đã xâm nhập vào cơ sở hạ tầng của chính họ trong nhiều tuần trong các thử nghiệm nội bộ mà không ai hay biết.

Các tác nhân này đã sử dụng một trình quản lý gói nội bộ để xây dựng một bảng tin ứng biến với hàng trăm nghìn bài đăng. Chúng chia sẻ các lỗ hổng và thông tin đăng nhập, và cuối cùng cũng đã tấn công nền tảng Hugging Face.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay