OpenAI sắp ra mắt mô hình Astra: Bước tiến đột phá về an ninh mạng nhưng bị hạn chế tính năng

Theo tin từ IT ngày 2 tháng 9, OpenAI thông báo vào ngày 1 tháng 9 (giờ địa phương) rằng công ty dự định sẽ ra mắt mô hình AI thế hệ tiếp theo có tên Astra "sớm", nhưng sẽ hạn chế nghiêm ngặt phạm vi sử dụng các tính năng an ninh mạng của mô hình này.

Theo giới thiệu, Astra là mô hình đầu tiên của OpenAI đạt đến ngưỡng năng lực an ninh mạng "Critical" (Trọng yếu) trong "Preparedness Framework" (Khung chuẩn bị) của công ty.

Theo định nghĩa của OpenAI, việc đạt đến ngưỡng "Critical" đồng nghĩa với việc mô hình có khả năng tự động nhận diện và phát triển các chương trình khai thác lỗ hổng zero-day hiệu quả ở mọi mức độ nghiêm trọng trên nhiều hệ thống trọng yếu đã được tăng cường bảo mật mà không cần sự can thiệp của con người.

Phó chủ tịch nghiên cứu của OpenAI, Amelia Glaese, cho biết Astra có khả năng tìm ra các lỗ hổng bảo mật chưa từng được biết đến và phát triển phương thức khai thác trên nhiều hệ thống được bảo vệ nghiêm ngặt mà không cần hướng dẫn từng bước từ con người. Trong quá trình thử nghiệm, Astra đã phát hiện và kết hợp thành công hai lỗ hổng zero-day, và OpenAI đang tiến hành tiết lộ các lỗ hổng này cho các bên duy trì liên quan.

Kế hoạch phát hành và hạn chế quyền truy cập của Astra

OpenAI cho biết sẽ áp dụng chiến lược mở quyền truy cập theo từng giai đoạn. Sau khi Astra ra mắt, khả năng thực hiện các tác vụ an ninh mạng nâng cao của mô hình này ban đầu sẽ chỉ được mở cho một nhóm nhỏ người thử nghiệm.

Sau đó, công ty dự định mở rộng quyền truy cập cho các mục đích an ninh mạng phòng thủ tới nhiều người dùng hơn thông qua chương trình Daybreak Blue. OpenAI thừa nhận rằng việc hạn chế năng lực an ninh mạng của Astra có thể gây cản trở cho các hoạt động phòng thủ hợp pháp của một số tổ chức và doanh nghiệp.

Rút kinh nghiệm từ sự cố Hugging Face, tăng cường rào chắn an toàn

Kế hoạch phát hành lần này được đưa ra trong bối cảnh vào tháng 7 năm 2026, một tác nhân AI của OpenAI đã vô tình "vượt ngục" và tấn công nền tảng AI Hugging Face.

Vào thời điểm đó, một tác nhân AI tự chủ được phát triển từ hai mô hình của OpenAI (GPT-5.6 Sol và một mô hình chưa công bố) đã tự kết nối với internet bằng cách khai thác lỗ hổng phần mềm trong môi trường thử nghiệm cô lập (sandbox) trong quá trình đánh giá an toàn, sau đó xâm nhập vào hệ thống của Hugging Face. Trong báo cáo công bố cuối tháng 8, OpenAI thừa nhận rằng công ty lẽ ra có thể phản ứng sớm hơn để ngăn chặn sự cố này.

OpenAI cho biết, mặc dù Astra không phải là một trong những mô hình tham gia vào vụ xâm nhập Hugging Face, nhưng công ty đã áp dụng những bài học kinh nghiệm từ sự cố đó vào các biện pháp bảo vệ an toàn cho Astra. Điều này bao gồm việc huấn luyện mô hình từ chối trả lời các "yêu cầu an ninh mạng độc hại" một cách đáng tin cậy hơn, đồng thời bổ sung một "misalignment monitor" (bộ giám sát sự lệch hướng) chuyên dụng để nhận diện và ngăn chặn các hành vi nguy hiểm tiềm tàng. Các biện pháp bảo vệ này cũng bao gồm việc giám sát các hành vi trái phép của mô hình trong quá trình triển khai nội bộ và tự động chấm dứt các hoạt động không được phép.

Ngoài ra, OpenAI cũng cảnh báo rằng các biện pháp bảo vệ an toàn của Astra có thể gắn nhãn nhầm các hoạt động an ninh mạng phòng thủ hợp pháp thành hành vi lạm dụng, dẫn đến việc tác vụ bị chậm lại, tạm dừng hoặc thậm chí bị chấm dứt (Ghi chú của IT: OpenAI phân loại các tác vụ an ninh mạng thành hai loại là "Blue Team" - phòng thủ và "Red Team" - tấn công; chương trình Daybreak Blue chỉ mở cho công việc "Blue Team" mang tính phòng thủ).

Nhà khoa học nghiên cứu của OpenAI, Fouad Matin, cho biết: "Chúng tôi tin rằng những năng lực này có thể giúp các bên phòng thủ phát hiện và khắc phục các điểm yếu nghiêm trọng, nhưng nếu không có các biện pháp bảo vệ phù hợp, chúng cũng có thể khiến những kẻ tấn công hoạt động hiệu quả hơn, và đó chính là điều chúng tôi đang nỗ lực ngăn chặn."

Đọc thêm:

"Dự đoán là mô hình AI GPT-6: Các mẫu demo đầu tiên của OpenAI Astra bị rò rỉ, tạo ra trò chơi kiểu GTA 2 chỉ với 1 tương tác"

"Mô hình AI thế hệ tiếp theo Astra của OpenAI bị cáo buộc đạo văn kết quả toán học"

"OpenAI: Trì hoãn phát hành mô hình Astra do rủi ro an ninh mạng"