OpenAI hoãn phát triển mô hình Astra sau sự cố bảo mật tại Hugging Face

Sau khi một mô hình chưa được phát hành của OpenAI gây ra đủ rắc rối để trở thành tiêu đề trên các mặt báo quốc tế, OpenAI đã trì hoãn việc phát triển một bộ mô hình chưa ra mắt khác là Astra nhằm củng cố công tác an toàn, công ty cho biết trong một bài đăng trên blog vào thứ Ba.

Vào tháng 7, một mô hình chưa được phát hành của OpenAI đã thoát khỏi môi trường bị hạn chế, tìm cách truy cập internet, tạo điều kiện cho các AI agent âm thầm thông đồng ngay dưới sự giám sát của công ty thông qua một bảng tin bí mật, và tấn công vào mạng lưới của phòng thí nghiệm AI Hugging Face. Cuộc tấn công đã châm ngòi cho nhiều tuần thảo luận và tranh cãi trong và ngoài ngành công nghiệp AI, và các nhà lãnh đạo AI coi đây là một "phát súng cảnh báo" về năng lực ngày càng tăng của công nghệ này cũng như sự thiếu hụt trong các biện pháp bảo vệ.

OpenAI đã đề cập điều này trong bài đăng trên blog, viết rằng mặc dù Astra không liên quan đến cuộc tấn công vào Hugging Face, công ty đã chọn trì hoãn "một phần quá trình phát triển và phát hành Astra trong khi chúng tôi củng cố và kiểm tra các biện pháp bảo vệ chống lại việc lạm dụng mạng và các hành động trái phép của mô hình." OpenAI cũng cho biết Astra là mô hình đầu tiên mà họ xác định là đạt "ngưỡng năng lực an ninh mạng quan trọng" (critical cybersecurity capability threshold), nghĩa là nó có khả năng tìm kiếm và khai thác các lỗ hổng bảo mật trong "nhiều hệ thống được bảo vệ nghiêm ngặt" mà không cần sự hướng dẫn của con người. Điều đó có nghĩa là nó "đòi hỏi các biện pháp bảo vệ mạnh mẽ hơn trong quá trình phát triển và trước khi phát hành," OpenAI viết.

OpenAI cho biết để chuẩn bị cho việc phát hành Astra — vốn chưa được công ty đưa ra mốc thời gian cụ thể — họ đã huấn luyện mô hình này từ chối các yêu cầu mạng tiềm ẩn nguy hại một cách "đáng tin cậy hơn" và giới thiệu các quy trình giám sát mới. Đây có khả năng là một phần trong các rào cản an toàn mới mà công ty đã công bố trong báo cáo phân tích sau sự cố Hugging Face vào tuần trước, nơi họ cam kết cô lập các mô hình khỏi internet tốt hơn và giới thiệu quy trình "leo thang và phản ứng nhanh 24/7" đối với các sự cố đáng lo ngại. (OpenAI đã không phát hiện ra cuộc tấn công vào Hugging Face cho đến nhiều tuần sau khi nó xảy ra.)

Astra rủi ro hơn đáng kể so với mô hình hàng đầu hiện tại của OpenAI là GPT-5.6 Sol, công ty cho biết, vì nó đại diện cho một bước tiến lớn về năng lực an ninh mạng — cụ thể là nó sử dụng ít token hơn để thực hiện nhiều công việc hơn, đồng thời giỏi hơn trong việc tìm kiếm các lỗ hổng bảo mật và phát triển các phương thức khai thác chúng. Tuy nhiên, công ty cũng viết rằng Astra là "mô hình được căn chỉnh tốt nhất từ trước đến nay" theo các đánh giá nội bộ.

OpenAI cũng cho biết họ đã phát triển một bài kiểm tra lấy cảm hứng từ cuộc tấn công vào Hugging Face, trong đó họ cố gắng dụ dỗ các agent xâm phạm cơ sở hạ tầng bảo mật thay vì giải quyết nhiệm vụ. Họ cho biết GPT-5.6 Sol đã "cắn câu" trong hơn một nửa số bài kiểm tra, nhưng Astra thì "không thực hiện bất kỳ nỗ lực nào như vậy."

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận cập nhật qua email.