OpenAI ra mắt GPT-Red: Mô hình AI chuyên biệt để 'tấn công' và củng cố bảo mật

Cảm ơn bạn đọc Nuc_F của IT đã gửi thông tin đóng góp!

Theo tin từ IT ngày 16 tháng 7, OpenAI vào ngày 15 (giờ địa phương) đã giới thiệu GPT-Red, mô hình "đội đỏ" (red team) về an ninh mạng được họ sử dụng nội bộ. Mô hình này có khả năng tự động hóa các mô phỏng tấn công mạng đa dạng, giúp OpenAI nâng cao tính bền vững cho các sản phẩm mô hình thương mại của mình.

OpenAI cho biết, trong nửa năm qua, mọi mô hình sản xuất kể từ sau GPT-5.3 đều đã được huấn luyện bằng mô hình "đội đỏ". Tỷ lệ thành công của các cuộc tấn công giả mạo chuỗi suy nghĩ (chain-of-thought) đã giảm từ 95% trên GPT-5.1 xuống còn dưới 10% trên các mô hình mới nhất; đối với GPT-5.6 Sol mới nhất, tỷ lệ thất bại trước các cuộc tấn công tiêm nhiễm câu lệnh (prompt injection) trực tiếp từ GPT-Red chỉ còn 0,05%.

GPT-Red được huấn luyện bằng phương pháp học tăng cường tự đối đầu (self-play reinforcement learning): bản thân nó và một nhóm các LLM phòng thủ khác nhau được huấn luyện đồng thời trên nhiều kịch bản đội đỏ rộng khắp. GPT-Red nhận được phần thưởng khi kích hoạt thành công các lỗi hiệu quả, trong khi các mô hình phòng thủ nhận được phần thưởng khi chống lại các cuộc tấn công và hoàn thành nhiệm vụ ban đầu của chúng. Khi các mô hình phòng thủ ngày càng trở nên mạnh mẽ hơn, GPT-Red buộc phải tìm ra những phương thức tấn công mạnh mẽ và đa dạng hơn.

Mô hình "đội đỏ" được tách biệt hoàn toàn với các mô hình sản phẩm. OpenAI tin rằng họ đã khởi động một vòng lặp an ninh mạng trí tuệ nhân tạo lành mạnh, có thể tận dụng các mô hình hiện có để tăng cường tính bền vững, tính nhất quán và độ tin cậy cho các mô hình trong tương lai.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm thông báo này.