OpenAI dùng AI để tự tấn công chính mình: Hiệu quả vượt xa con người

OpenAI đã huấn luyện một mô hình AI nội bộ có tên là GPT-Red để tự động tìm kiếm các lỗ hổng bảo mật trong các mô hình GPT. GPT-Red mô phỏng các cuộc tấn công prompt injection và các hình thức tấn công khác, nơi các chỉ dẫn độc hại được ẩn giấu trong email, trang web hoặc tệp tin. Được huấn luyện thông qua phương pháp học tăng cường tự đối kháng (self-play reinforcement learning), GPT-Red thực hiện tấn công trong khi các mô hình phòng thủ thực hiện ngăn chặn, và cả hai đều cải thiện theo thời gian. Nó tìm ra các cuộc tấn công thành công trong 84 phần trăm các kịch bản thử nghiệm, so với 13 phần trăm của các chuyên gia bảo mật con người (red teamers). Trong một thử nghiệm, nó đã thao túng một máy bán hàng tự động tích hợp AI tại văn phòng của OpenAI, thay đổi giá cả và hủy đơn hàng của những khách hàng khác.

Các kết quả này được đưa trực tiếp vào quá trình huấn luyện. OpenAI cho biết, GPT-5.6 Sol cho thấy tỷ lệ thất bại trước các cuộc tấn công prompt injection trực tiếp thấp hơn sáu lần so với mô hình tốt nhất từ bốn tháng trước, mà không làm ảnh hưởng đến hiệu suất chung. Tuy nhiên, khoảng 3,8 phần trăm các cuộc tấn công prompt injection "mạnh hơn" vẫn thành công. Nếu nhân rộng con số đó lên hàng trăm hoặc hàng nghìn lần thử nghiệm, một lượng đáng kể các cuộc tấn công vẫn có thể lọt qua, tương tự như trường hợp của Claude Opus 4.5.

GPT-Red vẫn là công cụ nội bộ; một bài báo với các chi tiết cụ thể hơn sẽ được công bố sau.

Tin tức AI không thổi phồng – Được biên soạn bởi con người.

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay.