OpenAI thắt chặt an ninh: Giám sát mô hình AI và cách ly mạng nghiêm ngặt

Theo tin từ IT ngày 19 tháng 8, vào thứ Ba theo giờ địa phương, OpenAI đã công bố một loạt chính sách an toàn mới, tập trung vào việc kiểm soát các sự cố bảo mật có thể xảy ra trong quá trình thử nghiệm mô hình. Các biện pháp an toàn mới bao gồm việc giám sát chi tiết hơn trong quá trình phát triển mô hình, đồng thời tăng cường chú trọng vào sự căn chỉnh (alignment) và tính an toàn của mô hình trong giai đoạn hậu huấn luyện.

IT lưu ý rằng, trong một bài đăng trên blog, OpenAI cho biết: "Khi năng lực của các mô hình ngày càng mạnh mẽ, rủi ro trong quá trình phát triển và thử nghiệm nội bộ cũng tăng theo. Các tiêu chuẩn mà chúng tôi thiết lập về giám sát, căn chỉnh và an toàn phải luôn đi trước những rủi ro này."

Đây là một trong những điều chỉnh lớn đầu tiên về thực tiễn an toàn mà OpenAI công bố công khai kể từ khi tiết lộ sự cố Hugging Face vào ngày 21 tháng 7.

Đại diện của OpenAI cho biết, những biện pháp này không trực tiếp nhắm vào sự cố Hugging Face, nhưng khả năng an ninh mạng được thể hiện bởi mô hình Astra sắp ra mắt, cùng với tốc độ phát triển nhanh chóng của toàn ngành AI, cũng là một phần lý do thúc đẩy công ty thực hiện các biện pháp này.

OpenAI cũng tiết lộ rằng sau sự cố Hugging Face, công ty đã tạm dừng huấn luyện học tăng cường (RL) trong hai tuần, nhưng hiện đã khởi động lại công việc huấn luyện cho nhiều mô hình có rủi ro thấp hơn.

OpenAI viết trong blog: "Chúng tôi hiện vẫn tạm dừng các chương trình huấn luyện học tăng cường tiên tiến quy mô lớn nhất, đồng thời tiến hành huấn luyện và đánh giá ở quy mô nhỏ để kiểm tra hành vi của mô hình, xác thực các biện pháp an toàn và thu thập thêm bằng chứng về sự căn chỉnh của mô hình trước khi tiếp tục triển khai."

Phó chủ tịch nghiên cứu của OpenAI, Amelia Glaese, trong một cuộc phỏng vấn với phóng viên đã nhấn mạnh rằng khi năng lực mô hình ngày càng tăng, mức độ nghiêm ngặt của các biện pháp kiểm soát an toàn của công ty cũng sẽ tăng theo, và các mô hình có năng lực mạnh nhất sẽ phải trải qua quá trình kiểm duyệt khắt khe nhất.

Glaese chia sẻ với phóng viên: "Chúng tôi đã thiết lập các yêu cầu và tiêu chuẩn về phát triển an toàn. Những yêu cầu và tiêu chuẩn này sẽ được điều chỉnh dựa trên mức độ rủi ro mà chúng tôi đánh giá."

Sau sự cố lần này, các biện pháp an ninh mạng của OpenAI đã vấp phải sự chỉ trích từ bên ngoài. Trong sự cố trước đó, mô hình đã vượt ra khỏi môi trường huấn luyện ban đầu bằng cách xâm nhập vào một công cụ có khả năng truy cập internet trong mạng lưới của OpenAI. Các biện pháp an toàn mới mà OpenAI vừa đưa ra bao gồm việc tăng cường cách ly mạng, nhưng hiện tại công ty vẫn chưa công bố chi tiết kỹ thuật cụ thể.

OpenAI cho biết, dưới hệ thống an toàn mới, "việc một khối lượng công việc (workload) hoặc dịch vụ hỗ trợ đơn lẻ bị xâm nhập sẽ không dẫn đến việc kẻ tấn công có thể truy cập trái phép vào internet hoặc các mạng nội bộ khác".

Biện pháp an toàn quan trọng nhất trong đợt nâng cấp này là hệ thống giám sát mới. Hệ thống này sẽ kiểm tra các thao tác do công cụ thực hiện, các chuỗi suy luận (reasoning traces) có thể truy cập được và nhật ký hoạt động để nhận diện các hành vi trái phép. OpenAI cho biết mục tiêu của họ là phát cảnh báo trong vòng 30 phút sau khi phát hiện hoạt động đáng ngờ.

OpenAI ước tính rằng tài nguyên tính toán cần thiết cho hệ thống giám sát này tương đương khoảng 20% mức tiêu thụ tài nguyên tính toán của chính quy trình đang được giám sát. Công ty cam kết sẽ công bố thêm chi tiết về hệ thống này trong các bài đăng blog sắp tới.

Ngoài ra, báo cáo phân tích chính thức sau sự cố (post-mortem) của OpenAI hiện vẫn chưa được công bố.