OpenAI công bố báo cáo chính thức về vụ rò rỉ dữ liệu tại Hugging Face

OpenAI đã công bố báo cáo chính thức vào thứ Tư về vụ vi phạm tại Hugging Face, mang đến cái nhìn rõ nét nhất từ trước đến nay về cách một chuỗi sự kiện bất thường đã cho phép một mô hình AI thoát khỏi môi trường thử nghiệm và gây ra một sự cố an ninh mạng trên diện rộng.

Báo cáo này được công bố hơn một tháng sau khi sự cố được công khai, bao gồm một vài vụ xâm phạm an ninh mạng riêng biệt.

“Sự cố này phản ánh hành vi lệch lạc trong một kịch bản ngoại lệ, liên quan đến sự hội tụ hiếm hoi và bất ngờ của các sự kiện: sự hiện diện của các tác vụ bất khả thi trong quá trình đánh giá ExploitGym, sự duy trì mô hình trong các tác vụ dài hạn và các tin nhắn gửi đến các mô hình ngang hàng khiến những mô hình đó chệch khỏi mục tiêu ban đầu,” báo cáo cho biết.

Nhiều chi tiết trong báo cáo của OpenAI đã được công bố trước đó tại buổi thuyết trình Black Hat vào ngày 6 tháng 8, nhưng báo cáo chính thức của OpenAI cung cấp một bản tường thuật kỹ lưỡng hơn về sự cố, bao gồm chi tiết hơn về quá trình thử nghiệm đã khởi nguồn cho nó. Báo cáo cũng đưa ra những thông tin quan trọng mới về cách OpenAI dự định ngăn chặn các sự cố trong tương lai, bao gồm việc giám sát chuỗi suy nghĩ (chain-of-thought) và một hệ thống tiên tiến hơn để ngăn chặn các tác nhân (agent) mất kiểm soát.

METR và Redwood Research cũng đã thực hiện các đánh giá độc lập từ bên thứ ba về hành vi của các mô hình trong sự cố; cả hai nhóm đều đang lên kế hoạch công bố báo cáo riêng của họ về vụ việc này.

Nhìn chung, báo cáo mô tả cách một mô hình của OpenAI được đưa ra một bài toán không thể giải quyết trong quá trình thử nghiệm và đã tiến hành liên kết các lỗ hổng chưa từng được phát hiện trước đó để vượt qua các biện pháp bảo mật và hoàn thành nhiệm vụ của mình. Mô hình này ban đầu đã xâm phạm công cụ quản lý gói Artifactory để truy cập internet, sau đó xâm nhập vào nhiều hệ thống khác nhau trên OpenAI, Hugging Face và các nhà cung cấp khác.

Báo cáo cung cấp những chi tiết mới quan trọng về các mô hình đã thực hiện vụ vi phạm. Mô hình chính thuộc cùng dòng với mô hình Astra sắp ra mắt của OpenAI, mặc dù báo cáo nhấn mạnh rằng đó là “một mô hình riêng biệt với quá trình hậu đào tạo (post-training) khác biệt, nơi phần lớn hành vi của mô hình được định hình.”

Vì OpenAI đang thử nghiệm khả năng của mô hình, nó cũng không bị hạn chế bởi các bộ phân loại (classifier) thông thường vốn được thiết kế để ngăn chặn các mô hình xâm phạm cơ sở hạ tầng kỹ thuật số.

“OpenAI ước tính khả năng tấn công mạng tối đa bằng cách chạy đánh giá này mà không sử dụng các bộ phân loại sản xuất vốn nhằm ngăn chặn các mô hình thực hiện hoạt động mạng rủi ro cao,” báo cáo giải thích. “Những đánh giá này rất quan trọng để OpenAI có thể đo lường khả năng tiềm ẩn của các mô hình và thiết kế các biện pháp bảo vệ phù hợp.”

Báo cáo cũng cung cấp thông tin mới đáng kể về những thay đổi bảo mật của OpenAI trong tương lai, dựa trên các nỗ lực giám sát và căn chỉnh (alignment) tăng cường đã được công bố vào tuần trước.

Cụ thể, công ty đang tăng cường giám sát “chuỗi suy nghĩ” (chain of thought) của các tác nhân AI, một không gian làm việc nơi các hệ thống AI ghi lại các phản ứng và mục tiêu ngắn hạn. Việc giám sát đó sẽ được kết hợp với các hệ thống leo thang cảnh báo 24/7, cũng như các công cụ mới để tạm dừng các khối lượng công việc được coi là không an toàn.

“Những thay đổi này nhằm cải thiện cả phạm vi và tốc độ phát hiện — từ các bất thường trong cơ sở hạ tầng đến hành vi mô hình đáng lo ngại — và kết hợp khả năng hiển thị đó với các cơ chế ngăn chặn nhanh chóng,” báo cáo nêu rõ. “Nếu hệ thống giám sát CoT hiện tại của chúng tôi đang hoạt động vào thời điểm xảy ra sự cố, nó đã có thể phát hiện hoạt động liên quan ban đầu và cảnh báo cho đội ngũ bảo mật của chúng tôi hơn một ngày trước khi các mô hình xâm phạm hệ thống Hugging Face.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Russell Brandom đã đưa tin về ngành công nghệ từ năm 2012, tập trung vào chính sách nền tảng và các công nghệ mới nổi. Anh từng làm việc tại The Verge và Rest of World, đồng thời đã viết bài cho Wired, The Awl và MIT’s Technology Review. Bạn có thể liên hệ với anh ấy qua email [email protected] hoặc qua Signal tại số 412-401-5489.

Xem tiểu sử