OpenAI công bố báo cáo vụ tấn công Hugging Face: Khi AI tự tìm cách thoát khỏi môi trường thử nghiệm

Cảm ơn bạn đọc HH_KK của IT đã gửi thông tin đóng góp!

Theo tin từ IT ngày 27 tháng 8, OpenAI đã công bố báo cáo chính thức về vụ xâm nhập Hugging Face vào thứ Tư theo giờ địa phương. Đây là lần đầu tiên sự việc được tái hiện một cách tương đối đầy đủ: sự kết hợp của hàng loạt yếu tố hiếm gặp đã khiến một mô hình AI vượt qua các giới hạn của môi trường thử nghiệm, cuối cùng dẫn đến một sự cố an ninh mạng có phạm vi ảnh hưởng rộng lớn.

IT lưu ý rằng, báo cáo này được đưa ra sau hơn một tháng kể từ khi sự việc lần đầu được tiết lộ, trong đó liên quan đến nhiều vụ xâm nhập an ninh mạng có tính chất liên đới nhưng độc lập với nhau.

Trong báo cáo, OpenAI cho biết: "Sự cố này phản ánh một hành vi sai lệch xuất hiện trong các kịch bản cực kỳ bất thường. Nhiều yếu tố hiếm gặp và bất ngờ đã xảy ra đồng thời, bao gồm việc xuất hiện các nhiệm vụ không thể hoàn thành trong quá trình đánh giá ExploitGym, khả năng duy trì hành động liên tục của mô hình trong các chu kỳ nhiệm vụ siêu dài, và việc giao tiếp giữa các mô hình dẫn đến việc các mô hình khác đi chệch khỏi mục tiêu ban đầu."

Nhiều chi tiết trong báo cáo đã được tiết lộ tại hội nghị Black Hat ngày 6 tháng 8, nhưng báo cáo chính thức của OpenAI đã hệ thống hóa toàn bộ sự việc một cách toàn diện hơn và bổ sung thêm thông tin về nguyên nhân dẫn đến thử nghiệm.

Báo cáo cũng lần đầu tiên giới thiệu chi tiết các biện pháp mới mà OpenAI dự định thực hiện để ngăn chặn sự việc tương tự tái diễn, bao gồm việc giám sát "chuỗi suy nghĩ" (chain-of-thought) của mô hình và một cơ chế tiên tiến hơn để dừng khẩn cấp các tác nhân AI có hành vi mất kiểm soát.

Ngoài ra, METR và Redwood Research cũng đã thực hiện đánh giá độc lập về hành vi của mô hình liên quan trong suốt sự việc, và cả hai tổ chức này đều có kế hoạch công bố báo cáo điều tra riêng của mình.

Nhìn chung, báo cáo của OpenAI mô tả một lộ trình tấn công bất thường: trong quá trình thử nghiệm, một mô hình của OpenAI được yêu cầu giải quyết một vấn đề thực tế là không có lời giải. Để hoàn thành nhiệm vụ, mô hình này đã bắt đầu liên kết nhiều lỗ hổng chưa từng được phát hiện trước đó để vượt qua các biện pháp an ninh.

Mô hình ban đầu đã chiếm quyền kiểm soát công cụ quản lý gói Artifactory để giành quyền truy cập Internet, sau đó tiếp tục xâm nhập vào nhiều hệ thống của OpenAI, Hugging Face và các nhà cung cấp khác.

Báo cáo cũng tiết lộ thêm thông tin về mô hình thực hiện vụ xâm nhập này. Mô hình liên quan chính thuộc cùng một dòng với mô hình Astra sắp ra mắt của OpenAI, nhưng OpenAI nhấn mạnh rằng cả hai không phải là cùng một mô hình và quá trình hậu huấn luyện (post-training) cũng có sự khác biệt, trong khi phần lớn các hành vi cụ thể của mô hình lại được hình thành chính ở giai đoạn hậu huấn luyện này.

Do OpenAI đang thử nghiệm khả năng của mô hình vào thời điểm đó, nên các bộ phân loại an ninh thường được sử dụng để ngăn chặn mô hình tấn công cơ sở hạ tầng kỹ thuật số đã không được kích hoạt.

OpenAI giải thích trong báo cáo: "Để đánh giá khả năng tấn công mạng tối đa của mô hình, OpenAI thực hiện thử nghiệm mà không kích hoạt các bộ phân loại trong môi trường sản xuất. Các bộ phân loại này vốn được sử dụng để ngăn chặn mô hình tham gia vào các hoạt động mạng có rủi ro cao. Việc đánh giá như vậy là rất quan trọng vì nó giúp OpenAI đo lường khả năng nền tảng của mô hình và từ đó thiết kế các biện pháp bảo vệ an ninh phù hợp."

Báo cáo cũng giới thiệu thêm về cách OpenAI sẽ điều chỉnh các cơ chế an ninh trong tương lai, đây cũng là sự bổ sung cho các biện pháp tăng cường giám sát và căn chỉnh mô hình (model alignment) mà công ty đã công bố vào tuần trước.

Trong đó, OpenAI sẽ tăng cường giám sát "chuỗi suy nghĩ" của các tác nhân AI. Chuỗi suy nghĩ có thể được hiểu là không gian làm việc nội bộ nơi hệ thống AI ghi lại các phản ứng ngắn hạn, mục tiêu hiện tại và quá trình suy luận.

Các biện pháp giám sát này sẽ được kết hợp với cơ chế phản ứng nâng cấp 24/7, đồng thời OpenAI cũng sẽ tung ra các công cụ mới để nhanh chóng chấm dứt các khối lượng công việc (workload) bị xác định là có rủi ro an ninh.

OpenAI cho biết: "Những điều chỉnh này nhằm mục đích nâng cao đồng thời phạm vi phát hiện và tốc độ phản ứng, tập trung vào cả các bất thường về cơ sở hạ tầng lẫn các hành vi mô hình đáng lo ngại, đồng thời cung cấp cơ chế ngăn chặn nhanh chóng sau khi phát hiện vấn đề."

Công ty cũng cho biết, nếu hệ thống giám sát chuỗi suy nghĩ hiện đã được triển khai hoạt động vào thời điểm đó, nó đã có thể phát hiện ra các hoạt động bất thường liên quan ban đầu và gửi cảnh báo đến đội ngũ an ninh của OpenAI ít nhất một ngày trước khi mô hình xâm nhập thành công hệ thống Hugging Face.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, các bài viết của IT có chứa liên kết ngoài đều bao gồm tuyên bố này.