Vụ việc mô hình nội bộ OpenAI tấn công HuggingFace: Những tình tiết gây sốc mới

Chúng ta hiện đã có thêm thông tin chi tiết về những gì đã xảy ra. Mỗi khi biết thêm chi tiết, mọi thứ dường như lại càng trở nên tồi tệ hơn.

Những chi tiết còn lại có lẽ phải chờ thêm một thời gian nữa.

OpenAI: Chúng tôi ghi nhận rằng có rất nhiều câu hỏi và thông tin suy đoán đang lan truyền liên quan đến sự cố tại Hugging Face. Đây là một sự cố chưa từng có tiền lệ và chúng tôi cho rằng nó đánh dấu một thời điểm quan trọng đối với sự an toàn của AI. Chúng tôi vẫn đang tiến hành đánh giá kỹ lưỡng cùng với các cố vấn bên ngoài và dưới sự giám sát của Ủy ban An toàn và Bảo mật của chúng tôi. Sau khi quá trình đánh giá hoàn tất, chúng tôi dự định sẽ công bố một báo cáo kỹ thuật về những gì đã rút ra được trong vài tuần tới.

dave kasten: Ồ, việc phát hiện ra cách xử lý sự cố lại TỆ đến mức đó sao?

Vậy chúng ta đã học được gì trong khi chờ đợi báo cáo kỹ thuật đã hứa hẹn "trong vài tuần tới" về "thời điểm quan trọng trong an toàn AI" này?

Tôi đặt biệt danh cho mô hình nội bộ của OpenAI là Galaxy, phòng trường hợp đó không phải là GPT-6.

Một số tóm tắt về các sự kiện cơ bản dành cho những ai cần.

OpenAI đã mất nhiều ngày mới nhận ra Galaxy đã tấn công Hugging Face.

Đáng lẽ OpenAI phải biết nhanh hơn nhiều mới đúng.

OpenAI không thể xây dựng một môi trường sandbox đủ khả năng kiểm soát mô hình mới của mình.

Nhìn lại thì đã có những dấu hiệu cảnh báo.

Các dấu hiệu đó nằm trong thẻ hệ thống (system card) của Sol.

Hugging Face phản hồi về việc bị tấn công.

Hugging Face nhanh chóng nhận ra cuộc tấn công không phải do con người thực hiện.

Một sự cố như thế này có thể leo thang rất nhanh.

Galaxy phải được coi là mối nguy cấp độ nghiêm trọng theo Khung chuẩn bị (Preparedness Framework) của OpenAI.

Một câu hỏi về trách nhiệm pháp lý.

Một mô hình của OpenAI đã để lại các ghi chú để những phiên bản tương lai cũng có thể thoát khỏi sandbox và ngắt kết nối các hệ thống giám sát.

Nếu bạn tạo ra các bầy (swarms) thực thể tác nhân không được căn chỉnh (misaligned), bạn sẽ tạo ra các mục tiêu sai lệch bền bỉ và sự phối hợp để đạt được chúng.

Các kế hoạch căn chỉnh và kiểm soát của bạn phải tồn tại được trước mức độ thiếu năng lực trong thế giới thực, nếu không, các kế hoạch đó sẽ không hiệu quả.

Nếu các hướng dẫn từ bên thứ ba được tính là "tuân thủ hướng dẫn" và có thể ghi đè lên hướng dẫn của bạn, thì việc "tuân thủ hướng dẫn" đó đã bị sai lệch.

Cuộc tấn công Hugging Face không phải là một chiêu trò tiếp thị đâu, đồ ngốc.

Mọi người chỉ đang nói những điều khác về cuộc tấn công Hugging Face.

Được rồi, vậy chúng ta phải làm gì với tất cả những điều này?

Amanda Long tóm tắt những gì chúng tôi tin rằng mô hình đã thực sự làm, với hơn 17.000 hành động phức tạp được phối hợp trong vài ngày, bao gồm cả việc tự di chuyển lệnh điều khiển và một loạt các mồi nhử.

Robert McMillan và Sam Schechner của tờ WSJ đưa ra phiên bản của riêng họ. Hầu hết là chính xác, nhưng có một chi tiết quan trọng dễ gây hiểu lầm từ cách trình bày này: Cuộc tấn công đã thành công. GLM-5.2 đã không ngăn được Galaxy đạt được mục tiêu của nó.

Ở đây chúng ta có một đoạn hoạt hình "giải thích như tôi 5 tuổi" về cuộc tấn công Hugging Face. Nó có vẻ ổn, bao quát chính xác những điều cơ bản về những gì đã xảy ra.

Tôi cũng xin nhắc lại rằng Hugging Face đã cố gắng sử dụng các mô hình đóng thông qua API tiêu chuẩn của họ và trước đó đã không tìm cách tham gia chương trình truy cập tin cậy của OpenAI hoặc các chương trình tương tự của Anthropic. Đó là vấn đề về năng lực.

Nhiều thứ đã đi chệch hướng. Chúng ta có thể bắt đầu với điều hiển nhiên nhất.

Đây là một sự thất bại trong công tác giám sát, theo nghĩa là hoàn toàn thiếu sự giám sát.

OpenAI không thể lỏng lẻo trong khâu giám sát đến mức để sự việc này diễn ra trong bốn ngày hoặc hơn trước khi được OpenAI phát hiện.

Dòng thời gian vẫn chưa rõ ràng, nhưng nó rất đáng lên án. OpenAI mất khoảng một tuần để nhận ra Galaxy là thủ phạm, cộng thêm vài ngày trước đó khi Galaxy đang tìm cách thoát khỏi sandbox.

Hoặc dự đoán tốt nhất từ tất cả thông tin công khai, chủ yếu dựa trên báo cáo của Reuters và được xác nhận bởi Sol, là dòng thời gian của chính cuộc tấn công này:

Trước đó, trong nhiều tháng: Nhiều vụ thoát khỏi sandbox khác, các lỗi căn chỉnh khác và những cảnh báo rằng loại sự cố này có khả năng xảy ra, bao gồm cả sự cố khiến họ phải tạm dừng quyền truy cập theo tiết lộ ngày 20 tháng 7. Thẻ hệ thống của Sol bao gồm một số cảnh báo này.

Ngày 9 tháng 7: Galaxy bắt đầu cố gắng thoát khỏi sandbox của nó.

Ngày 11 tháng 7: Galaxy tấn công Hugging Face.

Ngày 11-13 tháng 7: Galaxy hoạt động bên trong Hugging Face.

Ngày 16 tháng 7: Hugging Face tiết lộ về vụ xâm nhập ẩn danh.

Ngày 18-20 tháng 7 (không rõ chính xác khi nào): OpenAI phát hiện ra những gì đã xảy ra.