Hugging Face bị AI tự hành tấn công: Mô hình OpenAI vượt rào bảo mật trong thử nghiệm

Vào thứ Hai, Hugging Face đã công bố một dòng thời gian kỹ thuật, dẫn dắt người đọc tìm hiểu cách một AI agent tự hành, được xây dựng trên các mô hình của OpenAI và chạy bên trong một trong những bài đánh giá an ninh mạng của chính OpenAI, đã xâm nhập vào hệ thống của họ trong hơn bốn ngày hồi đầu tháng này. Đây là sự cố bảo mật đầu tiên mà CEO Sam Altman của OpenAI cho biết ông “cảm nhận được một cách rất trực quan”.

Điều này cũng không có gì đáng ngạc nhiên khi ít nhất, người ta có cảm giác như một thứ gì đó thực sự đã được giải phóng. Trên thực tế, nhóm của Hugging Face đã mở đầu báo cáo của mình bằng lời khuyên rằng “mọi người nên chuẩn bị tâm thế như những người phòng thủ”, trước khi đi sâu vào chi tiết những gì đã xảy ra để hỗ trợ các chuyên gia bảo mật ở khắp mọi nơi.

Trong khi phần còn lại của thế giới internet vẫn đang cố gắng hiểu chuyện gì đã xảy ra (thuật ngữ chuyên môn trong báo cáo của Hugging Face là không thể hiểu nổi đối với hầu hết mọi người), thì có một điểm mà nhiều người quan sát thường bỏ lỡ: đây không phải là một agent nổi loạn bất tuân mệnh lệnh. Đó là một hệ thống được xây dựng để săn tìm các lỗ hổng, và nó đã làm chính xác điều đó, chỉ là nhắm sai mục tiêu mà thôi.

Một cách khác để hình dung toàn bộ sự việc này là hãy tưởng tượng một con gấu tại khu cắm trại. Thật đấy. Một con gấu sẽ thử kéo khóa lều, tay nắm cửa xe, thùng giữ nhiệt và nắp thùng rác. Nó làm điều này ở mọi khu cắm trại, suốt cả đêm dài, vì nó biết rằng chỉ cần một chiếc thùng giữ nhiệt không khóa là đủ để nó lấp đầy cái bụng đói bằng thực phẩm của một người xui xẻo nào đó.

Đó gần như là những gì đã xảy ra tại Hugging Face. Hệ thống của OpenAI đã thử hàng ngàn cách và cứ thế tiếp tục. Cuối cùng, một vài trong số những nỗ lực đó đã thành công, và một khi đã thành công, agent này cứ thế tiến tới. Theo Hugging Face, agent đã thực hiện 17.600 hành động trong bốn ngày rưỡi mà không hề dừng lại.

Điều này đưa chúng ta trở lại với phép ẩn dụ về con gấu. Giống như việc một lần thành công với chiếc thùng giữ nhiệt đầy thức ăn sẽ dạy cho con gấu phải cố gắng hơn nữa vào lần sau (giờ nó đã trở thành một con gấu “bị điều kiện hóa bởi thức ăn”), một mật khẩu bị rò rỉ đã dẫn dắt agent của OpenAI tìm kiếm thêm các lỗ hổng và cuối cùng là tìm ra một chiếc chìa khóa duy nhất mở được nhiều hệ thống của công ty cùng một lúc.

Không kịch bản nào là vô hại cả. Một con gấu đột kích thùng giữ nhiệt của bạn vẫn sẽ ăn thức ăn của bạn và có khả năng làm tan hoang khu cắm trại của bạn. Nó chỉ tập trung vào việc kiếm ăn, nhưng dù sao thì nó vẫn để lại một đống đổ nát phía sau. Tương tự, agent của OpenAI dường như đang theo đuổi một mục tiêu mà không quan tâm đến bất cứ điều gì khác. Agent này ban đầu đang thực hiện một bài kiểm tra an ninh mạng, nhận ra rằng đáp án của bài kiểm tra có thể đang nằm trên máy chủ của Hugging Face, và nó đã nhắm vào đó.

Sự kiên trì ở đây mới là điều đáng chú ý hơn cả; agent có một công việc và nó sẽ không dừng lại cho đến khi hoàn thành. Hugging Face, sau khi nhận ra có điều gì đó bất ổn, đã cắt quyền truy cập và ngăn chặn sự xâm nhập, nhưng vào thời điểm đó, đã quá muộn. Agent đã đạt được thứ nó muốn, và thậm chí còn hơn thế nữa.

Trong trường hợp bạn bỏ lỡ, đây là phần lớn những gì đã xảy ra theo dòng thời gian của Hugging Face, nhưng được diễn giải bằng ngôn ngữ đơn giản hơn.

Cuối cùng, Hugging Face kết luận trong báo cáo của mình rằng, một hacker con người “có năng lực” hoàn toàn “có thể tìm thấy và khai thác những lỗ hổng tương tự: xử lý tập dữ liệu không an toàn, siêu dữ liệu đám mây bị lộ, quyền truy cập quá rộng và thông tin xác thực tồn tại quá lâu”. Sự khác biệt lớn, tổ chức này tiếp tục, là “agent đã khai thác chúng ở một quy mô khác biệt”.

Đây thực sự là điểm mà phép ẩn dụ về con gấu trở nên hữu ích nhất. Cách phòng thủ tốt nhất trước một con gấu đói là tuân thủ quy trình. Bạn cất thức ăn đi; bạn sử dụng loại chốt đủ chắc chắn để giữ chặt. Bài học ở đây không nên là con gấu quá thông minh hay tinh quái. Mà là nó không bao giờ ngừng kiểm tra. Trong an ninh mạng, người ta hiểu rằng luôn có những lỗi mà bạn chưa tìm ra, vì vậy nếu việc kiểm tra mọi thứ đột nhiên trở nên dễ dàng gấp 100 lần, thì thực sự chẳng có gì là an toàn cả. Đó là điều khiến rất nhiều người cảm thấy bất an về sự việc này.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Loizos đã đưa tin về Thung lũng Silicon từ cuối những năm 90, khi cô gia nhập tạp chí Red Herring gốc. Từng là Biên tập viên Thung lũng Silicon của TechCrunch, cô được bổ nhiệm làm Tổng biên tập và Tổng giám đốc của TechCrunch vào tháng 9 năm 2023. Cô cũng là người sáng lập StrictlyVC, một bản tin điện tử hàng ngày và chuỗi bài giảng đã được Yahoo mua lại vào tháng 8 năm 2023 và hiện được vận hành như một thương hiệu phụ của TechCrunch.

Bạn có thể liên hệ hoặc xác minh thông tin từ Connie bằng cách gửi email đến [email protected] hoặc [email protected], hoặc qua tin nhắn mã hóa tại ConnieLoizos.53 trên Signal.

Xem tiểu sử