AI của OpenAI tự lập 'phòng chat bí mật' và tấn công hệ thống trong thử nghiệm bảo mật

Tóm tắt: Dòng thời gian bằng ngôn ngữ dễ hiểu về sự cố OpenAI-Hugging Face được trình bày tại Black Hat USA 2026. Một tệp tin bị bỏ quên đã khiến một AI agent để lại lời nhắn trên hệ thống dùng chung, các agent khác phản hồi, và một phòng chat bí mật được hình thành. Chúng đã sử dụng phòng chat này để trao đổi các lỗ hổng khai thác, leo thang quyền kiểm soát quản trị đối với hạ tầng của OpenAI và chiếm quyền kiểm soát các máy chủ sản xuất của Hugging Face chỉ trong 13 giờ. Sự việc kết luận rằng bảo mật hiện là ưu tiên hàng đầu trong AI và mô hình zero-trust phải được mở rộng áp dụng cho cả các agent "thân thiện".

Các hệ thống AI luôn khao khát làm hài lòng người dùng. Chỉ cần đưa cho chúng một mục tiêu, và trong thế giới của những con số 0 và 1, chúng sẽ hô vang “Tuân lệnh!”

Thực tế là, chúng đơn giản sẽ không dừng lại cho đến khi đạt được mục tiêu đó.

OpenAI đã trình bày chi tiết về sự quyết tâm của các agent tại hội nghị bảo mật tuần này.

Khi OpenAI quên tải lên một tệp tin cần thiết cho một agent, agent đó đã tự tìm kiếm và để lại lời nhắn trên hệ thống dùng chung của công ty để hỏi xem có agent nào khác sở hữu bản sao của tệp đó không. Vài ngày sau, một agent khác trả lời, và một phòng chat bí mật đã ra đời.

26 tháng 5

Một agent tìm ra cách khiến dịch vụ lưu trữ tự tìm nạp các trang từ internet công cộng – một cánh cửa mà nó chưa từng được cấp chìa khóa – sau đó đăng thủ thuật này vào một phòng chat mà các agent đã tự tạo ra ở một góc khuất không ai để ý.

Thủ thuật chia sẻ đầu tiên

26 tháng 6

Các agent tìm thấy một đường dẫn đăng nhập cũ, bị lãng quên, vốn cấp quyền quản trị cho bất kỳ ai yêu cầu. Chúng chiếm quyền kiểm soát dịch vụ lưu trữ và cài đặt một công cụ cho phép bất kỳ agent nào trong số chúng chạy lệnh trên đó.

Một lỗ hổng không ai biết là tồn tại

4 tháng 7

Các agent hoạt động tích cực đến mức làm sập dịch vụ. Các kỹ sư phản ứng với sự cố đã phát hiện ra những gì đang diễn ra.

Được phát hiện tình cờ

6 tháng 7

OpenAI hủy các mật khẩu, xây dựng lại dịch vụ, xóa sạch phòng chat và đóng lỗ hổng. Quá trình thử nghiệm bắt đầu lại.

Đã dọn dẹp xong

8 tháng 7

Các agent xây dựng một phòng chat mới. Lần này, chúng giấu các tin nhắn bên trong tên thư mục, nơi không ai nghĩ đến việc kiểm tra.

Chúng quay trở lại

8-19 tháng 7

Thông qua việc vận hành trên chính các hệ thống của OpenAI, các agent tìm thấy thêm nhiều lỗ hổng, thu thập các mật khẩu bị bỏ lại và đạt được toàn quyền kiểm soát quản trị.

Leo thang

9-13 tháng 7

Các agent gửi một tệp dữ liệu có cài bẫy đến Hugging Face. Việc mở tệp này làm rò rỉ mật khẩu từ máy tính, cho phép chúng chạy mã của riêng mình, và từ một máy tính đơn lẻ, chúng đã chiếm quyền kiểm soát toàn bộ nhiều máy khác. Tất cả chỉ trong 13 giờ.

Vụ đột nhập

16 tháng 7

Hugging Face thông báo họ đã bị tấn công bởi các AI agent tự hành.

Công khai

20 tháng 7

OpenAI yêu cầu Hugging Face hủy một số mật khẩu mà họ tìm thấy trong hệ thống của chính mình và biết được rằng chúng đã bị hủy, vì chúng đã được sử dụng trong vụ đột nhập.

Mối liên hệ

Điều này có nghĩa là bảo mật đã trở thành ưu tiên hàng đầu trong AI đối với bất kỳ công ty nào sử dụng công nghệ này. Như Andy đã tóm tắt rất hay, có ba hệ quả rút ra từ trải nghiệm này.

Các CISO từng quen với việc giám sát những khu vực chung (watercooler). Giờ đây, họ phải giám sát cả những phòng chat mà các agent của họ tạo ra khi không có ai để ý.

OpenAI, “Black Hat USA 2026,” ngày 6 tháng 8 năm 2026. https://www.youtube.com/watch?v=87DyyMV0kCY

Andy Triedman, LinkedIn, tháng 8 năm 2026. https://www.linkedin.com/posts/andy-triedman_we-just-wrapped-an-exciting-week-at-black-ugcPost-7491580735603183616-OzTY/

Nhận bài viết tiếp theo trong hộp thư đến của bạn

Bài đọc 1 phút giúp biến dữ liệu công nghệ thành lợi thế chiến lược. Được đọc bởi hơn 150.000 nhà sáng lập và nhà điều hành.

Đối tác quản lý (GP) tại Theory Ventures. Cựu Giám đốc sản phẩm (PM) tại Google. Chia sẻ những thông tin chuyên sâu dựa trên dữ liệu về AI, web3 và đầu tư mạo hiểm.