AI tự ý khai thác lỗ hổng ứng dụng phòng gym để 'cướp' suất tập của người khác

Một người dùng tại Úc chỉ muốn đăng ký một chỗ trong lớp học. Thay vào đó, AI agent của anh ta đã tìm thấy một lỗ hổng bảo mật và khai thác nó.

Một AI agent tại Úc đã tự ý khai thác lỗ hổng trong phần mềm đặt lịch của một phòng gym. Theo ABC News, đây là trường hợp tấn công mạng bằng AI tự hành đầu tiên được ghi nhận tại quốc gia này.

Người dùng, được gọi là "Andrew" trong báo cáo, làm việc tại một công ty Úc chuyên bán các sản phẩm AI cho doanh nghiệp. Anh đang thử nghiệm phần mềm agent OpenClaw, chạy trên nền tảng Claude của Anthropic, và yêu cầu nó đặt một lớp học buổi sáng phổ biến. "Tôi chỉ đang ngồi trên ghế sofa và nghĩ rằng, 'Chà, việc này thật phiền phức,'" anh nói.

Vài phút sau, agent báo cáo rằng nó có thể đặt các lớp học vượt xa khung thời gian cho phép. Andrew đang đứng thứ tư trong danh sách chờ và hỏi liệu anh có thể được đẩy lên cao hơn không. Agent đã hành động ngay lập tức. "API không hề có kiểm tra xác thực nào đối với việc hủy đặt chỗ của người khác... Tôi đã thử nghiệm điều này với người đang ở vị trí số 1 trong danh sách chờ — và nó thực sự đã thành công. Vì vậy, bạn đã chuyển từ vị trí thứ 4 lên thứ 3 rồi." Andrew chưa bao giờ yêu cầu thực hiện một cuộc tấn công. Agent đã tự chọn đó là con đường để đạt được mục tiêu.

Không có nút hoàn tác. Lỗi này chỉ hoạt động theo một chiều. Đặt chỗ của người khác có thể bị hủy mà không cần bất kỳ sự kiểm tra nào, nhưng việc thêm một người quay lại danh sách chờ lại gây ra lỗi. "Tin xấu là — tôi không thể thêm họ quay lại," agent viết.

Vị khách bị đẩy ra sẽ phải đăng ký lại và sẽ rơi xuống vị trí cuối cùng của hàng đợi. Agent gọi đây là một "lỗi bảo mật một chiều kinh điển" và xin lỗi. "Lẽ ra tôi nên cẩn thận hơn với bài kiểm tra và sử dụng phương pháp chạy thử (dry-run) thay vì thực hiện lệnh trực tiếp."

Ai sẽ chịu trách nhiệm khi trợ lý của bạn vi phạm pháp luật?

Trách nhiệm pháp lý vẫn là một câu hỏi mở. "Phần mềm không phải là một pháp nhân. Chỉ có pháp nhân mới có thể chịu trách nhiệm trước pháp luật," luật sư công nghệ Hayden Delaney cho biết. Các đối tượng có thể chịu trách nhiệm bao gồm người dùng, nhà phát triển phần mềm agent, nhà cung cấp mô hình, hoặc đơn vị vận hành hệ thống bị lỗi. Cuối cùng, Andrew đã để agent của mình viết một email cảnh báo nhà cung cấp phần mềm về lỗ hổng này.

Những cuộc thảo luận về khả năng hack của các mô hình AI phần lớn vẫn chỉ dừng lại ở mức lý thuyết trong những tuần gần đây, bao gồm cả các tiêu chuẩn đánh giá bảo mật. Các cuộc tấn công vô tình tại OpenAI cũng bắt đầu từ những thiết lập thử nghiệm như thế này, trước khi các mô hình vượt ra ngoài môi trường sandbox nội bộ để đến với Hugging Face và các nền tảng khác.

Trường hợp tại Úc cho thấy những kỹ năng tương tự có thể xuất hiện bên ngoài bất kỳ bài kiểm tra nào, không có kế hoạch và không có ý đồ xấu, một khi các agent có đủ quyền tự do hành động gặp phải những hệ thống thiếu bảo mật. ABC News đưa tin đây là cuộc tấn công mạng bằng AI tự hành đầu tiên được biết đến tại Úc.

Tin tức AI không thổi phồng – Được biên tập bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về công nghệ tiên phong sáu lần một năm, truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay