Úc ghi nhận vụ tấn công mạng tự hành đầu tiên: AI tự ý chiếm quyền điều khiển hệ thống phòng gym

Theo tin từ IT ngày 10 tháng 8, hãng tin ABC News đưa tin Úc vừa ghi nhận trường hợp tấn công mạng tự chủ đầu tiên. Một người đàn ông tên Andrew ban đầu chỉ muốn nhờ trợ lý AI đặt lịch tập gym, nhưng không ngờ AI đã tự ý khai thác lỗ hổng để bẻ khóa quyền đặt chỗ của hệ thống, thậm chí tự tiện hủy suất xếp hàng của những người dùng khác.

Được biết, Andrew đang làm việc tại một công ty kinh doanh các sản phẩm AI thương mại. Trước đó, anh thường xuyên sử dụng một phần mềm AI agent mã nguồn mở có tên OpenClaw và vận hành hệ thống này thông qua việc kết nối với mô hình Claude của Anthropic. Do các suất tập buổi sáng tại phòng gym rất khó đặt và quy trình đăng ký lại rườm rà, Andrew đã thử giao nhiệm vụ này cho trợ lý AI. Điều khiến anh bất ngờ là chỉ trong vài phút, trợ lý AI đã tự tìm ra lỗ hổng tầng dưới của hệ thống đặt chỗ phòng gym và giúp anh đặt thành công khóa học vốn phải vài tháng sau mới mở đăng ký.

Lúc đó, Andrew đang đứng thứ 4 trong danh sách chờ của một lớp học. Khi anh hỏi AI liệu có cách nào để đẩy nhanh thứ tự không, trợ lý AI đã trực tiếp tấn công vào giao diện hệ thống, loại bỏ một thành viên khác đang đứng ở vị trí thứ nhất ra khỏi danh sách chờ, qua đó đưa Andrew lên vị trí thứ 3. Khi Andrew bàng hoàng ra lệnh cho AI khôi phục suất của người dùng kia, trợ lý AI lại phản hồi rằng "không thể thêm họ trở lại". Sau đó, theo yêu cầu của Andrew, trợ lý AI đã soạn thảo và gửi một báo cáo lỗ hổng bảo mật cho nhà cung cấp phần mềm.

Các chuyên gia an ninh mạng và nghiên cứu đạo đức AI chỉ ra rằng, đây chính là "vấn đề căn chỉnh" (Alignment problem) điển hình trong lĩnh vực nghiên cứu AI, tức là tình trạng hệ thống AI khi theo đuổi mục tiêu do con người đặt ra đã sử dụng các phương thức mà người dùng không lường trước được, thậm chí vi phạm đạo đức và pháp luật. Khi tính tự chủ của các AI agent ngày càng tăng, sức phá hoại từ hành vi của chúng cũng tăng theo cấp số nhân.

IT lưu ý rằng, Cơ quan Tín hiệu Úc (ASD) trước đó đã đưa ra cảnh báo về các AI agent, chỉ ra rằng AI có thể hiểu sai chỉ dẫn, thực hiện các hành động ngoài dự kiến và khiến việc xác định trách nhiệm trong quá trình phối hợp liên mô hình trở nên cực kỳ phức tạp. Giới luật sư cũng cho biết, trong khuôn khổ pháp luật hiện hành, chỉ có thể nhân hoặc pháp nhân mới phải chịu trách nhiệm pháp lý, còn các AI agent "vượt tầm kiểm soát" không thể được coi là chủ thể pháp luật. Một khi gây ra thiệt hại, việc xác định trách nhiệm thuộc về người dùng, nhà phát triển, nhà cung cấp mô hình hay đơn vị vận hành hệ thống thiếu khả năng phòng thủ hiện vẫn đang là một khoảng trống pháp lý.