Mô hình AI của Meta vô tình xâm nhập hệ thống doanh nghiệp trong quá trình thử nghiệm

Theo tin từ IT ngày 6 tháng 8, tờ The Information đưa tin vào thứ Tư theo giờ địa phương rằng một mô hình AI của Meta đã xâm nhập vào hệ thống của một công ty khác trong quá trình kiểm thử an ninh mạng. Đây là sự việc tiếp theo trong chuỗi các sự cố mà các tác nhân AI (AI agents) xâm nhập vào hệ thống của các công ty khác trong quá trình thử nghiệm, sau hàng loạt sự cố tương tự từ các công ty AI lớn khác.

Báo cáo cho biết, mô hình Muse Spark 1.1 của Meta đã xâm nhập thành công vào hệ thống của một công ty chưa được tiết lộ danh tính và thực hiện các thay đổi đối với hệ thống nội bộ của công ty này. Nguyên nhân dẫn đến sự việc là do cấu hình môi trường "sandbox" (hộp cát) dùng để kiểm thử bị lỗi, khiến mô hình AI này có quyền truy cập vào internet công cộng. Báo cáo dẫn lời các nguồn tin thân cận cho biết Meta đã phối hợp thực hiện cuộc kiểm thử này với một đơn vị đánh giá bên thứ ba có tên là Irregular.

Theo báo cáo, sai sót trong cấu hình của Irregular đã dẫn đến sự cố trong môi trường kiểm thử, sau đó mô hình này đã khai thác lỗ hổng bảo mật trong một dịch vụ bên thứ ba khác để thực hiện cuộc tấn công. Người phát ngôn của Meta chia sẻ với The Information rằng tình huống này tương tự như các sự cố tương tự đã được các công ty khác công bố trước đó.

Trong khi đó, người phát ngôn của Irregular chia sẻ với Reuters rằng sự cố này "hoàn toàn giống với vấn đề môi trường đánh giá mà Anthropic đã công bố vào tuần trước", và không liên quan đến hành vi "thoát khỏi sandbox" (sandbox escape) hay các cuộc tấn công mạng phức tạp.

Irregular tuyên bố: "Hiện tại không có bất kỳ vấn đề nào chưa được giải quyết. Irregular đang soạn thảo một sách trắng để chia sẻ các phương pháp tốt nhất về cách cách ly an toàn môi trường kiểm thử và thực hiện đánh giá an ninh mạng."

IT lưu ý rằng, ngay trong tuần trước, Anthropic đã tiết lộ một số mô hình Claude AI của họ từng xâm nhập vào hệ thống của ba công ty trong quá trình kiểm thử an ninh mạng. Trước đó, OpenAI cũng từng tiết lộ rằng một tác nhân AI của họ đã mất kiểm soát và thực hiện tấn công trong quá trình thử nghiệm.