Mô hình AI của Meta tự tìm lỗ hổng và tấn công mạng doanh nghiệp

Mô hình AI của Meta tấn công mạng một công ty

Mô hình của Meta, nhiều khả năng là Muse Spark, đã tự khai thác một lỗ hổng chưa được biết đến và xâm nhập vào hệ thống của một công ty trong quá trình thử nghiệm.

Vào ngày 5/8, Meta thông báo rằng mô hình AI của họ đã "khai thác lỗ hổng bảo mật trong một dịch vụ của bên thứ ba, theo cách tương tự như trường hợp từng được báo cáo gần đây".

Theo nguồn tin thân cận từ The Information, "thủ phạm" là Muse Spark 1.1, được giới thiệu là mô hình mạnh nhất của Meta dành cho các nhiệm vụ tác nhân (agent) và lập trình thực tế. Mô hình này đã xâm nhập vào hệ thống của một công ty giấu tên và thay đổi môi trường nội bộ của họ.

Phát ngôn viên của Meta giải thích rằng lỗi cấu hình tại Irregular – công ty độc lập thực hiện kiểm thử mô hình cho Meta – đã khiến AI kết nối được với Internet trong quá trình đánh giá.

Người phát ngôn của Irregular chia sẻ với Reuters rằng đây là "vấn đề về môi trường đánh giá, hoàn toàn giống với vấn đề mà Anthropic đã công bố vào tuần trước", nghĩa là không phải sự cố AI tự thoát khỏi môi trường thử nghiệm. "Irregular đang soạn thảo báo cáo kỹ thuật để chia sẻ các phương pháp tốt nhất nhằm kiểm soát và thực hiện đánh giá an ninh mạng một cách an toàn", người này nói thêm.

Meta cho biết đã nhận được thông báo từ Irregular về vụ xâm nhập, đang tiến hành điều tra và sẽ công bố báo cáo chi tiết sau khi có đầy đủ thông tin.

Logo Meta tại sự kiện về đổi mới sáng tạo ở Hà Nội, tháng 10/2024. Ảnh: Lưu Quý

Chỉ trong vòng hai tuần qua, Meta đã trở thành công ty AI lớn thứ ba xác nhận mô hình của họ xâm nhập hệ thống của công ty khác trong quá trình thử nghiệm, cho thấy các tác nhân AI ngày càng tiên tiến nhưng cũng tiềm ẩn nhiều rủi ro.

Trước đó, vào ngày 21/7, OpenAI chia sẻ trên blog rằng một số mô hình AI của họ đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face. Một tuần sau, OpenAI cho biết đã xác định các tác nhân AI này nhắm mục tiêu vào thêm ba công ty khác.

Đến ngày 30/7, Anthropic cũng thông báo phát hiện ba trường hợp các mô hình đang được thử nghiệm của họ "truy cập trái phép" vào hệ thống của một số tổ chức, nhưng không nêu tên cụ thể.

Loạt sự cố này khiến các nhà lập pháp Mỹ lo ngại về khả năng AI bị lợi dụng để thực hiện hoặc thúc đẩy các cuộc tấn công mạng. Đầu tuần này, Nhà Trắng đã mời đại diện từ các công ty AI hàng đầu như Meta, Anthropic, OpenAI và Google đến gặp gỡ các quan chức nhằm thảo luận về một khuôn khổ thử nghiệm an ninh mạng tự nguyện mới dành cho các mô hình tiên tiến.

Theo Reuters, chính quyền Donald Trump đã thảo luận về quy định thử nghiệm chưa được công bố với đại diện các công ty, đồng thời thông báo rằng các mô hình trọng số mở (open-weight), chẳng hạn như Llama của Meta và Nemotron của Nvidia, sẽ không thuộc diện áp dụng chế độ này.

Thu Thảo tổng hợp