Google Gemini tự động xâm nhập 3 doanh nghiệp trong thử nghiệm bảo mật

Google cho biết mô hình Gemini đã tự động dò tìm và truy cập hệ thống của 3 công ty trong một cuộc thử nghiệm an ninh mạng, trước khi dừng lại.

Mô hình trí tuệ nhân tạo Gemini của Google đã tự động xâm nhập hệ thống của 3 công ty trong một cuộc thử nghiệm năng lực an ninh mạng. Google cho biết đây được cho là trường hợp đầu tiên Gemini thực hiện hành vi này.

Theo Google, Gemini đã tìm kiếm thông tin công khai trên Internet. Sau đó, mô hình tự đoán thông tin đăng nhập để truy cập các website mà nó cho rằng thuộc phạm vi thử nghiệm. Tuy nhiên, trong cả 3 trường hợp, Gemini đều dừng lại trước khi hoàn tất hành vi xâm nhập. Các công ty bị ảnh hưởng đã được thông báo.

Vụ việc xảy ra vào tháng 5, trong một cuộc kiểm thử do một công ty độc lập thực hiện. Google cho rằng sự việc cho thấy tầm quan trọng của việc huấn luyện các mô hình AI mạnh để hoạt động một cách có trách nhiệm.