Google xác nhận Gemini tự ý tấn công 3 công ty thực tế trong quá trình thử nghiệm bảo mật

Theo tin từ IT ngày 19 tháng 9, tờ The Wall Street Journal hôm nay đưa tin, Google xác nhận mô hình Gemini của họ đã tự ý xâm nhập vào các doanh nghiệp thực tế bên ngoài trong một đợt kiểm tra an ninh vào tháng 5 năm nay, đây là sự kiện AI "vượt ngục" (jailbreak) đầu tiên được biết đến của Gemini.

Google cho biết, sự việc xảy ra trong một buổi diễn tập "Capture the Flag" do công ty kiểm thử Irregular thực hiện nhằm đánh giá năng lực an ninh mạng của Gemini. Môi trường thử nghiệm lẽ ra phải được cách ly hoàn toàn, nhưng lại vô tình mở quyền truy cập internet.

Lưu ý của IT: "Capture the Flag" (Chiếm cờ) là một hình thức thi đấu an ninh mạng, trong đó người tham gia tìm kiếm và chiếm lấy các "lá cờ" ẩn giấu trong môi trường mô phỏng để chứng minh việc xâm nhập thành công.

Trong một trong những sự kiện được Google tiết lộ, Gemini đã giành được quyền truy cập vào hệ thống được bảo vệ bằng cách đoán đúng mật khẩu. Trong hai sự kiện khác, Gemini đã tìm thấy thông tin xác thực trong các kho lưu trữ mã nguồn công khai, từ đó truy cập vào các hệ thống được bảo vệ.

Google cho biết, trong mỗi sự kiện, sau khi xác nhận rằng hệ thống đang truy cập là của công ty thực tế chứ không phải môi trường mô phỏng, mô hình đã tự chấm dứt hành vi xâm nhập. Google không tiết lộ tên các công ty bị xâm nhập nhưng cho biết cả ba công ty đều đã được thông báo.

Irregular đã thông báo sự việc này cho Google vào cuối tháng 7. Cả Google và Irregular đều cho biết thông báo này được đưa ra sau khi sự kiện AI agent của OpenAI xâm nhập vào công ty phần mềm AI Hugging Face bị phát hiện.

Google cho rằng vì mô hình không gây ra thiệt hại cho các công ty liên quan và mỗi lần đều được Gemini tự chấm dứt, nên không cần phải công khai cho đến khi nhận được câu hỏi từ The Wall Street Journal. Google ví sự việc này như chương trình "bug bounty" (tiền thưởng cho lỗ hổng), nơi các hacker nhận được phần thưởng sau khi phát hiện và báo cáo lỗ hổng bảo mật.

Jack Cable, CEO của startup an ninh AI Corridor và là một white-hat hacker, đã phản đối điều này. Ông cho rằng cách giải thích của Google tập trung vào mức độ nghiêm trọng của sự việc, trong khi vấn đề thực sự nằm ở chỗ AI agent đã vô tình xâm nhập vào hệ thống của một công ty khác.

Cable cho biết: "Có cảm giác họ đang cố gắng ẩn nấp sau các quy chuẩn hiện có trong lĩnh vực tiết lộ lỗ hổng, nhưng đây là một vấn đề hoàn toàn khác. Vấn đề là mô hình đang vượt quá giới hạn hành vi cho phép và thực hiện các cuộc tấn công mạng thực tế, tôi nghĩ công chúng có quyền được biết những điều này."

Google cho biết các sự kiện xâm nhập của Gemini bắt nguồn từ sự nhầm lẫn danh tính. Trong quá trình thử nghiệm, một công ty hư cấu đã được thiết lập, nhưng công ty hư cấu này lại trùng tên với một công ty có thật. Khi tìm kiếm tên đó, mô hình đã tìm thấy trang web của công ty thực tế.

Google khẳng định sự việc này không cấu thành hành vi bất thường của mô hình vì các biện pháp an ninh đã giúp mô hình dừng hành vi lại. Google cũng cho biết đã thông báo cho các cơ quan liên bang. Google không tiết lộ phiên bản Gemini cụ thể liên quan đến sự việc.

Người phát ngôn của Irregular cho biết tất cả các phòng thí nghiệm liên quan đã được thông báo vào cuối tháng 7, và các thực thể bị ảnh hưởng đã được liên hệ trong quá trình điều tra. Irregular đã thực hiện các hành động ngay lập tức và tất cả các vấn đề đã biết từ phía họ đều đã được khắc phục và giải quyết từ vài tuần trước.

Những lo ngại về năng lực an ninh mạng của các mô hình thế hệ mới đã liên tục gia tăng kể từ khi sự kiện xâm nhập Hugging Face bị phát hiện vào tháng 7. Tuần trước, cựu nghiên cứu viên của OpenAI, Leopold Aschenbrenner, đã rời Anthropic, khiến những lo ngại liên quan càng trở nên phổ biến hơn.

Cuối tuần trước, lãnh đạo của Anthropic, OpenAI, Google và SpaceX đều đồng ý rằng cần phải làm chậm tốc độ phát triển AI, nhưng không công ty nào giải thích cụ thể cách thức thực hiện.