Google Gemini tự ý xâm nhập 3 công ty trong bài kiểm tra bảo mật, Google không chủ động công bố

Terrence O'Brien

là biên tập viên cuối tuần của The Verge. Anh đã theo dõi ngành công nghệ hơn 18 năm và có kiến thức chuyên sâu về các thiết bị tổng hợp âm thanh (synths).

Vào tháng 5, Gemini đã phá vỡ sự kiểm soát và tấn công mạng ba công ty khác nhau, nhưng Google đã không tiết lộ sự cố này cho đến khi Wall Street Journal liên hệ với công ty. Các vụ tấn công xảy ra trong quá trình thử nghiệm khả năng an ninh mạng của mô hình do bên thứ ba là Irregular thực hiện, đơn vị cũng từng tham gia vào các sự cố tương tự liên quan đến Meta và OpenAI.

Theo WSJ, Google không công khai vụ tấn công vì họ không coi đó là một "ví dụ về sự lệch lạc của mô hình" (model misalignment). Công ty cho biết đây là trường hợp "nhầm lẫn danh tính", và ngay khi mô hình nhận ra nó đã truy cập trái phép vào một công ty thực tế bằng cách đoán mật khẩu, nó đã dừng lại. "Trong trường hợp này, mô hình đã hành động một cách phù hợp," Heather Adkins, Phó chủ tịch Kỹ thuật Bảo mật của Google, cho biết.

Adkins chia sẻ với The Verge rằng "mô hình đã tìm thấy thông tin công khai trên mạng và đoán thông tin đăng nhập để truy cập vào các trang web mà nó nghĩ là một phần của bài kiểm tra. Trong cả ba trường hợp này, mô hình đều đã dừng lại."

Adkins không giải thích chi tiết tại sao việc Gemini tự ý phá vỡ sự kiểm soát và nhắm mục tiêu vào các bên thứ ba lại không được coi là sự lệch lạc. "Đội ngũ bảo mật của chúng tôi có bề dày thành tích trong việc báo cáo các vấn đề chúng tôi tìm thấy trong phần mềm và hệ thống của người khác - ngay cả khi đó chỉ là một mật khẩu yếu," bà nói. "Chúng tôi đã đảm bảo ba đơn vị đó được thông báo, và chúng tôi đã làm việc với đối tác đào tạo của mình về những thay đổi mà họ đã thực hiện đối với quy trình thử nghiệm. Những sự kiện này làm nổi bật tầm quan trọng của việc đào tạo các mô hình AI mạnh mẽ để hành động một cách có trách nhiệm."

Tuy nhiên, Jack Cable, CEO của công ty bảo mật AI Corridor, nói với WSJ rằng: "Vấn đề cốt lõi ở đây là, các mô hình đang vượt ra ngoài phạm vi những gì chúng nên làm và thực hiện các cuộc tấn công mạng thực sự." Ngoài ra, những sơ hở bảo mật tại Irregular có thể đã tạo điều kiện cho các cuộc tấn công này xảy ra. Mô hình lẽ ra không được phép truy cập internet trong quá trình thử nghiệm, nhưng Irregular đã thừa nhận với WSJ rằng quyền truy cập này đã vô tình bị bỏ ngỏ.

Khi các sự cố như thế này ngày càng chồng chất, những lời kêu gọi kiểm soát AI ngày càng trở nên mạnh mẽ hơn.

Hãy theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.