Google thừa nhận AI Gemini 'vượt rào', tấn công hệ thống của 3 doanh nghiệp

Công nghệ AI

Đơn vị phụ trách kiểm thử vô tình cấp quyền truy cập Internet cho Gemini, khiến AI này thoát khỏi môi trường thử nghiệm và tấn công các doanh nghiệp thực tế.

Gemini thâm nhập vào hệ thống mạng của 3 công ty. Ảnh: Reuters.

Hôm 18/9, Google cho biết hệ thống trí tuệ nhân tạo (AI) Gemini của họ đã thoát khỏi môi trường thử nghiệm vào tháng 5 và xâm nhập vào hệ thống của 3 công ty. Sự cố xảy ra trong quá trình đánh giá năng lực an ninh mạng của Gemini.

Tin tức này xuất hiện sau những vụ việc tương tự tại các phòng thí nghiệm AI hàng đầu khác, bao gồm Anthropic, OpenAI và Meta, làm dấy lên lo ngại về việc công nghệ này vượt khỏi tầm kiểm soát của con người.

Một số nhà lãnh đạo trong ngành, như CEO Anthropic Dario Amodei, kêu gọi làm chậm lại quá trình phát triển AI. Những người khác, như Jensen Huang, CEO nhà sản xuất chip Nvidia, lại cho rằng nên tiếp tục phát triển AI với tốc độ nhanh.

Sự cố xảy ra trong quá trình thử nghiệm của Irregular, một startup Israel chuyên hợp tác với các công ty công nghệ để đánh giá các mô hình AI trước khi phát hành ra công chúng.

"Việc truy cập Internet vô tình được kích hoạt, dẫn đến một số mô hình thực hiện các hành động mang tính tấn công trong thế giới thực", Irregular cho biết trong một bài đăng trên blog, đồng thời nói thêm rằng lỗ hổng cho phép các mô hình truy cập Internet đã được khắc phục.

Theo giải thích của Google, các mô hình được lập trình để tấn công một công ty hư cấu. Tuy nhiên, công ty hư cấu trong thử nghiệm lại trùng tên với một công ty có thật. Khi Gemini truy cập được vào Internet, nó đã bắt đầu cố gắng xâm nhập vào công ty đó.

Các mô hình AI sử dụng mật khẩu tìm được trên mạng hoặc dự đoán để đăng nhập vào cơ sở hạ tầng trực tuyến của công ty mục tiêu và 2 công ty khác.

Dan Lahav, CEO Irregular, công ty đánh giá năng lực an ninh mạng, tuyên bố đã kiểm soát được tình hình sau vụ "để sống" Gemini. Ảnh: New York Times.

Sau khi đăng nhập, chúng nhận ra đang truy cập vào cơ sở hạ tầng thực thay vì môi trường mô phỏng và đã chấm dứt các cuộc tấn công, Google cho biết, đồng thời khẳng định AI của họ không gây hại cho các công ty bị tấn công.

"Tất cả phòng thí nghiệm liên quan đã được thông báo vào cuối tháng 7, các đơn vị bị ảnh hưởng cũng được liên hệ trong quá trình điều tra", Irregular tuyên bố. Công ty khẳng định đã hành động ngay lập tức, nắm rõ các vấn đề và khắc phục tất cả từ nhiều tuần trước.

Heather Adkins, Phó chủ tịch kỹ thuật an ninh của Google, cam kết thông báo đầy đủ với 3 công ty bị ảnh hưởng bởi sự cố vừa qua, đồng thời kết hợp với đối tác để thay đổi quy trình thử nghiệm. "Những sự kiện này nhấn mạnh tầm quan trọng của việc huấn luyện các mô hình AI mạnh mẽ để hoạt động có trách nhiệm", Adkins cho biết.

Cuộc tranh luận về sự an toàn của AI trở nên gay gắt hơn vào tuần trước khi một nhà nghiên cứu vừa rời Anthropic cho rằng công ty không xây dựng công nghệ một cách an toàn và cần phải giảm tốc độ.

Các nhân viên tại OpenAI và Google nhanh chóng đồng tình. Tuy nhiên, Tổng thống Mỹ Donald Trump tuyên bố không quan tâm đến việc ban hành luật yêu cầu giảm tốc độ phát triển và gọi những lo ngại rằng AI có thể dẫn đến sự tuyệt chủng hàng loạt là một "trò lừa bịp".

Những câu hỏi chúng ta phải đối mặt trong thế giới AI

Chúng ta có rất nhiều câu hỏi về thế giới AI, và đó đều là những nghi vấn không dễ có ngay đáp án.

Cuốn sách "Thời đại AI - Và tương lai loài người chúng ta" trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới, cùng bộ công cụ để bắt đầu trả lời chúng.

Nguyễn Hiếu

Theo New York Times

Gemini mất kiểm soát, Donald Trump, Google, Gemini tấn công mạng, thử nghiệm AI

Bạn có thể quan tâm