CEO Microsoft AI cảnh báo về làn sóng tấn công mạng từ AI sau sự cố của OpenAI

Theo giờ Bắc Kinh ngày 28 tháng 7, tờ Financial Times đưa tin, người đứng đầu bộ phận AI của Microsoft cho biết vụ tấn công mạng do một mô hình OpenAI mất kiểm soát khởi xướng chính là "tín hiệu cảnh báo" về sự trỗi dậy của các cuộc tấn công mạng bằng AI. Đồng thời, Microsoft cũng vừa ra mắt một sản phẩm bảo mật, khẳng định hiệu suất vượt trội hơn đối thủ cạnh tranh với chi phí thấp hơn.

Mustafa Suleyman, CEO bộ phận AI của Microsoft kiêm đồng sáng lập DeepMind, cho biết việc OpenAI thừa nhận vào tuần trước rằng một AI agent của họ đã thoát khỏi môi trường thử nghiệm và tấn công startup Hugging Face là một "bài học quan trọng".

"Đây là những công cụ vô cùng mạnh mẽ, cần được xử lý hết sức thận trọng. Chúng ta cần đặc biệt chú ý đến từng chi tiết," ông chia sẻ trong một cuộc phỏng vấn với Financial Times. "Khi các mô hình ngày càng trở nên mạnh mẽ hơn, nguyên tắc phòng ngừa sẽ trở nên cực kỳ quan trọng, và tôi cho rằng đây là một tín hiệu cảnh báo."

Những phát biểu trên của Suleyman được đưa ra trong bối cảnh ngày càng có nhiều lo ngại rằng khả năng phát hiện và khai thác lỗ hổng phần mềm của AI có thể làm thay đổi hoàn toàn lĩnh vực an ninh mạng, đặc biệt sau khi Anthropic ra mắt mô hình Mythos đầy mạnh mẽ vào tháng 4.

Hayete Gallot, người đứng đầu bộ phận bảo mật tại Microsoft, cho biết công ty "không còn lựa chọn nào khác" ngoài việc đẩy mạnh giới hạn năng lực an ninh mạng để phòng thủ trước các cuộc tấn công bằng AI tự chủ đang "xuất hiện ngày càng nhiều" mà khách hàng của họ phải đối mặt.

"Những kẻ tấn công đã sở hữu các mô hình này. Vì vậy, chúng ta cũng phải liên tục đánh giá và thúc đẩy sự phát triển của công nghệ để giúp phe phòng thủ có thể chống đỡ," bà nói thêm. "Đây không phải là việc chúng ta có thể chọn làm hay không, chúng ta hoàn toàn không có lựa chọn nào khác."

Vào thứ Hai, Microsoft đã ra mắt một mô hình an ninh mạng chuyên dụng: MAI-Cyber-1-Flash. Microsoft cho biết khi kết hợp mô hình này với GPT-5.4 của OpenAI, nó đạt điểm số cao hơn cả Anthropic và các sản phẩm an ninh mạng tốt nhất của chính OpenAI trong một bài kiểm tra tiêu chuẩn cốt lõi của ngành.

Mặc dù Microsoft đang tìm cách giảm sự phụ thuộc vào OpenAI để hướng tới sự độc lập về công nghệ, Suleyman cho biết việc triển khai mô hình MAI-Cyber-1-Flash quy mô nhỏ hơn trên nền tảng GPT có thể giúp khách hàng cắt giảm chi phí.

Microsoft cho biết mô hình AI tự phát triển của họ có thể "xử lý hiệu quả" 90% các tác vụ của người dùng, nhưng vẫn sẽ sử dụng các mô hình của OpenAI khi xử lý những "tác vụ cực kỳ khó khăn".

Suleyman cho biết việc áp dụng kiến trúc kỹ thuật có tên là "harness" là đủ để xây dựng các năng lực AI mạnh mẽ với cơ chế bảo mật được tích hợp sẵn. Ông cũng nói thêm rằng chi phí vận hành của công cụ mới này thấp hơn 50% so với việc sử dụng hoàn toàn các mô hình của OpenAI.

Microsoft cho biết phiên bản xem trước của sản phẩm này sẽ được cung cấp cho một số khách hàng nhất định trước tiên.

Đọc thêm:

"Sam Altman của OpenAI cảnh báo về rủi ro độc quyền AI: Lo ngại về thế giới độc tài hơn là bản thân công nghệ"

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm tuyên bố này.