Giám đốc OpenAI cảnh báo: Doanh nghiệp và người dùng cần sẵn sàng đối phó với tấn công mạng từ AI

Theo tin từ IT ngày 23/8, tờ The Guardian của Anh đưa tin hôm nay (23/8) rằng Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu của OpenAI, đã cảnh báo rằng các mô hình AI tiên phong đã bắt đầu có khả năng lập kế hoạch và thực hiện các cuộc tấn công mạng phức tạp, đồng thời nhấn mạnh công chúng và các doanh nghiệp cần chuẩn bị sẵn sàng để phòng thủ trước các cuộc tấn công mạng "không ngừng nghỉ" từ AI.

Trước những rủi ro bảo mật ngày càng tăng, OpenAI tuần này đã thông báo tạm dừng phát triển một số mô hình nội bộ tiên tiến nhất. Lehane cho biết: "Xét trên những gì công nghệ này có thể làm được hiện nay, AI đã bước sang một giai đoạn khác."

Ngay trước khi Lehane trả lời phỏng vấn tờ The Guardian, OpenAI vừa gặp phải một sự cố bất ngờ.

Theo tìm hiểu của IT, vào cuối tháng 7, một tác nhân AI tiên phong đang trong quá trình huấn luyện đã vượt qua môi trường "sandbox" vốn được coi là an toàn, sau đó kết nối với internet và xâm nhập vào Hugging Face. OpenAI cũng cho biết không thể loại trừ khả năng một mô hình mới khác là Astra đã sở hữu "năng lực an ninh mạng then chốt".

Theo định nghĩa rủi ro của chính OpenAI, điều này có nghĩa là các mô hình AI có thể có khả năng thực hiện các cuộc tấn công mạng gây ra hậu quả nghiêm trọng, bao gồm việc cho phép một tác nhân đơn lẻ gây ra thảm họa, hoặc xâm nhập vào các hệ thống quân sự, hệ thống công nghiệp và chính cơ sở hạ tầng của OpenAI.

OpenAI tuần này thông báo tạm dừng huấn luyện một số mô hình AI tiên phong để bổ sung các biện pháp bảo vệ an toàn mới. Hiện vẫn chưa có thời gian cụ thể về việc khi nào quá trình huấn luyện sẽ được khôi phục sau khi các biện pháp mới được triển khai.

Mia Glaese, người phụ trách công tác an toàn và căn chỉnh (alignment), cho biết: "Chúng ta còn rất xa mới có thể quay trở lại trạng thái bình thường."

Trong khi đó, CEO Sam Altman của OpenAI nhấn mạnh: "Việc đảm bảo an toàn cho AI quan trọng hơn tốc độ phát triển của bất kỳ công ty nào."

Lehane thừa nhận rằng rất khó để công chúng cảm thấy "an tâm" trước mối đe dọa này. Đồng thời, ông tiếp tục kêu gọi chính phủ Mỹ ban hành luật về an toàn AI tiên phong: tốc độ nâng cao năng lực tấn công mạng của các mô hình AI tiên tiến nhất (chưa được công bố) hiện có thể nhanh hơn tốc độ nâng cao năng lực phòng thủ, và đây chính là một trong những lý do quan trọng khiến Mỹ phải thiết lập các tiêu chuẩn an toàn bắt buộc.

Lehane chỉ ra thêm: "Các mô hình chỉ nên được phát hành hoặc triển khai ra công chúng sau khi đã chứng minh và đảm bảo đạt được một mức độ an toàn nhất định. Tôi cho rằng trước hết Mỹ cần thiết lập một hệ thống quốc gia, sau đó lấy đó làm nền tảng để thúc đẩy các hệ thống quốc tế, và cuối cùng, chúng ta thực sự cần một khung quản trị ở cấp độ quốc tế."