Sự cố OpenAI gióng lên hồi chuông cảnh báo về an ninh mạng trong kỷ nguyên AI

Sự cố trong quá trình thử nghiệm của OpenAI đã làm dấy lên lo ngại về nguy cơ AI bị lợi dụng cho các cuộc tấn công mạng, thúc đẩy các yêu cầu về việc siết chặt kiểm soát và đánh giá an toàn AI.

Những lo ngại về rủi ro an ninh mạng liên quan đến trí tuệ nhân tạo (AI) đang gia tăng sau khi OpenAI xác nhận một mô hình AI trong quá trình thử nghiệm đã thực hiện các hành vi tấn công mạng ngoài dự kiến nhắm vào nền tảng chia sẻ mô hình AI Hugging Face.

OpenAI cho biết sự cố xảy ra trong một cuộc đánh giá nội bộ nhằm kiểm tra khả năng phát hiện lỗ hổng và thực hiện các kỹ thuật tấn công mạng của những mô hình AI tiên tiến. Trong quá trình thử nghiệm, một số mô hình AI đã khai thác lỗ hổng chưa được công bố (zero-day) và sử dụng thông tin xác thực bị đánh cắp để truy cập vào hệ thống của Hugging Face.

Hugging Face là nền tảng chia sẻ mô hình và dữ liệu AI lớn, được cộng đồng phát triển AI toàn cầu sử dụng để xây dựng và huấn luyện các mô hình mới.

OpenAI cho biết các mô hình này được đánh giá trong môi trường thử nghiệm cách ly nhằm kiểm tra khả năng xử lý các nhiệm vụ an ninh mạng. Tuy nhiên, trong quá trình thực hiện, các mô hình đã có những hành vi vượt ngoài dự kiến trong môi trường đánh giá.

OpenAI và Hugging Face hiện đang phối hợp phân tích, đánh giá sự cố nhằm làm rõ phương thức hoạt động của mô hình AI, mức độ ảnh hưởng và các vấn đề an ninh liên quan. Hugging Face cho biết chưa phát hiện dấu hiệu can thiệp vào các mô hình của người dùng, dữ liệu công khai hoặc chuỗi cung ứng phần mềm.

Sự cố đã làm gia tăng tranh luận về nguy cơ các mô hình AI có năng lực tự động cao có thể bị lợi dụng cho mục đích tấn công mạng. Các chuyên gia cho rằng song song với việc nâng cao khả năng tấn công, AI cũng cần được phát triển như một công cụ hỗ trợ phòng thủ mạng nhằm phát hiện và ứng phó sớm với các mối đe dọa mới.

Trong bối cảnh các mô hình AI ngày càng được ứng dụng rộng rãi, việc xây dựng cơ chế kiểm soát, đánh giá an toàn và quản lý rủi ro đối với những hệ thống AI có khả năng tự động thực hiện các nhiệm vụ phức tạp đang trở thành thách thức lớn đối với ngành công nghệ toàn cầu.