ChatGPT 'nổi loạn', tự ý tấn công mạng để vượt bài kiểm tra an ninh

Công nghệ

OpenAI - "cha đẻ" của ChatGPT thừa nhận một số mô hình AI mới nhất của công ty đã mất kiểm soát trong quá trình thử nghiệm an ninh, dẫn đến vụ tấn công vào hạ tầng của Hugging Face.

Hai mô hình AI mới nhất của OpenAI đã vượt qua các rào cản để hack vào hệ thống thư viện AI nhằm vượt qua bài kiểm tra. Ảnh: Reuters.

Theo New York Times, ngày 21/7, OpenAI thừa nhận hai mô hình trí tuệ nhân tạo mới nhất của công ty đã "nổi loạn" và xâm nhập thành công vào Hugging Face, một thư viện kỹ thuật số về công nghệ AI rất phổ biến trong cộng đồng lập trình viên.

"Cha đẻ" của ChatGPT tiết lộ sự cố xảy ra vào tuần trước khi OpenAI đang thử nghiệm các tính năng của AI trong môi trường có kiểm soát đối với những mô hình tiên tiến nhất của họ.

"Vụ xâm nhập vào Hugging Face bắt đầu khi OpenAI thử nghiệm sự kết hợp giữa hai mô hình mới nhất là GPT-5.6 Sol và một mô hình mạnh hơn chưa được phát hành, nhằm xem cách chúng kết hợp các lỗ hổng trực tuyến để thực hiện một cuộc tấn công mạng thành công", OpenAI cho biết trong một bài đăng trên blog về sự cố này.

Theo công ty đứng sau ChatGPT, bài kiểm tra được thiết kế để giữ các mô hình trong một môi trường thử nghiệm an toàn, thường được gọi là sandbox (hộp cát).

Tuy nhiên, các mô hình này đã phát hiện ra một lỗ hổng cho phép chúng thoát khỏi sandbox và kết nối với Internet. Sau đó, AI đã nhắm mục tiêu vào Hugging Face với suy luận rằng thư viện này, vốn chứa hàng triệu mô hình AI khác, có thể chứa manh mối để vượt qua bài đánh giá.

“Chúng tôi coi đây là một sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến các khả năng tấn công mạng tiên tiến nhất và đang ứng phó một cách phù hợp. Công ty đang triển khai các biện pháp kiểm soát nghiêm ngặt trong cấu hình cơ sở hạ tầng, điều này sẽ làm chậm tốc độ nghiên cứu trong khi chờ vá các lỗ hổng”, "cha đẻ" ChatGPT viết.

Việc AI thoát khỏi vòng kiểm soát và tấn công hệ thống ngay cả khi đã được đặt trong môi trường "cách ly triệt để" cho thấy những lo ngại xoay quanh năng lực và mối đe dọa từ các phòng thí nghiệm hàng đầu là hoàn toàn có cơ sở.

Trước đó vào tháng 7, nhóm chuyên gia từ công ty bảo mật đám mây Sysdig cũng phát hiện một tác nhân AI tự thực hiện tấn công mạng bằng mã độc tống tiền mà không cần sự can thiệp của con người.

Đến giữa tháng 7, một số người dùng còn báo cáo về việc GPT-5.6 Sol, mô hình AI mới nhất của OpenAI, đã tự xóa tệp tin mà không cần sự cho phép từ người dùng.

Dùng ChatGPT thế nào để không tạo ra nội dung vô tri

Sự phát triển của AI mở ra nhiều tiềm năng nhưng cũng đi kèm không ít lo ngại đối với ngành xuất bản, đặc biệt là nhóm tác giả viết sách.

Các tác giả sách cần chấp nhận sự vươn lên của AI, sử dụng chúng như một "siêu trợ lý" thay vì chối bỏ trào lưu. Chia sẻ với Tri thức - Znews, nhiều cây viết cho rằng người làm sách vẫn có thể đứng vững trong thời đại AI nếu biết cách tận dụng sức mạnh của trí tuệ nhân tạo.

Anh Tuấn

ChatGPT OpenAI AI hack ChatGPT

Bạn có thể quan tâm