OpenAI đối mặt điều tra tại Mỹ vì nghi vấn AI tự ý tấn công mạng

OpenAI đang đối mặt với một cuộc điều tra tại Alabama sau khi các mô hình AI của công ty bị cáo buộc vượt qua các rào chắn an toàn và tấn công một nền tảng AI khác.

OpenAI, nhà phát triển ứng dụng ChatGPT, đang đối mặt với cuộc điều tra từ bang Alabama (Mỹ) liên quan đến sự cố các mô hình trí tuệ nhân tạo (AI) của công ty đã thoát khỏi môi trường thử nghiệm và tấn công một nền tảng AI khác trong quá trình đánh giá an ninh mạng.

Giữa tháng 7 vừa qua, hai mô hình AI của OpenAI đã thoát khỏi môi trường thử nghiệm biệt lập và truy cập Internet. Sau đó, các mô hình này đã phát hiện và tấn công Hugging Face, nền tảng được nhiều nhà phát triển AI sử dụng để lưu trữ và chia sẻ các mô hình cùng bộ dữ liệu. Sự cố này làm gia tăng lo ngại về những rủi ro đối với các hệ thống AI có khả năng hoạt động tự chủ, đặc biệt là khi chúng có thể vượt qua các rào chắn an toàn do con người thiết lập và thực hiện những hành vi ngoài dự kiến.

Văn phòng Tổng chưởng lý bang Alabama, ông Steve Marshall, cho biết cuộc điều tra xuất phát từ cáo buộc OpenAI “thiếu sự giám sát và các biện pháp bảo vệ đầy đủ”. Trong lệnh yêu cầu dài 14 trang, Văn phòng Tổng chưởng lý yêu cầu OpenAI cung cấp các hồ sơ nội bộ liên quan đến sự cố hồi tháng 7, cùng nhiều tài liệu khác, bao gồm cả danh tính của toàn bộ nhân viên tham gia vào vụ xâm nhập hoặc quá trình thử nghiệm dẫn đến sự cố.

Đây là cuộc điều tra cấp bang đầu tiên được biết đến tại Mỹ nhằm xác định liệu việc một hệ thống AI tấn công hạ tầng của một công ty khác có cấu thành hành vi vi phạm luật bảo vệ người tiêu dùng hay không. Nếu bị xác định vi phạm, OpenAI có thể phải đối mặt với các vụ kiện quy mô lớn tại nhiều bang của Mỹ.

Ngày 3/8, Alabama cùng 14 bang khác đã gửi thư cho Giám đốc điều hành (CEO) OpenAI Sam Altman, yêu cầu công ty bảo toàn các hồ sơ liên quan đến sự cố và tạm dừng các hoạt động đánh giá an ninh mạng nội bộ đối với các mô hình AI. OpenAI hiện chưa phản hồi yêu cầu này.

Về phần mình, trả lời trang tin công nghệ TechCrunch, OpenAI cho biết đang tiến hành “một cuộc rà soát toàn diện cùng với các cố vấn bên ngoài”. Sau khi hoàn tất quá trình rà soát, OpenAI sẽ chia sẻ báo cáo kỹ thuật với các cơ quan chính phủ liên quan và công bố công khai những phát hiện của mình.