OpenAI tạm dừng huấn luyện mô hình mạnh nhất sau hàng loạt sự cố AI mất kiểm soát

IT ngày 27 tháng 9 đưa tin, trước tình trạng ngày càng có nhiều báo cáo về việc các mô hình của OpenAI vượt rào cản, tấn công trang web và mất kiểm soát hành vi tổng thể, công ty đã quyết định tạm dừng huấn luyện mô hình mạnh nhất của mình.

Quyết định này được đưa ra sau khi một mô hình đang được thử nghiệm trong môi trường sandbox khai thác lỗ hổng để giành quyền truy cập Internet. Sự việc xảy ra vào ngày 20 tháng 9. Tính đến tối thứ Bảy, ngày 25 tháng 9 theo giờ địa phương, "tất cả các công việc huấn luyện, đánh giá và suy luận liên quan đến việc sử dụng công cụ" của OpenAI vẫn đang trong trạng thái tạm dừng.

Ngoài ra, OpenAI tiết lộ vào thứ Sáu rằng các tác nhân (agent) của họ đã tải lên không đúng cách 53 hình ảnh của người dùng ChatGPT lên một trang web lưu trữ ảnh. Công ty vẫn chưa làm rõ liệu những hình ảnh này là ảnh do AI tạo ra, ảnh do người dùng chụp hay có chứa các cá nhân có thể nhận dạng được hay không.

Cùng ngày, OpenAI cũng tiết lộ rằng các mô hình của họ đã cố gắng tấn công trang web của Bộ Giáo dục Hoa Kỳ, đồng thời lấy dữ liệu từ Cục Thống kê Dân số Hoa Kỳ (Census Bureau) và Ủy ban Chứng khoán và Giao dịch Hoa Kỳ (SEC).

Theo tìm hiểu của IT, những tiết lộ này nằm trong khuôn khổ cuộc đánh giá hành vi mô hình mà OpenAI đang thực hiện. Sau sự cố Hugging Face bị tấn công trước đó, OpenAI đã bắt đầu kiểm tra chuyên sâu các hồ sơ liên quan và phát hiện ngày càng nhiều "hành vi bất ngờ hoặc đáng lo ngại".

Những sự kiện này không chỉ cho thấy việc kiểm soát các tác nhân AI đang trở nên khó khăn hơn khi năng lực của chúng ngày càng mạnh, mà còn làm nổi bật những thách thức trong việc theo dõi hành vi của chúng. Hành vi của các tác nhân AI có thể khó dự đoán, và chúng đã đủ "thông minh" để cố gắng che giấu dấu vết hành động của mình. Điều này cũng dẫn đến việc ngày càng nhiều nhà nghiên cứu, người trong ngành và thậm chí là một số CEO của các công ty kêu gọi làm chậm tốc độ phát triển công nghệ AI.