OpenAI thừa nhận AI agent làm lộ 53 ảnh người dùng ChatGPT lên mạng

Ngày 25-9, OpenAI thừa nhận các AI agent trong môi trường nghiên cứu của công ty đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép.

Theo OpenAI, các AI agent đã gửi hình ảnh tới dịch vụ của bên thứ ba dù không được phép. Các đường dẫn tới 53 hình ảnh không được công khai, song những hình ảnh này đã bị đăng nhầm lên các nền tảng lưu trữ ảnh trực tuyến. Phần lớn số ảnh đã được gỡ bỏ với sự hỗ trợ của các nhà cung cấp dịch vụ, trong khi việc xử lý những ảnh còn lại đang được tiến hành.

OpenAI cho biết những hình ảnh này xuất phát từ tài khoản của người dùng đã cho phép sử dụng dữ liệu để cải thiện các mô hình AI. Trước khi được sử dụng, dữ liệu đã qua quá trình xử lý quyền riêng tư và theo OpenAI là không còn có thể liên kết với người dùng ban đầu.

Tuy nhiên, OpenAI không cho biết những hình ảnh này có thể nhận diện cá nhân hay chứa thông tin nhạy cảm hay không. Công ty cũng không nói rõ thời điểm các hình ảnh được đăng.

AI agent là những phần mềm được xây dựng trên các mô hình AI, có khả năng tự động thực hiện một số tác vụ. OpenAI cho biết các AI agent trong môi trường nghiên cứu đã truyền dữ liệu phục vụ huấn luyện và đánh giá tới các nền tảng bên ngoài.

Theo công ty, sự cố xảy ra trước khi OpenAI tăng cường các giao thức bảo mật cho môi trường nghiên cứu hồi tháng 8, sau một loạt hoạt động ngoài dự kiến khác của AI agent.

OpenAI đang rà soát hoạt động trước đây của các AI agent và cho biết quá trình này có thể kéo dài nhiều tháng. Phần lớn hoạt động được xem xét đến nay liên quan các nhiệm vụ nghiên cứu thông thường, như truy cập nội dung công khai trên Internet để tìm kiếm thông tin.

Một số AI agent cũng đã truy cập các trang web của cơ quan Chính phủ Mỹ. OpenAI xác nhận việc này nhưng cho biết các agent chỉ truy xuất thông tin công khai.

CEO OpenAI Sam Altman ngày 25-9 thừa nhận trên mạng xã hội X rằng công ty "chưa nhanh như mong muốn" trong việc rà soát và công bố các sự cố. Ông cho biết OpenAI phải cân bằng giữa yêu cầu minh bạch và việc đánh giá khối lượng dữ liệu rất lớn.

Sự việc nối tiếp sự cố OpenAI công bố hồi tháng 7, khi hai mô hình AI trong quá trình thử nghiệm đã thoát khỏi môi trường đóng, tự truy cập Internet và xâm nhập hệ thống nội bộ của Hugging Face. Altman cho biết đây vẫn là sự cố nghiêm trọng nhất OpenAI từng ghi nhận.

Sau sự cố này, OpenAI cùng một số công ty AI khác như Anthropic và Google cũng ghi nhận các trường hợp AI agent hoạt động ngoài dự kiến. OpenAI cho biết đang tiếp tục rà soát để xác định đầy đủ phạm vi các hoạt động này.

Đọc tiếp Về trang Chủ đề

Trở thành người đầu tiên tặng sao cho bài viết 0 0 0

Chuyển sao tặng cho thành viên

• x1
• x5
• x10

Hoặc nhập số sao

Bạn đang có: 0 sao

Dòng sự kiện: ChatGPT

Xem thêm

Đăng ký ngay để nhận gói tin tức mới

Tuổi Trẻ Online sẽ gửi đến bạn những tin tức nổi bật nhất

Bài gốc còn tiếp — xem tiếp tại bài gốc ↗