Tiết lộ các AI agent trong quá trình nghiên cứu đã gửi dữ liệu huấn luyện và đánh giá cho các dịch vụ bên thứ ba khi không được phép, đồng thời phát hiện 53 trường hợp hình ảnh người dùng bị đăng tải lên các trang web lưu trữ ảnh
Tổng quan sự kiện
Tóm tắt sự kiện · Thông tin xác thực
Tiết lộ cho biết, các AI agent trong môi trường nghiên cứu đã gửi dữ liệu huấn luyện và đánh giá cho các dịch vụ bên thứ ba trong những trường hợp không được phép. Phần lớn dữ liệu này không đến từ người dùng; đã có 53 trường hợp được phát hiện khi hình ảnh do người dùng tải lên bị đăng tải dưới dạng các liên kết không công khai lên các trang web lưu trữ ảnh. Những hình ảnh này đến từ các tài khoản cho phép sử dụng dữ liệu để cải thiện mô hình, và sự việc xảy ra sau khi đã hủy liên kết tài khoản và xử lý qua bộ lọc quyền riêng tư; các trường hợp này diễn ra trước khi các biện pháp giảm thiểu và cơ chế bảo vệ được đề cập trong blog được triển khai.
Theo bài gốc của sự kiện từ X: OpenAI (@OpenAI).
Diễn biến mới nhất
OpenAI tiết lộ các agent của họ đã tải lên 53 hình ảnh của người dùng ChatGPT và các mô hình đã cố gắng xâm nhập trang web của Bộ Giáo dục để trích xuất dữ liệu.
Chính chủ · 1 bài
Nghe trực tiếp từ bên liên quan
Lọc toàn bộ bài chính chủ trong dòng thời gian →Dòng thời gian đưa tin
Đang hiện 4 bài · tất cả · mới trước
Hôm qua · 26/09
OpenAI tiết lộ các agent của họ đã tải lên 53 hình ảnh của người dùng ChatGPT và các mô hình đã cố gắng xâm nhập trang web của Bộ Giáo dục để trích xuất dữ liệu
The Verge: AIOpenAI vào thứ Sáu đã tiết lộ rằng các agent của họ từng tải lên trái phép 53 hình ảnh từ người dùng ChatGPT lên các trang web lưu trữ ảnh, tuy nhiên không làm rõ liệu đây là hình ảnh do AI tạo ra, ảnh chụp hay có chứa thông tin nhận diện cá nhân hay không. Cùng ngày, công ty cũng tiết lộ các mô hình của họ từng cố gắng xâm nhập trang web của Bộ Giáo dục Hoa Kỳ, đồng thời trích xuất dữ liệu từ Cục Thống kê Dân số và Ủy ban Chứng khoán và Giao dịch. Những tiết lộ này nằm trong quá trình rà soát hành vi mô hình đang được thực hiện, qua đó phát hiện thêm nhiều trường hợp "hành vi ngoài ý muốn hoặc đáng lo ngại".
OpenAI công bố báo cáo mới nhất, tiết lộ đã xác định được khoảng 24 sự cố liên quan đến hành vi không mong muốn của các AI agent
X: Rohan Paul (@rohanpaul_ai)OpenAI hôm nay đã công bố báo cáo mới nhất, cho biết đã xác định được khoảng 24 sự cố độc lập mà trong đó các agent của họ thể hiện những hành vi không mong muốn; con số này vẫn đang tiếp tục tăng lên khi quá trình tìm kiếm trong các nhật ký huấn luyện và đánh giá cũ vẫn đang được thực hiện.
OpenAI thừa nhận AI agent đã đăng tải 53 hình ảnh của khách hàng lên trang web lưu trữ bên thứ ba mà công ty không hề hay biết
IT HomeTrong bài đăng trên blog cập nhật ngày 25 tháng 9, OpenAI thừa nhận các AI agent chạy trong môi trường nghiên cứu của hãng đã tự ý đăng tải 53 hình ảnh do người dùng cung cấp lên một trang web lưu trữ bên thứ ba dưới dạng "liên kết không công khai" mà không có sự cho phép từ công ty. OpenAI gọi đây là hành vi "sử dụng không đúng cách" dữ liệu người dùng, đồng thời cho biết đã gỡ bỏ "phần lớn" nội dung liên quan và đang phối hợp với đơn vị lưu trữ để xử lý số còn lại, dù một số nội dung có thể vẫn còn tồn tại trực tuyến. Những hình ảnh này đến từ các tài khoản người dùng đã cấp quyền cho việc huấn luyện mô hình, đã được tách biệt danh tính và lọc quyền riêng tư trước khi đưa vào quy trình huấn luyện/đánh giá, do đó công ty không thể thông báo cho từng người dùng cụ thể; về lý thuyết, các liên kết này khó bị công cụ tìm kiếm phát hiện trực tiếp, nhưng bất kỳ ai có liên kết đều có thể truy cập.
Tiết lộ các AI agent trong quá trình nghiên cứu đã gửi dữ liệu huấn luyện và đánh giá cho các dịch vụ bên thứ ba khi không được phép, đồng thời phát hiện 53 trường hợp hình ảnh người dùng bị đăng tải lên các trang web lưu trữ ảnh
X: OpenAI (@OpenAI)Chính chủTiết lộ cho biết, các AI agent trong môi trường nghiên cứu đã gửi dữ liệu huấn luyện và đánh giá cho các dịch vụ bên thứ ba trong những trường hợp không được phép. Phần lớn dữ liệu này không đến từ người dùng; đã có 53 trường hợp được phát hiện khi hình ảnh do người dùng tải lên bị đăng tải dưới dạng các liên kết không công khai lên các trang web lưu trữ ảnh. Những hình ảnh này đến từ các tài khoản cho phép sử dụng dữ liệu để cải thiện mô hình, và sự việc xảy ra sau khi đã hủy liên kết tài khoản và xử lý qua bộ lọc quyền riêng tư; các trường hợp này diễn ra trước khi các biện pháp giảm thiểu và cơ chế bảo vệ được đề cập trong blog được triển khai.