OpenAI ra mắt hệ thống Private Safety Processing: Phát hiện lạm dụng mà không cần lưu trữ dữ liệu khách hàng

OpenAI muốn cung cấp cho các khách hàng doanh nghiệp những mô hình AI tiên tiến nhất của mình mà không cần lưu trữ dữ liệu của họ, đồng thời vẫn có thể phát hiện hành vi lạm dụng. Công ty đã xây dựng một hệ thống an toàn có tên là "Private Safety Processing" để thực hiện điều này.

Hệ thống này phát hiện các kiểu lạm dụng thông qua nhiều tương tác liên quan trong khi vẫn duy trì chính sách không lưu giữ dữ liệu (ZDR), nghĩa là không có dữ liệu nào được giữ lại sau khi xử lý. OpenAI cho biết họ chỉ nhận được một tín hiệu an toàn hạn chế bao gồm loại hình và mức độ nghiêm trọng của hoạt động, mà không cần xem các đầu vào hoặc đầu ra thực tế.

Dữ liệu của khách hàng vẫn nằm trên cơ sở hạ tầng của chính họ hoặc được lưu trữ dưới dạng mã hóa, với việc khách hàng là người giữ khóa. Aleah Houze, Trưởng bộ phận Chính sách Sản phẩm tại OpenAI, cho biết các rủi ro thường chỉ trở nên rõ ràng trong quá trình thực hiện nhiều cuộc hội thoại. Ngược lại, đối thủ cạnh tranh Anthropic yêu cầu lưu giữ dữ liệu trong 30 ngày đối với các mô hình mạnh mẽ nhất của họ, chẳng hạn như Fable 5. Theo OpenAI, một báo cáo kỹ thuật (white paper) dự kiến sẽ được công bố vào tháng 9.

Tin tức AI không cường điệu – Được chọn lọc bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền tham gia phần bình luận của chúng tôi.

Đăng ký ngay