OpenAI nâng cấp bảo mật API: Mở rộng chính sách 'không lưu dữ liệu' và tự động hóa kiểm soát rủi ro

Theo tin từ IT ngày 20 tháng 8, OpenAI hôm nay (20/8) đã đăng tải bài viết trên blog, thông báo mở rộng dịch vụ "Zero Data Retention" (không lưu giữ dữ liệu) cho các khách hàng API mô hình tiên tiến đủ điều kiện, đồng thời giới thiệu hệ thống tự động có khả năng nhận diện các mô hình rủi ro xuyên suốt quá trình tương tác.

Dẫn nguồn từ bài blog, IT cho biết OpenAI nhấn mạnh rằng sau khi yêu cầu được xử lý xong, các câu lệnh (prompt) hoặc phản hồi của mô hình sẽ không được lưu giữ, nhân viên OpenAI không thể xem xét nội dung của khách hàng và dữ liệu doanh nghiệp cũng sẽ không được sử dụng để huấn luyện mô hình (trừ khi khách hàng chủ động chọn tham gia).

OpenAI chỉ ra rằng khi các mô hình đảm nhận những tác vụ dài và phức tạp hơn, một số rủi ro bảo mật nghiêm trọng có thể chỉ xuất hiện sau nhiều vòng tương tác. Các hệ thống bảo mật tương thích với ZDR hiện nay thường đánh giá từng tương tác riêng lẻ, gây khó khăn trong việc nhận diện các mô hình hành vi xuyên suốt các cuộc hội thoại, tài khoản hoặc các hành vi thăm dò cơ chế bảo mật liên tục.

Để giải quyết vấn đề này, OpenAI đã ra mắt phiên bản xem trước của tính năng Private Safety Processing (xử lý bảo mật riêng tư). Cơ chế này sử dụng các hệ thống tự động để phân tích các mô hình rủi ro trong các tương tác có liên quan mà không cần để nhân viên OpenAI tiếp cận nội dung gốc.

Hệ thống này áp dụng cho cả nội dung trong cơ sở hạ tầng do khách hàng tự kiểm soát và nội dung được lưu trữ bởi OpenAI. Trong trường hợp thứ hai, nội dung của khách hàng được mã hóa bằng khóa do khách hàng quản lý; nhân viên OpenAI không nắm giữ các khóa này, do đó không thể truy cập vào các câu lệnh và phản hồi gốc.

Khi hệ thống nhận diện được rủi ro, OpenAI sẽ chỉ nhận được các tín hiệu bảo mật có phạm vi hạn chế nhằm giải thích loại hoạt động liên quan, từ đó đưa ra quyết định có cần thực hiện các biện pháp xử lý hay không.

Ngay cả khi nội dung bị gắn cờ, nhân viên vẫn không thể xem nội dung của khách hàng. Khách hàng có thể điều tra các cảnh báo và quyết định xử lý thông qua thông tin trong hệ thống của chính họ; nếu cần khiếu nại, giải trình về các hoạt động hợp pháp hoặc hỗ trợ xác minh các hành vi lạm dụng đã được xác nhận, khách hàng có thể tự nguyện cung cấp thông tin liên quan cho OpenAI.

OpenAI cho biết tính năng Private Safety Processing hiện đang được thử nghiệm với các khách hàng sớm. Công ty dự kiến sẽ bắt đầu triển khai khả năng này vào tháng 9 và công bố sách trắng kỹ thuật. OpenAI khẳng định sẽ thông báo trước cho khách hàng về các nội dung cập nhật, tác động của chúng đối với các cam kết hiện có, cũng như thời gian và sự hỗ trợ cần thiết cho kế hoạch của khách hàng.