OpenAI ra mắt Private Safety Processing: Tăng cường bảo mật, đối đầu trực diện với Anthropic

Khi các mô hình AI ngày càng trở nên mạnh mẽ, khả năng các mô hình này bị lạm dụng cũng tăng lên — kéo theo đó là nhu cầu cấp thiết về các rào cản an toàn để ngăn chặn tình trạng lạm dụng. Các công ty AI hiện phải đi trên dây giữa việc tôn trọng quyền riêng tư của khách hàng doanh nghiệp, đồng thời vẫn phải giám sát việc sử dụng để phát hiện các vấn đề tiềm ẩn.

Nhận thấy cơ hội để vượt mặt đối thủ Anthropic, OpenAI vừa công bố một phương pháp an toàn tập trung vào quyền riêng tư để giám sát hành vi lạm dụng. Công ty đang giới thiệu trước một dịch vụ mới cho một số khách hàng chọn lọc với tên gọi Private Safety Processing. Đây là một hệ thống tự động giúp theo dõi các hành vi lạm dụng tiềm ẩn mà không lưu giữ bất kỳ dữ liệu nào của khách hàng.

Hệ thống này rõ ràng đi ngược lại với chính sách lưu giữ dữ liệu mà Anthropic vừa công bố gần đây. Chính sách này, vốn gây bức xúc cho một số khách hàng, cho phép phòng thí nghiệm AI lưu giữ dữ liệu người dùng (tất cả các phiên làm việc và các cuộc hội thoại trong đó) trong thời hạn 30 ngày đối với các "mô hình được áp dụng" (covered models). Công ty cho biết các mô hình đó bao gồm tất cả các mô hình lớp Mythos và "các mô hình tương lai có khả năng tương tự".

Chính sách này, được công bố vào tháng 7, được thiết kế vì mục đích an toàn, cho phép phòng thí nghiệm sàng lọc và phân tích các hành vi không phù hợp tiềm ẩn. Tuy nhiên, nó đã gây lo ngại sâu sắc cho một số doanh nghiệp xử lý lượng lớn dữ liệu nhạy cảm và không muốn dữ liệu đó bị lưu trữ (hoặc kiểm tra) bởi phòng thí nghiệm AI.

OpenAI — giống như hầu hết các công ty AI khác — đã cung cấp cho khách hàng một mức độ riêng tư tương đối bằng cách tuân thủ chính sách được gọi là Zero Data Retention (ZDR). ZDR sử dụng các tác nhân (agent) trong OpenAI API để giám sát hành vi lạm dụng trên từng phiên làm việc. Theo cách này, dữ liệu khách hàng không bị công ty lưu giữ nhưng các doanh nghiệp vẫn có thể quét các hoạt động xấu mà không cần sự can thiệp của con người. Cần lưu ý rằng Anthropic cũng phần lớn tuân thủ ZDR — ngoại trừ các "mô hình được áp dụng" như Fable.

OpenAI cho biết Private Safety Processing là một công nghệ mới giúp mở rộng phạm vi của ZDR. Công ty mô tả đây là một hình thức giám sát an toàn dài hạn, đánh giá dữ liệu đầu vào và đầu ra của nhiều cuộc hội thoại thay vì chỉ một. Một lần nữa, việc giám sát được thực hiện bởi một tác nhân; nếu bị kích hoạt, nó sẽ nắm bắt các tương tác và phân tích chúng trên nhiều phiên làm việc để tìm dấu hiệu lạm dụng tiềm ẩn.

Công nghệ mới giúp OpenAI phát hiện việc sử dụng AI độc hại diễn ra qua nhiều phiên làm việc, một người phát ngôn chia sẻ với TechCrunch. Một kẻ xấu — giả sử là người đang cố gắng tạo mã độc cho một cuộc tấn công mạng — có thể chia nhỏ các yêu cầu của họ để tránh bị phát hiện. Private Safety Processing có thể phân tích nhiều cuộc hội thoại đó để tìm dấu hiệu lạm dụng mà không cần con người xem xét các cuộc hội thoại của người dùng.

Trong trường hợp hệ thống bị kích hoạt, nó có thể gửi một "tín hiệu được xác định hẹp" đến OpenAI để cảnh báo về một loại hoạt động cụ thể, công ty cho biết. Dựa trên tín hiệu đó, OpenAI có thể quyết định xem liệu "việc thực thi có cần thiết hay không". Nếu có, OpenAI sẽ liên hệ với khách hàng để biết thêm bối cảnh hoặc làm việc với họ về vấn đề này, và khách hàng có thể chọn chia sẻ dữ liệu với OpenAI theo quyết định riêng của họ, người phát ngôn cho biết.

Ngược lại, Anthropic lưu ý rằng việc con người xem xét dữ liệu khách hàng có thể xảy ra, nhưng chỉ "thông qua một đường dẫn truy cập được kiểm soát" liên quan đến "một nhóm nhỏ các người đánh giá được phê duyệt". Mọi phiên đánh giá đó đều "được ghi lại trong một nhật ký chống giả mạo mà người đánh giá không thể xóa hoặc sửa đổi", công ty cho biết.

Cuộc cạnh tranh doanh nghiệp giữa OpenAI và Anthropic hiện đang rất căng thẳng, khi cả hai công ty đều tìm kiếm mọi cơ hội để giành lợi thế trước đối thủ. Một báo cáo gần đây cho thấy doanh thu quý 2 của OpenAI tăng trưởng chậm hơn so với Anthropic. Tốc độ doanh thu hàng năm của Anthropic hiện được báo cáo là 65 tỷ USD. Các nhà đầu tư của Anthropic cho biết công ty có thể IPO ở mức 2 nghìn tỷ USD, trong khi OpenAI cũng đang chuẩn bị cho đợt IPO của mình.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Lucas là cây bút cấp cao tại TechCrunch, nơi anh đưa tin về trí tuệ nhân tạo, công nghệ tiêu dùng và các công ty khởi nghiệp. Trước đây, anh từng đưa tin về AI và an ninh mạng tại Gizmodo. Bạn có thể liên hệ với Lucas qua email [email protected].

Xem tiểu sử