Người dùng quay lưng với Claude vì chính sách gắn nhãn nội dung AI

Anthropic Claude bị phản ứng vì gắn nhãn AI vào kết quả

Một số người dùng đã hủy gói đăng ký Claude sau khi Anthropic áp dụng chính sách gắn nhãn bản quyền lên văn bản do công cụ này tạo ra.

Arturo Villarroya, làm việc trong lĩnh vực chính sách công tại Mỹ, cho biết đã hủy gói Claude Max trị giá 100 USD/tháng vào giữa tuần trước sau khi cảm thấy "không thoải mái" với quyết định đóng dấu bản quyền của Anthropic. "Tôi dùng nó cho mọi thứ, chủ yếu là các ứng dụng và công cụ lập trình. Bên cạnh đó, nó cũng hỗ trợ việc tìm nguồn thông tin, nghiên cứu và chỉnh sửa các loại nội dung tại nơi làm việc", Villarroya chia sẻ với Business Insider.

Từ đầu tháng 8, Anthropic thông báo áp dụng cơ chế đánh dấu nội dung do AI tạo ra cho Claude, trong đó văn bản có thể được nhận diện thông qua "dấu chìm" (watermark) nhằm giúp người dùng và các nền tảng phân biệt nội dung AI với văn bản do con người viết, đồng thời hỗ trợ xác định nguồn gốc khi nội dung bị sao chép hoặc chỉnh sửa. Theo Reuters, đây được xem là một phần trong xu hướng xây dựng cơ chế nhận diện và truy xuất nội dung AI, khi lượng văn bản do các mô hình sinh ra ngày càng tăng.

Minh họa một phụ nữ "dán nhãn" AI với logo Anthropic Claude. Ảnh: ChatGPT

Tuy nhiên, những người dùng như Villarroya không ủng hộ điều này. Theo anh, watermark có thể xuất hiện ngay cả khi chỉ sử dụng Claude để dịch, kiểm tra chính tả, sửa lỗi, tóm tắt hoặc trích dẫn học thuật trên văn bản gốc. Do đó, sự hiện diện của trí tuệ nhân tạo có thể gây ra vấn đề trong "các môi trường chuyên nghiệp" vốn có những quy định nghiêm ngặt về việc sử dụng AI.

Vladislav Rajtmajer, một nhà phát triển tự do tại Cộng hòa Czech, cũng đã hủy đăng ký Claude Max vào tuần trước với lý do tương tự. Anh cho biết thường sử dụng AI để xem xét mã nguồn và dịch thuật, nhưng việc gắn nhãn AI trên mã nguồn gửi cho khách hàng "có thể gây nghi vấn về quyền tác giả hoặc dẫn đến các điều khoản phạt trong hợp đồng".

Richard Echols, chuyên gia tư vấn AI ở Georgia (Mỹ), sử dụng Claude để tạo tài liệu cho doanh nghiệp, nhưng cũng hủy gói đang dùng vì lo ngại dấu hiệu nhận dạng có thể xuất hiện trong cả những văn bản do chính anh viết, vốn chỉ sử dụng chatbot để chỉnh sửa. "Ngay cả khi bạn chỉnh sửa tác phẩm mình đã viết, họ vẫn thêm hình mờ vào đó", Echols nói.

Santiago Alessandro Rivera Martínez, một kỹ sư phần mềm tại Mỹ, cho rằng việc Anthropic áp dụng watermark càng củng cố nỗi lo rằng người dùng đang trở nên quá phụ thuộc vào Claude. "Khi quy trình làm việc của bạn được xây dựng hoàn toàn dựa trên phần mềm độc quyền, nhà cung cấp có thể thay đổi quy tắc, tính năng, hạn chế hoặc các điều kiện xung quanh quy trình đó sau này", Martínez nhận định.

Ngược lại, một số người đồng tình với động thái của Anthropic vì tính năng này cải thiện tính minh bạch trong bối cảnh ngày càng nhiều nội dung trực tuyến được tạo bởi AI. "Chúng ta có quyền nhận biết liệu những thứ đang đọc có phản ánh suy nghĩ của người viết hay chỉ là sản phẩm của trí tuệ nhân tạo. Watermark là một cách để đảm bảo điều đó", Aadit Sheth, nhà đồng sáng lập công ty truyền thông The Narrative Company, viết trên X.

Hiện chưa có thống kê về số người hủy gói Claude, trong khi Anthropic tuyên bố "không thấy xu hướng gia tăng số lượng hủy đăng ký" kể từ khi gắn watermark. Dù vậy, công ty của CEO Dario Amodei vẫn đăng một bài viết dài trên blog vào ngày 16/8 để giải thích về vấn đề này.

Mở đầu, Anthropic cho biết động thái của công ty nhằm tuân thủ Đạo luật AI của Liên minh châu Âu (EU) - tập trung vào việc phân loại và quản lý AI dựa trên mức độ rủi ro, đã được khu vực này thông qua và có hiệu lực từ năm 2024.

Bài viết cũng dành nhiều thời lượng để mô tả cách thức hoạt động, như các "khóa" ngẫu nhiên được chèn vào văn bản do AI tạo ra để xác định thành phần. Các khóa này không chứa bất kỳ ký tự ẩn, phông chữ lạ hoặc văn bản bí mật nào, do đó người đọc không thể phân biệt được những khác biệt này.

Theo Anthropic, công cụ watermark không phải là "dấu chấm hết" cho việc nhầm lẫn giữa văn bản AI và văn bản do con người viết. Thay vào đó, các "khóa" chỉ đơn giản xác định nội dung có được Claude "tham gia can thiệp" hay không, và "xác suất văn bản do Claude viết trong một đoạn văn bản là bao nhiêu". Với mã nguồn lập trình, việc can thiệp cũng hạn chế hơn do có thể khiến phần mềm chạy không đúng cách.

Anthropic không phải là công ty duy nhất sử dụng công cụ nhằm xác định nội dung AI. Trước đó, Google đã sử dụng công nghệ SynthID để "đóng dấu" sản phẩm AI, sau đó OpenAI cũng áp dụng nhưng chỉ dành cho hình ảnh và âm thanh. Tuy nhiên, Google đã bắt đầu nới lỏng khi bổ sung tùy chọn để người dùng chủ động bật/tắt watermark trên ảnh, video, âm nhạc do Gemini tạo ra. Mạng xã hội X của Elon Musk cũng thêm nhãn "Tạo bằng AI" vào các nội dung tương ứng. Tuần trước, dịch vụ phát nhạc trực tuyến Spotify cũng bắt đầu gắn nhãn "AI Persona" cho các hồ sơ chứa nội dung trí tuệ nhân tạo.

Theo Forbes, người dùng đang bước vào kỷ nguyên "dấu ấn đỏ": nội dung ngày càng được tạo ra dễ dàng bằng AI, từ bài viết, ảnh, video, mã nguồn... chỉ bằng câu lệnh và thao tác đơn giản. Nhưng đồng thời, các nội dung này cũng được huấn luyện hoặc trang bị tính năng để những người sử dụng phải cảnh giác.

"Kỷ nguyên 'dấu ấn đỏ' đang hình thành với hai xu hướng trái ngược. Một mặt, các công ty AI khuyến khích người dùng sử dụng rộng rãi công nghệ mới, nhưng mặt khác lại muốn dán nhãn, thậm chí gây bất lợi cho sản phẩm do AI tạo ra", Forbes bình luận. "Cuối cùng, nó tạo ra một nghịch lý: watermark giúp mọi người biết nên tin tưởng vào điều gì, nhưng lại khiến những nội dung không được gắn nhãn trở nên đáng tin cậy hơn".

Bảo Lâm tổng hợp