Anthropic thêm watermark vào Claude: Liệu chất lượng văn bản có bị đánh đổi?

Tính năng đóng dấu bản quyền (watermarking) văn bản của Anthropic dành cho Claude được cho là sẽ giúp phát hiện nội dung do AI tạo ra. Tuy nhiên, các nhà phê bình nghi ngờ rằng việc lựa chọn từ ngữ sẽ bị ảnh hưởng, đồng thời các luật sư cũng đang phải đối mặt với những vấn đề đau đầu mới về tính minh bạch.

Anthropic khẳng định rằng việc đóng dấu bản quyền văn bản cho Claude không gây ảnh hưởng đến nội dung, tính sáng tạo hay khả năng đọc hiểu. Phương pháp này dựa trên cách tiếp cận SynthID-Text của Google, tinh chỉnh nguồn ngẫu nhiên để chọn từ trong quá trình tạo văn bản, từ đó tạo ra một mô hình có thể phát hiện được về mặt thống kê. Không có dấu hiệu hiển thị nào được chèn vào, cũng không có ký tự ẩn nào được thêm vào.

Blogger John Gruber không đồng tình với điều này. Trong một bài viết dài trên Daring Fireball, ông lập luận rằng không có hai từ đồng nghĩa nào mang ý nghĩa hoàn toàn giống hệt nhau. Khi Claude chọn giữa "overcast" (âm u) và "grey" (xám) dựa trên một khóa đóng dấu bí mật thay vì độ chính xác về ngữ nghĩa, chất lượng văn bản chắc chắn sẽ bị ảnh hưởng. Gruber viết rằng hệ thống đôi khi tăng xác suất cho một từ kém hơn và giảm xác suất cho từ tốt nhất. Ông cho rằng tuyên bố của Anthropic về việc sự khác biệt là "không thể nhận thấy" hoàn toàn sai lầm.

Gruber đã điều hành blog công nghệ có tầm ảnh hưởng Daring Fireball từ năm 2002. Ông cũng là đồng tác giả của Markdown, ngôn ngữ định dạng hiện đang được các chatbot sử dụng rộng rãi.

Ngay cả nghiên cứu về SynthID mà Google Deepmind công bố trên tạp chí Nature, vốn được Anthropic trích dẫn, cũng không thuyết phục được Gruber. Ông lập luận rằng tỷ lệ đánh giá thích/không thích được đo lường trong đó không phải là thước đo hợp lệ cho chất lượng văn bản. Không ai đánh giá "không thích" một chatbot chỉ vì nó viết từ "chuối" thay vì "dứa". Gruber gợi ý rằng danh tiếng của Gemini là yếu hơn so với Claude và ChatGPT có thể một phần xuất phát từ việc SynthID đã được kích hoạt.

Các công ty luật cần chuẩn bị cho những câu hỏi về tính minh bạch

Ấn phẩm thương mại pháp lý Artificial Lawyer đã xem xét ý nghĩa của các dấu bản quyền từ Anthropic đối với các công ty luật. Kết luận của ấn phẩm này phần lớn là khá thoải mái. Artificial Lawyer lập luận rằng các dấu hiệu này vô hại, và trong hầu hết các trường hợp, cả khách hàng lẫn tòa án đều sẽ không phản đối việc sử dụng AI. Phân tích cũng lưu ý rằng một số khách hàng hiện đang chủ động yêu cầu sử dụng AI.

Tuy nhiên, theo đánh giá của Artificial Lawyer, mọi thứ trở nên phức tạp trong các tình huống cụ thể. Nếu khách hàng đã cấm rõ ràng việc sử dụng AI cho các vụ việc của họ, hoặc nếu thẩm phán hoài nghi về AI, thì sự đóng góp của AI có thể bị chứng minh ngay cả khi tài liệu được nộp hoàn hảo về mặt thực tế. Điều đó có thể gây ra hậu quả cho cách thức diễn ra các thủ tục tố tụng hoặc phiên tòa.

Artificial Lawyer chỉ ra rằng các dấu bản quyền cũng "di chuyển" cùng với văn bản. Một hợp đồng phức tạp có thể chứa các điều khoản được đóng dấu AI trong khi phần còn lại do con người viết. Các hợp đồng tương lai được xây dựng dựa trên các mẫu cũ có chứa các phần do AI tạo ra sẽ tiếp tục mang theo những dấu hiệu đó. Khi nhiều mô hình LLM được sử dụng, các dấu bản quyền khác nhau thậm chí có thể chồng chéo trong cùng một tài liệu.

Các cuộc đàm phán về phí dịch vụ cũng có thể thay đổi. Ấn phẩm lưu ý rằng nếu khách hàng yêu cầu giảm giá vì AI giúp công việc trở nên dễ dàng hơn, thì phần đóng góp của AI về nguyên tắc có thể xác minh được.

Bản thân Anthropic cho biết việc đóng dấu bản quyền thưa thớt hơn trong các đoạn văn chứa nhiều dữ kiện vì có ít lựa chọn từ thay thế hơn. Đối với các văn bản pháp lý phụ thuộc vào độ chính xác, đây là một lưu ý quan trọng, mặc dù hiện chưa có nghiên cứu thực nghiệm nào về chủ đề này.

Bất kỳ ai muốn xóa các dấu hiệu này đều có thể thực hiện bằng các công cụ diễn giải như Declaude. Nhà phát triển của công cụ này, James Padolsey, chỉ trích quy định của EU là tùy tiện. Ông cho rằng hệ thống này chủ yếu nhắm vào người dùng phổ thông trong khi không có nhiều tác dụng đối với việc cố tình lách luật.

Anthropic đang triển khai việc đóng dấu bản quyền để tuân thủ Đạo luật AI của EU nhưng áp dụng trên toàn cầu vì họ không thể giới hạn tính năng này theo khu vực. Tất cả các mô hình Claude được phát hành sau ngày 2 tháng 8 đều hỗ trợ việc đóng dấu. Các mô hình cũ hơn sẽ được cập nhật trong những tháng tới.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay