Anthropic tích hợp watermark ẩn vào văn bản Claude để chống giả mạo nội dung

Theo tin từ IT ngày 11 tháng 8, việc muốn nhờ Claude làm "người viết thuê" cho mọi thứ, từ tiểu thuyết đến bài tập về nhà, có lẽ sẽ trở nên khó khăn hơn nhiều.

Anthropic thông báo vào thứ Hai theo giờ địa phương rằng, các phiên bản mô hình Claude mới sẽ được nhúng trực tiếp một loại "hình mờ không thể nhận biết" (imperceptible watermark) vào văn bản do AI tạo ra. Anthropic cho biết, hình mờ này sẽ không làm thay đổi ý nghĩa hay khả năng đọc của văn bản, nó vẫn sẽ tồn tại ngay cả khi người dùng sao chép, dán văn bản và "vẫn có thể tồn tại sau khi đã qua chỉnh sửa một phần".

Hình mờ (watermark) là các họa tiết hoặc văn bản mờ được nhúng vào ảnh hoặc tài liệu kỹ thuật số, thường được dùng để xác nhận quyền sở hữu tác phẩm và ngăn chặn nội dung bị sao chép hoặc đánh cắp.

Anthropic cho biết, động thái này là một phần trong cam kết tăng cường tính minh bạch của họ theo Đạo luật AI (AI Act) của Liên minh châu Âu. Các mô hình Claude mới được phát hành từ ngày 2 tháng 8 trở đi sẽ hỗ trợ tính năng đánh dấu này ngay từ ngày ra mắt, và Anthropic hiện cũng đang nỗ lực bổ sung tính năng này cho các mô hình cũ. Hình mờ sẽ được áp dụng cho nội dung do Claude tạo ra trên phạm vi toàn cầu, bao gồm cả nội dung được tạo ra khi sử dụng Claude thông qua các nhà cung cấp dịch vụ đám mây. Anthropic cũng có kế hoạch cung cấp các công cụ phát hiện hình mờ này cho bên thứ ba.

Công nghệ hình mờ văn bản AI có thể trở thành một bước ngoặt quan trọng đối với ngành xuất bản. Trong những năm gần đây, ngành xuất bản đã phải nỗ lực đối phó với những thách thức do nội dung AI tạo ra mang lại.

Tháng trước, một đại lý sách đã rút lại sự hỗ trợ đại diện cho cuốn tiểu thuyết ăn khách "Call Me, I'll Hide the Body" sau khi có người nghi ngờ tác giả có thể đã sử dụng AI. Cuốn sách này trước đó đã thu hút 14 nhà xuất bản tham gia đấu thầu bản quyền và đã hoàn tất giao dịch, sau đó đại lý mới đưa ra lời xin lỗi về sự việc. Tác giả Jerry Falade phủ nhận việc sử dụng AI để sáng tác cuốn tiểu thuyết này.

Đầu năm nay, nhà xuất bản Hachette cũng đã gỡ bỏ cuốn tiểu thuyết kinh dị "Shy Girl" của tác giả Mia Ballard sau khi nó bị cáo buộc chứa nội dung do AI tạo ra. Ballard chia sẻ với tờ The New York Times rằng cô không sử dụng AI để viết cuốn sách này và cho biết một biên tập viên tự do đã chèn nội dung do AI tạo ra mà không thông báo trực tiếp cho cô.

Tính năng hình mờ mới của Claude có thể cung cấp cho các nhà xuất bản, trường học và đại học một phương thức khác để điều tra các sự việc tương tự, đồng thời khiến mọi người khó mạo nhận văn bản do AI tạo ra là tác phẩm của chính mình hơn.

Tuy nhiên, công nghệ này vẫn tồn tại một số lỗ hổng. Anthropic cho biết, việc chỉnh sửa, viết lại, dịch nội dung do Claude tạo ra một cách đáng kể, hoặc trộn lẫn nó với các văn bản khác đều có thể khiến hình mờ không thể bị phát hiện. Ngoài ra, ngay cả khi phát hiện được hình mờ, cũng không thể chứng minh Claude là tác giả ban đầu của đoạn văn bản đó, vì chỉ cần sử dụng Claude để hiệu đính hoặc dịch thuật cũng có thể để lại dấu vết hình mờ.

IT lưu ý rằng, Anthropic là phòng thí nghiệm AI lớn thứ hai triển khai công nghệ hình mờ văn bản. Năm 2024, Google DeepMind thuộc Google thông báo sẽ sử dụng công nghệ SynthID để thêm hình mờ vào văn bản và video do ứng dụng Gemini và phiên bản web tạo ra. Trước đó, công ty này đã ra mắt tính năng hình mờ cho hình ảnh do AI tạo ra vào năm 2023.