Người dùng Claude phản đối tính năng gắn watermark mới của Anthropic vì lo ngại bị phát hiện gian lận

Anthropic gần đây đã đưa ra quyết định gắn watermark (hình mờ) vào các nội dung do Claude tạo ra — bằng cách chèn một đoạn mã ẩn vào văn bản biên tập của chatbot để đánh dấu đó là nội dung do AI tạo ra.

Anthropic triển khai chính sách mới này nhằm đáp ứng Đạo luật AI của EU (EU AI Act) về Quy tắc Minh bạch, vốn hiện yêu cầu các công ty công nghệ phải dán nhãn nội dung do AI tạo ra hoặc chỉnh sửa theo cách mà hệ thống máy tính có thể nhận diện được. Tuy nhiên, trong khi các nhà quản lý châu Âu có thể hài lòng, thì một số người dùng AI lại tỏ ra không hề ủng hộ.

Chỉ cần nhìn vào Reddit là đủ thấy bằng chứng về sự bất mãn đang âm ỉ, mặc dù những người dùng khác trên trang này không đồng tình với quan điểm đó. Một trong những bài đăng kịch tính nhất mà tôi bắt gặp đến từ một người dùng tên là visionode, tài khoản này đáng chú ý là mới chỉ được lập ba tuần. Theo visionode, hệ thống gắn watermark mới là một âm mưu hà khắc được thiết kế để biến những người dùng chatbot vô tội trên toàn thế giới thành nạn nhân.

Lập luận cơ bản của visionode dường như là: trong khi những người dùng Claude am hiểu công nghệ có thể che giấu bằng chứng sử dụng AI bằng cách diễn giải lại hoặc làm sạch đầu ra thông qua các dịch vụ AI khác, thì người dùng Claude bình thường sẽ bị phát hiện.

“Ai sẽ bị bắt? Bạn. Một sinh viên dùng Claude để sắp xếp lại một đoạn văn. Một nhà báo yêu cầu AI tóm tắt bản ghi chép dài hai trăm trang. Một nhà văn bị bí ý tưởng và nhờ tìm từ đồng nghĩa. Những người đó sẽ kết thúc quá trình với một hình xăm kỹ thuật số trên trán.”

Tôi không có ý định hạ thấp sự phẫn nộ của visionode, nhưng đó không phải là những ví dụ điển hình. Một nhà báo yêu cầu AI tóm tắt bản ghi chép dài hai trăm trang sẽ không bị ảnh hưởng bởi watermark đính kèm trong bản tóm tắt đó, trừ khi họ sao chép nguyên văn bản tóm tắt đó vào bài viết của mình — điều vốn dĩ là phi đạo đức và không nên xảy ra.

Việc một sinh viên sao chép và dán nội dung của Claude vào bài luận sau khi yêu cầu nó “sắp xếp lại một đoạn văn” cũng là hành vi phi đạo đức tương tự.

Những người dùng Reddit khác cũng không mấy ủng hộ sự phẫn nộ của người đăng bài này.

“Nhìn cái ông này mà xem,” một người dùng chỉ bình luận ngắn gọn.

Một người khác yêu cầu chủ bài đăng (OP) hãy “hít thở sâu”.

Visionode không phải là người duy nhất phàn nàn. Một người dùng bất mãn khác gọi các watermark này là “phi đạo đức” và “ghê tởm”, đồng thời lập luận rằng bằng cách sử dụng Claude, họ đã thực hiện phần lớn công việc. Theo quan điểm của họ, chatbot chỉ đơn thuần là một “công cụ” hỗ trợ cho công việc vất vả của họ.

“Tôi đưa ra chỉ dẫn, bối cảnh, các quyết định và vô số lần tinh chỉnh, Claude chỉ là công cụ. Nếu Claude bắt đầu gắn watermark vào mã nguồn hoặc bất cứ thứ gì nó tạo ra, thì chính xác là nó đang đòi quyền lợi cho cái gì?” người này đặt câu hỏi.

Một lần nữa, những người dùng khác lại “tấn công” người chỉ trích này.

“Nhưng nó đâu có đòi quyền lợi,” một người dùng đáp trả. “Vấn đề là khả năng phát hiện các nội dung do AI tạo ra vì những rủi ro mà chúng có thể gây ra trong nhiều tình huống khác nhau.”

“Đến cả việc phàn nàn về Claude mà anh ta cũng phải dùng chính Claude để viết,” một người khác châm biếm.

Một số nhà phê bình đã tránh xa lối kể chuyện đóng vai nạn nhân và đưa ra những lập luận tinh tế hơn một chút để chống lại chính sách mới của Anthropic.

Ví dụ, một người dùng phàn nàn về sự đạo đức giả chung chung khi gắn watermark vào một sản phẩm biên tập vốn được tạo ra bằng cách “hút” dữ liệu từ công sức của người khác. “Tôi nghĩ đây là một hướng đi rất nham hiểm,” người dùng này nói. “Tôi không dùng Claude để viết bất cứ thứ gì, nhưng việc có một AI gắn watermark vào tác phẩm của bạn là một sự mỉa mai đáng sợ, xét đến cách mà nhiều mô hình tiên phong có được dữ liệu đào tạo của chúng.”

Tuy nhiên, nhìn chung, người dùng có xu hướng ủng hộ hệ thống gắn watermark như một cách hợp lý để theo dõi các tài liệu do thuật toán tạo ra. “Thực sự không có lập luận nào hợp lý để giải thích tại sao đây không phải là một ý tưởng hay,” một người dùng trong một chủ đề khác cho biết. “Lý do duy nhất khiến bạn không muốn điều này là vì bạn muốn nói dối mọi người.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Lucas là cây bút cấp cao tại TechCrunch, nơi anh phụ trách mảng trí tuệ nhân tạo, công nghệ tiêu dùng và các công ty khởi nghiệp. Trước đây, anh từng viết về AI và an ninh mạng tại Gizmodo. Bạn có thể liên hệ với Lucas qua email [email protected].

Xem tiểu sử