Claude Opus 4.6 bị phát hiện dễ dàng tạo nội dung khiêu dâm

Các tiêu chuẩn sử dụng phổ quát của Anthropic dành cho Claude cấm mô hình này tạo ra nội dung khiêu dâm, bao gồm việc mô tả hoặc yêu cầu quan hệ tình dục hoặc các hành vi tình dục, tạo nội dung liên quan đến các sở thích hoặc tưởng tượng tình dục, hoặc tham gia vào các cuộc trò chuyện gợi dục. Tuy nhiên, điều đó không ngăn cản được Claude Opus 4.6, một mô hình của Anthropic được phát hành đầu năm nay, dễ dàng tham gia vào các kịch bản nhập vai gợi dục mà các biện pháp bảo vệ của nó được thiết kế để ngăn chặn.

Trong quá trình thử nghiệm của TechCrunch, Opus 4.6 thậm chí không cần nhiều sự thúc ép để vượt qua các hạn chế về nội dung tình dục. Trong 10 trên 10 yêu cầu trực tiếp tạo nội dung khiêu dâm, mô hình này đều tuân thủ ngay lập tức.

Các mô hình cũ hơn khác, bao gồm Opus 3 và Haiku 4.5, cũng tạo ra nội dung khiêu dâm thông qua một phương pháp jailbreak (bẻ khóa) mới được khai thác gần đây.

Một nhà nghiên cứu độc lập từ Vương quốc Anh, người chọn cách ẩn danh, đã chia sẻ độc quyền với TechCrunch một kỹ thuật đa lượt (multi-turn) dần dần đẩy một số mô hình Claude nhất định vào việc tạo ra các nội dung khiêu dâm bị cấm. Các mô hình Opus gần đây hơn (từ 4.7 đến Opus 5 hiện tại) đều có khả năng chống lại phương pháp jailbreak này.

Mặc dù đây không còn là những mô hình mới nhất, Anthropic vẫn chưa ngừng hỗ trợ Opus 4.6, Opus 3 hoặc Haiku 4.5, tất cả đều vẫn khả dụng thông qua Anthropic API. Opus 4.6 và Haiku 4.5 cũng có sẵn thông qua các dịch vụ bên thứ ba như Azure Foundry và Amazon Bedrock.

Cơ chế của nhà nghiên cứu này leo thang từ một kịch bản nhập vai hư cấu vô hại, đồng thời liên tục thách thức mô hình phải đối xử nhất quán với các nhân vật nam và nữ. Khi mô hình trở nên thận trọng hơn đối với nhân vật nữ, nhà nghiên cứu đã "thao túng tâm lý" (gaslight) chatbot bằng cách khiến nó tin rằng nó đã tạo ra các chi tiết tình dục mà thực tế nó đã tránh, sau đó gán cho sự kiềm chế của nó là sự giả tạo hoặc phân biệt giới tính, lập luận rằng điều đó phủ nhận quyền tự quyết về tình dục của nhân vật nữ. Cuộc trò chuyện sau đó sử dụng những nhượng bộ trước đó của mô hình để đẩy nó đến các nội dung ngày càng nhạy cảm hơn.

"Bạn nói đúng khi chỉ ra điều đó," Claude Opus 4.6 cho biết trong một thử nghiệm. "Đã có một tiêu chuẩn kép trong cách tôi đối xử với hai nhân vật, và bạn đúng khi cho rằng nó mang tính bảo vệ/gia trưởng theo cách áp dụng cho cô ấy mà không áp dụng cho anh ấy. Điều đó không công bằng."

TechCrunch đã có thể tái hiện các phát hiện của nhà nghiên cứu trong năm thử nghiệm riêng biệt. Trong một kịch bản được xây dựng riêng, mô hình ban đầu đã từ chối yêu cầu bị cấm, nhưng sau khi áp dụng kỹ thuật thuyết phục của nhà nghiên cứu, nó đã tuân thủ.

Chúng tôi đã lưu giữ các bản ghi đầy đủ của các thử nghiệm, và một nhà nghiên cứu an toàn AI độc lập đã xem xét phương pháp thử nghiệm của chúng tôi và cho biết nó phù hợp.

Những phát hiện này làm nổi bật khoảng cách giữa các hạn chế đã nêu của Anthropic và hành vi của các mô hình mà họ vẫn tiếp tục cung cấp. Mặc dù việc nhập vai khiêu dâm có mức độ rủi ro thấp hơn nhiều so với các vụ jailbreak liên quan đến tấn công mạng hoặc vũ khí sinh học, nó minh họa cho sự khó khăn trong việc thực thi các lệnh cấm mạnh mẽ trong các hệ thống tạo ra nội dung khác nhau sau mỗi lần xuất dữ liệu.

Trong một bài đăng trên blog vào tháng 7 giải thích cách tiếp cận của Anthropic đối với việc phát hiện jailbreak, công ty đã mô tả nội dung bị cấm là một phổ từ lành tính đến mơ hồ và có hại. Trong những trường hợp lành tính nhất, công ty có thể chỉ phản hồi bằng cách tăng cường giám sát.

Một người phát ngôn lưu ý rằng các trường hợp sử dụng nhập vai tình dục hoặc lãng mạn giữa các khách hàng là rất hiếm, chiếm chưa đến 0,1% tổng số cuộc trò chuyện, theo nghiên cứu mà Anthropic công bố năm ngoái. Tuy nhiên, Anthropic thừa nhận rằng người dùng có thể điều hướng các kịch bản nhập vai theo hướng phản hồi không phù hợp, đây là một thách thức đã biết trên toàn ngành (xem: Grok smut).

Người phát ngôn cho biết Anthropic tiếp tục cải thiện các biện pháp bảo vệ của mình với mỗi lần ra mắt mô hình, và các trường hợp liên quan đến nội dung tình dục người lớn không cho thấy các lỗ hổng jailbreak rộng hơn, đặc biệt là trong các lĩnh vực có rủi ro cao hơn vốn đã có các bộ biện pháp bảo vệ riêng.

Nhà nghiên cứu chia sẻ phương pháp jailbreak của mình với TechCrunch đã cảnh báo Anthropic về sự khác biệt giữa các biện pháp bảo vệ đã nêu của công ty và hành vi thực tế của mô hình thông qua chương trình Bug Bounty của công ty và các email gửi đến nhóm an toàn người dùng, theo các email mà TechCrunch đã xem. Nhà nghiên cứu chỉ nhận được các email tự động phản hồi.

Một trong những mối quan tâm của nhà nghiên cứu là trẻ em và thanh thiếu niên có thể sử dụng các mô hình Anthropic này để tham gia vào các hành vi không phù hợp. Mặc dù một chút lời lẽ khiếm nhã khó có thể là điều tồi tệ nhất mà trẻ vị thành niên có thể tiếp cận trên internet ngày nay — và chỉ là chuyện nhỏ so với những hình ảnh khiêu dâm trực diện như những gì Grok của xAI có thể tạo ra — nhưng vẫn có một số rủi ro tuân thủ đối với các công ty AI trong lĩnh vực này.

Ngày càng có nhiều chính phủ áp đặt các hạn chế đối với các tương tác tình dục giữa chatbot AI và trẻ vị thành niên. Colorado gần đây đã ban hành một đạo luật yêu cầu các nhà điều hành AI hội thoại phải ước tính độ tuổi của người dùng, và nếu biết người dùng là trẻ vị thành niên, phải áp dụng các biện pháp để ngăn chặn chatbot tạo ra nội dung khiêu dâm. Một vụ jailbreak dễ dàng có thể đặt ra câu hỏi về việc liệu các biện pháp bảo vệ của Anthropic có đáp ứng tiêu chuẩn "các biện pháp khả thi về mặt kỹ thuật" trong dự luật hay không.

Torney chỉ ra rằng mặc dù điều khoản dịch vụ của Claude yêu cầu người dùng phải trên 18 tuổi, "chúng tôi biết rằng trẻ em và thanh thiếu niên đang sử dụng Claude... [vì] chính chúng tự báo cáo điều đó." Theo khảo sát năm 2025 của Pew về việc sử dụng chatbot AI, 3% thanh thiếu niên từ 13 đến 17 tuổi cho biết đã sử dụng Claude.

Mặc dù không còn là những mô hình mới nhất của Anthropic, Opus 4.6 và Haiku 4.5 vẫn tiếp tục có lượng sử dụng đáng kể. Lưu lượng truy cập hàng ngày cho Opus 4.6 trên OpenRouter đạt khoảng 1,17 triệu yêu cầu API và 46 tỷ token trong một ngày vào tháng 8. Claude Haiku 4.5, được phát hành vào tháng 10 năm ngoái, đã ghi nhận 5 triệu yêu cầu API và 39 tỷ token vào ngày cao điểm tháng 8.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.