xAI khởi kiện người dùng lạm dụng Grok để tạo ảnh khiêu dâm trẻ em

Emma Roth

là một cây bút chuyên viết về các cuộc chiến nền tảng streaming, công nghệ tiêu dùng, tiền điện tử, mạng xã hội và nhiều chủ đề khác. Trước đây, cô từng là biên tập viên và cây bút tại MUO.

xAI, công ty thuộc sở hữu của Elon Musk, đang kiện một người đàn ông tại South Carolina vì cáo buộc người này đã sử dụng chatbot Grok AI của công ty để tạo ra tài liệu lạm dụng tình dục trẻ em (CSAM). Trong một vụ kiện được Reuters đưa tin trước đó, xAI khẳng định Terry Wayne Harwood đã “cố ý và chủ đích sử dụng Grok để vượt qua các rào cản bảo mật, chỉnh sửa các hình ảnh không có sự đồng thuận, đồng thời tạo và phát tán CSAM”, vi phạm các chính sách của công ty.

Harwood đã bị bắt vào tháng Hai vì cáo buộc tàng trữ và phát tán CSAM, hiện đang phải đối mặt với tám tội danh trọng tội. Đơn kiện cho biết “ít nhất một số” hình ảnh liên quan đến các cáo buộc hình sự của Harwood “đã được tạo ra hoặc chỉnh sửa” bằng Grok, đồng thời khẳng định Harwood đã vượt qua các biện pháp bảo vệ của Grok và “lạm dụng công cụ này để chuyển đổi các bức ảnh không mang tính tình dục thành hình ảnh khiêu dâm” mà không có sự đồng ý của các nhân vật trong ảnh.

Sau khi ra mắt chế độ “spicy” (táo bạo) cho Grok vào năm ngoái, xAI đã bổ sung tính năng chỉnh sửa hình ảnh bằng chatbot, dẫn đến làn sóng deepfake AI mang tính khiêu dâm, bao gồm cả những hình ảnh liên quan đến trẻ vị thành niên. Một nhóm thanh thiếu niên đã kiện xAI vào tháng Ba với cáo buộc Grok tạo ra các hình ảnh khiêu dâm của chính họ khi còn là trẻ vị thành niên. Musk đã phản hồi rằng: “Bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp”, mặc dù đây có vẻ là lần đầu tiên xAI kiện một cá nhân vì các nội dung deepfake AI được tạo ra bằng Grok.

xAI khẳng định những hành động bị cáo buộc của Harwood đã khiến công ty phải đối mặt với “rủi ro pháp lý và tổn hại danh tiếng nghiêm trọng”. Công ty đã yêu cầu tòa án buộc Harwood phải bồi thường cho xAI mọi thiệt hại, cũng như “các chi phí hợp lý phát sinh trong quá trình tự bảo vệ mình trước bất kỳ hành động pháp lý nào do nạn nhân của bị cáo khởi kiện”. xAI cũng muốn thẩm phán ngăn chặn Harwood tạo tài khoản xAI hoặc sử dụng Grok.

Hãy theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.