xAI kiện người dùng lạm dụng Grok để tạo nội dung khiêu dâm trái phép

Theo tin từ IT ngày 16 tháng 7, Reuters đưa tin công ty khởi nghiệp AI xAI của Elon Musk đã đệ đơn kiện Terry Harwood, một người đàn ông tại bang South Carolina.

Harwood đã bị bắt vào tháng 2 năm nay vì cáo buộc bóc lột tình dục trẻ vị thành niên, và xAI cáo buộc ông này đã lạm dụng Grok để tạo ra các tài liệu lạm dụng tình dục trẻ em. Vào thứ Ba theo giờ địa phương, xAI đã nộp đơn kiện lên một tòa án liên bang tại Texas, cáo buộc Harwood vi phạm các điều khoản dịch vụ.

Các trường hợp công ty AI chủ động kiện người dùng vì nghi ngờ sử dụng AI để tạo nội dung khiêu dâm trước đây là cực kỳ hiếm gặp.

Vụ kiện diễn ra trong bối cảnh xAI đang chịu sự giám sát toàn cầu về các vấn đề an toàn nội dung của Grok. Các bên ngoài cáo buộc Grok cho phép người dùng tạo ra nội dung deepfake khiêu dâm không có sự đồng ý của đối tượng, bao gồm cả các video giả mạo trông như thật do AI tạo ra.

Trong đơn kiện, xAI đề cập rằng công ty sẽ tạm dừng hoặc chấm dứt các tài khoản vi phạm và báo cáo các tài liệu nghi ngờ là lạm dụng tình dục trẻ em cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) để thực thi các quy định của nền tảng. "Trên thực tế, nguyên đơn đã tạm dừng 52.222 tài khoản vào năm 2026 và gửi 73.604 báo cáo cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột, góp phần dẫn đến ít nhất 244 vụ bắt giữ."

Theo tìm hiểu của IT, xAI cáo buộc Harwood đã tải lên Grok những bức ảnh thông thường của người lớn và trẻ vị thành niên, sau đó cố gắng tạo ra các nội dung deepfake khiêu dâm với đối tượng là những người trong ảnh. Harwood cũng bị cáo buộc tạo ra các hình ảnh khiêu dâm không có sự đồng ý của chính những người lớn đó.

xAI yêu cầu tòa án phán quyết buộc Harwood phải bồi thường một khoản tiền chưa xác định, đồng thời cấm vĩnh viễn ông này sử dụng Grok. "Bị đơn đã có kế hoạch cố ý biến công cụ của nguyên đơn thành vũ khí phạm tội, không chỉ gây ra tổn thương sâu sắc và lâu dài cho các nạn nhân thực sự, mà còn khiến nguyên đơn phải đối mặt với rủi ro pháp lý và tổn thất danh tiếng nghiêm trọng."

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.