Người phụ nữ kiện xAI vì cha dượng dùng Grok tạo ảnh khiêu dâm từ ảnh thời thơ ấu

Một người phụ nữ được xác định là Jane Doe 4 đã tham gia vào vụ kiện do ba thanh thiếu niên ở Tennessee đệ trình chống lại xAI của Elon Musk, liên quan đến vai trò được cho là của chatbot Grok trong việc tạo ra các tài liệu lạm dụng tình dục trẻ em.

Theo một báo cáo trên The Washington Post, người phụ nữ này cáo buộc rằng cha dượng của cô đã sử dụng Grok để thao túng một bức ảnh chụp khi cô 11 tuổi nhằm tạo ra hơn 7.000 hình ảnh khiêu dâm về cô. Người phụ nữ cũng cho biết cha dượng của cô đã tự sát hai ngày sau khi những hình ảnh này bị phát hiện trong một cuộc đột kích của cơ quan thực thi pháp luật.

“Việc tiếp cận không giới hạn các công cụ này đang lan rộng quá nhanh,” người phụ nữ nói. “Nó đang biến cuộc sống thường ngày thành hành vi lạm dụng tình dục trẻ em.”

Những thanh thiếu niên đệ đơn kiện đã cáo buộc xAI (hiện là một phần của SpaceX) không thực hiện các biện pháp phòng ngừa cơ bản để ngăn chặn việc Grok bị sử dụng nhằm tạo ra các hình ảnh khiêu dâm về người thật, bao gồm cả trẻ vị thành niên. (X đã tràn ngập hàng triệu hình ảnh gợi dục do Grok tạo ra vào đầu năm nay.) Họ đang tìm cách để vụ kiện được công nhận là vụ kiện tập thể.

TechCrunch đã liên hệ với xAI để yêu cầu bình luận.

Nếu bạn đang trong tình trạng khủng hoảng hoặc có ý định tự tử, hãy gọi hoặc nhắn tin đến số 988 để liên hệ với Đường dây nóng Phòng chống Tự tử và Khủng hoảng 988.