Vụ kiện xAI: Người đàn ông dùng Grok tạo hàng nghìn ảnh khiêu dâm từ ảnh cũ của con gái riêng

Theo tin từ IT ngày 16 tháng 8, một phụ nữ sử dụng biệt danh ẩn danh là "Jane Doe 4" đã tham gia vào vụ kiện do ba thanh thiếu niên tại bang Tennessee, Mỹ khởi xướng chống lại công ty AI của Elon Musk. Cô cáo buộc chatbot Grok của công ty này có liên quan đến việc tạo ra các tài liệu lạm dụng tình dục trẻ em.

Theo tờ The Washington Post, người phụ nữ này cho biết cha dượng của cô đã sử dụng Grok để xử lý một bức ảnh chụp cô khi mới 11 tuổi, từ đó tạo ra hơn 7.000 hình ảnh lạm dụng tình dục lộ liễu. Hai ngày sau khi cơ quan thực thi pháp luật thu giữ số hình ảnh này trong một cuộc đột kích, người cha dượng đã được phát hiện tự sát.

"Tốc độ phổ biến của các công cụ này khi không có rào cản tiếp cận là quá nhanh," người phụ nữ này cho biết, "Nó đang biến những hình ảnh trong cuộc sống hàng ngày thành nội dung lạm dụng tình dục trẻ em."

IT lưu ý rằng, ba thanh thiếu niên khởi kiện trước đó đã cáo buộc SpaceXAI (hiện đã sáp nhập vào SpaceX) không thực hiện các biện pháp bảo vệ cơ bản, không ngăn chặn được việc Grok bị lợi dụng để tạo ra các hình ảnh lộ liễu của người thật, bao gồm cả trẻ vị thành niên. Đầu năm nay, nền tảng X từng tràn ngập hàng triệu hình ảnh khiêu dâm do Grok tạo ra, gây ra tình trạng mất kiểm soát. Phía nguyên đơn hiện đang nộp đơn yêu cầu đưa vụ việc này thành một vụ kiện tập thể.