xAI kiện bang Minnesota vì luật chống 'lột đồ' bằng AI gây hạn chế tính năng của Grok

xAI đang kiện Tổng chưởng lý bang Minnesota, Keith Ellison, về một đạo luật được thông qua hồi tháng 5 nhắm vào các ứng dụng "nudification" (tạo ảnh khỏa thân), với lập luận rằng các điều khoản trừng phạt của đạo luật này khiến công ty "không còn lựa chọn thực tế nào khác ngoài việc hạn chế các tính năng chỉnh sửa ảnh của Grok Imagine theo nhiều cách khác nhau". Công ty cho rằng đạo luật này vi phạm Tu chính án thứ nhất.

Hồi tháng 1, Grok đã làm tràn ngập internet với hàng triệu deepfake khiêu dâm, bao gồm cả hình ảnh trẻ vị thành niên. Trong một thời đại khác, một thảm họa kiểm duyệt nội dung ở quy mô này hẳn đã khiến CEO phải nhấn nút "ngắt kết nối" sản phẩm trong vòng vài giờ. Nhưng trong thế giới mới đầy táo bạo của Elon Musk, chatbot này vẫn được để mặc cho sản xuất hàng loạt hình ảnh khiêu dâm trong nhiều ngày. "Grok hiện đang đứng số 1 trên App Store tại hết quốc gia này đến quốc gia khác!" ông đăng tải ngay giữa tâm điểm của đại dịch deepfake.

Có điều gì đó đã sai. Phải chăng luật pháp đơn giản là không đủ khả năng để ngăn chặn sự bùng nổ của ảnh khỏa thân không tự nguyện? Các chính phủ trên khắp thế giới cũng đang đặt ra những câu hỏi tương tự. EU đã mở một cuộc điều tra, tương tự như Vương quốc Anh. Đã có sự phản đối từ các quan chức chính phủ Pháp, Ấn Độ và Malaysia. Và trong khi chính phủ liên bang Mỹ tỏ ra im ắng hơn đáng kể về vấn đề này, thì các bang "xanh" như California và Minnesota đã có lập trường cứng rắn hơn.

Tại Minnesota, cơ quan lập pháp bang đã thông qua một đạo luật nhắm vào công nghệ "nudification", cấm chủ sở hữu trang web cho phép mọi người "truy cập, tải xuống hoặc sử dụng" phần mềm như vậy. (Đạo luật có một ngoại lệ cho công nghệ "đòi hỏi kỹ năng kỹ thuật của người dùng để tạo ảnh hoặc video khỏa thân" — vì vậy hành vi quấy rối tình dục tùy chỉnh thông qua Photoshop vẫn nằm ngoài phạm vi điều chỉnh). Đạo luật này tạo ra quyền khởi kiện dân sự cho các cá nhân muốn kiện, đồng thời cho phép tổng chưởng lý bang áp dụng mức phạt lên tới 500.000 USD cho mỗi vi phạm.

Đạo luật này, được quảng bá là đạo luật đầu tiên thuộc loại hình này, đã được Thống đốc Tim Walz ký vào tháng 5 và dự kiến có hiệu lực vào ngày 1 tháng 8. Việc xAI không đệ đơn kiện trong suốt ba tháng qua mà lại kiện chỉ vài ngày trước khi đạo luật có hiệu lực vẫn là một điều bí ẩn. Đây là kiểu phản ứng chậm trễ khiến người ta tự hỏi liệu có ai đó tại xAI đột nhiên nhận ra vào tuần trước rằng họ sắp vi phạm một đạo luật khá nghiêm khắc, và sau đó dành vài ngày tiếp theo để tìm một công ty luật sẵn sàng làm thêm giờ thay mặt cho một đơn vị tạo deepfake không tự nguyện hay không. Người ta chỉ có thể hy vọng rằng các luật sư tham gia đang kiếm được một khoản thù lao hậu hĩnh.

Xét trên mọi khía cạnh, đơn khiếu nại khá hợp lý. Đạo luật của Minnesota quá rộng, đơn kiện lập luận, vì nó áp đặt trách nhiệm pháp lý ngay cả đối với những hình ảnh được tạo ra một cách tự nguyện, hoặc hình ảnh người lớn chỉ hơi gợi cảm, hoặc hình ảnh có giá trị "hài hước" hay "nghệ thuật". Tu chính án thứ nhất quy định rằng luật pháp phải được soạn thảo một cách hẹp để tránh cấm đoán các bình luận xã hội và chính trị như bức ảnh deepfake Chris Christie và JB Pritzker đấu vật sumo này.

"Trách nhiệm pháp lý cũng được áp dụng... ngay cả khi công ty đã triển khai các biện pháp kiểm soát kỹ thuật hiện đại, gần như hoàn hảo để ngăn chặn việc tạo ra hình ảnh khỏa thân", đơn kiện nêu với một mức độ nghiêm túc đến mức khó chịu. Ở những phần khác, đơn kiện than phiền về trách nhiệm pháp lý nghiêm ngặt áp dụng cho hành vi không được phép của người dùng — "những hình ảnh và video mà người dùng có thể tạo ra vi phạm điều khoản dịch vụ của Grok, điều này chỉ có thể thực hiện được bằng cách né tránh các biện pháp kiểm soát tinh vi, hiện đại mà xAI áp dụng".

"xAI coi trọng các vi phạm điều khoản dịch vụ của mình", đơn kiện nêu rõ, đồng thời chỉ ra rằng công ty đã kiện một trong những người dùng của mình vì sử dụng Grok để tạo CSAM (tài liệu lạm dụng tình dục trẻ em). (Vụ kiện chống lại người bị cáo buộc tạo CSAM đã được đệ trình hơn hai tháng sau khi đạo luật Minnesota được thông qua).

Các luật sư của xAI có thể có lý, nhưng đơn kiện của họ đọc như một thông điệp đến từ hành tinh khác. Ví dụ, họ tuyên bố rằng luật hiện hành của Minnesota và liên bang (như Đạo luật TAKE IT DOWN) đã ngăn chặn việc phát tán deepfake khỏa thân không tự nguyện. Các luật sư lập luận rằng những đạo luật này được viết theo cách phù hợp với hiến pháp — trong khi đạo luật về nudification thì không. Và như với bất kỳ luật nào ở Mỹ nhắm vào ngôn luận dựa trên nội dung, các đạo luật này phải được viết theo cách ít hạn chế nhất có thể trong khi vẫn giải quyết được lợi ích "cấp thiết" của chính phủ.

Nhưng đó tất nhiên là mấu chốt của vấn đề với thảm họa deepfake Grok. Nếu luật hiện hành đã đủ khả năng, thì toàn bộ tháng 1 năm 2026 đã không tràn ngập nội dung khiêu dâm không tự nguyện. Khi Trung tâm Chống lại Sự thù ghét Kỹ thuật số (Center for Countering Digital Hate) phân tích khoảng thời gian 11 ngày từ 29 tháng 12 đến 8 tháng 1, họ phát hiện ra rằng Grok đã tạo ra khoảng 3 triệu hình ảnh khiêu dâm. Khoảng 23.000 trong số đó là hình ảnh trẻ em. "Đó là một tỷ lệ gây sốc: cứ mỗi 41 giây lại có một hình ảnh khiêu dâm về trẻ em", báo cáo viết.

Rất nhiều trong số những hình ảnh đó thậm chí có thể không thực sự bất hợp pháp. Ví dụ, không rõ liệu một bức ảnh deepfake gợi cảm của một trẻ vị thành niên mặc bikini có phải là CSAM hay không, mặc dù một chuyên gia trước đó đã nói với The Verge rằng những hình ảnh khác mà Grok tạo ra — như những hình ảnh cho thấy khuôn mặt trẻ vị thành niên dính tinh dịch — có lẽ đã vi phạm luật hiện hành.

Dù thế nào đi nữa, việc một công ty trị giá hàng tỷ đô la để Grok hoạt động không kiểm soát trong thời gian dài như vậy cho thấy luật pháp đã không thúc đẩy các bên liên quan hành xử đúng mực. Có lẽ HF 1606 của Minnesota là một đạo luật tồi. Nhưng điều đó có nghĩa lý gì khi những đạo luật "tốt" thậm chí còn không hiệu quả?

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận cập nhật qua email.