6 người bị kết án vì dùng AI 'vượt rào' tạo nội dung đồi trụy: Công nghệ trung lập không có nghĩa là vô tội

Theo tin từ IT ngày 8 tháng 9, Đài Phát thanh và Truyền hình Trung ương Trung Quốc (CNR) đưa tin hôm nay (ngày 8) rằng, một lập trình viên tên Trịnh (Zheng) từng làm việc tại một công ty game đã thành lập đội ngũ nghiên cứu và phát triển, sử dụng các phương thức như viết lại system prompt để "jailbreak" mô hình AI, thiết lập thẻ nhân vật (character card) nhằm dẫn dắt các kịch bản đối thoại, từ đó cung cấp điều kiện kỹ thuật để tạo ra nội dung đồi trụy cho người dùng. Mới đây, Tòa án nhân dân thành phố Dư Diêu, tỉnh Chiết Giang đã xét xử xong vụ án sử dụng AI tạo sinh để sản xuất vật phẩm đồi trụy nhằm trục lợi, tuyên án Trịnh và các đồng phạm phạm tội sản xuất vật phẩm đồi trụy để trục lợi.

Bị cáo Trịnh từng là nhân viên của một công ty game lớn trong nước, có tầm ảnh hưởng nhất định trong lĩnh vực AI và từng đi du học nước ngoài. Tháng 7 năm 2024, sau khi tiếp cận một chatbot AI trò chuyện khiêu dâm ở nước ngoài, đối tượng đã nảy sinh ý định phát triển phần mềm tương tự để trục lợi bất hợp pháp.

Sau khi nảy sinh ý định này, Trịnh đã mời đồng nghiệp là Tạ (Xie) cùng 6 người khác quen qua mạng, trong đó có Nghiêm (Yan), để thành lập đội ngũ nghiên cứu và phát triển. Sau quá trình tinh chỉnh, mô hình AI tạo sinh do nhóm phát triển đã được đưa lên các nền tảng nước ngoài vào tháng 1 năm 2025, đồng thời tích hợp nhiều kênh thanh toán như "thanh toán bên thứ tư" (fourth-party payment) và tiền ảo để thu phí người dùng.

Trịnh và các đồng phạm đã sử dụng các thủ thuật kỹ thuật để "jailbreak" mô hình cơ sở, vượt qua các giới hạn an toàn về nội dung khiêu dâm được tích hợp sẵn trong các mô hình lớn (LLM). Sau khi nạp tiền, người dùng có thể chọn thẻ nhân vật và chatbot AI để trò chuyện khiêu dâm trong mô hình này; những nội dung trò chuyện đó còn có thể được dùng để tạo ra các hình ảnh tĩnh hoặc động đồi trụy thông qua việc tiêu tốn điểm tín dụng.

Tháng 7 năm 2025, sau khi phát hiện manh mối về hành vi vi phạm pháp luật và tội phạm, lực lượng công an đã tiến hành lập án điều tra. Sau hai tháng, toàn bộ sáu bị cáo bao gồm Trịnh đã bị bắt giữ.

Theo Tôn Ngọc Bình (Sun Yuping), trợ lý thẩm phán tại Tòa hình sự Tòa án nhân dân thành phố Dư Diêu, tỉnh Chiết Giang, trong thời gian vận hành, mô hình AI này đã tạo ra hơn 370.000 hình ảnh tĩnh và hơn 6.000 hình ảnh động, với số tiền nạp của người dùng lên tới 24.000 USD (tương đương khoảng 170.000 Nhân dân tệ). Qua giám định, trong số 12.500 hình ảnh tĩnh được chọn ngẫu nhiên và toàn bộ hình ảnh động, có hơn 9.000 hình ảnh tĩnh và hơn 5.000 hình ảnh động được xác định là vật phẩm đồi trụy.

Chư Trương Lâm (Zhu Zhanglin), thẩm phán tại Tòa hình sự Tòa án nhân dân thành phố Dư Diêu, tỉnh Chiết Giang, chỉ ra rằng các mô hình AI tạo sinh hiện nay đều có sẵn chức năng lọc an toàn nội dung, chủ yếu là để ngăn chặn các loại thông tin xấu độc, vi phạm pháp luật; bản thân chúng không phải là công cụ phạm tội.

Tuy nhiên, trong vụ án này, 6 bị cáo bao gồm Trịnh đã sử dụng kỹ thuật prompt engineering, thông qua việc liên tục viết và sửa đổi system prompt, thiết lập thẻ nhân vật, xây dựng kịch bản đối thoại để vượt qua các giới hạn đạo đức và bảo mật vốn có của mô hình AI, cho phép người dùng tự động tạo ra các loại nội dung đồi trụy khi sử dụng, biến mô hình AI từ một công cụ đa năng thành một công cụ phạm tội chuyên sản xuất vật phẩm đồi trụy.

Chư Trương Lâm cảnh báo rằng "tính trung lập của công nghệ" không bao giờ là tấm khiên che chắn cho các hành vi vi phạm pháp luật và tội phạm. Chúng ta không thể vì nội dung do AI tạo ra mà phủ nhận tư cách "người sản xuất" của các nhà phát triển. Các nhà phát triển đã chủ động can thiệp vào cơ chế an toàn của mô hình, xây dựng môi trường kỹ thuật thuận lợi cho việc tạo ra nội dung đồi trụy, từ đó có quyền kiểm soát thực chất đối với việc tạo ra các nội dung vi phạm pháp luật. Mặc dù nội dung này được tạo ra theo yêu cầu của người dùng, nhưng các nhà phát triển vẫn được coi là "người sản xuất" vật phẩm đồi trụy theo nghĩa của luật hình sự và phải chịu trách nhiệm hình sự tương ứng.

Lưu ý của IT: Theo yêu cầu của "Ý kiến về việc xét xử các vụ án tranh chấp liên quan đến trí tuệ nhân tạo theo pháp luật" do Tòa án nhân dân tối cao ban hành ngày 7 tháng 9, các hành vi sử dụng công nghệ như deepfake để lừa đảo, lăng mạ, phỉ báng, xâm phạm thông tin cá nhân của công dân, sản xuất, buôn bán và phát tán vật phẩm đồi trụy cấu thành tội phạm sẽ bị trừng trị nghiêm minh theo pháp luật và phải chịu trách nhiệm hình sự.