Tòa án Tối cao Trung Quốc ban hành quy định pháp lý đầu tiên về AI: Xử lý nghiêm 'Deepfake' và giả mạo giọng nói

Cảm ơn bạn đọc Tây Song của IT đã gửi tin!

Theo tin từ IT ngày 7 tháng 9, Đài Truyền hình Trung ương Trung Quốc (CCTV) đưa tin, hôm nay, Tòa án Nhân dân Tối cao đã tổ chức họp báo công bố "Ý kiến về việc xét xử các vụ án tranh chấp liên quan đến trí tuệ nhân tạo theo pháp luật". Đây là văn bản quy tắc xét xử tư pháp đầu tiên liên quan đến trí tuệ nhân tạo do cơ quan xét xử cao nhất quốc gia ban hành. "Ý kiến" tập trung vào các vấn đề được xã hội quan tâm như AI đổi mặt (AI face-swap), "giết người quen" bằng dữ liệu lớn (big data price discrimination), giả mạo người nổi tiếng để bán hàng, xe tự lái, bảo hộ quyền sở hữu trí tuệ... nhằm làm rõ các quy tắc xét xử tương ứng, phân định ranh giới hành vi và trách nhiệm pháp lý, từ đó bảo đảm sự phát triển lành mạnh và trật tự của trí tuệ nhân tạo thông qua tư pháp công bằng, hiệu quả.

"Ý kiến" bao gồm 5 phần với tổng cộng 24 điều, nội dung chính bao gồm:

Thứ nhất, xác định rõ tư tưởng chỉ đạo và các nguyên tắc cơ bản trong việc xét xử các vụ án tranh chấp liên quan đến trí tuệ nhân tạo. Phần đầu của "Ý kiến" (Điều 1, Điều 2) xác định tư tưởng chỉ đạo cần tuân thủ khi xét xử các vụ án này, đồng thời đề ra ba nguyên tắc cơ bản: lấy con người làm trung tâm, hỗ trợ đổi mới sáng tạo, và xây dựng hàng rào an ninh vững chắc. Điều này nhằm đảm bảo các phán quyết tư pháp luôn đi đúng hướng chính trị, thực hiện hiệu quả yêu cầu kết hợp giữa phát triển và an ninh, giữa thúc đẩy đổi mới và quản trị theo pháp luật.

Thứ hai, quy định pháp lý đối với các hành vi xâm phạm quyền lợi thông qua trí tuệ nhân tạo. Phần thứ hai của "Ý kiến" (Điều 3-11) trước hết làm rõ nguyên tắc quy trách nhiệm đối với các hành vi xâm phạm liên quan đến AI, sau đó xác định việc xác định và gánh chịu trách nhiệm xâm phạm trong các tình huống cụ thể như xâm phạm quyền nhân thân, quyền lợi thông tin cá nhân, quyền lợi người tiêu dùng. Ngoài ra, văn bản cũng quy định rõ trách nhiệm của nhà cung cấp dịch vụ AI tạo sinh, trách nhiệm sản phẩm AI, và trách nhiệm bồi thường trong các vụ tai nạn giao thông liên quan đến xe tự lái và xe có tính năng hỗ trợ lái.

Thứ ba, xét xử các vụ án tranh chấp sở hữu trí tuệ liên quan đến trí tuệ nhân tạo theo pháp luật. Phần thứ ba của "Ý kiến" (Điều 12-16) đưa ra các quy định chuyên biệt cho việc xét xử tranh chấp sở hữu trí tuệ liên quan đến AI, bao gồm 5 khía cạnh: xác định trách nhiệm xâm phạm, trách nhiệm pháp lý của phần mềm mã nguồn mở, cấp quyền và xác nhận quyền sở hữu bằng sáng chế, thực hiện hợp đồng công nghệ, và quy chuẩn sử dụng dữ liệu. Điều này nhằm phản hồi tích cực trước những vấn đề và thách thức mới mà sự phát triển nhanh chóng của công nghệ AI mang lại cho công tác bảo hộ tư pháp về sở hữu trí tuệ, tìm kiếm sự cân bằng giữa khuyến khích đổi mới công nghệ và bảo vệ quyền lợi hợp pháp của chủ thể quyền, cung cấp các quy tắc xét xử rõ ràng cho sự phát triển chất lượng cao và an ninh cấp độ cao của AI.

Thứ tư, khám phá và hoàn thiện các quy tắc thủ tục xét xử, trừng trị các hành vi vi phạm pháp luật và tội phạm. Phần thứ tư của "Ý kiến" (Điều 17-20) bao gồm hai nội dung chính: Một là, trước đặc điểm kỹ thuật và tính chuyên môn cao của các vụ án tranh chấp liên quan đến AI, cần khám phá và hoàn thiện các quy tắc xác minh sự thật và thẩm định chứng cứ, đồng thời quy định rõ việc xử lý các hành vi cản trở trật tự tư pháp như thu thập chứng cứ không đúng cách hoặc cung cấp tài liệu giả mạo bằng AI. Hai là, đưa ra các quy định nguyên tắc về việc trừng trị theo pháp luật các loại tội phạm sử dụng trí tuệ nhân tạo.

Thứ năm, kiện toàn và hoàn thiện cơ chế làm việc và xét xử các vụ án tranh chấp liên quan đến trí tuệ nhân tạo. "Ý kiến" không thể bao quát hết mọi loại hình vụ án AI, nhiều vấn đề cần được tiếp tục khám phá và tích lũy trong thực tiễn tư pháp. Hơn nữa, quản trị AI là một công trình hệ thống, đòi hỏi sự phối hợp liên kết và thực hiện đồng bộ từ nhiều phía. Về vấn đề này, phần thứ năm của "Ý kiến" (Điều 21-24) đưa ra các quy định xoay quanh việc phòng ngừa và giải quyết mâu thuẫn tranh chấp liên quan đến AI, tăng cường nghiên cứu luận chứng, hướng dẫn án lệ và giám sát xét xử, cũng như tăng cường hợp tác giữa các bộ ngành và giao lưu hợp tác tư pháp quốc tế.

IT lưu ý rằng, "Ý kiến" quy định pháp lý đối với các hành vi xâm phạm quyền nhân thân thông qua AI tạo sinh như "AI đổi mặt, giả giọng", "AI hồi sinh người đã khuất". Văn bản quy định rõ:

Việc sử dụng trí tuệ nhân tạo để xử lý tên, chân dung... của cá nhân mà không có sự đồng ý, tạo ra hình ảnh kỹ thuật số ảo có thể nhận diện được cá nhân đó rồi sử dụng hoặc công khai, cấu thành hành vi xâm phạm quyền nhân thân như quyền đối với tên gọi, quyền đối với chân dung.

Việc sử dụng giọng nói của cá nhân làm dữ liệu huấn luyện mà không có sự đồng ý, bắt chước âm sắc, ngữ điệu và phong cách phát âm để tạo ra giọng nói tổng hợp có thể nhận diện được, cấu thành hành vi xâm phạm quyền đối với giọng nói.

Việc điều khiển hình ảnh ảo, tổng hợp giọng nói để thực hiện các hành vi không phù hợp hoặc phát ngôn sai sự thật, làm giảm đánh giá xã hội đối với người khác, cấu thành hành vi xâm phạm quyền danh dự và sẽ bị truy cứu trách nhiệm xâm phạm theo pháp luật.

Việc sử dụng công nghệ AI để tự ý tạo ra, sử dụng hình ảnh kỹ thuật số ảo của người đã khuất dẫn đến việc tên gọi, chân dung, danh dự... của người đã khuất bị xâm phạm, nếu thân nhân của người đã khuất yêu cầu người thực hiện hành vi gánh chịu trách nhiệm dân sự theo quy định tại Điều 994 của Bộ luật Dân sự, Tòa án Nhân dân sẽ xem xét hỗ trợ theo pháp luật.

"Ý kiến" quy định pháp lý đối với các hành vi xâm phạm quyền riêng tư của cá nhân thông qua AI như "khui thông tin mạng" (doxxing), "truy tìm nhân thân" (human flesh search). Với mục đích dò xét quyền riêng tư, việc sử dụng AI để theo dõi, phân tích thông tin công khai như số điện thoại, tài khoản mạng và mạng xã hội của một cá nhân cụ thể nhằm thu thập thông tin cá nhân, hoặc làm rò rỉ, công khai thông tin cá nhân thu thập được, hoặc sử dụng thông tin đó để quấy rối sự yên tĩnh trong đời sống cá nhân, sẽ bị coi là cấu thành hành vi xâm phạm quyền riêng tư. Việc sử dụng AI để quay phim, nhìn trộm, nghe lén không gian riêng tư, hoạt động riêng tư của cá nhân cụ thể cũng bị coi là xâm phạm quyền riêng tư, trừ trường hợp pháp luật có quy định khác hoặc cá nhân đó đồng ý rõ ràng.

"Ý kiến" quy định pháp lý đối với các hành vi xâm phạm quyền lợi hợp pháp của người tiêu dùng như "giết người quen bằng dữ liệu lớn" và "giả mạo người nổi tiếng bán hàng".

"Ý kiến" làm rõ, đối với cùng một loại hàng hóa hoặc dịch vụ, nếu người kinh doanh sử dụng thuật toán để thực hiện sự phân biệt đối xử không hợp lý về giá cả hoặc các điều kiện giao dịch khác, gây thiệt hại đến quyền lợi hợp pháp của người khác, Tòa án Nhân dân sẽ xác định họ phải gánh chịu trách nhiệm xâm phạm tương ứng theo pháp luật.

"Ý kiến" làm rõ, nếu việc sử dụng AI "giả mạo người nổi tiếng bán hàng" cấu thành hành vi lừa đảo và người tiêu dùng yêu cầu bồi thường trừng phạt, Tòa án Nhân dân sẽ hỗ trợ theo pháp luật.

Cùng với sự phát triển nhanh chóng của công nghệ tự lái và hỗ trợ lái, việc xác định trách nhiệm trong các vụ tai nạn liên quan đã trở thành tâm điểm chú ý của xã hội. "Ý kiến" đã làm rõ các quy tắc gánh chịu trách nhiệm khi xe tự lái và xe có tính năng hỗ trợ lái gây thiệt hại, cung cấp chỉ dẫn rõ ràng cho nạn nhân trong việc bảo vệ quyền lợi hợp pháp và thúc đẩy sự phát triển chuẩn mực của ngành.

Đối với các vụ án hiện nay tập trung vào tình huống xe có tính năng hỗ trợ lái gây thiệt hại, "Ý kiến" làm rõ: Nếu lỗi xe và hành vi sai sót của người lái kết hợp dẫn đến cùng một thiệt hại, các bên có quyền yêu cầu người lái và nhà sản xuất, người bán hàng cùng gánh chịu trách nhiệm theo quy định tại Điều 1172 của Bộ luật Dân sự, Tòa án Nhân dân sẽ hỗ trợ theo pháp luật.

"Ý kiến" quy định về hành vi quảng cáo sai sự thật, làm rõ: Nếu nhà sản xuất, người bán xe quảng cáo sai sự thật hoặc gây hiểu lầm về cấp độ tự động hóa, mức độ thông minh, hiệu suất, mục đích sử dụng... của xe tự lái hoặc xe có tính năng hỗ trợ lái, làm tổn hại đến quyền lợi hợp pháp của người tiêu dùng, người tiêu dùng có quyền yêu cầu nhà sản xuất, người bán hàng gánh chịu trách nhiệm dân sự theo quy định của Bộ luật Dân sự, Luật Bảo vệ quyền lợi người tiêu dùng, Tòa án Nhân dân sẽ hỗ trợ theo pháp luật.