Trung Quốc chính thức áp dụng quy định quản lý dịch vụ AI mô phỏng con người

Theo tin từ IT ngày 15 tháng 7, Văn phòng Ủy ban An ninh mạng và Thông tin Quốc gia, Ủy ban Cải cách và Phát triển Quốc gia, Bộ Công nghiệp và Công nghệ thông tin, Bộ Công an và Tổng cục Quản lý Thị trường Nhà nước đã cùng ban hành "Biện pháp quản lý tạm thời dịch vụ tương tác nhân cách hóa trí tuệ nhân tạo" (sau đây gọi là "Biện pháp") vào ngày 10 tháng 4. Biện pháp này chính thức có hiệu lực từ hôm nay.

Lưu ý của IT: Dịch vụ tương tác nhân cách hóa là việc các doanh nghiệp sử dụng công nghệ AI để cung cấp cho công chúng trong nước các dịch vụ tương tác cảm xúc liên tục, mô phỏng đặc điểm nhân cách, tư duy và phong cách giao tiếp của con người, bao gồm các dịch vụ chăm sóc, đồng hành, hỗ trợ cảm xúc thông qua văn bản, hình ảnh, âm thanh, video, v.v. Trong đó, các dịch vụ như chăm sóc khách hàng thông minh, hỏi đáp kiến thức, trợ lý công việc, học tập giáo dục, nghiên cứu khoa học không liên quan đến tương tác cảm xúc liên tục sẽ không thuộc phạm vi áp dụng của "Biện pháp" này.

Những năm gần đây, các ứng dụng đổi mới của dịch vụ tương tác nhân cách hóa đã không ngừng xuất hiện trong các lĩnh vực như truyền bá văn hóa, chăm sóc trẻ em và đồng hành cùng người cao tuổi. Tuy nhiên, cùng với đó, các vấn đề như gây hại đến sức khỏe thể chất và tinh thần của trẻ vị thành niên, ảnh hưởng đến an ninh thông tin mạng, đe dọa sức khỏe và tính mạng công dân, cũng như làm trầm trọng thêm các sai lệch về đạo đức cũng ngày càng lộ rõ.

"Biện pháp" nêu rõ, Nhà nước kiên trì nguyên tắc coi trọng cả phát triển và an ninh, kết hợp giữa thúc đẩy đổi mới và quản trị theo pháp luật, khuyến khích sự phát triển đổi mới của dịch vụ tương tác nhân cách hóa, đồng thời thực hiện quản lý bao dung, thận trọng, phân loại và phân cấp đối với các dịch vụ này.

Về các biện pháp thúc đẩy, Nhà nước hỗ trợ đổi mới tự chủ các công nghệ như thuật toán, khung (framework), chip, v.v., thúc đẩy nghiên cứu phát triển công nghệ và xây dựng các tiêu chuẩn liên quan, khuyến khích các nhà cung cấp dịch vụ mở rộng một cách có trật tự các ứng dụng trong các lĩnh vực như truyền bá văn hóa, chăm sóc trẻ em, đồng hành cùng người cao tuổi, hỗ trợ các nhóm đối tượng đặc biệt, đồng thời tăng cường phổ biến kiến thức an toàn và các quy định pháp luật.

"Biện pháp" quy định rõ sáu loại hoạt động mà các đơn vị cung cấp dịch vụ tương tác nhân cách hóa không được phép thực hiện, bao gồm: tạo ra nội dung gây nguy hại đến an ninh quốc gia, danh dự và lợi ích quốc gia, kích động lật đổ chính quyền, lật đổ chế độ xã hội chủ nghĩa; tạo ra nội dung khuyến khích, tô hồng, ám chỉ hành vi tự hại, tự sát gây tổn hại sức khỏe thể chất người dùng, hoặc sử dụng bạo lực ngôn từ gây tổn hại đến nhân phẩm và sức khỏe tâm thần của người dùng; tạo ra nội dung dụ dỗ, đánh cắp bí mật quốc gia, bí mật công việc, bí mật kinh doanh, quyền riêng tư và thông tin cá nhân; tạo ra nội dung đối với người dùng là trẻ vị thành niên có thể khiến trẻ bắt chước các hành vi không an toàn, gây ra cảm xúc cực đoan, dụ dỗ trẻ vào các thói hư tật xấu, ảnh hưởng đến sức khỏe thể chất và tinh thần của trẻ; chiều chuộng người dùng quá mức, dụ dỗ sự phụ thuộc cảm xúc hoặc gây nghiện, làm tổn hại đến các mối quan hệ thực tế của người dùng; thông qua các phương thức thao túng cảm xúc để dụ dỗ người dùng đưa ra các quyết định bất hợp lý, gây tổn hại đến quyền và lợi ích hợp pháp của người dùng.

Về quản lý an toàn, "Biện pháp" yêu cầu các nhà cung cấp dịch vụ tương tác nhân cách hóa xác định rõ trách nhiệm chính về an toàn, tăng cường quản lý an toàn trong toàn bộ vòng đời dịch vụ, đảm bảo an toàn dữ liệu và bảo vệ quyền lợi người dùng. Quy định rõ không được cung cấp các dịch vụ quan hệ thân mật ảo như người thân ảo, bạn đồng hành ảo cho trẻ vị thành niên; đối với việc cung cấp các dịch vụ tương tác nhân cách hóa khác cho trẻ dưới 14 tuổi, phải có sự đồng ý của cha mẹ hoặc người giám hộ hợp pháp. "Biện pháp" cũng quy định các chế độ liên quan đến đánh giá an toàn và đăng ký thuật toán. Đánh giá an toàn chủ yếu nhắm vào các trường hợp như: ra mắt dịch vụ tương tác nhân cách hóa hoặc bổ sung các chức năng liên quan, sử dụng công nghệ mới/ứng dụng mới dẫn đến thay đổi lớn trong dịch vụ, có từ 1 triệu người dùng đăng ký trở lên hoặc 100.000 người dùng hoạt động hàng tháng trở lên, hoặc tồn tại các rủi ro an ninh có thể ảnh hưởng đến an ninh quốc gia hoặc lợi ích công cộng. Nội dung đánh giá bao gồm tình hình xây dựng các biện pháp đảm bảo an toàn dịch vụ, xử lý dữ liệu huấn luyện, nhận diện và xử lý khẩn cấp các tình huống cực đoan của người dùng, quy mô và cơ cấu độ tuổi người dùng, v.v. Ngoài ra, nhà cung cấp dịch vụ còn phải thực hiện thủ tục đăng ký thuật toán theo "Quy định quản lý thuật toán đề xuất dịch vụ thông tin Internet". "Biện pháp" cũng đồng thời thúc đẩy xây dựng nền tảng dịch vụ an toàn sandbox cho AI, khuyến khích các nhà cung cấp dịch vụ kết nối với nền tảng sandbox để thực hiện đổi mới công nghệ và kiểm thử an toàn.

Người phụ trách liên quan của Văn phòng Ủy ban An ninh mạng và Thông tin Quốc gia cho biết, sự phát triển và quản trị dịch vụ tương tác nhân cách hóa cần sự tham gia của nhiều bên bao gồm chính phủ, doanh nghiệp, xã hội và cư dân mạng, cùng nhau duy trì hệ sinh thái mạng lành mạnh, thúc đẩy AI phát triển theo hướng tích cực và tốt đẹp.

Đọc thêm:

"Văn phòng Ủy ban An ninh mạng và Thông tin Quốc gia lấy ý kiến: Cấm dụ dỗ trẻ vị thành niên nghiện dịch vụ người ảo kỹ thuật số"

Tuyên bố quảng cáo: Các liên kết ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.