Bộ An ninh Quốc gia Trung Quốc cảnh báo 3 rủi ro lớn từ công nghệ giả mạo giọng nói bằng AI

Theo tin từ IT ngày 22 tháng 7, Bộ An ninh Quốc gia Trung Quốc hôm nay đã đăng tải bài viết cảnh báo về những rủi ro tiềm ẩn của công nghệ nhân bản giọng nói AI (AI voice cloning) hiện nay.

Nhờ sự phát triển nhanh chóng của công nghệ AI, AI hiện đã có thể sao chép giọng nói thật với độ chân thực cực cao trong thời gian rất ngắn, nhưng các hành vi lạm dụng liên quan đang gây rối loạn nghiêm trọng trật tự xã hội và xâm phạm an toàn tài sản của người dân. Bộ An ninh Quốc gia đã phân tích ba đặc điểm chính của công nghệ nhân bản giọng nói AI.

Thứ nhất, tốc độ lấy mẫu cực nhanh, thời lượng mẫu huấn luyện tối thiểu cần thiết trên các nền tảng thương mại phổ biến đã được rút ngắn từ vài chục phút xuống còn 3 đến 5 giây.

Thứ hai, giọng nói tổng hợp cực kỳ chân thực, các nghiên cứu cho thấy trong điều kiện không có cảnh báo trước, tỷ lệ người bình thường nhận diện được giọng nói tổng hợp chất lượng cao là dưới 50%.

Thứ ba, thao tác cực kỳ đơn giản, hàng loạt nền tảng trực tuyến đã mở tính năng "nhân bản giọng nói" cho công chúng, người dùng phổ thông chỉ cần tải mẫu lên là có thể tạo ra giọng nói chỉ với một cú nhấp chuột.

Khi giọng nói có thể bị làm giả tùy ý, giá trị niềm tin mà nó mang lại đang đối mặt với nguy cơ bị xóa bỏ. Bộ An ninh Quốc gia đã liệt kê ba loại rủi ro chính:

Kẻ xấu thu thập mẫu giọng nói của người thân nạn nhân để tổng hợp thành giọng nói giả, bịa đặt các tình huống khẩn cấp để thực hiện hành vi lừa đảo;

Nhiều nền tảng trong nước xuất hiện các video và âm thanh sử dụng AI để làm giả giọng nói của người nổi tiếng, phục vụ cho quảng cáo thương mại, thu hút lưu lượng truy cập trên mạng xã hội, trực tiếp xâm phạm quyền lợi hợp pháp về giọng nói của cá nhân;

Một số cá nhân ác ý nhân bản giọng nói của công chức và người của công chúng, cắt ghép và bịa đặt các phát ngôn sai sự thật cũng như diễn giải chính sách giả mạo, sau đó phát tán hàng loạt qua mạng xã hội để gây hiểu lầm cho công chúng.

Bộ An ninh Quốc gia chỉ ra rằng, Trung Quốc về cơ bản đã hình thành một hệ thống ràng buộc pháp lý tích hợp giữa bảo vệ dân sự, quản lý ngành và chế tài hình sự. Theo "Bộ luật Dân sự nước Cộng hòa Nhân dân Trung Hoa", việc bảo vệ giọng nói của cá nhân được áp dụng tương tự các quy định về bảo vệ quyền hình ảnh, mọi hành vi nhân bản, tổng hợp và phát tán giọng nói có thể nhận dạng của người khác mà không được sự cho phép của họ đều là hành vi xâm phạm quyền lợi.

Theo các quy định như "Biện pháp tạm thời về quản lý dịch vụ trí tuệ nhân tạo tạo sinh" và "Quy định về quản lý tổng hợp sâu dịch vụ thông tin internet", các nhà cung cấp dịch vụ tổng hợp giọng nói sâu (deep synthesis) phải thực hiện các yêu cầu tuân thủ như đăng ký nền tảng, xác thực danh tính người dùng, kiểm tra ủy quyền và gắn nhãn truy xuất nguồn gốc. Việc sử dụng nhân bản giọng nói AI để thực hiện lừa đảo viễn thông, tung tin đồn thất thiệt, trục lợi bất hợp pháp... nếu vi phạm luật hình sự sẽ bị truy cứu trách nhiệm hình sự nghiêm minh theo pháp luật.

Lưu ý của IT: Tổng hợp sâu (deep synthesis) là thuật ngữ chung chỉ công nghệ sử dụng kỹ thuật học sâu (deep learning) để tạo ra các nội dung tổng hợp bao gồm văn bản, hình ảnh, âm thanh, video, v.v.

Bộ An ninh Quốc gia cũng đề xuất yêu cầu phối hợp quản trị đa phương: Các nền tảng mạng phải thực hiện trách nhiệm chủ thể, dọn dẹp các công cụ và tính năng vi phạm, hoàn thiện cơ chế kiểm duyệt, truy xuất nguồn gốc và cảnh báo; những người làm trong ngành nên tuân thủ nguyên tắc "công nghệ hướng thiện"; đông đảo quần chúng cần nâng cao ý thức phòng ngừa, thận trọng bảo vệ thông tin sinh trắc học giọng nói cá nhân, khi liên quan đến xác thực tài chính và quyền riêng tư nhất định phải thực hiện xác thực đa lớp, nếu gặp phải hành vi xâm phạm hoặc lừa đảo cần kịp thời lưu giữ bằng chứng và báo cáo để bảo vệ quyền lợi.

Tuyên bố quảng cáo: Các liên kết ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.