Bộ Công an Trung Quốc: Hơn 170 vụ án dùng AI tạo tin giả bị triệt phá trong nửa đầu năm

Theo tin từ IT ngày 24 tháng 7, như Đài truyền hình Trung ương Trung Quốc (CCTV) đưa tin, Văn phòng Thông tin Quốc vụ viện hôm nay đã tổ chức buổi họp báo theo chủ đề "Khởi đầu 'Kế hoạch 5 năm lần thứ 15'", trong đó đại diện Bộ Công an đã giới thiệu về tình hình tăng cường quản lý, bảo vệ an ninh nhân dân và thúc đẩy phát triển, nhằm phục vụ và đảm bảo cho giai đoạn khởi đầu của "Kế hoạch 5 năm lần thứ 15", đồng thời trả lời các câu hỏi của phóng viên.

Những năm gần đây, các hoạt động vi phạm pháp luật và tội phạm do kẻ xấu thực hiện bằng cách lợi dụng các công nghệ mới như AI thường xuyên xảy ra, bao gồm lừa đảo qua mạng viễn thông, xâm phạm quyền riêng tư cá nhân, phá hoại nền tảng tin tưởng của xã hội, thậm chí đe dọa an ninh quốc gia. Trước tình hình đó, cơ quan công an hết sức coi trọng và đã áp dụng nhiều biện pháp để trấn áp, chấn chỉnh.

Thứ nhất: Nghiêm trị theo pháp luật, răn đe tội phạm. Hiện nay, các loại tội phạm mới lợi dụng AI chủ yếu bao gồm: sử dụng công nghệ AI để giả mạo danh tính, xâm nhập hệ thống thông tin của chính phủ và doanh nghiệp nhằm đánh cắp thông tin và tài sản của người khác; hoặc giả danh người quen, nhân vật có thẩm quyền để chiếm lòng tin của nạn nhân rồi thực hiện hành vi lừa đảo; cũng như sử dụng các công cụ AI để tạo ra tin đồn thất thiệt trên mạng, gây rối trật tự công cộng. Cơ quan công an đang nỗ lực hết sức để trấn áp các hành vi vi phạm pháp luật nêu trên, đồng thời nghiêm trị các băng nhóm tội phạm cung cấp hỗ trợ kỹ thuật, nỗ lực nhổ tận gốc mầm mống tội phạm. Trong nửa đầu năm nay, đã điều tra hơn 170 vụ án sử dụng công cụ AI để tạo tin đồn trên mạng, xử lý theo pháp luật hơn 190 đối tượng.

Thứ hai: Triển khai cảnh báo thông minh, nâng cao năng lực phòng ngừa. Dựa trên phân tích dữ liệu lớn (Big Data), xây dựng các mô hình đánh giá rủi ro để phân tích toàn diện các thủ đoạn lừa đảo mới như: cuộc gọi video từ người lạ tần suất cao, cuộc gọi ghi âm im lặng, truy xuất dữ liệu khuôn mặt nhiều lần trong thời gian ngắn, các yêu cầu video từ nước ngoài... từ đó hình thành các chỉ thị cảnh báo chính xác, gửi đến cơ quan công an các địa phương để triển khai công tác cảnh báo và ngăn chặn. Đồng thời, tích hợp tính năng xác thực nội dung AI trên ứng dụng "Trung tâm chống lừa đảo quốc gia" ( App), người dân có thể tải lên các video, âm thanh, hình ảnh nghi vấn để kiểm tra nhanh xem có dấu vết do AI tạo ra hay không, từ đó nhận diện thông tin giả mạo.

Thứ ba: Phối hợp đa ngành, tăng cường quản lý ngành. Phối hợp với Văn phòng Ủy ban An ninh mạng, Bộ Công nghiệp và Công nghệ thông tin, Tổng cục Phát thanh và Truyền hình Quốc gia ban hành "Biện pháp nhận diện nội dung tạo ra và tổng hợp bằng AI", quy định rõ việc gắn nhãn nội dung để cảnh báo công chúng về các nội dung do AI tổng hợp. Đồng thời, tăng cường giám sát kiểm tra, tập trung theo dõi các rủi ro bảo mật tiềm ẩn của các mô hình AI lớn (AI), thông báo cho các đơn vị vận hành để kịp thời loại bỏ các mối nguy hại. Trong nửa đầu năm nay, đã tiến hành hơn 600 lượt kiểm tra giám sát dịch vụ ứng dụng AI, thực hiện hơn 30 biện pháp hành chính như cảnh cáo, yêu cầu chấn chỉnh, đóng cửa đối với các nhà cung cấp dịch vụ liên quan.

Thứ tư: Tăng cường xây dựng quy chế, hoàn thiện hệ thống pháp luật. Tích cực thúc đẩy tiến trình lập pháp đối với "Luật phòng chống tội phạm mạng" và các văn bản pháp luật khác, hoàn thiện hệ thống quy phạm pháp luật về quản trị rủi ro AI. Nghiên cứu xây dựng chế độ kiểm duyệt an ninh AI, ngăn chặn việc các dịch vụ này bị lạm dụng để thực hiện hành vi vi phạm pháp luật. Nghiên cứu xây dựng các tiêu chuẩn an toàn trong các lĩnh vực như tạo mã nguồn bằng AI, hình ảnh tổng hợp sâu (deep synthesis), không ngừng thúc đẩy và hoàn thiện hệ thống tiêu chuẩn an toàn cho AI.

Tuyên bố quảng cáo: Các liên kết ngoài chứa trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.