CEO Telegram tố cáo kẻ tống tiền dùng AI để thao túng Apple gỡ ứng dụng

Cảm ơn bạn đọc "" của IT đã gửi thông tin đóng góp!

Theo tin từ IT ngày 5 tháng 8, CEO của Telegram, Pavel Durov, hôm nay cho biết nguyên nhân khiến Telegram bị gỡ khỏi Apple App Store trong một thời gian ngắn là do một kẻ "tống tiền gỡ ứng dụng" (takedown extortionist) đã cố tình chèn các tài liệu lạm dụng tình dục trẻ em (CSAM) được chỉnh sửa bằng AI, nhằm mục đích ép buộc Apple gỡ bỏ ứng dụng này.

IT ghi nhận, vào tối thứ Hai theo giờ địa phương, sau khi phát hiện tài liệu lạm dụng tình dục trẻ em trên nền tảng Telegram, Apple đã gỡ ứng dụng này khỏi App Store trong khoảng 40 phút. Sau đó, Apple đã khôi phục ứng dụng này sau khi Telegram xóa bỏ các nội dung liên quan.

Durov cho biết kẻ tấn công này thuộc nhóm được gọi là "kẻ tống tiền gỡ ứng dụng", tức là những đối tượng đe dọa báo cáo các nội dung vi phạm cộng đồng để đòi tiền chuộc từ các quản trị viên nhóm, nếu không sẽ tấn công vào cộng đồng của họ.

Ông cho biết, loại kẻ tống tiền này sử dụng các tài khoản tự động để chèn nội dung bất hợp pháp vào các nhóm công khai, sau đó báo cáo trực tiếp cho Apple nhằm thúc đẩy Apple gỡ bỏ các cộng đồng hợp pháp từ chối trả tiền chuộc.

Durov giải thích thêm rằng kẻ tấn công đã sử dụng một "thủ thuật kỹ thuật" để vượt qua cơ chế kiểm duyệt của Telegram. Chúng chỉnh sửa một tin nhắn cũ trong nhóm đang hoạt động và thêm nội dung bất hợp pháp vào đó. Vì tin nhắn này thuộc về lịch sử trò chuyện, các thành viên trong nhóm sẽ không nhìn thấy và không thể báo cáo kịp thời, do đó đã thành công trong việc né tránh quy trình kiểm duyệt thông thường của nền tảng.

Durov nhấn mạnh rằng việc xuất hiện nội dung khiêu dâm bất hợp pháp trong các nhóm công khai không phải là vấn đề mang tính hệ thống của Telegram, vì bản thân nền tảng này đã có cơ chế kiểm duyệt nội dung hiệu quả. Sự việc lần này là một trường hợp đặc biệt, khi kẻ tấn công lợi dụng "nội dung có dấu thời gian cũ, thực tế gần như không thể nhìn thấy" để thực hiện hành vi tấn công.

Durov cũng cho biết Apple đã gỡ ứng dụng trước khi liên hệ với Telegram. Ông cho rằng Apple đã bị kẻ tấn công đánh lừa và phản ứng thái quá, đồng thời cảnh báo rằng phương thức tấn công này có thể trở thành "rủi ro hệ thống đối với tất cả các ứng dụng di động cho phép người dùng tạo nội dung (UGC)".

Trước đó, Apple cho biết trong quá trình kiểm duyệt nội dung, họ đã phát hiện Telegram chứa tài liệu lạm dụng tình dục trẻ em vi phạm nguyên tắc kiểm duyệt của App Store. Apple cũng chỉ ra rằng Telegram đã "nhanh chóng xóa nội dung liên quan và khóa người dùng vi phạm" sau khi nhận được thông báo, nhờ đó ứng dụng đã được đưa trở lại App Store.

Tính đến thời điểm hiện tại, Apple vẫn chưa phản hồi về tuyên bố của Durov liên quan đến việc "kẻ tống tiền gỡ ứng dụng" thao túng sự việc lần này.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm thông báo này.