Meta khắc phục lỗi AI đưa ra gợi ý khiếm nhã về trẻ em trong video người dùng

Emma Roth

là một cây bút tin tức chuyên đưa tin về cuộc chiến dịch vụ phát trực tuyến (streaming wars), công nghệ tiêu dùng, tiền điện tử, mạng xã hội và nhiều lĩnh vực khác. Trước đây, cô từng là biên tập viên và cây bút tại MUO.

Meta cho biết họ đang thực hiện các thay đổi đối với những gợi ý từ chatbot AI của mình sau khi một video lan truyền cho thấy nó đã tự ý tìm kiếm thông tin cá nhân về các con gái nhỏ của một người phụ nữ, như Futurism đã đưa tin trước đó. Trong một tuyên bố gửi tới The Verge, người phát ngôn của Meta là Dina El-Kassaby cho biết công ty đã "làm chưa tốt" và nói thêm rằng "tính năng này lẽ ra không bao giờ được phép gợi ý cho người dùng những câu hỏi như vậy".

Tuần trước, người dùng Instagram Kalie Robins đã đăng một video giải thích cách Meta AI đưa ra một gợi ý xâm phạm quyền riêng tư sau khi cô đăng chéo một đoạn clip lên Facebook. Lời nhắc của AI, "Ai là hành khách nhí?", xuất hiện bên dưới video cô và con mình đang hát trong xe hơi. Robins cho biết khi cô chọn lời nhắc đó, Meta AI đã tổng hợp thông tin về các con gái của cô từ những bài đăng trước đây của cô, cũng như các bài đăng từ người thân của cô. Nó còn gợi ý thêm các câu hỏi về độ tuổi của những đứa trẻ và nơi Robins sống cùng gia đình. Robins cho biết Meta AI còn hiển thị cả những bức ảnh các con gái cô đã đăng trên nền tảng, bao gồm cả một bức ảnh mà cô khẳng định mình đã xóa từ nhiều năm trước.

Meta đã tích hợp trợ lý AI của mình vào Facebook, Instagram, WhatsApp và Messenger, nơi nó có thể trả lời câu hỏi, viết bài đăng và tạo hình ảnh. Vào tháng 7, công ty đã gỡ bỏ một tính năng cho phép người dùng tạo deepfake AI của những người dùng Instagram khác sau khi vấp phải sự phản đối dữ dội. El-Kassaby của Meta hiện cho biết họ đã khắc phục sự cố khiến Meta AI đưa ra các gợi ý liên quan đến các chủ đề cá nhân.

"Chúng tôi tạo ra tính năng này để giúp mọi người có thêm thông tin về các chủ đề hoặc bài đăng mà họ quan tâm", El-Kassaby nói. "Khi ai đó nhấp vào một lời nhắc và sử dụng tính năng này, phản hồi được tạo ra dựa trên thông tin mà người dùng đó vốn đã có quyền truy cập". Theo El-Kassaby, trong trường hợp này, Meta AI có thể đã lấy thông tin từ các video mà Robins đã nhắc tên các con mình.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên bảng tin cá nhân của bạn và nhận thông báo qua email.