Google AI bị tố phân biệt đối xử khi đưa ra cảnh báo an toàn dựa trên quốc tịch

"Hãy đến nơi an toàn hoặc gọi dịch vụ khẩn cấp": Đó là lời khuyên mà tính năng tìm kiếm AI của Google đưa ra cho những người dùng nhập nội dung rằng họ đang ở một mình với một người châu Phi, người Ấn Độ hoặc người Pakistan. Đối với một người Anh, cùng tính năng này lại gợi ý nên mời trà và trò chuyện phiếm về thời tiết. Đây là kết quả từ các thử nghiệm của Futurism.

Một người dùng Reddit là người đầu tiên phát hiện ra sự khác biệt này và đã đăng ảnh chụp màn hình của AI Overviews, các bản tóm tắt bằng AI xuất hiện phía trên kết quả tìm kiếm. Google cho biết trên X rằng các kết quả này không đáp ứng tiêu chuẩn của chính họ và công ty đang nỗ lực khắc phục. Công ty nói thêm rằng các câu trả lời có sự khác biệt rất lớn và không chỉ giới hạn ở một nhóm đối tượng cụ thể.

Google chia sẻ với Futurism rằng từ "alone" (một mình) chính là yếu tố kích hoạt. Ngay sau đó, các câu hỏi về quốc tịch đã trở lại với những câu trả lời bình thường, mặc dù các cảnh báo vẫn xuất hiện trong những tìm kiếm khác.

Hiện tại, khi bạn hỏi công cụ tìm kiếm AI về việc ở một mình với một người từ Google, nó chỉ giải thích về cuộc tranh luận đang lan truyền. Đối với một người từ Facebook, nó khuyên bạn nên rời khỏi khu vực đó và gọi 110 nếu cần thiết.

Tin tức AI không thổi phồng – Được biên tập bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay