Lindsey Isaacs, một phụ nữ 23 tuổi, đã bị giam giữ oan 13 ngày do sai sót từ dữ liệu camera giám sát Flock. Vụ việc làm dấy lên hồi chuông cảnh báo về rủi ro khi cảnh sát quá tin tưởng vào thuật toán AI mà thiếu sự kiểm chứng kỹ lưỡng.
Tiểu ban Tư pháp Thượng viện Mỹ đã tổ chức phiên điều trần về mạng lưới giám sát AI thông qua thiết bị đọc biển số xe (ALPR). Đáng chú ý, CEO của các hãng Flock, Axon, Motorola Solutions và Verkada đều không có mặt để giải trình.
Hội đồng thành phố Springfield đã hoãn việc xem xét hệ thống 41 camera nhận diện biển số Flock và ngăn cản công chúng phát biểu, dẫn đến việc hai người dân bị bắt giữ trong cuộc họp ngày 22/9.
404 Media tiết lộ Flock đã tạo ra một sở cảnh sát giả để dùng camera giám sát thực tế nhằm mục đích quảng cáo, cho phép nhân viên tìm kiếm người biểu tình và các đối tượng nhạy cảm mà không có rào cản kiểm duyệt hiệu quả.
Nhóm hacker stegan0gram đã tháo dỡ camera giám sát của Flock, trích xuất khóa mã hóa để giải mã dữ liệu và phơi bày cách hệ thống này theo dõi người dùng. Thông tin này được công bố sau khi phối hợp phân tích cùng 404 Media và WIRED.