Flock Safety Thêm Công Cụ AI Tìm Người Cho Cảnh Sát

Một công cụ cho phép nhân viên khoanh một khu vực trong thành phố rồi để các máy quay trong vùng đó chạy tìm kiếm tự động liên tục với bất kỳ ai khớp mô tả bằng chữ. Đây là một trong những cách mà cảnh sát có thể tìm người, không chỉ tìm biển số xe.

Trong năm qua, Flock đã gặp phản ứng dữ dội. Nhiều sở cảnh sát trên cả nước đã hủy hợp đồng, và các hội đồng thành phố từng chấp thuận lắp đặt cũng âm thầm bỏ phiếu đưa máy quay ra khỏi nơi đặt chúng.

Hai thành viên Quốc hội đã viết thư cho Garrett Langley sau khi một phó cảnh sát ở Texas tìm kiếm hơn 83.000 máy quay để lần theo một phụ nữ đã phá thai. Illinois cũng phát hiện công ty đã để các nhân viên di trú liên bang tiếp cận dữ liệu máy quay của bang, vi phạm luật bang.

Tháng 8, Flock đưa ra một gói thay đổi gồm rút ngắn thời gian lưu dữ liệu mặc định, yêu cầu mã vụ việc cho mọi lượt tìm kiếm, và thêm kiểm tra tự động để phát hiện việc lạm dụng công cụ. Flock nói những thay đổi này sẽ là bắt buộc vào cuối năm.

Phần phân tích cho thấy các rào chắn này có thể làm nản một số cách dùng sai và ghi lại chúng, nhưng không chặn được. Các chuyên gia nói hệ thống của Flock giao cho AI một việc mà công nghệ nào cũng chưa làm tin cậy: tự quyết định những mô tả nào một nhân viên được phép tìm.

Hệ thống còn chấm mô tả bằng chữ theo nhiều nhóm nội dung nhạy cảm, trong đó có chủng tộc và tôn giáo. Nhóm liên quan đến biểu đạt chính trị, xã hội và văn hóa là nhóm duy nhất không chặn lượt tìm kiếm.

Tom Bowman, cố vấn chính sách của dự án giám sát an ninh thuộc Center for Democracy and Technology, nói đây là một trong những vùng được Tu chính án thứ nhất bảo vệ chặt nhất và lại là vùng mà công ty tỏ ra ít lo ngại nhất từ góc nhìn thực thi pháp luật.