Ngưỡng nhận dạng khuôn mặt thấp ở New Delhi

Cơ quan thực thi pháp luật Ấn Độ đang bắt đầu đặt tầm quan trọng lớn vào công nghệ nhận dạng khuôn mặt. Cảnh sát Delhi, đang xem xét việc xác định danh tính những người liên quan đến bất ổn dân sự ở miền bắc Ấn Độ trong vài năm qua, nói rằng họ sẽ coi độ chính xác từ 80% trở lên là một trận đấu “tích cực”, theo tài liệu do Internet Freedom Foundation thu được thông qua hồ sơ công khai lời yêu cầu.

Việc nhận dạng khuôn mặt đến khu vực thủ đô của Ấn Độ đánh dấu sự mở rộng của các quan chức thực thi pháp luật Ấn Độ sử dụng dữ liệu nhận dạng khuôn mặt làm bằng chứng cho việc truy tố tiềm năng, gióng lên hồi chuông cảnh báo giữa các chuyên gia về quyền riêng tư và tự do dân sự. Cũng có những lo ngại về ngưỡng chính xác 80%, mà các nhà phê bình cho là tùy tiện và quá thấp, do hậu quả tiềm ẩn đối với những người được đánh dấu là trùng khớp. Việc Ấn Độ thiếu luật bảo vệ dữ liệu toàn diện khiến vấn đề càng trở nên đáng lo ngại hơn.

Các tài liệu nói thêm rằng ngay cả khi một kết quả trùng khớp dưới 80 phần trăm, nó sẽ được coi là “dương tính giả” chứ không phải là tiêu cực, điều này sẽ khiến cá nhân đó “phải xác minh đầy đủ với các bằng chứng xác thực khác.”

“Điều này có nghĩa là mặc dù nhận dạng khuôn mặt không mang lại cho họ kết quả mà chính họ đã quyết định là ngưỡng, nhưng họ sẽ tiếp tục điều tra,” Anushka Jain, cộng tác viên tư vấn chính sách về giám sát và công nghệ với IFF, người đã đệ trình thông tin này, cho biết . “Điều này có thể dẫn đến hành vi quấy rối cá nhân chỉ vì công nghệ nói rằng họ trông giống với người mà cảnh sát đang tìm kiếm”. Bà nói thêm rằng động thái này của Cảnh sát Delhi cũng có thể dẫn đến việc quấy rối người dân từ các cộng đồng đã từng là mục tiêu của các quan chức thực thi pháp luật.

Đáp lại yêu cầu ghi lại hồ sơ của IFF, cảnh sát cho biết họ đang sử dụng ảnh của người bị kết án và ảnh hồ sơ để chạy tính năng nhận dạng khuôn mặt. Họ nói thêm rằng những điều này có thể được sử dụng làm bằng chứng nhưng từ chối chia sẻ thêm chi tiết. Tuy nhiên, họ làm rõ rằng trong trường hợp có kết quả tích cực, các quan chức cảnh sát sẽ tiến hành “điều tra thực nghiệm” thêm trước khi thực hiện bất kỳ hành động pháp lý nào. Cảnh sát Delhi đã không trả lời yêu cầu bình luận qua email của WIRED.

Divij Joshi, người đã dành thời gian nghiên cứu tính hợp pháp của hệ thống nhận dạng khuôn mặt, cho biết ngưỡng khớp 80% hầu như vô nghĩa. Joshi giải thích rằng các con số chính xác phụ thuộc rất nhiều vào các điều kiện để kiểm tra các mô hình công nghệ nhận dạng khuôn mặt dựa trên các bộ dữ liệu chuẩn cụ thể.

Joshi, một ứng viên tiến sĩ tại University College London, cho biết: “Độ chính xác bình thường của hệ thống nhận dạng khuôn mặt hoặc máy học được xác định bằng cách so sánh một mô hình được phát triển trên dữ liệu đào tạo và dữ liệu xác thực với bộ dữ liệu điểm chuẩn. “Khi dữ liệu đào tạo được chỉnh sửa, nó phải được so sánh với tập dữ liệu của bên thứ ba hoặc tập dữ liệu hơi khác một chút.” Ông nói, điểm chuẩn này thường được sử dụng để tính toán tỷ lệ phần trăm độ chính xác của dự đoán.

Bằng chứng về sự thiên vị chủng tộc trong các mô hình nhận dạng khuôn mặt từ lâu đã khiến việc sử dụng công nghệ trở nên có vấn đề. Và trong khi nhiều biến số ảnh hưởng đến độ chính xác của hệ thống nhận dạng khuôn mặt, việc cảnh sát sử dụng rộng rãi một hệ thống với ngưỡng chính xác tổng thể 80% dường như rất bất thường. Một nghiên cứu của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ năm 2021 cho thấy rằng các hệ thống được sử dụng để khớp một lần quét khuôn mặt của khách du lịch với cơ sở dữ liệu chứa ảnh của họ có tỷ lệ chính xác là 99,5% hoặc cao hơn. Tuy nhiên, các nghiên cứu khác đã phát hiện ra tỷ lệ sai sót cao tới 34,7% khi được sử dụng để xác định những phụ nữ có nước da sẫm màu hơn.