Các thuật toán Chạy trong lặng lẽ Thành phố

[ad_1]

Cài Win online

Washington, DC, là căn cứ địa của chính phủ quyền lực nhất trên trái đất. Đây cũng là nơi sinh sống của 690.000 người — và 29 thuật toán khó hiểu định hình cuộc sống của họ. Các cơ quan thành phố sử dụng tự động hóa để sàng lọc những người nộp đơn xin gia cư, dự đoán tái phạm tội, xác định gian lận trợ cấp thực phẩm, xác định xem học sinh trung học có khả năng bỏ học hay không, thông báo quyết định kết án cho thanh niên và nhiều thứ khác.

Ảnh chụp nhanh về cuộc sống đô thị bán tự động đến từ một báo cáo mới từ Trung tâm Thông tin Quyền riêng tư Điện tử (EPIC). Tổ chức phi lợi nhuận đã dành 14 tháng để điều tra việc sử dụng các thuật toán của thành phố và nhận thấy chúng đã được sử dụng trên 20 cơ quan, với hơn một phần ba được triển khai trong lĩnh vực trị an hoặc tư pháp hình sự. Đối với nhiều hệ thống, các cơ quan thành phố sẽ không cung cấp đầy đủ chi tiết về cách thức hoạt động hoặc sử dụng công nghệ của họ. Nhóm dự án kết luận rằng thành phố có khả năng sử dụng nhiều thuật toán hơn mà họ không thể khám phá ra.

Những phát hiện này đáng chú ý ngoài DC vì chúng bổ sung thêm bằng chứng cho thấy nhiều thành phố đã âm thầm đưa các thuật toán quan liêu vào hoạt động trong các bộ phận của họ, nơi chúng có thể đóng góp vào các quyết định ảnh hưởng đến cuộc sống của công dân.

Các cơ quan chính phủ thường chuyển sang tự động hóa với hy vọng tăng thêm hiệu quả hoặc tính khách quan cho các quy trình quan liêu, nhưng công dân thường khó biết họ đang làm việc và một số hệ thống đã bị phát hiện là phân biệt đối xử và dẫn đến các quyết định hủy hoại cuộc sống của con người. Ở Michigan, một thuật toán phát hiện gian lận thất nghiệp với tỷ lệ lỗi 93% đã gây ra 40.000 cáo buộc gian lận sai sự thật. Một phân tích năm 2020 của Đại học Stanford và Đại học New York cho thấy gần một nửa số cơ quan liên bang đang sử dụng một số dạng hệ thống ra quyết định tự động.

EPIC đã đào sâu vào việc sử dụng các thuật toán của một thành phố để đưa ra nhận thức về nhiều cách họ có thể ảnh hưởng đến cuộc sống của công dân và khuyến khích người dân ở những nơi khác thực hiện các bài tập tương tự. Ben Winters, người đứng đầu tổ chức phi lợi nhuận về AI và nhân quyền, cho biết Washington được chọn một phần vì khoảng một nửa cư dân của thành phố xác định là người Da đen.

Winters nói: “Thường xuyên hơn không, các hệ thống ra quyết định tự động có tác động không cân xứng đối với các cộng đồng Da đen. Dự án đã tìm thấy bằng chứng cho thấy các camera thực thi giao thông tự động được đặt không cân xứng trong các khu phố có nhiều cư dân Da đen hơn.

Các thành phố có dân số Da đen đáng kể gần đây đã đóng một vai trò trung tâm trong các chiến dịch chống lại các thuật toán của thành phố, đặc biệt là trong việc kiểm soát chính sách. Detroit đã trở thành tâm điểm của các cuộc tranh luận về nhận dạng khuôn mặt sau vụ bắt giữ giả mạo Robert Williams và Michael Oliver vào năm 2019 sau khi các thuật toán xác định sai chúng. Vào năm 2015, việc triển khai tính năng nhận dạng khuôn mặt ở Baltimore sau cái chết của Freddie Gray khi bị cảnh sát giam giữ đã dẫn đến một số cuộc điều tra đầu tiên của quốc hội về việc sử dụng công nghệ này.

EPIC đã săn lùng các thuật toán bằng cách tìm kiếm các tiết lộ công khai của các cơ quan thành phố và cũng nộp các yêu cầu hồ sơ công khai, yêu cầu hợp đồng, thỏa thuận chia sẻ dữ liệu, đánh giá tác động quyền riêng tư và các thông tin khác. Sáu trong số 12 cơ quan thành phố đã trả lời, chia sẻ các tài liệu như hợp đồng trị giá 295.000 đô la với Pondera Systems, thuộc sở hữu của Thomson Reuters, công ty sản xuất phần mềm phát hiện gian lận có tên FraudCaster được sử dụng để sàng lọc những người nộp đơn xin trợ cấp thực phẩm. Đầu năm nay, các quan chức California nhận thấy rằng hơn một nửa trong số 1,1 triệu khiếu nại của cư dân bang rằng phần mềm của Pondera bị gắn cờ là đáng ngờ trên thực tế là hợp pháp.

cài đặt phần mềm online
[ad_2]