Làm thế nào để ngăn robot trở thành kẻ phân biệt chủng tộc

Xem Thêm : Sông Colorado đang chết. Có thể của nó

[ad_1]

Cài Win online

Bạn Đang Xem: Làm thế nào để ngăn robot trở thành kẻ phân biệt chủng tộc

Vào năm 2017, Holliday đã đóng góp vào một báo cáo RAND cảnh báo rằng việc giải quyết sự thiên vị trong học máy đòi hỏi phải thuê nhiều nhóm khác nhau và không thể khắc phục chỉ thông qua các phương tiện kỹ thuật. Vào năm 2020, ông đã giúp thành lập tổ chức phi lợi nhuận Black in Robotics, hoạt động nhằm mở rộng sự hiện diện của người Da đen và các nhóm thiểu số khác trong ngành. Ông cho rằng hai nguyên tắc từ dự luật quyền thuật toán mà ông đề xuất vào thời điểm đó có thể làm giảm nguy cơ triển khai các robot thiên vị. Một là yêu cầu tiết lộ thông báo cho mọi người biết khi nào một thuật toán sẽ đưa ra quyết định đặt cược cao ảnh hưởng đến họ; loại còn lại là trao cho mọi người quyền xem xét hoặc tranh chấp các quyết định như vậy. Văn phòng Chính sách Khoa học và Công nghệ của Nhà Trắng hiện đang phát triển Tuyên ngôn Nhân quyền của AI.

Một số nhà nghiên cứu người máy da đen cho biết nỗi lo của họ về việc phân biệt chủng tộc trở thành những cỗ máy tự động đến từ sự kết hợp giữa chuyên môn kỹ thuật và kinh nghiệm cá nhân.

Terrence Southern lớn lên ở Detroit và hiện sống ở Dallas, bảo trì robot cho nhà sản xuất xe kéo ATW. Anh nhớ lại việc phải đối mặt với những rào cản khi gia nhập ngành công nghiệp chế tạo người máy, hoặc thậm chí là nhận thức được nó. “Cả bố mẹ tôi đều làm việc cho General Motors, và tôi không thể nói với bạn về Jetsons và Chiến tranh giữa các vì sao một robot có thể làm gì, ”Southern nói. Khi tốt nghiệp đại học, anh ấy không gặp ai giống mình ở các công ty chế tạo người máy và tin rằng kể từ đó rất ít thay đổi — đó là một lý do tại sao anh ấy cố vấn cho những người trẻ quan tâm đến việc theo đuổi công việc trong lĩnh vực này.

Southern tin rằng đã quá muộn để ngăn chặn hoàn toàn việc triển khai các robot phân biệt chủng tộc, nhưng cho rằng quy mô có thể được giảm xuống bằng cách tập hợp các bộ dữ liệu chất lượng cao, cũng như các đánh giá độc lập của bên thứ ba về các tuyên bố giả do các công ty xây dựng hệ thống AI đưa ra.

Andra Keay, giám đốc điều hành của tập đoàn công nghiệp người máy ở Thung lũng Silicon và chủ tịch của Women in Robotics, tổ chức có hơn 1.700 thành viên trên khắp thế giới, cũng coi những phát hiện của thí nghiệm robot phân biệt chủng tộc là không đáng ngạc nhiên. Cô nói, sự kết hợp của các hệ thống cần thiết cho một robot để điều hướng thế giới tương đương với “một món salad lớn của mọi thứ có thể xảy ra sai sót”.

Keay đã lên kế hoạch thúc đẩy các cơ quan thiết lập tiêu chuẩn như Viện Kỹ sư Điện và Điện tử (IEEE) áp dụng các quy tắc yêu cầu robot không có giới tính rõ ràng và trung lập về sắc tộc. Keay cho biết, với tỷ lệ chấp nhận robot đang gia tăng do hậu quả của đại dịch Covid-19, cô cũng ủng hộ ý tưởng về việc chính phủ liên bang duy trì một sổ đăng ký robot để giám sát việc triển khai máy móc trong ngành.

Cuối năm 2021, một phần trước những lo ngại của cộng đồng AI và rô bốt, IEEE đã phê duyệt một tiêu chuẩn minh bạch mới cho các hệ thống tự động có thể giúp thúc đẩy các công ty đảm bảo rô bốt đối xử công bằng với tất cả mọi người. Nó đòi hỏi các hệ thống tự quản phải truyền đạt một cách trung thực nguyên nhân của các hành động hoặc quyết định của họ cho người dùng. Tuy nhiên, các nhóm chuyên gia thiết lập tiêu chuẩn có giới hạn của họ: Vào năm 2020, một ủy ban chính sách công nghệ tại Hiệp hội Máy tính Máy tính đã kêu gọi các doanh nghiệp và chính phủ ngừng sử dụng tính năng nhận dạng khuôn mặt, một lời kêu gọi phần lớn dành cho những người khiếm thính.

Khi Carlotta Berry, giám đốc quốc gia của Black in Robotics, nghe nói rằng một robot cờ vua đã làm gãy ngón tay của một đứa trẻ vào tháng trước, suy nghĩ đầu tiên của cô ấy là, “Ai nghĩ rằng con robot này đã sẵn sàng ra mắt khi nó không thể nhận ra sự khác biệt giữa một môn cờ vua mảnh và ngón tay của một đứa trẻ? ” Cô ấy là người điều khiển chương trình robot tại Viện Công nghệ Rose-Hulman ở Indiana và là người biên tập một cuốn sách giáo khoa sắp xuất bản về việc giảm thiểu sự thiên vị trong học máy. Cô tin rằng một phần của giải pháp ngăn chặn việc triển khai các cỗ máy phân biệt giới tính và phân biệt chủng tộc là một tập hợp các phương pháp đánh giá chung cho các hệ thống mới trước khi đưa ra công chúng.

Trong thời đại AI hiện nay, khi các kỹ sư và nhà nghiên cứu cạnh tranh nhau để tạo ra công việc mới, Berry nghi ngờ rằng các nhà chế tạo robot có thể dựa vào để tự điều chỉnh hoặc bổ sung các tính năng an toàn. Cô ấy tin rằng cần nhấn mạnh nhiều hơn vào thử nghiệm của người dùng.

Berry nói: “Tôi không nghĩ rằng các nhà nghiên cứu trong phòng thí nghiệm luôn có thể nhìn thấy rừng cây và sẽ không nhận ra khi có vấn đề. Liệu sức mạnh tính toán có sẵn cho các nhà thiết kế hệ thống AI chạy trước khả năng của họ trong việc cân nhắc chu đáo những gì họ nên hoặc không nên xây dựng với nó không? Berry nói: “Đó là một câu hỏi khó, nhưng một câu hỏi cần được trả lời, vì chi phí quá cao nếu không thực hiện được nó.”

cài đặt phần mềm online
[ad_2]

Nguồn: https://trungtamsuamaytinh.com
Danh mục: TIN HỌC

Vui lòng đánh giá về dịch vụ tại nhà