Trẻ em đã trở lại lớp học và máy tính xách tay vẫn còn

Đây là những gì Các giáo viên trung học nhìn thấy khi họ mở GoGuardian, một ứng dụng phần mềm phổ biến được sử dụng để theo dõi hoạt động của học sinh: Giao diện quen thuộc, giống như giao diện thư viện của một cuộc gọi Zoom lớn. Nhưng thay vì nhìn thấy khuôn mặt thiếu niên trong mỗi khung hình, giáo viên nhìn thấy hình ảnh thu nhỏ hiển thị màn hình máy tính xách tay của mỗi học sinh. Họ quan sát khi con trỏ của học sinh lướt qua các dòng của sonnet hoặc từ “chlorofluorocarbon” xuất hiện, được nhập một cách cẩn thận vào thanh tìm kiếm. Nếu một học sinh bị lôi kéo bởi sự mất tập trung — một trò chơi trực tuyến, một video đóng thế — giáo viên cũng có thể thấy điều đó và có thể nhắc học sinh tiếp tục làm nhiệm vụ thông qua một tin nhắn riêng được gửi qua GoGuardian. Nếu học sinh này đã rời khỏi bài tập quá nhiều lần, giáo viên có thể điều khiển thiết bị từ xa và tự ngắt tab.

Phần mềm giám sát học sinh đã được giám sát mới trong quá trình diễn ra đại dịch Covid-19. Khi học sinh ở Mỹ buộc phải tiếp tục đi học, nhiều người đã mang các thiết bị do nhà trường cấp về nhà. Nằm trong những chiếc máy này là phần mềm có thể cho phép giáo viên xem và điều khiển màn hình của học sinh, sử dụng AI để quét văn bản từ email của học sinh và tài liệu dựa trên đám mây, và trong những trường hợp nghiêm trọng, gửi cảnh báo về các mối đe dọa bạo lực tiềm ẩn hoặc tổn hại sức khỏe tâm thần cho các nhà giáo dục và thực thi pháp luật địa phương sau giờ học.

Giờ đây, phần lớn học sinh Mỹ cuối cùng cũng đã trực tiếp trở lại trường học, phần mềm giám sát đã phát triển mạnh trong đại dịch sẽ ở trên các thiết bị do trường cấp của họ, nơi nó sẽ tiếp tục theo dõi họ. Theo một báo cáo được công bố hôm nay từ Trung tâm Dân chủ và Công nghệ, 89 phần trăm giáo viên nói rằng trường học của họ sẽ tiếp tục sử dụng phần mềm theo dõi học sinh, tăng 5 điểm phần trăm so với năm ngoái. Đồng thời, sự đảo lộn của Roe v. Wade đã dẫn đến những lo ngại mới về giám sát kỹ thuật số ở các bang đã khiến dịch vụ chăm sóc phá thai trở nên bất hợp pháp. Các đề xuất nhắm vào thanh thiếu niên LGBTQ, chẳng hạn như lời kêu gọi của thống đốc Texas để điều tra các gia đình của trẻ em đang tìm kiếm dịch vụ chăm sóc khẳng định giới tính, làm tăng thêm lo lắng về cách dữ liệu được thu thập thông qua các thiết bị do trường học cấp có thể được vũ khí hóa vào tháng 9.

Báo cáo của CDT cũng tiết lộ cách phần mềm giám sát có thể thu hẹp khoảng cách giữa các lớp học và hệ thống carceral. Bốn mươi bốn phần trăm giáo viên báo cáo rằng ít nhất một học sinh tại trường của họ đã được liên hệ với cơ quan thực thi pháp luật do các hành vi bị phần mềm giám sát gắn cờ. Và 37 phần trăm giáo viên nói rằng trường của họ sử dụng giám sát hoạt động ngoài giờ thông thường báo cáo rằng những cảnh báo như vậy được chuyển đến “bên thứ ba tập trung vào an toàn công cộng” (ví dụ: sở cảnh sát địa phương, cơ quan thực thi nhập cư). Elizabeth Laird, giám đốc công bằng về công nghệ dân sự tại CDT cho biết: “Các trường học đã thể chế hóa và cách mạng hóa quyền truy cập của cơ quan thực thi pháp luật đối với thông tin của học sinh.

Các thượng nghị sĩ Hoa Kỳ Elizabeth Warren và Ed Markey gần đây đã nêu quan ngại về việc phần mềm này tạo điều kiện thuận lợi cho việc liên hệ với cơ quan thực thi pháp luật, cho thấy rằng các sản phẩm này cũng có thể được sử dụng để hình sự hóa những học sinh tìm kiếm tài nguyên sức khỏe sinh sản trên các thiết bị do nhà trường phát hành. Các thượng nghị sĩ đã tìm kiếm phản hồi từ bốn công ty giám sát lớn: GoGuardian, Gaggle, Securly và Bark for Schools, cùng tiếp cận với hàng nghìn khu học chánh và hàng triệu học sinh Mỹ.

Những lo ngại lan rộng về sức khỏe tâm thần của thanh thiếu niên và bạo lực học đường tạo nên bối cảnh nghiệt ngã cho mùa tựu trường. Sau vụ xả súng hàng loạt tại một trường tiểu học ở Uvalde, Texas, Quốc hội đã thông qua đạo luật chỉ đạo 300 triệu USD cho các trường học để tăng cường cơ sở hạ tầng an ninh. Các công ty giám sát nói lên nỗi sợ hãi của các nhà giáo dục, thường quảng cáo về khả năng sản phẩm của họ không thể tấn công những kẻ tấn công học sinh. Trang web của Securly cung cấp cho các nhà giáo dục “cái nhìn sâu sắc được hỗ trợ bởi AI về hoạt động của học sinh đối với các tệp email, Google Drive và Microsoft OneDrive”. Nó mời họ “tiếp cận sự an toàn của học sinh từ mọi góc độ, trên mọi nền tảng và xác định những học sinh có thể có nguy cơ gây hại cho bản thân hoặc người khác”.

Hẹn gặp tôi sau giờ học

Trước Roe quyết định đã chú ý nhiều hơn đến rủi ro của giám sát kỹ thuật số, các nhà lập pháp và những người ủng hộ quyền riêng tư đã lo ngại về phần mềm giám sát học sinh. Vào tháng 3 năm 2022, một cuộc điều tra do các thượng nghị sĩ Warren và Markey dẫn đầu đã phát hiện ra rằng bốn công ty nói trên – bán các dịch vụ giám sát học sinh kỹ thuật số cho các trường K-12 – đã nêu lên “những lo ngại về quyền riêng tư và công bằng”. Cuộc điều tra chỉ ra rằng học sinh thu nhập thấp (có xu hướng phân biệt người da đen và gốc Tây Ban Nha) phụ thuộc nhiều hơn vào các thiết bị trường học và bị giám sát nhiều hơn học sinh khá giả; nó cũng phát hiện ra rằng các trường học và công ty thường không được yêu cầu tiết lộ việc sử dụng và mức độ giám sát của họ cho học sinh và phụ huynh. Trong một số trường hợp, các học khu có thể chọn yêu cầu một công ty gửi thông báo trực tiếp đến cơ quan thực thi pháp luật thay vì liên hệ với trường học.

Sinh viên thường không biết rằng màn hình AI hội trường của họ không hoàn hảo và có thể bị sử dụng sai mục đích. Một cuộc điều tra của The 74 Million phát hiện ra rằng Gaggle sẽ gửi cho sinh viên những email cảnh báo về nội dung vô hại, chẳng hạn như lời tục tĩu trong một bài tiểu thuyết gửi cho tạp chí văn học của trường. Một tờ báo của trường trung học đã báo cáo rằng học khu đã sử dụng phần mềm giám sát để tiết lộ giới tính của một học sinh và tiết lộ học sinh đó cho phụ huynh của họ. (Báo cáo hôm nay của CDT tiết lộ rằng 13% học sinh biết ai đó đã bị đi ngoài nhờ phần mềm theo dõi học sinh.) Ban biên tập của một tờ báo dành cho học sinh ở Texas lập luận rằng việc sử dụng phần mềm của trường họ có thể ngăn cản học sinh tìm kiếm sự hỗ trợ về sức khỏe tâm thần.

Cũng đáng ngạc nhiên là các tài khoản của phần mềm giám sát vi phạm cuộc sống sau giờ học của học sinh. Một phó hiệu trưởng mà tôi đã nói chuyện về câu chuyện này cho biết học khu của ông ấy sẽ nhận được thông báo qua email “Nội dung đáng nghi vấn” từ Gaggle về những bức ảnh khiêu dâm và những lời tục tĩu từ tin nhắn văn bản của học sinh. Nhưng các sinh viên không nhắn tin trên Chromebook do trường phát hành. Khi các quản trị viên điều tra, họ biết được rằng trong khi thanh thiếu niên ở nhà, họ sẽ sạc điện thoại bằng cách kết nối chúng với máy tính xách tay qua cáp USB. Sau đó, thanh thiếu niên sẽ tiếp tục có những cuộc trò chuyện riêng tư qua tin nhắn văn bản, trong một số trường hợp, trao đổi ảnh khỏa thân với những người khác đáng kể — tất cả những điều này mà phần mềm Gaggle chạy trên Chromebook có thể phát hiện. Hiện trường khuyến cáo học sinh không nên cắm thiết bị cá nhân của mình vào máy tính xách tay do trường cấp.

Việc giám sát tràn lan này luôn gây khó chịu cho những người ủng hộ quyền riêng tư, nhưng việc hình sự hóa hoạt động chăm sóc sức khỏe sinh sản ở một số bang khiến những vấn đề đó trở nên nghiêm trọng hơn. Không khó để hình dung một sinh viên sống trong một bang mà việc bỏ thai là bất hợp pháp khi sử dụng công cụ tìm kiếm để tìm các phòng khám phá thai ngoài bang, hoặc trò chuyện trực tuyến với một người bạn về việc mang thai ngoài ý muốn. Từ đó, giáo viên và quản trị viên có thể tự mình thông báo cho phụ huynh của học sinh hoặc cơ quan thực thi pháp luật địa phương.