Programmatūra, kas uzrauga studentus pārbaudes darbu laikā, saglabā nevienlīdzību un pārkāpj viņu privātumu

Irisas Vangas fotoattēls vietnē Unsplash

Koronavīrusa pandēmija ir bijusi svētība testēšanas nozarei. Apmēram pusducis uzņēmumu ASV apgalvo, ka viņu programmatūra tiešsaistes testos var precīzi noteikt un novērst krāpšanos. Eksāmens , HonorLock , Proctorio , ProctorU , Atbilde un citi ir strauji auguši, kopš koledžas un universitātes ir pārgājušas uz attālinātām klasēm.

Lai gan oficiālu rezultātu nav, ir pamatoti teikt, ka katru mēnesi visā pasaulē notiek miljoniem algoritmiski pārbaudītu testu. Proctorio pastāstīja New York Times maijā pandēmijas pirmajos mēnešos šis bizness bija palielinājies par 900%, līdz aprīlī vien uzņēmums visā pasaulē veica 2,5 miljonus testu.

Es esmu universitātes bibliotekārs un esmu redzējis šo sistēmu ietekmi tuvplānā. Manam darba devējam Kolorādo Denveras Universitātei ir līgums ar Proctorio.

Man ir kļuvis skaidrs, ka algoritmiskā apsekošana ir moderna novērošanas tehnoloģija, kas pastiprina balto pārākumu, seksismu, spējasmu un transfobiju. Šo rīku izmantošana ir iebrukums studentu privātajā dzīvē un bieži vien ir pilsoņu tiesību pārkāpums.

Ja esat students un veicat algoritmiski pārbaudītu testu, tas darbojas šādi: kad sākat, programmatūra sāk ierakstīt jūsu datora kameru, audio un apmeklētās vietnes. Tas mēra jūsu ķermeni un vēro jūs eksāmena laikā, izsekojot jūsu kustībām, lai noteiktu, kāda ir krāpšanās. Ja darīsit kaut ko, ko programmatūra uzskata par aizdomīgu, tā brīdinās jūsu profesoru, lai tas skatītu ierakstu, un sniegs viņam krāsu kodētu jūsu akadēmiskā pārkāpuma iespējamību.

Atkarībā no tā, kurš uzņēmums ir izstrādājis programmatūru, tas izmantos kādu mašīnmācības, AI un biometrijas (tostarp sejas atpazīšanas, sejas noteikšanas vai acu izsekošanas) kombināciju, lai to paveiktu. Problēma ir tā, ka sejas atpazīšana un noteikšana ir sevi pierādījusi rasistisks , seksistisks , un transfobisks beidzies , un beidzies , un beidzies atkal.

Kopumā tehnoloģijai ir a strukturālās apspiešanas pastiprināšanas modelis patīk rasisms un seksisms . Tagad tie paši aizspriedumi parādās testu pārbaudes programmatūrā, kas nesamērīgi kaitē marginalizētiem studentiem.

Kāda melnādainā sieviete manā universitātē reiz man teica, ka ikreiz, kad viņa izmantoja Proctorio testa provocēšanas programmatūru, tā vienmēr mudināja viņu izgaismot seju. Programmatūra nevarēja apstiprināt viņas identitāti, un viņai tik bieži tika liegta piekļuve testiem, ka viņai bija jādodas pie sava profesora, lai vienotos par citiem pasākumiem. Viņas baltajiem vienaudžiem šī problēma nekad nav bijusi.

Līdzīga veida diskriminācija var notikt, ja students ir trans vai nav binārs. Bet, ja jūs esat balts cis (tāpat kā vairums izstrādātāju, kas ražo sejas atpazīšanas programmatūru), jums, iespējams, viss būs kārtībā.

Arī studenti ar bērniem tiek sodīti ar šīm sistēmām. Ja, rūpējoties par bērniem, esat kādreiz mēģinājis atbildēt uz e-pastiem, jūs zināt, cik neiespējami var būt pat dažas minūtes bez pārtraukuma pie datora. Taču vairākas pārbaudes programmās trokšņus telpā vai ikvienu, kas pamet kameras skatu, atzīmēs kā nelietīgus. Tas nozīmē, ka studenti ar veselības traucējumiem, kuriem bieži jālieto vannas istaba vai jāievada medikamenti, tiks uzskatīti par līdzīgiem aizdomām.

Papildus visiem veidiem, kā aizsardzības programmatūra var diskriminēt studentus, algoritmiskā aizsardzība ir arī būtisks privātuma pārkāpums. Šie produkti filmē studentus viņu mājās, un bieži vien viņiem ir jāveic telpu skenēšana, kas ietver kameras izmantošanu, lai parādītu viņu apkārtni. Daudzos gadījumos profesori var piekļūt savu studentu ierakstiem jebkurā laikā un pat lejupielādēt šos ierakstus savās personīgajās iekārtās. Viņi var arī redzēt katra studenta atrašanās vietu, pamatojoties uz viņu IP adresi.

Privātums ir vissvarīgākais tādiem bibliotekāriem kā es, jo klienti mums uztic savus datus. Pēc 11. septembra, kad Patriot Act pilnvaroja ASV Iekšzemes drošības departamentu piekļūt bibliotēkas patronu ierakstiem Teroristu meklējumos daudzi bibliotekāri sāka izmantot programmatūru, kas pēc grāmatas atgriešanas izdzēsa patrona ierakstu. Produkti, kas pārkāpj cilvēku privātumu un viņus diskriminē, ir pretrunā ar mani profesionālais ētoss , un ir ļoti satraucoši redzēt, ka augstākās izglītības iestādes šādus produktus labprāt pieņem.

Šī dedzība būtu nedaudz saprotamāka, ja būtu kādi pierādījumi, ka šīs programmas patiešām darīja to, ko viņi apgalvo. Cik man zināms, nav neviena recenzēta vai kontrolēta pētījuma, kas parādītu, ka aizsardzības programmatūra efektīvi atklāj vai novērš krāpšanos. Ņemot vērā to, ka universitātes lepojas ar to, ka pieņem uz pierādījumiem balstītus lēmumus, šī ir acīmredzama pārraudzība.

Par laimi, notiek kustības, lai aizliegt provocēšanas programmatūru un aizliegt sejas atpazīšanas tehnoloģijas universitātes pilsētiņās , kā arī Kongresa rēķini aizliegt ASV federālajai valdībai izmantot sejas atpazīšanu. Bet pat tad, ja sejas atpazīšanas tehnoloģija tiktu aizliegta, provocēšanas programmatūra joprojām varētu pastāvēt kā programma, kas izseko skolēnu acu un ķermeņa kustības. Lai gan tas varētu būt mazāk rasistiski, tā būtu joprojām diskriminē pret cilvēkiem ar invaliditāti, vecākiem, kas baro bērnu ar krūti, un cilvēkiem, kuriem ir neiroatipisks stāvoklis. Šos produktus nevar pārveidot; no tiem vajadzētu atteikties.

Krāpšanās nav drauds sabiedrībai, kam pārbaudes uzņēmumi liktu noticēt. Tas nemazina grādu vērtību un nepazemina iestāžu reputāciju, un studenti nemēģina apkrāptu, lai kļūtu par jūsu ķirurgu . Tehnoloģija neizgudroja apstākļus krāpšanai, un tas nebūs tas, kas to aptur. Labākais, ko mēs augstākajā izglītībā varam darīt, ir sākt ar radikālu ideju uzticīgiem studentiem . Izvēlēsimies līdzjūtību, nevis uzraudzību.

Šī Svogere ir akadēmiskais bibliotekārs un pētnieks Kolorādo Denveras Universitātē.

paslēpties