Prognozējošā policijas darbība joprojām ir rasistiska — neatkarīgi no tā, kādus datus tā izmanto

Deivids Maknjū/Getty Images

Nav noslēpums, ka paredzamie policijas rīki ir rasistiski neobjektīvs . Vairāki pētījumi ir parādījuši, ka algoritmu gadījumā var rasties rasistiskas atgriezeniskās saites cilpas apmācīti par policijas datiem piemēram, aresti. Taču jaunie pētījumi liecina, ka prognozēšanas rīku apmācībai tādā veidā, kas paredzēts neobjektivitātes mazināšanai, ir maza ietekme.

Arestēšanas dati rada prognozēšanas rīkus, jo ir zināms, ka policija aiztur vairāk cilvēku melnādainajos un citos mazākumtautību rajonos, kā rezultātā algoritmi novirza vairāk policijas uz šiem apgabaliem, kā rezultātā notiek vairāk arestu. Rezultāts ir tāds, ka prognozēšanas rīki nepareizi sadala policijas patruļas: daži rajoni ir netaisnīgi noteikti noziedzības karstie punkti, bet citi ir nepietiekami kontrolēti.

Saistīts stāsts

Prognozējošie policijas algoritmi ir rasistiski. Tie ir jāizjauc. Pārredzamības trūkums un neobjektīvi apmācības dati nozīmē, ka šie rīki nav piemēroti mērķim. Ja mēs nevaram tos salabot, mums tie ir jāatsakās.

Savā aizstāvībā daudzi paredzamo policijas rīku izstrādātāji saka, ka viņi ir sākuši izmantot upuru ziņojumus, lai iegūtu precīzāku priekšstatu par noziedzības līmeni dažādās apkaimēs. Teorētiski upuru ziņojumiem vajadzētu būt mazāk neobjektīviem, jo ​​tos neietekmē policijas aizspriedumi vai atgriezeniskās saites cilpas.

Bet Nil-Jana Akpinar un Alexandra Chouldechova no Kārnegija Melona universitātes un Marija De-Arteaga Teksasas Universitātē Ostinā parāda, ka arī upuru ziņojumu sniegtais skatījums ir šķībs . Komanda izveidoja savu prognozēšanas algoritmu, izmantojot to pašu modeli, kas atrodams vairākos populāros rīkos, tostarp PredPol, visplašāk izmantotajā sistēmā ASV. Viņi apmācīja modeli par upuru ziņojumu datiem Bogotā, Kolumbijā, vienai no retajām pilsētām, par kuru ir pieejami neatkarīgi ziņošanas dati par noziegumiem katra rajona līmenī.

Salīdzinot sava rīka prognozes ar faktiskajiem noziedzības datiem katrā rajonā, viņi atklāja, ka tajā ir pieļautas būtiskas kļūdas. Piemēram, rajonā, kurā tika ziņots par dažiem noziegumiem, rīks paredzēja aptuveni 20% no faktiskajiem karstajiem punktiem — vietām ar augstu noziedzības līmeni. No otras puses, rajonā ar lielu ziņojumu skaitu rīks paredzēja par 20% vairāk karsto punktu, nekā patiesībā bija.

Rašidai Ričardsonei, juristei un pētniecei, kura pēta algoritmisko neobjektivitāti Rutgers Law School Ņūdžersijā, šie rezultāti pastiprina esošo darbu, kas izceļ problēmas ar datu kopām, kas tiek izmantotas paredzamajā policijas darbā. Viņa saka, ka tie rada neobjektīvus rezultātus, kas neuzlabo sabiedrisko drošību. Es domāju, ka daudzi prognozēšanas policijas pakalpojumu sniedzēji, piemēram, PredPol, būtībā nesaprot, kā strukturālie un sociālie apstākļi ietekmē vai sagroza dažādu veidu noziedzības datus.

Tātad, kāpēc algoritms to izdarīja tik nepareizi? Problēma ar ziņojumiem par upuriem ir tāda, ka par noziegumu biežāk tiek ziņots par melnādainajiem nekā baltajiem. Bagātāki baltie cilvēki biežāk ziņo par nabadzīgāku melnādainu cilvēku nekā otrādi. Un melnādainie cilvēki arī biežāk ziņo par citiem melnādainiem cilvēkiem. Tāpat kā ar aizturēšanas datiem, tas noved pie tā, ka melnādainie rajoni tiek atzīmēti kā noziedzības karstākie punkti biežāk, nekā vajadzētu.

Arī citi faktori izkropļo attēlu. Ziņošana par upuriem ir saistīta arī ar sabiedrības uzticēšanos vai neuzticēšanos policijai, saka Ričardsons. Tātad, ja atrodaties kopienā ar vēsturiski korumpētu vai bēdīgi rasistiski neobjektīvu policijas departamentu, tas ietekmēs to, kā un vai cilvēki ziņo par noziegumiem. Šādā gadījumā prognozēšanas rīks var par zemu novērtēt noziedzības līmeni apgabalā, tāpēc tas nesaņems nepieciešamo policijas darbu.

Nav ātrs risinājums

Vēl ļaunāk, joprojām nav acīmredzama tehniska labojuma. Akpinars un Chouldechova mēģināja pielāgot savu Bogotas modeli, lai ņemtu vērā novērotās novirzes, taču viņiem nebija pietiekami daudz datu, lai būtiski mainītu, neskatoties uz to, ka Bogotā ir vairāk rajona līmeņa datu nekā jebkurai ASV pilsētai. Galu galā nav skaidrs, vai neobjektivitātes mazināšana šajā gadījumā ir vieglāka nekā iepriekšējie centieni, kas darbojās, lai novirzītu uz aizturēšanas datiem balstītas sistēmas, saka Akpinars.

Ko var darīt? Ričardsons domā, ka vienīgā atbilde ir sabiedrības spiediens demontēt rasistiskos instrumentus un politiku, kas ir aiz tiem. Tas ir tikai politiskās gribas jautājums, viņa saka. Viņa atzīmē, ka agrīnie prognozēšanas policijas rīku ieviesēji, piemēram, Santakrusa, ir paziņojuši, ka vairs tos neizmantos un ka ir bijuši skarbi oficiāli ziņojumi par LAPD un Čikāgas PD prognozētās policijas izmantošanu. Taču atbildes katrā pilsētā bija atšķirīgas, viņa saka.

Čikāga apturēja paredzamās policijas izmantošanu, bet atkārtoti ieguldīja datubāzē policijas bandām, kurām, pēc Ričardsona teiktā, ir daudzas tādas pašas problēmas.

Satraucoši, ka pat tad, ja valdības izmeklēšanās un ziņojumi atklāj būtiskas problēmas ar šīm tehnoloģijām, nepietiek ar to, ka politiķi un policijas amatpersonas saka, ka tās nevajadzētu izmantot, viņa saka.

paslēpties