211service.com
AI sūta cilvēkus cietumā un dara to nepareizi
Ians Valdijs/Getty Images
Šķiet, ka mākslīgajam intelektam nav lielas personīgās ietekmes, ja visbiežāk izmantojat mašīnmācības algoritmus, izmantojot Facebook ziņu plūsmu vai Google meklēšanas klasifikāciju. Bet pie Dati Black Lives konferencē pagājušajā nedēļas nogalē tehnologi, juridiskie eksperti un kopienas aktīvisti pārrunāja lietas perspektīvā, diskutējot par Amerikas krimināltiesību sistēmu. Tur algoritms var noteikt jūsu dzīves trajektoriju.
ASV ieslodzīja vairāk cilvēku nekā jebkurā citā pasaules valstī. 2016. gada beigās gandrīz 2,2 miljoni pieaugušo tika turēti cietumos vai cietumos, un vēl 4,5 miljoni atradās citos labošanas iestādēs. Citiem vārdiem sakot, 1 no 38 pieaugušajiem amerikāņiem atradās kādā korekcijas uzraudzībā. Šīs situācijas murgainība ir viens no retajiem jautājumiem, kas vieno politiķus abās ejas pusēs.
Saskaņā ar milzīgo spiedienu samazināt cietumu skaitu, neriskējot ar noziedzības pieaugumu, tiesas zāles visā ASV ir izmantojušas automatizētus rīkus, lai mēģinātu pēc iespējas efektīvāk un drošāk izjaukt apsūdzētos caur tiesu sistēmu. Šeit sākas mūsu stāsta AI daļa.
Policijas departamenti izmanto prognozēšanas algoritmus, lai noteiktu, kur sūtīt savas rindas. Tiesībaizsardzības iestādes izmanto sejas atpazīšanas sistēmas, lai palīdzētu identificēt aizdomās turamos. Šī prakse ir guvusi pelnītu pārbaudi, lai noskaidrotu, vai tā patiešām uzlabo drošību vai vienkārši saglabā esošo nevienlīdzību. Pētnieki un pilsoņu tiesību aizstāvji Piemēram, ir vairākkārt pierādījuši, ka sejas atpazīšanas sistēmas var ievērojami sabojāties, jo īpaši tumšādainiem cilvēkiem, pat ja Kongresa locekļus sajauc ar notiesātiem noziedzniekiem.
Taču vispretrunīgākais instruments ir pēc tam, kad policija ir veikusi arestu. Sasveicinieties ar kriminālo risku novērtēšanas algoritmiem.
Riska novērtēšanas rīki ir paredzēti, lai veiktu vienu lietu: izpētīt atbildētāja profila informāciju un izspļaut recidīva punktu — vienu skaitli, kas novērtē iespējamību, ka viņš vai viņa atkārtoti izdarīs noziegumu. Pēc tam tiesnesis ņem vērā neskaitāmus lēmumus, kas var noteikt, kāda veida rehabilitācijas pakalpojumi būtu jāsaņem konkrētiem apsūdzētajiem, vai viņi pirms tiesas ir jātur cietumā un cik bargam vajadzētu būt viņu sodam. Zems rezultāts paver ceļu laipnākam liktenim. Augsts rezultāts rada tieši pretējo.
Šādu algoritmisko rīku izmantošanas loģika ir tāda, ka, ja varat precīzi paredzēt noziedzīgu uzvedību, varat attiecīgi piešķirt resursus gan rehabilitācijai, gan cietumsodiem. Teorētiski tas samazina arī jebkādu neobjektivitāti, kas ietekmē procesu, jo tiesneši pieņem lēmumus, pamatojoties uz datiem balstītiem ieteikumiem, nevis uz savu prātu.
Iespējams, jūs jau esat pamanījis problēmu. Mūsdienu riska novērtēšanas rīkus bieži vada algoritmi, kas apmācīti, pamatojoties uz vēsturiskiem noziegumu datiem.
Kā jau minēts iepriekš, mašīnmācības algoritmi izmanto statistiku, lai atrastu datu modeļus. Tātad, ja ievadīsit vēsturiskos noziegumu datus, tas noteiks ar noziedzību saistītos modeļus. Bet šie modeļi ir statistiski korelācijas - ne tuvu nav tas pats, kas cēloņsakarības . Ja algoritms atklātu, piemēram, ka zemi ienākumi ir saistīti ar lielu recidīvu, tas neļautu jums kļūt gudrākam par to, vai zemi ienākumi patiešām ir izraisījuši noziedzību. Bet tieši to dara riska novērtēšanas rīki: tie pārvērš korelatīvo ieskatu cēloņsakarības vērtēšanas mehānismos.
Tagad iedzīvotāji, uz kuriem vēsturiski ir nesamērīgi vērsti tiesībaizsardzības iestādes, jo īpaši maznodrošinātās kopienas un minoritāšu kopienas, tiek pakļautas augstam recidīvam. Rezultātā algoritms varētu pastiprināt un iemūžināt iegultās novirzes un ģenerēt vēl vairāk aizspriedumainus datus, lai veicinātu apburto ciklu. Tā kā lielākā daļa riska novērtēšanas algoritmu ir patentēti, viņu lēmumus nav iespējams nopratināt vai saukt pie atbildības.
Debates par šiem instrumentiem joprojām turpinās. Pagājušā gada jūlijā vairāk nekā 100 civiltiesību un uz kopienu balstītas organizācijas, tostarp ACLU un NAACP, parakstīts paziņojumu, kurā mudināts neizmantot riska novērtējumu. Tajā pašā laikā arvien vairāk jurisdikciju un štatu, tostarp Kalifornijā, ir vērsušies pie viņiem, cenšoties sakārtot viņu pārslogotos cietumus un cietumus.
Uz datiem balstīts riska novērtējums ir veids, kā sanitizēt un leģitimizēt nomācošas sistēmas, sacīja Marbrs Stīlijs-Buts, Black Lives likumu izpilddirektors. uz konferences skatuves , kas tika rīkota MIT Media Lab. Tas ir veids, kā novērst uzmanību no faktiskajām problēmām, kas skar maznodrošinātās un mazākumtautību kopienas, piemēram, atņemtas skolas un nepietiekama piekļuve veselības aprūpei.
Mēs neesam riski, viņa teica. Mēs esam vajadzības.
Šis stāsts sākotnēji parādījās mūsu AI informatīvajā izdevumā The Algorithm. Lai tas tiktu tieši piegādāts jūsu iesūtnē, abonējiet šeit bez maksas.