Jaunā tiesas prāva, kas parāda sejas atpazīšanu, oficiāli ir civiltiesību jautājums

ACLU

2020. gada 9. janvārī Detroitas policija devās uz Fārmingtonhilas priekšpilsētu un arestēja Robertu Viljamsu uz viņa piebraucamā ceļa, kamēr viņa sieva un mazās meitas to vēroja. Melnādainais Viljamss tika apsūdzēts pulksteņu zādzībā no luksusa veikala Shinola. Viņš tika turēts pa nakti cietumā.

Nopratināšanas laikā kāds virsnieks parādīja Viljamsam aizdomās turamā attēlu. Viņa atbilde, kā viņš pastāstīja ACLU , bija prasību noraidīt. Tas neesmu es, viņš teica virsniekam. Es ceru, ka jūs nedomājat, ka visi melnādainie izskatās vienādi. Viņš saka, ka virsnieks atbildēja: Dators saka, ka tas esi jūs.

Saistīts stāsts

Kas notiek, ja algoritms kļūdās

Savādi Roberta Viljamsa viltus aizturēšanā nebija tas, ka policija izmantoja sejas atpazīšanu, lai identificētu viņu. Tas, ka viņi viņam par to pastāstīja.

Viljamsa nelikumīgais arests, par ko pirmo reizi ziņoja New York Times 2020. gada augustā , tika balstīta uz sliktu atbilstību no Detroitas policijas departamenta sejas atpazīšanas sistēmas. Vēl divus gadījumiem viltus aresti kopš tā laika ir publiskoti. Abi ir arī melnādainie vīrieši, un abi ir uzsākuši tiesvedību.

Tagad Viljamss seko viņu ceļam un iet tālāk — ne tikai iesūdzot departamentu par viņa nelikumīgo arestu, bet arī cenšoties panākt, lai tehnoloģija tiktu aizliegta.

Otrdien ACLU un Mičiganas Universitātes Juridiskās skolas Civiltiesību tiesvedības iniciatīva iesniedza prasību tiesā Viljamsa vārdā, apgalvojot, ka arests pārkāpj viņa ceturtā grozījuma tiesības un pārkāpj Mičiganas civiltiesību likumu.

Prasībā tiek prasīta kompensācija, lielāka pārredzamība attiecībā uz sejas atpazīšanas izmantošanu un Detroitas policijas departamenta tiešas vai netiešas sejas atpazīšanas tehnoloģijas izmantošanas pārtraukšana.

Kas teikts tiesā

The dokumenti iesniegti otrdien izkārto lietu. 2019. gada martā DPD, izmantojot savu sejas atpazīšanas sistēmu, bija palaidis graudainu fotoattēlu ar melnu vīrieti ar sarkanu vāciņu no Shinola novērošanas video, ko veica uzņēmums DataWorks Plus. Sistēma atgrieza spēli ar veco Williams vadītāja apliecības fotoattēlu. Pēc tam izmeklēšanas darbinieki iekļāva Viljama licences fotoattēlu kā daļu no fotoattēlu saraksta un Shinola drošības darbuzņēmēju ( kurš patiesībā nebija klāt zādzības brīdī) identificēja Viljamsu kā zagli. Virsnieki saņēma orderi, kas prasa vairākas nodaļas vadības parakstus, un Viljamss tika arestēts.

Sūdzībā tiek apgalvots, ka Viljamsa viltus aizturēšana bija tiešs sejas atpazīšanas sistēmas rezultāts un ka šī nelikumīgā aresta un ieslodzījuma lieta parāda nopietnu kaitējumu, ko nodara sejas atpazīšanas tehnoloģijas ļaunprātīga izmantošana un paļaušanās uz to.

Lietā ir iekļauti četri apsūdzības punkti, no kuriem trīs ir vērsti uz iespējamā iemesla trūkumu arestam, savukārt viens ir vērsts uz rasu atšķirībām sejas atpazīšanas ietekmē. Izmantojot tehnoloģiju, par kuru ir empīriski pierādīts, ka melnādainos cilvēkus var nepareizi identificēt daudz biežāk nekā citās cilvēku grupās, teikts, ka DPD liedza Viljamsa kungam pilnībā un vienlīdzīgi baudīt Detroitas policijas departamenta pakalpojumus, privilēģijas un priekšrocības viņa rases dēļ. vai krāsa.

Sejas atpazīšanas tehnoloģijai ir grūtības identificēt cilvēkus ar tumšāku ādu labi dokumentēts . Pēc Džordža Floida nogalināšanas Mineapolē 2020. gadā dažas pilsētas un štati paziņoja par aizliegumiem un moratoriju policijai izmantot sejas atpazīšanu. Bet daudzi citi, tostarp Detroita, turpināja to izmantot, neskatoties uz pieaugošajām bažām.

Paļaujoties uz zemākiem attēliem

Kad MIT Technology apskats pagājušajā gadā runāja ar Viljamsa ACLU juristu Filu Mēru, viņš uzsvēra, ka rasisma problēmas Amerikas tiesībaizsardzībā padara sejas atpazīšanas izmantošanu vēl satraucošāku.

Tā nav viena sliktā dalībnieka situācija, sacīja mērs. Šī ir situācija, kurā mums ir krimināltiesiskā sistēma, kas ir ārkārtīgi ātra apsūdzība un ārkārtīgi lēna cilvēku tiesību aizsardzībai, it īpaši, ja mēs runājam par krāsainiem cilvēkiem.

Ēriks Viljamss, Detroitas Ekonomiskā vienlīdzības prakses vecākais personāla advokāts, saka, ka kamerām ir daudz tehnoloģisku ierobežojumu, tostarp tas, ka tās ir stingri kodētas ar krāsu diapazoniem, lai atpazītu ādas toni, un bieži vien tās vienkārši nevar apstrādāt tumšāku ādu.

'Es domāju, ka katrs melnādainais cilvēks valstī ir pieredzējis, ka viņš ir fotoattēlā, un attēls kļūst gaišāks vai tumšāks.'

Es domāju, ka ikvienam melnādainajam valstī ir bijusi pieredze, atrodoties fotoattēlā, un attēls kļūst gaišāks vai tumšāks, saka Viljamss, kurš ir Mičiganas ACLU juristu komitejas loceklis, bet nestrādā pie Roberta. Viljamsa lieta. Apgaismojums ir viens no galvenajiem faktoriem, kad runa ir par attēla kvalitāti. Tāpēc fakts, ka tiesībaizsardzības iestādes zināmā mērā paļaujas uz patiešām zemākiem attēliem, ir problemātisks.

Ir bijuši gadījumi, kas apstrīdēja neobjektīvus algoritmus un mākslīgā intelekta tehnoloģijas, pamatojoties uz rasi. Piemēram, Facebook tika veikta masveida civiltiesību audits pēc tam, kad tika konstatēts, ka tā mērķtiecīgie reklamēšanas algoritmi rāda reklāmas, pamatojoties uz rasi, dzimumu un reliģiju. YouTube tika iesūdzēts tiesā Black radītāju grupas prāva kurš apgalvoja, ka tās AI sistēmas profilē lietotājus un cenzē vai diskriminē saturu rases dēļ. YouTube iesūdzēja tiesā arī LGBTQ+ veidotāji, kuri teica, ka satura regulēšanas sistēmas atzīmēja vārdus gejs un lesbiete.

Daži eksperti saka, ka tas bija tikai laika jautājums, līdz tāda liela iestāde kā policija, izmantojot neobjektīvu tehnoloģiju, saskarsies ar juridiskiem izaicinājumiem.

Saistīts stāsts

Kāpēc 2020. gads bija izšķirošs, pretrunīgs gads sejas atpazīšanai Rasu taisnīguma kustība izvirzīja sabiedrības apziņā problēmas ar tehnoloģiju, taču, neskatoties uz skandāliem un aizliegumiem, tās izaugsme nepalēninās.

Valdības izmantotajai sejas atpazīšanai acīmredzami ir atšķirīga ietekme uz krāsainiem cilvēkiem, saka Ādams Švarcs, Electronic Frontier Foundation vecākais personāla jurists. Pētījums pēc pētījuma liecina, ka šai bīstamajai tehnoloģijai ir daudz augstāks viltus pozitīvu rezultātu līmenis krāsainiem cilvēkiem, salīdzinot ar baltajiem cilvēkiem. Tādējādi valdība, izmantojot šo tehnoloģiju, pārkāpj likumus, kas aizliedz valdībai pieņemt praksi, kas rada atšķirīgu ietekmi.

Taču mērs, Viljamsa advokāts, ir gaidījis smagu cīņu. Pagājušajā gadā viņš teica MIT Technology Review, ka sagaida, ka Detroitas policijas departaments to darīs turpina apgalvot, ka sejas atpazīšana ir lielisks izmeklēšanas instruments.

Viljamsa lieta pierāda, ka tā nav. Tā nemaz nav, viņš teica. Un patiesībā tas var kaitēt cilvēkiem, ja to izmantojat kā izmeklēšanas rīku.

Zem mikroskopa

Detroitas pilsētas padomnieks Lorenss Garsija paziņojumā sacīja, ka pilsētas mērķis ir 'panākt risinājumu' šajā lietā, taču norādīja, ka sejas atpazīšana nav vainojama šajā situācijā.

'Kā paskaidroja policijas priekšnieks, aizturēšana bija sliktas izmeklēšanas rezultāts, nevis kļūdainas tehnoloģijas,' sacīja Garsija. 'Detroitas policijas departaments ir veicis iekšējo izmeklēšanu un ir izvirzījis apsūdzības par pārkāpumiem attiecībā uz vairākiem departamenta darbiniekiem. DPD ir ieviesis jaunus protokolus, lai novērstu līdzīgu problēmu rašanos.

Taču Williams uzvalks nāk kritiskā laikā sacīkstēm un policijai ASV. Tas tika iesniegts, kad aizstāvības advokāti sāka strīdus tiesā Dereka Šovina, virsnieka, kurš tika apsūdzēts Džordža Floida slepkavībā Mineapolē pagājušā gada maijā, un trešajā protestu dienā, reaģējot uz Dauntes Raitas nošaušanu tuvējā Bruklinas centrā, Minesotā. 20 gadus vecais melnādainais Raits tika apturēts un arestēts saskaņā ar orderi, pirms policists Kims Poters viņu nošāva un nogalināja, iespējams, sajaucot savu rokas ieroci ar elektrošoka ierīci.

Ēriks Viljamss saka, ka ir svarīgi izprast sejas atpazīšanu šajā plašākā policijas neveiksmju kontekstā:

Kad DPD nolēma iegādāties tehnoloģiju... bija zināms, ka sejas atpazīšanas tehnoloģija bija pakļauta nepareizai identificēšanai, tumšākas ādas krāsas cilvēkiem, pirms Viljamsa kungs tika aizturēts, vai ne? Neskatoties uz šo faktu, pilsētā, kurā ir vairāk nekā 80% melnās krāsas, viņi izvēlējās izmantot šo tehnoloģiju.

Jūs nepārprotami piešķirat mazāku nozīmi melnādaino cilvēku dzīvībai un iztikai un pilsoniskajām brīvībām nekā baltajiem cilvēkiem. Tas ir pārāk izplatīts pašreizējās Amerikas Savienotajās Valstīs.

Šis stāsts ir atjaunināts, iekļaujot paziņojumu no Detroitas pilsētas. Dženifera Stronga piedalījās ziņošanā par šo stāstu.

paslēpties