211service.com
ASV ir sejas atpazīšanas un policijas krīze
Ms Tech | Atbrīvojieties no šļakatām
Kad parādījās ziņas, ka sejas atpazīšanas sistēmas kļūdaina atbilstība lika Detroitas policijai arestēt Robertu Viljamsu par noziegumu, kuru viņš nebija pastrādājis, bija jūnija beigas, un valstī jau valdīja satricinājumi saistībā ar Džordža Floida nāvi mēnesi iepriekš. . Drīz pēc tam atklājās, ka vēl viens melnādains vīrietis Maikls Olivers tika arestēts līdzīgos apstākļos kā Viljamss. Lai gan liela daļa ASV turpina kliegt pēc rasu taisnīguma, veidojas klusāka saruna par sejas atpazīšanas tehnoloģiju un policiju. Mums būtu labi, ja klausītos.
Kad Dženifera Stronga un es sākām ziņot par sejas atpazīšanas tehnoloģiju, ko izmanto policija mūsu jaunajā aplādei, In Machines We Trust , mēs zinājām, ka šīs ar AI darbināmās sistēmas pieņem policisti visā ASV un citās valstīs. Bet mums nebija ne jausmas, cik daudz kas notiek ārpus sabiedrības acīm.
Pirmkārt, mēs nezinām, cik bieži ASV policijas departamenti izmanto sejas atpazīšanu tā vienkāršā iemesla dēļ, ka lielākajā daļā jurisdikciju tām nav jāziņo, ja tās izmanto, lai identificētu aizdomās turamo noziegumā. The jaunākie skaitļi ir spekulatīvi un no 2016. gada , taču viņi liecina, ka tajā laikā vismaz pusei amerikāņu bija fotogrāfijas sejas atpazīšanas sistēmā. Vienā Floridas apgabalā katru mēnesi tika veikti 8000 meklējumu.
Mēs arī nezinām, kurās policijas nodaļās ir izmantota sejas atpazīšanas tehnoloģija, jo policija bieži vien aizēno savu iepirkumu procesu. Piemēram, ir pierādījumi, ka daudzi departamenti iegādājas savas tehnoloģijas, izmantojot federālas dotācijas vai bezpeļņas dāvanas, kas ir atbrīvotas no noteiktiem informācijas izpaušanas likumiem. Citos gadījumos uzņēmumi piedāvā policijas izmēģinājuma periodus savai programmatūrai, kas ļauj darbiniekiem izmantot sistēmas bez oficiāla apstiprinājuma vai uzraudzības. Tas ļauj uzņēmumiem, kas ražo sejas atpazīšanas sistēmas, apgalvot, ka viņu produkti tiek plaši izmantoti, un rada iespaidu, ka tie ir gan populāri, gan uzticami noziegumu novēršanas rīki.
Aizsargāti algoritmi, kas nedarbojas
Bet, ja sejas atpazīšana ir pazīstama ar kaut ko, tas ir, cik tas ir neuzticams. Kā ziņojam šovā, janvārī Londonas Metropolitēna policija debitēja tiešraidē sejas atpazīšanas sistēma kas testos bija precizitātes līmenis ir mazāks par 20% . Ņujorkā, Metro tranzīta iestāde izmēģināja sistēmu galvenajās maģistrālēs ar ziņoto 0% precizitāti. Sistēmas bieži ir arī rasistiski neobjektīvas — vienā pētījumā konstatēts, ka dažās komerciālās sistēmās pat laboratorijas apstākļos kļūdu īpatsvars, nosakot tumšākas ādas sievietes bija aptuveni 35%. Ziņojot par šovu, mēs noskaidrojām, ka policija maina fotoattēlus, lai uzlabotu izredzes atrast atbilstību. Daži pat aizstāvēja šo praksi kā kritisku labas policijas darba veikšanai.
Divi no vispretrunīgākajiem un progresīvākajiem uzņēmumiem šajā jomā, ClearviewAI un NTechLabs, apgalvo, ka ir atrisinājuši neobjektivitātes problēmu un sasnieguši gandrīz ideālu precizitāti. ClearviewAI apgalvo, ka to izmanto aptuveni 600 ASV policijas departamentu (daži eksperti, ar kuriem mēs runājām, bija skeptiski pret šo skaitli). NTechLabs, kas atrodas Krievijā, ir parakstījis tiešraides video sejas atpazīšanu visā Maskavas pilsētā.
Bet gandrīz nav iespējams neatkarīgi pārbaudīt viņu apgalvojumus. Abiem uzņēmumiem ir algoritmi, kas atrodas datubāzēs ar miljardiem publisko fotoattēlu. Tikmēr Nacionālais standartu un tehnoloģiju institūts (NIST) piedāvā vienu no nedaudzajiem neatkarīgajiem sejas atpazīšanas tehnoloģiju auditiem. NIST pārdevēja testā tiek izmantota daudz mazāka datu kopa, kas kopā ar datu bāzē esošo attēlu kvalitāti un daudzveidību ierobežo tā kā audita rīka jaudu. ClearviewAI nav veicis jaunāko NIST testu. NTechLabs ir veicis statiskā attēla pārbaudi un veicis labus rezultātus, taču pašlaik netiek izmantots tiešraides video sejas atpazīšanas tests. Nav arī neatkarīga testa, kas būtu īpaši paredzēts neobjektivitātei.
Atpazīstamība ielās
Nesenais Black Lives Matter protestu vilnis, ko izraisīja Floida nāve, ir radījis šaubas par to, ko mēs esam pieņēmuši attiecībā uz mūsdienu policijas darbu, tostarp tehnoloģiju izmantošanu. Drūmā ironija ir tāda, ka, kad cilvēki iziet ielās, lai protestētu pret rasismu policijas darbā, daži policisti ir izmantojuši visprogresīvākos instrumentus ar zināmu rasu aizspriedumiem pret sanākušajiem. Mēs, piemēram, to zinām Baltimoras policijas departaments protestētājiem izmantoja sejas ID pēc Fredija Greja nāves 2015. gadā. Mēs zinām, ka dažas nodaļas ir izplatījušas publiskus aicinājumus publicēt šā gada protestu materiālus. Ir dokumentēts, ka policijai Mineapolisā ir piekļuve dažādām tehnoloģijām, ieskaitot ClearviewAI pakalpojumus . Saskaņā ar Džordžtaunas universitātes Privātuma un tehnoloģiju centra pārstāvja Džeimsona Spivaka teikto, kuru mēs intervējam šovā, ja sejas atpazīšana tiek izmantota BLM protestos, tas ir īpaši vērsts uz melnādaino politisko runu un attur no tās.
Pēc gadiem ilgas cīņas par regulējumu, pārsvarā melnādaino un brūno vadītās organizācijas , mēs nekad neesam bijuši labākā brīdī, lai patiešām mainītos. Microsoft, Amazon un IBM ir paziņojuši par savu sejas atpazīšanas produktu pārtraukšanu vai moratoriju. Dažu pēdējo mēnešu laikā dažas lielākās ASV pilsētas ir paziņojušas par tehnoloģiju aizliegumiem vai moratoriju. No otras puses, tehnoloģija strauji attīstās. Sistēmu iespējas, kā arī ļaunprātīgas izmantošanas iespējamība, turpinās pieaugt ar lēcieniem un robežām. Mēs jau sākam redzēt, ka policijas departamenti un tehnoloģiju nodrošinātāji pāriet no statiskām, retrospektīvām sejas atpazīšanas sistēmām uz tiešraides video analīzi, kas ir integrēta ar cita veida datu plūsmām, piemēram, audio šāvienu novērošanas sistēmām.
Daži no policistiem, ar kuriem mēs runājām, teica, ka viņiem nevajadzētu atstāt arhaiskus rīkus cīņai pret noziedzību 21. gadsimtā. Un tā ir taisnība, ka dažos gadījumos tehnoloģija var padarīt policijas darbu mazāk vardarbīgu un mazāk pakļautu cilvēku aizspriedumiem.
Taču pēc vairākiem mēnešiem, kad ziņoju par mūsu audio miniseriāliem, man radās priekšnojautas. Likmes pieaug ar katru dienu, un līdz šim sabiedrība ir atpalikusi no izpratnes par notiekošo. Nav skaidrs, kā tas mainīsies, ja vien visi cilvēki no visām šī jautājuma pusēm nevar vienoties, ka ikvienam ir tiesības būt informētam.