Kāpēc 2020. gads bija izšķirošs, pretrunīgs gads sejas atpazīšanai

Aleksandrs Farnsvorts | Getty

Amerikā pirmais apstiprinātais nelikumīgais arests, izmantojot sejas atpazīšanas tehnoloģiju, notika 2020. gada janvārī. Melnādainais vīrietis Roberts Viljamss tika arestēts uz sava piebraucamā ceļa netālu no Detroitas, un viņa sieva un mazā meita noskatījās. Viņš pavadīja nakti cietumā. Nākamajā dienā nopratināšanas telpā detektīvs Viljamsam pāri galdam noslidināja attēlu, kurā redzams cits melnādains vīrietis, kurš tika pieķerts video zādzībā pulksteņus no veikala Shinola.

Vai tas esi tu? viņš jautāja .

Nē, tas neesmu es. Viljamss atbildēja.

Detektīvs pārlaida citu attēlu. Laikam tas arī neesi tu?

Viljamss turēja attēlu blakus sejai. Skaidrs, ka tas nebija viņš. Viljamss teica: Tas neesmu es. Es ceru, ka jūs nedomājat, ka visi melnādaini izskatās vienādi.

Dators saka, ka tas esi jūs, atbildēja detektīvs.

Jaunā lieta par Roberta Viljamsa arests vai tas nebija noticis, vai tā bija kļūda. Ir zināms, ka tumšādainiem cilvēkiem sejas atpazīšana ir mazāk precīza. Un šo tehnoloģiju plaši izmanto ASV policijas departamenti, lai gan nav pietiekami daudz datu par to, cik izplatīta tā ir. Viljamsa stāsta neparasta daļa ir tāda, ka policija atzinās, ka viņa aizturēšanas laikā izmantojusi sejas atpazīšanu.

Ziņas par šo lietu kļuva publiski pieejamas augusta sākumā, un pēc vasaras protestiem, kas bija vērsti uz to, kā Amerikā tiek kontrolētas melnādaino kopienas, tas tika uztverts ar sašutumu visā valstī. Pēc pāris nedēļām atklājās vēl viens melnādainā vīrieša nelikumīgs arests Detroitā sejas atpazīšanas tehnoloģijas dēļ.

Pat pirms tam aktīvisti bija pieprasījuši izbeigt projektu Greenlight, pilsētas mēroga valsts un privāto iniciatīvu, kas izmanto sejas atpazīšanu, lai samazinātu noziedzību. Un tomēr ne tikai projekts joprojām darbojas: septembra beigās pilsētas dome nobalsoja par līguma pagarināšanu starp Detroitas policijas pārvaldi un tās sejas atpazīšanas nodrošinātāju DataWorks Plus.

Pretrunu gads

Notikumi Detroitā ir piemērs mūsu sarežģītajām attiecībām ar sejas atpazīšanu šobrīd. Tā izmantošana pieaug, un dažās jomās tehnoloģija ir kļuvusi par neatņemamu sastāvdaļu. Citās valstīs, piemēram, mazumtirdzniecībā, sejas atpazīšanu sāk ieviest ar lielām cerībām uz nākotni. Daudzi tehnoloģiju nodrošinātāji liek derības, ka sabiedrība kļūs arvien apmierinātāka ar biometrisko datu izmantošanu, un drīz tā kļūs par neatņemamu digitālās dzīves sastāvdaļu: Apple ir uz to veikusi lielas likmes, un tagad miljoniem cilvēku izmanto savu Face ID sistēmu, lai atbloķētu savu. iPhone katru dienu.

Taču sabiedrībai ir arī jauna apziņa par briesmām, ko rada sejas atpazīšana, īpaši krimināltiesību jomā. Šobrīd ir ievērojami vairāk izpratnes, vairāk rūpju un vairāk sarunu nekā jebkad agrāk, un šogad ir pieņemts vairāk tiesību aktu par sejas atpazīšanu nekā visus iepriekšējos gadus kopā. Sešās ASV pilsētās 2019. gadā bija aizliegumi vai moratori, un tas pats arī šogad.

Būs grūti saskaņot šos likumus ar nozares izaugsmi. Taču 2020. gada notikumi sniedz dažas norādes par to, kā šie kompromisi varētu izpausties nākamajā gadā.

Mazie spēlētāji, liela nozare

Janvārī New York Times publicēja izmeklēšanu ClearviewAI, mazs sejas atpazīšanas uzņēmums, kas izmantoja savu algoritmu, izmantojot datubāzi ar miljardiem attēlu, kas iegūti no sociālajiem medijiem. Policijas departamenti, kas izmantoja ClearviewAI sistēmu, efektīvi piekļuva jūsu Facebook fotoattēliem, lai izmeklēšanas laikā atbilstu bieži izplūdušajiem vai nepilnīgiem policijas attēliem.

Uzņēmums tika smagi kritizēts, un vēlākais BuzzFeed News ziņojums parādīja, ka sistēmu izmanto pat 2200 tiesībaizsardzības iestādes ASV, kā arī Imigrācijas un muitas iestādes, Tieslietu ministrija un mazumtirgotāji, tostarp Macy’s un Walmart.

Clearview stāsts patiešām satracināja daudzus cilvēkus — kā tam vajadzētu, saka Džeimsons Spivaks, Džordžtaunas Universitātes Privātuma un tehnoloģiju centra līdzstrādnieks. Daudzas bažas ir vērstas uz to, cik sadrumstalota ir joma. Lai gan lielie uzņēmumi, piemēram, IBM un Microsoft, ir nozīmīgi spēki, ir arī daudz mazāku privātu uzņēmumu, piemēram, ClearviewAI un NtechLab, kas darbojas ar nelielu valsts pārraudzību. Ziņojumi arī atklāja, cik maz sabiedrība zināja par plašo valdības izmantošanu šīs tehnoloģijas.

Katalizators: rasu protesti

Šie stāsti veicināja izpratni par problēmām, bet Spivack saka, ka Black Lives Matter protesti pēc Džordža Floida slepkavības bija vienīgais lielākais katalizators likumdošanai, kas ierobežo sejas atpazīšanas izmantošanu Amerikas Savienotajās Valstīs. Amerikāņi pēkšņi sāka pārskatīt policijas darbu un tās rīkus, politiku un kultūru.

Bažas sāka pieaugt pēc tam, kad pētnieki Džojs Buolamvini un Timnits Gebru atklāja un dokumentēta rasu aizspriedumi komerciālajos sejas atpazīšanas produktos 2018. gadā, kas noveda pie vairākām pilsētām un štatiem pieņemt likumus kas neļāva policijai izmantot sejas atpazīšanu kopā ar ķermeņa kamerām.

Taču lielākās protestu kustības laikā Amerikas vēsturē aktīvisti bija noraizējušies ka atriebībai tiks izmantotas policijas novērošanas tehnoloģijas. Kopš tā laika ir apstiprināts, ka vismaz Ņujorka , Maiami , un Vašingtona, DC, policijas departaments s izmantoja sejas atpazīšanu, lai uzraudzītu protestētājus.

1. jūnijā Vašingtonā policija izmantoja piparu bumbiņas un asaru gāzi, lai atspiestu protestētājus Lafajeta laukumā, lai prezidents Tramps varētu nofotografēties tuvējā baznīcā. Haosa laikā protestētājs iesita policistam. Dažas dienas vēlāk policisti vietnē Twitter atrada vīrieša attēlu un izlaida to savā sejas atpazīšanas sistēmā, ieguva sērkociņu un aizturēja. Līdzīgi Maiami sieviete, kas tika apsūdzēta par mešanu ar akmeņiem pret policiju protesta laikā, tika arestēta, pamatojoties uz sejas atpazīšanas sakritību.

Spivack redzēja, ka tautas aktīvisti pret sejas atpazīšanu visu vasaru un rudeni cieši sadarbojas ar policijas reformu grupām, ko vadīja citas aizstāvības grupas, piemēram, Amerikas Pilsoņu brīvību savienība. Portlendā, Oregonas štatā, viens protestētājs pat izveidoja sejas atpazīšanas sistēmu identificēt anonīmus policistus .

2020. gada laikā pašvaldību, štatu un pat federālā līmenī tika ierosināti tiesību akti, lai ierobežotu šādu tehnoloģiju izmantošanu policijā. Jūnijā demokrātu likumdevēji iesniedza likumprojektu, kas aizliedz federālajām tiesībsargājošajām iestādēm izmantot sejas atpazīšanu. Vērmontā ar gubernatora rīkojumu tika noteikts valsts mēroga aizliegums valdībai izmantot tehnoloģiju. Masačūsetsā Kembridžas un Bostonas pilsētas šovasar pieņēma tehnoloģiju aizliegumus, un štata valdība apstiprināja sejas atpazīšanas aizliegums valsts aģentūrām, kas ietver tiesībaizsardzību, decembrī; Pašlaik ir gubernators Čārlijs Beikers atsakās parakstīt likumprojektu .

Kalifornija maijā sāka debates par valsts mēroga tiesību aktiem, un Sanfrancisko un Oklendas pilsētās tiesībaizsardzības iestādes jau ir aizliegušas izmantot sejas atpazīšanu. Jūlijā Ņujorka ieviesa moratoriju sejas atpazīšanai skolās līdz 2022. gadam. Portlendā, Oregonas štatā, jauns pilsētas mēroga aizliegums aizliedz izmantot tehnoloģiju jebkurai publiskai vai privātai grupai.

Taču šī maiņa nenotiek visur, kā liecina atkārtota apņemšanās veikt novērošanu Detroitā. Spivack spekulē, ka rasu varas dinamika varētu ietekmēt politisko cīņu par policijas uzraudzību. Ja paskatās uz daudzām pilsētām, kas bija dažas no pirmajām, kas aizliedza sejas atpazīšanu, tās parasti bija — ne vienmēr, bet parasti — turīgākas, baltākas, ļoti progresīvākas, varbūt ar lielāku politisko kapitālu un spēju ietekmēt likumdevējus. nekā vairāk marginalizētās kopienas, viņš saka.

Valsts perspektīva?

Tomēr ne visa reakcija ir izpaudusies likumdošanas veidā. Jūnija sākumā IBM paziņoja, ka ir pārtraukusi pārdot jebkuru no saviem sejas atpazīšanas produktiem. Amazon un Microsoft sekoja šim piemēram, uz laiku pārtraucot līgumus ar policijas dienestiem. Un jūlijā ACLU iesniedza pieteikumu tiesas prāva pret ClearviewAI par Ilinoisas biometriskās informācijas privātuma likuma neievērošanu — tas ir pirmais pilnīgais juridiskais izaicinājums uzņēmumam.

Microsoft, Amazon, IBM un tādas nozares grupas kā Drošības nozares asociācija gatavojas cīņai. Viņi dramatiski palielināja lobēšanas apjomu sejas atpazīšanas jomā no 2018. līdz 2019. gadam, un sagaidāms, ka 2020. gadā būs vēl lielāks pieaugums. Daudzi atbalsta pastiprinātu regulējumu, bet ne aizliegumus. Amazon moratorijs beigsies jūnijā, un Microsoft moratorijs ir atkarīgs no federālā likuma.

Tikmēr ACLU turpina izstrādāt tiesību aktu projektus, kuru mērķis ir aizliegt šo tehnoloģiju. Paziņojumā tās tīmekļa vietnē teikts, ka organizācija vēršas tiesās, ielās, likumdevēju institūcijās, pilsētu padomēs un pat korporatīvās padomes, lai aizstāvētu mūsu tiesības pret pieaugošajiem šīs neregulētās novērošanas tehnoloģijas draudiem.

Jaunās administrācijas prioritātes arī veidos regulējumu 2021. gadā un turpmāk. Kā prezidenta kandidāte Kamala Herisa citēts sejas atpazīšanas regulējums tiesībaizsardzības jomā viņas policijas reformas plāna ietvaros. Ja administrācija centīsies pieņemt federālos tiesību aktus, tas, visticamāk, kļūs par valsts mēroga problēmu, kā rezultātā mazāk resursu tiks novirzīts vairākām vietējām pārraudzības kampaņām. Bet, ja nē, cīņa, visticamāk, turpināsies valsts un pilsētas līmenī.

paslēpties