Pandēmija pārbauda sejas atpazīšanas robežas

Ms Tech | Pexels

No pirmā acu uzmetiena Losandželosā dzīvojošais mākslinieks Dž.B., iespējams, nelīdzinās attēlam viņu autovadītāja apliecībā. Pirmkārt, ID fotogrāfija ir pirms dažiem gadiem. Mati, kas kādreiz bija gari un tumši, tagad ir izbalināti un balināti. Un ir arī fakts, ka JB ir transpersona un vairāk nekā divus gadus lieto testosteronu, kā rezultātā ir mainījušies sejas vaibsti, biezākas uzacis un pūtītes, kuras agrāk nebija. (Viņi lūdza, lai viņus identificē tikai pēc viņu pirmajiem iniciāļiem, jo ​​bija bažas par privātumu.)

JB zaudēja nepilnas slodzes darbu mazumtirdzniecībā, kad pagājušā gada martā sākās bloķēšana, un, tāpat kā miljoniem citu amerikāņu, mēģināja pieteikties bezdarbnieka pabalstiem, nekad nenojaušot, ka viņu mainīgais izskats traucēs. Mēnešus pēc dokumentu iesniegšanas elektroniski un vairāku zvanu veikšanas uz uzticības tālruni, kas nekur nedeva, JB beidzot tika uzaicināts izmantot Kalifornijas sejas atpazīšanas sistēmu, lai pārbaudītu savu identitāti. Taču pat pēc vairākiem mēģinājumiem sistēma nevarēja saskaņot JB seju un personas apliecības fotoattēlu, tādējādi liedzot viņiem priekšrocības, kuras viņi varēja saņemt. Galu galā JB pārtrauca mēģināt: process bija pārāk nomākts.

Saistīts stāsts

Kā šīs ASV skolas tika atsāktas, neizraisot Covid uzliesmojumu

Skolām, kurās gadījumu skaits pagājušajā gadā bija zems, neskatoties uz pandēmijas haosu, bija dažas kopīgas stratēģijas. Lūk, ko viņi var mums iemācīt, kā rīkoties pareizi.

Tiesībaizsardzības iestādes un privātie uzņēmumi gadiem ilgi ir izmantojuši sejas atpazīšanu, taču pandēmijas laikā tehnoloģiju izmantošana valdības palīdzības sadalē ir strauji paplašinājusies. Valstis un federālās aģentūras ir pievērsušies sejas atpazīšanai kā bezkontakta, automatizētam veidam, lai pārbaudītu to cilvēku identitāti, kuri piesakās bezdarba un citiem valsts pabalstiem.

Eksperti un aktīvisti uztraucas, ka šīs tehnoloģijas kļūmes var neļaut cilvēkiem iegūt ieguvumus, kas viņiem ļoti nepieciešami, un ka tas varētu būt vēl bīstamāk, ja tā darbosies, kā paredzēts.

Sejas izmantošana ikdienišķām lietām

Pandēmija paātrināja daudzu biometrisko datu vākšanas rīku izmantošanu — temperatūras pārbaudes pie durvīm, termokameras skolās, sejas skenēšana lidostās. Runājot par tādiem pabalstiem kā bezdarbs, štatu valdības jo īpaši pievēršas sejas atpazīšanai, lai pārbaudītu cilvēku identitāti pirms naudas izlaišanas, kas viņiem pienākas. Otrais ASV stimulēšanas fondu vilnis, kas tika pieņemts 2020. gada decembrī, prasīja štatiem pārbaudīt cilvēkus, kuri piesakās pandēmijas bezdarba palīdzībai — federālai naudas kopai.

Tagad 27 štats bezdarba aģentūras (Starp tiem Kalifornijā) sadarbojas ar ID.me, uzņēmumu, kas piedāvā sejas atpazīšanas tehnoloģiju, saka izpilddirektors Bleiks Hols. Arī ASV Darba departaments nodrošināja miljonu finansējums valstīm īstenot krāpšanas novēršanas pasākumus, kas ir sūknēja vairāk dolāru sejas atpazīšanai. Pēdējos mēnešos ir bijuši ziņojumi visā valstī no starpgadījumiem, kuros bezdarba sistēmas nespēja atpazīt pretendentu sejas skenējumus, nostādot tādus cilvēkus kā JB nestabilā finansiālā situācijā. Nepareizas identifikācijas risks nav vienādi sadalīts: sejas atpazīšana ir izrādījusies mazāk precīza krāsaini cilvēki nekā baltie cilvēki, un vīrieši, visticamāk, tiks precīzi identificēti nekā sievietes, saskaņā ar a federālais pētījums Rezultāti tika sīkāk izpētīti a pētījums pagājušais gads.

Hols saka, ka 700 lietotāju izlasē ID.me neatrada korelāciju starp ādas toni un iespējamību, ka neizdosies veikt individuālu saskaņošanas soli.

Seju atpazīšanas programmatūra sāka kļūt izplatītāka gadus pirms pandēmijas, un tās iespējamie trūkumi ir labi dokumentēti: žurnālisti ir atklājuši, kā policijas departamenti visā ASV izmanto plašas seju datu bāzes izmeklēšanā ar apšaubāmu precizitāti. Kompānijas ir apstājušās vai ierobežotas tehnoloģijas izmantošanu, ņemot vērā pierādījumus, ka tā nedarbojas tik labi uz krāsainiem cilvēkiem. Pat ja tā, tas turpina izplatīties: citas federālās aģentūras plāns paplašinot tā izmantošanu, vienlaikus to izmanto arī visur, sākot no iepirkšanās centriem līdz koncertu vietām. Macy’s bija iesūdzēja tiesā pagājušajā gadā par iespējamo sejas atpazīšanas izmantošanu veikala klientiem. Taču ar pandēmiju saistītie tehnoloģiju lietojumi, lai pārbaudītu, vai ir tiesības saņemt pabalstus, kritiķi ir īpaši nobažījušies.

Mani naktīs nemierina tas, ka pandēmijai paātrinoties, mēs tikai sāksim redzēt šo uznirstošo logu visur, saka Evans Grīrs, digitālo tiesību grupas Fight for the Future direktors. Tas būs veikalos, un jums būs iespēja maksāt ar seju. Tas tiks normalizēts sabiedriskajā transportā. Tas tiks izmantots darba intervijās.

Saistīts stāsts

Kā ASV reakcija uz pandēmiju ir palielinājusi nevienlīdzību? Apskatiet Ņujorkas nagu salonus.

Kamēr daudzi balto apkaklīšu darbinieki palika mājās, lai izvairītos no Covid, salonu darbinieki saskārās ar augstu inficēšanās līmeni, neiespējamām izvēlēm, kā saglabāt drošību, un maz valdības palīdzības.

Arvien vairāk tas tiek izmantots sabiedrības veselības interesēs. Austrālija nesen paplašināja programmu izmantojot sejas atpazīšanu, lai īstenotu Covid-19 drošības pasākumus. Cilvēkiem, kuri atrodas karantīnā, tiek veikta nejauša reģistrēšanās, kurā viņiem ir jānosūta pašbilde, lai apstiprinātu, ka ievēro noteikumus. Tiek apkopoti arī atrašanās vietas dati, vēsta Reuters.

Grērs saka, ka, runājot par tādiem būtiskiem jautājumiem kā ārkārtas pabalsti, lai samaksātu par mājokli un pārtiku, pirmā prioritāte ir nodrošināt, lai ikviens varētu piekļūt palīdzībai. Viņa piebilst, ka krāpšanas novēršana sākotnēji ir saprātīgs mērķis, taču vissvarīgākajam mērķim ir jābūt nodrošināt cilvēkiem vajadzīgos ieguvumus.

Sistēmas ir jāveido, jau no paša sākuma paturot prātā cilvēktiesības un neaizsargātu cilvēku vajadzības. Grīrs saka, ka tās nevar būt pārdomas. Tie nevar būt kļūdu labojumi pēc tam, kad tas jau ir nogājis greizi.

ID.me's Hall saka, ka viņa uzņēmuma pakalpojumi ir labāki par esošajām identitātes pārbaudes metodēm, un tie ir palīdzējuši valstīm samazināt masveida bezdarba krāpšanu kopš sejas pārbaudes pārbaužu ieviešanas. Viņš saka, ka bezdarba pieteikumu patiesais nokārtošanas rādītājs ir aptuveni 91% — vai nu atsevišķi, vai videozvanā ar ID.me pārstāvi.

Viņš saka, ka [tas] bija mūsu mērķis. Ja mēs varētu automatizēt 91% no tā, tad valstis, kuras ir tikko pārsniegušas resursus, var izmantot šos resursus, lai nodrošinātu balto cimdu konsjerža pakalpojumus 9%.

Saskaņā ar Holu, ja lietotāji nevar tikt galā ar sejas atpazīšanas procesu, ID.me viņiem nosūta e-pasta ziņojumu, lai sekotu līdzi.

Viņš saka, ka viss šajā uzņēmumā ir saistīts ar to, lai palīdzētu cilvēkiem piekļūt lietām, kurām viņi ir tiesīgi.

Tehnika reālajā pasaulē

Mēneši, kurus JB izdzīvoja bez ienākumiem, bija grūti. Finanšu rūpes bija pietiekami, lai izraisītu stresu, un citas problēmas, piemēram, bojāts dators, pastiprināja trauksmi. Pat viņu bijušais darba devējs nevarēja vai negribēja palīdzēt samazināt birokrātiju.

Tas ir ļoti izolējoši uzskatīt: 'Neviens man nepalīdz nevienā situācijā,' saka JB.

No valdības puses eksperti saka, ka ir loģiski, ka pandēmija jaunās tehnoloģijas izvirzīja priekšplānā, taču tādi gadījumi kā JB liecina, ka tehnoloģija pati par sevi nav visa atbilde. Anne L. Vašingtona, Ņujorkas Universitātes datu politikas docente, saka, ka ir vilinoši uzskatīt, ka jauna valdības tehnoloģija ir veiksmīga, ja tā darbojas lielāko daļu laika izpētes fāzē, bet 5% laika neizdodas reālajā pasaulē. Rezultātu viņa salīdzina ar muzikālo krēslu spēli, kur 100 cilvēku telpā bez sēdvietas vienmēr paliks pieci.

Problēma ir tā, ka valdības iegūst sava veida tehnoloģiju, un tās darbojas 95% laika — viņi domā, ka tas ir atrisināts, viņa saka. Tā vietā cilvēka iejaukšanās kļūst svarīgāka nekā jebkad agrāk. Vašingtona saka: Viņiem ir vajadzīga sistēma, lai regulāri apstrādātu piecus cilvēkus, kuri stāv kājās.

Ja ir iesaistīts privāts uzņēmums, pastāv papildu riska pakāpe. Lielākā problēma, kas rodas, ieviešot jauna veida tehnoloģiju, ir datu glabāšanas vieta, saka Vašingtona. Bez a uzticama vienība kam ir juridisks pienākums aizsargāt cilvēku informāciju, sensitīvi dati var nonākt citu personu rokās. Kā mēs justos, piemēram, ja federālā valdība būtu uzticējusi privātam uzņēmumam mūsu sociālās apdrošināšanas numurus, kad tie tika izveidoti?

Problēma ir tāda, ka valdības iegūst kaut kādu tehnoloģiju, un tās darbojas 95% laika — viņi domā, ka tā ir atrisināta.

Anne L. Vašingtona, Ņujorkas Universitāte

Plaša un nekontrolēta sejas atpazīšanas rīku izmantošana arī var ietekmēt jau tā marginalizētās grupas vairāk nekā citas. Transpersonas, piemēram, ir detalizēti , biežas problēmas ar tādiem rīkiem kā Google fotoattēli, kas var apšaubīt, vai fotoattēlos pirms un pēc pārejas ir redzama viena un tā pati persona. Tas nozīmē, ka atkal un atkal ir jārēķinās ar programmatūru.

[Ir] neprecizitāte tehnoloģiju spējā atspoguļot faktiskās daudzveidības plašumu un malas gadījumus, kas pastāv reālajā pasaulē, saka Deilijs Bārnets, Electronic Frontier Foundation tehnologs. Mēs nevaram paļauties uz tiem, lai precīzi klasificētu un aprēķinātu un atspoguļotu šos skaistos gadījumus.

Sliktāk par neveiksmi

Sarunās par sejas atpazīšanu parasti tiek apspriests, kā tehnoloģija var neizdoties vai būt diskriminējoša. Bet Bārnets mudina cilvēkus domāt tālāk par to, vai biometriskie rīki darbojas vai nē, vai arī tehnoloģijā ir neobjektivitāte. Viņa atgrūž domu, ka mums tās vispār ir vajadzīgas. Patiešām, aktīvisti, piemēram, Grīrs, brīdina, ka instrumenti var būt vēl bīstamāki, ja tie darbojas nevainojami. Seju atpazīšana jau ir izmantota, lai identificētu, sodītu vai apslāpētu protestētājus, lai gan cilvēki cīnās pretī. Honkongā protestētāji valkāja maskas un aizsargbrilles slēpt seju s no šādas policijas uzraudzības. ASV federālie prokurori atcēla apsūdzību pret protestētāju, kurš tika identificēts, izmantojot sejas atpazīšanu un kurš tika apsūdzēts uzbrukumā policijas darbiniekiem.

Saistīts stāsts

Oficiālie bezdarbnieku skaitļi ir šausminoši. Reālā situācija ir vēl sliktāka. Rekordiskie bezdarba skaitļi tikai liecina par krīzi, ar kuru daudzi saskaras bez darba.

Es domāju, ka ir saprotams, ka mēs koncentrējamies uz šiem trūkumiem un aizspriedumiem, jo ​​šī tehnoloģija tiek izmantota šobrīd, saka Grīrs. Bet, ja paņemat tehnoloģiju… un uzliekat to virsū sabiedrībai, kas ir ļoti netaisnīga, pat ja tehnoloģija pati par sevi ir “neitrāla” vai tajā nav iestrādāta nekāda veida aizspriedumi, tai būs automatizācijas efekts. un saasina šo diskrimināciju.

Gan Cīņa par nākotni, gan EZF atbalsta aizliegumus valdībai izmantot sejas atpazīšanas rīkus. Un Bārnets saka, ka pat tad, ja tiek izmantota tehnoloģija, valdības aģentūrām nevajadzētu paļauties uz vienu sistēmu kā vārtsargu, kam piekļūt, jo īpaši, lai cilvēkiem iegūtu izdzīvošanai nepieciešamās lietas.

Nav grūti iedomāties, kā [šīs tehnoloģijas] vēlāk var tikt ierocis pret cilvēkiem dažādiem mērķiem, pat ja tās tagad ir labi nodomas, viņa saka.

Tomēr marginalizētiem cilvēkiem otas ar sejas atpazīšanu jau rada problēmas. Vairāk nekā gadu pēc tam, kad JB pirmo reizi pieteicās bezdarbam, grūtā procesa detaļas joprojām ir iespiedušās viņu atmiņā. Kad šī gada pavasarī beidzās sākotnējās prasības termiņš, tas bija atvieglojums. Viņi nesen bija ieguvuši jaunu darbu, un beidzot viss atgriezās savās sliedēs.

Viņi saka, ka es beidzot sakārtoju savu dzīvi. Es patiešām priecājos, ka man nav jāsaskaras ar šo sistēmu. Un es ļoti ceru, ka man vairs nekad nebūs jāsaskaras ar šo sistēmu.

Šis stāsts ir daļa no Pandēmijas tehnoloģiju projekta, ko atbalsta Rokfellera fonds.

paslēpties