211service.com
Vai sejas atpazīšanas sistēmas ir precīzas? Atkarīgs no jūsu rases.
Viss, ko mēs zinām par FIB un policijas izmantotajām sejas atpazīšanas sistēmām, liecina, ka programmatūrai ir iebūvēts rasu aizspriedums. Tas nav ar nolūku — tas ir artefakts par to, kā sistēmas ir izstrādātas, un datiem, uz kuriem tās ir apmācītas. Bet tas ir problemātiski. Tiesībaizsardzības iestādes arvien vairāk paļaujas uz šādiem instrumentiem, lai palīdzētu kriminālizmeklēšanā, palielinot risku, ka kaut kas varētu noiet greizi.
Tiesībaizsardzības iestādes nav sniegušas detalizētu informāciju par to, kā tās izmanto sejas atpazīšanas sistēmas, taču jūnijā Valdības Atbildības birojs izdeva ziņojumu, kurā teikts, ka FIB nav pienācīgi pārbaudījis ne savas sejas atbilstības sistēmas precizitāti, ne arī plašā seju atpazīšanas sistēmas precizitāti. štata līmeņa seju atbilstības datu bāzes, kurām tā var piekļūt.
Un, lai gan modernās seju saskaņošanas sistēmas var būt gandrīz 95 procenti precīzas, izmantojot datu bāzēs, kas iegūtas no fotogrāfijām, šīs fotogrāfijas tiek uzņemtas kontrolētos apstākļos ar parasti sadarbīgiem objektiem. Attēli, kas uzņemti mazāk nekā ideālos apstākļos, piemēram, sliktā apgaismojumā, vai kuros ir tvertas neparastas pozas un sejas izteiksmes, var izraisīt kļūdas.
Sofijas Fosteres-Dimino ilustrācija
Algoritmi var būt arī neobjektīvi to apmācības veida dēļ, saka Anils Džeins , Mičiganas štata universitātes biometrijas pētījumu grupas vadītājs. Lai darbotos, seju saskaņošanas programmatūrai vispirms ir jāiemācās atpazīt sejas, izmantojot apmācības datus — attēlu kopu, kas programmatūrai sniedz informāciju par to, kā sejas atšķiras. Ja dzimums, vecuma grupa vai rase treniņu datos ir nepietiekami pārstāvēta, tas tiks atspoguļots algoritma darbībā, saka Džeins.
2012. gadā Džeins un vairāki kolēģi izmantoja attēlu komplektu no Pinellas apgabala šerifa biroja Floridā, lai pārbaudītu vairāku komerciāli pieejamu sejas atpazīšanas sistēmu darbību, tostarp to pārdevēju, kuri piegādā tiesībaizsardzības aģentūras, veiktspēju. Algoritmi bija konsekventi mazāk precīzi sievietēm, afroamerikāņiem un jaunākiem cilvēkiem. Acīmredzot viņi tika apmācīti par datiem, kas nebija pietiekami reprezentatīvi šīm grupām, saka Džeins.
Ja jūsu treniņu komplekts ir ļoti novirzīts uz konkrētu sacensību, jūsu algoritms spēs labāk atpazīt šīs sacensības, saka. Alice O’Toole , Sejas uztveres pētniecības laboratorijas vadītājs Teksasas Universitātē Dalasā. O’Tūls un vairāki kolēģi atrasts 2011. gadā ka Rietumvalstīs izstrādātais algoritms labāk atpazina kaukāziešu sejas nekā Austrumāzijas sejas. Tāpat Austrumāzijas algoritmi darbojās labāk Austrumāzijas sejām nekā kaukāziešu sejām.
Vairāku gadu laikā kopš šiem pētījumiem komerciālo algoritmu precizitāte daudzās jomās ir ievērojami uzlabojusies, un Džeins saka, ka veiktspējas atšķirības starp dažādiem dzimumiem un rasēm, iespējams, ir samazinājušās. Taču par testēšanu ir pieejams tik maz informācijas, ka to ir grūti zināt. Viņš saka, ka jaunākas sejas atpazīšanas pieejas, piemēram, Google un Facebook izstrādātās dziļās mācīšanās sistēmas, var pieļaut tādas pašas kļūdas, ja apmācības dati ir nelīdzsvaroti.
Džonatons Filipss, Nacionālā standartu un tehnoloģiju institūta elektronikas inženieris, veic komerciālo algoritmu veiktspējas pārbaudes. Viņš saka, ka ir iespējams izveidot testu, lai noteiktu rasu aizspriedumus seju saskaņošanas sistēmās. Faktiski privātuma ekspertiem ir aicināja nosakot šādus testus par prasību.
FIB un MorphoTrust, pārdevējs, kas piegādā biroja sejas atpazīšanas programmatūru, neatbildēja uz jautājumiem, kas nosūtīti e-pastā. MIT tehnoloģiju apskats par to, vai viņi pārbauda savu algoritmu veiktspēju pēc rases, dzimuma vai vecuma.
Nav skaidra arī vienošanās starp pārdevējiem un daudzām valsts tiesībaizsardzības iestādēm, kas izmanto sejas atpazīšanu. Taču Pīts Langenfelds, Mičiganas štata policijas digitālās analīzes un identifikācijas vadītājs, saka, ka viņa organizācija nepārbauda grupai raksturīgo precizitāti. Viņš sacīja, ka nezina, vai pārdevējs, kas piegādāja tehnoloģiju, arī veic šādas pārbaudes, taču piebilda, ka tā ir patentēta informācija un uzņēmumam šī informācija nav jāizpauž.