ASV valdības pētījums apstiprina, ka lielākā daļa sejas atpazīšanas sistēmu ir rasistiskas

Kategorija: Mākslīgais intelekts Ievietots 20. decembris

Saskaņā ar nozīmīgs pētījums .

Ko viņi pārbaudīja: ASV Nacionālais standartu un tehnoloģiju institūts (NIST) pārbaudīja katru algoritmu divos no visizplatītākajiem sejas atpazīšanas uzdevumiem. Pirmā, kas pazīstama kā savstarpēja saskaņošana, ietver kāda fotoattēla saskaņošanu ar citu tās pašas personas fotoattēlu datubāzē. To izmanto, piemēram, viedtālruņu atbloķēšanai vai pasu pārbaudei. Otrais, kas pazīstams kā meklēšana viens pret daudziem, ietver noteikšanu, vai kāda fotoattēlam ir kāda atbilstība datu bāzē. Policijas departamenti to bieži izmanto, lai izmeklēšanā identificētu aizdomās turamās personas.

Aģentūra pētīja četras seju datu kopas, ko pašlaik izmanto ASV valdības lietojumprogrammās: ASV dzīvojošo cilvēku attēlus; pieteikuma fotogrāfijas no personām, kas pretendē uz imigrācijas pabalstiem; pieteikuma fotogrāfijas no personām, kas piesakās vīzu saņemšanai; un cilvēku fotogrāfijas, šķērsojot ASV robežu. Kopumā datu kopās bija 18,27 miljoni attēlu ar 8,49 miljoniem cilvēku.

Ko viņi atrada: NIST dalījās ar dažiem augsta līmeņa pētījuma rezultātiem. Galvenie:

1. Atbilstības noteikšanai viens pret vienu lielākajā daļā sistēmu bija lielāks viltus pozitīvu atbilžu līmenis Āzijas un afroamerikāņu sejām salīdzinājumā ar kaukāziešu sejām, dažreiz 10 vai pat 100. Citiem vārdiem sakot, pastāv lielāka iespēja, ka atrast sakritību, kad tāda nebija.

2. Tas mainījās Āzijas valstīs izstrādātajiem seju atpazīšanas algoritmiem, kas radīja ļoti maz atšķirību viltus pozitīvos skaitļos starp Āzijas un kaukāziešu sejām.

3. ASV izstrādātie algoritmi vienmēr bija slikti, lai saskaņotu aziātu, afroamerikāņu un indiāņu sejas. Vietējie amerikāņi cieta no visaugstākajiem viltus pozitīvu rezultātu rādītājiem.

4. Sistēmām, kas atbilst vienam pret daudziem, bija vissliktākie viltus pozitīvo rezultātu rādītāji afroamerikāņu sievietēm, kas rada vislielāko risku, ka šī populācija tiks nepatiesi apsūdzēta noziegumā.

Kāpēc tas ir svarīgi: Seju atpazīšanas sistēmu izmantošana strauji pieaug tiesībaizsardzības, robežkontroles un citās lietojumprogrammās visā sabiedrībā. Lai gan vairāki akadēmiskie pētījumi iepriekš ir parādījuši, ka populārās komerciālās sistēmas ir novirzītas uz rasi un dzimumu, NIST pētījums ir visplašākais novērtējums līdz šim un apstiprina šos agrākos rezultātus. Rezultāti liek apšaubīt, vai šīs sistēmas arī turpmāk būtu tik plaši izmantotas.

Nākamie soļi: Tagad politikas veidotājiem ir jāizdomā labākais veids, kā regulēt šīs tehnoloģijas. NIST arī mudina sejas atpazīšanas izstrādātājus veikt vairāk pētījumu par to, kā šīs novirzes varētu mazināt.

Lai vairāk šādu stāstu tiktu piegādāts tieši jūsu iesūtnē, reģistrējieties mūsu Webby nominētajam AI informatīvajam izdevumam The Algorithm. Tas ir par brīvu.