Sejas atpazīšanas padarīšana mazāk neobjektīva nepadara to mazāk biedējošu

Busà Photography/Getty

Dažu pēdējo gadu laikā ir bijis dramatisks pieaugums sejas atpazīšanas, noteikšanas un analīzes tehnoloģiju ieviešanai.

Jūs, iespējams, esat vislabāk pazīstams ar atzīšanu sistēmas, piemēram, Facebook fotoattēlu marķēšanas ieteicējs un Apple FaceID, kas var identificēt konkrētas personas. Atklāšana no otras puses, sistēmas nosaka, vai seja vispār ir; un analīze sistēmas mēģina noteikt tādus aspektus kā dzimums un rase. Visas šīs sistēmas tagad tiek izmantotas dažādiem mērķiem, no pieņemšana darbā un mazumtirdzniecība uz drošību un uzraudzība .

Daudzi cilvēki uzskata, ka šādas sistēmas ir gan ļoti precīzas, gan objektīvas. Loģika liecina, ka lidostas drošības darbinieki var nogurt un policija var nepareizi novērtēt aizdomās turamos, taču labi apmācītai AI sistēmai jāspēj konsekventi identificēt vai klasificēt jebkuru sejas attēlu.

Taču praksē pētījumi ir vairākkārt parādījuši, ka šīs sistēmas ar dažām demogrāfiskajām grupām izturas daudz neprecīzāk nekā citas. Pagājušais gads, Dzimuma nokrāsas MIT Media Lab pētnieka Džoja Buolamvini vadītajā pētījumā konstatēts, ka dzimumu klasifikācijas sistēmās, ko pārdod IBM, Microsoft un Face++, bija par 34,4 procentpunktiem augstāks kļūdu līmenis sievietēm ar tumšāku ādu nekā gaišākiem vīriešiem. Ziemeļkalifornijas ACLU līdzīgi atrasts ka Amazon platforma, visticamāk, nepareizi identificēja nebaltos, nevis baltos Kongresa locekļus.

Problēma ir tā, ka sejas atpazīšanas un analīzes sistēmas bieži tiek apmācītas, izmantojot šķībās datu kopas: tām tiek ievadīts daudz mazāk sieviešu un cilvēku ar tumšu ādu attēlu nekā vīriešu un cilvēku ar gaišu ādu attēli. Un, lai gan daudzi no tiem it kā tiek pārbaudīti, lai nodrošinātu godīgumu, šie testi nepārbauda veiktspēju pietiekami plašā seju diapazonā, kā konstatēja Buolamvini. Šīs atšķirības saglabā un vēl vairāk nostiprina esošās netaisnības un noved pie sekām, kas tikai pasliktinās, pieaugot likmei.

Trīs jauni dokumenti, kas izdoti pagājušajā nedēļā, tagad pievērš ļoti vajadzīgu uzmanību šim jautājumam. Šeit ir īss apraksts par katru no tiem.

Papīrs #1. Pagājušajā ceturtdienā, Buolamwini atbrīvots Gender Shades atjauninājums, atkārtoti pārbaudot sistēmas, kuras viņa iepriekš bija pārbaudījusi, un paplašinot savu pārskatu, iekļaujot Amazon Rekognition un jaunu sistēmu no neliela AI uzņēmuma Kairos. Ir dažas labas ziņas. Viņa atklāja, ka IBM, Face++ un Microsoft uzlaboja savu dzimuma klasifikācijas precizitāti tumšākām sievietēm, un Microsoft samazināja kļūdu līmeni līdz 2%. No otras puses, Amazon un Kairos platformām joprojām bija attiecīgi 31 un 23 procentu punktu precizitātes atšķirības starp gaišākiem vīriešiem un tumšākām sievietēm. Buolamwini teica pētījums parāda, ka šīm tehnoloģijām ir jāveic ārējs audits, lai tās būtu tehniski atbildīgas.

Papīrs #2. Svētdien, a pētījums no MIT Datorzinātnes un mākslīgā intelekta laboratorijas (CSAIL) demonstrēja jauna algoritma efektivitāti sejas noteikšanas sistēmas aizspriedumu mazināšanai pat tad, ja tā ir apmācīta, pamatojoties uz ļoti neobjektīviem datiem. Apmācības laikā tas arī nosaka, kuri piemēri datos ir nepietiekami, un pavada papildu laiku, lai tos aplūkotu, lai to kompensētu. Kad pētnieki pārbaudīja sistēmu, salīdzinot ar Buolamwini Gender Shades datu kopu, viņi atklāja, ka tā palīdzēja novērst viņu pašu lielāko precizitātes plaisu starp gaišākiem un tumšākiem vīriešiem, salīdzinot ar standarta apmācības algoritmu (lai gan tas to pilnībā nenovērsa). .

Papīrs #3. Šorīt IBM Research izlaida a papīrs kas identificē desmitiem pazīmju daudzveidības mērīšanai ārpus ādas krāsas un dzimuma, tostarp galvas augstumu, sejas platumu, attālumu starp acīm un vecumu. Rezultāti ir balstīti uz iepriekšējiem pētījumiem par cilvēku sejām. Ja vien mums nav sejas daudzveidības mēru, saka Džons Smits, viens no darba līdzautoriem, mēs nevaram atgriezties un tos īstenot, apmācot šīs sejas atpazīšanas sistēmas. Saistībā ar to komanda izlaida jaunu datu kopu ar 1 miljonu seju attēlu, kas anotēti ar šiem jaunajiem pasākumiem.

Dažādi sejas daudzveidības rādītāji, kas izklāstīti IBM Research jaunajā rakstā. IBM izpēte

Katrs no šiem pētījumiem ir spēris svarīgus soļus, lai novērstu neobjektivitāti sejas atpazīšanas jomā, nodrošinot uzņēmumu atbildību, radot jaunus algoritmus un paplašinot mūsu izpratni par datu daudzveidību. Taču godīgāku un precīzāku sistēmu izveide ir tikai puse no panākumiem.

Pat godīgākās un precīzākās sistēmas joprojām var tikt izmantotas, lai pārkāptu cilvēku pilsoniskās brīvības. Pagājušajā gadā Daily Beast izmeklēšana atklāja, ka Amazon aktīvi piedāvā savu sejas novērošanas platformu ASV Imigrācijas un muitas dienestam, kas labāk pazīstams kā ICE, lai palīdzētu tai vērsties pret migrantu kopienām. Pārtveršana izmeklēšana arī atklāja, ka IBM izstrādāja spēju identificēt seju etnisko piederību kā daļu no ilgtermiņa partnerības ar Ņujorkas policijas departamentu. Pēc tam šī tehnoloģija tika izvietota publiskajās novērošanas kamerās testēšanai, pilsētas iedzīvotājiem nezinot. Apvienotās Karalistes Metropolitēna policija jau izmanto sejas atpazīšanu skenēt publikas pūļus cilvēkiem, kas iekļauti skatīšanās sarakstos, un Ķīna to izmanto masu novērošana visiem iedzīvotājiem, tostarp disidentu izsekošanai.

Reaģējot uz šo sistēmu straujo izplatību, arvien vairāk pilsoņu tiesību aktīvistu un tehnologi ir aicinājuši tās regulēt; Google ir pat apturēta šādu sistēmu pārdošanu, kamēr tai nav skaidras stratēģijas to ļaunprātīgas izmantošanas novēršanai.

Bez algoritmiskā taisnīguma algoritmiskā precizitāte/tehniskais godīgums var radīt AI rīkus, kas ir ieroči, saka Buolamwini.

Šis stāsts sākotnēji parādījās mūsu AI informatīvajā izdevumā The Algorithm. Lai tas tiktu tieši piegādāts jūsu iesūtnē, reģistrējieties šeit bez maksas.

paslēpties