Google jaunais AI smaida detektors parāda, kā rases un dzimuma ievērošana var mazināt aizspriedumus

Kategorija: Bez kategorijas Ievietots 04. decembris

Datorredze kļūst arvien labāka, lai atpazītu dažādas sejas izteiksmes, taču noteiktām grupām, kas nav pietiekami pārstāvētas apmācību datu kopās, piemēram, rasu minoritātēm vai sievietēm ar androgīnām iezīmēm, algoritmi joprojām var nedarboties.

Jauns dokuments, kas publicēts arXiv Google pētnieki ir uzlabojuši vismodernākos smaida noteikšanas algoritmus, savos modeļos iekļaujot un apmācot rasu un dzimuma klasifikatorus. Rasu klasifikators tika apmācīts četrās rasu apakšgrupās un divās pēc dzimuma (pētnieki nenosauca rasu grupas, taču šķiet, ka attēli sastāv no aziātu, melnādainiem, spāņu un baltajiem cilvēkiem).

Viņu metode sasniedza gandrīz 91 procenta precizitāti, nosakot smaidu pasaules seju (FotW) datu kopā, kas ir 13 000 seju attēlu kopa, kas savākta no tīmekļa un kas dažkārt tiek izmantota kā etalons šādiem algoritmiem. Tas ir nedaudz vairāk par 1,5 procentiem salīdzinājumā ar iepriekšējo atzīmi. Rezultāti liecināja par vispārēju uzlabotu precizitāti, parādot, ka, pievēršot uzmanību rasei un dzimumam, var iegūt labākus rezultātus nekā mēģinājums izveidot krāsu aklu algoritmu.

Daudzi pētnieki vilcinās iekļaut šādus klasifikatorus, pieņemot, ka ir vieglāk būt vainīgam neobjektivitātē (vai vismaz tikt apsūdzētam par to), ja jūsu sistēmā ir skaidri noteiktas rasu vai dzimuma kategorijas. Google komandas rezultāti pierāda, ka pieliktās pūles, lai apmācītu rasu vai dzimuma klasifikatorus, faktiski var samazināt neobjektivitātes problēmu. Pētnieki izmantoja arī tādas klasifikācijas kā dzimums 1 un dzimums 2, lai pēc iespējas izvairītos no neapzinātas, sabiedrības aizspriedumiem.

Pat neskatoties uz daudzsološajiem rezultātiem un rūpēm, lai apzinātos neobjektivitāti visos tās veidos, pētnieki savā dokumentā iekļāva sadaļu ar nosaukumu Ētiskie apsvērumi, kurā viņi cenšas atzīmēt, ka viņu darbs nav paredzēts rases un dzimuma motivēšanai. identifikācija kā galamērķis. Viņi arī norāda, ka nav zelta standarta rasu kategoriju sadalīšanai un ka dzimums, iespējams, turpmākajā darbā būtu jāuzskata par spektru, nevis bināru stāvokli.