Facebook saka, ka savos algoritmos meklēs rasu aizspriedumus

Kategorija: Mākslīgais intelekts Ievietots 22. jūlijs

Ziņas: Facebook saka, ka notiek iestatīšana jaunas iekšējās komandas, lai meklētu rasu aizspriedumus algoritmos, kas vada tā galveno sociālo tīklu un Instagram, vēsta Wall Street Journal. Jo īpaši izmeklēšanā tiks aplūkota mašīnmācīšanās nelabvēlīgā ietekme, kas var iekodēt netiešu rasismu apmācību datos — par melnādainiem, spāņu un citām minoritāšu grupām.

Kāpēc tas ir svarīgi: Pēdējos gados arvien vairāk pētnieku un aktīvistu ir uzsvēruši šo problēmu neobjektivitāte AI un tam ir nesamērīga ietekme uz minoritātēm . Facebook, kas izmanto mašīnmācīšanos, lai apkopotu savu 2,5 miljardu lietotāju ikdienas pieredzi, ir krietni nokavēts, lai veiktu šāda veida iekšēju novērtējumu. Jau ir pierādījumi, ka Facebook reklāmu rādīšanas algoritmi diskriminēt pēc rases un ļauj reklāmdevējiem, piemēram, neļaut konkrētām rasu grupām redzēt viņu reklāmas.

Zem spiediena: Facebook ir izvairījies no apsūdzībām par neobjektivitāti savās sistēmās. Ir vajadzīgi vairāki gadi sliktas preses un pilsoņu tiesību grupu spiediena, lai nonāktu līdz šim punktam. Facebook ir izveidojis šīs komandas pēc mēnesi ilga reklāmas boikota, ko organizēja pilsoņu tiesību grupas, tostarp Anti-Defamation League, Color of Change un NAACP, kas noveda pie lieliem tērētājiem, piemēram, Coca-Cola, Disney, McDonald's un Starbucks. apturēt savas kampaņas.

Nav viegla labojuma: Kustība ir apsveicama. Taču izmeklēšanas uzsākšana ir ļoti tālu no rasu aizspriedumu problēmas risināšanas, it īpaši, ja neviens īsti nezina, kā to novērst. Vairumā gadījumu, apmācības datos pastāv novirze un nav labu saskaņotu veidu, kā to noņemt. Un šo datu pielāgošana — sava veida algoritmiska apstiprinoša darbība — ir strīdīgs. Mašīnmācības aizspriedumi ir arī tikai viena no sociālo mediju problēmām saistībā ar rasi. Ja Facebook gatavojas aplūkot savus algoritmus, tam vajadzētu būt daļai no plašākas pārskatīšanas, kas arī cīnās ar politiku, kas dod platformas rasistiskiem politiķiem, balto pārākuma grupām un holokausta noliedzējiem.

'Mēs turpināsim cieši sadarboties ar Facebook atbildīgo AI komandu, lai nodrošinātu, ka mēs aplūkojam iespējamās novirzes mūsu attiecīgajās platformās,' saka Stefānija Otveja, Instagram pārstāve. 'Ir sākumi, un mēs plānojam tuvāko mēnešu laikā dalīties ar sīkāku informāciju par šo darbu.'