Facebook reklāmu algoritmi joprojām neļauj sievietēm redzēt darbu

Ms Tech | Pexels

Facebook aiztur noteiktus darba sludinājumus sievietēm viņu dzimuma dēļ, liecina jaunākais tā reklāmu pakalpojuma audits.

Revīzija Pētījumā, ko veica neatkarīgi pētnieki Dienvidkalifornijas Universitātē (USC), atklājas, ka Facebook reklāmu piegādes sistēma sievietēm un vīriešiem rāda dažādus darba sludinājumus, lai gan darbam ir nepieciešama vienāda kvalifikācija. Tā tiek uzskatīta par diskrimināciju dzimuma dēļ saskaņā ar ASV likumu par vienlīdzīgām nodarbinātības iespējām, kas aizliedz reklāmu mērķauditorijas atlasi, pamatojoties uz aizsargātām īpašībām. Rezultāti tiek iegūti, neskatoties uz gadiem ilgušo aizstāvību un tiesas prāvām, kā arī pēc Facebook solījumiem pārskatīt reklāmu rādīšanas veidu.

Pētnieki reģistrējās kā reklāmdevējs Facebook un iegādājās pāris sludinājumu par darbiem ar identisku kvalifikāciju, bet atšķirīgu reālās pasaules demogrāfisko stāvokli. Viņi reklamēja divus piegādes vadītāja darbus, piemēram: vienu Domino's (picu piegāde) un otru Instacart (pārtikas preču piegāde). Pašlaik vairāk vīriešu nekā sieviešu brauc Domino’s un otrādi Instacart.

Lai gan auditorija netika noteikta, pamatojoties uz demogrāfisko informāciju, funkcija Facebook ir atspējota mājokļu, kredītu un darba sludinājumiem 2019. gada martā pēc vairāku tiesas prāvu izšķiršanas algoritmi joprojām rādīja reklāmas statistiski atšķirīgām demogrāfiskajām grupām. Domino reklāma tika rādīta vairāk vīriešiem nekā sievietēm, un Instacart reklāma tika rādīta vairāk sieviešu nekā vīriešu.

Pētnieki atklāja to pašu modeli ar reklāmām par diviem citiem darbu pāriem: programmatūras inženieriem Nvidia (šķībais vīrietis) un Netflix (šķība sieviete), kā arī automašīnu (šķību vīriešu) un juvelierizstrādājumu (šķību sieviešu) pārdevējiem.

Rezultāti liecina, ka Facebook algoritmi kaut kādā veidā uztver šo darbu pašreizējo demogrāfisko sadalījumu, kas bieži atšķiras vēsturisku iemeslu dēļ. (Pētnieki nevarēja saprast, kāpēc tas tā ir, jo Facebook neteiks, kā darbojas tā reklāmu piegādes sistēma.) Facebook atkārto šīs novirzes, kad tas piegādā reklāmas, lai gan nav kvalifikācijas pamatojuma, saka docente Aleksandra Korolova. USC, kura bija pētījuma līdzautore kopā ar savu kolēģi Džonu Heidemanu un viņu doktora grādu konsultēja Basileal Imana.

Saistīts stāsts

Kā Facebook kļuva atkarīgs no dezinformācijas izplatīšanas

Uzņēmuma mākslīgā intelekta algoritmi deva tam nepiepildāmu ieradumu meliem un naida runai. Tagad cilvēks, kurš tos uzbūvēja, nevar atrisināt problēmu.

Pētījums sniedz jaunākos pierādījumus tam, ka Facebook nav atrisinājis savas reklāmu diskriminācijas problēmas kopš ProPublica pirmās 2016. gada oktobrī atklāja šo problēmu . Toreiz ProPublica atklāja, ka platforma ļāva darba un mājokļa iespēju reklāmdevējiem izslēgt noteiktas auditorijas, kuras raksturo tādas pazīmes kā dzimums un rase. Šādas grupas saņem īpašu aizsardzību saskaņā ar ASV tiesību aktiem, padarot šo praksi nelikumīgu. Facebook prasīja divarpus gadus un vairākas juridiskas sadursmes lai beidzot noņemtu šo funkciju .

Taču dažus mēnešus vēlāk ASV Mājokļu un pilsētu attīstības departaments (HUD) ierosināja jaunu tiesas prāvu, apgalvojot, ka Facebook reklāmu piegādes algoritmi joprojām izslēdz mājokļu reklāmu auditorijas, reklāmdevējam nenorādot izslēgšanu. Neatkarīgu pētnieku komanda, tostarp Korolova, kuru vadīja Ziemeļaustrumu universitātes Muhameds Ali un Pjotrs Sapiežiņskis, nedēļu vēlāk apstiprināja šos apgalvojumus . Viņi, piemēram, atklāja, ka pārdodamās mājas biežāk tika rādītas baltajiem lietotājiem, bet īrējamās mājas biežāk tika rādītas mazākumtautību lietotājiem.

Korolova vēlējās pārskatīt šo jautājumu ar savu jaunāko revīziju, jo pierādīšanas pienākums par diskrimināciju darbā ir augstāks nekā attiecībā uz mājokļa diskrimināciju. Lai gan jebkāda novirze reklāmu rādīšanā, kuras pamatā ir aizsargātas īpašības, mājokļu gadījumā ir nelikumīga, ASV darba tiesību akti uzskata, ka tas ir attaisnojams, ja novirze ir saistīta ar likumīgām kvalifikācijas atšķirībām. Jaunā metodoloģija kontrolē šo faktoru.

Eksperimenta dizains ir ļoti tīrs, saka Sapieżyński, kurš nebija iesaistīts jaunākajā pētījumā. Lai gan daži varētu iebilst, ka automašīnu un juvelierizstrādājumu pārdevējiem patiešām ir atšķirīga kvalifikācija, viņš saka, ka atšķirības starp picas piegādi un pārtikas preču piegādi ir niecīgas. Šīs dzimumu atšķirības nevar izskaidrot ar dzimumu atšķirībām kvalifikācijā vai kvalifikācijas trūkumu, viņš piebilst. Facebook vairs nevar teikt, ka [tas] ir attaisnojams ar likumu.

Šī audita izlaišana notiek, pastiprināti pārbaudot Facebook AI neobjektivitāti. Martā MIT Technology Review publicēja rezultātus deviņus mēnešus ilga izmeklēšana iekļuva uzņēmuma Atbildīgā AI komandā, kas atklāja, ka komanda, kas pirmo reizi tika izveidota 2018. gadā, bija nolaidusi darbu pie tādiem jautājumiem kā dezinformācijas algoritmiskā pastiprināšana un polarizācija, jo tā ir vērsta uz AI novirzēm. Kompānija publicēja emuāra ierakstu neilgi pēc tam, uzsverot šī darba nozīmi un jo īpaši sakot, ka Facebook cenšas labāk izprast iespējamās kļūdas, kas var ietekmēt mūsu reklāmu sistēmu, kā daļu no mūsu pastāvīgā un plašākā darba, lai pētītu algoritmu godīgumu reklāmās.

'Mēs esam veikuši nozīmīgus pasākumus, lai risinātu problēmas saistībā ar diskrimināciju reklāmās, un šodien komandas strādā pie reklāmu godīguma,' sacīja Facebook pārstāvis Džo Osborns. “Mūsu sistēma ņem vērā daudzus signālus, lai mēģinātu rādīt cilvēkiem reklāmas, kas viņus visvairāk interesēs, taču mēs saprotam ziņojumā paustās bažas... Mēs turpinām cieši sadarboties ar pilsoņu tiesību kopienu, regulatoriem un akadēmiķiem. par šiem svarīgajiem jautājumiem.

Tomēr, neskatoties uz šiem apgalvojumiem, Korolova saka, ka viņa nav atradusi nekādas ievērojamas izmaiņas Facebook reklāmu piegādes algoritmu darbībā starp 2019. gada auditu un šo revīziju. No šī perspektīvas tas patiešām rada vilšanos, jo mēs tam pievērsām viņu uzmanību pirms diviem gadiem, viņa saka. Viņa arī piedāvā sadarboties ar Facebook, lai risinātu šīs problēmas, viņa saka. 'Mēs neesam dzirdējuši. Vismaz man viņi nav sasnieguši roku.

Iepriekšējās intervijās uzņēmums paziņoja, ka nevar apspriest sīkāku informāciju par to, kā tas darbojas, lai mazinātu algoritmisko diskrimināciju savā reklāmu pakalpojumā, jo notiek tiesvedība. Reklāmu komanda teica, ka tās progresu ierobežo tehniskas problēmas.

Sapiežiņskis, kurš tagad ir veicis trīs platformas auditus, saka, ka tam nav nekāda sakara ar šo problēmu. Viņš saka, ka Facebook joprojām ir jāatzīst, ka pastāv problēma. Viņš piebilst, ka, kamēr komanda risina tehniskās problēmas, pastāv arī vienkāršs pagaidu risinājums: tas varētu izslēgt algoritmisko reklāmu mērķauditorijas atlasi, kas ir īpaši paredzēta mājokļu, nodarbinātības un kreditēšanas reklāmām, neietekmējot pārējo pakalpojumu. Tas tiešām ir tikai politiskās gribas jautājums, viņš saka.

Kristo Vilsons, vēl viens Ziemeļaustrumu pētnieks, kurš pēta algoritmisko novirzi, bet nepiedalījās Korolova vai Sapiežiņska pētījumos, piekrīt: cik reižu pētniekiem un žurnālistiem ir jāatrod šīs problēmas, pirms mēs vienkārši pieņemam, ka visa reklāmu mērķauditorijas atlases sistēma ir bankrotējusi?

paslēpties