211service.com
Facebook reklāmu rādīšanas algoritms diskriminē pēc dzimuma un rases
Tehnikas kundze/ Logo: facebook
Algoritmi ir neobjektīvi, un Facebook nav izņēmums.
Pagājušajā nedēļā tehnoloģiju gigantu iesūdzēja tiesā ASV Mājokļu un pilsētu attīstības departaments par to, kā tas ļāva reklāmdevējiem mērķtiecīgi atlasīt savas reklāmas pēc rases, dzimuma un reliģijas — visas saskaņā ar ASV tiesību aktiem aizsargātās kategorijas. Uzņēmums paziņoja, ka pārtrauks to atļaut.
Bet jauni pierādījumi parāda, ka Facebook algoritms, kas automātiski izlemj, kam tiek rādīta reklāma, vienalga veic tādu pašu diskrimināciju, rādot reklāmas vairāk nekā diviem miljardiem lietotāju, pamatojoties uz viņu demogrāfisko informāciju.
Ziemeļaustrumu universitātes Muhameda Ali un Pjotra Sapiežinska vadītā komanda rādīja virkni citādi identisku reklāmu ar nelielām variācijām pieejamajā budžetā, virsrakstā, tekstā vai attēlā. Viņi atklāja, ka šiem smalkajiem pielāgojumiem bija būtiska ietekme uz auditoriju, kuru sasniedza katra reklāma, jo īpaši tad, ja sludinājumi bija par darbu vai nekustamo īpašumu. Piemēram, pirmsskolas skolotājiem un sekretārēm paredzētie sludinājumi tika rādīti lielākai daļai sieviešu, savukārt sētniekiem un taksometru vadītājiem paredzētie sludinājumi tika rādīti lielākai minoritāšu daļai. Sludinājumi par pārdodamām mājām tika rādīti arī lielākam skaitam balto lietotāju, savukārt īres sludinājumi tika rādīti vairāk minoritāšu.
Mēs esam veikuši svarīgas izmaiņas savos reklāmu mērķauditorijas atlases rīkos un zinām, ka tas ir tikai pirmais solis, Facebook pārstāvis teica paziņojumā, atbildot uz konstatējumiem. Mēs esam izskatījuši savu reklāmu piegādes sistēmu un esam iesaistījuši nozares līderus, akadēmiķus un civiltiesību ekspertus tieši šajā tēmā, un mēs pētām vēl citas izmaiņas.
Dažos veidos tam nevajadzētu būt pārsteidzošam — ieteikumu algoritmu novirze ir bijusi zināma problēma daudzus gadus. Piemēram, 2013. gadā Hārvardas valdības un tehnoloģiju profesore Latānija Svīnija publicēja rakstu, kurā tika parādīta Google reklāmu rādīšanas algoritma netiešā rasu diskriminācija. Jautājums attiecas uz to, kā šie algoritmi darbojas pēc būtības. Visi no tiem ir balstīti uz mašīnmācīšanos , kas atrod modeļus masveida datu apjomos un atkārtoti izmanto tos lēmumu pieņemšanai. Ir daudz veidu, kā šī procesa laikā var rasties neobjektivitāte, taču divi visizteiktākie Facebook gadījumā ir saistīti ar problēmām, kas saistītas ar problēmu veidošanu un datu vākšanu.
Neobjektivitāte rodas problēmas veidošanā, kad mašīnmācības modeļa mērķis ir nepareizi saskaņots ar nepieciešamību izvairīties no diskriminācijas. Facebook reklāmas rīks ļauj reklāmdevējiem izvēlēties vienu no trim optimizācijas mērķiem: reklāmas skatījumu skaits, klikšķu skaits un piesaistes apjoms, kā arī tās radītais pārdošanas apjoms. Taču šiem biznesa mērķiem nav nekāda sakara, teiksim, ar vienlīdzīgu mājokļa pieejamības saglabāšanu. Rezultātā, ja algoritms atklātu, ka tas varētu nopelnīt lielāku iesaistīšanos, parādot vairāk balto lietotāju mājokļu iegādei, tas galu galā diskriminētu melnādainos lietotājus.
Neobjektivitāte rodas datu vākšanas laikā, kad apmācības dati atspoguļo esošos aizspriedumus. Facebook reklamēšanas rīks savus optimizācijas lēmumus pamato ar vēsturiskajām vēlmēm, ko cilvēki ir parādījuši. Ja agrāk ar īres reklāmām iesaistījās vairāk minoritāšu, mašīnmācības modelis identificēs šo modeli un piemēros to uz visiem laikiem. Atkal tas akli cels uz nodarbinātības un mājokļu diskriminācijas ceļu — bez nepārprotama norādījuma to darīt.
Lai gan šīs uzvedības mašīnmācībā ir pētītas jau ilgu laiku, jaunais pētījums piedāvā tiešāku ieskatu par tā ietekmi uz cilvēku piekļuvi mājokļiem un nodarbinātības iespējām. Šie atklājumi ir sprādzienbīstami! Kristians Sandvigs, Mičiganas Universitātes Ētikas, sabiedrības un skaitļošanas centra direktors, stāstīja The Economist. Rakstā ir teikts, ka [...] lielie dati, kas izmantoti šādā veidā, nekad nevar dot mums labāku pasauli. Patiesībā, iespējams, šīs sistēmas padara pasauli sliktāku, paātrinot problēmas pasaulē, kas padara lietas netaisnīgas.
Labās ziņas ir tādas, ka var būt veidi, kā atrisināt šo problēmu, taču tas nebūs viegli. Daudzi AI pētnieki tagad meklē mašīnmācības aizspriedumu tehniskos labojumus, kas varētu radīt godīgākus tiešsaistes reklāmas modeļus. Nesens papīrs Piemēram, Jēlas Universitātes un Indijas Tehnoloģiju institūta pētījumi liecina, ka varētu būt iespējams ierobežot algoritmus, lai samazinātu diskriminējošo uzvedību, lai gan ar nelielām izmaksām reklāmām. Taču politikas veidotājiem būs jāuzņemas lielāka loma, ja platformas sāks ieguldīt šādos labojumos, jo īpaši, ja tas varētu ietekmēt to rezultātu.
Sākotnēji tas parādījās mūsu AI informatīvajā izdevumā The Algorithm. Lai tas tiktu tieši piegādāts jūsu pastkastē, reģistrējieties šeit bez maksas.