211service.com
Meklētājprogrammu rezultātos jau pastāv neobjektivitāte, un tas tikai pasliktināsies
Jaunā grāmatā apgalvots, ka meklētājprogrammu darbība nebūt nav bez aizspriedumiem. 2018. gada 26. februāris
NYU grāmatu prese
Internets varētu šķist līdzvērtīgs spēles laukums, taču tā nav. Safija Umoja Noble kādu dienu saskārās ar šo faktu, kad viņa izmantoja Google meklētājprogrammu, lai meklētu priekšmetus, kas varētu šķist interesanti viņas māsasmeitām. Viņa ievadīja terminu melnās meitenes un atgriezās ar lapām, kurās dominē pornogrāfija.
Noble, USC Annenberg komunikāciju profesors, bija šausmās, bet ne pārsteigts. Jau gadiem ilgi viņa ir apgalvojusi, ka tīmekļa vērtības atspoguļo tā veidotājus - galvenokārt baltos, rietumu vīriešus - un nepārstāv minoritātes un sievietes. Viņas jaunākā grāmata, Apspiešanas algoritmi , detalizēti izpēti, ko viņa uzsāka pēc liktenīgās Google meklēšanas, un tajā tiek pētītas slēptās struktūras, kas nosaka to, kā mēs iegūstam informāciju, izmantojot internetu.
Šomēnes izdotajā grāmatā ir apgalvots, ka meklētājprogrammu algoritmi nav tik neitrāli, kā Google vēlētos, lai jūs domājat. Algoritmi veicina dažus rezultātus virs citiem, un pat šķietami neitrāla koda daļa var atspoguļot sabiedrības aizspriedumus. Turklāt bez jebkāda ieskata par to, kā darbojas algoritmi vai kāds ir plašāks konteksts, meklēšana var negodīgi veidot diskusiju par tādu tēmu kā melnās meitenes.
Noble runāja ar MIT tehnoloģiju apskats par problēmām, kas raksturīgas pašreizējai sistēmai, kā Google varētu darīt labāk un kā mākslīgais intelekts var pasliktināt situāciju.
PĒC SAFIYA UMOJA NOBLE PIELĀTĪBAS
Ko cilvēki kļūdās par to, kā darbojas meklētājprogrammas?
Ja mēs meklējam tuvāko Starbucks, konkrētu citātu vai kaut ko ļoti šauru, kas ir viegli saprotams, tas darbojas labi. Bet, kad mēs sākam iedziļināties sarežģītākos jēdzienos par identitāti un zināšanām, meklētājprogrammas sāk mūs pievilt. Tā nebūtu tik liela problēma, izņemot to, ka sabiedrība patiešām paļaujas uz meklētājprogrammām, lai sniegtu viņiem to, kas, viņuprāt, ir patiesība, kaut kas pārbaudīts vai ticams. Šeit, manuprāt, mums ir vislielākais pārpratums sabiedrībā par to, kas ir meklētājprogrammas.
Lai novērstu novirzes, Google parasti apspiež noteiktus rezultātus. Vai ir labāka pieeja?
Mēs varētu padomāt par šāda vērienīga projekta, lai sakārtotu visas pasaules zināšanas, atcelšanu, vai arī mēs varētu pārstrukturēt un teikt: šī ir nepilnīga tehnoloģija. Tas ir manipulējams. Mēs jums parādīsim, kā ar to tiek manipulēts. Mēs padarīsim šāda veida mūsu produkta izmērus pārskatāmākus, lai jūs zinātu produkcijas subjektīvo raksturu. Tā vietā daudzu uzņēmumu — ne tikai Google — situācija ir tāda, ka [tie] sniedz kaut ko tādu, kam varat uzticēties un uz ko varat paļauties, un šeit tas kļūst diezgan grūti.
Kā mašīnmācīšanās varētu iemūžināt daļu no rasisma un seksisma, par ko rakstāt?
Es esmu apgalvojis, ka mākslīgais intelekts vai automatizētas lēmumu pieņemšanas sistēmas šajā gadsimtā kļūs par cilvēktiesību problēmu. Es tam stingri uzskatu, jo mašīnmācības algoritmi un projekti izmanto datus, kas jau ir neobjektīvi, nepilnīgi, kļūdaini, un [mēs] mācām mašīnām, kā pieņemt lēmumus, pamatojoties uz šo informāciju. Mēs zinām, ka [tas] novedīs pie dažādiem atšķirīgiem rezultātiem. Ļaujiet man tikai piebilst, ka AI būs arvien grūtāk iejaukties, jo kļūs mazāk skaidrs, kādi dati ir izmantoti, lai informētu par šī AI vai šo sistēmu izveidi. Ir daudz dažādu datu kopu veidu, piemēram, kas nav standartizētas, kas apvienojas, lai pieņemtu lēmumus.
Vai kopš 2010. gada, kad pirmo reizi meklējāt melnādainas meitenes, vai esat redzējis, ka lietas kļūst labākas vai sliktākas?
Kopš es sāku rakstīt un publiski runāt par melnādainajām meitenēm, kas jo īpaši tiek saistītas ar pornogrāfiju, lietas ir mainījušās. Tagad pornogrāfija un hiperseksualizēts saturs nav pirmajā lapā, tāpēc es domāju, ka tas bija kluss uzlabojums, kas nenāca ar lielu uzplaukumu. Taču citas kopienas, piemēram, latīņu un aziātu meitenes, meklēšanas rezultātos joprojām ir ļoti seksualizētas.