211service.com
Vai koncertu ekonomika ir viltota?
Metjū Holistera ilustrācija
Lietojumprogrammas un vietnes, ko var izmantot, lai pieņemtu darbā cilvēkus individuāliem uzdevumiem, piemēram, pārtikas preču paņemšanai vai jauna logotipa izstrādei, pēdējos gados ir sākušas darboties, solot efektīvāku un godīgāku nodarbinātības tirgu. Tomēr jauns Bostonas Ziemeļaustrumu universitātes pētījums liecina, ka rasu un seksuālā diskriminācija var būt izplatīta divās populārās koncertekonomikas platformās.
Pētnieki, kuru vadīja Kristo Vilsons , Ziemeļaustrumu docents un Anča Hannaka , doktorants, pārbaudīja TaskRabbit, platformu cilvēku pieņemšanai darbā, lai veiktu uzdevumus, un Fiverr, radošo pakalpojumu tirgus. Abos gadījumos viņi atrada pierādījumus par aizspriedumiem pēc rases un dzimuma līnijām.
Tas ir tikai viens piemērs tam, kā neobjektivitāte iekļūst tiešsaistes platformās un pakalpojumos. Un tas ir satraucoši, jo koncertu ekonomika solījās būt ne tikai efektīvāka un elastīgāka, bet arī mazāk neobjektīva, jo algoritmi veic cilvēku savienošanas darbu.
Vietnē Fiverr pētnieki atklāja pierādījumus tam, ka melnādainie un Āzijas strādnieki saņēma zemākus vērtējumus nekā baltie cilvēki. Un vietnē TaskRabbit sievietes saņēma mazāk atsauksmju nekā vīrieši, un melnādainie darbinieki saņēma zemākus vērtējumus nekā baltie. Iespējams, visvairāk satraucoši, pētnieki arī atrada pierādījumus par šādu novirzi TaskRabbit ieteikumu algoritmā. Pētījums tiks prezentēts akadēmiskajā konferencē Ņujorkā šonedēļ.
Nav iespējams droši apgalvot, ka Vilsona un Hannaka identificētā korelācija ir saistīta ar algotājiem rasu un dzimuma aizspriedumiem, nevis kādam nezināmam traucējošam faktoram, taču Vilsons saka, ka šis modelis ir satraucošs. Mums saka, ka tā ir darba nākotne, viņš saka. Ja plānojat ieviest algoritmu, ko izmantos miljoniem cilvēku, jums ir zināma atbildība sabiedrības priekšā pārbaudīt to, ko jūs izvietojat, novērtēt to un noskaidrot, vai tajā būs kāds no šiem. negatīvas blakusparādības.
Fiverr pārstāvis apgalvo, ka pētījuma metodoloģija bija kļūdaina, jo tajā nav ņemti vērā tādi faktori kā starptautiskās robežas un valodu atšķirības. Viņa arī norāda, ka, lai izmantotu pakalpojumu, lietotājiem nav jāsniedz nekāda demogrāfiskā informācija, tādējādi ļaujot viegli izvairīties no diskriminācijas. TaskRabbit neatbildēja uz komentāru pieprasījumu.
Tomēr arvien vairāk pierādījumu liecina, ka neobjektivitāte var ietekmēt visu veidu digitālos pakalpojumus. Pagājušajā mēnesī pētnieki no MIT, Stenfordas un Vašingtonas universitātes atklāja to ka Uber autovadītāji Bostonā biežāk atcēla braucienus klientiem ar afroamerikāņu vārdiem un ka melnādainajiem Uber klientiem Sietlā bija ilgāks gaidīšanas laiks nekā viņu baltajiem kolēģiem. Pagājušajā gadā publicētajā pētījumā CMU pētnieki atrada pierādījumus ka sludinājumi par augsti apmaksātu darbu tika rādīti biežāk vīriešiem nekā sievietēm.
Daudzos gadījumos novērotā neobjektivitāte tikai atspoguļo to, kas ir atrodams reālajā pasaulē, piemēram, apzināti un zemapziņas aizspriedumi, ko darba devēji var radīt, pieņemot lēmumus par pieņemšanu darbā. Tātad attiecībā uz ieteikumu programmām vai mašīnmācīšanās sistēmām jautājums ir par to, kā var novērst novirzes no datu kopām, kas tiek ievadītas algoritmiem, vai no pašiem algoritmiem.
Cilvēkiem ir doma, ka, tā kā tas ir dators, tas ir neitrāls, piebilst Vilsons. Ja jums ir neobjektīvi dati, ir loģiski, ka jūs gatavojaties apmācīt neobjektīvu algoritmu.
Dons Makenzijs Vašingtonas Universitātes docents un viens no nesenā Uber pētījuma autoriem uzsver, ka pētījums nepierāda, ka tiek ietekmēta rasu vai dzimuma aizspriedumi. Bet viņš saka, ka ir svarīgi ņemt vērā neobjektivitāti koncertu ekonomikā un pamatā esošajos algoritmos, piebilstot, ka problēmai vajadzētu būt pārvaldāmai, ja uzņēmumi ir uzmanīgi.
Šī ir jauna joma, un, ja ir paraugprakses kopums, es par to nezinu, saka MacKenzie. Manuprāt, uzņēmumiem, izstrādātājiem un datu zinātniekiem vajadzētu būt uzmanīgiem, klausīties atsauksmes un nebaidīties izmēģināt dažādus risinājumus. Es domāju, ka, ja visi šiem jautājumiem pieiet godprātīgi, konstruktīvi un ar vēlmi izmēģināt dažādas lietas, mēs varam pietuvoties neobjektivitātes novēršanai šajās sistēmās.