Visa automatizētā darbā pieņemšanas programmatūra pēc noklusējuma ir pakļauta novirzēm

Kategorija: Tehniskā politika Ievietots 13. decembris

UZ jauns ziņojums Bezpeļņas organizācija Upturn analizēja dažus no ievērojamākajiem darbā pieņemšanas algoritmiem tirgū un atklāja, ka pēc noklusējuma šādi algoritmi ir pakļauti neobjektivitātei.

Nomas soļi: Ir izstrādāti algoritmi, lai automatizētu četrus primāros darbā pieņemšanas procesa posmus: avotu meklēšanu, pārbaudi, intervēšanu un atlasi. Analīze atklāja, ka, lai gan prognozēšanas rīki tika reti izmantoti, lai pieņemtu galīgo izvēli par to, kuru nolīgt, tie parasti tika izmantoti visos šajos posmos, lai noraidītu cilvēkus.

Kad parādās neobjektivitāte: Ja tiek izmantoti iepriekšējie darbā pieņemšanas dati, apmācības informācija var būt neobjektīva vai nereprezentatīva, pārnesot šīs novirzes uz programmatūru. Tikai noņemot datus par dzimumu un rasi, programmatūra netiks novērsta. Cita informācija, piemēram, attālums no biroja, var būt cieši saistīta ar jutīgākiem faktoriem. Amazon to redzēja darbā pieņemšanas algoritmā, ko tā mēģināja izstrādāt. Pieņemot darbā vadītājus, var būt arī tendence pārāk daudz uzticēties ieteikumiem, ko sniedz darbā pieņemšanas algoritmi.

AI regulēšana: Pētījums arī atklāja, ka pašreizējie likumi nav piemēroti, lai risinātu problēmu. Tiesību akti, kas izstrādāti, lai regulētu lēmumus par cilvēku pieņemšanu darbā, neļauj viegli veikt izmeklēšanu un izpildi, ja tiek risināta mašīnas izraisīta diskriminācija.

Pozitīvie: No otras puses, prognozēšanas rīki var palīdzēt atklāt pagātnes cilvēku aizspriedumus un pieņēmumus, kas iepriekš tika ignorēti. Tas ļautu uzņēmumiem veikt pozitīvas izmaiņas savā praksē. Vairāki pārdevēji veic pasākumus, lai ne tikai pārbaudītu savus produktus attiecībā uz neobjektivitāti, bet arī savos produktos iestrādātu kapitālu veicinošas funkcijas, saka viena no ziņojuma autorēm Miranda Bogena. Mēs ceram, ka vairāk pārdevēju izmantos šāda veida iejaukšanās, taču vēl ir daudz darāmā, lai mēs varētu būt pārliecināti, ka prognozēšanas rīki nenodara vairāk kaitējuma nekā ieguvuma.

Problēmas novēršana: Lai padarītu AI algošanu godīgāku, ziņojumā ieteikts:

— ļauj veikt neatkarīgu darba devēja un pārdevēja programmatūras auditu
— panākt, lai valdības atjauninātu savus noteikumus, lai ietvertu paredzamo darbā pieņemšanas programmatūru
— detalizētāka sludinājumu un darba platformu pārbaude, lai analizētu to pieaugošo ietekmi uz pieņemšanu darbā

Tā kā šajā procesā ir tik daudz dažādu punktu, kur var parādīties aizspriedumi, darba devējiem noteikti jārīkojas piesardzīgi, saka Bogens. Viņiem ir skaidri jānorāda, kādus prognozēšanas rīkus viņi izmanto, un jāveic visi iespējamie pasākumi, lai proaktīvi atklātu un novērstu radušos novirzes, un, ja viņi to nevar droši izdarīt, viņiem ir jāizrauj no kontaktligzdas.

Šis raksts sākotnēji tika publicēts mūsu nākotnes darba biļetenā Clocking In. Reģistrēties var šeit.