AI darbā pieņemšanas uzņēmums saka, ka, pamatojoties uz jūsu intervijām, var paredzēt lēcienu uz darbu

PredictiveHire ekrānuzņēmums.

Kopš pandēmijas sākuma pieaugošs uzņēmumu skaits ir vērsušies pie AI, lai palīdzētu pieņemt darbā. Visizplatītākās sistēmas ietver seju skenēšanas algoritmu, spēļu, jautājumu vai citu novērtējumu izmantošanu, lai palīdzētu noteikt, kurus kandidātus intervēt.

Lai gan aktīvisti un zinātnieki brīdina, ka šie pārbaudes rīki var turpināt diskrimināciju, paši veidotāji apgalvo, ka algoritmiskā darbā pieņemšana palīdz labot cilvēks aizspriedumiem. Algoritmus var pārbaudīt un pielāgot, turpretim cilvēka aizspriedumus ir daudz grūtāk labot — vismaz tā domāšana. Iekšā 2019. gada decembra papīrs Kornela pētnieki pārskatīja algoritmiskās skrīninga uzņēmumu ainavu, lai analizētu to apgalvojumus un praksi. No 18 vietnēm, kuras viņi identificēja ar angļu valodas vietnēm, lielākā daļa sevi reklamēja kā godīgāku alternatīvu darbā pieņemšanai, kas balstīta uz cilvēku, liekot domāt, ka viņi ir pievērsušies pastiprinātajām bažām par šiem jautājumiem, lai reklamētu savu rīku priekšrocības un iegūtu vairāk klientu.

Taču diskriminācija nav vienīgā problēma saistībā ar algoritmisku pieņemšanu darbā, un daži zinātnieki uztraucas, ka mārketinga valoda, kas koncentrējas uz neobjektivitāti, ļauj uzņēmumiem izvairīties no citiem jautājumiem, piemēram, darbinieku tiesībām. Jauns priekšdruka Viena no šīm firmām tagad kalpo kā svarīgs atgādinājums: mums nevajadzētu ļaut, lai uzmanība, ko cilvēki ir sākuši pievērst neobjektivitātes un diskriminācijas jautājumiem, faktiski izstumj faktu, ka pastāv daudzas citas problēmas, saka docents Solons Barokass. Kornela universitātē un Microsoft Research galvenais pētnieks, kurš pēta algoritmisko godīgumu un atbildību.

Attiecīgais uzņēmums ir Austrālijā bāzēts PredictiveHire, kas dibināts 2013. gada oktobrī. Tas piedāvā tērzēšanas robotu, kas uzdod kandidātiem virkni atvērtu jautājumu. Pēc tam tiek analizētas viņu atbildes, lai novērtētu ar darbu saistītās personības iezīmes, piemēram, vēlmi, iniciatīvu un noturību. Saskaņā ar uzņēmuma izpilddirektores Barbaras Haimenas teikto, tās klienti ir darba devēji, kuriem jāpārvalda liels skaits lietojumprogrammu, piemēram, mazumtirdzniecības, pārdošanas, zvanu centros un veselības aprūpes jomā. Kā konstatēts Kornela pētījumā, tas arī aktīvi izmanto solījumus par godīgāku pieņemšanu darbā savā mārketinga valodā. Savā mājaslapā tas drosmīgi reklamē: Iepazīstieties ar Phai. Jūsu otrais pilots darbā. Interviju veidošana SUPERĀTRA. BEIDZOT IEKLUZĪVI. BEIDZOT BEZ aizspriedumiem.

Kā jau rakstījām iepriekš, bezobjektivitātes algoritmu ideja ir augsti maldinošs . Bet PredictiveHire’s jaunākais pētījums ir satraucošs cita iemesla dēļ. Tas ir vērsts uz jauna mašīnmācības modeļa izveidi, kura mērķis ir paredzēt kandidāta iespējamību pāriet uz darbu, kā arī praksi mainīt darbu biežāk, nekā to vēlas darba devējs. Darbs seko uzņēmuma nesen veiktajam recenzētajam pētījumam, kurā tika noskaidrots, kā tiek uzdoti atvērti interviju jautājumi korelē ar personību (pats par sevi a ļoti apstrīdēta prakse ). Tā kā organizāciju psihologi jau ir parādījuši saikni starp personību un lēcienu uz darbu, Haimens saka, uzņēmums vēlējās pārbaudīt, vai viņi varētu izmantot savus esošos datus prognozēšanai. Viņa piebilst, ka daudziem uzņēmumiem, ar kuriem mēs strādājam, liela uzmanība tiek pievērsta darbinieku noturēšanai, ņemot vērā augstās darbinieku atlaišanas izmaksas, kas tiek lēstas 16% apmērā no katra darbinieka algas izmaksām.

Pētījumā tika izmantotas brīvā teksta atbildes no 45 899 kandidātiem, kuri bija izmantojuši PredictiveHire tērzēšanas robotu. Pretendentiem sākotnēji tika uzdoti pieci līdz septiņi atvērtie jautājumi un pašvērtēšanas jautājumi par viņu pagātnes pieredzi un situācijas spriedumu. Tie ietvēra jautājumus, kuru mērķis bija noskaidrot iezīmes, kuras, kā liecina pētījumi, iepriekš cieši korelē ar darba meklējumu tendencēm, piemēram, atvērtība pieredzei, mazāk praktiska un mazāk piezemēta. Uzņēmuma pētnieki apgalvo, ka modelis varēja prognozēt darba vietu lēcienu ar statistisku nozīmi. PredictiveHire vietne jau reklamē šo darbu kā lidojuma riska novērtējumu drīzumā .

PredictiveHire jaunais darbs ir lielisks piemērs tam, ko Neitans Ņūmens apgalvo, ka tā ir viena no lielākajām lielo datu negatīvajām sekām uz darbu. Ņūmens, Džona Džeja Krimināltiesību koledžas asociētais profesors, rakstīja 2017. gada juridiskais dokuments ka papildus bažām par diskrimināciju nodarbinātības jomā neskaitāmos veidos tika izmantota arī lielo datu analīze, lai samazinātu darbinieku algas.

Piemēram, uz mašīnmācībām balstītus personības testus arvien vairāk izmanto, pieņemot darbā, lai izslēgtu potenciālos darbiniekus, kuriem ir lielāka iespēja aģitēt par palielinātu algu vai atbalstīt iestāšanos arodbiedrībās. Darba devēji arvien vairāk uzrauga darbinieku e-pastus, tērzēšanas sarunas un citus datus, lai novērtētu, kurš varētu aiziet, un aprēķinātu minimālo algas palielinājumu, kas nepieciešams, lai viņi paliktu. Un algoritmiskās pārvaldības sistēmas, piemēram, Uber's, decentralizē darbiniekus no birojiem un digitālajām sapulču telpām, kas ļauj viņiem savstarpēji koordinēties un kolektīvi pieprasīt labāku attieksmi un atalgojumu.

Nevienam no šiem piemēriem nevajadzētu būt pārsteidzošiem, apgalvoja Ņūmens. Tās vienkārši ir mūsdienīga izpausme tam, ko darba devēji vēsturiski ir darījuši, lai apspiestu algas, mērķējot un izjaucot arodbiedrību aktivitātes. Personības novērtējuma izmantošana darbā pieņemšanā, kas aizsākās 1930. gados ASV, patiesībā sākās kā mehānisms, lai atsijātu cilvēkus, kuri, visticamāk, kļūs par darba organizatoriem. Testi kļuva īpaši populāri 1960. un 70. gados, kad organizāciju psihologi bija tos uzlabojuši, lai novērtētu darbinieku līdzjūtību arodbiedrībā.

Šajā kontekstā PredictiveHire cīņas riska novērtējums ir tikai vēl viens šīs tendences piemērs. Barocas norāda, ka darba lēkšana jeb lēciena draudi ir viens no galvenajiem veidiem, kā darbinieki var palielināt savus ienākumus. Uzņēmums pat balstīja savu novērtējumu uz personības skrīningu, ko izstrādājuši organizāciju psihologi.

Barocas ne vienmēr iestājas par instrumentu pilnīgu izmešanu. Viņš uzskata, ka mērķis uzlabot darbā pieņemšanu ikvienam ir cēls, un to varētu sasniegt, ja regulatori to pilnvarotu lielāka pārredzamība . Pašlaik neviens no tiem nav saņēmis stingru, salīdzinošu novērtējumu, viņš saka. Taču, ja uzņēmumi būtu pretimnākoši attiecībā uz savu praksi un iesniegtu savus rīkus šādai apstiprināšanai, tas varētu palīdzēt saukt tos pie atbildības. Tas varētu arī palīdzēt zinātniekiem vieglāk sadarboties ar uzņēmumiem, lai izpētītu instrumentu ietekmi gan uz darbu, gan uz diskrimināciju.

Neskatoties uz visu savu pēdējo pāris gadu darbu, kurā esmu paudis bažas par šīm lietām, viņš saka, es patiesībā uzskatu, ka daudzi no šiem rīkiem varētu būtiski uzlabot pašreizējo situāciju.

paslēpties