Invalīdu tiesību aizstāvji ir noraizējušies par diskrimināciju mākslīgā intelekta darbā pieņemšanas rīkos

Ms Tech | Getty

Jūsu spēja iegūt nākamo darbu var būt atkarīga no tā, cik labi jūs spēlējat kādu no AI darbināmām spēlēm, kuras uzņēmumiem patīk. AstraZeneca un Pasta biedri arvien vairāk izmanto darbā pieņemšanas procesā.

Daži uzņēmumi, kas veido šīs spēles, piemēram, Pymetrics un Arctic Shores, apgalvo, ka tie ierobežo neobjektivitāti darbā pieņemšanā. Taču AI darbā pieņemšanas spēlēs var būt īpaši grūti orientēties darba meklētājiem ar invaliditāti.

Jaunākajā MIT Technology Review Podcast epizodē In Machines We Trust mēs izpētām, kā ar AI darbināmas darbā pieņemšanas spēles un citi rīki var izslēgt cilvēkus ar invaliditāti. Un, lai gan daudzi cilvēki ASV vēlas, lai federālā komisija, kas ir atbildīga par diskrimināciju nodarbinātības jomā, regulētu šīs tehnoloģijas, aģentūrai vēl ir jārīkojas.

Lai to aplūkotu tuvāk, jautājām Henrijs Kleipūls , invaliditātes politikas analītiķis, spēlēt vienu no Pymetrics spēles. Pymetrics mēra deviņas prasmes, tostarp uzmanību, dāsnumu un riska toleranci, kuras izpilddirektors un līdzdibinātājs Frīda Pollija saka, kas attiecas uz panākumiem darbā.

Sadarbojoties ar uzņēmumu, kas vēlas pieņemt darbā jaunus cilvēkus, Pymetrics vispirms lūdz uzņēmumam identificēt cilvēkus, kuri jau gūst panākumus darbā, kuru tas mēģina aizpildīt, un liek viņiem spēlēt spēles. Pēc tam, lai noteiktu veiksmīgajiem darbiniekiem raksturīgākās prasmes, tā salīdzina viņu spēļu datus ar datiem no nejaušas spēlētāju izlases.

Kad viņš pierakstījās, spēle pamudināja Claypool izvēlēties starp modificētu versiju, kas paredzēta tiem, kam ir krāsu aklums, ADHD vai disleksija, un nemodificētu versiju. Viņš saka, ka šis jautājums rada dilemmu pretendentiem ar invaliditāti.

Baidās, ka, noklikšķinot uz kāda no tiem, es atklāšu kaut ko tādu, kas mani diskvalificēs darbam, un, ja es nenoklikšķināšu uz, teiksim, disleksiju vai jebko citu, kas apgrūtina man lasīt vēstules un ātri apstrādāšu šo informāciju, tad es nonākšu neizdevīgā situācijā, saka Kleipūls. Es cietīšu neveiksmi jebkurā gadījumā.

Saistīts stāsts

Mēs pārbaudījām AI intervijas rīkus. Lūk, ko mēs atradām.

Viena mūsu kandidāte novērtēja augstu angļu valodas prasmes punktu, kad viņa runāja tikai vāciski.

Polli saka, ka Pymetrics nepasaka darba devējiem, kuri pretendenti ir pieprasījuši izmitināšanu spēlē, pieņemot darbā, un tam vajadzētu palīdzēt novērst darba devēju diskrimināciju pret cilvēkiem ar noteiktu invaliditāti. Viņa piebilda, ka, atbildot uz mūsu ziņojumiem, uzņēmums padarīs šo informāciju skaidrāku, lai pretendenti zinātu, ka viņu nepieciešamība pēc izmitināšanas spēlē ir privāta un konfidenciāla.

Amerikāņu ar invaliditāti likums nosaka, ka darba devējiem ir jānodrošina saprātīgas naktsmītnes cilvēkiem ar invaliditāti. Un, ja uzņēmuma darbā pieņemšanas novērtējumos ir izslēgti cilvēki ar invaliditāti, tam ir jāpierāda, ka šie novērtējumi ir nepieciešami darbam.

Darba devējiem, izmantojot tādas spēles kā tās, kuras ražo Arktiskie krasti var šķist objektīvāks. Atšķirībā no tradicionālās psihometriskās pārbaudes, Arctic Shores algoritms novērtē kandidātus, pamatojoties uz viņu izvēli spēles laikā. Tomēr kandidāti bieži vien nezina, ko spēle mēra vai ko sagaidīt, kad viņi spēlē. Pretendentiem ar invaliditāti tas apgrūtina zināt, vai viņiem vajadzētu lūgt izmitināšanu.

Safe Hammad, CTO un Arctic Shores līdzdibinātājs, saka, ka viņa komanda koncentrējas uz to, lai padarītu savus novērtējumus pieejamus pēc iespējas lielākam cilvēku skaitam. Viņš saka, ka cilvēki ar krāsu aklumu un dzirdes traucējumiem var izmantot uzņēmuma programmatūru bez īpašas izmitināšanas, taču darba devējiem nevajadzētu izmantot šādus pieprasījumus, lai atlasītu kandidātus.

Šo rīku izmantošana dažkārt var izslēgt cilvēkus tādos veidos, kas potenciālajam darba devējam var nebūt acīmredzami. Patty Sanchez ir nodarbinātības speciālists uzņēmumā Makdonalda apmācības centrs Floridā, kurš strādā ar darba meklētājiem, kuri ir nedzirdīgi vai vājdzirdīgi. Apmēram pirms diviem gadiem viens no viņas klientiem pieteicās darbā uzņēmumā Amazon kas prasīja video interviju HireVue .

Sančess, kurš arī ir nedzirdīgs, mēģināja piezvanīt un lūgt palīdzību uzņēmumam, taču nevarēja tikt cauri. Tā vietā viņa atveda savu klientu un surdotulku uz nomas vietu un pārliecināja tur pārstāvjus viņu intervēt klātienē. Amazon nolīga savu klientu, taču Sančesa saka, ka šādas problēmas rodas, pārvietojoties automatizētās sistēmās. (Amazon neatbildēja uz komentāru pieprasījumu.)

Padarīt darbā pieņemšanas tehnoloģiju pieejamu nozīmē nodrošināt gan to, ka kandidāts var izmantot tehnoloģiju, gan to, ka prasmes, ko tā novērtē, negodīgi neizslēdz kandidātus ar invaliditāti, saka. Aleksandra Givensa , uzņēmuma izpilddirektors Demokrātijas un tehnoloģiju centrs , organizācija, kas koncentrējas uz civiltiesībām digitālajā laikmetā.

Viņa saka, ka ar AI darbināmi darbā pieņemšanas rīki, ģenerējot apmācības datus, bieži vien nespēj iekļaut cilvēkus ar invaliditāti. Šādi cilvēki jau sen ir izslēgti no darbaspēka, tāpēc algoritmi, kas veidoti pēc uzņēmuma iepriekšējām darbā pieņemšanas, neatspoguļos viņu potenciālu.

Pat ja modeļos varētu būt novirzes, invaliditātes izpausmes veids dažādiem cilvēkiem ir ļoti atšķirīgs. Piemēram, diviem cilvēkiem ar autismu var būt ļoti dažādas stiprās puses un izaicinājumi.

Tā kā mēs automatizējam šīs sistēmas un darba devēji cenšas panākt ātrāko un efektīvāko, viņi zaudē iespēju cilvēkiem faktiski parādīt savu kvalifikāciju un spēju veikt darbu, saka Givens. Un tas ir milzīgs zaudējums.

Nepietiekama pieeja

Valdības regulatoriem ir grūti uzraudzīt AI darbā pieņemšanas rīkus. 2020. gada decembrī rakstīja 11 senatori vēstule uz ASV Vienlīdzīgu nodarbinātības iespēju komisija paužot bažas par darbā pieņemšanas tehnoloģiju izmantošanu pēc Covid-19 pandēmijas. Vēstulē jautāja par aģentūras pilnvarām izmeklēt, vai šie rīki ir diskriminējoši, jo īpaši pret personām ar invaliditāti.

EEOC atbildēja ar vēstuli janvārī, kas tika nopludināta MIT Technology Review . Vēstulē komisija norādīja, ka tā nevar izmeklēt AI nomas rīkus bez īpašas prasības par diskrimināciju. Vēstulē arī tika izklāstītas bažas par nozares vilcināšanos dalīties ar datiem un teikts, ka dažādu uzņēmumu programmatūras atšķirības neļaus EEOC ieviest plašu politiku.

Es biju pārsteigts un vīlies, kad ieraudzīju atbildi, saka Rolands Bēms , jurists un advokāts cilvēkiem ar uzvedības veselības problēmām. Šķiet, ka viss šīs vēstules saturs lika EEOC vairāk šķist pasīvam skatītājam, nevis izpildes aģentūrai.

Aģentūra parasti sāk izmeklēšanu, kad persona iesniedz prasību par diskrimināciju. Tomēr, izmantojot AI nolīgšanas tehnoloģiju, lielākā daļa kandidātu nezina, kāpēc viņi tika noraidīti. Es uzskatu, ka iemesls, kāpēc mēs neesam redzējuši vairāk izpildes darbību vai privātu tiesvedību šajā jomā, ir fakts, ka kandidāti nezina, ka viņi tiek vērtēti vai novērtēti ar datoru, saka: Kīts Nerds , EEOC komisārs.

Sonderlings saka, ka viņš uzskata, ka mākslīgais intelekts uzlabos darbā pieņemšanas procesu, un viņš cer, ka aģentūra izdos norādījumus darba devējiem par to, kā to vislabāk īstenot. Viņš saka, ka atzinīgi vērtē Kongresa uzraudzību.

Saistīts stāsts

Auditori pārbauda darbā pieņemšanas algoritmus, lai noteiktu neobjektivitāti, taču to nav viegli novērst

AI auditos var neņemt vērā noteikta veida novirzes, un tās ne vienmēr pārbauda, ​​vai darbā pieņemšanas rīks atlasa labākos kandidātus darbam.

tomēr Ārons Rīke , rīkotājdirektors Uz augšu , bezpeļņas organizācija, kas nodarbojas ar civiltiesībām un tehnoloģijām, pauda vilšanos par EEOC atbildi: es tiešām ceru, ka turpmākajos gados EEOC varētu būt nedaudz agresīvāka un radošāka, domājot par to, kā izmantot šo autoritāti.

Poļina Kima , tiesību profesors plkst Vašingtonas universitāte Sentluisā , kura pētījumi koncentrējas uz algoritmiskiem darbā pieņemšanas rīkiem, norāda, ka EEOC varētu būt aktīvāka, apkopojot pētījumus un atjauninot vadlīnijas, lai palīdzētu darba devējiem un AI uzņēmumiem ievērot likumu.

Bēms piebilst, ka EEOC varētu izmantot citus izpildes veidus, tostarp komisāra apsūdzību, kas ļauj komisāriem uzsākt izmeklēšanu par iespējamu diskrimināciju, nevis pieprasīt individuālu prasību (Sonderlings saka, ka apsver iespēju izvirzīt šādu apsūdzību). Viņš arī iesaka EEOC konsultēties ar aizstāvības grupām, lai izstrādātu vadlīnijas AI uzņēmumiem, kas savos algoritmiskajos modeļos cer labāk pārstāvēt cilvēkus ar invaliditāti.

Maz ticams, ka mākslīgā intelekta uzņēmumi un darba devēji tīši atlasa cilvēkus ar invaliditāti, saka Bēms. Taču viņi nav veltījuši laiku un pūles, kas nepieciešamas, lai izprastu sistēmas, kas daudziem cilvēkiem pieņem lēmumus, kas maina dzīvi: vai mani pieņems darbā vai nē? Vai es varu uzturēt ģimeni vai nē?

paslēpties