LinkedIn darba atbilstības AI bija neobjektīva. Uzņēmuma risinājums? Vairāk AI.

Ms Tech | Envato

Pirms gadiem LinkedIn atklāja, ka ieteikumu algoritmi, ko tā izmanto, lai saskaņotu darba kandidātus ar iespējām, rada neobjektīvus rezultātus. Algoritmi kandidātus klasificēja daļēji, pamatojoties uz to, cik liela ir iespējamība, ka viņi pieteiksies uz kādu amatu vai atbildēs vervētājam. Sistēma beidzās ar to, ka vairāk vīriešu nekā sieviešu tika novirzīti uz atklātām lomām tikai tāpēc, ka vīrieši bieži ir agresīvāki, meklējot jaunas iespējas.

LinkedIn atklāja problēmu un izveidoja citu AI programmu, lai novērstu neobjektivitāti pirmās programmas rezultātos. Tikmēr dažas no pasaules lielākajām darba meklēšanas vietnēm, tostarp CareerBuilder, ZipRecruiter un Monster, izmanto ļoti dažādas pieejas, lai novērstu neobjektivitāti savās platformās, kā mēs ziņojam jaunākajā MIT Technology Review Podcast epizodē In Machines We Trust. Tā kā šīs platformas precīzi neatklāj, kā darbojas to sistēmas, darba meklētājiem ir grūti zināt, cik efektīvi kāds no šiem pasākumiem faktiski novērš diskrimināciju.

Ja jūs šodien sāktu meklēt jaunu darbu, mākslīgais intelekts, ļoti iespējams, ietekmētu jūsu meklējumus. AI var noteikt, kādus sludinājumus jūs redzat darba meklēšanas platformās, un izlemt, vai nodot jūsu CV tālāk uzņēmuma personāla atlases speciālistiem. Daži uzņēmumi var lūgt jūs spēlēt Ar AI darbināmas videospēles kas mēra jūsu personības iezīmes un novērtē, vai jūs būtu piemērots konkrētām lomām.

Saistīts stāsts

Auditori pārbauda darbā pieņemšanas algoritmus, lai noteiktu neobjektivitāti, taču to nav viegli novērst

AI auditos var neņemt vērā noteikta veida novirzes, un tās ne vienmēr pārbauda, ​​vai darbā pieņemšanas rīks atlasa labākos kandidātus darbam.

Arvien vairāk uzņēmumu izmanto AI, lai pieņemtu darbā un pieņemtu darbā jaunus darbiniekus, un AI var to ņemt vērā gandrīz jebkurā darbā pieņemšanas procesa posmā . Covid-19 veicināja jaunu pieprasījumu pēc šīm tehnoloģijām. Abi Interesanta lieta un HireVue , uzņēmumi, kas specializējas intervijās ar mākslīgo intelektu, ziņoja par biznesa pieaugumu pandēmijas laikā.

Tomēr lielākā daļa darba meklējumu sākas ar vienkāršu meklēšanu. Darba meklētāji pievēršas tādām platformām kā LinkedIn , Briesmonis , vai ZipRecruiter , kur viņi var augšupielādēt savus CV, pārlūkot darba sludinājumus un pieteikties vakancēm.

Šo vietņu mērķis ir saskaņot kvalificētus kandidātus ar pieejamajām pozīcijām. Lai organizētu visas šīs atveres un kandidātus, daudzas platformas izmanto ar AI darbinātus ieteikumu algoritmus. Algoritmi, ko dažkārt dēvē par saskaņošanas dzinējiem, apstrādā gan darba meklētāja, gan darba devēja informāciju, lai katram izstrādātu ieteikumu sarakstu.

Jūs parasti dzirdat anekdoti, ka vervētājs pavada sešas sekundes, lai apskatītu jūsu CV, vai ne? saka Dereks Kans, Monster produktu pārvaldības viceprezidents. Aplūkojot mūsu izveidoto ieteikumu programmu, varat samazināt šo laiku līdz milisekundēm.

Lielākā daļa atbilstošo dzinēju ir optimizēti lietojumprogrammu ģenerēšanai, saka Džons Jersins , bijušais LinkedIn produktu pārvaldības viceprezidents. Šīs sistēmas savus ieteikumus pamato ar trīs datu kategorijām: informāciju, ko lietotājs sniedz tieši platformai; dati, kas piešķirti lietotājam, pamatojoties uz citiem ar līdzīgām prasmēm, pieredzi un interesēm; un uzvedības dati, piemēram, cik bieži lietotājs atbild uz ziņojumiem vai mijiedarbojas ar darba sludinājumiem.

LinkedIn gadījumā šie algoritmi izslēdz personas vārdu, vecumu, dzimumu un rasi, jo šo īpašību iekļaušana var veicināt neobjektivitāti automatizētajos procesos. Taču Jersina komanda atklāja, ka pat tādā gadījumā pakalpojuma algoritmi joprojām var noteikt uzvedības modeļus, ko demonstrē grupas ar noteiktu dzimuma identitāti.

Piemēram, ja vīrieši biežāk piesakās darbiem, kuros nepieciešama darba pieredze, kas pārsniedz viņu kvalifikāciju, sievietes mēdz doties tikai uz darbiem, kuros viņu kvalifikācija atbilst amata prasībām. Algoritms interpretē šīs uzvedības atšķirības un pielāgo savus ieteikumus tādā veidā, kas netīši nostāda sievietes neizdevīgā stāvoklī.

Jūs varētu ieteikt, piemēram, vienai cilvēku grupai vairāk vecāko darbu nekā citai, pat ja viņi ir kvalificēti tādā pašā līmenī, saka Jersins. Šie cilvēki var netikt pakļauti tādām pašām iespējām. Un tā patiešām ir ietekme, par kuru mēs šeit runājam.

Vīrieši savos CV iekļauj arī vairāk prasmju ar zemāku zināšanu līmeni nekā sievietes, un viņi bieži vien agresīvāk sadarbojas ar vervētājiem platformā.

Lai risinātu šādas problēmas, Jersin un viņa komanda LinkedIn uzbūvēja jaunu AI izstrādāts, lai iegūtu reprezentatīvākus rezultātus, un tas tika ieviests 2018. gadā. Būtībā tas bija atsevišķs algoritms, kas izstrādāts, lai novērstu ieteikumus, kas novirzīti uz konkrētu grupu. Jaunais AI nodrošina, ka pirms oriģinālā dzinēja atlasīto sakritību nosūtīšanas ieteikumu sistēma ietver reprezentatīvu lietotāju sadalījumu pēc dzimuma.

Kans saka, ka Monster, kurā norādīti 5 līdz 6 miljoni darba vietu jebkurā laikā, savos ieteikumos iekļauj arī uzvedības datus, taču nekoriģē neobjektivitāti tāpat kā LinkedIn. Tā vietā mārketinga komanda koncentrējas uz to, lai pakalpojumam reģistrētos lietotāji no dažādām vidēm, un pēc tam uzņēmums paļaujas uz darba devējiem, lai viņi ziņotu un paziņotu Monster, vai tas ir nodevis reprezentatīvu kandidātu kopu.

Irina Novoseļska , CareerBuilder izpilddirektore, saka, ka viņa koncentrējas uz pakalpojuma apkopoto datu izmantošanu, lai mācītu darba devējiem, kā novērst neobjektivitāti savos darba sludinājumos. Piemēram, kad kandidāts izlasa darba aprakstu ar vārdu “rokzvaigzne”, viņa saka, ka piesakās ievērojami mazāk sieviešu.

Ians Sīls , ZipRecruiter izpilddirektors un līdzdibinātājs, saka, ka uzņēmuma algoritmi neņem vērā noteiktas identifikācijas pazīmes, piemēram, vārdus, vērtējot kandidātus; tā vietā viņi klasificē cilvēkus, pamatojoties uz 64 cita veida informāciju, tostarp ģeogrāfiskiem datiem. Viņš saka, ka uzņēmums neapspriež sīkāku informāciju par saviem algoritmiem, atsaucoties uz intelektuālā īpašuma bažām, taču piebilst: es uzskatu, ka mēs esam tik tuvu cilvēku nopelniem balstītam novērtējumam, kā to pašlaik var izdarīt.

Izmantojot automatizāciju katrā darbā pieņemšanas procesa posmā, darba meklētājiem tagad ir jāiemācās, kā izcelties gan algoritma, gan darbā pieņemšanas vadītāju priekšā. Bet bez skaidras informācijas par to, ko šie algoritmi dara, kandidāti saskaras ar ievērojamām problēmām.

Es domāju, ka cilvēki par zemu novērtē algoritmu un ieteikumu dzinēju ietekmi uz darbu, saka Kans. Jūsu prezentācijas veidu, visticamāk, vispirms izlasa tūkstošiem iekārtu un serveru, pirms tas pat nonāk cilvēka acī.

Šis raksts tika atjaunināts 25.06.21., lai atspoguļotu, ka LinkedIn jaunais AI nodrošina reprezentatīvu lietotāju sadalījumu (ne vienmērīgu izplatīšanu). starp dzimumiem ir ieteicamas darbam.

paslēpties