Amazon atteicās no AI vervēšanas programmatūras, jo tā bija neobjektīva pret sievietēm

Kategorija: Silikona ieleja Ievietots 10. oktobris

Dati, uz kuriem tika apmācīts mākslīgā intelekta algoritms, radīja priekšroku vīriešu kārtas kandidātiem.

Ziņas: Saskaņā ar ziņojumu Reuters , Amazon 2014. gadā sāka izstrādāt automatizētu sistēmu, lai darba meklētājus ierindotu ar vienu līdz piecām zvaigznēm. Bet pagājušajā gadā uzņēmums atteicās no projekta, jo redzēja, ka tas ir attīstījis priekšroku vīriešu kārtas kandidātiem tehniskajās lomās.

Kāpēc? AI rīks tika apmācīts, pamatojoties uz 10 gadu CV, ko uzņēmums bija saņēmis. Tā kā tehnoloģiju nozarē dominē vīrieši, lielākā daļa šo CV ir no vīriešiem.

Rezultāts: Sistēma tika netīši apmācīta izvēlēties vīriešu kārtas kandidātus, nevis sievietes. Tiek ziņots, ka tas sodītu CV, kuros ir vārds sievietes vai noteiktu sieviešu koledžu nosaukumi. Lai gan Amazon veica izmaiņas, lai padarītu šos noteikumus neitrālus, uzņēmums zaudēja pārliecību, ka programma patiešām ir dzimumu neitrāla visās pārējās jomās.

Kāpēc tas ir svarīgi: Mēs nevaram izturēties pret mākslīgo intelektu kā pēc būtības objektīvu. Sistēmu apmācība par neobjektīviem datiem nozīmē, ka arī algoritmi kļūst neobjektīvi. Ja tādas negodīgas mākslīgā intelekta darbā pieņemšanas programmas kā šī netiks atklātas pirms to ieviešanas, tās iemūžinās uzņēmējdarbības daudzveidības problēmas, nevis atrisinās tās.

Vai vēlaties sekot līdzi tam, kā tehnoloģijas maina nākotnes darba vietu? Pierakstieties mūsu nākotnes darba informatīvajam izdevumam Clocking In .