Apple Card tiek izmeklēta saistībā ar prasībām, kas sievietēm piešķir zemākus kredītlimitus

Kategorija: Mākslīgais intelekts Ievietots 11. novembris

Algoritms, kas nosaka kredītlimitu Apple jaunās kredītkartes lietotājiem, kas ASV tika laists klajā augustā, ir pakļauts izmeklēšanai, jo šķiet, ka tas vīriešiem piešķir lielākus limitus nekā sievietēm.

Ziņas: 7. novembrī tīmekļa uzņēmējs David Heinemeier Hansson ievietoja tagad vīrusu tvītu sakot, ka Apple Card viņam devusi 20 reizes lielāku kredītlimitu nekā viņa sieva. Tas notika neskatoties uz to, ka viņi iesniedza kopīgas nodokļu deklarācijas un ka pēc izmeklēšanas viņa sievai bija labāks kredītreitings nekā viņam. Apple līdzdibinātājs Stīvs Vozņaks atbildēja tviterī un sacīja, ka arī viņam ir piešķirts 10 reizes lielāks kredītlimits nekā sievai, lai gan viņiem nav atsevišķu aktīvu vai bankas kontu.

Rezultāts: Tagad Ņujorkas Finanšu pakalpojumu departaments sāk izmeklēšanu pret Goldman Sachs, kas pārvalda karti. Tās vadītāja Linda Leisvela, teikts emuāra ierakstā ka sargsuns pārbaudīs, vai algoritms, kas izmantots šo lēmumu pieņemšanai par kredītlimitu, nepārkāpj valsts likumus, kas aizliedz diskrimināciju dzimuma dēļ. Regulators jau ir nesen uzsāka izmeklēšanu ziņojumos, ka algoritma rezultātā melnādainie pacienti saņēma mazāk visaptverošu aprūpi nekā baltie pacienti.

Plašāka problēma: Goldman Sachs nedēļas nogalē Twitter publicēja paziņojumu, kurā teikts, ka, nosakot kredītspēju, dzimums netiek ņemts vērā. Taču kartes kredītlimitu neizskaidrojamās atšķirības ir vēl viens piemērs tam, kā var netīši izveidot algoritmisku novirzi. Tāda veida algoritmi, ko izmanto kredītspējas novērtēšanai, tiek apmācīti, pamatojoties uz gadiem iegūtiem vēsturiskiem datiem, un neobjektivitāte procesā var iekļūt dažādos veidos.