Kā izskaust slēptos aizspriedumus AI

Algoritmi pieņem dzīvi mainošus lēmumus, piemēram, nosacīta atbrīvošanas noraidīšanu vai aizdevumu piešķiršanu. Sintija Dvorka, Hārvardas datorzinātniece, izstrādā veidus, kā pārliecināties, ka mašīnas darbojas godīgi. Autors

• TR darbinieki arhīva lapa

2017. gada 24. oktobris

Migels Porlans

Kāpēc algoritmu izstrādātājiem vai datu zinātniekiem ir grūti ņemt vērā neobjektivitāti un negodīgumu?

Izvēlieties darba vidi, kas ir naidīga pret sievietēm. Pieņemsim, ka jūs definējat panākumus kā faktu, ka kāds strādā divus līdz trīs gadus un saņem paaugstinājumu. Tad jūsu prognozētājs, pamatojoties uz vēsturiskajiem datiem, precīzi prognozēs, ka nav laba ideja pieņemt darbā sievietes. Interesanti ir tas, ka mēs nerunājam par vēsturiskiem lēmumiem par pieņemšanu darbā. Pat ja lēmumi par pieņemšanu darbā bija pilnīgi objektīvi, realitāte — reālā diskriminācija naidīgā vidē — saglabājas. Tas ir dziļāks, strukturālāks, vairāk iesakņojies un grūtāk pārvarams.

Šis stāsts bija daļa no mūsu 2017. gada novembra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Es uzskatu, ka mašīnmācības un AI lieliski izmantos kopā ar patiešām zinošiem cilvēkiem, kuri zina vēsturi, socioloģiju un psiholoģiju, lai noskaidrotu, pret ko ir jāizturas līdzīgi.

Es nesaku, ka datori to nekad nespēs izdarīt, bet tagad es to neredzu. Kā jūs zināt, kad jums ir pareizais modelis un kad tas fiksē to, kas patiešām notika sabiedrībā? Jums ir jāsaprot, par ko jūs runājat. Ir slavenais teiciens, ka visi modeļi ir nepareizi, un daži ir noderīgi.

— kā teica Vilam Naitam

paslēpties