211service.com
Apvienotā Karaliste atsakās no imigrācijas algoritma, kas, pēc kritiķu domām, ir rasistisks
Džeimss Kridlends / Flickr
Ziņas: Apvienotās Karalistes Iekšlietu ministrija ir paziņojusi, ka tā būs pārtrauciet lietot algoritmu apstrādāt vīzu pieteikumus, kas, pēc kritiķu domām, ir rasistiski neobjektīvi. Pretinieki tam strīdēties ka algoritma pilsonības izmantošana, lai izlemtu, kuras lietojumprogrammas tiek paātrinātas, ir radījis sistēmu, kurā cilvēki no bagātajām baltajām valstīm saņem ātru iekāpšanu; nabadzīgāki krāsaini cilvēki tiek nospiesti rindas aizmugurē.
Laiks pārprojektēšanai: Iekšlietu ministrija noliedz, ka tās sistēma ir rasistiski neobjektīva, un tiesvedība joprojām turpinās. Tomēr Iekšlietu ministrija ir piekritusi atteikties no algoritma un plāno vēlāk šogad atsākt pārveidoto versiju pēc pilnīgas pārskatīšanas, kurā tiks meklēta neapzināta novirze. Tikmēr Apvienotā Karaliste ieviesīs pagaidu sistēmu, kurā pieteikumu šķirošanai neizmanto pilsonību.
Satiksmes sistēma: Kopš 2015. gada Apvienotā Karaliste ir filtrējusi vīzu pieteikumus, izmantojot luksoforu sistēmu, kas katram pieteikuma iesniedzējam piešķir sarkanu, dzintara vai zaļu riska pakāpi. Cilvēkiem, kam piešķirts sarkans riska līmenis, biežāk tika atteikts.
Plašāka tendence: Algoritmi ir zināmi nostiprināt institucionālo aizspriedumu , īpaši rasistiski. Tomēr tos arvien vairāk izmanto, lai palīdzētu pieņemt svarīgus lēmumus, sākot no kredīta pārbaudēm un beidzot ar vīzu pieteikumiem pirmstiesas sēdes un policijas darbs . Kritiķi ir sūdzējušies, ka ASV imigrācijas sistēma ir rasistiski neobjektīvs arī. Taču vairumā gadījumu ir grūti precīzi izpakot, kā šie algoritmi darbojas, un atklāt pierādījumus par to neobjektivitāti, jo daudzi no tiem ir patentēti, un to izmantošana ir ierobežota publiskajā pārraudzībā.
Taču kritika pieaug. ASV dažu policijas departamentu darbība tiek apturēta pretrunīgi vērtētie prognozēšanas algoritmi un tehnoloģiju uzņēmumiem ir pārtrauca neobjektīvas sejas atpazīšanas tehnoloģijas piegādi . Februārī Nīderlandes tiesa nolēma ka sistēma, kas paredzēja, cik liela ir iespējamība, ka persona izdarīs labklājības vai nodokļu krāpšanu, bija nelikumīga, jo tā negodīgi vērsta pret minoritātēm. Apvienotās Karalistes Iekšlietu ministrijas lēmums pārskatīt savu sistēmu, negaidot juridisku nolēmumu, varētu izrādīties pagrieziena punkts.