AI problēmas mūsdienās sniedzas gadsimtiem senā pagātnē

Ari Liloans

2015. gada martā Keiptaunas Universitātē Dienvidāfrikā izcēlās protesti pret britu koloniālistes Sesilas Rodasas statuju. Rods, kalnrūpniecības magnāts, kurš bija uzdāvinājis zemi, uz kuras tika uzcelta universitāte, veica genocīdu pret afrikāņiem un lika pamatus aparteīdam. Zem Rhodes Must Fall mītiņa karoga studenti pieprasīja, lai statuja tiktu noņemta. Viņu protesti izraisīja globālu kustību, lai izskaustu koloniālo mantojumu, kas paliek izglītībā.

Notikumi arī lika Shakir Mohamed, Dienvidāfrikas AI pētnieks DeepMind, pārdomāt, kāds koloniālais mantojums varētu pastāvēt arī viņa pētījumos. 2018. gadā, kad AI joma sāka rēķināties ar tādām problēmām kā algoritmiskā diskriminācija, Mohameds rakstīja emuāra ieraksts ar savām sākotnējām domām. Tajā viņš aicināja pētniekus dekolonizēt mākslīgo intelektu — pārorientēt lauka darbu prom no Rietumu centriem, piemēram, Silīcija ieleja, un iesaistīt jaunas balsis, kultūras un idejas, lai vadītu tehnoloģiju attīstību.

Tagad pēc atjaunoti saucieni Mohamedam Oksfordas universitātes pilsētiņā Rodam ir jākrīt, ko veicināja Džordža Floida slepkavība un globālā pretrasisma kustība izdeva jaunu rakstu kopā ar savu kolēģi Viljamu Īzaku un Oksfordas doktora grādu Mariju Terēzu Png. Tas konkretizē Mohameda sākotnējās idejas ar konkrētiem piemēriem, kā AI izaicinājumi sakņojas koloniālismā, un piedāvā stratēģijas to risināšanai, atzīstot šo vēsturi.

Kā AI izpaužas kolonialitāte

Lai gan vēsturiskais koloniālisms var būt beidzies, tā sekas joprojām pastāv šodien. Tas ir tas, ko zinātnieki apzīmē kolonialitāti: ideja, ka mūsdienu varas nelīdzsvarotība starp rasēm, valstīm, bagātajiem un nabadzīgajiem un citām grupām ir kolonizatoru un kolonizēto spēku nelīdzsvarotības paplašinājums.

Ņemiet par piemēru strukturālo rasismu. Eiropieši sākotnēji izgudroja rasu jēdzienu un atšķirības starp tām, lai attaisnotu Āfrikas vergu tirdzniecību un pēc tam Āfrikas valstu kolonizāciju. ASV šīs ideoloģijas sekas tagad var izsekot, izmantojot valsts verdzības vēsturi, Džimu Krovu un policijas brutalitāti.

Tādā pašā veidā, kā apgalvo dokumenta autori, šī koloniālā vēsture izskaidro dažas no AI satraucošākajām īpašībām un ietekmi. Viņi identificē piecas kolonialitātes izpausmes šajā jomā:

Algoritmiskā diskriminācija un apspiešana. Saikne starp algoritmisko diskrimināciju un koloniālo rasismu, iespējams, ir visredzamākā: algoritmi, kas izveidoti, lai automatizētu procedūras un apmācīti uz datiem rasistiski netaisnīgā sabiedrībā, galu galā atkārto šos rasistiskos rezultātus savos rezultātos. Taču liela daļa stipendiju par šāda veida AI radīto kaitējumu ir vērsta uz piemēriem ASV. Aplūkojot to kolonialitātes kontekstā, ir iespējama globāla perspektīva: Amerika nav vienīgā vieta, kur valda sociālā nevienlīdzība. Vienmēr ir grupas, kuras tiek identificētas un pakļautas, saka Īzaks.

Spoku darbs. Fenomens par spoku darbs , neredzams datu darbs, kas nepieciešams AI inovāciju atbalstam, lieliski paplašina vēsturiskās ekonomiskās attiecības starp kolonizatoru un kolonizēto. Daudzas bijušās ASV un Apvienotās Karalistes kolonijas — Filipīnas, Kenija un Indija — ir kļuvušas par spoku darba centriem ASV un Apvienotās Karalistes uzņēmumiem. Valstu lētais, angliski runājošais darbaspēks, kas padara tos dabiski piemērotus datu darbam, pastāv to koloniālās vēstures dēļ.

Beta testēšana. AI sistēmas dažreiz tiek izmēģinātas neaizsargātākās grupās, pirms tās tiek ieviestas reāliem lietotājiem. Piemēram, Cambridge Analytica beta testēja savus algoritmus 2015. gada Nigērijas un 2017. gada Kenijas vēlēšanās, pirms tos izmantoja ASV un Apvienotajā Karalistē. Pētījumi vēlāk atklāja, ka šie eksperimenti aktīvi traucēta Kenijas vēlēšanu process un samazināja sociālo kohēziju. Šāda veida pārbaude sasaucas ar Britu impērijas vēsturisko attieksmi pret savām kolonijām kā jaunu zāļu un tehnoloģiju laboratorijām.

AI pārvaldība. Ģeopolitiskā varas nelīdzsvarotība, ko atstāja koloniālais laikmets, arī aktīvi veido AI pārvaldību. Tas ir izpaudies nesenajā steigā, lai izstrādātu globālas AI ētikas vadlīnijas: jaunattīstības valstis Āfrikā, Latīņamerikā un Vidusāzijā lielākoties ir palikušas ārpus diskusijām, kā rezultātā dažas atteikties piedalīties starptautiskajos datu plūsmas līgumos . Rezultāts: attīstītās valstis turpina nesamērīgi gūt labumu no globālajām normām, kas veidotas to labā, savukārt jaunattīstības valstis turpina atpalikt.

Starptautiskā sociālā attīstība. Visbeidzot, tās pašas ģeopolitiskās varas nelīdzsvarotības ietekmē veidu, kā mākslīgais intelekts tiek izmantots, lai palīdzētu jaunattīstības valstīm. AI labā vai AI ilgtspējīgas attīstības iniciatīvas bieži vien ir paternālismas. Tie liek jaunattīstības valstīm būt atkarīgām no esošajām mākslīgā intelekta sistēmām, nevis piedalīties jaunu sistēmu veidošanā, kas paredzētas viņu pašu kontekstam.

Pētnieki atzīmē, ka šie piemēri nav visaptveroši, taču tie parāda, cik tālejoši ir koloniālie mantojumi globālajā AI attīstībā. Viņi arī saista problēmas, kas šķiet atšķirīgas, vienā vienojošā tēzē. Tas dod mums iespēju izmantot jaunu gramatiku un vārdu krājumu, lai runātu gan par to, kāpēc šie jautājumi ir svarīgi, gan par to, ko mēs darīsim, lai pārdomātu un risinātu šīs problēmas ilgtermiņā, saka Īzaks.

Kā izveidot dekoloniālo AI

Pētnieki apgalvo, ka ieguvums, pētot AI kaitīgo ietekmi, izmantojot šo objektīvu, ir sistēma, ko tā nodrošina nākotnes kaitējuma prognozēšanai un mazināšanai. Png uzskata, ka nepastāv tādas lietas kā neparedzētas sekas — tās ir tikai organizācijas un pētniecības iestāžu aklo zonu sekas, ja tām trūkst daudzveidīgas pārstāvniecības.

Šajā sakarā pētnieki ierosina trīs metodes, lai panāktu dekoloniālu jeb iekļaujošāku un izdevīgāku AI:

Kontekstu apzinoša tehniskā attīstība. Pirmkārt, AI pētniekiem, kuri veido jaunu sistēmu, būtu jāapsver, kur un kā tā tiks izmantota. Viņu darbam arī nevajadzētu beigties ar koda rakstīšanu, bet gan tā testēšanu, tādu politiku atbalstīšanu, kas veicina tā pareizu izmantošanu, un pasākumu organizēšanu pret neatbilstošiem kodiem.

Apgrieztā aizbildniecība. Otrkārt, viņiem vajadzētu uzklausīt marginalizētās grupas. Viens piemērs, kā to izdarīt, ir topošā prakse līdzdalības mašīnmācība , kura mērķis ir to izstrādē iesaistīt cilvēkus, kurus visvairāk ietekmē mašīnmācības sistēmas. Tas dod subjektiem iespēju izaicināt un diktēt, kā tiek formulētas mašīnmācīšanās problēmas, kādi dati tiek vākti un kā, un kur tiek izmantoti galīgie modeļi.

Solidaritāte. Atstumtajām grupām arī būtu jāsniedz atbalsts un resursi, lai tās varētu uzsākt savu AI darbu. Jau pastāv vairākas marginalizētu AI praktiķu kopienas, tostarp Deep Learning Indaba , AI melns , un Queer in AI , un viņu darbs ir jāpaplašina.

Pētnieki saka, ka kopš darba publicēšanas viņi ir redzējuši milzīgu interesi un entuziasmu. Tas vismaz man signalizē, ka ir uzņēmība pret šo darbu, saka Īzaks. Šķiet, ka šī ir saruna, kurā sabiedrība vēlas sākt iesaistīties.

paslēpties