Protams, tehnoloģijas turpina rasismu. Tas tika izveidots tā.

Avota fotoattēls: Getty / Ms Tech

Mūsdienās ASV sabrūk zem divu pandēmiju smaguma: koronavīrusa un policijas brutalitātes.

Abi izdara fizisku un psiholoģisku vardarbību. Abi nesamērīgi nogalina un novājina melnādainos un brūnos cilvēkus. Un abas ir animētas ar tehnoloģiju, ko mēs izstrādājam, pārkārtojam un izvietojam — neatkarīgi no tā, vai tā ir kontaktu izsekošana, sejas atpazīšana vai sociālie saziņas līdzekļi.

Šis stāsts bija daļa no mūsu 2020. gada jūlija numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Mēs bieži pieaicinām tehnoloģijas, lai palīdzētu atrisināt problēmas. Bet, kad sabiedrība definē, veido un pārstāv krāsainus cilvēkus kā problēmu, šie risinājumi bieži nodara vairāk ļauna nekā laba. Mēs esam izstrādājuši sejas atpazīšanas tehnoloģijas kuru mērķauditorija ir aizdomās turamie, pamatojoties uz ādas krāsu. Mēs esam apmācītas automatizētas riska profilēšanas sistēmas kas nesamērīgi identificē latīņu tautības cilvēkus kā nelegālos imigrantus. Mēs esam izstrādāti kredītpunktu noteikšanas algoritmi kas nesamērīgi identificē melnādainos cilvēkus kā riskus un neļauj viņiem iegādāties māju, saņemt aizdevumus vai atrast darbu.

Tātad jautājums, kas mums jārisina, ir, vai mēs turpināsim izstrādāt un izmantot rīkus, kas kalpo rasisma un balto pārākuma interesēm,

Protams, tas nemaz nav jauns jautājums.

Nepilsoniskās tiesības

1960. gadā Demokrātu partijas līderi saskārās ar savu problēmu: kā viņu prezidenta kandidāts Džons Kenedijs varēja panākt melnādaino cilvēku un citu rasu minoritāšu atbalsta samazināšanos?

Uzņēmīgs politologs MIT, Ithiel de Sola baseins , vērsās pie viņiem ar risinājumu. Viņš apkopotu vēlētāju datus no iepriekšējām prezidenta vēlēšanām, ievadītu tos jaunā digitālā apstrādes mašīnā, izstrādātu algoritmu balsošanas uzvedības modelēšanai, paredzētu, kādas politikas pozīcijas novestu pie vislabvēlīgākajiem rezultātiem, un pēc tam ieteiktu Kenedija kampaņai rīkoties atbilstoši. Pool nodibināja jaunu uzņēmumu Simulmātikas korporācija , un izpildīja savu plānu. Viņam tas izdevās, Kenedijs tika ievēlēts, un rezultāti parādīja šīs jaunās prognozēšanas modelēšanas metodes spēku.

Rasu spriedze saasinājās 60. gados. Pēc tam nāca garā, karstā 1967. gada vasara. Dega pilsētas visā valstī, sākot no Birmingemas (Alabamas štatā), līdz Ročesterai (Ņujorkas štatā), līdz Mineapolisai, Minesotai un daudzām citām pa vidu. Melnie amerikāņi protestēja pret apspiešanu un diskrimināciju, ar ko viņi saskārās Amerikas krimināltiesību sistēmas rokās. Taču prezidents Džonsons to nosauca par pilsoniskām nekārtībām un izveidoja Kernera komisiju, lai izprastu geto nemieru cēloņus. Komisija aicināja Simulmātiku.

Kā daļa no DARPA projekta, kura mērķis bija vērst paisumu Vjetnamas karā, Pūla uzņēmums bija smagi strādājis, gatavojot masveida propagandas un psiholoģisko kampaņu pret Vjetkongu. Prezidents Džonsons ļoti vēlējās izmantot Simulmatics uzvedības ietekmes tehnoloģiju, lai apspiestu valsts iekšējos draudus, ne tikai tās ārējos ienaidniekus. Aizsedzoties ar to, ko viņi sauca par plašsaziņas līdzekļu pētījumu, Simulmatics izveidoja komandu liela mēroga novērošanas kampaņai nemieru skartajos apgabalos, kas piesaistīja tautas uzmanību tajā 1967. gada vasarā.

Trīs cilvēku komandas devās uz apgabaliem, kur tajā vasarā bija notikuši nemieri. Viņi identificēja un intervēja stratēģiski svarīgus melnādainos cilvēkus. Viņi sekoja, lai identificētu un intervētu citus melnādainos iedzīvotājus visās vietās, sākot no frizētavas līdz baznīcām. Viņi jautāja iedzīvotājiem, ko viņi domā par masu nekārtību atspoguļojumu ziņu medijos. Bet viņi ievāca datus arī par daudz ko citu: kā cilvēki nemieru laikā pārvietojās pilsētā un ap to, ar ko viņi runāja pirms un laikā, un kā viņi gatavojās sekām. Viņi apkopoja datus par maksas kabīņu izmantošanu, degvielas uzpildes staciju pārdošanu un autobusu maršrutiem. Viņi iekļuva šajās kopienās, aizbildinoties, mēģinot saprast, kā ziņu mediji it kā izraisīja nemierus. Bet Džonsons un nācijas politiskie līderi mēģināja atrisināt problēmu. Viņu mērķis bija izmantot Simulmatics savākto informāciju, lai izsekotu informācijas plūsmai protestu laikā, lai identificētu ietekmētājus un nocirstu protestu vadību.

Viņi to nepaveica tieši. Viņi nenogalināja cilvēkus, neielika cilvēkus cietumā vai slepeni nepazuda.

Taču līdz 20. gadsimta 60. gadu beigām šāda veida informācija palīdzēja izveidot to, ko sāka dēvēt par krimināltiesību informācijas sistēmām. Tie izplatījās gadu desmitiem, liekot pamatu rasu profilēšanai, paredzamajai kārtības nodrošināšanai un rasistiski mērķētai uzraudzībai. Viņi atstāja mantojumu, kurā ir ieslodzīti miljoniem melnu un brūnu sieviešu un vīriešu.

Problēmas pārstrukturēšana

Melnums un melnie cilvēki. Abas joprojām ir mūsu nācijas — uzdrošinos teikt, ka pat mūsu pasaules — problēma. Kad kontaktu izsekošana pirmo reizi parādījās pandēmijas sākumā, to bija viegli uzskatīt par nepieciešamu, bet labdabīgu veselības uzraudzības instrumentu. Koronavīruss bija mūsu problēma, un mēs sākām izstrādāt jaunas novērošanas tehnoloģijas kontaktu izsekošanas, temperatūras uzraudzības un draudu kartēšanas lietojumprogrammu veidā, lai palīdzētu to risināt.

Bet notika kaut kas gan kuriozs, gan traģisks. Mēs atklājām, ka melnādainie cilvēki, latīņu tautības cilvēki un pamatiedzīvotāji ir nesamērīgi inficēti un ietekmēti. Pēkšņi arī mēs kļuvām par nacionālu problēmu; mēs nesamērīgi draudējām ar vīrusa izplatību. To vēl vairāk pasliktināja, kad traģiskā Džordža Floida slepkavība, ko veica baltādains policists, ielās izsūtīja tūkstošiem protestētāju. Kad sākās laupīšana un nemieri, mēs — melnādainie cilvēki — atkal tikām uzskatīti par draudiem likumam un kārtībai, par draudiem sistēmai, kas iemūžina balto rasu varu. Tas liek aizdomāties, cik ilgs laiks būs nepieciešams, lai tiesībaizsardzības iestādes ieviestu tās tehnoloģijas, kuras mēs sākotnēji izstrādājām cīņai ar Covid-19, lai mazinātu draudus, ko melnādainie cilvēki it kā rada valsts drošībai.

Ja mēs nevēlamies, lai mūsu tehnoloģijas tiktu izmantotas rasisma iemūžināšanai, mums ir jāpārliecinās, ka mēs nesajaucam tādas sociālās problēmas kā noziedzība, vardarbība vai slimības ar melnādainiem un brūniem cilvēkiem. Kad mēs to darām, mēs riskējam pārvērst šos cilvēkus par problēmām, kuru risināšanai mēs izmantojam mūsu tehnoloģiju, un par draudiem, ko mēs plānojam to izskaust.

Charlton McIlwain ir mediju, kultūras un komunikācijas profesors Ņujorkas Universitātē un autors Melnā programmatūra: internets un rasu taisnīgums, no AfroNet līdz melnādainajām dzīvēm

paslēpties