Aktīvists, kas demontē rasistiskus policijas algoritmus

Deimons Kasaress

Hamids Khans ir bijis kopienas organizators Losandželosā vairāk nekā 35 gadus, konsekventi koncentrējoties uz policijas vardarbību un cilvēktiesībām. Viņš sarunājās ar mums 2020. gada 3. aprīlī par gaidāmo aplādes epizodi par mākslīgo intelektu un policijas darbu. Kad pasaule pievērš uzmanību policijas brutalitātei un institucionālajam rasismam, mēs uzskatījām, ka mūsu saruna ar viņu par to, kā viņš uzskata, ka tehnoloģija nodrošina rasismu policijas darbā, ir jāpublicē tagad.

Khan ir Stop LAPD Spying Coalition dibinātājs, kas ir daudz uzvarējis nozīmīgākās tiesas lietas mazākumtautību kopienu vārdā, par kurām tā cīnās. Tās darbs, iespējams, ir vislabāk pazīstams ar aizstāvību pret paredzamo policijas darbu. 21. aprīlī, dažas nedēļas pēc šīs intervijas, LAPD paziņoja par visu paredzamo policijas programmu izbeigšanu .

Khans ir strīdīgs skaitlis kurš ir noraidījis partnerattiecības ar tādām grupām kā Electronic Frontier Foundation (EFF), jo tā uzsver reformu. Viņš netic, ka reforma darbosies. Intervija ir rediģēta garuma un skaidrības labad.

Pastāstiet mums par savu darbu. Kāpēc jums rūp policijas uzraudzība?

Darbā, ko mēs darām, jo ​​īpaši aplūkojot Losandželosas policijas departamentu, tiek aplūkots, kā novērošana, informācijas vākšana, glabāšana un koplietošana vēsturiski ir izmantota, lai patiešām nodarītu kaitējumu, lai izsekotu, izsekotu, uzraudzītu, izsekotu noteiktas kopienas: kopienas, kas ir nabagi, kas ir melni un brūni, kopienas, kuras varētu uzskatīt par aizdomās turamām, un dīvaini transķermeņi. Tātad dažādos līmeņos uzraudzība ir sociālās kontroles process.

Vai jūs uzskatāt, ka tehnikai ir nozīme policijas darbā?

Koalīcijai Stop LAPD Spying Coalition ir dažas vadošās vērtības. Pirmkārt, tas, uz ko mēs skatāmies, nav laika mirklis, bet gan vēstures turpinājums. Novērošana ir izmantota simtiem gadu. Daži no agrākajiem uzraudzības procesiem ir saistīti ar laternu likumiem Ņujorkā 1700. gadu sākumā. Ja jūs bijāt verdznieks, melnādains vai pamatiedzīvotājs, un, ja jūs izgājāt publiskajā zonā bez sava saimnieka, jums bija jāiet ar īstu laternu, sveces dakts un viss, lai būtībā sevi identificētu. sevi kā aizdomās turamo, kā otru.

Vēl viena vadošā vērtība ir tā, ka vienmēr ir cita. Vēsturiski sistēma vienmēr ir apdraudēta. Vienmēr ir kāds ķermenis, indivīds vai cilvēku grupas, kas tiek uzskatīti par bīstamiem. Viņi tiek uzskatīti par aizdomās turētajiem.

Trešā vērtība ir tāda, ka mēs vienmēr cenšamies de-sensacionalizēt nacionālās drošības retoriku. Lai tas būtu ļoti vienkārši un saprotami, [mēs cenšamies parādīt], kā attīstās informācijas vākšanas un informācijas apmaiņas vide un kā tas ir process, kurā tiek uzmanīts ikviens.

Algoritmiem nav vietas policijas darbā.

Un viena no mūsu pēdējām vadošajām vērtībām ir tā, ka mūsu cīņa sakņojas cilvēktiesībās. Mēs esam nikni abolicionistu grupa, tāpēc mūsu mērķis ir izjaukt sistēmu. Mēs neiesaistāmies reformu darbā. Mēs arī uzskatām, ka jebkura politikas izstrāde saistībā ar pārredzamību, atbildību un uzraudzību ir misijas slīdēšanas veidne. Jebkurā laikā uzraudzība tiek leģitimizēta, un pēc tam to laika gaitā var paplašināt. Šobrīd mēs cīnāmies, lai Losandželosā bezpilota lidaparāti būtu iezemēti, un mēs varējām tos noturēt dažus gadus. Un marta beigās Chula Vista policijas departaments Sandjego paziņoja, ka viņi gatavojas aprīko savus dronus ar skaļruņiem lai uzraudzītu neizmitinātu cilvēku pārvietošanos.

Vai varat izskaidrot darbu, ko Stop LAPD spiegošanas koalīcija ir veikusi saistībā ar paredzamo policijas darbu? Kādas ir problēmas ar to no jūsu viedokļa?

PredPol bija uz atrašanās vietu balstīta prognozēšana, kurā 500 x 500 kvadrātpēdu atrašanās vieta tika identificēta kā karstā vieta. Otra pavadošā programma Operation Laser bija uz personu balstīta prognozēšana.

2010. gadā mēs apskatījām dažādus veidus, kā šīs [LAPD uzraudzības] programmas tika ieviestas. Prognozējošā policijas darbība bija galvenā programma. Mēs oficiāli uzsākām kampaņu 2016. gadā, lai izprastu paredzamās policijas ietekmi Losandželosā ar mērķi izjaukt programmu, nodot šo informāciju sabiedrībai un cīnīties pret to.

Prognozējošā policijas sistēma, kas balstīta uz personu, apgalvoja, ka personām, kuras tiek sauktas par interesējošām personām vai pastāvīgiem likumpārkāpējiem un kurām, iespējams, ir bijusi zināma pagātnes vēsture, mēs varētu izmantot riska novērtēšanas rīku, lai noteiktu, vai viņi gatavojas atkārtoties. Tātad tā bija skaitļu spēle. Ja viņiem agrāk bija kāds ierocis, viņiem tika piešķirti pieci punkti. Ja viņi bija nosacīti vai pārbaudes laikā, viņiem tika piešķirti pieci punkti. Ja viņi bija saistīti ar bandu, viņiem tika piešķirti pieci punkti. Ja viņi būtu sadarbojušies ar policiju, piemēram, apstāšanās un pārsteigums, viņiem tiktu piešķirts viens punkts. Un tas kļuva par vietu, kur personas, kuras bija nosacīti atbrīvotas vai nosacīti vai nodarbojās ar savu biznesu un atjaunoja savu dzīvi, tika iekļautas programmā, kas kļuva pazīstama kā hronisku likumpārkāpēju programma, daudziem cilvēkiem to nezinot.

Tādējādi atrašanās vieta tiek kriminalizēta, cilvēki tiek kriminalizēti, un ir tikai dažas sekundes, līdz ierocis iznāk un kāds tiek nošauts un nogalināts.

Tad, pamatojoties uz šo riska novērtējumu, kur Palantir apstrādā visus datus , LAPD izveidoja sarakstu. Viņi sāka izdot biļetenus, kas bija kā visvairāk meklētais plakāts ar šo personu fotogrāfijām, adresēm un vēsturi, un ievietoja tos patruļmašīnās. [Viņi] sāka izmantot numura zīmju lasītājus, dzeloņraju, IMSI-Catcher, CCTV un dažādas citas tehnoloģijas, lai izsekotu viņu kustībām, un pēc tam uz vietas radīja apstākļus, lai viņus apturētu un vajātu un iebiedētu. Mēs izveidojām daudz tautas jaudas, un 2019. gada aprīlī Operation Laser tika oficiāli demontēta. Tas tika pārtraukts.

Un šobrīd mēs ejam pēc PredPol un pieprasām, lai arī PredPol tiktu demontēts. [LAPD paziņoja par PredPol izbeigšanu 2020. gada 21. aprīlī.] Mūsu mērķis šīs programmas atcelšanai un demontāžai nav sakņojas tikai atkritumos iekšā, atkritumos ārā; rasistiski dati iekšā un rasistiski dati ārā. Mūsu darbs patiešām sakņojas tajā, ka tas galu galā kalpo visam patriarhāta un kapitālisma, balto pārākuma un koloniālisma ideoloģiskajam ietvaram.

Mēs publicējām ziņojumu, Pirms lode trāpa ķermeni, 2018. gada maijā par paredzamo policijas darbu Losandželosā, kā rezultātā Losandželosas pilsētā notika publiskas uzklausīšanas par uz datiem balstītu policijas darbu, kas bija pirmās šāda veida sēdes valstī. Mēs pieprasījām ģenerālinspektoram veikt PredPol tiesu ekspertīzi. 2019. gada martā ģenerālinspektors atklāja auditu un teica, ka mēs pat nevaram auditēt PredPol, jo tas vienkārši nav iespējams. Tas ir tik, tik sarežģīti.

Algoritmiem nav vietas policijas darbā. Manuprāt, ir ļoti svarīgi, lai mēs saprastu, ka uz spēles ir liktas dzīvības. Šī uz atrašanās vietu balstītās policijas darbības valoda pati par sevi ir rasisma aizstājējs. Viņi nav tur, lai apsargātu bedrītes un kokus. Viņi ir tur, lai policijas darbinieki šajā vietā. Tādējādi atrašanās vieta tiek kriminalizēta, cilvēki tiek kriminalizēti, un ir tikai dažas sekundes, līdz ierocis iznāk un kāds tiek nošauts un nogalināts.

Stop LAPD Spying Coalition komandas vadītāji Hamids Khans (pa labi), Džeimijs Garsija (centrā) un Gen Dogon (pa kreisi) Losandželosas Skid Row apkaimē, kur atrodas koalīcijas galvenā mītne.

DEMONS KASARESS

Kā jūs nodrošināt, ka sabiedrība saprot šāda veida policijas taktikas?

Publiskie ieraksti ir patiešām labs informācijas iegūšanas līdzeklis. Kāda ir šīs programmas izcelsme? Mēs vēlamies zināt: kāda bija vīzija? Kā tas tika formulēts? Kāds ir finansējuma mērķis? Kāds ir vārdu krājums, ko viņi izmanto? Kādi ir rezultāti, ko viņi piedāvā finansētājam?

Es esmu cilvēks, un es neesmu šeit, lai jūs mani vienkārši izpakotu un sāktu eksperimentēt ar mani, un tad mani iepakotu.

Viņi [LAPD] uzskatīs rajonu, daudzdzīvokļu māju, par karstajiem punktiem un zonām. Un cilvēki tika apturēti daudz ātrāk [tur]. Katru reizi, kad apturat kādu, šī informācija nonāk datu bāzē. Tā kļuva par galveno datu vākšanas programmu.

Mēs pieprasījām, lai viņi publisko slepeno sarakstu, kas viņiem bija ar šīm personām. LAPD cīnījās pretī, un mēs uzvarējām šajā valsts reģistrā. Tāpēc tagad mums ir slepens 679 personu saraksts, ar kuru mēs tagad vēlamies sazināties. Un tie visi ir jauni indivīdi, pārsvarā aptuveni 90% līdz 95% melni un brūni.

Teritorijas pārklāšana rada apstākļus lielākai attīstībai, lielākai ģentrifikācijai, lielākai izlikšanai un lielākai cilvēku pārvietošanai. Tā policija kļuva par privātīpašuma un privilēģiju aizstāvjiem.

Ko jūs sakāt cilvēkiem, kuri uzskata, ka tehnoloģija var palīdzēt mazināt dažas no šīm problēmām policijas darbā, piemēram, aizspriedumus, jo tehnoloģija var būt objektīva?

Pirmkārt, tehnoloģija nedarbojas pati par sevi. No projektēšanas līdz ražošanai un izvietošanai līdz iznākumam pastāvīgi tiek iestrādāta neobjektivitāte. Tas nav tikai pašu cilvēku aizspriedumi; tas ir raksturīgā neobjektivitāte sistēmas ietvaros .

Ir tik daudz ietekmes punktu, ka, godīgi sakot, mūsu cīņa nav par datu tīrīšanu. Mūsu cīņa nav par objektīvu algoritmu, jo mēs neticam, ka pat matemātiski vispār varētu būt objektīvs policijas darbības algoritms.

Kādi ir cilvēktiesību apsvērumi, kad runa ir par policijas tehnoloģijām un uzraudzību?

Pirmās cilvēktiesības būtu pārtraukt eksperimentēt. Es esmu cilvēks, un es neesmu šeit, lai jūs mani vienkārši izpakotu un sāktu eksperimentēt ar mani, un tad mani iepakotu. Ir noticis tik daudz datu par mūsu dzīvi. No plantāciju kapitālisma līdz rasizētam kapitālismam un tagad arī uzraudzības kapitālismam, mēs esam pakļauti pirkšanai un pārdošanai. Mūsu prāti un mūsu domas ir pārveidotas par precēm. Tam ir mazinoša ietekme arī uz mūsu kā cilvēku radošumu, kas ir daļa no dabiskā Visuma. Piekrišana tiek ražota no mums.

Ar kaut ko līdzīgu koronavīrusam mēs noteikti redzam, ka daži cilvēki ir gatavi atteikties no dažiem saviem datiem un privātuma. Ko jūs domājat par izvēli vai kompromisu starp lietderību un privātumu?

Mums tas patiešām ir jāskatās caur daudz plašāku objektīvu. Atgriežoties pie vienas no mūsu vadošajām vērtībām: nevis mirkļa laikā, bet gan vēstures turpinājuma. Tāpēc mums ir jāskatās uz pagātnes krīzēm, gan reālām, gan izdomātām.

Paskatīsimies uz 1984. gada olimpiskajām spēlēm Losandželosā. Tas izraisīja vislielāko policijas pilnvaru paplašināšanu un Losandželosas policijas departamenta un šerifa departamenta militarizāciju sabiedrības drošības aizsegā. Lieta bija Nu, mēs vēlamies, lai viss būtu drošībā. Bet tas ne tikai kļuva par pastāvīgu iezīmi un jauno normālu, bet arī tika izstrādāta taktika. Tā kā ielas bija jātīra, aizdomās turamo līķi, neizmitināti cilvēki, tika piespiedu kārtā aizvesti. Tiek uzskatīts, ka sākusies bandu tīrīšana. Tātad jauni melnbrūni jaunieši tika masveidā arestēti. Tas ir kā 1983. gads, kas noved pie 1984. gada.

No 1986. līdz 1987. gadam Losandželosā bandu aizliegumi kļuva par pastāvīgu iezīmi. Tā rezultātā tika izveidotas milzīgas bandu datu bāzes, un bērni, kas jaunāki par deviņiem mēnešiem, iekļuva šajās bandu datubāzēs. Tā kļuva par operāciju Hammer, kurā viņi bija ieguvuši tankus un bruņumašīnas, ko izmantoja SWAT, lai nogādātu zema līmeņa narkotiku noziegumus, kā arī nolaistu un nojauktu cilvēku mājas.

Tagad mēs atkal esam vienā mirklī. Tā nav tikai policijas pilnvaru strukturāla paplašināšana; mums ir jāskatās uz to, kā policija tagad arvien vairāk uzņemas sociālo darbinieku lomu. Tā ir celta pēdējo 10 gadu laikā. Tam ir piesaistīti arī daudz veselības un cilvēku pakalpojumu dolāru. Piemēram, Losandželosā pilsētas kontrolieris nāca klajā ar auditu apmēram pirms pieciem gadiem, un viņi aplūkoja 100 miljonus USD par bezpajumtnieku pakalpojumiem, ko pilsēta sniedz. Nu, uzmini ko? No tiem 87 miljoni ASV dolāru tika novirzīti LAPD.

Vai varat sniegt konkrētu piemēru tam, kā policijas izmantotās tehnoloģijas ietekmē kopienas locekļus?

Uz izlūkdatiem balstīta policijas darbība ir koncepcija, kas nāk no Anglijas, no Kentas konstabulatorijas un aizsākās apmēram pirms 30 gadiem ASV. Izlūkošanas vadītās policijas galvenā tēma ir uzvedības uzraudzība. Cilvēku uzvedība ir jāuzrauga un pēc tam jāapstrādā, un šī informācija ir jādalās. Cilvēkus vajag izsekot un izsekot.

Nav tāda lietas kā laipnāks, maigāks rasisms, un šīs programmas ir jālikvidē.

Viena programma ar nosaukumu “Ziņošana par aizdomīgām darbībām” iznāca 11. septembrī, kurā vairākas darbības, kas ir pilnībā konstitucionāli aizsargātas, ir uzskaitītas kā potenciāli aizdomīgas. Piemēram, fotografēt publiski, izmantot videokameras publiski, ieiet infrastruktūrā un jautāt par darba stundām. Tā ir novērota uzvedība, kas pamatoti liecina par noziedzīgu un/vai teroristu darbību pirmsoperācijas plānošanu. Tātad jūs novērojat kāda uzvedību, kas pamatoti norāda, ka nav iespējama iemesla. Tas rada nevis faktu, bet gan bažas. Šī spekulatīvā un uz nojautām balstīta policijas darbība ir reāla.

Mēs varējām iegūt numurus no LAPD programmas See Something, Say Something. Un tas, ko mēs atklājām, bija 3:1 atšķirīga ietekme uz melnādaino kopienu. Aptuveni 70% no šiem ziņojumiem “See Something, Say Something” nāk no Losandželosas kopienām, kurās galvenokārt dzīvo baltie. Tāpēc tagad programma tiek bruņota un kļūst par licenci rasistiskam profilam.

Mērķis vienmēr ir palielināt spēku šo programmu atcelšanai, jo jūs nevarat tās reformēt. Nav tāda lietas kā laipnāks, maigāks rasisms, un šīs programmas ir jālikvidē.

Tātad, jūs tiešām domājat, ka reforma neļaus izmantot šīs tehnoloģijas policijas darbā?

Es varu runāt tikai par savu 35 gadu organizēšanas vēsturi LA. Tas nav jautājums par to, lai kļūtu labāks, tas ir jautājums par pasliktināšanos. Un es domāju, ka tehnoloģija to veicina. Skatoties reformu vēsturē, mēs visu laiku sitam galvu pret sienu, un tā tikai atgriežas pie tā paša vecā. Mēs nevaram īsti darboties, pieņemot, ka sirdis un prāti var mainīties, it īpaši, ja kādam ir licence nogalināt.

Es neesmu tehnologs. Mūsu piesardzība ir tehnologiem: ziniet, palieciet savā joslā. Sekojiet kopienai un sekojiet viņu norādījumiem.

paslēpties