Tiešsaistes sejas atpazīšana izseko bērnus, kurus tur aizdomās par noziedzniekiem

Ms Tech | Getty

Argentīnas valsts datubāzē desmitiem tūkstošu ierakstu ir sīki norādīti noziegumos aizdomās turēto personu vārdi, dzimšanas dienas un valsts identifikācijas dokumenti. Datubāze, kas pazīstama kā Consulta Nacional de Rebeldías y Capturas (Valsts bēgļu un arestu reģistrs) jeb CONARC, tika izveidota 2009. gadā kā daļa no centieniem uzlabot tiesībaizsardzību smagu noziegumu gadījumā.

Bet ir vairākas lietas, kas nav saistītas ar CONARC. Pirmkārt, tas ir vienkārša teksta izklājlapas fails bez paroles aizsardzības, ko var viegli atrast, izmantojot Google meklēšanu, un ikviens var lejupielādēt. No otras puses, daudzi no iespējamiem noziegumiem, piemēram, sīka zādzība, nav tik nopietni, savukārt citi vispār nav norādīti.

Tomēr satraucošākais ir jaunākā iespējamā likumpārkāpēja vecums, kurš identificēts tikai kā M.G., kurš tiek minēts par noziegumiem pret personām (ļaunprātīgiem) — smagiem miesas bojājumiem. M.G. acīmredzot dzimis 2016. gada 17. oktobrī, kas nozīmē, ka viņam ir nedēļu mazāks par četriem gadiem.

Tagad Jauna izmeklēšana no Human Rights Watch ir atklājis, ka ne tikai bērni regulāri tiek pievienoti CONARC, bet arī datu bāze nodrošina tiešās sejas atpazīšanas sistēmas darbību Buenosairesā, ko izvieto pilsētas valdība. Tādējādi sistēma, iespējams, ir pirmais zināmais šāda veida gadījums, kas tiek izmantots, lai nomedītu bērnus, kurus tur aizdomās par noziedzīgām darbībām.

Tas ir pilnīgi nežēlīgi, saka Hye Jung Han, bērnu tiesību aizstāvis no Human Rights Watch, kurš vadīja pētījumu.

Buenosairesa pirmo reizi sāka izmēģināt tiešās sejas atpazīšanas sistēmu 2019. gada 24. aprīlī. Sistēma tika ieviesta bez publiskas apspriešanas, un tā izraisīja tūlītēju pretestību. Oktobrī valsts pilsoņu tiesību organizācija iesniedza prasību tiesā lai to apstrīdētu. Reaģējot uz to, valdība izstrādāja jaunu likumprojektu, kas pašlaik notiek likumdošanas procesā, kas legalizētu sejas atpazīšanu publiskajās telpās.

Sistēma jau no paša sākuma tika izstrādāta, lai izveidotu savienojumu ar CONARC. Lai gan pašā CONARC nav neviena iespējamo likumpārkāpēju fotoattēlu, tas ir apvienots ar valsts reģistra personu apliecinošiem dokumentiem ar fotogrāfijām. Programmatūra izmanto aizdomās turamo cilvēku galvas, lai meklētu reāllaika spēles, izmantojot pilsētas metro kameras. Kad sistēma atzīmē personu, tā brīdina policiju, lai veiktu arestu.

Kopš tā laika sistēma ir novedusi pie daudzi viltus aresti (saites spāņu valodā), ar kurām policijai nav izveidots protokols. Viens vīrietis, kurš tika kļūdaini identificēts, tika aizturēts uz sešām dienām un tika pārvests uz stingrās drošības cietumu, pirms viņš beidzot noskaidroja savu identitāti. Kādam citam tika teikts, ka viņš nākotnē tiks atkārtoti atzīmēts, lai gan viņš bija pierādījis, ka nav tas, ko meklē policija. Lai palīdzētu atrisināt neskaidrības, viņi iedeva viņam caurlaidi, ko parādīt nākamajam virsniekam, kas varētu viņu apturēt.

Šķiet, ka nav mehānisma, kas varētu labot kļūdas ne algoritmā, ne datubāzē, saka Han. Tas ir signāls mums, ka šeit ir valdība, kas ir iegādājusies tehnoloģiju, ko tā ļoti labi neizprot visu tehnisko un cilvēktiesību aspektu ziņā.

Tas viss jau ir dziļi satraucošs, bet bērnu pievienošana vienādojumam pasliktina situāciju. Lai gan valdībai ir publiski noliegts (saite spāņu valodā), ka CONARC ietver nepilngadīgos, Human Rights Watch atrada vismaz 166 bērnus, kas norādīti dažādās datubāzes versijās laikā no 2017. gada maija līdz 2020. gada maijam. Atšķirībā no M.G., lielākā daļa no viņiem ir identificēti pēc pilna vārda, kas ir nelikumīgi. Saskaņā ar starptautiskajām cilvēktiesību tiesībām noziegumā apsūdzēto bērnu privātums ir jāaizsargā visā procesa laikā.

Atšķirībā no M.G., lielākā daļa no viņiem ieceļošanas brīdī bija 16 vai 17 gadus veci, lai gan, mistiskā kārtā, ir bijuši daži vienu līdz trīs gadus veci bērni. Vecums nav vienīgās acīmredzamās kļūdas bērnu ierakstos. Vienai personai ir klajas drukas kļūdas, pretrunīgas detaļas un dažreiz vairāki valsts ID. Tā kā bērni arī fiziski mainās ātrāk nekā pieaugušie, pastāv lielāks risks, ka viņu identifikācijas dokumenti ar fotogrāfiju novecos.

Turklāt sejas atpazīšanas sistēmas pat ideālos laboratorijas apstākļos slikti izturas pret bērniem, jo ​​tās ir apmācītas un pārbaudītas galvenokārt pieaugušajiem. Buenosairesas sistēma neatšķiras. Saskaņā ar oficiālie dokumenti (saite spāņu valodā), pirms iepirkuma tika pārbaudīta tikai uz pilngadīgām pilsētas pārvaldes darbinieku sejām. Iepriekšējie ASV valdības veiktie konkrētā algoritma testi, kurus tas, domājams, izmanto, arī liecina, ka bērniem (vecumā no 10 līdz 16 gadiem) tas ir seškārtīgi sliktāks nekā pieaugušajiem (vecumā no 24 līdz 40 gadiem).

Visi šie faktori pakļauj bērniem paaugstinātu risku tikt nepareizi identificētiem un nepatiesi arestētiem. Tas varētu radīt nepamatotu sodāmību ar potenciāli ilgstošām sekām viņu izglītības un nodarbinātības iespējām. Tas var arī ietekmēt viņu uzvedību.

Arguments, ka sejas atpazīšana rada vēsu iespaidu uz vārda brīvību, bērniem tiek pastiprināts, saka Han. Jūs varat iedomāties, ka bērns [kurš ir nepatiesi arestēts] būtu ārkārtīgi pašcenzēts vai uzmanīgs attiecībā uz to, kā viņš uzvedas sabiedrībā. Un vēl ir pāragri mēģināt izdomāt ilgtermiņa psiholoģisko ietekmi — kā tas varētu ietekmēt arī viņu pasaules uzskatu un domāšanas veidu.

Lai gan Buenosairesa ir pirmā pilsēta, ko Han ir identificējis, izmantojot tiešo sejas atpazīšanu, lai izsekotu bērniem, viņa uztraucas, ka daudzi citi piemēri ir paslēpti. Janvārī, Londona paziņoja ka tā savās policijas darbībās integrētu tiešo sejas atpazīšanu. Dažu dienu laikā Maskava paziņoja, ka tā bija ieviesa līdzīgu sistēmu pa pilsētu.

Lai gan vēl nav zināms, vai šīs sistēmas aktīvi cenšas saskaņot bērnus, bērni jau tiek ietekmēti. 2020. gada dokumentālajā filmā Kodēta novirze , Londonas policija nepatiesi aiztur zēnu pēc tam, kad tiešraidē sejas atpazīšana viņu kļūdaini uzskata par kādu citu. Nav skaidrs, vai policija patiešām meklēja nepilngadīgo vai kādu vecāku.

Pat tie, kuri netiek aizturēti, zaudē tiesības uz privātumu, saka Hans: Visi bērni iet garām kameras priekšā, kurai ir iespējota sejas atpazīšana, lai tikai piekļūtu metro sistēmai.

Debatēs par šīm sistēmām bieži vien ir viegli aizmirst bērnus nepieciešama īpaša uzmanība . Bet tas nav vienīgais iemesls bažām, Han piebilst. Fakts, ka šie bērni tiktu pakļauti šāda veida invazīvai uzraudzībai, joprojām nav zināma pilnīga šīs tehnoloģijas ietekme uz cilvēktiesībām un sabiedrību. Citiem vārdiem sakot: tas, kas ir slikts bērniem, galu galā ir slikts visiem.

paslēpties