NYPD izmantoja pretrunīgi vērtētu sejas atpazīšanas rīku. Lūk, kas jums jāzina.

Getty

Šī ir bijusi saspringta nedēļa Clearview AI — pretrunīgi vērtētajam sejas atpazīšanas uzņēmumam, kas seju meklētājprogrammas darbināšanai izmanto 3 miljardus no tīmekļa izskrāpētu fotoattēlu. 6. aprīlī tika publicēts Buzzfeed News vairāk nekā 1800 entītiju datubāze tostarp valsts un vietējā policija un citas nodokļu maksātāju finansētas aģentūras, piemēram, veselības aprūpes sistēmas un valsts skolas, kuras, pēc tās teiktā, ir izmantojušas uzņēmuma strīdīgos produktus. Daudzas no šīm aģentūrām atbildēja uz apsūdzībām, sakot, ka tās ir tikai izmēģinājušas tehnoloģiju un tām nebija oficiāla līguma ar uzņēmumu.

Bet dienu iepriekš, bezpeļņas ziņu vietnē tika detalizēti aprakstīta izmēģinājuma definīcija ar Clearview Muckrock izlaida e-pastus starp Ņujorkas policijas departamentu un uzņēmumu. Dokumenti, kas iegūti, Juridiskās palīdzības biedrībai un žurnālistei Reičelai Ričardsai pēc informācijas brīvības pieprasījumiem, liecina par draudzīgām divu gadu attiecībām starp departamentu un tehnoloģiju uzņēmumu, kura laikā NYPD vairākas reizes testēja tehnoloģiju un izmantoja sejas atpazīšanu tiešraidē. .

Saistīts stāsts

ASV ir sejas atpazīšanas un policijas krīze Dziļi kļūdainā tehnoloģija tiek plaši izmantota, lielākoties ārpus sabiedrības redzesloka

NYPD iepriekš ir samazinājis savas attiecības ar Clearview AI un uzņēmuma tehnoloģiju izmantošanu. Taču e-pasta ziņojumi liecina, ka attiecības starp viņiem bija labi attīstītas, jo liels skaits policistu veica lielu skaitu meklējumu ar lietotni un izmantoja tos reālās izmeklēšanās. NYPD ir veikt vairāk nekā 5100 meklējumus ar Clearview AI.

Tas ir īpaši problemātiski, jo noteiktās politikas ierobežo NYPD iespēju izveidot neuzraudzītu fotoattēlu krātuvi, uz kuru sejas atpazīšanas sistēmas var atsaukties, un ierobežo sejas atpazīšanas tehnoloģiju izmantošanu konkrētai komandai. Šķiet, ka abas politikas ir apietas ar Clearview AI. E-pasta ziņojumi atklāj, ka NYPD daudziem darbiniekiem ārpus sejas atpazīšanas komandas piešķīra piekļuvi sistēmai, kas balstās uz milzīgu publisko fotoattēlu bibliotēku no sociālajiem medijiem. E-pasta ziņojumos ir arī parādīts, kā NYPD darbinieki lejupielādēja lietotni savās personīgajās ierīcēs, pārkāpjot noteikto politiku, un izmantoja jaudīgo un neobjektīvs tehnoloģija ikdienišķā veidā.

Clearview AI vada jaudīgu neironu tīklu, kas apstrādā seju fotogrāfijas un salīdzina to precīzus mērījumus un simetriju ar milzīgu attēlu datu bāzi, lai ieteiktu iespējamās atbilstības. Nav skaidrs, cik precīza ir tehnoloģija, taču to plaši izmanto policijas departamenti un citas valsts aģentūras. Clearview AI ir bijis smagi kritizēts par personu identificējošas informācijas izmantošanu, lēmumu pārkāpt cilvēku privātumu, bez viņu atļaujas izskrāpējot fotogrāfijas no interneta un klientu loku.

E-pasta ziņojumi aptver laika posmu no 2018. gada oktobra līdz 2020. gada februārim, sākot no šī datuma Clearview AI izpilddirektors Hoans Ton-That tika iepazīstināts ar NYPD inspektora vietnieku Krisu Flanaganu. Pēc sākotnējām sanāksmēm Clearview AI 2018. gada decembrī noslēdza pārdevēja līgumu ar NYPD izmēģinājuma kārtā, kas ilga līdz nākamā gada martam.

Dokumenti liecina, ka daudzām NYPD personām šajā laikā un pēc tam bija piekļuve Clearview, sākot no departamenta vadības līdz jaunākajiem virsniekiem. Visā apmaiņas laikā Clearview AI mudināja vairāk izmantot savus pakalpojumus. (Pārbaudiet, vai varat sasniegt 100 meklējumus, tā ieviešanas instrukcijas mudināja darbiniekus.) E-pasta ziņojumi liecina, ka NYPD izmēģinājuma konti tika izveidoti vēl 2020. gada februārī, gandrīz gadu pēc izmēģinājuma perioda beigām.

Mēs izskatījām e-pasta ziņojumus un runājām ar augstākajiem uzraudzības un juridiskajiem ekspertiem par to saturu. Lūk, kas jums jāzina.

NYPD meloja par savu saistību ar Clearview AI apjomu un tās sejas atpazīšanas tehnoloģijas izmantošanu

NYPD pastāstīja BuzzFeed ziņas un New York Post iepriekš tam nebija oficiālas vai neoficiālas institucionālas attiecības ar Clearview AI. Departaments atklāja, ka ir izmēģinājis Clearview AI, taču e-pasta ziņojumi liecina, ka šo tehnoloģiju ilgstoši izmantoja liels skaits cilvēku, kuri reālā izmeklēšanā veica lielu skaitu meklējumu.

Vienā apmaiņas reizē detektīvs, kas strādāja nodaļas sejas atpazīšanas nodaļā, sacīja: Lietotne darbojas lieliski. Citā NYPD identitātes zādzību vienības virsnieks teica, ka mēs joprojām saņemam pozitīvus rezultātus un esam veikuši arestus. (Mēs no šiem attēliem esam noņēmuši pilnus vārdus un e-pasta adreses; cita personas informācija tika rediģēta oriģinālajos dokumentos.)

Alberts Fokss Kāns, bezpeļņas organizācijas Surveillance Technology Oversight Project izpilddirektors, kas iestājas par to, lai policija Ņujorkā atteiktu sejas atpazīšanas tehnoloģiju, saka, ka ieraksti nepārprotami ir pretrunā ar NYPD iepriekšējiem publiskajiem paziņojumiem par Clearview AI izmantošanu.

Viņš saka, ka šeit mums ir tendence, kad darbinieki iegūst Clearview kontus — nevis nedēļām vai mēnešiem, bet gan gadu gaitā. Mums ir pierādījumi par sanāksmēm ar NYPD augstākā līmeņa amatpersonām, tostarp sejas identifikācijas sadaļu. Tie nav daži darbinieki, kuri nolemj doties prom un iegūt izmēģinājuma kontu. Tā bija sistemātiska Clearview sejas atpazīšanas tehnoloģijas pieņemšana, lai mērķētu uz ņujorkiešiem.

Turklāt NYPD tās sejas atpazīšanas lietošanas apraksts , kas ir nepieciešams saskaņā ar nesen pieņemto likumu, teikts, ka izmeklētāji salīdzina izmeklēšanas laikā iegūtos zondes attēlus ar kontrolētu un ierobežotu fotoattēlu grupu, kas jau ir NYPD rīcībā. Clearview AI ir pazīstama ar savu datubāzi vairāk nekā 3 miljardi fotoattēlu izskrāpēts no tīkla.

NYPD cieši sadarbojas ar imigrācijas izpildi, un darbinieki nosūtīja Clearview AI uz ICE

Dokumentos ir ietverti vairāki NYPD e-pasta ziņojumi, kas, šķiet, ir ieteikumi, lai palīdzētu Clearview pārdot savu tehnoloģiju Iekšzemes drošības departamentam. Divu policistu e-pasta parakstā bija gan NYPD, gan Tēvzemes drošības saistība, bet vēl viens policists tika identificēts kā Iekšzemes drošības darba grupas loceklis.

Šķiet, ka ir tik daudz saziņas, varbūt datu koplietošanas un tik daudz neregulētas tehnoloģiju izmantošanas.

Ņujorka ir noteikta kā svētvieta, kas nozīmē, ka vietējās tiesībaizsardzības iestādes ierobežo sadarbību ar federālajām imigrācijas aģentūrām. Faktiski NYPD sejas atpazīšana politikas paziņojums saka, ka informācija netiek koplietota, lai veicinātu imigrācijas izpildi, un piekļuve netiks dota citām aģentūrām, lai veicinātu imigrācijas izpildi.

Manuprāt, viens no lielākajiem aspektiem ir tas, cik nelikumīga un neregulēta ir mijiedarbība, kā arī novērošana un datu apmaiņa starp vietējo policiju, federālo tiesībaizsardzību un imigrācijas izpildi, saka Metjū Gvarilija, Electronic Frontier Foundation analītiķis. Šķiet, ka ir tik daudz saziņas, varbūt datu koplietošanas un tik daudz neregulētas tehnoloģiju izmantošanas.

Kāns saka, ka e-pasta ziņojumi nekavējoties zvana trauksmes zvaniem, jo ​​īpaši tāpēc, ka liela daļa tiesībaizsardzības informācijas tiek nosūtīta caur centrālajām sistēmām, kas pazīstamas kā kodolsintēzes centri.

Jūs varat apgalvot, ka esat patvēruma pilsēta, ko vien vēlaties, taču tikmēr, kamēr jums joprojām ir šīs IDD darba grupas, ja jums joprojām ir informācijas saplūšanas centri, kas nodrošina reāllaika datu apmaiņu ar IDD, jūs veicat šo solījumu pārvērst par meliem.

Daudzi darbinieki lūdza izmantot Clearview AI savās personīgajās ierīcēs vai izmantojot savus personīgos e-pasta kontus

Vismaz četri darbinieki lūdza piekļuvi Clearview lietotnei savās personīgajās ierīcēs vai personīgajās e-pastās. Nodaļas ierīces tiek stingri regulētas, un var būt grūti lejupielādēt lietojumprogrammas oficiālajos NYPD mobilajos tālruņos. Daži darbinieki nepārprotami izvēlējās izmantot savas personīgās ierīces, ja departamenta tālruņi bija pārāk ierobežojoši.

Clearview atbildēja uz šo e-pasta ziņojumu, Sveiki, Viljam! Drīzumā jūsu iesūtnē būs jāiekļauj iestatīšanas e-pasts.

Džonatans Makkojs ir Juridiskās palīdzības biedrības digitālās kriminālistikas advokāts un piedalījās informācijas brīvības pieprasījuma iesniegšanā. Viņš uzskatīja, ka personisko ierīču lietošana ir īpaši apgrūtinoša. Mana pārliecība ir tāda, ka viņi aktīvi mēģināja apiet NYPD politiku un procedūras, kas nosaka, ka, ja plānojat izmantot sejas atpazīšanas tehnoloģiju, jums ir jāiziet FIS (sejas identifikācijas sadaļa). un viņiem ir jāizmanto tehnoloģija, ko jau ir apstiprinājusi NYPD vairumtirdzniecība. NYPD jau ir sejas atpazīšanas sistēma, ko nodrošina uzņēmums Dataworks.

Saistīts stāsts

Aktīvists, kas demontē rasistiskus policijas algoritmus Hamids Khans uzvar cīņā par LAPD izmantoto novērošanas tehnoloģiju atcelšanu

Gvarilija saka, ka tas norāda uz neuzmanīgu attieksmi gan no NYPD, gan Clearview AI. Viņš saka, ka es būtu šausmās, uzzinot, ka policijas darbinieki savās personīgajās ierīcēs izmantoja Clearview, lai identificētu cilvēkus, kuri pēc tam veicināja arestus vai oficiālu NYPD izmeklēšanu.

Bažas, ko rada šie e-pasta ziņojumi, nav tikai teorētiskas: tās var ļaut iesūdzēt policiju tiesā, un pat lietas var tikt atceltas, jo netiek ievērota procedūra. McCoy saka, ka Juridiskās palīdzības biedrība plāno izmantot pierādījumus no e-pastiem, lai aizstāvētu klientus, kuri ir arestēti izmeklēšanas rezultātā, kurā tika izmantota sejas atpazīšana.

Viņš saka, ka mums, cerams, būs pamats vērsties tiesā un teikt, ka jebkāda pārliecība, kas tika iegūta, izmantojot programmatūru, tika veikta tādā veidā, kas nebija samērojams ar NYPD politiku un procedūrām. Tā kā Clearview ir nepārbaudīta un neuzticama tehnoloģija, mēs varam apgalvot, ka šādas tehnoloģijas izmantošana aizskar mūsu klienta tiesības.

paslēpties