Iedzīvotāji neidentificētai policijai pievērš sejas atpazīšanas sistēmu

Mūsu AI aplādes jaunā sērija In Machines We Trust ir veltīta sejas atpazīšanai. Sērijas pirmajā daļā Dženifera Stronga un MIT Technology Review komanda pēta negaidītos veidus, kā tehnoloģija tiek izmantota, tostarp to, kā tā tiek ieslēgta policijā.

Mēs satikāmies:

• Christopher Howell, datu zinātnieks un protestētājs.

Kredīti:

Par šo epizodi ziņoja un producēja Dženifera Stronga, Teits Raiens-Moslijs un Emma Cillekensa un Kārena Hao. Mūs rediģē Maikls Reilijs un Gideons Ličfīlds.

Atšifrējums:

[Reklāma]

[TR ID]

Spēcīgs: Kopš pēdējo reizi runājām par sejas atpazīšanu, ir notikušas dažas lietas. Mēs esam redzējuši, ka vairāk vietu pārvietojas, lai ierobežotu tā izmantošanu, bet tajā pašā laikā skolas un citas sabiedriskās ēkas ir sākušas izmantot sejas ID kā daļu no saviem Covid profilakses plāniem. Mēs to izmantojam pat dzīvniekiem, nevis tikai sejām, kurām ir līdzīgas īpašības, piemēram, šimpanzēm un gorillām, Ķīnas tehnoloģiju uzņēmumi to izmanto cūkām, un Kanādas zinātnieki strādā, lai identificētu vaļus, pat grizlilāčus.

Citiem vārdiem sakot, šo tehnoloģiju izmantošanas veidu skaits strauji pieaug, kā arī bažas par to, vai tas ir iespējams, nemaz nerunājot par labu ideju. Līdz ar to sejas ID izmantošanas aizliegumi paplašinās no Portlendas, Meinas štatā, līdz Portlendai, Oregonas štatā, kur ir paredzēts, ka nākamgad stāsies spēkā visstingrākie sejas atpazīšanas ierobežojumi valstī, aizliedzot to izmantot ne tikai policijai, bet arī komerciāliem nolūkiem. arī lietojumprogrammas.

Ratnieks: Kolēģi, mēs šopēcpusdien esam šeit, lai izskatītu divus rīkojumus, kuru mērķis ir aizliegt mūsu Portlendas pilsētas valdībai un privātām struktūrām izmantot sejas atpazīšanas tehnoloģijas publiskās vietās.

Spēcīgs: Tā Portlendas mērs Teds Vīlers atklāj pilsētas domes sēdi, kurā tika pieņemti šie likumprojekti septembrī. Tāpat kā lielākajā daļā lietu šajās dienās, publiskie komentāri un balsošana notika vietnē Zoom.

Ratnieks: Portlenda ir tālu no prettehnoloģiju pilsētas, un es vēlos to skaidri pateikt. Mēs neesam pret tehnoloģijām ar plašu vietējo un valsts tehnoloģiju uzņēmumu klāstu. Mēs esam viens no visstraujāk augošajiem tehnoloģiju centriem Rietumkrastā.

Spēcīgs: Dažu nākamo stundu laikā savu viedokli izteica juristi, programmatūras inženieri, satraukti pilsoņi un uzņēmumu vadītāji. Tad, tieši pirms balsošanas. Pēdējais cilvēks, vietējais datu zinātnieks, pacēla virtuālo roku, lai uzdotu jautājumu.

Ratnieks: Christopher Howell... visbeidzot, bet ne mazāk svarīgi, laipni lūdzam.

Howell: Es gribētu izteikt nosacītu atbalstu šim rīkojumam, bet man ir bažas.

Spēcīgs: Tas ir tāpēc, ka viņš veido kaut ko tādu, kas izmanto sejas atpazīšanu neparastā veidā.

Howell: Esmu iesaistīts sejas atpazīšanas izstrādē, lai to faktiski izmantotu Portlendas policijas darbiniekiem, jo ​​viņi neidentificē sevi sabiedrībai un izdara noziegumus. Vai tas kļūtu nelikumīgs, ja jūs pieņemtu šo rīkojumu?

[Mūzika]

Spēcīgs: Es esmu Dženifera Stronga, un tuvāko nedēļu laikā mēs vēl vienu dziļu niršanu veicināsim sejas atpazīšanas paplašināšanos. Šajā jaunākajā minisērijā mēs izpētīsim, kā to izmanto sportā gan sportistiem, gan līdzjutējiem, kā to izmanto mazumtirdzniecības veikalos, pat kā to izmanto bezpajumtnieku apkalpošanai. Bet vispirms mēs sākam lietas, apskatot, kā tas tiek atgriezts policijai.

[PARĀDĪT ID]

Spēcīgs: Policijas un citu varas pārstāvju anonimitāte ir ļoti sarežģīta vēsturē. Pastāv smalks līdzsvars starp privātumu un atbildību gan protestētājiem un policijai.

[Čikāgas nemieru skaņa.]

Spēcīgs: 1968. gada Čikāgas nemieri pārtrauca amerikāņu televizoru darbību visā valstī, kad viņi skatījās Demokrātu nacionālo konventu, kas tajā gadā notika Čikāgā.

[Čikāgas nemieru skaņa.]

Spēcīgs: Protestētāji demonstrēja pret Vjetnamas karu un pret Demokrātu partiju. Pēc sadursmēm ar policiju Granta parkā protestētāji devās pa Mičiganas avēniju uz viesnīcu, kurā bija apmetušies daudzi kongresa delegāti. 17 minūtes Amerika tiešraidē vēroja, kā Ilinoisas Nacionālā gvarde raida asaru gāzi... kā policija sit demonstrantus.

[Čikāgas nemieru skaņa. 'Visa pasaule skatās']

Spēcīgs: Policija nelietoja vārda birkas, un tas ir diezgan izplatīts gadījums, kad policija rīkojas ar protestētājiem. Dažreiz tas ir likumīgi, dažreiz nelikumīgi, un dažreiz tas ir pat noteikts drošības interesēs, piemēram, šovasar Bufalo, Ņujorkā.

Reportieris: Bufalo policijas komisārs saka, ka tas bija viņa lēmums likt virsniekiem uz formas tērpiem nēsāt nozīmītes numurus, nevis vārdus.

Komisārs: Pieauga bažas par uzmākšanos ar virsniekiem un viņu ģimeni. Lai ļautu virsniekiem bez bailēm veikt savu darbu, es toreiz pieņēmu lēmumu.

Spēcīgs: Bet, kad tas notiek, pilsoņi un aktīvisti atspiežas. Daudzi apgalvo, ka tas policijai piešķir vēl vairāk varas, nekā tai jau ir... jo kļūst gandrīz neiespējami saukt viņus pie atbildības.

Intervētais: Mums ir nepieciešams, lai mūsu padome aizstāvētu 255 000 cilvēkus, kurus jūs pārstāvat, un mudinātu un pieprasītu, lai šie policijas spēki mainītu politiku, nevis domātu tikai par dučiem vajātiem amatpersonām, kuras varētu aizsargāt saskaņā ar spēkā esošo likumu. .

Spēcīgs: Taču krietni pirms šīs vasaras notikumiem cilvēki mēģinājuši atpazīt neidentificētus policistus. Viņi ir izmantojuši fotoattēlus no protestiem, meklējot sociālos medijus, izmantojot pūļa avotus internetā, pat izmantojuši personas informācijas zagšanu. Kā gadījumā ar hakeru kolektīvu – sauc Anonymous. Tas ir pazīstams ar to, ka tas ir pieskaņots protestiem Occupy Wall Street un īslaicīgi likvidē Ņujorkas biržas vietni. Šī pati grupa vēlāk nopludināja privātu informāciju, ko tā nozaga no policijas un valdības vietnēm, tostarp policijas darbinieku mājas adreses.

Joku zvans: Jūs esat sasniedzis Boldvinas apgabala šerifa biroju… [zvans]

Spēcīgs: Šajā palaidnībā viņi pieprasa kredītu par uzlaušanu.

[Fragmenti no palaidnības zvana]

Spēcīgs: Varētu atcerēties, ka 2014. gadā, kad Krievija aneksēja Krimu, var atmaskot spēkus pār citiem, ASV pārņēma vadību karavīri bez nozīmītēm uz zaļajām uniformām. Toreiz augstākās amatpersonas, tostarp prezidents Vladimirs Putins, vairākkārt noliedza, ka šie karaspēki būtu krievi.

Mazliet : Nav nekāda karaspēka. Vismaz krievu karaspēka nav.

Spēcīgs: Šis ir Krievijas vēstnieks ES, kas runā ar žurnālistiem.

Vēstnieks: Tā kā ASV ir tradīcija iejaukties citās valstīs un sūtīt karaspēku uz ārzemēm, tās var rīkoties saskaņā ar savu mentalitāti... Es teiktu. Bet te nav runa par Krievijas iejaukšanos.

Spēcīgs: Bet tā bija. Saskaņojot fotoattēlus, iespējams, ar sejas atpazīšanas palīdzību, Ukrainas valdība noteica, ka karaspēks patiesībā ir saistīts ar Krievijas armiju. Un viņi publicēja fotoattēlus kā pierādījumu. Vēlāk Putins arī atzina, ka karaspēks patiešām bija krievs.

Putina tulkojums: Protams, krievu karavīri atbalstīja Krimas pašaizsardzības spēkus. Viņi rīkojās civilizēti, kā jau teicu, taču izlēmīgi un profesionāli.

[Mūzika]

Spēcīgs: Tagad protestētāji arvien vairāk mēģina vērst Face I-D pret policiju, lai identificētu policistus, kuri izmanto pārmērīgu spēku. Tostarp Honkongā, kur pagājušajā gadā ziņu plūsmās dominēja dramatiski attēli ar sadursmēm starp protestētājiem un policiju, kurā bija redzams, kā policija raida dzīvas lodes un protestētāji uzbrūk virsniekiem. Tas ir New York Times reportieris Pols Mozurs, kas runā sabiedriskajā televīzijā.

Mozurs: Protestiem turpinoties un policijai un Honkongas iedzīvotājiem nedēļu no nedēļas turpina cīnīties, seja ir kļuvusi ieroča un pati identitāte savā ziņā tiek apbruņota. Protestētāji izies ārā, un policija mēģinās iemūžināt viņu attēlus video un pēc tam atgriezīsies un identificēs tos, izmantojot visus sociālos medijus un tiešsaistes materiālus, un pēc tam otrādi. Mēs redzējām, ka policija faktiski noņem nozīmītes, un tāpēc tagad protestētāji dara to pašu ar policiju, mēģina atgriezties un izmantot sociālos medijus un noskaidrot, kura policija kādu darbību veic. Viens no protestētājiem, jo ​​īpaši mūsu atrastais puisis Kolins Čeungs, izveidoja sejas atpazīšanas rīku, lai mēģinātu identificēt policiju… un viņš faktiski neizlaida produktu, taču viņš saka, ka tāpēc policija uzbruka viņam.

Spēcīgs: Un Čeungs tika arestēts neilgi pēc tam, kad viņš bija publicējis par šo rīku Facebook, bet līdzīgi centieni turpinās arī citās vietās, tostarp Portlendā, Oregonas štatā.

Howell: Es izmantoju tieši to pašu tehnoloģiju, ko viņi izmanto mums. Un nav tā, ka es mēģinātu apgrūtināt cilvēkus. Es domāju, tas ir paredzēts darbiniekiem, kuri būtībā pārkāpj likumu attiecībā uz spēka lietošanu.

Spēcīgs: Kristofers Hovels ir datu zinātnieks un protestētājs.

Howell: Un es vienkārši gribēju tikt pie ieraksta. Hei, ir vēl viens veids, kā mēs to varētu izmantot. // Un patiesībā tas vairāk ir saistīts ar spiedienu uz viņiem, lai viņi identificētos, nevis mums, kas jādara.

Spēcīgs: Viņa liecība Portlendas pilsētas domē par šo rīku, pie kura viņš strādā, noveda pie tā, ka viņa projektu publicēja The New York Times. Kopš tā laika viņam ir pievērsta liela uzmanība, tāpat kā Portlendas mēra reakcija, kurš projektu nosauca par rāpojošu.

Howell: Ir šausmīgi ļaut viņiem iet ārā un asaru gāzi cilvēkus nakti no nakts // un es, tas tiešām bija, man bija tikai tāds prātu pūšošs brīdis, piemēram, tas ir šausmīgi, ka šiem puišiem nav viņu vārdu. Jūs zināt, ka kāds var vienkārši pārģērbties kā policists, kuru jūs zināt [smejas]

Spēcīgs: Viņš saka, ka viņš projektu sāka daļēji tikai tāpēc, lai redzētu, kā tas darbosies.

Howell: Es domāju, ka tur ir nepārprotama tehnoloģiska zinātkāre... un kaut kas tāds, ko es varu darīt, kad ir vēla nakts un ir nepatīkami redzēt šo saturu, ziņas vai jūs apmeklējat Twitter un redzat cilvēku, ikviena videoklipus par protestiem. un labi, ko es varu darīt? …un galu galā es vēlētos, lai tas nebūtu vajadzīgs. Es domāju, ka viņiem vajadzētu rakstīt savus vārdus ar lieliem burtiem, lai mēs nevarētu izmantot policistu sejas atpazīšanu, lai mēģinātu noskaidrot, kas viņi ir.

Spēcīgs: Spēja identificēt virsnieku nenozīmē tikai zināt, vai kāds tāds patiešām ir... Ir ārkārtīgi grūti iesniegt sūdzību pret kādu, nezinot, kas šī persona ir.

Howell: Viens no iemesliem, kāpēc es to sāku, bija tas, ka tiesas prāvās nevar nosaukt kā policistu, kurš mani pagrūda. Jums jāzina, kas tas ir. Viņi vienkārši teiks: nu, mēs nezinām, kas tas bija. Tātad jums nav neviena, kas sūdzētos tiesā, un, mēģinot iegūt ierakstus par to, ko konkrēti virsnieki izdarīja, viņi neļaus jums to makšķerēt. // Jums tas ir jāzina, ja jūs man iedeva attēlu, ziniet, lūk, šis policists kādam sit ar steku, es gribu, un mēs izdomāsim, jūs varat redzēt viņa seju. Tātad, mēs izdomāsim, kas tas ir, kā to izdarīt? Un sākotnēji es vairāk domāju par reverso attēlu meklēšanu datu bāzē. Es vienkārši apkopošu visus iespējamos attēlus, un mēs varēsim tos saistīt, lai varētu teikt, ka tie visi ir viens un tas pats cilvēks. Un tad es sapratu, ka varu darīt labāk.

Spēcīgs: Viņš saprata, ka var izveidot sejas ID rīku, izmantojot virsnieku attēlus no interneta.

Howell: Tāpēc es sāku skatīties viņu attēlus, kur viņi ir identificēti, vai ziņas, atgriežoties tālāk un iegūstot līdzīgus ziņu rakstus.

Spēcīgs: Projekts ir tehniski vienkāršāks nekā izveidot sistēmu, kas paredzēta jebkura personu identificēšanai.

Howell: Mēs zinām, kas ir policija, ziniet, tādas nav, nedrīkst būt cilvēki, kas nav policisti. Tātad, ja jūs varat iegūt visus viņu attēlus un tas ir īstais izaicinājums, bet tad jums varētu būt vieglāk identificējama matemātiska problēma, labi, mēs zinām, ka šī persona ir ārpus šīs kopas. Noskaidrosim, kurš no viņiem ir...

Spēcīgs: Viņš saka, ka līdz šim ir savācis tūkstošiem attēlu... pārsvarā manuāli no Twitter un ziņu rakstiem vidēji apmēram 15 līdz 20 par katru viņa identificēto virsnieku.

Howell: Daudzi sākotnējie attēli bija no Twitter. Lielāko daļu no tā es iedziļinājos ziņu rakstos. // Es domāju, ceļu satiksmes negadījums, viens ir, ziniet, ziņu sižets ir tik lielisks piemērs. Jo es atradu daudz tādu. Vai, piemēram, kopienas bārbekjū, un tur ir uniformās tērpti virsnieki, un tas viņus nosauc.

Spēcīgs: Tas nav tieši tāds pats mērogs kā policijas izmantotajām sejas ID sistēmām...

Howell : Es tikai šobrīd to visu daru, izmantojot Python skriptu — tas viss ir lokāls manā klēpjdatorā.

Spēcīgs: ...tie parasti ir apmācīti uz fotoattēlu kopām ar miljoniem vai miljardu.

Howell: Tā kā es domāju, ka precizitāte ir svarīga, un attēlu skaits ir pietiekami mazs, lai, ja es mēģinātu tur ievietot savu seju, es negribētu iegūt citu Krisu Hovelu.

Spēcīgs: Bet tas ir tikai pietiekami daudz attēlu, lai tas, šķiet, dara to triku. Viņš saka, ka viņa rīks jau ir izmantots, lai palīdzētu apstiprināt darbinieka identitāti lietā, kas nonāk tiesā.

Howell: Kāds man atnesa attēlu, ko es nebiju atradis, un teica: palīdziet man, jūs zināt, jūs izmantojat savu sistēmu un pastāstiet man, ko tā saka. Un viņa jau zināja, kas, viņasprāt, tas ir, bet viņa man to neteica. Un tad top rezultāts bija gaidītais.

Spēcīgs: Par to, kur tas notiks tālāk, to var minēt ikviens, lai gan viņš var iedomāties dienu, kad to varētu izmantot sadarbībā ar pilsētu.

Howell: Es varētu redzēt nākotni, iespējams, pēc gadiem, kad lietas ir nedaudz savādākas, ja pilsēta kaut ko līdzīgu dara pieejamu un pati to uzņem un liek viņiem uzņemt vairākus attēlus, lai mēs varētu iegūt labi apmācītu lietu. Tātad, piemēram, pilsoņu atsauksmes lieta. Un, un tam nav obligāti jābūt negatīvām lietām, bet tā, lai to varētu izmantot arī sūdzībām. Es domāju, ka daļa no manis domā, ka būtu lietderīgi sadarboties ar pašām valdības aģentūrām, lai pateiktu: “Hei, mēs vēlamies būt atbildīgi. Es nedomāju, ka tas ir ļoti reāli 2020. gadā, bet es domāju, ka tas varētu nebūt tālu! [smejas]

Spēcīgs: Kaut kas, ko viņš nevēlas, ir padarīt to atvērtu.

Howell: Es nedomāju, ka tā ir lieliska ideja, lai kāds patiešām būtu kā publiska saskarsme vietnē. Iedomājieties, ka tā ir prasība, lai lietas noietu greizi, izņemot tādas patiesi acīmredzamas lietas, kas jums varētu būt, piemēram, cilvēki, viltot lietas vai apzināti ievietot maldinošus attēlus...

[Mūzika]

Spēcīgs: Portlendas aizliegumi saskarties ar I-D stāsies spēkā janvārī, bet Hovela projekts? Tas netiks ietekmēts. Valsts skolas, reliģiskās iestādes, pat tas, kā lidostā tiek izmantota sejas atpazīšana, piemēram, veids, kādā aviokompānijas, piemēram, Delta, iekāpj pasažieriem. Tas arī netiks ietekmēts. Pašvaldības aģentūras to nevarēs izmantot. Un tas nebūs atļauts lielākajā daļā publisko telpu vai privāto telpu, kas ir atvērtas sabiedrībai, piemēram, iepirkšanās centrā. Vietējā policija arī nedrīkstēs izmantot šo tehnoloģiju, lai gan cilvēki savās privātmājās, piemēram, Kristofers Hovels, to drīkstēs. Aizliegumi neattiecas arī uz tiesībaizsardzību valsts vai federālā līmenī.

Savā ziņā šīs novērošanas tehnoloģijas izmantošana kļūst par sava veida globālu bruņošanās sacensību starp sabiedrību un varas pārstāvjiem, abi cerot novilkt anonimitātes vāku, lai veicinātu labu uzvedību. Ir grūti saprast, kurš varētu būt ieguvējs, taču noteikti zaudētājs ir privātums.

Nākamajā sērijā…

Izvilkums : Tas nav traumēts, ja kāds ieiet iestādē un saka: jā, jūs noteikti varat ienākt, bet ļaujiet man vienkārši paņemt jūsu pirkstu nospiedumus.

Spēcīgs: Mēs skatāmies uz sejas atpazīšanas izmantošanu valsts mājokļos un bezpajumtnieku patversmēs.

Izvilkums : Sejas atpazīšanas funkcija ir emocionāli laipnāka, jo tā ir pasīva, tā viņiem nepieskaras, un jūs varat to tvert ātrāk, un nepastāv pārnešanas risks.

Spēcīgs: Par šo epizodi ziņoju un producēju es, Teits Raiens-Moslijs, Kārena Hao un Emma Cillekensa. Mūs rediģē Maikls Reilijs un Gideons Ličfīlds.

Paldies, ka klausījāties, es esmu Dženifera Stronga.

[TR ID]

paslēpties