Jau nākamajā nedēļā mēs varētu redzēt federālo regulējumu par sejas atpazīšanu

AP foto/Džons Minčillo, fails

10. maijā atklātu vēstuli nosūtīja 40 interešu aizstāvības grupas pieprasot pastāvīgu aizliegumu par Amazon sejas atpazīšanas programmatūras Rekognition izmantošanu ASV policijai. Vēstule tika adresēta Džefam Bezosam un Endijam Džesī, uzņēmuma pašreizējiem un nākamajiem izpilddirektoriem, un tā tika saņemta tikai dažas nedēļas pirms Amazon gadu ilgs moratorijs par pārdošanu tiesībaizsardzības iestādēm bija paredzēts termiņš.

Vēstulē tika pretstatīts Bezosa un Džesija balss atbalsts Black Lives Matter kampaņas dalībniekiem pagājušās vasaras rasu taisnīguma protestos pēc Džordža Floida slepkavības ar ziņojumu, ka citus Amazon produktus ir izmantojuši tiesībaizsardzības iestādes, lai identificētu protestētājus .

17. maijā Amazon paziņoja tas pagarinātu savu moratoriju uz nenoteiktu laiku, pievienojoties konkurentiem IBM un Microsoft pašregulētā šķīstītavā. Šis solis liecina par to grupu politisko spēku, kuras cīnās par tehnoloģiju ierobežošanu, un atzīšanu, ka sāk parādīties jauni likumdošanas cīņas pamati. Daudzi uzskata, ka drīzumā tiks pieņemti būtiski federālie tiesību akti.

Cilvēki ir pārguruši

Pagājušais gads ir bijis galvenais sejas atpazīšanas līdzeklis , ar atklājumiem par tehnoloģijas lomu viltus aresti , un aizliegumus to ieviesa ar gandrīz divi desmiti pilsētu un septiņi štati visā ASV. Taču impulss jau kādu laiku ir mainījies.

2018. gadā AI pētnieki publicēja mācības salīdzinot IBM, Microsoft un Face++ komerciālās sejas atpazīšanas programmatūras precizitāti. Viņu darbs atklāja, ka tehnoloģija daudz precīzāk identificēja gaišākus vīriešus nekā tumšākas sievietes; IBM sistēmai bija vissliktākais rezultāts, ar 34,4% kļūdu līmeņa starpību starp abām grupām.

Arī 2018. ACLU pārbaudīja Amazon atpazīšanu un atklāja, ka tas nepareizi identificēja 28 Kongresa locekļus kā noziedzniekus, un tā ir kļūda, kas nesamērīgi ietekmē ādas krāsas cilvēkus. Organizācija uzrakstīja savu atklāto vēstuli Amazon , pieprasot, lai uzņēmums aizliedz valdībai izmantot tehnoloģiju, tāpat kā Kongresa Black Caucus — bet Amazon neveica nekādas izmaiņas.

(Amazon pārstāvis nosūtīja MIT Technology Review uz a atspēkojums publicēts 2018. gada jūlijā, kurā ir izklāstītas uzņēmuma problēmas ar ACLU testa precizitāti un metodēm.)

'Ja mēs apņemamies ievērot rasu vienlīdzību krimināltiesību sistēmā... viena no vienkāršākajām un skaidrākajām lietām, ko varat darīt, ir izbeigt sejas atpazīšanas tehnoloģiju izmantošanu.'

Keita Ruane, ACLU

Tomēr rasu taisnīguma kustības laikā pret policijas brutalitāti pagājušajā vasarā Amazon pārsteidza daudzus, paziņojot, ka tā aptur policijas izmantošanu Rekognition, izņemot federālo tiesībaizsardzības iestāžu darbiniekus, piemēram, ICE. Uzņēmuma paziņojumā teikts, ka tā cer, ka pauze varētu dot Kongresam pietiekami daudz laika, lai ieviestu atbilstošus noteikumus.

Evans Grīrs ir tehnoloģiju aizstāvības grupas Fight for the Future direktors, kas tic sejas atpazīšanas tehnoloģijas atcelšanai un saka, ka sabiedrības atbalsts tās regulēšanai pieaug. Viņa saka, ka šonedēļ moratorija pagarināšana liecina, ka Amazon reaģē uz šo milzīgo spiedienu, ko viņi saņem, ne tikai saistībā ar sejas atpazīšanu, piebilstot, ka es patiešām izsaku milzīgu atzinību valsts mēroga sacelšanās par rasu taisnīgumu, kas notika pagājušajā gadā. ar pusi.

Politiskā realitāte

Lai gan uz lielajiem tehnoloģiju nodrošinātājiem tiek palielināts spiediens, realitāte ir tāda, ka lielākā daļa tiesībaizsardzības iestāžu un valdības lietotāju nepērk sejas atpazīšanas programmatūru no tādiem uzņēmumiem kā Amazon. Tātad, lai gan moratoriji un aizliegumi ir laipni aicināti aizstāvības grupās, tie ne vienmēr kavē tehnoloģiju izmantošanu. Tikmēr Kongresam vēl ir jāpieņem visi federālie tiesību akti par sejas atpazīšanu tiesībaizsardzības, valdības vai komerciālos apstākļos, kas regulētu mazākus pakalpojumu sniedzējus.

Daži cer, ka drīzumā tiks pieņemti federālie tiesību akti vai nu ar tiešu Kongresa darbību, prezidenta izpildrīkojumu vai gaidāmajiem apropriācijas un policijas reformas likumprojektiem.

Manuprāt, vislabākais scenārijs ir tāds, ka Kongress pieņem moratoriju tā izmantošanai, saka Keita Ruane, ACLU vecākā likumdošanas padomniece. Viņa uzskata, ka jaunas izmantošanas iespējas būtu jāatļauj tikai pēc lielāka likumdošanas darba.

Jau ir ierosināti vairāki federālie likumprojekti, kas ierobežotu piekļuvi sejas atpazīšanai.

• The Sejas atpazīšanas un biometrisko tehnoloģiju moratorija likums aicina aizliegt jebkādām federālajām iestādēm izmantot programmatūru un ieturēt federālo dotāciju naudu no visām valsts un vietējām iestādēm, kuras neievieš savu moratoriju. To ierosināja četri Kongresa demokrāti, un pagājušajā gadā ar to iepazīstināja Senātu.
• The Džordža Floida tieslietu likums policijas darbā novērstu sejas atpazīšanas izmantošanu ķermeņa kamerās. Likumprojekts jau ir pieņemts Parlamentā, un ir paredzams, ka tas nonāks Senātā šonedēļ. Prezidents Baidens lūdzis likumprojektu pieņemt pirms Džordža Floida nāves gadadienas 25. maijā.
• The Ceturtais grozījums nav pārdošanā 18 senatoru iesniegtais divu partiju likumprojekts ierobežo valdībai sadarbību ar tehnoloģiju nodrošinātājiem, kas pārkāpj pakalpojumu sniegšanas noteikumus. Praksē tas lielā mērā liegtu valdībai piekļuvi sistēmām, kas nodarbojas ar tīmekļa nokopšanu, piemēram, Clearview AI .

Mutale Nkonde, bezpeļņas organizācijas AI for the People dibinātājs, kas iestājas par rasu taisnīgumu tehnoloģijās, uzskata, ka līdz nākamā gada vidusposma vēlēšanām mēs, visticamāk, redzēsim papildu federālos tiesību aktus.

Es domāju, ka tiks ieviesti federālie tiesību akti, kas regulēs visas algoritmiskās sistēmas, tostarp sejas atpazīšanu, saka Nkonde. Es domāju, ka tā ir politiskā realitāte.

Nkonde saka, ka ietekmes novērtējumu koncepcija, kas novērtē tehnoloģiskās sistēmas, pamatojoties uz pilsoniskajām tiesībām, gūst popularitāti politikas aprindās abās ejas pusēs.

ACLU lobē Baidena administrāciju, lai saņemtu izpildrakstu, un tas notika nesen publicēja vēstuli ar 40 citām grupām lūdzot nekavējoties aizliegt valdībai izmantot tehnoloģiju.

Ja mēs apņemamies ievērot rasu taisnīgumu, ja mēs apņemamies ievērot rasu vienlīdzību krimināltiesību sistēmā, mēs apņemamies īstenot šāda veida reformas, viena no vienkāršākajām un skaidrākajām lietām, ko varat darīt, ir beigt. sejas atpazīšanas tehnoloģijas izmantošana, saka Ruane.

Cilvēki vienkārši ir radikālāki

Tikmēr Ruane sagaida, ka pašregulācija joprojām būs viena no efektīvākajām metodēm, lai novērstu sejas atpazīšanas plašāku izmantošanu. Ir ticams, ka federālās aģentūras, piemēram, Mājokļu, Iekšzemes drošības un Izglītības departaments, apsvērs iespēju ieviest noteikumus, kas aizliedz tehnoloģiju izmantošanu. .

Nkonde ir optimistiski noskaņots, ka moratoriji izvērsīsies aizliegumos un pastāvīgākos tiesību aktos: man šķiet, ka moratoriji bija iespējami pirms Džordža Floida nogalināšanas. Pēc tam cilvēki ir tikai radikālāki.

Taču Grīrs brīdina, ka, neraugoties uz sejas atpazīšanas apkarošanu, tiesību akti, kas lielā mērā koncentrējas uz sistēmu rasu precizitāti, varētu neatrisināt dziļākas problēmas. Es domāju, ka būtu kļūda, ja politikas veidotāji precizitāti uzskatītu par vienīgo sejas atpazīšanas problēmu, kas jārisina, viņa saka. Nozares pārstāvji patiešām būtu ļoti apmierināti ar likumprojektu, kurā, piemēram, teikts, piemēram, “Ja plānojat pārdot sejas atpazīšanas sistēmu, tai ir jābūt 99% precīzai dažādu rasu un ādas toņu cilvēkiem”.

Pat ja neobjektivitāte sistēmā nav iestrādāta, jums joprojām ir neobjektīva kārtības nodrošināšanas sistēma, kas tagad tiek paātrināta un it kā tiek papildināta ar šo tehnoloģiju, viņa piebilst.

Šis stāsts ir atjaunināts, iekļaujot Amazon atspēkošanos ACLU veiktajai Amazon atpazīšanas sistēmas pārbaudei 2018. gadā.

paslēpties