Tā mēs zaudējām kontroli pār savām sejām

Getty

1964. gadā matemātiķis un datorzinātnieks Vudro Bledso vispirms mēģināja samērot aizdomās turamo seju ar šaujamieročiem. Viņš izmērīja attālumus starp dažādiem sejas vaibstiem drukātajās fotogrāfijās un ievadīja tos datorprogrammā. Viņa elementārie panākumi aizsāks gadu desmitiem ilgus pētījumus par mācību mašīnām, lai atpazītu cilvēku sejas.

Tagad jauns pētījums parāda, cik ļoti šis uzņēmums ir iedragājis mūsu privātumu. Tas ir ne tikai veicinājis arvien spēcīgāku uzraudzības rīku. Jaunākās paaudzes uz dziļu mācīšanos balstīta sejas atpazīšana ir pilnībā izjaukusi mūsu piekrišanas normas.

Debora Raji, bezpeļņas organizācijas Mozilla biedre un Ženevjēva Frīda, kas konsultē ASV Kongresa locekļus algoritmiskās atbildības jautājumos, pārbaudīja vairāk nekā 130 sejas atpazīšanas datu kopas, kas apkopotas 43 gadu laikā. Viņi atklāja, ka pētnieki, ko virzīja dziļās mācīšanās pieaugošās datu prasības, pakāpeniski atteicās lūgt cilvēku piekrišanu. Tas ir novedis pie tā, ka arvien vairāk cilvēku personīgo fotoattēlu ir iekļauti novērošanas sistēmās, viņiem nezinot.

Tas ir radījis arī daudz nekārtīgākas datu kopas: tajās var netīši iekļaut nepilngadīgo fotoattēlus, izmantot rasistiskas un seksistiskas etiķetes vai neatbilstoša kvalitāte un apgaismojums. Šī tendence varētu palīdzēt izskaidrot pieaugošo to gadījumu skaitu, kad sejas atpazīšanas sistēmas nedarbojas ar satraucošām sekām, piemēram, divu melnādaino vīriešu viltus aresti gadā Detroitas apgabalā.

Cilvēki bija ļoti piesardzīgi attiecībā uz sejas datu vākšanu, dokumentēšanu un pārbaudi pirmajās dienās, saka Raji. Tagad mums vairs nav vienalga. Tas viss ir pamests, viņa saka. Jūs vienkārši nevarat izsekot miljonam seju. Pēc noteikta brīža jūs pat nevarat izlikties, ka jums ir kontrole.

Sejas atpazīšanas datu vēsture

Pētnieki identificēja četrus galvenos sejas atpazīšanas laikmetus, no kuriem katru noteica pieaugošā vēlme uzlabot tehnoloģiju. Pirmo posmu, kas ilga līdz 90. gadiem, lielā mērā raksturoja manuāli intensīvas un skaitļošanas lēnas metodes.

Taču pēc tam, apzinoties, ka sejas atpazīšana var izsekot un identificēt personas daudz efektīvāk nekā pirkstu nospiedumi, ASV Aizsardzības departaments ieguldīja 6,5 ​​miljonus USD, lai izveidotu pirmo liela mēroga sejas datu kopu. Vairāk nekā 15 fotografēšanas sesijās trīs gadu laikā projektā tika uzņemti 14 126 attēli no 1199 personām. Sejas atpazīšanas tehnoloģijas (FERET) datubāze tika izlaista 1996. gadā.

Nākamajā desmitgadē akadēmiskajā un komerciālajā sejas atpazīšanas pētniecībā bija vērojams pieaugums, un tika izveidotas daudzas citas datu kopas. Lielākā daļa tika iegūti, izmantojot fotosesijas, piemēram, FERET, un tām bija pilnīga dalībnieka piekrišana. Daudzi iekļāva arī rūpīgus metadatus, saka Radži, piemēram, subjektu vecumu un etnisko piederību vai apgaismojuma informāciju. Taču šīs agrīnās sistēmas cīnījās reālās pasaules apstākļos, kas lika pētniekiem meklēt lielākas un daudzveidīgākas datu kopas.

2007. gadā datu kopas “Labeled Faces in the Wild” (LFW) izlaišana pavēra slūžas datu vākšanai, izmantojot meklēšanu tīmeklī. Pētnieki sāka lejupielādēt attēlus tieši no Google, Flickr un Yahoo bez piekrišanas. Nākamā citu pētnieku apkopotā datu kopa ar nosaukumu LFW+ arī atviegloja standartus attiecībā uz nepilngadīgo iekļaušanu, izmantojot fotoattēlus, kas atrasti ar tādiem meklēšanas vienumiem kā mazulis, nepilngadīgais un pusaudzis, lai palielinātu daudzveidību. Šis process ļāva īsā laikā izveidot ievērojami lielākas datu kopas, taču sejas atpazīšana joprojām saskārās ar daudziem tādiem pašiem izaicinājumiem kā iepriekš. Tas mudināja pētniekus meklēt vēl vairāk metožu un datu, lai pārvarētu tehnoloģijas slikto veiktspēju.

Pēc tam 2014. gadā Facebook izmantoja savus lietotāju fotoattēlus, lai apmācītu padziļinātas apmācības modeli ar nosaukumu DeepFace. Lai gan uzņēmums nekad nav izlaidis datu kopu, sistēmas pārcilvēcīgā veiktspēja paaugstināja dziļo mācīšanos līdz de facto seju analīzes metodei. Šajā laikā manuālā pārbaude un marķēšana kļuva gandrīz neiespējama, jo datu kopas pieauga līdz desmitiem miljonu fotoattēlu, saka Raji. Tas notiek arī tad, kad sāk parādīties patiešām dīvainas parādības, piemēram, automātiski ģenerētas etiķetes, kas ietver aizvainojošu terminoloģiju.

Saistīts stāsts

AI redzēja apgrieztu AOC fotoattēlu. Tas automātiski pabeidza viņu valkājot bikini. Attēlu ģenerēšanas algoritmi rosina tās pašas seksistiskās, rasistiskās idejas, kas pastāv internetā.

Datu kopu izmantošanas veids sāka mainīties arī šajā laikā. Tā vietā, lai mēģinātu saskaņot indivīdus, jaunie modeļi sāka vairāk koncentrēties uz klasifikāciju. Tā vietā, lai teiktu: 'Vai šī ir Kārenas fotogrāfija?' Jā vai nē,' tas pārvērtās par 'Paredzēsim Kārenas iekšējo personību vai viņas etnisko piederību' un cilvēku iedalīšanu šajās kategorijās, saka Radži.

Amba Kak, AI Now globālās politikas direktors, kurš nepiedalījās pētījumā, saka, ka dokuments sniedz skaidru priekšstatu par biometrijas nozares attīstību. Padziļināta mācīšanās, iespējams, ir izglābusi tehnoloģiju no dažām tās grūtībām, taču arī šī tehnoloģiskā attīstība ir maksājusi, viņa saka. Tas ir saistīts ar visiem šiem jautājumiem, ar kuriem mēs tagad labi pazīstam: piekrišana, iegūšana, IP problēmas, privātums.

Kaitējums, kas rada kaitējumu

Radži saka, ka viņas datu izpēte ir radījusi viņu nopietnas bažas par sejas atpazīšanu, kas balstīta uz dziļu mācīšanos.

Tas ir daudz bīstamāk, viņa saka. Datu prasība liek jums apkopot neticami sensitīvu informāciju par vismaz desmitiem tūkstošu cilvēku. Tas liek jums pārkāpt viņu privātumu. Tas pats par sevi ir kaitējuma pamats. Un tad mēs uzkrājam visu šo informāciju, kuru jūs nevarat kontrolēt, lai izveidotu kaut ko tādu, kas, iespējams, darbosies tā, kā jūs pat nevarat paredzēt. Tāda ir mūsu atrašanās vietas būtība.

Viņa cer, ka dokuments rosinās pētniekus pārdomāt kompromisu starp veiktspējas ieguvumiem, kas iegūti no dziļas mācīšanās, un piekrišanas zaudēšanu, rūpīgu datu pārbaudi un rūpīgu dokumentāciju. Vai bija vērts atteikties no visām šīm praksēm, lai veiktu padziļinātu mācīšanos? viņa saka.

Viņa mudina tos, kuri vēlas turpināt veidot sejas atpazīšanu, apsvērt dažādu paņēmienu izstrādi: lai mēs patiešām mēģinātu izmantot šo rīku, nekaitējot cilvēkiem, būs jāpārdomā viss, ko mēs par to zinām.

Labojums, 2021. gada 15. februāris: Iepriekšējā raksta versijā bija teikts, ka datu kopa “Labeled Faces in the Wild” (LFW) “atvieglināja standartus attiecībā uz nepilngadīgo iekļaušanu”. Faktiski tā bija LFW+ datu kopa, ko pēc tam apkopoja cita pētnieku grupa.

paslēpties