Deepfake Amazon darbinieki sēj apjukumu Twitter. Tā nav problēma.

Amazon noliktavā Bessemerā, Alabamas štatā, ir redzams reklāmkarogs, kas mudina strādniekus balsot darba balsošanā. AP

Ziņas: Pirms ievērojamā balsojuma, kas varētu novest pie pirmās arodbiedrības izveidošanas ASV bāzētā Amazon noliktavā, sāka parādīties jauni Twitter konti, kas it kā ir Amazon darbinieki. Profilos kā profila attēli tika izmantoti dziļi viltoti fotoattēli un tviterī tika publicēti daži diezgan smieklīgi, pārspīlēti Amazon darba prakses aizsardzības līdzekļi. Tie nešķita īsti, taču joprojām izraisīja apjukumu sabiedrībā. Vai Amazon tiešām bija aiz viņiem? Vai tā bija kāda šausmīga jauna, pret arodbiedrībām vērsta sociālo mediju stratēģija? Atbilde gandrīz noteikti nav, taču dziļo viltojumu izmantošana šajā kontekstā norāda uz satraucošāku tendenci kopumā.

Aizmugurējais stāsts: Ir iemesls, kāpēc šie jaunie dziļi viltotie profili šķita pazīstami. 2018. gadā sākās Amazon ļoti reāla programma lai pārliecinātu sabiedrību, ka tā izturas labi pret saviem noliktavas darbiniekiem. Tā šajās noliktavās izveidoja datorstacijas un izveidoja Twitter kontus nelielai darbinieku grupai, kas pazīstama kā Amazon FC vēstnieki, kuri apmaksātās stundās varēja čivināt par to, cik ļoti viņi mīl savu darbu. Plāns atdeva neveiksmi un noveda pie daudzu radīšanas parodiju vēstnieka konti vietnē Twitter. Neilgi pēc tam Amazon samazināja programmu, un daudzi sākotnējie reālie konti tika apturēti vai slēgti, saka Āriks Tolers, pētnieciskās žurnālistikas vietnes Bellingcat apmācības un pētniecības pasākumu vadītājs.

Pēdējais: Pirmdien parādījās jauna vēstnieku kontu grupa — vai vismaz tā šķita. Bet, kad cilvēki sāka izmeklēt, daudzi norādīja ārā ka dažiem bija profila attēli ar dziļi viltotu seju pazīmēm, piemēram, izliektiem auskari un izplūdušiem foniem. Tieši tad lietas kļuva neskaidras.

Cilvēki ātri uztvēra domu, ka Amazon pati ir aiz jaunajiem dziļi viltotiem kontiem kā daļa no pretarodbiedrībām vērstas sociālo mediju kampaņas. Uzņēmums vēlāk pastāstīja New York Times reportiere Kārena Vaiza ka tā nebija. Tolers, kurš izsekoja sākotnējos kontus, uzskata, ka Amazon stāsta patiesību. Visi sākotnējie vēstnieku konti tika reģistrēti ar Amazon e-pasta adresēm un publicēti, izmantojot Sprinklr. Jaunie deepfake konti, kuru darbība kopš tā laika ir apturēta, bija reģistrēts, izmantojot Gmail un publicēts, izmantojot Twitter tīmekļa lietotni. Turklāt tvītu saturs nepārprotami bija paredzēts humoristiskam. Šie konti, iespējams, bija tikai vairāk parodiju, kas izveidotas, lai izsmietu Amazon.

Vai tam ir nozīme? Šajā konkrētajā gadījumā, visticamāk, nē. Tas, protams, ir diezgan nekaitīgs, saka Tolers. Tā ir Amazon. Viņiem viss ir kārtībā. Taču tas atklāj vēl satraucošāku problēmu: dziļi viltotus kontus var koordinēti izvietot sociālajos medijos vai citur daudz draudīgākiem mērķiem. Ļaunprātīgākā versija būtu valsts aktieri, brīdina Tolers.

Saistīts stāsts

Divu gadu cīņa par to, lai Amazon nepārdotu policijai sejas atpazīšanu Šīs nedēļas pārejas no Amazon, Microsoft un IBM ir nozīmīgs pavērsiens pētniekiem un pilsoņu tiesību aizstāvjiem ilgajā un nepārtrauktajā cīņā par sejas atpazīšanu tiesībaizsardzības jomā.

Faktiski jau ir bijuši vairāki augsta līmeņa gadījumi, kad dziļi viltotas fotogrāfijas ir izmantotas postošās dezinformācijas kampaņās. 2019. gada decembrī Facebook identificēja un likvidēja tīklu vairāk nekā 900 lappušu, grupu un kontu , tostarp daži ar viltotiem profila attēliem, kas saistīti ar galēji labējo noietu Epoch Times, kas, kā zināms, iesaistās dezinformācijas taktikā. 2020. gada oktobrī prezidenta Trampa aprindās izplatīts viltots izlūkošanas dokuments, kas kļuva par pamatu daudzām sazvērestības teorijām saistībā ar Hanteru Baidenu, bija arī viltotas drošības analītiķa autors. ar dziļi viltotu profila attēlu .

Tolers saka, ka viltotas sejas ir kļuvušas par tendenci viņa darbā kā atvērtā koda izmeklētājs aizdomīgos tiešsaistes darbos, jo īpaši kopš vietnes ThisPersonDoesNotExist.com palaišanas, kas katrā atsvaidzināšanā piedāvā jaunu mākslīgā intelekta radītu seju. Viņš saka, ka vienmēr ir prāta kontrolsaraksts, kuram jūs iziet cauri, kad kaut ko atrodat. Pirmais jautājums ir “Vai šī persona ir īsts vai nē?” Šis jautājums mums nebija īsti pirms pieciem gadiem.

Cik liels drauds tas ir? Šobrīd Tolers saka, ka dziļi viltotu seju izmantošana nav īpaši ietekmējusi viņa darbu. Viņam joprojām ir samērā viegli noteikt, kad profila attēls ir viltots, tāpat kā tad, ja fotoattēls ir standarta attēls. Sarežģītākais scenārijs ir tad, ja attēls ir ar reālu personu, kas iegūta no privāta sociālo mediju konta, kas nav indeksēts attēlu meklētājprogrammās.

Pieaugošā izpratne par viltotiem viltojumiem ir arī mudinājusi cilvēkus rūpīgāk pārbaudīt medijus, kurus viņi redz, saka Tolers, par ko liecina tas, cik ātri cilvēki pieķēra Amazon kontu viltošanu.

Taču Sems Gregorijs, cilvēktiesību bezpeļņas organizācijas Witness programmas direktors, saka, ka tam nevajadzētu mūs iemidzināt viltus drošības izjūtā. Viņš saka: Deepfakes pastāvīgi kļūst labākas, viņš saka: Man šķiet, ka cilvēkiem ir pārāk liela pārliecība, ka tos vienmēr būs iespējams atklāt.

Paaugstināta izpratne par dziļo viltojumu var arī novest pie cilvēkiem beidz ticēt īstiem medijiem , kam varētu būt tikpat šausmīgas sekas, piemēram, cilvēktiesību pārkāpumu dokumentācijas graušana.

Ko mums vajadzētu darīt? Gregorijs mudina sociālo mediju lietotājus izvairīties no fiksācijas, vai attēls ir viltots vai nē. Viņš saka, ka bieži tā ir tikai neliela mīklas daļa. Dāvana nav tā, ka esat kaut kādā veidā iztaujājis attēlu. Tas ir tāds, ka jūs skatāties uz kontu, un tas tika izveidots pirms nedēļas, vai arī tas ir žurnālists, kurš apgalvo, ka ir žurnālists, bet viņš nekad nav uzrakstījis neko citu, ko jūs varētu atrast Google meklēšanā.

Šīs izmeklēšanas taktikas ir daudz noturīgākas pret dziļo viltojumu tehnoloģiju attīstību. Padoms attiecas arī uz Amazon gadījumu. Tolers galu galā konstatēja, ka tie ir viltoti, pārbaudot kontu e-pastus un tvītu informāciju, nevis rūpīgi pārbaudot profila attēlus.

paslēpties