Briesmīgi cilvēki ir iemācījušies izmantot internetu. Yasmin Green cīnās pretī.

Alphabet Jigsaw komanda pa vienam videoklipam atgriež tiešsaistē radikalizējušos cilvēkus no sliekšņa. Autors

• Mārtins Džailss arhīva lapa

2018. gada 19. februāris

Lendons Spīrss

Naida runa, tiešsaistes radikalizācija, bumbu izgatavošanas apmācības, valsts sponsorētas viltus ziņas, tīmekļa cenzūra — internets ir šausmīga vieta.

Daļa no tā jebkurā gadījumā ir. Palīdzēt saglabāt šo daļu pēc iespējas mazāku, ir Yasmin Green, Jigsaw, Google mātesuzņēmuma Alphabet nodaļas, pētniecības un attīstības direktora darbs. Viņa apkaro teroristus un troļļus ar starptautisku grupu, kurā ir aptuveni 60 speciālisti, tostarp programmatūras inženieri, pētnieki un produktu vadītāji. Viņi var arī izmantot milzīgos Google resursus. Taču Grīna un viņas kolēģi netērē visu laiku kodēšanai un veidošanai; daudzi no viņiem arī dodas uz ģeopolitiskajiem karstajiem punktiem, lai tuvplānā pētītu radikalizāciju. Viņa runāja ar MIT tehnoloģiju apskats par dažām grupas metodēm.

Šis stāsts bija daļa no mūsu 2018. gada marta numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Kas jūs piesaistīja lomai filmā Jigsaw?

Es pametu Irānu, kur es piedzimu, ļoti agrā vecumā un uzaugu Apvienotajā Karalistē. Es atceros, kā atgriezos 19 gadu vecumā un jutos pārsteigts par cenzūras līmeni valstī, gan bezsaistē, gan tiešsaistē. Tādi termini kā globālais tīmeklis mēdz izklausīties ironiski cilvēkiem, kuri nedzīvo valstīs, kur informācija ir bezmaksas. Tāpēc mani piesaistīja darbs uzņēmumā, kas cenšas padarīt informāciju pieejamu ikvienam.

Lendons Spīrss

Jigsaw nodarbojas ar tiešsaistes draudiem, taču komandas locekļi sava darba ietvaros apmeklē arī konfliktu zonas. Kāds ir šo braucienu mērķis?

Mēs vēlamies pārliecināties, ka izstrādājam tehnoloģiju, kuras pamatā ir izpratne par cilvēku pieredzi. Liela daļa no mūsu metodoloģijas ir komandas locekļu nosūtīšana uz laukumu, lai intervētu cilvēkus, kuri atrodas to izaicinājumu priekšgalā, kurus mēs cenšamies risināt, neatkarīgi no tā, vai tas ir represijas vai konflikts. Viens no mūsu ekskursijām bija uz Irāku, kur mēs sēdējām aci pret aci ar cilvēkiem, kuri bija pievienojušies teroristu grupai, kas pazīstama kā ISIS, un pēc tam to pametuši. Mēs vēlējāmies izprast radikalizācijas procesu — gan cilvēka elementus, gan arī tehnoloģiju lomu. Mēs dzirdējām par to, kā cilvēki atklāja ISIS, kā cilvēki tika savervēti un kā tehnoloģijas bija noderīgas viņu ceļojumu loģistikai [lai pievienotos grupai].

Kāda ir vissvarīgākā mācība, ko esam guvuši par ISIS spēju vervēšanai izmantot internetu?

ISIS diezgan lielā mērā pārvalda daudzus plašsaziņas līdzekļus, sākot no radio līdz skrejlapām. Runājot par internetu, viņi patiešām ir sapratuši mikromērķa noteikšanas spēku. Viņi veido saturu daudzās valodās, tostarp arābu un angļu valodā, taču tas turpinās un turpinās, un pat nonāk ķīniešu un ebreju valodā. Valoda, kas man patiešām iedvesa prātā, lai redzētu video, bija zīmju valoda. Tāpēc viņi veido ļoti lokālus darbā iekārtošanas materiālus un izmanto algoritmus, kas ir pieejami sociālajos medijos, lai izplatītu šo materiālu un sasniegtu cilvēkus visās pasaules malās.

Noteikti ir jānoņem daži no teroristu tīklu satura, ko tiešsaistē publicē. Bet kā rīkoties ar smalkākām propagandas formām?

Noteikti ir satura kategorijas, kuras vēlaties nodrošināt, lai tās neredzētu dienasgaismu, piemēram, galvas nogriešana un bumbu izgatavošanas pamācības. Turklāt ir daudz cita satura, kas patiešām neatbalsta vardarbību, bet varētu palīdzēt virzīt cilvēkus uz to. Mūsu pētījuma mērķis bija saprast, kādas bija vervēšanas tēmas, kas mudināja cilvēkus reģistrēties ISIS. Izrādās, viņus parasti nevilka galvas nociršana; tā vietā viņi bija pārliecināti, ka šī grupa ir reliģiski likumīga un džihāda cēlonis bija viņu reliģiskais pienākums. ISIS veidoja sarunu, uzdodot jautājumus, uz kuriem [tai] bija šķietami pārliecinošas atbildes.

Es nedomāju, ka kāds iedomājās, ka mums tiešsaistē būs tāds iebiedēšanas un naida runas līmenis, kāds šobrīd ir, un mums ir ļoti smagi jācenšas nodrošināt, ka tiekam tam priekšā.

Kā jūs esat mēģinājuši cīnīties pret šo tiešsaistes radikalizāciju?

Viens no mums bija tas, ka laiks ir ļoti svarīgs. Kamēr potenciālie jauniesauktie tiek pārdoti pēc ideoloģijas, ir par vēlu viņus ietekmēt; jums ir jānokļūst pie viņiem, kad tie ir simpātiski, bet vēl nav pārdoti. Tāpēc mēs pievērsāmies mērķtiecīgai tiešsaistes reklāmai. Mēs esam izstrādājuši kaut ko, ko sauc par novirzīšanas metodi, kas izmanto mērķētas reklāmas, lai sasniegtu cilvēkus, kuri simpatizē ISIS, bet vēl nav tai apņēmušies, un novirza viņus uz tiešsaistes videoklipiem no mēreniem garīdzniekiem, pārbēdzējiem un pilsoņu žurnālistiem, kas varētu novērst viņu radikalizāciju.

Kādus rezultātus šī metode ir devusi?

Pilots, kas bija astoņas nedēļas garš un darbojās arābu un angļu valodā, sasniedza 320 000 cilvēku. Tam bija ārkārtīgi augsts reklāmu vidējais klikšķu skaits, un tas nodrošināja pusmiljonu minūšu video skatīšanās laiku. Ņemot vērā, ka cilvēki netērē vairāk par dažām sekundēm videoklipam, kas viņus neinteresē, tas ir iepriecinoši. Pēc mūsu izmēģinājuma pakalpojuma YouTube integrēja šo metodi savos meklēšanas rezultātos. Atvērtā koda metodoloģiju ir atkārtojuši arī citi, piemēram, Gen Next Foundation, un mēs turpinām atbalstīt dažas jaunas izvietošanas.

Jigsaw arī mēģina cīnīties ar tiešsaistes cenzūru. Cik slikta ir šī problēma?

Ja paskatās uz Freedom House indeksu, viņi saka, ka ar katru gadu situācija pasliktinās. Tas ir patiešām atturoši, jo tas ir pretrunā tam, ko cilvēki, kuri izstrādā internetu, vēlas no tā. Situācija ir tik nepastāvīga. Kad jums ir pilsoniskie nemieri, kā tas nesen bija Irānā, jūs redzat represīvo valdību dilemmu par to, vai slēgt internetu, jo [cenzūra] izraisa iedzīvotāju uzmanību un sabiedrības uzmanību un sašutumu. Bet, ja tie, kas ir pie varas, jutīsies apdraudēti, viņi cenzēs.

Ko tādi uzņēmumi kā Alphabet var darīt, lai to novērstu?

Mēs jūtam patiesi lielu atbildību, lai palīdzētu cilvēkiem piekļūt informācijai, īpaši konfliktu un represiju gadījumā. Viens no mūsu produktiem ir vērsts uz neatkarīgu plašsaziņas līdzekļu aizsardzību visā pasaulē pret cenzūras uzbrukumiem, ko sauc par izplatītu pakalpojumu atteikumu jeb DDoS, kas izjauc vietnes bezsaistē, pārpludinot tās ar trafiku. To sauc par Project Shield. Ideja par to radās mūsu lauka darbā. Mūsu komanda runāja ar Kenijas vēlēšanu uzraudzības grupu, un viņu vietne tika pārtraukta svarīgu vēlēšanu dienā. Uzņēmumam Google ir milzīga infrastruktūra un pasaules līmeņa DDoS mazināšanas iespējas, ko Project Shield izmanto. Ja vietnēm nav jāmitina Google vai Jigsaw, tā piedāvā pārbaudīt trafiku, pirms tā nonāk serverī, lai mēs varētu pamanīt ļaunprātīgo trafiku un to filtrēt.

Pārejam uz viltus ziņu problēmu. Kā mēs varam labāk noteikt valsts sponsorētus dezinformācijas centienus?

Saistīts stāsts

Saistīts stāsts Yasmin Green, Alphabet’s Jigsaw pētniecības un izstrādes vadītājs, izmanto tehnoloģiju, cerot padarīt pasauli labāku. Tas nav viegli.

Šo kampaņu mērķis ir stādīt idejas un stāstījumus, izmantojot viltus personas un ziņu vietnes, un pēc tam panākt, lai šīs sarunas tiktu apaugļotas masām, lai sarunas izskatītos kā dabiskas. Pētījuma jautājums, ko esam sev uzdevuši, ir par to, vai pastāv tehniski koordinētas, slēptas darbības marķieri, salīdzinot ar dabiskāku darbību, ko mēs sagaidām tiešsaistē. Ja tādi ir, mēs tos varētu izmantot automatizētā noteikšanā.

Šeit mēs aplūkojam vairākas dimensijas. Koordinētās kampaņas mēdz būt ilgākas par bioloģiskajām kampaņām, un iesaistītie cilvēki mēdz gaidīt, lai saņemtu norādījumus no saviem meistariem, tāpēc dažreiz ir neliela aizkave, pirms viņi pēkšņi rīkojas kopā. Šie dalībnieki mēdz būt saistīti arī ārkārtīgi saspringtos tīklos vai kopās, kas izskatās anomāli. Ir arī semantiskā dimensija. Šajās kampaņās bieži tiek izmantoti līdzīgi vārdi un frāzes, kas var būt centralizētas kontroles signāls.

Tīmekļa kompānijas ir kritizētas par to, ka tās nedara pietiekami daudz, lai novērstu naida runu un uzmākšanos tiešsaistē. Vai šī kritika ir godīga?

Es nedomāju, ka kāds iedomājās, ka mums tiešsaistē būs tāds iebiedēšanas un naida runas līmenis, kāds šobrīd ir, un mums ir ļoti smagi jācenšas nodrošināt, ka tiekam tam priekšā.

Ko Jigsaw dara, lai sagrautu tiešsaistes troļļus?

Mums ir komanda, kuras mērķis ir noskaidrot, kā dabiskās valodas apstrādi un mašīnmācīšanos var izmantot, lai identificētu tiešsaistes toksicitāti un palīdzētu moderatoriem un kopienām ar to cīnīties. Ir mūsu izstrādāts modelis, kas ir publiski pieejams, ar nosaukumu Perspektīva, un jūs to varat atrast vietnē www.perspectiveapi.com . Tas palīdz novērtēt komentārus par to toksicitātes līmeni. Pētnieku komanda meklē veidus, kā sasniegt citu precizitātes līmeni, lai palīdzētu mums labāk noteikt, kas notiek un kā moderatori to var kontrolēt.

Pastāv lielas bažas par to, ka algoritmu neobjektivitāte var kaitēt noteiktām sabiedrības grupām. Vai tas ir kaut kas, kam arī jūs koncentrējaties?

Jā. Mēs pavadām daudz laika, domājot par to, kā nodrošināt, lai mūsu AI perspektīvā nebūtu aizspriedumu, kas varētu kaitēt šī projekta mērķiem, proti, veidot iekļaujošas un empātiskas sarunas.

Jūs pavadāt lielu daļu savas dzīves, koncentrējoties uz interneta tumšo pusi. Vai joprojām esat optimistisks par tā potenciālu?

Es esmu, bet mums ir jāturpina izstrādāt novatoriskas tehnoloģijas, kas var palīdzēt risināt šīs patiešām grūtās problēmas.

paslēpties