Kā Facebook un Google finansē globālu dezinformāciju

Tehnoloģiju giganti maksā miljoniem dolāru klikšķēsmas lapu operatoriem, tādējādi finansējot informācijas ekosistēmu pasliktināšanos visā pasaulē.





gaisma un ēna uz grīdas

Getty

  • Kārena Hao arhīva lapa
2021. gada 20. novembris

Mjanma, 2021. gada marts.

Mēnesi pēc demokrātiskās valdības krišanas.



Jūsu pārlūkprogramma neatbalsta video tagu. Jūsu pārlūkprogramma neatbalsta video tagu.

Facebook Live video bija redzams, kā simtiem cilvēku Mjanmas ielās protestē pret militāro apvērsumu.

Tai bija gandrīz 50 000 kopīgojumu un vairāk nekā 1,5 miljoni skatījumu valstī, kurā dzīvo nedaudz vairāk par 54 miljoniem cilvēku.

Novērotāji, nespējot redzēt notikumus uz vietas, izmantoja uzņemto materiālu kopā ar simtiem citu tiešraides, lai izsekotu un dokumentētu situāciju. (MIT Technology Review aizmigloja plakātu nosaukumus un attēlus, lai neapdraudētu to drošību.)



Taču mazāk nekā dienu vēlāk viens un tas pats video tiks pārraidīts atkārtoti vairākas reizes, un katrs joprojām apgalvo, ka tiešraidē.

Milzīgas politiskās krīzes vidū vairs nebija iespējas atšķirt, kas ir īsts un kas nē.

Saskaņā ar Facebook pārvaldītā rīka CrowdTangle datiem 2015. gadā sešas no 10 vietnēm Mjanmā, kas visvairāk piesaistīja Facebook, bija no likumīgiem plašsaziņas līdzekļiem. Gadu vēlāk Facebook (kas nesen tika pārveidots par Meta) piedāvāja globālu piekļuvi tūlītējiem rakstiem, programmu izdevēji varēja izmantot, lai monetizētu savu saturu.



Gadu pēc šīs izlaišanas likumīgie izdevēji veidoja tikai divus no 10 labākajiem Facebook izdevējiem Mjanmā. Līdz 2018. gadam tie bija nulle. Tā vietā visa iesaistīšanās bija saistīta ar viltus ziņām un klikšķēsmas vietnēm. Valstī, kur Facebook ir sinonīms internetam, zemas kvalitātes saturs pārsteidza citus informācijas avotus.

Tieši šīs straujās Mjanmas digitālās vides degradācijas laikā kaujinieciska rohingu grupa — pārsvarā musulmaņu etniskā minoritāte — 2017. gada augustā uzbruka un nogalināja duci drošības spēku locekļu. Policija un militārpersonas sāka vērsties pret rohingjiem. un izspieda pret musulmaņiem vērstu propagandu, viltus ziņu raksti, kas izmantoja šo noskaņojumu, kļuva plaši izplatīti. Viņi apgalvoja, ka musulmaņi ir bruņoti, ka viņi pulcējas 1000 cilvēku pūļos, ka viņi ir aiz stūra, lai jūs nogalinātu.

Šodien joprojām nav skaidrs, vai viltus ziņas galvenokārt nāca no politiskiem vai finansiāli motivētiem dalībniekiem. Bet jebkurā gadījumā milzīgais viltus ziņu un klikšķu ēsmas apjoms darbojās kā degviela jau tā bīstami augstās etniskās un reliģiskās spriedzes liesmās. Tas mainīja sabiedrisko domu un saasināja konfliktu, kas galu galā noveda pie 10 000 rohingu nāves, pēc piesardzīgām aplēsēm, un vēl 700 000 cilvēku tika pārvietoti.



2018. gadā Apvienoto Nāciju Organizācijas izmeklēšanā tika konstatēts, ka vardarbība pret rohingjiem bija genocīds un ka Facebook ir bijusi noteicošā loma zvērībās. Mēnešus vēlāk Facebook atzina, ka nav darījis pietiekami daudz, lai novērstu to, ka mūsu platforma tiek izmantota šķelšanās veicināšanai un bezsaistes vardarbības kūdīšanai.

Pēdējo dažu nedēļu laikā atklājumi no Facebook dokumentiem, iekšējo dokumentu kolekcijas, ko Kongresam ir nodrošinājis trauksmes cēlējs Frensiss Haugens un ziņu organizāciju konsorcijs, ir apstiprinājuši to, ko pilsoniskās sabiedrības grupas ir teikušas gadiem ilgi: Facebook algoritmiski pastiprina aizkustinošu saturu. , apvienojumā ar nespēju noteikt prioritāti satura regulēšanai ārpus ASV un Eiropas, ir veicinājusi naida runas un dezinformācijas izplatību, bīstami destabilizējot valstis visā pasaulē.

Bet stāstam trūkst būtiska gabala. Facebook ne tikai pastiprina dezinformāciju.

Uzņēmums to arī finansē.

MIT tehnoloģiju pārskats Izmeklēšana, kas balstīta uz ekspertu intervijām, datu analīzi un dokumentiem, kas nebija iekļauti Facebook dokumentos, atklāja, ka Facebook un Google maksā miljoniem reklāmas dolāru, lai bankrotu klikšķēsmas dalībniekiem, veicinot informācijas ekosistēmu pasliktināšanos visā pasaulē.

Clickbait fermas anatomija

Facebook uzsāka savu tūlītējo rakstu programmu 2015. gadā kopā ar dažiem ASV un Eiropas izdevējiem. Uzņēmums maksāja par programmu kā veidu, kā uzlabot rakstu ielādes laiku un radīt labāku lietotāja pieredzi.

Saistīts stāsts

Kā Facebook kļuva atkarīgs no dezinformācijas izplatīšanas

Uzņēmuma mākslīgā intelekta algoritmi deva tam nepiepildāmu ieradumu meliem un naida runai. Tagad cilvēks, kurš tos uzbūvēja, nevar atrisināt problēmu.

Tāda bija publiskā pārdošana. Taču šī kustība arī ērti piesaistīja Google reklāmas dolārus. Pirms tūlītējiem rakstiem Facebook publicētie raksti tika novirzīti uz pārlūkprogrammu, kur tie tika atvērti paša izdevēja vietnē. Reklāmu nodrošinātājs, parasti Google, iegūs naudu par visiem reklāmas skatījumiem vai klikšķiem. Izmantojot jauno shēmu, raksti tiktu atvērti tieši Facebook lietotnē, un Facebook piederēs reklāmas vieta. Ja kāds iesaistītais izdevējs būtu arī izvēlējies monetizēt ar Facebook reklāmas tīklu, ko sauc par Audience Network, Facebook varētu ievietot reklāmas izdevēja stāstos un samazināt ieņēmumus par 30%.

Tūlītējie raksti ātri zaudēja savu sākotnējo lielo galveno izdevēju grupu. Viņiem izmaksas nebija pietiekami lielas, salīdzinot ar citiem pieejamajiem monetizācijas veidiem. Bet tas neattiecās uz izdevējiem globālajos dienvidos, ko Facebook aizsāka Uzņemšana programmā 2016 . 2018. gadā uzņēmums ziņoja par izmaksu 1,5 miljardi dolāru izdevējiem un lietotņu izstrādātājiem (kuri arī var piedalīties programmā Audience Network). Līdz 2019. gadam šis skaitlis bija sasniedzis vairāki miljardi .

Sākumā Facebook veica nelielu kvalitātes kontroli attiecībā uz to izdevēju veidiem, kas pievienojās programmai. Platformas dizains arī pietiekami nesodīja lietotājus par identiska satura ievietošanu Facebook lapās - patiesībā tas atalgoja par uzvedību. Viena raksta ievietošana vairākās lapās varētu pat divkāršot lietotāju skaitu, kuri uz tā noklikšķināja un radīja ieņēmumus no reklāmām.

Klikšķēsmas fermas visā pasaulē izmantoja šo trūkumu kā stratēģiju, ko tās izmanto arī šodien.

Saimniecība izveidos vietni vai vairākas vietnes…

…pārsvarā plaģiāta satura publicēšanai.

Tas tos reģistrē ar Tūlītējas preces un Mērķauditorijas tīkls ,

kas savos rakstos ievieto reklāmas.

Pēc tam tas publicē šos rakstus vairāku desmitu Facebook lapu kopā vienlaikus.

Clickbait aktieri vienā naktī parādījās Mjanmā. Izmantojot pareizo recepti saistoša un aizraujoša satura radīšanai, viņi varētu gūt tūkstošiem ASV dolāru mēnesī ieņēmumus no reklāmām vai 10 reizes lielāku par vidējo mēneša algu, ko viņiem maksā tieši Facebook.

Pirmkārt, uzņēmuma iekšējais dokuments oktobrī ziņoja MIT Technology Review , liecina, ka Facebook apzinājās šo problēmu jau 2019. gadā. Autors, bijušais Facebook datu zinātnieks Džefs Allens, atklāja, ka šī precīzā taktika ir ļāvusi klikšķēsmas fermām Maķedonijā un Kosovā sasniegt gandrīz pusmiljonu amerikāņu gadā pirms 2020. gada vēlēšanām. . Saimniecības bija arī iesaistījušās Instant Articles un Ad Breaks, līdzīgā monetizācijas programmā reklāmu ievietošanai Facebook videoklipos. Vienā brīdī pat 60% domēnu, kas reģistrēti tūlītējos rakstos, izmantoja surogātpasta rakstīšanas taktiku, ko izmanto klikšķēsmas fermas, teikts ziņojumā. Allens, kuram ir saistošs neizpaušanas līgums ar Facebook, nekomentēja ziņojumu.

Neskatoties uz iekšējo un ārējo pētnieku spiedienu, Facebook cīnījās, lai apturētu ļaunprātīgu izmantošanu. Tikmēr uzņēmums ieviesa vairāk monetizācijas programmu, lai atvērtu jaunas ieņēmumu plūsmas. Papildus reklāmu pauzēm videoklipiem bija arī IGTV monetizācija Instagram un klipā ievietotas reklāmas tiešraides videoklipiem. Šis neapdomīgais spiediens uz lietotāju skaita pieaugumu, ko mēs redzējām, — tagad mēs redzam neapdomīgu spiedienu uz izdevēju izaugsmi, saka Victoire Rio, digitālo tiesību pētnieks, kurš cīnās ar platformas izraisītu kaitējumu Mjanmā un citās globālo dienvidu valstīs.

MIT Technology Review ir atklājis, ka problēma tagad notiek globālā mērogā. Ir izveidojušies tūkstošiem klikšķēsmas operāciju, galvenokārt valstīs, kur Facebook izmaksas nodrošina lielāku un stabilāku ienākumu avotu nekā citi pieejamie darba veidi. Dažas ir cilvēku komandas, savukārt citas ir atsevišķas personas, ko atbalsta lēti automatizēti rīki, kas palīdz veidot un izplatīt rakstus masveidā. Viņi vairs neaprobežojas tikai ar rakstu publicēšanu. Viņi izspiež tiešraides videoklipus un pārvalda Instagram kontus, no kuriem tiešā veidā gūst peļņu vai izmanto, lai palielinātu trafiku uz savām vietnēm.

Google arī ir vainīgs. Tās programma AdSense veicināja Maķedonijas un Kosovas fermas, kuru mērķauditorija bija amerikāņu auditorija pirms 2016. gada prezidenta vēlēšanām. Un tas ir AdSense, kas mudina jaunus klikšķu ēsmas dalībniekus pakalpojumā YouTube publicēt nežēlīgu saturu un vīrusu dezinformāciju.

Daudzas klikšķēsmas fermas mūsdienās gūst peļņu gan ar tūlītējiem rakstiem, gan AdSense, saņemot izmaksas no abiem uzņēmumiem. Un tāpēc, ka Facebook un YouTube algoritmi palielināt to, kas lietotājus saista , viņi ir izveidojuši informācijas ekosistēmu, kurā saturs, kas tiek izplatīts vienā platformā, bieži tiks pārstrādāts otrā, lai palielinātu izplatīšanu un ieņēmumus.

Šie aktieri nepastāvētu, ja nebūtu platformu, saka Rio.

Saistīts stāsts

Iekšējais ziņojums liecina, ka troļļu fermas sasniedza 140 miljonus amerikāņu mēnesī Facebook pirms 2020. gada vēlēšanām

Tas nav normāli. Tas nav veselīgi.

Atbildot uz detalizētajiem pierādījumiem, ko sniedzām katram uzņēmumam par šo uzvedību, Meta pārstāvis Džo Osborns apstrīdēja mūsu galvenos secinājumus, sakot, ka mēs esam nepareizi sapratuši šo problēmu. Neskatoties uz to, mēs daudzus gadus esam ieguldījuši jaunu ekspertu vadītu un mērogojamu risinājumu izveidē šīm sarežģītajām problēmām un turpināsim to darīt, viņš teica.

Google apstiprināja, ka šāda rīcība pārkāpj tās politikas, un pārtrauca visus YouTube kanālus MIT Technology Review, kas tika identificēts kā dezinformācijas izplatīšana. Mēs smagi strādājam, lai aizsargātu skatītājus no klikšķu ēsmas vai maldinoša satura visās mūsu platformās, un esam ieguldījuši lielus ieguldījumus sistēmās, kas paredzētas, lai paaugstinātu autoritatīvu informāciju, sacīja YouTube pārstāve Ivija Čoi.

Clickbait fermas nav vērstas tikai uz savām mītnes valstīm. Sekojot Maķedonijas un Kosovas aktieru piemēram, jaunākie operatori ir sapratuši, ka viņiem nav jāsaprot ne valsts vietējais konteksts, ne valoda, lai politisko sašutumu pārvērstu ieņēmumos.

MIT Technology Review sadarbojās ar Alenu, kurš tagad vada bezpeļņas organizāciju ar nosaukumu Integritātes institūts kas veic pētījumus par platformas ļaunprātīgu izmantošanu, lai identificētu iespējamos klikšķēsmas dalībniekus pakalpojumā Facebook. Mēs koncentrējāmies uz lapām, kas ir beigušās Kambodžā un Vjetnamā — divās no valstīm, kurās klikšķēsmas operācijas tagad gūst peļņu no situācijas Mjanmā.

Mēs ieguvām datus no CrowdTangle, kura izstrādes komanda uzņēmums izjuka šā gada sākumā , un no Facebook izdevēju saraksti , kas reģistrē, kuri izdevēji ir reģistrēti monetizācijas programmās. Alens uzrakstīja pielāgotu klasterizācijas algoritmu, lai atrastu lapas, kurās saturs tiek publicēts ļoti saskaņotā veidā un kuru mērķauditorija ir valoda, kas galvenokārt tiek lietota ārpus valstīm, kurās notiek darbības. Pēc tam mēs analizējām, kurās kopās bija vismaz viena lapa, kas reģistrēta monetizācijas programmā, vai kurās tika aktīvi reklamēts saturs no programmā reģistrētas lapas.

Mēs atradām vairāk nekā 2000 lapu abās valstīs, kas ir saistītas ar šo klikšķēsmai līdzīgu darbību. (Tas varētu būt nepietiekams skaits, jo ne visas Facebook lapas izseko CrowdTangle.) Daudzām ir miljoniem sekotāju, un tās, iespējams, sasniedz vēl vairāk lietotāju. Savā 2019. gada ziņojumā Alens to konstatēja 75% lietotāju kuri tika pakļauti klikšķēsmas saturam no Maķedonijā un Kosovā pārvaldītām fermām, nekad nebija sekojušas nevienai no lapām. Tā vietā Facebook satura ieteikumu sistēma to bija ievietojusi savās ziņu plūsmās.

Kad MIT Technology Review nosūtīja Facebook šo lapu sarakstu un detalizētu mūsu metodoloģijas skaidrojumu, Osborns nosauca analīzi par kļūdainu. Lai gan dažas šeit esošās lapas, iespējams, ir bijušas mūsu izdevēju sarakstos, daudzas no tām faktiski negāja peļņu pakalpojumā Facebook, viņš teica.

Patiešām, šie skaitļi nenorāda, ka visas šīs lapas radīja ieņēmumus no reklāmām. Tā vietā tas ir aprēķins, pamatojoties uz datiem, ko Facebook ir padarījis publiski pieejamus, par to lapu skaitu, kas saistītas ar klikšķēsmas dalībniekiem Kambodžā un Vjetnamā, kuras Facebook ir padarījis par piemērotām peļņas gūšanai platformā.

Osborns arī apstiprināja, ka vairāk Kambodžas pārvaldīto klikšķēsmai līdzīgu lapu, kuras mēs atradām, ir tieši reģistrētas kādā no Facebook monetizācijas programmām, nekā mēs iepriekš domājām. Mūsu analīzē tika konstatēts, ka 35% lapu mūsu klasteros ir bijušas pēdējo divu gadu laikā. Pārējie 65% būtu netieši radīja ieņēmumus no reklāmām, plaši reklamējot reģistrētās lapas saturu plašākai auditorijai. Osborns teica, ka patiesībā apmēram puse no mūsu atrastajām lapām jeb vēl aptuveni 150 lapas vienā brīdī bija tieši reģistrētas monetizācijas programmā, galvenokārt tūlītējos rakstos.

Neilgi pēc tam, kad mēs sazinājāmies ar Facebook, klikšķēsmas lapu operatori Mjanmā sāka sūdzēties tiešsaistes forumos, ka viņu lapas ir palaistas no tūlītējiem rakstiem. Osborns atteicās atbildēt uz mūsu jautājumiem par uzņēmuma jaunākajām izpildes darbībām.

Facebook ir nepārtraukti centies izskaust šos dalībniekus no savām programmām. Piemēram, tikai 30 no Kambodžas pārvaldītajām lapām joprojām gūst peļņu, sacīja Osborns. Taču mūsu dati no Facebook izdevēju sarakstiem liecina, ka izpilde bieži tiek aizkavēta un nepilnīga — klikšķu ēsmas lapas var palikt monetizācijas programmās simtiem dienu, pirms tās tiek noņemtas. Tie paši aktieri arī pāršķirs jaunas lapas, kad viņu vecie būs demonetizēti.

Allens tagad ir atvērtā avota kods mēs mēdzām mudināt citus neatkarīgus pētniekus pilnveidot un papildināt mūsu darbu.

Lai atbalstītu MIT Technology Review žurnālistiku, apsveriet iespēju kļūt par abonentu .

Izmantojot to pašu metodoloģiju, mēs arī atradām vairāk nekā 400 ārzemēs pārvaldītu lapu, kuru mērķauditorija galvenokārt ir ASV auditorija grupās, kuras pēdējo divu gadu laikā parādījās Facebook izdevēju sarakstos. (Mēs neiekļāvām lapas no valstīm, kuru galvenā valoda ir angļu valoda.) Komplektā ietilpst monetizācijas klasteris, kas daļēji darbojas Maķedonijā un ir paredzēts sievietēm un LGBTQ kopienai. Tam ir astoņas Facebook lapas, tostarp divas pārbaudītas ar attiecīgi vairāk nekā 1,7 miljoniem un 1,5 miljoniem sekotāju, un tajā tiek publicēts saturs no piecām vietnēm, katra reģistrēta programmā Google AdSense un Audience Network. Tam ir arī trīs Instagram konti, kas gūst peļņu, izmantojot dāvanu veikalus un sadarbību, kā arī novirzot lietotājus uz tām pašām, lielākoties plaģiātu vietnēm. Facebook lapu un Instagram kontu administratori neatbildēja uz mūsu komentāru pieprasījumiem.

LGBT ziņu un sieviešu tiesību ziņu lapās Facebook tiek publicēts identisks saturs no piecām ar pašu saistītajām vietnēm, kas gūst peļņu, izmantojot Instant Articles un Google AdSense, kā arī no citām ziņu vietām, ar kurām, šķiet, ir apmaksāta partnerība.

Osborns sacīja, ka Facebook tagad izmeklē kontus pēc tam, kad esam pievērsuši tiem uzņēmuma uzmanību. Čojs sacīja, ka Google iepriekš politikas pārkāpumu dēļ ir noņēmis AdSense reklāmas no simtiem šo vietņu lapu, taču pašām vietnēm joprojām ir atļauts gūt peļņu, pamatojoties uz uzņēmuma regulārajām pārskatiem.

Lai gan ir iespējams, ka maķedoniešiem, kuri pārvalda šīs lapas, patiešām rūp ASV politika un sieviešu un LGBTQ tiesības, saturs nenoliedzami rada ieņēmumus. Tas nozīmē, ka tas, ko viņi reklamē, visticamāk, tiek vadīts no tā, kas uzvar un zaudē, izmantojot Facebook ziņu plūsmas algoritmu.

Vienas lapas vai lapu kopas aktivitāte var nebūt nozīmīga, saka Kamils ​​Fransuā, Kolumbijas universitātes pētnieks, kurš pēta organizētās dezinformācijas kampaņas sociālajos medijos. Bet, kad simtiem vai tūkstošiem aktieru dara vienu un to pašu, paplašinot to pašu saturu un sasniedzot miljoniem auditorijas locekļu, tas var ietekmēt publisko sarunu. Tas, ko cilvēki uzskata par sadzīvisku sarunu par kādu tēmu, patiesībā var būt kaut kas pilnīgi atšķirīgs, saka Fransuā. Tas ir apmaksātu cilvēku bars, kas izliekas, ka viņiem nav nekādu attiecību, optimizējot, ko publicēt.

Osborns sacīja, ka Facebook pēdējo divu gadu laikā ir izveidojis vairākas jaunas politikas un izpildes protokolus, lai risinātu šo problēmu, tostarp sodījis lapas, kas iziet no vienas valsts un kuras uzvedas tā, it kā tās būtu vietējas citā valstī, kā arī sodījis lapas, kas veido auditoriju pamatojoties uz vienu tēmu un pēc tam pāriet uz citu. Taču gan Alens, gan Rio apgalvo, ka uzņēmuma rīcība nav spējusi novērst platformas politikā un dizainā esošos būtiskos trūkumus — ievainojamības, kas veicina globālu informācijas krīzi.

Tas galvenokārt ietekmē valstis ārpus ASV, bet rada milzīgu risku arī ASV ilgtermiņā, saka Rio. Tas ietekmēs gandrīz jebkur pasaulē, kad notiek saasināti notikumi, piemēram, vēlēšanas.

Dezinformācija īrē

Atbildot uz MIT Technology Review sākotnējo ziņojumu par Allena 2019. gada iekšējo ziņojumu, ko mēs publicēts pilnībā , Deivids Agranovičs, Facebook globālo draudu pārtraukšanas direktors, tvītoja , Šeit norādītās lapas, pamatojoties uz mūsu pašu 2019. gada pētījumu, ir finansiāli motivēti surogātpasta izplatītāji, nevis atklātas ietekmes darbības. Abi šie ir nopietni izaicinājumi, taču tie ir atšķirīgi. To sajaukšana nevienam nepalīdz. Osborns atkārtoja, ka, reaģējot uz mūsu atklājumiem, mēs sajaucam abas grupas.

Taču dezinformācijas eksperti saka, ka ir maldinoši novilkt stingru robežu starp finansiāli motivētiem surogātpasta izplatītājiem un politiskās ietekmes operācijām.

Pastāv atšķirības nodomos: finansiāli motivēti surogātpasta izplatītāji ir agnostiķi attiecībā uz saturu, ko viņi publicē. Viņi dodas visur, kur ir klikšķi un nauda, ​​ļaujot Facebook ziņu plūsmas algoritmam noteikt, kuras tēmas viņi aplūkos tālāk. Tā vietā politiskās operācijas ir vērstas uz konkrētas darba kārtības virzīšanu.

Bet praksē tam nav nozīmes : pēc savas taktikas un ietekmes viņi bieži izskatās vienādi. Vidēji dienā finansiāli motivēta klikšķēsmas vietne var būt piepildīta ar ziņām par slavenībām, jaukiem dzīvniekiem vai ļoti emocionāliem stāstiem — tas viss ir uzticams satiksmes virzītājspēks. Pēc tam, kad iestājas politisks satricinājums, viņi virzās uz hiperpartiju ziņām, dezinformāciju un sašutuma ēsmu, jo tas kļūst vairāk iesaistīts.

Maķedonijas lapu kopa ir lielisks piemērs. Lielāko daļu laika saturā tiek reklamētas sieviešu un LGTBQ tiesības. Taču laikā, kad notika tādi notikumi kā 2020. gada vēlēšanas, 6. janvāra sacelšanās un Teksasas pretabortu sirdsdarbības likumprojekta pieņemšana, klasteris pastiprināja īpaši izteiktu politisko saturu. Daudzus tā rakstus plaši izplata likumīgas lapas ar milzīgu sekotāju skaitu, tostarp tās, kuras vada Occupy Democrats, Union of Concerned Scientists un Women’s March Global.

Piemērs ļoti politiskam rakstam, kas galu galā tika izdzēsts no vienas no piecām ar kopu saistītajām vietnēm. Clickbait vietnes bieži iztīra vecos rakstus no savām lapām.

Tikmēr politiskās ietekmes operācijas var publicēt slavenību un dzīvnieku saturu, lai izveidotu Facebook lapas ar lielu sekotāju skaitu. Pēc tam viņi arī pievēršas politikai sensitīvu politisko notikumu laikā, izmantojot jau viņu rīcībā esošo milzīgo auditoriju.

Politiskie darbinieki dažreiz maksās arī finansiāli motivētiem surogātpasta izplatītājiem, lai viņi savās Facebook lapās pārraidītu propagandu, vai iegādāsies lapas, lai tās izmantotu ietekmes kampaņām. Rio jau ir redzējuši pierādījumus par melno tirgu, kurā klikšķēsmas aktieri var pārdot savu lielo Facebook auditoriju.

Citiem vārdiem sakot, lapas izskatās nekaitīgas, kamēr tās tā nav. Mēs esam pilnvarojuši neautentiskus dalībniekus uzkrāt milzīgus sekotājus lielākoties nezināmiem mērķiem, ziņojumā rakstīja Alens.

Šādas pārmaiņas Mjanmā ir notikušas daudzas reizes kopš klikšķēsmas fermu pieauguma, jo īpaši rohingu krīzes laikā un atkal pirms un pēc šī gada militārā apvērsuma. (Pēdējo izraisīja notikumi, kas līdzīgi tiem, kas noveda pie ASV 6. janvāra sacelšanās, tostarp plaši izplatīti viltus apgalvojumi par nozagtām vēlēšanām .)

2020. gada oktobrī Facebook likvidēja vairākas lapas un grupas, kas Mjanmā nodarbojās ar koordinētu klikšķēsmas uzvedību. In analīze No šiem īpašumiem Graphika, pētījumu firma, kas pēta informācijas izplatību tiešsaistē, atklāja, ka lapas galvenokārt koncentrējās uz slavenību ziņām un tenkām, bet izspieda politisko propagandu, bīstamu pret musulmaņiem vērstu retoriku un Covid-19 dezinformāciju svarīgākajos krīzes brīžos. . Desmitiem lapu katrai bija vairāk nekā 1 miljons sekotāju, un lielākajai daļai sekoja vairāk nekā 5 miljoni.

Tāda pati parādība notika Filipīnās pirms prezidenta Rodrigo Dutertes 2016. gada vēlēšanām. Duterte ir salīdzināta ar Donaldu Trampu viņa populistiskās politikas, burvīgās retorikas un autoritārās noslieces dēļ. Viņa kampaņas laikā klikšķēsmas ferma, kas formāli reģistrēta kā uzņēmums Twinmark Media, pārgāja no slavenību atspoguļošanas un izklaides uz viņa un viņa ideoloģijas popularizēšanu.

Tolaik tika plaši uzskatīts, ka politiķi bija nolīguši Tvinmarku ietekmes kampaņas veikšanai. Bet intervijās ar žurnālisti un pētniekiem , bijušie Twinmark darbinieki atzina, ka viņi vienkārši dzenas pēc peļņas. Eksperimentējot, darbinieki atklāja, ka Duterte atbalstošais saturs bija izcils karsto vēlēšanu laikā. Viņi pat maksāja citām slavenībām un ietekmētājiem, lai viņi dalītos savos rakstos, lai iegūtu vairāk klikšķu un gūtu lielākus ieņēmumus no reklāmām, saskaņā ar pētījumu no mediju un komunikācijas zinātniekiem Džonatana Onga un Džeisona Vincenta A. Kabanesa.

Kampaņas pēdējos mēnešos Duterte dominēja politiskajā diskursā sociālajos medijos. Facebook pats viņu nosauca par neapstrīdams Facebook sarunu karalis kad tika atklāts, ka viņš bija pakļauts 68% no visām ar vēlēšanām saistītajām diskusijām , salīdzinot ar 46% viņa nākamajam tuvākajam konkurentam.

Trīs mēnešus pēc vēlēšanām mediju kompānijas Rappler izpilddirektore Marija Ressa, kura šogad saņēma Nobela Miera prēmiju par darbu cīņā pret dezinformāciju, publicēja gabalu aprakstot, kā saskaņotas klikšķu ēsmas un propagandas koncerts Facebook mainīja sabiedrības viedokli par galvenajiem jautājumiem.

Tā ir stratēģija “nāve ar tūkstoš samazinājumiem” — faktu nošķelšana, izmantojot puspatiesības, kas izdomā alternatīvu realitāti, apvienojot robotu spēku un viltotus kontus sociālajos medijos, lai manipulētu ar reāliem cilvēkiem, viņa rakstīja.

2019. gadā Facebook beidzot noņēma 220 Facebook lapas, 73 Facebook konti un 29 Instagram konti, kas saistīti ar Twinmark Media. Līdz tam laikam Facebook un Google jau bija samaksājuši fermai pat 8 miljonus dolāru ( 400 miljoni Filipīnu peso ).

Ne Facebook, ne Google šo summu neapstiprināja. Meta Osborns apstrīdēja raksturojumu, ka Facebook ir ietekmējis vēlēšanas.

Attīstošs drauds

Saskaņā ar Allena iekšējo ziņojumu, Facebook 2019. gada pirmajā pusē pielika lielas pūles, lai izskaustu klikšķēsmas fermas no tūlītējiem rakstiem un reklāmu pārtraukumiem. Konkrētāk, tas sāka pārbaudīt izdevējus, lai noskaidrotu satura oriģinalitāti, un atspēkotu tos, kuri publicēja lielākoties neoriģinālu saturu.

Taču šīs automatizētās pārbaudes ir ierobežotas. Tie galvenokārt koncentrējas uz video oriģinalitātes novērtēšanu, nevis, piemēram, uz to, vai raksts ir plaģiāts. Pat ja viņi to darītu, šādas sistēmas būtu tikai tik labas, cik ir uzņēmuma mākslīgā intelekta iespējas noteiktā valodā. Valstis, kurās AI pētniecības kopiena nav noteikusi par prioritāti valodām, tiek pievērsta daudz mazāk uzmanības, ja tāda vispār tiek pievērsta. Etiopijā ir 100 miljoni cilvēku un sešas valodas. Facebook atbalsta tikai divas no šīm valodām integritātes sistēmām, Haugen teica savā liecībā Kongresam.

Rio norāda, ka arī izpildē ir nepilnības. Pārkāpēji tiek izņemti no programmas, bet ne no platformas, un viņi var iesniegt apelāciju, lai viņus atjaunotu. Apelācijas izskata atsevišķa komanda no tās, kas veic izpildi un veic tikai pamata aktuālās pārbaudes pirms aktiera atjaunošanas darbā. (Facebook neatbildēja uz jautājumiem par to, ko šīs pārbaudes patiesībā meklē.) Rezultātā var paiet tikai stundas, līdz klikšķēsmas operators pēc noņemšanas atkal un atkal pievienosies. Kaut kā visas komandas savā starpā nerunā, viņa saka.

Šādi Rio šī gada martā nokļuva panikas stāvoklī. Mēnesi pēc tam, kad militāristi bija arestējuši bijušo demokrātu līderi Aung San Suu Kyi un sagrābuši kontroli pār valdību, protestētāji joprojām vardarbīgi cīnījās ar jauno režīmu. Militāristi sporādiski pārtrauca piekļuvi internetam un apraides tīkliem, un Rio baidījās par savu draugu drošību valstī.

Viņa sāka tos meklēt Facebook Live video. Viņa saka, ka cilvēki patiešām aktīvi skatījās šos videoklipus, jo šādi jūs varat sekot līdzi saviem mīļajiem. Viņa neuztraucās, redzot, ka videoklipi nāk no lapām ar uzticamības problēmām; viņa uzskatīja, ka straumētāji izmanto viltotas lapas, lai aizsargātu savu anonimitāti.

Tad notika neiespējamais: viņa divas reizes redzēja vienu un to pašu tiešraides video. Viņa to atcerējās, jo tas bija šausminoši: simtiem bērnu, kuri izskatījās pat 10 gadus veci, rindā ar rokām uz galvas tika iekrauti militārajās kravas automašīnās.

Kad viņa tajā iedziļinājās, viņa atklāja, ka videoklipi vispār nav tiešraidē. Tiešraides videoklipi ir paredzēti, lai norādītu reāllaika apraidi un ietvertu svarīgus metadatus par aktivitātes laiku un vietu. Šie videoklipi tika lejupielādēti no citurienes un atkārtoti pārraidīti Facebook, izmantojot trešo pušu rīkus, lai tie izskatītos kā tiešraides straumes.

Saistīts stāsts

Viņa riskēja ar visu, lai atklātu Facebook. Tagad viņa stāsta savu stāstu.

Sofija Džana, bijusī Facebook datu zinātniece, atklāja, ka tas ļauj veikt globālas politiskās manipulācijas un ir maz darījis, lai tās apturētu.

Viņu bija simtiem, kas savāca desmitiem tūkstošu saderināšanās gadījumu un simtiem tūkstošu skatījumu. Novembra sākumā MIT Technology Review atklāja desmitiem dublikātu viltotu tiešraides video no šī laika perioda. Viens dublikātu pāris ar attiecīgi vairāk nekā 200 000 un 160 000 skatījumu, pasludināts birmiešu valodā, es esmu vienīgais, kas tiešraidē no visas valsts reāllaikā. Pēc tam, kad mēs tiem pievērsām uzmanību, Facebook noņēma vairākus no tiem, taču joprojām ir saglabājušies vēl vairāki desmiti, kā arī lapas, kurās tie tika publicēti. Osborns sacīja, ka uzņēmums ir informēts par šo problēmu un ir ievērojami samazinājis šīs viltotās dzīvības un to izplatību pēdējā gada laikā.

Ironiskā kārtā Rio uzskata, ka videoklipi, iespējams, tika izvilkti no krīzes kadriem, kas augšupielādēti vietnē YouTube kā cilvēktiesību pierādījumi. Citiem vārdiem sakot, ainas patiešām ir no Mjanmas, taču tās visas tika publicētas no Vjetnamas un Kambodžas.

Pēdējā pusgada laikā Rio ir izsekojusi un identificējusi vairākas lapu kopas, kas izsmeltas Vjetnamā un Kambodžā. Daudzi izmantoja viltotus tiešraides videoklipus, lai ātri palielinātu savu sekotāju skaitu un mudinātu skatītājus pievienoties Facebook grupām, kas slēptas kā demokrātiskas kopienas. Tagad Rio pauž bažas, ka Facebook jaunākā klipā ievietoto reklāmu ieviešana tiešraides videoklipos vēl vairāk mudinās klikšķēsmas dalībniekus tās viltot. Viens Kambodžas klasteris ar 18 lapām sāka publicēt ļoti postošu politisko dezinformāciju, četru mēnešu laikā sasniedzot 16 miljonus iesaistīšanās un 1,6 miljonu auditoriju. Martā Facebook likvidēja visas 18 lapas, taču jaunas kopas turpina augt, kamēr citas paliek.

Cik Rio zina, šie Vjetnamas un Kambodžas aktieri nerunā birmiešu valodā. Viņi, iespējams, nesaprot Birmas kultūru vai valsts politiku. Galvenais ir tas, ka viņiem tas nav nepieciešams. Ne tad, kad viņi zog savu saturu.

Kopš tā laika Rio ir atradis vairākas Kambodžas privātās Facebook un Telegram grupas (vienā ar vairāk nekā 3000 personām), kurās viņi tirgo rīkus un padomus par labākajām naudas pelnīšanas stratēģijām. MIT Technology Review pārskatīja savāktos dokumentus, attēlus un videoklipus un nolīga khmeru tulku, lai viņš interpretētu mācību video, kas soli pa solim izvada skatītājus klikšķēsmas darbplūsmā.

Materiāli parāda, kā Kambodžas operatori apkopo pētījumus par labāko saturu katrā valstī un plaģiātu izmanto savām klikšķēsmas vietnēm. Vienā kopienā koplietotajā Google diska mapē ir divi desmiti izklājlapu ar saitēm uz populārākajām Facebook grupām 20 valstīs, tostarp ASV, Apvienotajā Karalistē, Austrālijā, Indijā, Francijā, Vācijā, Meksikā un Brazīlijā.

Apmācības video arī parāda, kā viņi atrod vispopulārākos YouTube videoklipus dažādās valodās un izmanto automatizētu rīku, lai katru no tiem pārvērstu par rakstu savai vietnei. Mēs atradām 29 YouTube kanālus, kuros tiek izplatīta politiska dezinformācija par pašreizējo politisko situāciju Mjanmā, piemēram, kuri tika pārveidoti par klikšķēsmas rakstiem un izplatīti jaunām Facebook mērķauditorijām.

Viens no YouTube kanāliem, kas izplata politisku dezinformāciju Mjanmā. Google galu galā to nojauca.

Pēc tam, kad mēs pievērsām uzņēmuma uzmanību kanāliem, YouTube pārtrauca to visu darbību, jo tika pārkāptas kopienas vadlīnijas, tostarp septiņus, kas bija daļa no koordinētām ietekmes operācijām, kas saistītas ar Mjanmu. Choi atzīmēja, ka YouTube iepriekš arī pārtrauca reklāmu rādīšanu gandrīz 2000 videoklipos šajos kanālos. Viņa sacīja, ka mēs turpinām aktīvi uzraudzīt savas platformas, lai novērstu sliktus dalībniekus, kuri vēlas ļaunprātīgi izmantot mūsu tīklu peļņas gūšanai.

Ir arī citi rīki, tostarp tādi, kas ļauj iepriekš ierakstītus videoklipus parādīt kā viltotus Facebook Live video. Cits nejauši ģenerē profila informācija ASV vīriešiem , tostarp attēlu, vārdu, dzimšanas dienu, sociālās apdrošināšanas numuru, tālruņa numuru un adresi, tāpēc vēl viens rīks var masveidā izveidot viltotus Facebook kontus, izmantojot daļu šīs informācijas.

Tagad tas ir tik vienkārši izdarāms, ka daudzi Kambodžas aktieri darbojas solo. Rio tos sauc par mikrouzņēmējiem. Ekstrēmākajā scenārijā viņa ir redzējusi, ka personas pašas pārvalda pat 11 000 Facebook kontu.

Veiksmīgi mikrouzņēmēji arī apmāca citus veikt šo darbu savā kopienā. Tas kļūs sliktāks, viņa saka. 'Jebkurš Džo pasaulē var ietekmēt jūsu informācijas vidi, jums to pat nemanot.

Peļņa pār drošību

Savā Senāta liecībā šī gada oktobrī Haugena uzsvēra Facebook uz saturu balstītās pieejas platformas ļaunprātīgai izmantošanai būtiskos trūkumus. Pašreizējā stratēģija, kas vērsta uz to, kas var un ko nevar parādīties platformā, var būt tikai reaģējoša un nekad visaptveroša, viņa sacīja. Tas ne tikai prasa, lai Facebook uzskaitītu visus iespējamos ļaunprātīgas izmantošanas veidus, bet arī uzņēmumam ir jāprot regulēt visās valodās. Viņa sacīja, ka Facebook ir cietis neveiksmi abos gadījumos, un visneaizsargātākie cilvēki pasaulē ir maksājuši vislielāko cenu.

Galvenais vaininieks, sacīja Haugens, ir Facebook vēlme maksimāli palielināt iesaistīšanos, kas ir pārvērtusi tā algoritmu un platformas dizainu par milzīgu naida runas un dezinformācijas bultu. An MIT tehnoloģiju pārskata izmeklēšana no šī gada sākuma, pamatojoties uz desmitiem interviju ar Facebook vadītājiem, esošajiem un bijušajiem darbiniekiem, nozares vienaudžiem un ārējiem ekspertiem, apstiprina šo raksturojumu.

Viņas liecība arī atkārtoja to, ko Alens rakstīja savā ziņojumā, un to, ko Rio un citi dezinformācijas eksperti ir vairākkārt redzējuši savos pētījumos. Clickbait fermām pirmais solis ir iekļūšana monetizācijas programmās, taču tas, cik daudz viņi iekasē, ir atkarīgs no tā, cik lielā mērā Facebook satura ieteikumu sistēmas uzlabo viņu rakstus. Viņi neattīstītos un neplaģiātu tik kaitīgu saturu, ja viņu ēnas taktikai platformā nebūtu tik labi.

Rezultātā pašu saimniecību iznīcināšana nav risinājums: ļoti motivēti dalībnieki vienmēr varēs izveidot jaunas tīmekļa vietnes un jaunas lapas, lai iegūtu vairāk naudas. Tā vietā ir jārisina algoritmi un satura atlīdzības mehānismi.

Savā ziņojumā Alens ierosināja viens iespējamais veids Facebook varētu to izdarīt: satura ranžēšanai izmantojot tā saukto uz grafiku balstītu autoritātes pasākumu. Tas palielinātu augstākas kvalitātes lapas, piemēram, ziņas un plašsaziņas līdzekļus, un samazinātu zemākas kvalitātes lapas, piemēram, klikšķēsmu, mainot pašreizējo tendenci.

Haugens uzsvēra, ka Facebook nespēja salabot savu platformu nebija risinājumu, rīku vai jaudas trūkuma dēļ. Viņa sacīja, ka Facebook var mainīties, bet acīmredzami nedarīs to pats. Es baidos, ka bez darbības šodien redzamā šķelšanās un ekstrēmistiskā uzvedība ir tikai sākums. Tas, ko mēs redzējām Mjanmā un tagad redzam Etiopijā, ir tikai stāsta sākuma nodaļas, kas ir tik biedējošas, ka neviens nevēlas lasīt tā beigas.

(Osborns sacīja, ka Facebook mūsdienās Mjanmai ir principiāli atšķirīga pieeja ar lielāku pieredzi valsts cilvēktiesību jautājumos un īpašu komandu un tehnoloģiju, lai atklātu pārkāpjošu saturu, piemēram, naida runu, birmiešu valodā.)

Oktobrī aizejošais ANO īpašais sūtnis Mjanmā paziņoja, ka valsts tā ir darījusi pārvērtās pilsoņu karā . Kopš tā laika tūkstošiem cilvēku ir aizbēguši uz kaimiņvalstīm, piemēram, Taizemi un Indiju. No novembra vidus klikšķēsmas aktieri turpināja katru stundu publicēt viltus ziņas. Vienā amatā tika noslepkavota demokrātiskā līdere Māte Suu. Citā viņa beidzot bija atbrīvota.

Īpašs paldies mūsu komandai. Reičelas Steinas un Andrē Vitorio dizains un izstrāde. Mākslas virziens un producēšana: Emīlijas Luongas un Stefānijas Ārnetas. Rediģējuši Nails Fērts un Mets Honans. Faktu pārbaudi veicis Mets Mahonijs. Kopiju rediģējusi Linda Loulentāla.

Labojums: Iepriekšējā raksta versijā bija nepareizi norādīts, ka pēc tam, kad mēs sazinājāmies ar Facebook, klikšķēsmas aktieri Kambodžā sāka sūdzēties tiešsaistes forumos par to, ka viņi tiek izslēgti no tūlītējiem rakstiem. Aktieri patiesībā bija Mjanmā.