Iekšējais ziņojums liecina, ka troļļu fermas sasniedza 140 miljonus amerikāņu mēnesī Facebook pirms 2020. gada vēlēšanām

MIT tehnoloģiju apskats | Envato elementi

Atjaunināt: Pēc šī stāsta publicēšanas Facebook noņēma divas no piecām mūsu identificētajām troļļu fermas lapām.

Gatavojoties 2020. gada vēlēšanām, kas ir vissmagākās ASV vēsturē, Facebook populārākās kristiešu un melnādaino amerikāņu satura lapas vadīja Austrumeiropas troļļu fermas. Šīs lapas bija daļa no lielāka tīkla, kas saskaņā ar uzņēmuma iekšējo ziņojumu kopā sasniedza gandrīz pusi no visiem amerikāņiem, un to sasniedza nevis ar lietotāju izvēli, bet gan galvenokārt Facebook paša platformas dizaina un iesaistīšanās izsalkušā algoritma rezultātā.

Saistīts stāsts

Kā Facebook kļuva atkarīgs no dezinformācijas izplatīšanas

Uzņēmuma mākslīgā intelekta algoritmi deva tam nepiepildāmu ieradumu meliem un naida runai. Tagad cilvēks, kurš tos uzbūvēja, nevar atrisināt problēmu.

Ziņojumā, kas tika uzrakstīts 2019. gada oktobrī un ko MIT Technology Review ieguva no bijušā Facebook darbinieka, kurš nebija iesaistīts tā izpētē, konstatēts, ka pēc 2016. gada vēlēšanām Facebook nespēja noteikt prioritātes būtiskām izmaiņām, kā tās platforma veicina un izplata informāciju. Tā vietā uzņēmums īstenoja neprātīgu stratēģiju, kas ietvēra slikto dalībnieku darbības uzraudzību un apturēšanu, kad viņi iesaistījās politiskajā diskursā, un pievienoja dažas aizsargmargas, kas novērsa ļaunāko no ļaunākā.

Taču šī pieeja maz palīdzēja apturēt pamatā esošo problēmu, norādīts ziņojumā. Troļļu fermas — profesionālas grupas, kas koordinēti strādā, lai sociālajos tīklos publicētu provokatīvu saturu, bieži vien propagandu, joprojām veidoja plašu auditoriju, veidojot Facebook lapu tīklus. Viņu saturs mēnesī sasniedza 140 miljonus ASV lietotāju, no kuriem 75% nekad nebija sekojuši nevienai no lapām. Viņi redzēja saturu, jo Facebook satura ieteikumu sistēma to bija ievietojusi viņu ziņu plūsmās.

Tā vietā, lai lietotāji izvēlētos saņemt saturu no šiem dalībniekiem, tā ir mūsu platforma, kas izvēlas sniegt [šīm troļļu fermām] milzīgu sasniedzamību, rakstīja ziņojuma autors Džefs Alens, bijušais Facebook augstākā līmeņa datu zinātnieks.

Facebook pārstāvis Džo Osborns savā paziņojumā sacīja, ka uzņēmums jau bija izmeklējis šīs tēmas Allena ziņojuma laikā, piebilstot: Kopš tā laika mēs esam izveidojuši komandas, izstrādājuši jaunas politikas un sadarbojušies ar nozares kolēģiem, lai risinātu jautājumus. šiem tīkliem. Mēs esam veikuši agresīvas izpildes darbības pret šāda veida ārvalstu un iekšzemes neautentiskām grupām un reizi ceturksnī esam publiski kopīgojuši rezultātus.

Šī stāsta faktu pārbaudes procesā neilgi pirms publicēšanas MIT Technology Review atklāja, ka piecas no ziņojumā minētajām troļļu fermas lapām palika aktīvas.

Šī ir lielākā troļļu fermas lapa, kuras mērķauditorija ir afroamerikāņi 2019. gada oktobrī. Tā joprojām ir aktīva Facebook.

Ziņojumā konstatēts, ka troļļu fermas sasniedz tās pašas demogrāfiskās grupas, kuras 2016. gada vēlēšanu laikā izcēla Kremļa atbalstītā Interneta pētījumu aģentūra (IRA), kuru mērķis bija kristieši, melnādainie amerikāņi un indiāņi. 2018. gads BuzzFeed News izmeklēšana atklāja, ka vismaz viens Krievijas IRA loceklis, kas apsūdzēts par iespējamu iejaukšanos 2016. gada ASV vēlēšanās, arī bija apmeklējis Maķedoniju ap tās pirmo troļļu fermu rašanos, lai gan tā neatrada konkrētus pierādījumus par saistību. (Facebook paziņoja, ka tās izmeklēšana nav atklājusi arī saistību starp IRA un Maķedonijas troļļu fermām.)

Tas nav normāli. Tas nav veselīgi, rakstīja Alens. Mēs esam pilnvarojuši neautentiskus dalībniekus uzkrāt milzīgus sekotājus lielākoties nezināmiem mērķiem... Fakts, ka aktieriem, kuriem ir iespējamās saistības ar IRA, ir piekļuve milzīgam auditorijas skaitam tajās pašās demogrāfiskajās grupās, uz kurām attiecas IRA, rada milzīgu risku 2020. gada vēlēšanām ASV. .

Kamēr troļļu fermas guva panākumus, izmantojot šo taktiku, to varētu darīt arī jebkurš cits sliktais aktieris, viņš turpināja: Ja Troļļu fermas sasniedz 30 miljonus ASV lietotāju ar saturu, kas paredzēts afroamerikāņiem, mums nevajadzētu būt pārsteigtiem, ja atklājam IRA. arī šobrīd tur ir liela auditorija.

Alens uzrakstīja ziņojumu kā ceturto un pēdējo daļu pusotru gadu ilgā pūliņā, lai izprastu troļļu fermas. Viņš pameta uzņēmumu tajā pašā mēnesī, daļēji tāpēc, ka bija sarūgtināts par to, ka vadība faktiski ignorēja viņa pētījumu, sacīja bijušais Facebook darbinieks, kurš iesniedza ziņojumu. Alens atteicās komentēt.

Ziņojums atklāj satraucošo situāciju, kurā Facebook vadība gadiem ilgi atstāja platformu, neskatoties uz atkārtotiem publiskiem solījumiem agresīvi cīnīties pret ārvalstu vēlēšanu iejaukšanos. MIT Technology Review dara pieejamu pilnu ziņojumu ar rediģētiem darbinieku vārdiem, jo ​​tas ir sabiedrības interesēs.

Tās atklāsmes ietver:

• 2019. gada oktobrī aptuveni 15 000 Facebook lapu ar lielāko daļu ASV auditoriju tika izsmeltas no Kosovas un Maķedonijas, kas 2016. gada vēlēšanu laikā bija zināmi slikti aktieri.
• Kopumā šīs troļļu fermas lapas, kuras salīdzināšanas nolūkos ziņojumā aplūkotas kā viena lapa, sasniedza 140 miljonus ASV lietotāju mēnesī un 360 miljonus lietotāju visā pasaulē katru nedēļu. Walmart lapa sasniedza otro lielāko ASV auditoriju ar 100 miljoniem.
• Troļļu fermas lapas arī tika apvienotas, veidojot:
  • lielākā kristiešu amerikāņu lapa Facebook, kas ir 20 reizes lielāka par nākamo lielāko — katru mēnesi sasniedzot 75 miljonus ASV lietotāju, no kuriem 95% nekad nav sekojuši nevienai no lapām.
  • lielākā afroamerikāņu lapa Facebook, kas ir trīs reizes lielāka par nākamo lielāko — katru mēnesi sasniedzot 30 miljonus ASV lietotāju, no kuriem 85% nekad nav sekojuši nevienai no lapām.
  • otrā lielākā indiāņu lapa Facebook, sasniedzot 400 000 lietotāju mēnesī, no kuriem 90% nekad nebija sekojuši nevienai no lapām.
  • piektā lielākā sieviešu lapa Facebook, kas katru mēnesi sasniedz 60 miljonus ASV lietotāju, no kuriem 90% nekad nav sekojuši nevienai no lapām.
• Troļļu fermas galvenokārt ietekmē ASV, taču tās ir vērstas arī uz Apvienoto Karalisti, Austrāliju, Indiju un Centrālamerikas un Dienvidamerikas valstīm.
• Facebook ir veicis vairākus pētījumus, kas apstiprina, ka saturs, kas, visticamāk, saņems lietotāju iesaistīšanos (patīk, komentāri un kopīgošana), visticamāk, ir slikta veida saturs. Tomēr uzņēmums ir turpinājis ranžēt saturu lietotāju ziņu plūsmās atbilstoši tam, kas saņems vislielāko iesaisti.
• Facebook aizliedz lapām publicēt saturu, kas ir tikai kopēts un ielīmēts no citām platformas daļām, bet neīsteno politiku pret zināmiem sliktiem dalībniekiem. Tādējādi ārvalstu aktieriem, kuri nerunā vietējā valodā, ir viegli publicēt pilnībā kopētu saturu un sasniegt plašu auditoriju. Vienā brīdī pat 40% lapu skatījumu ASV lapās saņēma lapas, kurās galvenokārt bija neoriģināls saturs vai ierobežotas oriģinalitātes materiāls.
• Troļļu fermas iepriekš ir iekļuvušas Facebook tūlītējo rakstu un reklāmu pārtraukumu partnerības programmās, kas paredzētas, lai palīdzētu ziņu organizācijām un citiem izdevējiem gūt peļņu no saviem rakstiem un videoklipiem. Vienā brīdī, pateicoties pamata kvalitātes pārbaužu trūkumam, pat 60% tūlītējo rakstu lasīto saturu novirzīja uz saturu, kas bija plaģiāts no citurienes. Tas ļāva troļļu fermām viegli nemanot iesaistīties un pat saņemt maksājumus no Facebook.

Kā Facebook nodrošina troļļu fermas un palielina to auditoriju

Ziņojumā īpaši aplūkotas troļļu fermas, kas atrodas Kosovā un Maķedonijā un kuras vada cilvēki, kuri ne vienmēr saprot Amerikas politiku. Tomēr, tā kā Facebook ziņu plūsmas atlīdzības sistēmas ir izstrādātas, tām joprojām var būt būtiska ietekme uz politisko diskursu.

Saistīts stāsts

Viņa riskēja ar visu, lai atklātu Facebook. Tagad viņa stāsta savu stāstu.

Sofija Džana, bijusī Facebook datu zinātniece, atklāja, ka tas ļauj veikt globālas politiskās manipulācijas un ir maz darījis, lai tās apturētu.

Ziņojumā Alens identificē trīs iemeslus, kāpēc šīs lapas spēj iegūt tik lielu auditoriju. Pirmkārt, Facebook nesoda lapas par pilnīgi neoriģināla satura ievietošanu. Ja kaut kas iepriekš ir kļuvis par vīrusu, tas, iespējams, atkal izplatīsies, kad tiks publicēts otrreiz. Tādējādi ikvienam, piemēram, melnādaino amerikāņu vidū ir patiešām viegli izveidot plašu sekotāju skaitu. Slikti aktieri var vienkārši kopēt vīrusu saturu no melnādaino amerikāņu lapām vai pat Reddit un Twitter un ielīmēt to savā lapā vai dažreiz desmitiem lapu.

Otrkārt, Facebook nospiež saistošu saturu lapās cilvēkiem, kuri tām neseko. Kad lietotāju draugi komentē vai atkārtoti kopīgo ziņas kādā no šīm lapām, šie lietotāji to redzēs arī savās ziņu plūsmās. Jo vairāk lapas saturs tiek komentēts vai kopīgots, jo vairāk tas pārsniedz tās sekotājus. Tas nozīmē, ka troļļu fermām, kuru stratēģija ir vērsta uz saistošākā satura pārpublicēšanu, ir lielas iespējas sasniegt jaunas auditorijas.

Treškārt, Facebook ranžēšanas sistēma nospiež saistošāku saturu lietotāju ziņu plūsmās augstāk. Lielākoties cilvēkiem, kas vada troļļu fermas, ir finansiāli, nevis politiski motīvi; viņi publicē visu, kas piesaista visvairāk, neņemot vērā faktisko saturu. Taču, tā kā dezinformācija, klikšķu ēsma un politiski šķeltniecisks saturs, visticamāk, būs ļoti ieinteresēti (kā to atzīst paša Facebook iekšējās analīzes), troļļu fermas laika gaitā tiecas publicēt vairāk informācijas, teikts ziņojumā.

Tā rezultātā 2019. gada oktobrī visas 15 populārākās lapas, kuru mērķauditorija ir kristieši amerikāņi, 10 no 15 populārākajām Facebook lapām, kuru mērķauditorija ir melnādainie amerikāņi, un četras no 12 populārākajām Facebook lapām, kuru mērķauditorija ir Amerikas pamatiedzīvotāji, pārvaldīja troļļu fermas.

Mūsu platforma ir devusi lielāko balsi kristiešu amerikāņu kopienā nedaudziem sliktu aktieru, kuri, pamatojoties uz viņu mediju ražošanas praksi, nekad nav bijuši baznīcā, rakstīja Alens. Mūsu platforma ir devusi vislielāko balsi afroamerikāņu kopienā dažiem sliktiem aktieriem, kuri, pamatojoties uz viņu mediju ražošanas praksi, nekad nav sazinājušies ar afroamerikāni.

Saistīts stāsts

Pārskats: Kāpēc Facebook nekad nevar sevi salabot

Grāmatā An Ugly Truth reportieres Šīra Frenkela un Sesīlija Kanga atklāj Facebook būtiskos trūkumus, detalizēti aprakstot tā gadus starp divām ASV vēlēšanām.

Tas vienmēr man šķitīs ļoti dīvaini... un patiesi šausminoši, viņš rakstīja. Šķiet pilnīgi skaidrs, ka līdz brīdim, kad šo situāciju varēs labot, mēs vienmēr jutīsim nopietnus pretvēju, mēģinot izpildīt savu misiju.

Ziņojumā arī ieteikts iespējamais risinājums. Šī nav pirmā reize, kad cilvēce ir cīnījusies ar sliktajiem dalībniekiem mūsu mediju ekosistēmās, viņš rakstīja, norādot uz to, ka Google izmanto tā saukto uz grafiku balstītu autoritātes mēru, kas novērtē tīmekļa lapas kvalitāti atkarībā no tā, cik bieži tajā tiek citētas un ir citētas citās kvalitatīvās tīmekļa lapās, lai pazeminātu sliktos dalībniekus meklēšanas klasifikācijā.

Viņš turpināja, mums pašiem ir ieviests uz grafiem balstīts autoritātes pasākums. Ja platforma vairāk ņemtu vērā šo esošo rādītāju lapu ranžēšanā, tas varētu palīdzēt novērst satraucošo tendenci, kurā lapas sasniedz visplašāko auditoriju.

Kad Facebook klasifikācijā prioritāte ir iesaistīšanās, troļļu fermu lapas pārspēj autentiskās lapas, rakstīja Alens. Bet 90% Troļļu fermu lapu ir tieši 0 grafikas autoritātes… [Autentiskas lapas] nepārprotami uzvar.

Sistēmiskas problēmas

Pārmeklējot visas ziņojumā norādītās troļļu fermu lapas, atklājas, ka piecas joprojām ir aktīvas gandrīz divus gadus vēlāk:

• Lapa ar nosaukumu My Baby Daddy Ain’t Shit, kas 2019. gada oktobrī bija lielākā Facebook lapa, kuras mērķauditorija bija afroamerikāņi.
• Lapa ar nosaukumu Savage Hood, kuras mērķauditorija ir afroamerikāņi.
• Lapa ar nosaukumu Hood Videos, kuras mērķauditorija ir afroamerikāņi.
• Lapa ar nosaukumu Dzīves mērķis, kuras mērķauditorija ir kristieši.
• Lapa ar nosaukumu Eagle Spirit, kuras mērķauditorija ir Amerikas pamatiedzīvotāji.

Troļļu fermas lapa, kuras mērķauditorija ir kristīgie amerikāņi.

Facebook nesenais pretrunīgais Plaši skatīta satura pārskats liecina, ka saglabājas arī dažas no galvenajām ievainojamībām, ko izmantoja troļļu fermas. Piecpadsmit no 19 visvairāk skatītajām ziņām, kas uzskaitītas ziņojumā tika plaģiāti no citām ziņām, kas iepriekš bija izplatījušās Facebook vai citā platformā, liecina Keisija Ņūtona vietnē The Verge veikta analīze.

Samanta Bredšova, pēcdoktorantūras pētniece Stenfordas Universitātē, kas pēta dezinformācijas, sociālo mediju un demokrātijas krustpunktu, saka, ka ziņojumā ir runāts par daudzām dziļākām sistēmiskām problēmām saistībā ar platformu un to algoritmu veidā, kas veicina noteikta veida saturs noteiktiem lietotājiem, un tas viss ir balstīts tikai uz šo izaugsmes pamatā esošo vērtību. Ja tie netiks novērsti, tie turpinās radīt izkropļotus, ekonomiskus stimulus sliktiem dalībniekiem, viņa piebilst: tā ir problēma.

Pilnu ziņojumu lasiet šeit:

paslēpties