Facebook ir nepieciešami 30 000 sava satura moderatoru, teikts jaunā ziņojumā

Associated Press Associated Press

Iedomājieties, ja Facebook šobrīd pārtrauktu savas vietnes regulēšanu. Ikviens varēja ievietot visu, ko vēlas. Šķiet, ka pieredze liecina, ka tas diezgan ātri kļūtu par a ellišķīga vide pārpildīts ar surogātpastu, iebiedēšanu, noziedzību, teroristu galvas nociršanu, neonacistu tekstiem un attēliem ar bērnu seksuālu izmantošanu. Šādā gadījumā liela daļa lietotāju, iespējams, aizietu un sekotu ienesīgie reklāmdevēji.

Bet, ja mērenība ir tik svarīga, tā netiek uzskatīta par tādu. Lielākā daļa no 15 000 cilvēku, kas visu dienu pavada, lai izlemtu, ko drīkst un ko nedrīkst Facebook, pat nestrādā Facebook. Visa satura regulēšanas funkcija ir uzticēta trešo pušu piegādātājiem, kuri nodarbina pagaidu darbiniekus par nestabiliem līgumiem vairāk nekā 20 vietās visā pasaulē. Viņiem katru dienu ir jāpārskata simtiem ziņu, no kurām daudzas ir dziļi traumējošs . Kļūdas ir izplatīts , neskatoties uz to, ka uzņēmums ir pieņēmis AI rīki uz šķirošanas posteņiem, saskaņā ar kuriem jāpievērš uzmanība. Facebook pats ir atzinis 10% kļūdu īpatsvaru neatkarīgi no tā, vai tas ir nepareizi atzīmētas ziņas, kas jānoņem un kuras būtu jāturpina, vai otrādi. Ņemot vērā to, ka recenzentiem dienā ir jāizlasa trīs miljoni ziņu, tas nozīmē 300 000 kļūdu katru dienu. Dažām kļūdām var būt nāvējošas sekas. Piemēram, Mjanmas militārpersonas izmantoja Facebook rosināt genocīdu pret lielākoties musulmaņu rohingu minoritāti 2016. un 2017. gadā. Uzņēmums vēlāk to atzina nespēja īstenot savu politiku aizliedzot naida runu un kūdīšanu uz vardarbību.

Ja mēs vēlamies uzlabot moderēšanas veidu, Facebook ir jāiesaista satura moderatori, jāpadara tie par pilntiesīgiem darbiniekiem un jāpalielina viņu skaits dubultā. jauns ziņojums no Ņujorkas Universitātes Sterna biznesa un cilvēktiesību centra.

Satura regulēšana nav līdzīga citām ārpakalpojuma funkcijām, piemēram, ēdiena gatavošanai vai tīrīšanai, saka ziņojuma autors Pols M. Barets, centra direktora vietnieks. Tā ir sociālo mediju uzņēmējdarbības galvenā funkcija, un tas padara to dīvainu, ka tas tiek uzskatīts par perifēru vai kāda cita problēma.

Kāpēc Facebook vadītāji šādi izturas pret satura regulēšanu? Tas vismaz daļēji ir saistīts ar izmaksām, saka Barets. Viņa ieteikumi būtu ļoti dārgi lai uzņēmums ieviestu — visticamāk, desmitiem miljonu dolāru (lai gan, lai to aplūkotu perspektīvā, tas miljardiem dolāru peļņa katru gadu). Bet ir otrs, sarežģītāks iemesls. Satura regulēšanas darbība vienkārši neatbilst Silīcija ielejas paštēlam. Atsevišķu veidu darbības tiek ļoti augstu novērtētas un glamorizētas — produktu inovācija, gudrs mārketings, inženierija… satura moderēšanas niecīgā pasaule tajā neiederas, viņš saka.

Viņš uzskata, ka Facebook ir pienācis laiks mērenību uzskatīt par sava biznesa galveno daļu. Viņš saka, ka tā statusa paaugstināšana šādā veidā palīdzētu izvairīties no katastrofālām kļūdām, kas tiek pieļautas Mjanmā, palielinātu atbildību un labāk aizsargātu darbiniekus no kaitējuma viņu garīgajai veselībai.

Šķiet, ka ir neizbēgama realitāte, ka satura moderēšana vienmēr ietvers saskarsmi ar kādu šausminošu materiālu, pat ja darbs tiek veikts uzņēmuma iekšienē. Tomēr uzņēmums var darīt daudz vairāk, lai to atvieglotu: labāk pārbaudīt moderatorus, piemēram, lai pārliecinātos, ka viņi patiešām apzinās ar darbu saistītos riskus, un nodrošināt, ka viņiem ir pieejama augstākā līmeņa aprūpe un konsultācijas. Barets uzskata, ka satura regulēšana varētu būt kaut kas, kas jādara visiem Facebook darbiniekiem vismaz gadu, lai palīdzētu viņiem saprast savu lēmumu ietekmi.

Ziņojumā sniegti astoņi ieteikumi Facebook:

• Pārtrauciet satura regulēšanas ārpakalpojumu izmantošanu un paaugstiniet moderatoru amatu darbavietā.
• Divkāršojiet moderatoru skaitu, lai uzlabotu satura pārskatīšanas kvalitāti.
• Noalgojiet kādu, kas pārrauga saturu un faktu pārbaudi, kurš ziņo tieši izpilddirektoram vai COO.
• Vēl vairāk paplašiniet mērenību riska valstīs Āzijā, Āfrikā un citur.
• Nodrošiniet visiem moderatoriem augstākās kvalitātes medicīnisko aprūpi uz vietas, tostarp piekļuvi psihiatriem.
• Sponsorējiet pētījumus par satura regulēšanas radītajiem veselības apdraudējumiem, jo ​​īpaši PTSD.
• Izpētiet šauri pielāgotos valdības noteikumus par kaitīgu saturu.
• Ievērojami paplašiniet faktu pārbaudi, lai atmaskotu nepatiesu informāciju.

Priekšlikumi ir, maigi izsakoties, ambiciozi. Kad sazinājās ar komentāriem, Facebook neapsprieda, vai apsvērs to ieviešanu. Tomēr pārstāvis teica, ka tā pašreizējā pieeja nozīmē, ka mēs varam ātri pielāgot mūsu darbaspēka uzmanību pēc vajadzības, piebilstot, ka tā dod mums iespēju pārliecināties, ka mums ir pareizās valodas zināšanas un ka varam ātri pieņemt darbā dažādās laika joslās, kā jaunas vajadzības. rodas vai kad situācija visā pasaulē to prasa.

Taču Barets uzskata, ka nesen veikts eksperiments, reaģējot uz koronavīrusa krīzi, liecina, ka pārmaiņas ir iespējamas. Facebook paziņoja, ka, tā kā daudzi tā satura moderatori nevarēja iekļūt uzņēmuma birojos, tas to darīs pārnest atbildību uz iekšējiem darbiniekiem lai pārbaudītu noteiktas sensitīvas satura kategorijas.

Manuprāt, ļoti nozīmīgi ir tas, ka krīzes brīdī Cukerbergs paļāvās uz cilvēkiem, kuriem viņš uzticas: uz saviem pilnas slodzes darbiniekiem, viņš saka. Varbūt to varētu uzskatīt par pamatu sarunai Facebook par satura regulēšanas veida pielāgošanu.

paslēpties