Reddit automoderators ir interneta nākotne, un tas ir ļoti nepilnīgs

vīrieša attēls, kurš skatās uz datora kodu trīs monitori automoderator automod moderating reddit Džefersons Santoss, izmantojot Unsplash

Pēdējo četru gadu laikā Šaguns Džhavers ir moderējis vairākus apakšreklāmas, rūpīgi ritinot lapas un bloķējot ziņas, kas pārkāpj kopienas noteikumus vai ir tieši aizskarošas.

Džordžijas Tehnikas doktorantūras students, kura pētījumi koncentrējas uz satura regulēšanu, Džavers domāja, vai automātiskais moderators varētu viņam palīdzēt ietaupīt ne tikai laiku, bet arī garīgo nodevu, kas rodas, sijājot psiholoģiski nosusinošu saturu. Tāpēc viņš kopā ar trim kolēģiem nolēma noskaidrot, vai automātiskais moderators — šajā gadījumā AutoMod - patiesībā strādāja.

Komanda personīgi moderēja vairākas lapas vietnē Reddit un pēc tam veica intervijas ar 16 citiem vietnes populārāko subredditu moderatoriem, tostarp r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatishing un r/politics. no kuriem ir miljoniem abonentu. Visi paļaujas uz AutoMod, lai palīdzētu viņiem regulēt. Jhaver prezentēs strādāt nākamnedēļ plkst ACM konference par datoru atbalstītu kooperatīvo darbu un sociālo skaitļošanu .

Sociālo mediju platformas, piemēram, Facebook , Instagram un YouTube, jau sen ir paļāvušās uz cilvēku moderatoriem, lai manuāli izķemmētu saturu un noņemtu vardarbīgu un aizskarošu materiālu, sākot no rasistiska un seksistiska naida runas līdz grafiskiem masu apšaudes video. Bieži vien, strādājot uz līguma, par minimālo algu ar nelielām pabalstiem, moderatori var atrasties ilgas stundas, kamēr viņus apgrūtina saturs, kas nopietni kaitē viņu garīgajai veselībai .

Automoderatori ir mēģinājums mazināt šāda darba garlaicīgo un negatīvo ietekmi. AutoMod, ko izstrādājis Redditor Chad Birch, lai palielinātu viņa spēju regulēt r/spēļu kanālu, ir uz noteikumiem balstīts rīks, lai identificētu vārdus, kas pārkāpj noteiktas lapas publicēšanas politikas. Kopš tā laika tas ir plaši izmantots — Reddit to pieņēma visā vietnē 2015. gadā, un ļoti populārās spēļu straumēšanas platformas Twitch un Discord sekoja tam drīz pēc tam.

Tomēr ir apšaubāms, vai AutoMod patiešām ietaupa laiku. No vienas puses, automoderatori ir ļoti labi savā darbībā — ja viņi ir ieprogrammēti, lai atrastu lamuvārdus, viņi bez kļūmēm atradīs un bloķēs ziņas, kurās tie ir ietverti. Tas var nosūtīt paziņojumus plakātiem par problemātisku saturu, kas, pēc Džhavera teiktā, ir izglītojošs, jo autori var uzzināt, kas bija nepareizi ar viņu publicēto saturu.

Tas nav mazs varoņdarbs. Kā atzīmē Džavers un viņa kolēģi, no 2018. gada marta līdz oktobrim tika noņemti aptuveni 22% no visiem Reddit iesniegumiem. Šajā laika periodā tas ir aptuveni 17,4 miljoni ziņu.

Bet pieņemsim, ka šis vārds ir svarīgs ziņojuma kontekstam — diskusija 2016. gadā par drīzumā prezidenta Donalda Trampa bēdīgi slaveno. komentārs par sievietes dzimumorgānu sagrābšanu , piemēram. Šādas ziņas tiktu atzīmētas aizvainojošās valodas dēļ, lai gan šīs ziņas galvenais mērķis ir apspriest šo valodu. Džavers saka, ka tas satrauc lietotājus, kuriem pēc tam ir jāatgriežas un jālūdz moderatoriem atjaunot ziņu.

Un sociālo mediju pasaulē, kur satraucošs saturs arvien vairāk sastāv no aizvainojošiem mēmiem, šaušanas tiešraides straumēm vai cita vizuāla satura bez teksta, AutoMod paļaušanās uz atslēgvārdu atrašanu ir liela atbildība.

Roberts Peks, lielo subreddits r/pics un r/aww moderators, to pārāk labi zina. Katra no šīm lapām ir balstīta uz attēliem, un katrai no tām ir miljoniem sekotāju, kas publicē daudz vairāk satura, nekā kādam varētu būt saprātīgi lūgts izsijāt.

Tomēr viņš saka, ka, lai gan tas nevar analizēt attēlus, AutoMod ir atvieglojis viņa darbu. Viņš saka, ka lietotāji attēliem pievieno deskriptorus, un mēs varam pārbaudīt šos nosaukumus. Mēs meklējam kontu nobarošanu vai surogātpastu, kuriem ir konti, kas automatizē ziņas. Viņi bieži izmanto iekavas. Mēs varam likt AutoMod meklēt šos modeļus.

Patīk tas vai nē, AutoMod un tam līdzīgie ir sociālo platformu moderēšanas nākotne. Tas, iespējams, vienmēr būs nepilnīgs, jo mašīnas joprojām ir tālu no cilvēka valodas patiesas izpratnes. Taču automatizācijai tas ir paredzēts: cilvēku laika ietaupīšana nogurdinošu vai nevēlamu uzdevumu veikšanai. Spēja koncentrēties uz ziņām, kurām nepieciešams cilvēka pieskāriens, padara moderatora darbu daudz vērtīgāku un ļauj gan moderatoriem, gan plakātiem koncentrēties uz labākām sarunām.

Tas neatrisinās problēmu, ko rada vētraina, ļaunprātīga vai citādi kaitīga satura publicēšana — tā joprojām būs viena no sarežģītākajām mūsdienu interneta problēmām. Bet tas rada pārmaiņas. Peks saka, ka ir pateicīgs par AutoMod spēju palīdzēt viņam pakešapstrādāt ziņas. Viņš saka, ka tā ir jaudīga tehnoloģija un diezgan lietotājam draudzīga — ne tuvu nav grūtību programmēt līdzvērtīgu robotprogrammatūru. [AutoMod] ir mans jaudīgākais rīks, un bez tā es pazustu.

paslēpties