211service.com
Kā troļļu pamanīšanas algoritms apguva savu anti-antisociālo tirdzniecību
Troļļi ir daudzu interneta vietņu posts. Tie ir cilvēki, kuri apzināti iesaistās antisociālā uzvedībā, ievietojot aizkustinošus vai nesaistītus ziņojumus. Labākajā gadījumā tie ir nomākta īgnums; sliktākajā gadījumā tie var padarīt cilvēku dzīvi par postu.
Tātad veids, kā pamanīt troļļus viņu tiešsaistes karjeras sākumā un novērst viņu ļaunākās pārmērības, būtu vērtīgs līdzeklis.
Šodien Džastins Čens no Stenfordas universitātes Kalifornijā un daži draugi saka, ka ir izveidojuši tieši šādu rīku, analizējot troļļu uzvedību vairākās labi zināmās vietnēs un izveidojot algoritmu, kas var tos precīzi pamanīt jau pēc 10 ziņām. Viņi saka, ka viņu tehnikai ir jābūt ļoti praktiskai nozīmei cilvēkiem, kuri uztur tiešsaistes kopienas.
Čens un kolēģi pēta trīs tiešsaistes ziņu kopienas: vispārējo ziņu vietni CNN.com, politisko ziņu vietni Breitbart.com un datorspēļu vietni IGN.com.
Katrā no šīm vietnēm ir to lietotāju saraksts, kuri ir aizliegti antisociālas uzvedības dēļ, kopumā vairāk nekā 10 000 lietotāju. Viņiem ir arī visi šo lietotāju publicētie ziņojumi visā tiešsaistes darbības periodā. Šādas personas ir nepārprotami antisociālu lietotāju gadījumi un mūsu analīzēs veido 'patiesību', saka Čens un citi.
Šie puiši nolēma atbildēt uz trim dažādiem jautājumiem par antisociāliem lietotājiem. Pirmkārt, vai viņi ir antisociāli visā savas kopienas dzīves laikā vai tikai beigās. Otrkārt, vai sabiedrības reakcija pasliktina viņu uzvedību. Un visbeidzot, vai antisociālos lietotājus var precīzi identificēt agrīnā stadijā.
Salīdzinot ziņojumus, ko ievietojuši lietotāji, kuri galu galā ir aizliegti, ar ziņojumiem, ko ievietojuši lietotāji, kuri nekad nav aizliegti, Čens un citi atklāj dažas skaidras atšķirības. Viens no rādītājiem, ko viņi izmanto, ir ziņu lasāmība, ko vērtē pēc metrikas, ko sauc par automatizēto lasāmības indeksu.
Tas skaidri parāda, ka lietotāji, kuri vēlāk tiek aizliegti, mēdz rakstīt sliktākas kvalitātes ziņas, ar kurām sākt. Un ne tikai, viņu ziņu kvalitāte ar laiku samazinās.
Un, lai gan sākotnēji kopienas šķiet piedodošas un tāpēc lēni aizliedz antisociālus lietotājus, laika gaitā tās kļūst mazāk iecietīgas. Viņi saka, ka tas palielina [antisociālo lietotāju ziņas].
Interesanti, ka Čens un viņa kolēģi saka, ka atšķirības starp ziņojumiem, ko ievietojuši cilvēki, kuri vēlāk ir aizliegti, un tiem, kuri nav aizliegti, ir tik skaidras, ka ir samērā vienkārši tos pamanīt, izmantojot mašīnmācīšanās algoritmu. Patiesībā mums ir jānovēro tikai pieci līdz 10 lietotāju ziņojumi, lai klasifikators varētu veikt ticamu prognozi, viņi lepojas.
Tas varētu izrādīties noderīgi. Antisociāla uzvedība ir arvien nopietnāka problēma, kuras atklāšanai un risināšanai ir nepieciešams ievērojams cilvēka ieguldījums. Šis process bieži vien nozīmē, ka antisociāliem lietotājiem ir atļauts darboties daudz ilgāk, nekā nepieciešams. Mūsu metodes var efektīvi identificēt antisociālus lietotājus viņu kopienas dzīves sākumā un atvieglot daļu no šī sloga, saka Čens un citi.
Protams, ar jebkuru automatizētu pieeju ir jābūt uzmanīgiem. Viens no iespējamiem draudiem ir nevajadzīgi aizliegt lietotājus, kuri nav antisociāli, bet kurus algoritms ir identificējis kā tādus. Šis viltus pozitīvais rādītājs ir rūpīgi jāizpēta.
Neskatoties uz to, moderatoru darbs vietnēs, kas ļauj nosūtīt ziņojumus, drīzumā varētu ievērojami atvieglot, pateicoties Čena un līdzgaitnieku pieejai.
Atsauce: arxiv.org/abs/1504.00680 : Antisociāla uzvedība tiešsaistes diskusiju kopienās