211service.com
13 500 nastigrammu kolekcija varētu veicināt karu pret troļļiem
Janvārī Vikipēdijas diskusiju lapās publicēto ierakstu vizualizācija parāda personisku uzbrukumu biežumu, kas iezīmēts sarkanā krāsā.
Misogīnija, rasisms, rupjības — vairāk nekā 13 500 tiešsaistes personisku uzbrukumu kolekcija satur visu.
Nastigrammas nāca no Vikipēdijas diskusiju lapām. Kolekcija, kā arī vairāk nekā 100 000 labdabīgāku ierakstu, ir atbrīvots pētnieki no Alphabet un Wikimedia Foundation, bezpeļņas organizācijas, kas ir Wikipedia pamatā. Viņi saka, ka šie dati veicinās centienus apmācīt programmatūru, lai tā izprastu un kontrolētu tiešsaistes uzmākšanos.
Mūsu mērķis ir noskaidrot, kā mēs varam palīdzēt cilvēkiem produktīvi apspriest vispretrunīgākās un svarīgākās tēmas visā internetā, saka Lūkass Diksons, uzņēmuma galvenais pētnieks. Finierzāģis , grupa Alphabet ietvaros, kas izstrādā tehnoloģijas, lai kalpotu tādiem mērķiem kā vārda brīvība un cīņa pret korupciju (skatiet sadaļu “Ja tikai AI varētu mūs izglābt no mums pašiem”).
Jigsaw un Wikimedia pētnieki izmantoja pūļa avotu pakalpojumu, lai cilvēki izķemmētu vairāk nekā 115 000 ziņojumu, kas tika publicēti Vikipēdijas diskusiju lapās, pārbaudot, vai tie ir personiski uzbrukumi. ko nosaka kopienas noteikumi . Līdzstrādnieki jau ir izmantojuši datus, lai apmācītu mašīnmācības algoritmus, kas konkurē ar kolektīvajiem darbiniekiem, lai atklātu personiskus uzbrukumus. Izpētot visu Wikipedia redaktoru izveidoto 63 miljonu diskusiju ziņu kolekciju, viņi atklāja, ka tikai aptuveni viens no 10 uzbrukumiem izraisīja moderatoru darbības.
Izveidots Wikimedia Foundation uzmākšanās samazināšana Vikipēdijas redaktoru vidū pagājušā gada prioritāte. Šī politika papildina esošos centienus mīkstināt Vikipēdijas kopienas aso un birokrātisko gaisotni, kas, kā tika konstatēts, attur jaunus līdzstrādniekus no dalības. Abas problēmas varētu palīdzēt izskaidrot, kāpēc redaktoru skaits ir slīdējis un cīnījies, lai paplašinātu līdzdalību ārpus Rietumu demogrāfiskā pamata (skatiet Wikipedia lejupslīdi).
Jigsaw un Wikimedia Foundation nav pirmie, kas pētījuši ļaunprātīgu izmantošanu tiešsaistē, kā arī nav pirmie, kuru mērķis ir izstrādāt programmatūru, kas spēj to atklāt un cīnīties. Taču komentāru kolekcijas, kas marķētas, lai atzīmētu uzmācīgus un neuzmācīgus ierakstus, kas ir nepieciešami mašīnmācības programmatūras apmācībai, ir maz, saka. Ellerija Vulčina , datu zinātnes pētnieks no Wikimedia Foundation.
Viņš lēš, ka personīgo uzbrukumu un komentāru kolekcija no Vikipēdijas ir no 10 līdz 100 reizēm lielāka nekā iepriekš pieejama. Mašīnmācības algoritmiem ir nepieciešams liels skaits marķētu piemēru, lai uzzinātu, kā precīzi filtrēt datus.
Tomēr joprojām nav skaidrs, vai ļaunprātīgas izmantošanas pamanīšanai sagatavotus algoritmus var izmantot kā efektīvus moderatorus. Programmatūra ir tālu no tā, lai saprastu visas valodas nianses. Daži cilvēki var būt motivēti pielāgot savu aizskarošo valodu, lai izvairītos no atklāšanas, saka Wikimedia Wulczyn. Ja mēs veidotu intervences, ar kurām cilvēkiem ir pretrunīgas attiecības, mēs nezinām, kas notiktu, viņš saka.