211service.com
Sievietes melnādainajām žurnālistēm un politiķiem ik pēc 30 sekundēm tiek nosūtīts aizskarošs tvīts
Mašīnmācība atklāj satraucošu uzmākšanās, ļaunprātīgas izmantošanas un trollēšanas līmeni, kas vērsts uz sievietēm un minoritātēm pakalpojumā Twitter. 2018. gada 18. decembris
Martēns Bjorks | Atbrīvojieties no šļakatām
Twitter var būt toksiska vieta. Pēdējos gados trollēšana un uzmākšanās vietnē ir padarījusi to par ārkārtīgi nepatīkamu un satraucošu pieredzi daudziem cilvēkiem, īpaši sievietēm un minoritātēm. Taču šādas ļaunprātīgas izmantošanas automātisku identificēšanu un apturēšanu ir grūti izdarīt precīzi un uzticami. Tas ir tāpēc, ka, neskatoties uz visu neseno AI progresu, mašīnām parasti joprojām ir grūti reaģēt uz cilvēku saziņu. Piemēram, mākslīgajam intelektam parasti ir grūti uztvert aizskarošus ziņojumus, kas var būt sarkastiski vai maskēti ar pozitīvu atslēgvārdu pārkaisīšanu.
Jaunā pētījumā ir izmantota visprogresīvākā mašīnmācīšanās, lai iegūtu precīzāku momentuzņēmumu par uzmākšanās mērogu vietnē Twitter. Tās analīze apstiprina to, ko daudziem cilvēkiem jau būs aizdomas: sievietes un mazākumtautību žurnālistes un politiķes platformā saskaras ar šokējoši lielu ļaunprātīgu izmantošanu.
Pētījumu veica Amnesty International sadarbībā ar Kanādas firmu ElementsAI , liecina, ka melnādainās sievietes politiķes un žurnālistes par 84% biežāk tiek pieminētas aizskarošos vai problemātiskos tvītā nekā baltās sievietes tajā pašā profesijā.
Tas ir vienkārši satriecoši, saka Džuljens Kornebiss, Londonas ElementAI – biroja, kas koncentrējas uz mašīnmācības humanitārajiem lietojumiem, pētniecības direktors. Šīs sievietes ir liela daļa no tā, kā sabiedrība darbojas.
ElementAI pētnieki vispirms izmantoja mašīnmācības rīku, kas līdzīgs tam, ko izmanto surogātpasta klasificēšanai, lai identificētu ļaunprātīgus tvītus. Pēc tam pētnieki iedeva brīvprātīgajiem iepriekš klasificētu un iepriekš neredzētu tvītu sajaukumu, lai tos klasificētu. Tvīti, kas identificēti kā aizskaroši, tika izmantoti, lai apmācītu padziļinātu mācību tīklu. Rezultāts ir sistēma, kas var klasificēt ļaunprātīgu izmantošanu ar iespaidīgu precizitāti, norāda Cornebise.
Projekta uzmanības centrā bija politiķiem un žurnālistiem nosūtītie tvīti. Pētījumā 6500 brīvprātīgo no 150 valstīm palīdzēja klasificēt ļaunprātīgu izmantošanu 228 000 tvītu ziņojumos, kas 2017. gadā tika nosūtīti 778 sievietēm politiķei un žurnālistēm Apvienotajā Karalistē un ASV.
Pētījumā tika pārbaudīti tvīti, kas tika nosūtīti Apvienotās Karalistes parlamenta un ASV Kongresa un Senāta pārstāvēm, kā arī žurnālistēm no tādām publikācijām kā Daily Mail, Gal Dem, Guardian, Pink News un Sun Apvienotajā Karalistē un Breitbart un New York Times ASV.
Tajā konstatēts, ka šajā periodā 778 sievietēm tika nosūtīts 1,1 miljons aizskarošu tvītu — tas ir līdzvērtīgs vienam ik pēc 30 sekundēm. Tas arī atklāja, ka 7,1% no visiem tvītiem, kas nosūtīti sievietēm šajās lomās, ir aizskaroši. Pētījuma pētnieki ir arī izlaiduši rīku, sauc Troļļu patruļa , lai pārbaudītu, vai tvīts ir ļaunprātīga izmantošana vai uzmākšanās.
Lai gan padziļinātās mācīšanās pieeja bija liels uzlabojums esošajām ļaunprātīgas izmantošanas konstatēšanas metodēm, pētnieki brīdina, ka ar mašīnmācību vai AI nepietiks, lai visu laiku identificētu velcēšanu. Cornebise saka, ka rīks bieži vien ir tikpat labs kā moderatori, taču tajā ir arī iespēja kļūdīties. Viņš saka, ka tuvākajā nākotnē būs vajadzīgs zināms cilvēka spriedums.
Twitter ir plaši kritizēts par to, ka tas nedara vairāk, lai kontrolētu savu platformu. Milena Marina, kas strādāja pie projekta Amnesty International, saka, ka uzņēmumam vismaz vajadzētu būt pārredzamākam par savām policijas metodēm.
Troll Patrol nav paredzēts Twitter vai piespiest to noņemt saturu, saka Marins. Taču viņa brīdināja, ka Twitter ir jāsāk atklāti, kā tieši tā izmanto mašīnmācīšanos, lai atklātu ļaunprātīgu izmantošanu, un publicēt tehnisko informāciju par algoritmiem, uz kuriem tas paļaujas.
Atbildot uz ziņojumu, Twitter juridiskā amatpersona Vijaya Gadde norādīja uz ļaunprātīgas izmantošanas definēšanas problēmu. Es vēlos atzīmēt, ka “problemātiska” satura jēdziens satura klasificēšanas nolūkos ir tāds, kas attaisno turpmākas diskusijas, sacīja Gadde. Mēs smagi strādājam, lai izveidotu globāli izpildāmus noteikumus, un esam sākuši konsultēties ar sabiedrību kā daļu no procesa.