211service.com
Videospēļu algoritms ļaunprātīgas izmantošanas risināšanai tiešsaistē
Tāpat kā daudzas tiešsaistes vietas, League of Legends, mūsdienās pasaulē visplašāk spēlētā tiešsaistes videospēle, ir augsne ļaunprātīgai valodai un uzvedībai. Šī rīcība, ko veicina anonimitāte un tiek pastiprināta konkurētspējīgu komandu sporta veidu karstajā tīģelī, ir radījusi tik lielu problēmu tās veidotājam Riot Games, ka uzņēmums tagad nodarbina īpašu zinātnieku un dizaineru komandu, lai atrastu veidus, kā uzlabot mijiedarbību starp spēles. spēlētājiem.
Dažu pēdējo gadu laikā komanda ir eksperimentējusi ar daudzām sistēmām un paņēmieniem, ko atbalsta mašīnmācīšanās un kas ir paredzēti, lai uzraudzītu saziņu starp spēlētājiem, sodītu par negatīvu uzvedību un atalgotu pozitīvu uzvedību. Rezultāti ir pārsteidzoši, saka Džefrijs Lins, Riot Games galvenais sociālo sistēmu dizainers. Programmatūra ir pārraudzījusi vairākus miljonus gadījumu, kad ir aizdomas par ļaunprātīgu rīcību. Deviņdesmit divi procenti spēlētāju, kuri ir pieķerti ļaunprātīgos izteikumos pret citiem, nav atkārtoti apvainojušies. Lins, kurš ir kognitīvais neirozinātnieks, uzskata, ka komandas metodes var izmantot ārpus videospēļu konteksta. Viņš domā, ka Riot, iespējams, ir radījis kaut ko līdzīgu pretlīdzeklim tiešsaistes toksicitātei neatkarīgi no tā, kur tā notiek.
Projekts sākās pirms vairākiem gadiem, kad komanda ieviesa pārvaldības sistēmu, kas saskaņā ar spēles fantāzijas tēmu tika nodēvēta par Tribunālu. Spēle identificētu iespējamos ļaunprātīgas valodas gadījumus un izveidotu mijiedarbības lietas materiālu. Pēc tam šie faili tika prezentēti spēles spēlētāju kopienai (aptuveni 67 miljoni unikālo lietotāju), kuri tika aicināti pārskatīt spēles tērzēšanas žurnālus un balsot par to, vai viņi uzskata, ka šī uzvedība ir pieņemama. Kopumā sistēma bija ļoti precīza, Lin saka. Patiešām, 98 procenti kopienas spriedumu atbilda Riot iekšējās komandas spriedumiem.
Vairāki miljoni lietu tika izskatīti šādā nedaudz darbietilpīgā veidā. Drīz Lins un komanda sāka saskatīt modeļus toksisko spēlētāju lietotajā valodā. Lai palīdzētu optimizēt procesu, viņi nolēma datiem izmantot mašīnmācīšanās metodes. Tas izrādījās ārkārtīgi veiksmīgs, segmentējot negatīvo un pozitīvo valodu 15 oficiālajās valodās, kuras līga atbalsta, saka Lins.
Jaunā sistēmas versija, kuru tagad kontrolē tehnoloģija, nevis citi spēlētāji, padarīja efektīvāku atgriezeniskās saites sniegšanu un ietekmi uz toksisku uzvedību spēlē. Tagad tas var sniegt atsauksmes spēlētājiem piecu minūšu laikā, bet iepriekš tas varēja aizņemt pat nedēļu.
Lin saka, ka sistēma ievērojami uzlaboja to, ko uzņēmums sauc par reformu likmēm. Spēlētājs, kurš iepriekš saņēmis sodu, piemēram, diskvalifikāciju no ranga spēlēm, tiek uzskatīts par reformētu, ja viņš kādu laiku izvairās no turpmākiem sodiem. Kad sodiem pievienojām labākas atsauksmes un iekļāvām pierādījumus, piemēram, tērzēšanas žurnālus par sodu, reformu rādītāji pieauga no 50 procentiem līdz 65 procentiem, viņš saka. Taču, kad mašīnmācīšanās sistēma sāka sniegt daudz ātrāku atgriezenisko saiti ar pierādījumiem, reformu rādītāji pieauga līdz visu laiku augstākajam līmenim – 92 procentiem.
Viens no izaicinājumiem, ar ko sistēma saskaras, ir konteksta noteikšana. Tāpat kā jebkurā komandu sporta veidā, spēlētāji bieži vien veido draudzības spēkus, izmantojot grūstīšanos vai sarkasmu, ko citā kontekstā var uzskatīt par nelaipnu vai agresīvu. Mašīnai parasti neizdodas uztvert sarkasmu. Faktiski tas, iespējams, ir visnozīmīgākais šķērslis cīņā pret ļaunprātīgu izmantošanu tiešsaistē, izmantojot mašīnmācīšanos. Ir diezgan godīgi teikt, ka AI, kas saprot valodu, darbojas vislabāk, ja pareizas atbildes aprēķināšanai ir nepieciešama minimāla kontekstuāla informācija, skaidro Kriss Daiers, Kārnegija Melona universitātes docents, kurš strādā pie dabiskās valodas apstrādes. Problēmas, kurās nepieciešams integrēt daudz informācijas no konteksta, kurā tiek izteikts izteikums, ir daudz grūtāk atrisināt, un sarkasms ir ļoti atkarīgs no konteksta.
Šobrīd Lins un viņa komanda mēģina atrisināt problēmu ar papildu pārbaudēm un līdzsvariem. Pat tad, ja sistēma identificē spēlētāju kā toksisku uzvedību, citas sistēmas tiek pārbaudītas, lai pastiprinātu vai uzliktu veto spriedumam. Piemēram, tas mēģinās pārbaudīt katru atskaņotāja iesniegto ziņojumu, lai noteiktu viņa vai viņas vēsturiskā pārskata precizitāti. Tā kā vairākas sistēmas darbojas kopā, lai sniegtu sekas spēlētājiem, mēs pašlaik redzam veselīgu 1 no 5000 viltus pozitīvu rezultātu,” saka Lins.
Lai patiesi ierobežotu ļaunprātīgu izmantošanu, Riot izstrādāja sodus un atturošus līdzekļus, lai pārliecinātu spēlētājus mainīt savu uzvedību. Piemēram, tas var ierobežot tērzēšanas resursus spēlētājiem, kuri uzvedas aizskaroši, vai pieprasīt spēlētājiem bez starpgadījumiem pabeigt neklasificētas spēles, pirms viņi var spēlēt augstākā ranga spēles. Uzņēmums arī apbalvo cieņpilnus spēlētājus ar pozitīvu pastiprinājumu.
Lins ir stingri pārliecināts, ka mācībām, ko viņš un viņa komanda ir guvuši no sava darba, ir plašāka nozīme. Viena no būtiskajām pētījuma atziņām ir tāda, ka toksiska uzvedība ne vienmēr nāk no briesmīgiem cilvēkiem; tas nāk no tā, ka parastiem cilvēkiem ir slikta diena, saka Džastins Reihs, pētnieks no Hārvardas Berkmana centra, kurš ir pētījis Riota darbu. Tas nozīmē, ka mūsu stratēģijas, lai risinātu toksisko uzvedību tiešsaistē, nevar būt vērstas tikai uz rūdītiem troļļiem; viņiem ir jārēķinās ar mūsu kolektīvo cilvēcisko tieksmi ļaut interneta anonimitātē atklāties pašiem sliktākajiem.
Tomēr Reihs uzskata, ka Lina darbs pierāda, ka toksiska uzvedība nav tīmekļa iekārta, bet gan problēma, ko var risināt, apvienojot inženieriju, eksperimentus un sabiedrības iesaistīšanos. Izaicinājumi, ar kuriem mēs saskaramies League of Legends, ir redzami jebkurā tiešsaistes spēlē, platformā, kopienā vai forumā, tāpēc mēs uzskatām, ka atrodamies tiešsaistes kopienu un sabiedrību laika līnijā, Lin saka. Šī iemesla dēļ mēs esam ļoti atvērti, daloties ar saviem datiem un paraugpraksi ar plašāku nozari un ceram, ka citas studijas un uzņēmumi aplūkos šos rezultātus un sapratīs, ka tiešsaistes toksicitāte tomēr nav neiespējama problēma.