AI sabiedrotais, lai cīnītos pret iebiedēšanu virtuālajās pasaulēs

Saimans Čovs

Jebkurā izdomātā Visumā var būt grūti saskatīt atšķirību starp rotaļīgu antagonismu un nopietnu uzmākšanos. Apsaukšana starp draugiem, kuri kopā spēlē videospēli, bieži vien ir draudzības veids. Tomēr starp svešiniekiem līdzīgi vārdi iegūst citu, apgrūtinošāku īpašību. Spēja atšķirt abas ir ļoti svarīga ikvienam videospēļu veidotājam, kurš vēlas veicināt viesmīlīgu kopienu.

Spirit AI cer palīdzēt izstrādātājiem atbalstīt spēlētājus un atturēt no iebiedēšanas, izmantojot ļaunprātīgas izmantošanas noteikšanas un iejaukšanās sistēmu Ally. Programmatūra uzrauga mijiedarbību starp spēlētājiem — to, ko cilvēki saka viens otram un kā viņi uzvedas, izmantojot pieejamās darbības spēlē vai sociālajā platformā. Tas spēj atklāt verbālu uzmākšanos un arī neverbālu provokāciju, piemēram, ja kāds spēlētājs vajā cita iemiesojumu vai ļaunprātīgi izmanto ziņošanas rīkus.

Mēs skatāmies uz mijiedarbības modeļiem kopā ar dabiskās valodas klasifikatoriem, nevis paļaujamies uz atsevišķu atslēgvārdu sarakstu, skaidro Ruxandra Dariescu, viena no Ally izstrādātājiem. Uzmākšanās ir niansēta problēma.

Kad Ally konstatē potenciāli aizskarošu uzvedību, tā pārbauda, ​​vai potenciālais varmāka un otrs spēlētājs ir iepriekš mijiedarbojušies. Ally atšķiras no esošās moderēšanas programmatūras ar to, ka tā vietā, lai vienkārši nosūtītu brīdinājumu spēles izstrādātājiem, tā var nosūtīt datora vadītu virtuālo varoni, lai reģistrētos spēlētāja kontā — tādu, kas, izmantojot Spirit AI dabiskās valodas rīkus, ir spēj sarunāties spēles tonī un stilā (skatiet Videospēļu algoritmu tiešsaistes ļaunprātīgas izmantošanas risināšanai ).

Saistīts stāsts

Lasiet Tālāk Kā Riot Games psihologu un zinātnieku komanda atklāj noslēpumu, kā novērst ļaunprātīgu izmantošanu tiešsaistes videospēlē.

Allija robots varētu teikt: es pamanīju, ka jūs un spēlētājs 42, šķiet, esat svešinieki. Iespējams, viņi jums ir teikuši kaut ko nepiemērotu, tāpēc es tikai gribēju pārbaudīt, vai jums viss ir kārtībā? Pēc tam spēlētājs var atbildēt uz robotu, saka Dariesku. Ja mijiedarbība tiek noraidīta kā draudzīga ņirgāšanās, sistēma to reģistrē un atjaunina noteikumus, lai turpmāk neiejauktos līdzīgas darbības dēļ. Ja lietotājs jūtas ļaunprātīgi izmantots, sistēma iejaucas vainīgā darbā.

Ally ir saderīgs ar visām tiešsaistes spēlēm, un Spirit AI strādā, lai pievienotu iespējas policijas uzvedībai virtuālās realitātes spēlēs (skatiet sadaļu The War on the Disturbingly Real Trolls in Virtual Reality ). Rīku var konfigurēt dažādos veidos, lai mijiedarbotos ar spēlētājiem un veiktu dažāda veida darbības. Spirit AI uzskata, ka Ally ir veids, kā papildināt spēles kopienas vadības komandu, kas informācijas panelī var pārraudzīt darbību.

Uzņēmums, kas oficiāli tika izveidots 2016. gadā un kurā šobrīd strādā 15 darbinieki, neatklās, ar kādiem spēļu izstrādātājiem pašlaik sadarbojas, taču programmatūra ir piesaistījusi uzmanību spēļu pasaulē. Vienkāršākajā līmenī AI atbalstīti kopienas pārvaldības rīki var paplašināt komandas sasniedzamību, saka Imre Jele, plašo tiešsaistes vairāku spēlētāju spēļu, piemēram, RuneScape, veterāns dizainers. Bet visvairāk mani sajūsmina AI sistēmas, kas pārsniedz noteikumu pārkāpšanas identificēšanu un sodīšanu. Galu galā šo AI komandas locekļu mērķim vajadzētu būt izkļūt no policijas un veidot pozitīvu mijiedarbību un veidot veselīgākas kopienas.

Saistīts stāsts

Lasiet Tālāk Ja jūtat, ka patiešām atrodaties virtuālā ķermenī, ir svarīgi aizsargāt savu personīgo telpu.

Spirit noteikti plāno, ka programmatūra piedāvās vairāk nekā tikai digitalizētus policijas spēkus, kurus var izsaukt tiešsaistes spēlēs. Mēs esam identificējuši šīs tehnoloģijas potenciālu ne tikai novērst sliktu uzvedību, bet arī veicināt labu, prosociālu uzvedību, saka Dariescu. Programmatūra varētu izmantot arī apkārtējās vides noklausīšanos, lai noteiktu plašākas problēmas, kas spēlētājiem varētu rasties saistībā ar spēles dizainu, sniedzot izstrādātājam ieskatu par to, kā varētu uzlabot kopējo spēlētāja pieredzi.

Tomēr, pēc Jele teiktā, AI iejaukšanās gadījumos uzmākšanās gadījumos pastāv ierobežojumi. Daudzas mijiedarbības starp kopienas vadību un spēlētāju atbalsta komandām prasa dziļu empātiju un līdzjūtību, viņš saka: spēlētāji atbalstīja izstrādātājus ar savu naudu un ir pelnījuši vislabāko iespējamo aprūpi, ko šobrīd var nodrošināt tikai cilvēki.

paslēpties