211service.com
Yahoo ir rīks, kas var pārsteidzoši labi novērst ļaunprātīgu izmantošanu tiešsaistē
Troļļi, šķiet, slēpjas katrā interneta stūrī, un viņi priecājas sabojāt jūsu dienu. Bet, ja mūsu e-pasta iesūtnes var saglabāt salīdzinoši bez surogātpasta, kāpēc mašīnas nevar automātiski iztīrīt aizskarošus ziņojumus no tvītiem vai komentāriem?
Tas ir jautājums, kas šķiet aktuāls mūsdienu interneta kultūras struktūrai. Pagājušajā nedēļā Twitter aizliegts žurnālists, kuru tā apsūdzēja par vardarbības kampaņas organizēšanu, kuras mērķis bija viena no zvaigznēm, kurā ir tikai sieviete Spoku mednieki pārstartēt. Twitter paziņoja, ka ieviesīs jaunas vadlīnijas un rīkus ziņošanai par ļaunprātīgu izmantošanu, izmantojot savu pakalpojumu. Protams, neskaitāmi citi incidenti Twitter un citur katru dienu paliek nepamanīti.
Pētnieki faktiski gūst zināmu progresu tehnoloģiju jomā, kas var palīdzēt apturēt ļaunprātīgu izmantošanu. Yahoo komanda nesen tika izveidota algoritms spēj uztvert ļaunprātīgus ziņojumus labāk nekā jebkura cita līdz šim automatizēta sistēma. Pētnieki izveidoja datu kopu par ļaunprātīgu izmantošanu, apkopojot ziņojumus par Yahoo rakstiem, kurus uzņēmuma komentāru redaktori atzīmēja kā aizskarošus.
Yahoo komanda izmantoja vairākus tradicionālus paņēmienus, tostarp ļaunprātīgu atslēgvārdu meklēšanu, pieturzīmes, kas bieži vien šķita pievienotas ļaunprātīgiem ziņojumiem, un sintaktiskas norādes par teikuma nozīmi.
Taču pētnieki izmantoja arī progresīvāku pieeju automatizētai valodas izpratnei, izmantojot veidu, kā attēlot vārdu nozīmi kā vektorus ar daudzām dimensijām. Šī pieeja, kas pazīstama kā vārdu iegulšana, ļauj semantiku apstrādāt sarežģītā veidā. Piemēram, pat ja komentārs satur vārdu virkni, kas nav identificēta kā aizskaroša, šīs virknes attēlojums vektortelpā var būt pietiekami, lai to identificētu kā tādu.
Kad viss tika apvienots, komanda spēja identificēt ļaunprātīgus ziņojumus (no savas datu kopas) ar aptuveni 90 procentu precizitāti.
Atlikušo 10 procentu noķeršana var izrādīties sarežģīta. Lai gan AI pētnieki gūst ievērojamu progresu, apmācot mašīnas, lai analizētu valodu, mākslīgajam intelektam vēl ir jāaprīko datori ar prāta jaudu, kas nepieciešama nozīmes atšķetināšanai. Kā liecina konkurss, kas notika nesenā AI konferencē, datori nevar teikumos izjaukt visvienkāršākās neskaidrības.
Daudzos tehnoloģiju uzņēmumos, tostarp Twitter, ir mākslīgā intelekta pētnieki, kas nodarbojas ar jaunāko tehnoloģiju attīstību tādās jomās kā attēlu atpazīšana un teksta izpratne. Taču šķiet, ka līdz šim ir pielikts pārsteidzoši maz pūļu, lai sistemātiski notvertu vardarbību vai uzmākšanos. Twitter atteicās pateikt, vai tā AI komanda aktīvi strādā pie problēmas (lai gan šķiet, ka tas ir iespējams). Bet maz ticams, ka uzņēmums ieviesīs burvju lodi ļaunprātīgu ziņojumu filtrēšanai. Problēma ar automatizēto naida filtrēšanu ir tā, ka vārdiem ir daudz nozīmes, ko var izpakot tikai ar patiesu inteliģenci.
Automātiski identificēt ļaunprātīgu izmantošanu ir pārsteidzoši grūti, saka Alekss Krasodomski-Džounss, kurš kā pētnieks no Apvienotās Karalistes izseko ļaunprātīgu izmantošanu tiešsaistē. Sociālo mediju analīzes centrs . Vardarbības valoda ir amorfa — tā bieži mainās un bieži tiek lietota tādos veidos, kas neliecina par vardarbību, piemēram, kad rasistiski vai seksuāli motivētus vārdus piesavinās grupas, kuras tās kādreiz nomelnojušas. Ņemot vērā 10 tvītus, cilvēku grupa reti visi vienosies par to, kuri no tiem ir jāklasificē kā aizskaroši, tāpēc varat iedomāties, cik grūti tas būtu datoram.
Kamēr mašīnas neiegūs īstu inteliģenci, naidpilnu ziņojumu filtrēšana nebūs iespējama. Taču Krasodomski-Jones piedāvā vēl vienu, cilvēciskāku iemeslu, kāpēc mēs varētu nevēlēties automatizētu risinājumu: pasaulē, kur to, ko mēs lasām, arvien vairāk nosaka algoritmi un filtri, mums vajadzētu būt uzmanīgiem, pieprasot lielākus datora traucējumus.