211service.com
Toksiskas valodas ir viegli paslīdēt garām alfabēta toksisko komentāru detektoram
Ceturtdien Alphabet izlaida uz mašīnmācībām balstītu pakalpojumu ar nosaukumu Perspective, kura mērķis ir identificēt toksiskus komentārus vietnēs. Tas ir no Jigsaw — vienības, kas strādā pie tehnoloģijām, lai padarītu internetu par drošāku un civilizētāku vietu. Bet, kad es spēlējos ar Perspective, rezultāti bija nepastāvīgi.
Perspektīvā vērtē komentārus pēc toksicitātes skalas no 1 līdz 100, kas definēts kā rupjš, necieņas pilns vai nepamatots komentārs, kas, iespējams, liks jums atstāt diskusiju. Trampa atbalstītāji tiek uzskatīti par ļoti toksiskiem, savukārt es, godīgi sakot, atbalstu abus, piemēram, nē. Taču pakalpojumam Perspective ir grūti noteikt komentāra noskaņojumu — problēma, par kuru es paredzēju, ka Jigsaw sagādās grūtības, decembrī pārbaudot tās ambīcijas (skatiet sadaļu Ja tikai AI varētu mūs izglābt no mums pašiem).
Tramps ieguva milzīgus 96 procentus, bet neonacistu koda vārds 14/88 ieguva tikai 5 procentus. Tikai daži musulmaņi ir terorisma draudi, kuru toksiskums bija 79 procenti, savukārt rasu karš tagad sasniedza 24 procentus. Hitlers bija antisemīts, kurš ieguva 70 procentus, bet Hitlers nebija antisemīts, ieguva tikai 53%, un holokausts nekad nav noticis, ieguva tikai 21%. Un kamēr gas joos ieguva 29 procentus, pārfrāzējot to uz Lūdzu gas the joos. Paldies. samazināja rezultātu līdz tikai 7 procentiem. (Tomēr ebreji ir cilvēki, 72 procenti. ebreji nav cilvēki? 64 procenti.)
Saskaņā ar Jigsaw teikto, Perspective tika apmācīts, lai noteiktu toksicitāti, izmantojot simtiem tūkstošu komentāru, ko sarindojuši cilvēku recenzenti. Šķiet, ka rezultāts ir sistēma, kas ir jutīga pret konkrētiem vārdiem un frāzēm, bet ne uz nozīmēm.
Piemēram, vārds izvarošana ir 77 procenti — tas, iespējams, izskaidro, kāpēc izvarošana ir briesmīgs noziegums, iegūst 81 procentu. (Līdzīgs modelis ir redzams ar rupjībām: man sasodīti patīk, ka šis rādītājs ir 94 procenti.)
Tāpat arī negācijas un citas valodas nianses rada paradoksālus rezultātus. Pievienojot neveidot Daži musulmaņi ir nē terorisma draudi samazina toksicitāti no 79 procentiem līdz 60 procentiem, jo terorisma draudi Perspektīvai nešķiet nekaitīgāki, lai gan paredzētā nozīme kļūst vairāk toksisks.
Kā jau minēju savā iepriekšējā rakstā par Jigsaw, pašreizējais mašīnmācīšanās stāvoklis neļauj programmatūrai aptvert komentāru nolūku un kontekstu. Veicot virsmas līmeņa rakstu saskaņošanu, sarunas AI var filtrēt stilistiski - bet ne semantiski .
Tas nepadara tehnoloģiju bezjēdzīgu. Tāda sistēma kā Perspective varētu paātrināt moderatoru darbu, atzīmējot ārkārtējus gadījumus. Ir jēga, ka Ņujorkas Laiks sadarbojas ar Jigsaw, lai sniegtu saviem moderatoriem palīdzību rakstu komentāros. The Ņujorkas Laiks tomēr nav ļaunprātīgas izmantošanas problēmu; tā cenšas identificēt augstas kvalitātes komentārus, kur stilistiskā atbilstība, visticamāk, ir efektīvāka. Runājot par tīšu ļaunprātīgu izmantošanu, Jigsaw programmatūra nevarēs aizstāt cilvēka spriedumu neskaidros gadījumos.
Mēs varam teikt, ka troļļi ir stulbi (toksicitātes rādītājs 96 procenti), taču toksicitātes un uzmākšanās valoda bieži ir bagāta ar veidiem, ar kuriem mašīnmācīšanās sistēmas nevar tikt galā. Komentārs Tevi vajadzētu padarīt par lampu, alūzija uz apgalvojumiem, ka abažūriem izmantota koncentrācijas nometnes upuru āda, pēdējo mēnešu laikā ir apmests vairākiem žurnālistiem un citām sabiedrībā zināmām personām. Perspektīvā tas iegūst tikai 4 procentus. Bet labāk neatbildēt, sakot, ka esat nacists, jo tas ir 87 procenti.