Facebook nopludinātie moderēšanas noteikumi parāda, kāpēc Big Tech nevar kontrolēt naida runu

Kategorija: Silikona ieleja Ievietots 28. decembris

Sabiedrība lūdza Big Tech slēgt naida runu tiešsaistē. Mēs saņēmām tieši to, ko prasījām.

Ziņas: The New York Times Makss Fišers publicēti izraksti no vairāk nekā 1400 iekšējo Facebook dokumentu lapām, kas satur noteikumus uzņēmuma globālajai armijai, kurā ir vairāk nekā 7500 satura moderatoru. (Mātesplatē bija iepriekš publicēts daži no tā paša materiāla.)

Kas ir iekšā? Plašs vadlīniju, ierobežojumu un klasifikāciju klāsts. Noteikumi par naida runu vien attiecas uz 200 žargonu pilnām, galvu reibinošām lapām. Tajos ir ietverta informācija par to, kā interpretēt emocijzīmes (ar ?, acīmredzot, var būt gan iebiedēšana, gan slavēšana), kā arī to personu vai politisko partiju saraksti, kurām jāuzrauga iespējamās naida runas. Dokumenti liecina, ka Facebook ir daudz spēcīgāks globālās runas šķīrējtiesnesis, nekā tas ir atzinis, raksta Fišers.

Problēma: Vadlīnijas ir ne tikai bizantiskas; daži ir novecojuši vai satur kļūdas. Tie arī ļoti atšķiras atkarībā no tā, cik liels spiediens uz uzņēmumu tiek izdarīts: Facebook bloķē desmitiem galēji labējo grupu Vācijā, kur varas iestādes rūpīgi pārbauda sociālo tīklu, bet tikai vienu kaimiņvalstī Austrijā. Paredzams, ka moderatori, kuru lielākā daļa strādā ārpakalpojumu uzņēmumos un iegūst minimālu apmācību, dažu sekunžu laikā pieņems sarežģītus spriedumus, apstrādā tūkstoš ziņu dienā , ar noteikumiem, kas bieži mainās, reaģējot uz politiskiem notikumiem, un bieži tiek izmantots Google tulkotājs.

Līdzņemšanai: Tas noņem jebkuru atlikušā izlikšanās ka Facebook ir tikai neitrāla publicēšanas platforma. Politiskie spriedumi caurstrāvo katru šo vadlīniju lappusi.

Bet ko jūs gaidījāt? Kā man teica Facebook bijušais galvenais drošības virsnieks Alekss Stamoss oktobrī, mēs esam pieprasījuši, lai tehnoloģiju platformas policijai izskan naida runas, un tas tikai dod viņiem lielāku spēku. Tas ir bīstams ceļš, brīdināja Stamoss. Pēc pieciem vai desmit gadiem varētu būt mašīnmācības sistēmas, kas saprot cilvēku valodas, kā arī cilvēkus. Mēs varētu beigties ar mašīnas ātruma, reāllaika moderāciju visam, ko mēs sakām tiešsaistē.