Laipni lūdzam TikTok nebeidzamajā cenzūras un kļūdu ciklā

Ms Tech | Envato

Ziggi Tyler ir daļa no TikTok Creator Marketplace — privātas platformas, kurā zīmoli var sazināties ar lietotnes labākajiem veidotājiem. Un pagājušajā nedēļā viņš pamanīja kaut ko diezgan satraucošu saistībā ar to, kā izveidotāja bios tiek automātiski regulēts.

Kad viņš mēģināja savā biogrāfijā ievadīt noteiktas frāzes, dažas no tām — melnādainajām dzīvēm ir nozīme, melnādaino cilvēku atbalstīšana, melnādaino balsu atbalstīšana un melnādaino panākumu atbalstīšana — tika atzīmētas kā nepiemērots saturs. Bet to pašu frāžu baltās versijas bija pieņemamas.

Ja es ieeju Creator Marketplace un ielieku “atbalstot balto pārākumu” un nospiežu Pieņemt, tas ir labi, viņš teica. TikTok videoklipā , stāvot pie viņa teiktā video, kurā viņš to dara savā tālrunī. Lai iekļūtu tirgū, viņam bija jāizdzēš rakstītais.

Saistīts stāsts

TikTok bez prasīšanas mainīja dažu cilvēku seju formu

Lietotāji pamanīja skaistumkopšanas filtru, ko viņi nebija pieprasījuši, un ko viņi nevarēja izslēgt.

Sekojošā video , Tailers rādīja frāzes I am a neonacists un I am antisemētisks tiek pieņemts, savukārt es esmu melnādains tika atzīmēts. Stāsts uzplaiksnīja, ko daļēji izraisīja auditorija, kas jau bija neapmierināta par to, kā TikTok izturas pret melnādainajiem satura veidotājiem. Komentārā Insider , uzņēmuma pārstāvis atvainojās par nozīmīgo kļūdu un sacīja, ka Tailera redzētais ir automātiska filtra rezultāts, kas iestatīts, lai bloķētu vārdus, kas saistīti ar naida runu. Sistēma tika kļūdaini iestatīta, lai atzīmētu frāzes, neievērojot vārdu secību. Uzņēmums recode norādīja, ka šī konkrētā kļūda radusies, iekļaujot vārdus Melnais un auditorija, jo tā naida runas noteikšana auditorijā uztvēra nūju un atzīmēja savienošanu pārī kā nepiemērotu.

Iet sabiedrībā, kļūst par vīrusu

Tas nebūt nav vienīgais šāds incidents, kas noticis platformā. Pirms dažām nedēļām TikTok kļūdaini piemērots kas, šķiet, bija obligāts skaistumkopšanas filtrs, kas dažiem Android lietotājiem radīja plānāku žokļa līniju.

Tikmēr aprīlī viens TikTok veidotājs pamanīja, ka platformas jaunā automātiskā parakstu funkcija bloķē frāzi Āzijas sievietes. Un 2021. gada sākumā starpdzimumu veidotāji atklāja, ka lietotnē vairs nebija atrodama atsauce #intersex.

Šie visi ir piemēri modelim, kas atkārtojas TikTok: vispirms radītājs pamana dīvainu un potenciāli kaitīgu platformas regulēšanas vai algoritma problēmu, kas bieži vien nesamērīgi ietekmē marginalizētās grupas. Pēc tam viņi izveido video par notiekošo, un šis videoklips saņem daudz skatījumu. Galu galā, iespējams, žurnālists sāk interesēties par notiekošo, lūdz uzņēmumam paskaidrot, un problēma tiek novērsta. Pēc tam TikTok izdod paziņojumu, kurā teikts, ka problēma radusies kļūdas rezultātā, un uzsver darbu, ko viņi veic, lai atbalstītu radītājus un ietekmētos cēloņus.

Tas ne vienmēr ir pārsteigums, ka šie videoklipi rada jaunumus. Cilvēki veido savus videoklipus, jo tie strādā. Skatu iegūšana gadiem ilgi ir bijusi viena no efektīvākajām stratēģijām, lai virzītu lielu platformu, lai kaut ko labotu. Tiktok, Twitter un Facebook ir atvieglojuši lietotājiem ziņošanu par citu lietotāju ļaunprātīgu izmantošanu un noteikumu pārkāpumiem. Taču, ja šķiet, ka šie uzņēmumi pārkāpj paši savu politiku, cilvēki bieži vien uzskata, ka labākais ceļš uz priekšu ir vienkārši mēģināt par to publicēt pašā platformā, cerot, ka tas izplatīsies un piesaistītu uzmanību, kas novedīs pie kāda veida atrisinājuma. Piemēram, diviem Tailera videoklipiem vietnē Marketplace bios, katram ir vairāk nekā 1 miljons skatījumu.

“Saturs tiek atzīmēts, jo viņi ir kāds no marginalizētas grupas, kas stāsta par savu pieredzi saistībā ar rasismu. Naida runa un runāšana par naida runu var izskatīties ļoti līdzīgi algoritmam.

Keisija Fīslere, Kolorādo Universitāte, Boulder

Es droši vien tieku atzīmēts kaut ko apmēram reizi nedēļā, saka Keisijs Fīslers, Kolorādo universitātes Boulderas docents, kurš pēta tehnoloģiju ētiku un tiešsaistes kopienas. Viņa aktīvi darbojas vietnē TikTok ar vairāk nekā 50 000 sekotāju, taču, lai gan ne viss, ko viņa redz, šķiet pamatoti, viņa saka, ka lietotnes regulārā problēmu parāde ir patiesa. TikTok pēdējo mēnešu laikā ir bijušas vairākas šādas kļūdas, un tās visas ir nesamērīgi ietekmējušas platformas marginalizētās grupas.

MIT tehnoloģiju apskats ir jautājis TikTok par katru no šiem nesenajiem piemēriem, un atbildes ir līdzīgas: pēc izmeklēšanas TikTok konstatē, ka problēma ir radīta kļūdas dēļ, uzsver, ka attiecīgais bloķētais saturs nepārkāpj viņu politikas, un saites uzņēmuma atbalstam. dod šādas grupas.

Jautājums ir par to, vai šo ciklu — kādu tehnisku vai politikas kļūdu, vīrusu atbildi un atvainošanos — var mainīt.

Problēmu risināšana pirms to rašanās

Šī, iespējams, algoritmiskā satura moderēšana, ko cilvēki novēro, rada divu veidu kaitējumu, saka Fieslers. Viens no tiem ir viltus negatīvs. Cilvēki domā: 'kāpēc šajā platformā ir tik daudz naida runas un kāpēc tā netiek noņemta?'

Otra ir kļūdaini pozitīva. Viņu saturs tiek atzīmēts, jo viņi ir kāds no marginalizētas grupas, kas runā par savu pieredzi saistībā ar rasismu, viņa saka. Naida runa un runāšana par naida runu var izskatīties ļoti līdzīgi algoritmam.

Viņa atzīmēja, ka abas šīs kategorijas kaitē vieniem un tiem pašiem cilvēkiem: tie, kas ir nesamērīgi vērsti pret ļaunprātīgu izmantošanu, tiek algoritmiski cenzēti, jo par to runā.

TikTok noslēpumaini ieteikumu algoritmi ir daļa no tā panākumiem — taču tās neskaidrās un pastāvīgi mainīgās robežas dažiem lietotājiem jau ir atvēsinošas. Fieslers atzīmē, ka daudzi TikTok veidotāji paši cenzē vārdus platformā, lai izvairītos no pārskatīšanas. Un, lai gan viņa nav pārliecināta, cik daudz šī taktika sniedz, Fīlsere arī pati ir sākusi to darīt, katram gadījumam. Konta aizliegumi, algoritmiski noslēpumi un dīvaini regulēšanas lēmumi ir pastāvīga sarunu daļa lietotnē.

Saistīts stāsts

Kā Facebook kļuva atkarīgs no dezinformācijas izplatīšanas

Uzņēmuma mākslīgā intelekta algoritmi deva tam nepiepildāmu ieradumu meliem un naida runai. Tagad cilvēks, kurš tos uzbūvēja, nevar atrisināt problēmu.

Vēl ļaunāk, Fiesler apgalvoja, ka daudzas no šīm kļūdām būtu viegli paredzamas, ja uzņēmumi vienkārši vairāk domātu par to, kā dažādi lietotāji faktiski mijiedarbosies ar viņu lietotni. Naida runas kļūdu, ar kuru saskārās Tailers, būtu grūti nepamanīt, ja uzņēmums to pārbaudītu, piemēram, valodā, kuru melnādainie satura veidotāji faktiski izmanto, lai aprakstītu sevi.

Pareiza mērenība ir sarežģīta, saka Feislers, taču tas neattaisno šo pastāvīgo atkārtošanos.

Viņa saka, ka man bieži vien vairāk simpatizē šo lietu izaicinājumi nekā vairumam cilvēku. Bet pat es domāju: 'Vai tiešām?' Kādā brīdī ir modeļi, un jums vajadzētu zināt, ko meklēt.

Es jautāju Fiesleram par to, vai kaut kas varētu palēnināt šo ciklu, pat ja šobrīd to nav iespējams atrisināt tieši. Daļa no atbildes ir viens no senākajiem stāstiem tehnoloģiju jomā: nolīgt cilvēkus ar dažādu pieredzi un uzklausīt viņus.

Taču viņa saka, ka risinājuma daļai ir jābūt arī lielākai pārredzamībai. Fīslere nevar precīzi pateikt, kāpēc TikTok naida runas detektors pagājušajā nedēļā nogāja tik nepareizi, jo lietotne nav izlaidusi daudz informācijas par to, kā tā darbojas — ne tādiem pētniekiem kā viņa, ne lietotājiem, kuru saturs tiek noņemts vai apspiests automatizētā. procesi, kas, kā liecina vēsture, var viegli noiet greizi. Kā žurnālists, kad esmu lūdzis TikTok (un citreiz arī citām platformām) sniegt sīkākus paskaidrojumus par to, kāpēc notika kaut kas, ko viņi sauc par kļūdu, un ko viņi dara, lai tā neatkārtotos nākotnē, atbilde ir īsa, neapmierinoša, vai arī uzņēmums atsakās komentēt ierakstu vispār.

Viņa saka, ka, ja satura veidotāji pastāvīgi saņem saturu neatbilstoši atzīmēti, tad ir jābūt ļoti vienkāršiem apelācijas procesiem.

Tikmēr: cikls turpināsies.

paslēpties