Instagram izmanto AI, lai neļautu cilvēkiem publicēt aizskarošus komentārus

Kategorija: Mākslīgais intelekts Ievietots 09. jūlijs

Sociālo mediju platforma atzīmēs, iespējams, aizskarošus komentārus, pirms tie tiks publicēti, un lūgs publicētāju pārdomāt.

Konteksts: Ļaunprātīga izmantošana tiešsaistē vienmēr ir bijusi sarežģīta problēma tās mēroga un nianses dēļ. Tas, kas tiek uzskatīts par cenzūras cienīgu, ir a mūžīgas debates : filtrē pārāk daudz un tas aizskar pašizpausmi; filtrē pārāk maz, un tas rada naidīgu vidi. Ja tam pievieno dažādu valodu, kultūru un normu sarežģītību, izaicinājums kļūst patiešām smags.

Mākslīgais neinteliģence: Tāpēc sociālo mediju platformas, piemēram, Facebook, ir pievērsušās mākslīgajam intelektam, lai palīdzētu tām sakārtot milzīgo ziņu un komentāru apjomu. Taču AI vienmēr ir bijis īpaši grūti parsēt valodu — tādas vienkāršas lietas kā divkāršas darbības, sarkasms vai pat pareizrakstības kļūdas var izraisīt sistēmas kļūdas to nozīmi. Lai to apietu, Facebook izmanto tūkstošiem satura moderatoru palielināt, ja tā algoritmi nespēj pieņemt galīgo lēmumu. Tomēr izmeklēšanā konstatēts, ka šie darbi bieži ir brutāli un nogurdinoši.

Instagram risinājums: Instagram, kas pieder Facebook, tagad izmēģina jaunu pieeju. Tā vietā, lai paļautos tikai uz saviem algoritmiem, lai cenzētu aizskarošu materiālu, tas balstīsies arī uz lietotāju pašcenzūru. Komentāra publicēšanas laikā, ja platformas AI modelis atzīmēs to kā kaitīgu, plakātā tiks parādīts uznirstošais logs ar jautājumu Vai tiešām vēlaties to publicēt?

Sākotnējās pārbaudēs Instagram atklāja, ka šī funkcija mudināja daudzus cilvēkus atsaukt savus komentārus, liecina vakardienas informācija. emuāra ieraksta paziņojums . Tā ir gudra taktika, lai mēģinātu nedaudz atvieglot cilvēka satura regulēšanas slogu, nepārliekot ierobežojot.

Apmācības dati: Šī nav pirmā reize, kad Instagram izmanto AI, lai attīrītu valodu. 2017. gada jūnijā arī tā palaists aizskarošu komentāru filtrs, kas izmanto mašīnmācīšanos, lai paslēptu acīmredzamākos pārkāpumus. Kopš tā laika platforma ir turpinājusi uzlabot savu mašīnmācīšanās modeli, iespējams, izmantojot miljoniem datu punktu, ko lietotāji ģenerēja, kad viņi iepriekš ziņoja par komentāriem. Jaunākā funkcija arī aicina lietotājus informēt Instagram, ja tas kļūdas dēļ ir atzīmējis viņu komentāru kā aizskarošu, kas ir vēl viena atgriezeniskā saite, kas varētu radīt noderīgākus apmācības datus.

Lai vairāk šādu stāstu tiktu piegādāts tieši jūsu iesūtnē, reģistrējieties mūsu Webby nominētajam AI informatīvajam izdevumam The Algorithm. Tas ir par brīvu.