Ja tikai AI varētu mūs izglābt no mums pašiem

Cilvēki ir salauzuši internetu. Kiberhuligānisms, uzmākšanās, sociālā kaunināšana un milzīgas nepatīkamības nomoka tādas vietnes kā Twitter un Reddit, it īpaši, ja jūs piesaistāt nepareizu uzmanību. Apsveriet ceļu Spoku mednieki zvaigzne Leslija Džounsa un sabiedrisko attiecību vadītāja Justīne Sako kļuva par masveida vardarbības mērķiem.

Uzņēmumi, kas sniedz tiešsaistes pakalpojumus, parasti ir saspiesti starp apsūdzībām par vienaldzību pret uzmākšanos un vārda brīvības apspiešanu. Taču tagad Google uzskata, ka tā var izmantot mākslīgo intelektu, lai mazinātu šo digitālās kopienas traģēdiju. (Informācijas atklāšana: es strādāju Google 2000. gados.) Tehnoloģiju inkubators uzņēmumā Jigsaw (agrāk pazīstams kā Google Ideas) saka, ka plāno pamanīt un novērst digitālo uzmākšanos, izmantojot automatizētu programmu Conversation AI. Kā Jigsaw prezidents Džareds Koens, stāstīja Vadu , Es vēlos izmantot labākās mūsu rīcībā esošās tehnoloģijas, lai sāktu izmantot trollēšanu un citas negodīgas taktikas, kas naidīgām balsīm piešķir nesamērīgu svaru, [un] darīt visu iespējamo, lai izlīdzinātu spēles noteikumus.

Šis stāsts bija daļa no mūsu 2017. gada janvāra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Google to labprāt uzņemas, un tas atšķiras no dažiem Jigsaw iepriekšējiem darbiem. Tas ietver Project Shield, kas aizsargā ziņu vietnes un vietnes, kas veicina vārda brīvību, pret pakalpojumu atteikuma uzbrukumiem. Vēl viens finierzāģis, Password Alert, ir Chrome paplašinājums, kas aizsargā pret pikšķerēšanas uzbrukumiem. Tie galvenokārt bija tehniski izaicinājumi. Taču cīņa ar troļļiem un tiešsaistes pūļiem ir arī socioloģiska problēma.

Pārskatīta lieta

• AI tērzēšana

  no Google finierzāģa

Conversation AI ir viena no veiksmīgākajiem Google moonshot projektiem Google Brain atvase. Tas ir palīdzējis mainīt mašīnmācības jomu, izmantojot liela mēroga neironu tīklus, un devis Google priekšrocības, piemēram, programmatūru, kas attēlu atpazīšanā ir prasmīgāka nekā cilvēki. Taču Conversation AI nespēs uzveikt tiešsaistes ļaunprātīgu izmantošanu. Lai gan Jigsaw noteiktais mērķis ir cīnīties ar tiešsaistes pūļu pieaugumu , pati programma ir daudz pieticīgāks un tāpēc ticamāks projekts. Conversation AI galvenokārt racionalizēs kopienas regulēšanu, ko mūsdienās veic cilvēki. Tātad, pat ja tas nevar neitralizēt sliktāko uzvedību tiešsaistē, tas var veicināt vairāk un labāku diskursu dažās vietnēs.

Alūziju noteikšana

Jigsaw sāk sarunu AI vietnē Ņujorkas Laiks , kur tas tiks ieviests pēc dažiem mēnešiem, lai palīdzētu uzņēmumam pārvaldīt savus tiešsaistes komentārus. Cilvēku moderatori pašlaik pārskata gandrīz katru vietnē publicēto komentāru. Pašlaik Conversation AI lasa 18 miljonus no tiem, mācoties atklāt katru atsevišķu komentāru kategoriju, kas tiek noraidīti — nenozīmīgi, ārpus tēmas, mēstules, nesakarīgi, aizkustinoši, neķītri, uzbrukums komentētājam, uzbrukums autoram, uzbrukums izdevējam.

The reizes Uzņēmuma mērķis ne vienmēr ir samazināt ļaunprātīgu izmantošanu savos komentāros — problēma, kuru tas jau uzskata par kontrolētu. Tā vietā tā cer samazināt moderatoru darba slodzi. Mēs nekad negaidām, ka mums būs pilnībā automatizēta sistēma, saka Ērika Grīna, uzņēmuma inženierzinātņu vadītāja Ņujorkas Laiks kopienas komanda, man teica. reizes kopienas redaktors Basijs Etims lēš, ka 50–80 procenti komentāru galu galā varētu tikt automātiski regulēti, ļaujot darbiniekiem veltīt pūles, lai radītu saistošāku saturu. no avīzes komentāru sadaļas.

The Ņujorkas Laiks vietne rada ļoti atšķirīgas problēmas no reāllaika bezmaksas pakalpojuma Twitter un Reddit. Un, ņemot vērā mašīnmācīšanās ierobežojumus — kā tas pastāv šodien — Conversation AI nevar cīnīties pret ļaunprātīgu izmantošanu interneta plašajā telpā. Neskatoties uz visiem žilbinošajiem mašīnmācīšanās sasniegumiem, tā joprojām nav salauzusi cilvēku valodu, kur tādi modeļi kā Go vai attēli ir velnišķīgi nenotverami.

Ērika Kārtera ilustrācijas

Lingvistiskā problēma ļaunprātīgas izmantošanas atklāšanā ir konteksts. Sarunas AI komentāru analīze nemodelē visu diskusijas plūsmu; tas saskaņo atsevišķus komentārus ar labiem vai sliktiem komentāriem, kas iegūti. Piemēram, komentāri par Ņujorkas Laiks vietne var tikt uzskatīta par pieņemamu, ja tajās parasti ir ietverti bieži sastopami vārdi, frāzes un citas funkcijas. Taču Grīns saka, ka Google sistēma bieži atzīmēja komentārus par rakstiem par Donaldu Trampu kā aizskarošus, jo tie citēja viņu, izmantojot vārdus, kuru dēļ komentārs tiktu noraidīts, ja tos būtu saņēmis lasītājs. Šāda veida rakstiem reizes vienkārši izslēgs automātisko regulēšanu.

Tāpēc nav iespējams redzēt, ka Conversation AI labi darbojas tādā plaši atvērtā vietnē kā Twitter. Kā tas atklātu holokausta mājienus ļaunprātīgā veidā tvītos, kas nosūtīti ebreju žurnālistam Markam Dālderam : Tas esi tu, ja uzvarēs Tramps, ar lampas abažūra attēlu, un tu piederi šeit, ar tostera krāsns attēlu? Ļaunprātīgas rīcības noteikšana balstās uz vēsturiskām zināšanām un kultūras kontekstu, ko mašīnmācības algoritms varētu atklāt tikai tad, ja tas būtu apmācīts, izmantojot ļoti līdzīgus piemērus. Pat tad, kā tas varētu atšķirt ļaunprātīgu izmantošanu un to pašu attēlu ar šo es pērku, ja Tramps uzvar? Nepieciešamais semantisko un praktisko zināšanu līmenis pārsniedz to, uz ko pašlaik pat tiecas mašīnmācīšanās.

Līdz ar to īpašs Twitter trollis, bez šaubām, atradīs jaunu veidu, kā izteikt ļaunprātīgu izmantošanu, kas izvairās no tādas sistēmas kā Conversation AI. Ja tas ir mērķis, bloķējot dažus komentārus, mašīnmācīšanās varētu veikt pienācīgu darbu, liekot komentētājiem pārstāt viens otru nejauši saukt par džekiem un homos. Taču mašīnmācīšanās nespēs apgrūtināt cilvēku, kas vēlas likt domāt, ka kāds ir dīvains.

Citiem vārdiem sakot, Conversation AI ļaus efektīvāk veikt moderēšanas uzdevumus kopienās, kurās jau ir tendence diezgan labi uzvesties. Tas nespēj izskaust ļaunākos gadījumus, par kuriem mēs dzirdam, un kas bieži tiek parādīti vietnēs ar minimāliem mērenības standartiem. Policijas ļaunprātīga izmantošana Twitter un Reddit nav iespējams, būtiski nemainot šo platformu būtību.

Slēgtas kopienas

Ļaunprātīgas izmantošanas novēršana vietnē Twitter un Reddit nav iespējama, būtiski nemainot šo platformu būtību.

Facebook panākumi ir atgādinājums, ka lielākā daļa cilvēku un, protams, lielākā daļa uzņēmumu dod priekšroku salīdzinoši aizsargātai un kontrolētai videi, nevis videi, kurā svešinieki var iejaukties citu biznesā un sākt kautiņus. Tātad, ja Conversation AI vai līdzīgi rīki atvieglo un efektīvāk veic šādas kontroles veikšanu, tas ir atgādinājums, ka ļaunprātīgas izmantošanas problēmas risināšanai, izmantojot cilvēku vai automatizētus līdzekļus, ir jāatsakās no maksimālās iekļaušanas kā augstākā ideālā tiešsaistē. Pat šķietami atvērtām kopienām, piemēram, StackExchange un MetaFilter, nepieciešama pastāvīga moderatora iejaukšanās un kopienas kārtības uzturēšana. Patiesi anarhiskas kopienas, piemēram, Twitter, 4chan un daži Reddit kanāli, tiešsaistē izrādās izņēmums, nevis likums. Arī anarhiskās kopienas nav naudas pelnītāji. Twitter ir bijis grūti piesaistīt pircēju, daļēji tāpēc, ka tas ir ļaunprātīgi izmantots saturs, savukārt Reddit ir bijusi liela personāla mainība un grūtības gūt peļņu. Šo vietņu savvaļas rietumu būtība kļūs tikai skaidrāka, ja tādi rīki kā Conversation AI uzlabos moderētu vietņu darbību.

Ir vērts atzīmēt vienu lielu iespējamo mīnusu. Tā kā Conversation AI tiek apmācīts, lai apstiprinātu saturu, kas atbilst noteiktām leksikas, gramatikas un stilistiskām vadlīnijām, tas ne tikai filtrēs aizskarošu saturu. Tas varētu arī mēdz streikot daudzveidīgs saturu. Tas rada jautājumus par to, ko cenzūras valdības varētu ar to darīt. Tāpat kā reizes kūrē savas kopienas, tāpat arī Turcijas un Ķīnas valdības var kūrēt savas kopienas. Lai gan finierzāģa centienu, piemēram, Project Shield, mērķis ir nodrošināt aizsardzību politiski sensitīvām vietnēm, Conversation AI ļauj vieglāk filtrēt nevēlamu runu, taču jautājums ir, kurš to nevēlas? Uz kastes nav etiķetes, kas saka: Izmantojiet tikai, lai novērstu ļaunprātīgu izmantošanu.

Deivids Auerbahs raksta grāmatu par cilvēku un datoru valodām un to konverģenci, ko izdos Panteons. Viņš 11 gadus strādāja par programmatūras inženieri Google un Microsoft, galvenokārt serveru infrastruktūrā.

paslēpties