Nākotnes vēlēšanas var ietekmēt inteliģenti, ieroči aprīkoti tērzēšanas roboti

Magoz

Cīņa pret propagandas robotprogrammatūrām ir bruņojuma sacensība mūsu demokrātijai. Tas ir viens, ko mēs, iespējams, zaudēsim. Boti — vienkārši datora skripti — sākotnēji tika izstrādāti, lai automatizētu atkārtotus uzdevumus, piemēram, satura organizēšanu vai tīkla apkopi, tādējādi aiztaupot cilvēkiem noguruma stundas. Uzņēmumi un plašsaziņas līdzekļi arī izmanto robotprogrammatūras, lai pārvaldītu sociālo mediju kontus, lai nekavējoties brīdinātu lietotājus par jaunākajām ziņām vai reklamētu tikko publicētus materiālus.

Taču tos var izmantot arī liela skaita viltotu kontu darbībai, tāpēc tie ir ideāli piemēroti cilvēku manipulēšanai. Mūsu pētījums Computational Propaganda Project pēta neskaitāmus veidus, kā politiskie roboti, kas izmanto lielus datus un automatizāciju, ir izmantoti, lai izplatītu dezinformāciju un izkropļotu tiešsaistes diskursu.

Šis stāsts bija daļa no mūsu 2018. gada septembra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Ir pierādījies, ka robotprogrammatūra ir viens no labākajiem veidiem, kā sociālajos medijos pārraidīt ekstrēmistu viedokļus, kā arī pastiprināt šādus uzskatus no citiem, patiesiem kontiem, atzīmējot tos ar Patīk, kopīgojot, retvītojot, atzīmējot un sekojot, tāpat kā to darītu cilvēks. To darot, viņi izmanto algoritmus un atalgo ziņas, ar kurām viņi ir mijiedarbojušies, nodrošinot tiem lielāku redzamību.

Tas šķitīs pieradināts salīdzinājumā ar to, kas ir ceļā.

Spēks skaitļos

Pēc Krievijas iejaukšanās 2016. gada ASV vēlēšanās izraisīja diskusiju vilnis par to, kā pasargāt politiku no propagandas. Twitter šogad ir noņēmis aizdomīgus kontus, tostarp robotprogrammatūras, desmitiem miljonu apmērā, savukārt regulatori ir ierosinājuši robotu aizliegumus un pārredzamības pasākumus, kā arī aicinājuši labāk sadarboties ar interneta platformām.

Tāpēc var šķist, ka mēs gūstam virsroku. Un tā daļēji ir taisnība — robotprogrammatūras taktika ir zaudējusi savu novitāti un nekad nav bijusi smalka. Viņu spēks agrāk bija skaitļos. Propagandisti mobilizētu viņu armijas, lai pārpludinātu internetu ar ziņām un atbildēm, mēģinot pārvarēt patieso demokrātisko diskursu. Tā kā esam izveidojuši tehniskus pretpasākumus, kas ļauj labāk noteikt robotiem līdzīgu uzvedību, ir kļuvis vieglāk tos izslēgt. Arī cilvēki ir kļuvuši uzmanīgāki un efektīvāk tos pamanot. Vidējais robots maz neslēpj savu robotisko raksturu, un, ātri apskatot tā tvitera rakstus vai pat tā profila attēlu, tas var parādīties.

Tomēr nākamās paaudzes robotprogrammatūra strauji attīstās. Lielā mērā pateicoties progresam dabiskās valodas apstrādē — tās pašas tehnoloģijas, kas nodrošina ar balsi darbināmas saskarnes, piemēram, Amazon Alexa, Google Assistant un Microsoft Cortana, šie robotprogrammatūras izturēsies daudz vairāk kā īsti cilvēki.

Jāatzīst, ka šīs sarunvalodas saskarnes joprojām ir nelīdzenas, taču tās kļūst arvien labākas, un priekšrocības, ko sniedz iespēja veiksmīgi atšifrēt cilvēku valodu, ir milzīgas. Digitālie asistenti ir tikai viens no tiem — zīmoli klientu apkalpošanai izmanto sarunu tērzēšanas robotus, un izdevēji, piemēram, CNN, tos izmanto personalizēta multivides satura izplatīšanai.

Šādi tērzēšanas roboti atklāti pasludina sevi par automatizētiem, bet propagandas roboti to nedarīs. Viņi parādīsies kā lietotāji, kas piedalās tiešsaistes sarunās komentāru sadaļās, grupu tērzētavās un ziņojumu dēļos.

Pretēji izplatītajam uzskatam tas vēl nenotiek. Lielākā daļa robotprogrammatūru tikai reaģē uz atslēgvārdiem, kas izraisa atbildes reakciju, kas reti iekļaujas konkrētās sarunas kontekstā vai sintaksē. Šīs atbildes bieži ir viegli pamanīt.

Bet kļūst grūtāk. Jau tagad daži vienkārši iepriekš ieprogrammēti robotprogrammatūras skripti ir bijuši veiksmīgi, lai maldinātu lietotājus. Kad robotprogrammatūra iemācās izprast kontekstu un nodomus, viņi kļūst prasmīgāki sarunās, nepametot aizsegu.

Pēc dažiem gadiem sarunvalodas robotprogrammatūras varētu meklēt jutīgus lietotājus un vērsties pie tiem, izmantojot privātos tērzēšanas kanālus. Viņi daiļrunīgi orientēsies sarunās un analizēs lietotāja datus, lai nodrošinātu pielāgotu propagandu. Boti sarunvalodas veidā norādīs cilvēkus uz ekstrēmistiskiem viedokļiem un pretargumentiem.

Tā vietā, lai pārraidītu propagandu visiem, šie robotprogrammatūras vērsīs savu darbību uz ietekmīgiem cilvēkiem vai politiskiem disidentiem. Viņi uzbruks personām ar skriptu naida runu, pārņems tās ar surogātpastu vai liks slēgt viņu kontus, ziņojot par viņu saturu kā aizskarošu.

Lieliski piemērots Google, lieliski piemērots robotiem

Ir vērts aplūkot, kā AI metodes, kas nodrošina šāda veida robotprogrammatūras, kļūst arvien labākas, jo tehnoloģiju uzņēmumu izmantotās metodes lieliski palīdz uzlabot politisko robotu iespējas.

Lai strādātu, apstrādei dabiskajā valodā ir nepieciešams ievērojams datu apjoms. Tehnoloģiju uzņēmumi, piemēram, Google un Amazon, iegūst šādus datus, atverot sabiedrībai savus valodas apstrādes algoritmus, izmantojot lietojumprogrammu saskarnes vai API. Trešās puses, piemēram, banka, kas vēlas automatizēt sarunas ar klientiem, var nosūtīt neapstrādātus datus, piemēram, tālruņa zvanu audio vai teksta skriptus, uz šīm API. Algoritmi apstrādā valodu un atgriež mašīnlasāmus datus, kas ir gatavi komandu palaišanai. Savukārt tehnoloģiju uzņēmumi, kas nodrošina šīs API, iegūst piekļuvi lielam daudzumam sarunu piemēru, ko viņi var izmantot, lai uzlabotu mašīnmācīšanos un algoritmus.

Turklāt gandrīz visi lielākie tehnoloģiju uzņēmumi izstrādātājiem dara pieejamus atvērtā koda algoritmus dabiskajai valodai. Izstrādātāji tos var izmantot, lai izveidotu jaunas, patentētas lietojumprogrammas, piemēram, programmatūru ar balsi vadītam robotam. Izstrādātājiem pilnveidojot un pilnveidojot sākotnējos algoritmus, tehnoloģiju uzņēmumi gūst labumu no viņu atsauksmēm.

Problēma ir tā, ka šādi pakalpojumi ir plaši pieejami gandrīz ikvienam, tostarp cilvēkiem, kas veido politiskos robotus. Nodrošinot rīku komplektu sarunu automatizēšanai, tehnoloģiju uzņēmumi netīši māca propagandu runāt.

Sliktākais vēl tikai priekšā

Boti, kas pārzina cilvēku valodu, pagaidām ir neparasti. Lai robotus aprīkotu ar mūsdienīgiem valodas apstrādes algoritmiem, joprojām ir nepieciešamas ievērojamas zināšanas, skaitļošanas jauda un apmācības dati. Bet tas nav neaizsniedzams. Kopš 2010. gada politiskās partijas un valdības ir iztērējušas vairāk nekā pusmiljardu dolāru manipulācijām ar sociālajiem medijiem, pārvēršot to par augsti profesionalizētu un labi finansētu nozari.

Vēl tāls ceļš ejams, līdz robots spēs apmānīt cilvēku savstarpējā sarunā. Tomēr, algoritmiem attīstoties, šīs iespējas parādīsies.

Tāpat kā jebkuras citas inovācijas gadījumā, tiklīdz šīs AI metodes ir izgājušas no kastes, tās neizbēgami atbrīvosies no ierobežotā lietojumprogrammu kopuma, kam tās sākotnēji bija paredzētas.

Lisa-Maria Neudert ir doktorante Oksfordas Interneta institūtā un pētniece Computational Propaganda Project.

paslēpties