Facebook bijušais drošības vadītājs: lūgšana Big Tech policijai naida runu ir bīstams ceļš

Džošs Edelsons | Stenfordas universitātes atļauja

Vēl pirms dažām nedēļām Alekss Stamoss bija Facebook galvenais drošības virsnieks. Viņš vadīja Krievijas politiskās dezinformācijas medības platformā pēc 2016. gada vēlēšanām ASV. Tagad Stenfordas universitātē viņš nesen paziņoja par Stenfordas interneta observatorijas izveidi — projektu, lai cīnītos pret naida runu, propagandu un manipulācijām, apvienojot akadēmiskos pētniekus, sociālos zinātniekus, politikas veidotājus un pašus tehnoloģiju gigantus.

Tāpat kā daudzi cilvēki, Stamos uzskata, ka tādām tehnoloģiju platformām kā Facebook un Google ir pārāk daudz spēka. Bet viņš nepiekrīt aicinājumiem viņus izjaukt. Un viņš apgalvo, ka tie paši cilvēki, kuri saka, ka Facebook un Google ir pārāk spēcīgi, viņiem dod vairāk varu, uzstājot, ka viņi dara vairāk, lai kontrolētu naida runu un propagandu.

Tas ir bīstams ceļš, viņš brīdina. Ja demokrātiskas valstis liks tehnoloģiju uzņēmumiem noteikt vārda brīvības ierobežojumus, tad arī autokrātiskās valstis. Pēc neilga laika šī tehnoloģija ļaus mašīnas ātrumā reāllaikā regulēt visu, ko mēs sakām tiešsaistē. Mēģinot iegrožot Big Tech, mēs riskējam izveidot Big Brother. Tātad, kāds ir risinājums? Es runāju ar Stamosu viņa Stenfordas birojā, lai uzzinātu. (Intervija skaidrības labad ir saīsināta un rediģēta.)

Jūs nesen teicāt ka jau ir par vēlu glābt 2018. gada vidusposmu no ārvalstu iejaukšanās. Kas ir vainīgs, ka ļāva tam notikt, ņemot vērā visu, ko mēs uzzinājām 2016. gadā?

2016. gadā notika trīs lietas. [Krievijas] Interneta pētījumu aģentūra un ar to saistītās grupas veica dezinformācijas un propagandas kampaņu. Bija informācijas nopludināšanas kampaņa, kurā GRU [Krievijas militārais izlūkdienests] ielauzās DNC [Demokrātiskās nacionālās komitejas] e-pastā un pēc tam ievietoja sižetus [medijos]. Un notika pētnieciska iekļūšana vēlēšanu sistēmās 21 štatā.

Pirmā problēma ir bijusi visvairāk [pie tā paveikta], jo tā pilnībā ietilpst platformu pārziņā. Viņi ir definējuši, kas ir politiska reklāma un kas ir problēma reklāma, radījuši reklāmas pārredzamību, definējuši, kas ir neatbilstoša koordinācija, un sākuši šo noteikumu izpildi.

'Krievi varēja nosūtīt savu B komandu, lai ielauztos DNC. Es neesmu pārliecināts, ka cilvēki ir gatavi A komandai.

GRU uzlaušanas un noplūdes kampaņā ir noticis ļoti maz. DNC ir veikti drošības uzlabojumi. Es ceru, ka lielākā daļa kampaņu ir uzmanīgākas. Taču nešķiet, ka kampaņu un kandidātu vidū būtu vairumtirdzniecības drošības uzlabojumi. Krievi varēja aizsūtīt savu B komandu uzlauzt DNC. Es neesmu pārliecināts, ka cilvēki ir gatavi A komandai.

Trešajā mēs gandrīz neko neesam izdarījuši. Jums joprojām ir 10 000 vēlēšanu iestāžu [ASV], kas piedalās vēlēšanās. Mums ir vairākas valstis, kurās nav papīra rezerves [balsošanas biļeteniem]. Ir pārāk daudz iestāžu, kas ir atbildīgas par savu drošību, lai mēs varētu nodrošināt [vēlēšanas], ja federālā valdība nesniedz milzīgus resursus. Šeit, manuprāt, mums ir vislielākā ievainojamība.

Tātad dezinformācijas/propagandas problēma lielākoties ir atrisināta?

Brīvā sabiedrībā jūs nekad nenovērsīsit šo problēmu. Es domāju, ka vissvarīgākā lieta [ASV] ir reklāmas caurspīdīgums. Ar vai bez jebkādas ārvalstu iejaukšanās partijas, kampaņas, PAC [politisko darbību komitejas] šeit, ASV, sadala vēlētājus mazos spainīšos, un tas ir slikti. Pārredzamība ir labs sākums.

Nākamais solis, kas mums nepieciešams, ir federālie tiesību akti, lai ierobežotu reklāmu mērķauditorijas atlasi. Interneta reklāmas ekosistēmā ir tūkstošiem uzņēmumu. Facebook, Google un Twitter ir vienīgie, kas kaut ko ir izdarījuši, jo tie ir guvuši vislielāko preses atspoguļojumu un vislielāko spiedienu no politiķu puses. Tātad bez likumdošanas mēs vienkārši iegrūdīsim visus uzbrucējus reklāmas garajā astē uzņēmumiem, kuriem nav īpašu komandu, kas meklē Krievijas dezinformācijas grupas.

Facebook ir kritizēts par Krievijas politisko iejaukšanos gan ASV, gan citās valstīs, genocīds Mjanmā , un daudzas citas lietas. Vai jums šķiet, ka Facebook ir pilnībā aptvēris savas ietekmes apjomu un atbildību?

Es domāju, ka uzņēmums noteikti saprot tā ietekmi. Grūtākā daļa ir to atrisināt. Deviņdesmit procenti Facebook lietotāju dzīvo ārpus ASV. Vairāk nekā puse dzīvo nebrīvās valstīs vai demokrātijās bez runas aizsardzības. Viena no problēmām ir risinājums šajās valstīs, kas uzreiz nenonāk ļoti tumšā vietā [t.i., cenzūra].

'Es domāju, ka [Facebook] noteikti saprot tā ietekmi. Grūtākā daļa ir to atrisināt.

Cits ir izdomāt, ar kādām problēmām atstāt inženiertehniskos resursus. Neatkarīgi no tā, cik liels ir uzņēmums, ir tikai noteikts skaits problēmu, kuras varat atrisināt. Viena no problēmām, ar ko saskārušies uzņēmumi, ir tā, ka tie darbojas ugunsdzēsības režīmā, pārejot no avārijas uz ārkārtas situāciju.

Līdz ar personāla komplektēšanu kļūst labāk, taču mums ir vajadzīga arī informētāka ārēja diskusija par lietām, kurām vēlamies, lai uzņēmumi koncentrētos — kādas ir problēmas, kuras noteikti ir jāatrisina un kuras nē. Jūs minējāt virkni problēmu, kas patiesībā ir ļoti atšķirīgas, taču cilvēki tās visas sajauc.

Vai jūs domājat, ka tehnoloģiju uzņēmumiem ir pārāk daudz varas? Vai, piemēram, Facebook būtu jāpiespiež atteikties no Instagram un WhatsApp?

Ja pretmonopola cilvēki uzskata, ka ir lietderīgi piespiedu kārtā atsavināt atsevišķas platformas, tas ir viņu ziņā. Es nedomāju, ka tas šīs problēmas atrisina vai pasliktina. To vēl vairāk pasliktinātu konkrētu produktu sadalīšana. Desmit WhatsApp ir sliktāks par vienu WhatsApp, un desmit Facebook ir sliktāks par vienu Facebook, jo jūs zaudējat apjomradītus ietaupījumus [un] iespēju izveidot labi nokomplektētas komandas, kas ir ekspertes šāda veida ļaunprātīgā izmantošanā [naida runa, propaganda utt. .].

Patiesība ir tāda, ka lielie uzņēmumi ir bijuši atsaucīgi. Visi ignorē mazos uzņēmumus, jo tas nerada labus virsrakstus. Facebook ir paveicis vairāk nekā lielākā daļa citu uzņēmumu.

Kā jūs regulējat pasaulē, kurā tehnoloģija attīstās tik strauji, kamēr regulējums virzās tik lēni? Kā sabiedrībai vajadzētu noteikt saprātīgus ierobežojumus tam, ko dara tehnoloģiju uzņēmumi?

Taču šobrīd sabiedrība neprasa ierobežojumus tam, ko viņi dara. Tas prasa, lai tehnoloģiju uzņēmumi to darītu vairāk . Un es domāju, ka tas ir bīstams ceļš. Visās jūsu pieminētajās problēmās — Krievijas dezinformācijā, Mjanmā —, ko jūs sakāt šiem uzņēmumiem, mēs vēlamies, lai jums būtu lielākas iespējas kontrolēt citu cilvēku teikto un rīcību.

'Pēc pieciem vai desmit gadiem varētu būt... mašīnas ātrums, reāllaika moderācija visam, ko mēs sakām tiešsaistē.'

Tas ir ļoti bīstami, jo īpaši saistībā ar mašīnmācības pieaugumu. Pēc pieciem vai desmit gadiem varētu būt mašīnmācības sistēmas, kas saprot cilvēku valodas, kā arī cilvēkus. Mēs varētu beigties ar mašīnas ātruma, reāllaika moderāciju visam, ko mēs sakām tiešsaistē. Tāpēc pilnvaras, kuras mēs šobrīd piešķiram tehnoloģiju uzņēmumiem, ir tādas, kādas šīm mašīnām būs pēc pieciem gadiem.

Kāda ir galvenā problēma, ko Stenfordas interneta observatorija mēģina atrisināt?

Nav noteiktas akadēmiskās jomas, kas pētītu tehnoloģiju ļaunprātīgu izmantošanu, izņemot ļoti tehniskus trūkumus. Datorzinātņu nodaļas pēta jaunus ļaunprātīgas izmantošanas veidus, jaunus kļūdu veidus, ezotēriskus kriptogrāfijas risinājumus, taču jūs nevarat iegūt doktora grādu, kas pēta iebiedēšanu un uzmākšanos un to tehniskos risinājumus. Iespējams, ka jums ir politologi, kas pēta sociālo tīklu ietekmi uz demokrātiju, un cilvēki psiholoģijas nodaļā, kas pēta Instagram lietošanas ietekmi uz pusaudžiem, kuri vēlas pašnāvību, taču viņiem trūkst tehnisko prasmju un infrastruktūras.

Tātad Stenfordas interneta observatorija būs pastāvīga programma, kurā strādās datu zinātnieki, programmatūras inženieri, izmeklētāji un analītiķi, kuri saprot, kā mijiedarboties ar tehnoloģiju platformām un kā veikt datu analīzi ļoti plašā mērogā. Pēc tam šī grupa var sniegt pakalpojumus akadēmiskajām grupām un veikt savus pētījumus. Tad mēs varam katalizēt darbu, kas, iespējams, nenotiktu, jo tas tīri neietilpst nevienā akadēmiskajā sfērā.

Kādi ir daži risinājumi, pie kuriem strādājat?

Ja paskatās uz 2016. gadu, jūs redzat izlūkošanas kļūmes starp ASV valdību [un] sabiedroto valdībām, kā arī starp šīm valdībām un tehnoloģiju platformām. Mums ir jādomā par pienākumiem šīm dažādajām grupām un par to, kā jūs saskaņojat faktu, ka tehnoloģiju uzņēmumi darbojas kvazi-valdības veidā. Kāda veida kontrole viņiem būtu jāievieš, un kurā brīdī sākas un beidzas viņu atbildība? Mēs strādājam pie ieteikumiem Kongresam nākamajam gadam.

Mēs arī veidojam spēju uzraudzīt dezinformācijas izmantošanu dažādās vēlēšanās. Mūsu mērķis ir panākt, lai tas nākamgad varētu piedalīties Indijas un Eiropas Parlamenta vēlēšanās.

Demokrāti neizbēgami būs uzņēmīgāki nekā republikāņi šāda veida risinājumiem. Kā padarīt šo bezpartejisku?

Doma, ka iejaukšanās vēlēšanās palīdz tikai republikāņiem, ir ārprātīga. Ir pieejama krievu rokasgrāmata. Mūsu sistēmas nepilnības ir pierādītas. Mēs esam devuši signālu saviem pretiniekiem, ka viņi var iejaukties mūsu vēlēšanās, un mēs neko nedarīsim, lai par to tiešām sodītu.

'Mans vēstījums republikāņiem ir: 'Novērsīsim šo problēmu, pirms jums, puiši, ir jāiegūst savs 2016. gads.'

Tāpēc es pilnībā sagaidītu, ka turpmākajās vēlēšanās iesaistīsies citi pretinieki. Ķīna, Irāna, Ziemeļkoreja — doma, ka visas šīs valstis gatavojas atbalstīt republikāņus, ir smieklīga. Tāpēc mans vēstījums republikāņiem ir: Novērsīsim šo problēmu, pirms jums ir jāizveido savs 2016. gads.

Šai diskusijai ir jāvirzās garām Trampam. Republikāņiem smadzenes tiek iesaldētas, ja jūs domājat, ka Tramps nav ievēlēts godīgi. Tāpēc mums vienkārši ir jārunā par ievainojamību un iespējamo ietekmi, ko tā atstās 2020. gadā. Kad es privāti runāju ar republikāņiem, viņi to uztver daudz vairāk.

Saistīts jautājums ir politiķu tehnoloģiskās pratības trūkums. Kā jūs to atrisināt?

Šiem cilvēkiem parasti ir diezgan gudri darbinieki, taču lielākā daļa darbinieku nav strādājuši tehnoloģiju jomā. Tāpēc mums ir jāmudina cilvēki, kuri ir strādājuši tehnoloģiju jomā, doties strādāt uz līdzstrāvu. Ir tādi piemēri kā Kriss Sohoians [tehnoloģiju aktīvists, tagad strādā pie senatora Rona Vaidena], kur tehniķi dodas uz Kongresu un viņiem ir milzīga ietekme individuāli.

Un tas notiek abos virzienos. Mums ir jāmāca datorzinātniekiem par vēsturi un ētiku, un mums ir jāmāca brīvās mākslas specialitātēm par tehnoloģiju pamatiem, lai viņi varētu būt ietekmīgi. Spēja sarunāties ar nerdiem tādā veidā, ko viņi ciena, ir ļoti spēcīga, un tas ir kaut kas, kas šobrīd Kongresam trūkst.

paslēpties