Es biju tur, kad: Facebook peļņa ir svarīgāka par drošību

Pagājušajā mēnesī galvenais avots Wall Street Journal Facebook faili , atklāja savu identitāti epizodē 60 minūtes . Frānsisa Haugena, bijusī uzņēmuma produktu menedžere, saka, ka viņa nāca klajā pēc tam, kad viņa redzēja, ka Facebook vadība atkārtoti prioritizē peļņu, nevis drošību. Pēc tam viņa ieradās likumdevēju priekšā ASV un Apvienotajā Karalistē, lai runātu par to, ko viņa bija iemācījusies, strādājot uzņēmumā.

Taču Haugens nebija pirmais Facebook trauksmes cēlējs, kurš cēlis trauksmi par uzņēmuma nespēju vai nevēlēšanos tikt galā ar nopietnām platformas algoritmu izraisītām problēmām. 2020. gadā mēs uzzinājām par Sofiju Džanu, kura uzņēmumā bija oficiāli nodarbināta kā zema līmeņa datu zinātniece. Kad viņa pameta darbu, viņas grāvējs, 8000 vārdu izejas piezīmes, atklāja, ka viņa ir identificējusi desmitiem valstu, tostarp Indiju, Meksiku, Afganistānu un Dienvidkoreju, kur viltoti konti un atzīmes Patīk ļāva politiķiem maldināt sabiedrību un iegūt varu. Tas arī atklāja, cik maz uzņēmums bija darījis, lai mazinātu problēmu, neskatoties uz Džan atkārtotiem centieniem pievērst tai vadības uzmanību.

Jaunākajā sērijā Biju Tur Kad , jauns mutvārdu vēstures projekts no aplādes In Machines We Trust, mēs runājam ar Džanu par viņas centieniem.

Kredīti:

Šo sēriju producēja Dženifera Stronga, Entonijs Grīns un Emma Cillekensa. To rediģēja Maikls Reilijs un Mets Honans. To miksējis Garets Langs, skaņu dizainu un mūziku autors Džeikobs Gorskis.

Pilns atšifrējums:

[TR ID]

SOT: Frānsisa Haugena: Laikā, kad strādāju Facebook, es sapratu graujošu patiesību. Gandrīz neviens ārpus Facebook nezina, kas notiek Facebook iekšienē.

Dženifera: Fransisa Haugena ir bijusī Facebook produktu vadītāja. Viņa ir iesniegusi sūdzības federālajām tiesībaizsardzības iestādēm, apgalvojot, ka sociālo mediju giganta vadība vairākkārt ir izvirzījusi peļņu pār drošību.

SOT: Frānsisa Haugena: Uzņēmums apzināti slēpj svarīgu informāciju no sabiedrības, no ASV valdības un no valdībām visā pasaulē.

Dženifera: Viņas sūdzībām bija pievienots daudz dokumentu, kurus Haugens savāca pirms aiziešanas..., mēģinot pierādīt, ka uzņēmums bija apzināti izvēlējies neizlabot problēmas savā platformā.

Starp tiem... ka algoritmi, piemēram, aiz jūsu Facebook ziņu plūsmas, pastiprina naidu, dezinformāciju un politiskos nemierus.

Un viņa nav vienīgā trauksmes cēlēja, kas apsūdz uzņēmumu par dezinformācijas kampaņu pievēršanu platformā.

Sofija Džana strādāja par Facebook datu zinātnieci… un līdz brīdim, kad tika atlaista no darba, viņa centās atrast un noņemt viltus kontus, komentārus un atzīmes Patīk, kas tika izmantotas vēlēšanu ietekmēšanai visā pasaulē. Viņas grāvējpiezīme par aiziešanu bija 8 tūkstoši vārdu… un tas atklāja, cik maz Facebook ir paveicis, lai mazinātu šo problēmu.

Es esmu Dženifera Spēcīga, un tā ir Biju Tur Kad .

Tas ir mutvārdu vēstures projekts, kurā ir stāsti par to, kā mākslīgā intelekta un skaitļošanas jomā notika ūdensšķirtnes mirkļi… kā stāstīja cilvēki, kas tos bija aculiecinieki.

[Rādīt ID]

Sofija Džana: Es esmu Sofija Džana. Facebook es biju datu zinātnieks un strādāju saderināšanās komandā. Ar viltus es domāju, piemēram, viltotus kontus, bet arī uzlauztus kontus. Un ar iesaistīšanos es domāju atzīmes Patīk, komentārus, kopīgošanu utt. Bet manā brīvajā laikā, kad es sāku mēnessērdzēt neautentiskas politiskās darbības atrašanas jomā. Bieži vien ļoti izsmalcināta, neautentiska politiskā darbība. Es varētu iebilst, ka šī bija arī viltota saderināšanās, taču tā nebija tā, pie kā man bija jāstrādā.

Kad es sāku pētīt viltus iesaistīšanās un pilsoniskās aktivitātes krustpunktus, ļoti ātri atradu rezultātus visā pasaulē. Es atklāju rezultātus Brazīlijā, Indijā, Indonēzijā, daudzās valstīs, bet arī Hondurasā, diezgan daudz Hondurasā, salīdzinot ar tās lielumu. Un es sagatavoju ziņojumu vadībai par šo problēmu. Es gribēju uzņemt ekrānuzņēmumu no galvenā saņēmēja Hondurasā Huana Orlando Ernandesa lapas, kurš pēc tam, kad es viņu uzmeklēju, izrādījās Hondurasas prezidents.

Es devos uz viņa lapu, lai uzņemtu ekrānuzņēmumu, kad viņi pēkšņi apstājās, jo es pamanīju kaut ko ļoti neparastu, jo cilvēki, kas bija, kas patika viņa lapai un komentēja, daudzi no viņiem nebija cilvēki. Tās bija lapas, kas izlikās par lietotājiem. Un, lai atkāptos šeit, kas ir lapas? Kas ir lietotāji? Lapas ir Facebook funkcija, kas paredzēta publiskām personām, sabiedriskām organizācijām utt. Tā, piemēram, MIT Tech Review ir Facebook lapa. MIT Tech Review nav persona. Lapu Facebook pārvalda kāds cits.

Un tāpēc Facebook lapu mērķis ir tāds, ka tām ir jāatspoguļo publiskas struktūras un viens lietotājs var kontrolēt daudzas lapas. Piemēram, tas pats administrators var kontrolēt CNN lapu, kā arī CNN, Filipīnas un CNN Europe utt. Taču nekas neliedza lietotājam izveidot simtiem lapu, dot viņiem vārdus un profila attēlus kā īstiem cilvēkiem un likt viņiem rīkoties kā īstiem cilvēkiem. Patiesībā viņiem tas bija vienkāršāk, jo viņi varēja diezgan viegli pārslēgties starp šīm lapām bez nepieciešamības katru reizi pieteikties un atteikties.

Diezgan ātri sapratu, ka šīs viltus lapas, kas uzdodas par lietotājiem, Hondurasā ir tūkstošiem. Un dažus simtus no tiem personīgi vadīja Hondurasas prezidenta lapas administrators. Tas bija kāds, kurš sociālajos medijos nepārprotami uzticējās Hondurasas valdībai. Un viņi pat neslēpa faktu, ka izmantoja tūkstošiem viltotu īpašumu, lai manipulētu ar saviem pilsoņiem.

Un tāpēc jau no paša sākuma es biju ļoti naiva. Es domāju, ka labi, es atradu šo. Šie cilvēki bija stulbi. Mēs viņus noķērām. Es tos nodošu citiem. Viņi to pārņems. Es varu atgriezties pie sava faktiskā darba, un viss būs kārtībā. Tā vietā tas bija divu gadu sīzifa pārbaudījuma sākums, jo tas, kas notika, kad es to pacēlu, visi bija vienisprātis, ka tas ir briesmīgi. Tas, ka tas ir slikti, nebija strīdīgs. Visi bija vienisprātis, ka to nedrīkst pieļaut, bet jautājums bija, ko mēs ar to darām? Vai mums ir iespēja to rīkoties? Vai mūsu politikā ir jārīkojas saskaņā ar to utt.? No sākuma es par to runāju visiem, kam tas šķiet saistīts. Es par to runāju ar Pages Integrity, Groups Integrity. Es par to runāju ar pilsoniskās integritātes komandu. Es mēģināju ieinteresēt draudu izlūkošanu. Galu galā es runāju ar visiem, kas klausījās. Es runāju ar visiem līdz viceprezidentam Gajam Rozenam, ieskaitot. Būtībā tas bija kā sarunāšanās ar vēju, kā mēģinājums iztukšot okeānu ar caurduri. Galu galā es sapratu, ka labākais veids, kā iegūt rezultātus, bieži vien ir nevis mēģināt iet cauri pareizajiem kanāliem, bet gan publiski sūdzēties uzņēmumā Workplace, kas būtībā ir Facebook birojam, un ievietojot Workplace ziņas par situāciju, ko citi. uzņēmumā varēja redzēt. Un daudzi no viņiem, protams, par to bija sarūgtināti, jo tas nebija tāds uzņēmums, kurā viņi domāja, ka viņi strādā un vēlas strādāt. Es nezinu, vai tas bija ar citiem līdzekļiem, bet galu galā Facebook beidzot pārtrauca Honduras valdības darbību, kas bija starptautiskas ziņas.

Dažas nedēļas vēlāk operācija atkārtojās, izmantojot citu metodi. Kad Hondurasā saņēmām nolaišanos, sākumā es joprojām biju naivs un ideālistisks. Es domāju, labi, pirms šī visi teica, ka mums nav precedenta, mēs nezinājām, ko darīt, bet tagad mums ir precedents. Tagad mēs varam teikt, ka esam radījuši šo precedentu. Mēs to varam atrisināt ar šo metodi. Un tāpēc pēc šī es domāju: labi, es varu nosūtīt tos pāri visiem pārējiem, ko atradu. Viņi par to parūpētos. Viņi par to nerūpējās. Kad es izmantoju pareizos kanālus, lai tos nosūtītu, tie galvenokārt nonāca melnās kastes smalcinātājā, kur tie tika ignorēti.

2019. gada otrajā pusē es izvirzīju un atzīmēju vēl aptuveni trīs desmitus neautentisku politisko darbību tīklu no Afganistānas līdz Albānijai, no Brazīlijas līdz Bolīvijai, no Indijas līdz Indonēzijai. Tāpēc bija vajadzīgs laiks, lai izdomātu pareizo veidu, kā iegūt rezultātus un panākt, lai cilvēki reāli reaģētu. Tas bija atkarīgs no tā, vai viņi bija piesaistīti politiķiem un ievērojamām personām, jo, ja kaut kas bija saistīts ar kādu politisko personu, kļuva daudz grūtāk to noņemt. Tagad es jums iedošu numuru, kuru es neatstāju, kad viņi pirmo reizi to ieraudzīja. Tā kā Azerbaidžānā noteikti ir mazāk nekā 3% pasaules iedzīvotāju, kas ir daudz mazāks, tās tīkls katru mēnesi radīja, iespējams, miljonu komentāru. Un tas veidoja apmēram 3% no visiem lapas komentāriem par citu lapu ziņām visā pasaulē, globālā mērogā, pilsoniski vai nepilsoniski.

Bet pat tad, kad es pieķēru Azerbaidžānas valdību nedarbos, pagāja vairāk nekā gads, līdz operācija tika pārtraukta. Kad es atklāju, ka Azerbaidžānas valdība ir izveidojusi masīvu maksas fermu ar algotiem darbiniekiem, lai lielos apjomos tracinātu opozīciju. Tas bija ļoti nepārprotami slikti. Tas bija ļoti skaidri saistīts ar Azerbadžijas valdību. Un tas bija milzīgs mērogs. Bet, kad mēs to noņēmām, esmu pārliecināts, ka kaut kur Facebook bija komanda, kas bija ļoti sarūgtināta par to, kāpēc skaitļi pēkšņi samazinājās bez iemesla, ko viņi varēja izdomāt. starp manu atklājumu un sagrābšanu Azerbaidžāna bija vērsusies pret opozīciju, arestējusi neuzlabotus opozīcijas pārstāvjus un sākusi karu ar Armēniju.

Piestrādāt pie šī jautājuma kļuva arvien saspringtāk. Atsevišķi ir grūti saprast, kāda tam bija ietekme, taču ātri kļuva skaidrs, ka tas bija saistīts ar aktivitāti valstīs, kuras cīnās, jo notiek tik daudz. Un es personīgi pieņēmu lēmumus par svarīgo. Būtībā tas bija pilnībā atkarīgs no manis, ko es izvēlējos iet tālāk, ko es izvēlējos noteikt par prioritāti un censties pievērst uzmanību. Un es izvēlējos Bolīviju nepiešķirt par prioritāti, jo tā objektīvi bija ļoti maza un ne pārāk gudra. Jau pēc vēlēšanām notika masu protesti, kas pārauga tā dēvētajā apvērsumā vai tautas sacelšanās rezultātā, kas izraisīja Bolīvijas valdības krišanu. Es zinu, ka par to nevajadzēja būt man personīgi atbildīgam, taču galu galā neviens cits neatlika. Un tāpēc es izvēlējos to darīt pats. Un, tā kā es biju sevi nostādījis šajā pozīcijā, tas būtībā bija atkarīgs no manis paša, kas bija pietiekami svarīgi, lai koncentrētos, un es vēlos to pateikt skaidrā. Vienmēr bija citi, kas bija atbildīgi par manu atklājumu precizēšanu un par to, lai tie beigās tiktu noņemti.

Jau no paša sākuma nolēmu, ka būšu tikai prokurors, būtībā centīšos, lai nekad nebūtu tiesnesis, zvērinātais un bende, jo manās rokās jau bija pārāk daudz varas. Es nedomāju, ka nevienam vajadzētu būt spējīgam izlemt, vai Albānija ir svarīgāka par Azerbaidžānu vai tamlīdzīgiem jautājumiem. Jo viņi arī atrada tajā kontu grāmatā, kas bija saistīta ar Albānijas valdības atbalstošajiem locekļiem. Bet tas, ko atradu Azerbaidžānā, objektīvi bija sliktāks izmēra un mēroga ziņā. Un tāpēc es zināju, ka man ir tikai politiskais kapitāls, lai ļoti lēni virzītos pa vienam. Un tāpēc es izvēlējos koncentrēties uz Azerbaidžānu. Albānijā tas joprojām turpinās. Albānijā šogad notika vispārējās vēlēšanas, un tajā laikā tās vēl turpinājās. Es domāju, ka vairāk nekā divus gadus pēc tam, kad es to atklāju, Facebook joprojām neko nav izdarījis.

Un es varu tikai ļoti atvainoties albāņu tautai. Man nevajadzēja būt situācijā, kurā man vajadzēja izvēlēties, vai Albānija vai Azerbaidžāna ir svarīgāka. Es palieku pie sava lēmuma, jo tas, ko viņi atrada Azerbaidžānā, bija objektīvi sliktāks, bet tomēr neviens cilvēks nedrīkst būt atbildīgs par šādiem jautājumiem. Ir bijuši daudzi ziņu ziņojumi par to, ka Facebook ir nepietiekami resursi integritātes jomā. Es neesmu redzējis nevienu ziņu ziņojumu, kas sūdzētos, ka Facebook ir pārāk maz resursu reklāmu mārketingā. Un es domāju, ka tas beigās norāda apjomus par uzņēmuma prioritātēm.

Visgrūtāk man šķita dažās autoritārās valstīs. Demokrātiskā opozīcija guva labumu no nodarbinātības un pikantas taktikas. Un par tiem gadījumiem es biju visvairāk domājusi. Bet es joprojām bez vilcināšanās tos nojaucu, jo ļoti stingri ticēju, ka mana uzticība ir demokrātijas un tiesiskuma idejām. Un ka fundamentāli demokrātija nevar stāvēt uz melu gultas. Kā ļoti zema līmeņa darbinieks manā brīvajā laikā, bez jebkādas pārraudzības, kas personīgi pieņēma lēmumus, kas tieši ietekmēja valstu valdības.

Ir grūti atbildēt, kam, manuprāt, būtu jānotiek, jo daļa no tā ir kā jautāt, vai jūs varētu debesis padarīt jebkurā krāsā, kādā krāsā jūs tās vēlētos? Tā kā tas ir galvenokārt teorētisks jautājums, un jūsu atbildei nebūs reālas ietekmes uz reālo pasauli.

Es vairs nevaru likt Markam mainīt savas domas, nekā viņi vienas nakts laikā spēj padarīt debesis sārtas. Tas ir atkarīgs no cilvēkiem, kuri mani klausās, no tādiem cilvēkiem kā jūs, jo es pats neko nevaru mainīt. Man ir tikai tik daudz spēka, cik citi man piešķir. Ja vēlaties, lai lietas mainītos, jums personīgi jājautā saviem pārstāvjiem, jo ​​galu galā tā ir problēma, ar kuru nesaskaras daži atsevišķi cilvēki. Tā ir problēma, kurā izmaksas sedz sabiedrība, demokrātija, pilsoniskais diskurss kopumā. Un kā uzņēmumam Facebook vairs nav motivācijas to labot, nekā mēs gaidījām, ka Philip Morris izstrādās cigaretes, kas nerada atkarību.

Dženifera: Biju Tur Kad ir mutvārdu vēstures projekts, kurā ir stāsti par cilvēkiem, kuri ir bijuši liecinieki vai radījuši sasniegumus mākslīgā intelekta un skaitļošanas jomā.

Vai jums ir kāds stāsts, ko pastāstīt? Zini kādu, kas to dara? Nosūtiet mums e-pastu uz Podcasts vietnē Technology Review dot com.

[MIDROLL]

[KREDĪTI]

Dženifera: Šo sēriju producēju es ar Entonija Grīna un Emmas Cillekensas palīdzību. Mūs rediģē Nails Fērts un Mets Honans. Mūsu miksu inženieris ir Garets Langs... un mūsu motīvu mūziku veido Džeikobs Gorskis.

Paldies, ka klausījāties, es esmu Dženifera Stronga.

[TR ID]

paslēpties