Kam vajadzīga demokrātija, ja jums ir dati?

Lūk, kā Ķīna nosaka, izmantojot datus, AI un interneta uzraudzību. Autors

• Kristīna Larsone arhīva lapa

2018. gada 20. augusts

Foto no divām novērošanas kamerām blakus Mao Dzeduna portretam.

1955. gadā zinātniskās fantastikas rakstnieks Īzaks Asimovs publicēja īsu stāstu par elektroniskās demokrātijas eksperimentu, kurā viens iedzīvotājs, kurš tika izvēlēts, lai pārstāvētu visu iedzīvotāju skaitu, atbildēja uz jautājumiem, ko ģenerēja dators ar nosaukumu Multivac. Iekārta paņēma šos datus un aprēķināja vēlēšanu rezultātus, kam tāpēc nekad nebija jānotiek. Asimova stāsta darbība norisinājās Blūmingtonā, Indiānas štatā, bet šodien Ķīnā tiek veidots Multivac tuvinājums.

Jebkuram autoritāram režīmam galvenā problēma ir izdomāt, kas notiek zemākos līmeņos un visā sabiedrībā, saka Debora Seligsona, politoloģe un Ķīnas eksperte no Filadelfijas Villanovas universitātes. Kā jūs efektīvi pārvaldīt valsti, kurā dzīvo katrs piektais planētas iedzīvotājs un kurā ekonomika un sabiedrība kļūst arvien sarežģītāka, ja nepieļaujat publiskas debates, pilsonisko aktivitāti un vēlēšanu atgriezenisko saiti? Kā savākt pietiekami daudz informācijas, lai pieņemtu lēmumus? Un kā valdība, kas neaicina savus pilsoņus piedalīties, joprojām rada uzticību un sagroza sabiedrības uzvedību, neliekot policiju uz katra sliekšņa?

Šis stāsts bija daļa no mūsu 2018. gada septembra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Hu Jintao, Ķīnas līderis no 2002. līdz 2012. gadam, bija mēģinājis atrisināt šīs problēmas, pieļaujot pieticīgu demokrātisku atkusni, ļaujot sūdzībām sasniegt valdošo šķiru. Viņa pēctecis Sji Dzjiņpins ir mainījis šo tendenci. Tā vietā viņa stratēģija, lai izprastu un reaģētu uz to, kas notiek valstī, kurā ir 1,4 miljardi iedzīvotāju, balstās uz novērošanas, mākslīgā intelekta un lielo datu kombināciju, lai sīki uzraudzītu cilvēku dzīvi un uzvedību.

Tas palīdz, ka pāris juku gadi pasaules demokrātijās ir likuši Ķīnas politiskajai elitei justies arvien pamatotākam, lai izslēgtu vēlētājus. Tādi notikumi kā Donalda Trampa ievēlēšana, Brexit, galēji labējo partiju pieaugums visā Eiropā un Rodrigo Dutertes terora valdīšana Filipīnās uzsver to, ko daudzi kritiķi uzskata par demokrātijai raksturīgām problēmām, īpaši populismu, nestabilitāti un nestabili personalizētu vadību.

Kopš kļūšanas par Ķīnas komunistiskās partijas ģenerālsekretāru 2012. gadā, Sji ir izvirzījis valstij virkni vērienīgu plānu, daudzi no tiem sakņojas tehnoloģijās, tostarp mērķi līdz 2030. gadam kļūt par pasaules līderi mākslīgā intelekta jomā. Sji ir aicinājis kibersuverenitāti, lai uzlabotu cenzūru un nodrošinātu pilnīgu kontroli pār vietējo internetu. Maijā viņš Ķīnas Zinātņu akadēmijas sanāksmē sacīja, ka tehnoloģija ir atslēga, lai sasniegtu lielo mērķi - izveidot sociālistisku un modernizētu valsti. Janvārī, kad viņš televīzijā uzrunāja tautu, grāmatplauktos abās viņa pusēs bija gan klasiski nosaukumi, piemēram, Das Kapital, gan daži jauni papildinājumi, tostarp divas grāmatas par mākslīgo intelektu: Pedro Domingosa grāmata. Galvenais algoritms un Brets Kings Papildināts: dzīve viedajā joslā .

Nevienai valdībai nav vērienīgāka un tālejošāka plāna, lai izmantotu datu spēku, lai mainītu to pārvaldības veidu, kā Ķīnas valdībai, saka Martins Čorzempa no Pētersona Starptautiskās ekonomikas institūta Vašingtonā, DC. Pat dažiem ārvalstu novērotājiem, kas skatās no tālienes, var rasties kārdinājums aizdomāties, vai šāda uz datiem balstīta pārvaldība piedāvā dzīvotspējīgu alternatīvu arvien disfunkcionālāka izskata vēlēšanu modelim. Taču pārmērīga paļaušanās uz tehnoloģiju un datu gudrību rada savus riskus.

Dati dialoga vietā

Ķīnas līderi jau sen ir vēlējušies pieskarties sabiedrības noskaņojumam, neatverot durvis asām debatēm un varas iestāžu kritikai. Lielāko daļu impērijas un mūsdienu Ķīnas vēstures ir bijusi tradīcija neapmierinātiem cilvēkiem no laukiem ceļot uz Pekinu un rīkot nelielas demonstrācijas kā publiskiem lūgumrakstiem. Domāja, ka, ja vietējās varas iestādes nesapratīs vai nerūpēsies par viņu sūdzībām, imperators varētu izrādīt labāku spriedumu.

Hu Jintao laikā daži Komunistiskās partijas locekļi uzskatīja ierobežotu atklātību kā iespējamu veidu, kā atklāt un novērst noteikta veida problēmas. Emuāri, pretkorupcijas žurnālisti, cilvēktiesību juristi un tiešsaistes kritiķi, kas akcentēja vietējo korupciju, izraisīja publiskas debates Hu valdīšanas beigās. Sava pilnvaru termiņa sākumā Sji saņēma ikdienas instruktāžu par sabiedrības bažām un satraukumiem, kas tika izņemti no sociālajiem medijiem, sacīja kāda bijusī ASV amatpersona, kas zināja par šo lietu. Pēdējos gados lūgumrakstu iesniedzēji ir ieradušies galvaspilsētā, lai pievērstu uzmanību tādiem skandāliem kā vietējo varasiestāžu nelikumīga zemes atsavināšana un piesārņots piena pulveris.

Taču policija arvien vairāk neļauj lūgumrakstu iesniedzējiem jebkad sasniegt Pekinu. Tagad vilcieniem, lai iegādātos biļetes, ir nepieciešami valsts identifikācijas dokumenti, kas ļauj iestādēm viegli identificēt potenciālos “nekārtību radītājus”, piemēram, tos, kuri iepriekš protestējuši pret valdību, saka Maija Vana, Human Rights Watch vecākā Ķīnas pētniece. Vairāki lūgumrakstu iesniedzēji mums teica, ka viņi ir apturēti pie vilcienu peroniem. Emuāru autori, aktīvisti un juristi arī tiek sistemātiski apklusināti vai ieslodzīti, it kā dati varētu sniegt valdībai tādu pašu informāciju bez jebkādām smeldzīgajām brīvības problēmām.

Šanhajas starta uzņēmuma sejas atpazīšanas sistēmas demonstrācija.

Ideja par tīkla tehnoloģiju izmantošanu kā pārvaldības instrumentu Ķīnā aizsākās vismaz 80. gadu vidū. Kā skaidro Hārvardas vēsturnieks Džūljens Gevircs, kad Ķīnas valdība redzēja, ka informācijas tehnoloģijas kļūst par ikdienas dzīves sastāvdaļu, tā saprata, ka tām būs jauns spēcīgs instruments gan informācijas vākšanai, gan kultūras kontrolei, ķīniešu padarīšanai “modernāku” un daudz ko citu. “pārvaldāmas” — tās ir bijušas mūžīgas vadības apsēstības. Sekojošie sasniegumi, tostarp AI progress un ātrāki procesori, ir tuvinājuši šo redzējumu.

Cik mums zināms, Ķīnā nav vienota galvenā plāna, kas savienotu tehnoloģiju un pārvaldību. Taču ir vairākas iniciatīvas, kurām ir kopīga stratēģija datu iegūšanai par cilvēkiem un uzņēmumiem, lai informētu lēmumu pieņemšanu un izveidotu stimulu un sodu sistēmas, lai ietekmētu uzvedību. Šīs iniciatīvas ietver Valsts padomes 2014. gada sociālo kredītu sistēmu, 2016. gada kiberdrošības likumu, dažādus vietējā līmeņa un privāto uzņēmumu eksperimentus sociālo kredītu jomā, viedo pilsētu plānus un uz tehnoloģijām balstītu policijas darbu Sjiņdzjanas rietumu reģionā. Bieži vien tie ietver partnerību starp valdību un Ķīnas tehnoloģiju uzņēmumiem.

Tālejošākā ir sociālo kredītu sistēma, lai gan labāks tulkojums angļu valodā varētu būt uzticības vai reputācijas sistēma. Valdības plānā, kas aptver gan cilvēkus, gan uzņēmumus, starp tā mērķiem ir norādīta sirsnības veidošanās valdības lietās, komerciāla patiesība un tiesu uzticamība. (Ikvienam Ķīnā ir kāda tante, kas ir izkrāpta. Pastāv likumīga nepieciešamība novērst sabiedrības uzticības sabrukumu, saka Pols Triolo, konsultāciju uzņēmuma Eurasia Group ģeotehnoloģiju prakses vadītājs.) Līdz šim tas ir darbs, kas turpinās. dažādos pilotos tiek apskatīts, kā tas varētu darboties 2020. gadā, kad tas tiks pilnībā ieviests.

Tiek uzskatīts, ka algoritms izceļ aizdomīgu uzvedību, piemēram, mošejas apmeklēšanu vai pārāk daudz grāmatu.

Melnie saraksti ir pirmais sistēmas rīks. Pēdējo piecu gadu laikā Ķīnas tiesu sistēma ir publicējusi to cilvēku vārdus, kuri nav samaksājuši naudas sodus vai izpildījuši spriedumus. Saskaņā ar jaunajiem sociālo kredītu noteikumiem šis saraksts tiek kopīgots ar dažādiem uzņēmumiem un valsts aģentūrām. Sarakstā iekļautajiem cilvēkiem ir liegta iespēja aizņemties naudu, rezervēt lidojumus un palikt luksusa viesnīcās. Ķīnas nacionālie transporta uzņēmumi ir izveidojuši papildu melnos sarakstus, lai sodītu braucējus par tādu uzvedību kā vilciena durvju bloķēšana vai kautiņi ceļojuma laikā; likumpārkāpējiem ir liegts turpmāk iegādāties biļetes sešus vai 12 mēnešus. Šī gada sākumā Pekina debitēja virknē melno sarakstu, lai aizliegtu negodīgiem uzņēmumiem turpmāk piešķirt valdības līgumus vai zemes dotācijas.

Dažas pašvaldības ir eksperimentējušas ar sociālo kredītu rādītājiem, lai gan nav skaidrs, vai tie būs daļa no valsts plāna. Piemēram, ziemeļu pilsēta Rongcheng piešķir punktu katram no tās 740 000 iedzīvotāju, ziņo Foreign Policy. Katrs sāk ar 1000 punktiem. Ja jūs ziedojat labdarībai vai iegūstat valdības balvu, jūs iegūstat punktus; ja pārkāpjat ceļu satiksmes likumu, piemēram, braucat dzērumā vai pārsniedzat ātrumu pa gājēju pāreju, jūs zaudējat punktus. Cilvēki ar labiem rādītājiem var nopelnīt atlaides ziemas apkures piegādēm vai iegūt labākus nosacījumus hipotēkām; tie, kuriem ir slikti rezultāti, var zaudēt piekļuvi banku aizdevumiem vai paaugstinājumiem valdības darbā. Rātsnams demonstrē plakātus ar vietējiem paraugiem, kuri ir izrādījuši tikumību un nopelnījuši augstus rezultātus.

Sociālā kredīta ideja ir uzraudzīt un pārvaldīt cilvēku un iestāžu uzvedību, saka Samanta Hofmane no Mercator Ķīnas studiju institūta Berlīnē. Kad pārkāpums ir reģistrēts vienā sistēmas daļā, tas var izraisīt atbildes citās sistēmas daļās. Tā ir koncepcija, kas izstrādāta, lai atbalstītu gan ekonomisko attīstību, gan sociālo pārvaldību, un tā pēc būtības ir politiska. Dažas paralēles ar Ķīnas plāna daļām jau pastāv ASV: slikta kredītvēsture var liegt jums aizņemties mājokļa kredītu, savukārt notiesāšana par noziegumu aptur vai anulē jūsu tiesības balsot, piemēram. Bet tie visi nav saistīti vienādi — nav visaptveroša plāna, norāda Hofmans.

Viena no lielākajām bažām ir tāda, ka, tā kā Ķīnā nav neatkarīgas tiesu sistēmas, pilsoņiem nav iespējas apstrīdēt nepatiesus vai neprecīzus apgalvojumus. Daži pēc tiesas lēmuma ir atraduši savus vārdus pievienoti ceļojumu melnajos sarakstos bez brīdinājuma. Lūgumrakstu iesniedzēji un pētnieciskie žurnālisti tiek uzraudzīti saskaņā ar citu sistēmu, un cilvēki, kas nonākuši narkomānijas ārstēšanā, tiek uzraudzīti ar vēl citu uzraudzības sistēmu. Teorētiski narkotiku lietotāju datubāzēm vajadzētu dzēst vārdus pēc pieciem vai septiņiem gadiem, taču esmu redzējis daudzus gadījumus, kad tas nenotika, saka Vans no Human Rights Watch. Ir ārkārtīgi grūti kādreiz izņemt sevi no kāda no šiem sarakstiem.

Neregulāri dusmu uzliesmojumi tiešsaistē norāda uz sabiedrības aizvainojumu. Ziņas par to, ka kādai studentei koledža ir atteikusies, jo viņas tēvs bija iekļauts kredītvēstures melnajā sarakstā, nesen iededzināja tiešsaistes dusmu uguni. Koledžas lēmums nebija oficiāli sankcionēts vai valdības rīkojums. Drīzāk skolu administratori entuziasmā atbalstīt jauno politiku bija vienkārši noveduši pie tā, ko viņi uzskatīja par loģisku secinājumu.

Sistēmas necaurredzamības dēļ ir grūti novērtēt, cik efektīvi ir tādi eksperimenti kā Rongcheng. Kopš 2012. gada partija ir izspiedusi gandrīz visas kritiskās balsis, un ir pieaudzis risks, ka sistēma izaicina — pat salīdzinoši nelielos veidos. Pieejamā informācija ir ļoti kļūdaina; sistemātiska datu viltošana par visu, sākot no IKP pieauguma līdz hidroenerģijas izmantošanai, caurstrāvo Ķīnas valdības statistiku. Austrālijas Nacionālās universitātes pētnieks Borge Bakkens lēš, ka oficiālie noziedzības rādītāji, kurus valdībai ir skaidrs stimuls samazināt, var veidot tikai 2,5 procentus no visas noziedzīgās uzvedības.

Teorētiski uz datiem balstīta pārvaldība varētu palīdzēt atrisināt šīs problēmas — apiet kropļojumus, lai centrālā valdība varētu tieši vākt informāciju. Tā bija ideja, piemēram, ieviešot gaisa kvalitātes monitorus, kas sūta datus atpakaļ centrālajām iestādēm, nevis paļaujas uz vietējām amatpersonām, kuras varētu būt piesārņojošo nozaru kabatā. Taču daudzi labas pārvaldības aspekti ir pārāk sarežģīti, lai pieļautu šāda veida tiešu uzraudzību un tā vietā paļautos uz datiem, ko ievadījušas šīs pašas vietējās amatpersonas.

Tomēr Ķīnas valdība reti izdod veiktspējas datus, ko nepiederošie varētu izmantot šo sistēmu novērtēšanai. Ņemiet vērā kameras, kuras dažās pilsētās izmanto, lai identificētu un apkaunotu jaywalkers, projicējot viņu sejas uz publiskajiem reklāmas stendiem, kā arī lai izsekotu musulmaņu lūgšanu paradumiem Ķīnas rietumos. To precizitāte joprojām ir apšaubāma: jo īpaši, cik labi sejas atpazīšanas programmatūra, kas apmācīta Han ķīniešu sejās, var atpazīt Eirāzijas minoritāšu grupu pārstāvjus? Turklāt, pat ja datu vākšana ir precīza, kā valdība izmantos šādu informāciju, lai virzītu vai kavētu turpmāko uzvedību? Policijas algoritmi, kas paredz, kurš, visticamāk, kļūs par noziedznieku, nav pieejami publiskai apskatei, tāpat nav pieejama statistika, kas parādītu, vai noziedzība vai terorisms ir pieaudzis vai samazinājies. (Piemēram, Sjiņdzjanas rietumu reģionā pieejamā informācija liecina tikai par to, ka policijā aizturēto cilvēku skaits ir dramatiski pieaudzis, pieaugot par 731 procentu no 2016. līdz 2017. gadam.)

Sjaņjanas pilsētā kameras, kas saistītas ar seju atpazīšanas tehnoloģiju, uz reklāmas stenda projicē jaywalkers fotogrāfijas ar vārdiem un ID numuriem.

Tā nav tehnoloģija, kas radīja politiku, bet tehnoloģija ievērojami paplašina datu veidus, ko Ķīnas valdība var savākt par indivīdiem, saka Ričards Makgregors, Lowy institūta vecākais līdzstrādnieks un grāmatas autors. Partija: Ķīnas komunistisko valdnieku slepenā pasaule . Internets Ķīnā darbojas kā reāllaika, privāti pārvaldīts digitālās izlūkošanas pakalpojums.

Algoritmiskā kārtības nodrošināšana

Rakstot Washington Post Šā gada sākumā Kalifornijas Universitātes Bērklijā komunikāciju profesors Sjao Cjans Ķīnas ar datiem uzlabotu pārvaldību nodēvēja par digitālu totalitāru valsti. Distopijas aspekti visredzamāk ir redzami Ķīnas rietumos.

Sjiņdzjana (Jaunā teritorija) ir tradicionālā ķīniešu musulmaņu minoritātes mājvieta, kas pazīstama kā uiguri. Reģionā apmetoties lielam skaitam haņu ķīniešu migrantu — daži saka, ka tie ir kolonizēti —, vietējiem uiguru iedzīvotājiem sniegtā darba un reliģiskās iespējas ir samazinājušās. Viens no rezultātiem ir vardarbības pieaugums, kurā tika vērsti gan hani, gan uiguri, tostarp 2009. gada nemieri galvaspilsētā Urumči, kad tika ziņots, ka gāja bojā 200 cilvēki. Valdības reakcija uz pieaugošo spriedzi nav bijusi publisku forumu rīkošana, lai lūgtu viedokļus vai politiskus padomus. Tā vietā valsts izmanto datu vākšanu un algoritmus, lai noteiktu, kurš, visticamāk, veiks turpmākus vardarbības aktus vai spītību.

Sjiņdzjanas valdība nodarbināja privātu uzņēmumu, lai izstrādātu prognozēšanas algoritmus, kas novērtē dažādas datu plūsmas. Nav publiska ieraksta vai atbildības par to, kā šie aprēķini tiek veidoti vai svērti. Cilvēki, kas dzīvo saskaņā ar šo sistēmu, parasti pat nezina, kādi ir noteikumi, saka Rian Thum, Lojolas universitātes antropologs, kurš pēta Sjiņdzjanu un ir redzējis valsts iepirkuma paziņojumus, kas tika izdoti, veidojot sistēmu.

Rietumu pilsētā Kašgarā daudzas ģimenes mājas un veikali galvenajās ielās tagad ir apšūtas ar dēļiem, un publiskie laukumi ir tukši. Kad es to apmeklēju 2013. gadā, bija skaidrs, ka Kašgara jau bija nošķirta pilsēta — haņu un uiguru iedzīvotāji dzīvoja un strādāja atsevišķās pilsētas daļās. Taču vakaros tā bija arī dzīvīga un bieži trokšņaina vieta, kur lūgšanu skaņas mijas ar deju mūziku no vietējiem klubiem un vecu vīru sarunām, kas vēlu sēž plastmasas krēslos uz iekšpagalmiem. Šodien pilsēta ir baismīgi klusa; apkaimes sabiedriskā dzīve ir praktiski pazudusi. Emīlija Fenga, žurnāliste Financial Times jūnijā viesojās Kašgarā un Twitter ievietoja fotogrāfijas ar tikko atbrīvotajām ielām.

Iemesls ir tāds, ka pēc dažām aplēsēm vairāk nekā viens no 10 uiguru un kazahu pieaugušajiem Siņdzjanā ir nosūtīts uz dzeloņstiepļu gredzenveida pāraudzināšanas nometnēm, un tie, kas paliek brīvībā, ir nobijušies.

Pēdējo divu gadu laikā ir izveidoti tūkstošiem kontrolpunktu, kuros garāmgājējiem ir jāuzrāda gan sava seja, gan valsts ID karte, lai dotos pa šoseju, ieietu mošejā vai apmeklētu iepirkšanās centru. Uiguriem savos viedtālruņos ir jāinstalē valdības izstrādātas izsekošanas lietotnes, kas uzrauga viņu tiešsaistes kontaktus un apmeklētās tīmekļa lapas. Policijas darbinieki regulāri apmeklē vietējās mājas, lai savāktu papildu datus, piemēram, par to, cik cilvēku dzīvo mājsaimniecībā, kādas ir viņu attiecības ar kaimiņiem, cik reižu cilvēki katru dienu lūdz, vai viņi ir ceļojuši uz ārzemēm un kādas grāmatas viņiem ir.

Visas šīs datu plūsmas tiek ievadītas Sjiņdzjanas sabiedriskās drošības sistēmā, kā arī citi ieraksti, kas tver informāciju par visu, sākot no banku vēstures līdz ģimenes plānošanai. Datorprogramma apkopo visus datus no šiem dažādajiem avotiem un atzīmē tos, kuri varētu kļūt par 'draudiem' iestādēm, saka Vans. Lai gan precīzs algoritms nav zināms, tiek uzskatīts, ka tas var izcelt tādus uzvedības veidus kā konkrētas mošejas apmeklējums, daudz grāmatu, liela daudzuma benzīna pirkšana vai tālruņa zvanu vai e-pasta saņemšana no kontaktpersonām ārvalstīs. Cilvēkus, uz kuriem tas attiecas, apmeklē policija, kas var viņus aizturēt un ievietot cietumā vai pāraudzināšanas nometnēs bez oficiālām apsūdzībām.

Tjaņaņmeņas laukuma apmeklētāji Pekinā kontrolpunktā skenē savus ID.

Politologs Adrians Zencs no Eiropas Kultūras un teoloģijas skolas Korntālā, Vācijā, aprēķina, ka Siņdzjanas minoritāšu internēšanas līmenis var sasniegt pat 11,5 procentus pieaugušo iedzīvotāju. Šīs nometnes ir paredzētas, lai ieaudzinātu patriotismu un liktu cilvēkiem atteikties no reliģiskās pārliecības. (Šķiet, ka jauni iepirkuma paziņojumi kremācijas apsardzes darbiniekiem norāda, ka valdība arī cenšas izskaust tradicionālo musulmaņu apbedīšanas praksi reģionā.)

Lai gan Sjiņdzjana pārstāv vienu drakonisku galējību, citviet Ķīnā pilsoņi sāk atturēties pret dažiem uzraudzības veidiem. Interneta uzņēmums, kas tiešsaistē straumēja slēgtās ķēdes TV materiālus, pēc publiskas satraukuma slēdza šīs pārraides. Šanhajas pilsēta nesen izdeva noteikumus, kas ļauj cilvēkiem apstrīdēt nepareizu informāciju, kas izmantota sociālo kredītu ierakstu apkopošanai. Ķīnas interneta lietotāju prasības pēc privātuma pieaug, saka Samms Sakss, Ņujorkas CSIS Tehnoloģiju politikas programmas vecākais līdzstrādnieks. Tas nav gluži tas, par ko tas ir paredzēts.

Kristīna Larsone ir godalgota ārzemju korespondente un zinātnes žurnāliste, kas raksta galvenokārt par Ķīnu un Āziju.

paslēpties