Kolektīvās datu tiesības var neļaut lielajām tehnoloģijām iznīcināt privātumu

konceptuāla ilustrācija

Franciska Barčika





Katrs cilvēks, kas nodarbojas ar tīkla pasauli, pastāvīgi rada datu upes. Mēs to darām tādos veidos, kurus apzināmies, un tā, kā mēs nezinām. Korporācijas vēlas izmantot priekšrocības.

Veikt, piemēram, NumberEight, starta, kas saskaņā ar Vadu , palīdz lietotnēm secināt lietotāju aktivitātes, pamatojoties uz viedtālruņa sensoru datiem: neatkarīgi no tā, vai viņi skrien vai sēž, netālu no parka vai muzeja, brauc vai brauc ar vilcienu. Jaunie pakalpojumi, kuru pamatā ir šāda tehnoloģija, apvienos to, ko viņi zina par lietotāja darbībām savās lietotnēs, ar informāciju par to, ko viņi tajā laikā dara fiziski. Izmantojot šo informāciju, tā vietā, lai izveidotu profilu, lai atlasītu, piemēram, sievietes, kas vecākas par 35 gadiem, pakalpojums varētu mērķēt reklāmas uz 'agri ceļiem'.

Šādas ambīcijas ir plaši izplatītas. Kā šajā nesenajā Harvard Business Review rakstā Lielākā daļa vadītāju atzīst, ka mākslīgais intelekts var pilnībā mainīt organizāciju darbību. Viņi var iedomāties nākotni, kurā, piemēram, mazumtirgotāji piegādā individualizētus produktus, pirms klienti tos pat pieprasa — iespējams, tajā pašā dienā, kad šie produkti tiek ražoti. Tā kā korporācijas AI izmanto arvien atšķirīgākās jomās, raksts paredz, ka to AI iespējas strauji palielināsies, un viņi atklās, ka viņu iedomātā nākotne patiesībā ir tuvāka, nekā šķita agrāk.



Pat šodien, nemaz nerunājot par šādu nākotni, tehnoloģija var pilnībā iznīcināt privātumu. Būtisks valdības uzdevums ir izstrādāt likumus un politiku, lai to novērstu. Tā kā Baidena administrācija un Kongress apsver federālos privātuma tiesību aktus, tie nedrīkst pakļauties vispārējai kļūdai. Likumi, kas aizsargā cilvēku datu privātumu, nav paredzēti tikai personu aizsardzībai. Tie ir arī par mūsu kā grupu locekļu tiesību aizsardzību kā visas sabiedrības daļu.

Kaitējums jebkurai personai grupā, ko rada privātuma tiesību pārkāpums, var būt salīdzinoši neliels vai grūti nosakāms, taču kaitējums grupai kopumā var būt pamatīgs. Pieņemsim, ka Amazon izmanto savus datus par patērētāju uzvedību, lai noskaidrotu, kurus produktus ir vērts kopēt, un pēc tam samazina pārdoto produktu ražotāju cenas. piemēram, kurpes vai fotokameru somas . Lai gan tiešais kaitējums tiek nodarīts apavu izgatavotājam vai kameras somu izgatavotājam, ilgtermiņa un galu galā ilgstošāks kaitējums tiek nodarīts patērētājiem, kuriem ilgtermiņā tiek atņemtas izvēles iespējas, kas rodas, veicot darījumus patiesi atklātā un taisnīgā veidā. tirgus laukums. Un, lai gan kurpnieks vai fotokameru maisiņu ražotājs var mēģināt uzsākt tiesvedību, patērētājiem ir daudz grūtāk parādīt, kā Amazon prakse tiem kaitē.

Tas var būt sarežģīti saprotams jēdziens. Grupas prāvas, kurās daudzas personas apvienojas, lai gan katrai no tām varētu būt nodarīts tikai neliels kaitējums, ir laba konceptuāla analoģija. Lielie tehnoloģiju uzņēmumi saprot komerciālos ieguvumus, ko tie var gūt, analizējot grupu datus, vienlaikus virspusēji aizsargājot personu datus, izmantojot matemātiskas metodes, piemēram, diferencētu privātumu. Taču regulatori turpina koncentrēties uz indivīdu vai labākajā gadījumā aizsargātu grupu, piemēram, noteikta dzimuma, vecuma, etniskās piederības vai seksuālās orientācijas cilvēku, aizsardzību.



Ja algoritms diskriminē cilvēkus, šķirojot tos grupās, kas neietilpst šajās aizsargātajās klasēs, pretdiskriminācijas likumi Amerikas Savienotajās Valstīs netiek piemēroti. (Profilēšanas paņēmieni, piemēram, tie, ko Facebook izmanto, lai palīdzētu mašīnmācības modeļiem kārtot lietotājus, iespējams, ir nelikumīgi saskaņā ar Eiropas Savienības datu aizsardzības tiesību aktiem, taču par to vēl nav uzsākta tiesvedība.) Daudzi cilvēki pat nezinās, ka ir tikuši profilēti vai diskriminēti. ir grūti uzsākt tiesvedību. Viņi vairs nejūt netaisnību, netaisnību, tiešā veidā — un tas vēsturiski ir bijis priekšnoteikums prasības iesniegšanai.

Saistīts stāsts

Ir pienācis laiks izstrādāt datu tiesību likumprojektu Kamēr ASV Senāts apspriež jaunu likumprojektu, datu pārvaldības eksperts iepazīstina ar plānu brīvības un brīvības aizsardzībai digitālajā laikmetā.

Privātpersonas nevajadzētu cīnīties par savām datu privātuma tiesībām un būt atbildīgiem par visām savu digitālo darbību sekām. Apsveriet analoģiju: cilvēkiem ir tiesības uz drošu dzeramo ūdeni, taču viņi netiek mudināti izmantot šīs tiesības, pārbaudot ūdens kvalitāti ar pipeti katru reizi, kad viņi dzer pie krāna. Tā vietā regulējošās aģentūras darbojas ikviena vārdā, lai nodrošinātu, ka viss mūsu ūdens ir drošs. Tas pats ir jādara attiecībā uz digitālo privātumu: vidusmēra lietotājs nav personīgi kompetents to aizsargāt, vai arī viņam nevajadzētu būt viņam.

Ir divas paralēlas pieejas, kas būtu jāīsteno, lai aizsargātu sabiedrību.



Viens no tiem ir labāka klases vai grupas prasību izmantošana, ko citādi sauc par kolektīvās pārsūdzības prasībām. Vēsturiski Eiropā tie ir bijuši ierobežoti, bet 2020. gada novembrī Eiropas Parlaments pieņēma pasākumu Tas paredz, ka visām 27 ES dalībvalstīm ir jāīsteno pasākumi, kas ļauj veikt kolektīvās tiesiskās aizsardzības darbības visā reģionā. Salīdzinot ar ASV, ES ir stingrāki likumi patērētāju datu aizsardzībai un konkurences veicināšanai, tāpēc grupas vai grupu prāvas Eiropā var būt spēcīgs instruments juristiem un aktīvistiem, lai piespiestu lielos tehnoloģiju uzņēmumus mainīt savu uzvedību pat gadījumos, kad cilvēkiem nodarītie zaudējumi būtu ļoti zemi.

Klasiskās prasības ASV visbiežāk ir izmantotas, lai pieprasītu finansiālu kaitējumu, taču tās var izmantot arī, lai piespiestu mainīt politiku un praksi. Viņi var strādāt roku rokā ar kampaņām, lai mainītu sabiedrisko domu, jo īpaši patērētāju lietās (piemēram, liekot Big Tobacco atzīt saikni starp smēķēšanu un vēzi vai paverot ceļu automašīnu drošības jostu likumiem). Tie ir spēcīgi instrumenti, ja ir tūkstošiem, ja ne miljoniem līdzīgu individuālu kaitējumu, kas kopā palīdz pierādīt cēloņsakarību. Daļa no problēmas ir iegūt pareizo informāciju, lai iesūdzētu tiesā. Valdības centieni, piemēram, tiesas prāva pret Facebook decembrī Federālā tirdzniecības komisija (FTC) un 46 štatu grupa , ir izšķiroši. Kā saka tehnoloģiju žurnālists Gilads Edelmans, saskaņā ar tiesas prāvām lietotāju privātuma samazināšanās laika gaitā ir kaitējuma veids patērētājiem — sociālais tīkls, kas mazāk aizsargā lietotāju datus, ir zemāks produkts, kas novirza Facebook no vienkārša monopola uz nelegālu. ASV, kā New York Times nesen ziņots , privātās tiesas prāvas, tostarp kolektīvās prasības, bieži vien balstās uz pierādījumiem, kas atklāti valdības izmeklēšanā. Tomēr ES ir otrādi: privātas tiesas prāvas var pavērt iespēju veikt regulējošu darbību, ko ierobežo plaisa starp ES mēroga tiesību aktiem un valstu regulatoriem.

Tas mūs noved pie otrās pieejas: mazpazīstams 2016. gada Francijas likums, ko sauc par Digitālās Republikas likumprojektu. The Digitālās Republikas likumprojekts ir viens no nedaudzajiem mūsdienu likumiem, kas vērsti uz automatizētu lēmumu pieņemšanu. Likums pašlaik attiecas tikai uz administratīviem lēmumiem, ko pieņem valsts sektora algoritmiskās sistēmas. Bet tas sniedz skici, kā varētu izskatīties turpmākie likumi. Tajā teikts, ka šādu sistēmu pirmkods ir jādara pieejams sabiedrībai. Ikviens var pieprasīt šo kodu.



Svarīgi ir tas, ka tiesību akti ļauj aizstāvības organizācijām pieprasīt informāciju par algoritma darbību un aiz tā esošo avota kodu, pat ja tās nepārstāv konkrētu personu vai prasītāju, kuram, iespējams, ir nodarīts kaitējums. Nepieciešamība atrast perfektu prasītāju, kurš varētu pierādīt kaitējumu, lai iesniegtu prasību, ļoti apgrūtina sistēmisku problēmu risināšanu, kas rada kolektīvu datu kaitējumu. Laure Lucchesi, Francijas valdības biroja Etalab direktore, kas atbild par likumprojekta pārraudzību, saka, ka likuma uzsvars uz algoritmisko atbildību bija apsteidzis savu laiku. Citi tiesību akti, piemēram, Eiropas Vispārīgā datu aizsardzības regula (VDAR), pārāk daudz koncentrējas uz individuālu piekrišanu un privātumu. Bet gan dati, gan algoritmi ir jāregulē.

Nepieciešamība atrast perfektu prasītāju, kurš varētu pierādīt kaitējumu, lai iesniegtu prasību, ļoti apgrūtina sistēmisku problēmu risināšanu, kas rada kolektīvu datu kaitējumu.

Apple solījumi vienā sludinājumā: šobrīd jūsu tālrunī ir vairāk privātas informācijas nekā jūsu mājās. Jūsu atrašanās vietas, jūsu ziņojumi, jūsu sirdsdarbība pēc skrējiena. Tās ir privātas lietas. Un viņiem vajadzētu piederēt jums. Apple pastiprina šī individuālista maldību: nepieminot, ka jūsu tālrunī tiek glabāti vairāk nekā tikai jūsu personas dati, uzņēmums neslēpj faktu, ka patiešām vērtīgie dati nāk no jūsu mijiedarbības ar pakalpojumu sniedzējiem un citiem. Uzskats, ka jūsu tālrunis ir jūsu kartotēkas digitālais ekvivalents, ir ērta ilūzija. Uzņēmumiem patiesībā maz rūp jūsu personas dati; tāpēc viņi var izlikties, ka ieslēdz to kastē. Vērtība slēpjas secinājumos, kas izdarīti no jūsu mijiedarbības un kas tiek saglabāti arī jūsu tālrunī, taču šie dati jums nepieder.

Google Fitbit iegāde ir vēl viens piemērs. Google sola neizmantot Fitbit datus reklamēšanai, taču ienesīgās prognozes, kas vajadzīgas Google, nav atkarīgas no atsevišķiem datiem. Kā apgalvo Eiropas ekonomistu grupa d nesen publicētajā rakstā, ko izdeva Londonas ekonomikas politikas pētījumu centrs, pietiek, lai Google apkopotos rezultātus veselības jomā sasaista ar ar veselību nesaistītiem rezultātiem pat daļai Fitbit lietotāju, kuri neatteicās no dažiem. izmantot savus datus, lai pēc tam prognozētu veselības rezultātus (un tādējādi arī reklāmu mērķauditorijas atlases iespējas) visiem lietotājiem, kas nav Fitbit lietotāji (miljardiem no tiem). Google-Fitbit darījums būtībā ir grupas datu darījums. Tas pozicionē Google galvenajā veselības datu tirgū, vienlaikus ļaujot tai triangulēt dažādas datu kopas un pelnīt naudu no secinājumiem, ko izmanto veselības un apdrošināšanas tirgi.

Kas jādara politikas veidotājiem

Likumprojektu projekti ir mēģinājuši aizpildīt šo robu Amerikas Savienotajās Valstīs. 2019. gadā senatori Korijs Bukers un Rons Vaidens iepazīstināja ar Algoritmiskās atbildības likums , kas pēc tam apstājās Kongresā. Likumā būtu noteikts, ka uzņēmumiem būtu jāveic algoritmiski ietekmes novērtējumi noteiktās situācijās, lai pārbaudītu neobjektivitāti vai diskrimināciju. Taču ASV šis būtiskais jautājums, visticamāk, vispirms tiks apspriests likumos, kas attiecas uz konkrētām nozarēm, piemēram, veselības aprūpi, kur algoritmiskās novirzes draudus ir palielinājuši pandēmijas atšķirīgā ietekme uz ASV iedzīvotāju grupām.

Janvāra beigās, Sabiedrības veselības ārkārtas privātuma likums Senātā un Pārstāvju palātā atkārtoti ieviesa senatori Marks Vorners un Ričards Blūmentāls. Šis akts nodrošinātu, ka sabiedrības veselības nolūkos savāktie dati netiek izmantoti citiem mērķiem. Tas aizliegtu veselības datu izmantošanu diskriminējošiem, nesaistītiem vai traucējošiem mērķiem, tostarp komerciālai reklāmai, e-komercijai vai centieniem kontrolēt piekļuvi nodarbinātībai, finansēm, apdrošināšanai, mājokļiem vai izglītībai. Tas būtu lielisks sākums. Turpinot tālāk, likumam, kas attiecas uz visu algoritmisko lēmumu pieņemšanu, Francijas piemēra iedvesmots, būtu jākoncentrējas uz stingru pārskatatbildību, uz datiem balstītu lēmumu pieņemšanas stingru regulatīvo uzraudzību un spēju auditēt un pārbaudīt algoritmiskos lēmumus un to ietekmi uz sabiedrību.

Lai nodrošinātu stingru atbildību, ir nepieciešami trīs elementi: (1) skaidra caurskatāmība par to, kur un kad tiek pieņemti automatizēti lēmumi un kā tie ietekmē cilvēkus un grupas, (2) sabiedrības tiesības sniegt jēgpilnu ieguldījumu un aicināt pilnvarotās personas pamatot savus lēmumus. , un (3) spēja īstenot sankcijas. Būtiski, ka politikas veidotājiem būs jāizlemj, kā nesen tika ierosināts ES, kas ir augsta riska algoritms, kam būtu jāatbilst augstākam pārbaudes standartam.

Skaidra caurspīdīgums

Galvenā uzmanība būtu jāpievērš automatizētas lēmumu pieņemšanas publiskai kontrolei un pārredzamības veidiem, kas rada atbildību. Tas ietver algoritmu esamības, to mērķa un apmācības datu atklāšanu, kā arī to ietekmi — vai tie ir radījuši atšķirīgus rezultātus un kurās grupās, ja tā ir.

Sabiedrības līdzdalība

Sabiedrībai ir pamattiesības aicināt pie varas esošos pamatot savus lēmumus. Šīs tiesības pieprasīt atbildes nedrīkst aprobežoties ar konsultatīvu līdzdalību, kad cilvēkiem tiek lūgts viņu viedoklis un ierēdņi dodas tālāk. Tajā būtu jāiekļauj pilnvarota līdzdalība, ja publiskais ieguldījums ir noteikts pirms augsta riska algoritmu ieviešanas gan publiskajā, gan privātajā sektorā.

Sankcijas

Visbeidzot, pilnvaras noteikt sankcijas ir būtiskas, lai šīs reformas izdotos un panāktu atbildību. Būtu jānosaka obligātas revīzijas prasības attiecībā uz datu mērķēšanu, pārbaudi un pārraudzību, lai nodrošinātu revidentus ar šīm pamata zināšanām un pilnvarotu pārraudzības struktūras īstenot sankcijas, lai ne tikai novērstu nodarīto kaitējumu, bet arī to novērstu.

Jautājums par kolektīvo datu izraisītu kaitējumu skar ikvienu. Sabiedrības veselības ārkārtas privātuma likums ir pirmais solis. Pēc tam Kongresam būtu jāizmanto mācības, kas gūtas, īstenojot šo aktu, lai izstrādātu likumus, kas īpaši vērsti uz kolektīvo datu tiesībām. Tikai ar šādu rīcību ASV var izvairīties no situācijām, kad secinājumi, kas izdarīti no uzņēmumu apkopotajiem datiem, daudzus gadus vajā cilvēku spēju piekļūt mājoklim, darbam, kredītiem un citām iespējām.

paslēpties