Līdzdalība-mazgāšana varētu būt nākamā bīstamā mašīnmācības iedoma

Ms Tech | Getty, Atbrīvojieties

AI kopiena beidzot pamostas faktam, ka mašīnmācīšanās var radīt nesamērīgu kaitējumu jau tā apspiestajām un nelabvēlīgajām grupām. Mums ir aktīvisti un organizatoriem pateikties par to. Tagad mašīnmācības pētnieki un zinātnieki meklē veidus, kā padarīt AI godīgāku, atbildīgāku un pārredzamāku, taču nesen arī vairāk līdzdalības.

Viens no aizraujošākajiem un apmeklētākajiem pasākumiem Starptautiskā konference par mašīnmācīšanos jūlijā zvanīja Līdzdalības pieejas mašīnmācībām . Šis seminārs iekļāva kopienas centienus izveidot demokrātiskākas, uz sadarbību vērstas un taisnīgākas algoritmiskās sistēmas, to izstrādē iekļaujot līdzdalības metodes. Šādas metodes iesaista projektēšanas procesā tos, kuri mijiedarbojas ar algoritmisko sistēmu un kurus tā ietekmē, piemēram, lūdzot medmāsām un ārstiem palīdzēt izstrādāt sepses noteikšanas rīks .

Šī ir ļoti vajadzīga iejaukšanās mašīnmācības jomā, kas var būt pārmērīgi hierarhiska un viendabīga. Taču tā nav nekāda sudraba lode: patiesībā piedalīšanās mazgāšanās varētu kļūt par nākamo bīstamo iedomu šajā jomā. Par to es un mani līdzautori Emanuels Moss, Olaitans Awomolo un Laura Forlano apgalvoju mūsu nesenajā rakstā. Līdzdalība nav mašīnmācības dizaina labojums .

Sistēmiskas apspiešanas un privilēģiju modeļu ignorēšana noved pie nepārskatāmām mašīnmācīšanās sistēmām, kas ir ļoti nepārredzamas un negodīgas. Šie modeļi ir caurvijuši laukā pēdējos 30 gadus. Tikmēr pasaule ir vērojusi bagātības nevienlīdzības un fosilā kurināmā izraisītu klimata pārmaiņu eksponenciālo pieaugumu. Šīs problēmas sakņojas kapitālisma galvenajā dinamikā: ieguvē. Arī līdzdalība bieži vien ir balstīta uz to pašu ekstrahējošo loģiku, it īpaši, ja runa ir par mašīnmācību.

Dalība nav bezmaksas

Sāksim ar šo novērojumu: līdzdalība jau ir liela daļa no mašīnmācīšanās, taču problemātiskā veidā. Viens veids ir līdzdalība kā darbs.

Neatkarīgi no tā, vai viņu darbs tiek atzīts vai nē, daudziem dalībniekiem ir svarīga loma, veidojot datus, kas tiek izmantoti, lai apmācītu un novērtētu mašīnmācības modeļus. Fotogrāfijas, kuras kāds uzņēmis un ievietojis, tiek iztīrītas no tīmekļa, un zemu algu darbinieki tādās platformās kā Amazon Mechanical Turk pievieno šīm fotogrāfijām piezīmes, lai padarītu tās par apmācību datiem. Arī parastie vietņu lietotāji veic šo anotāciju, aizpildot reCAPTCHA. Un ir daudz piemēru tam, kas ir pazīstams kā spoku darbs — antropoloģes Mērijas Grejas termins, kas apzīmē visu aizkulišu darbu, kas saistīts ar šķietami automatizētu sistēmu darbību. Liela daļa no šīs līdzdalības netiek pienācīgi kompensēta, un daudzos gadījumos to gandrīz nemaz neatzīst.

Tikmēr līdzdalība kā konsultācija ir tendence, kas vērojama tādās jomās kā pilsētvides dizains un arvien vairāk arī mašīnmācīšanās. Bet šīs pieejas efektivitāte ir ierobežota. Tas parasti ir īslaicīgs, bez plāna nodibināt nozīmīgas ilgtermiņa partnerības. Rūpes par intelektuālo īpašumu apgrūtina šo rīku patiesu pārbaudi. Rezultātā šī līdzdalības forma pārāk bieži ir tikai performatīva.

Saistīts stāsts

AI problēmas mūsdienās sniedzas gadsimtiem senā pagātnē Algoritmiskā diskriminācija un spoku darbs neparādījās nejauši. To garās, satraucošās vēstures izpratne ir pirmais solis ceļā uz to novēršanu.

Daudzsološāka ir līdzdalības ideja kā taisnīgums . Šeit visi projektēšanas procesa dalībnieki strādā kopā cieši saistītās attiecībās ar biežu saziņu. Līdzdalība kā taisnīgums ir ilgtermiņa apņemšanās, kas koncentrējas uz tādu produktu izstrādi, kuru pamatā ir cilvēki ar dažādu izcelsmi un kopienām, tostarp invalīdu kopiena, kas jau sen ir bijusi vadošā loma šeit. Šai koncepcijai ir sociāla un politiska nozīme, taču kapitālistiskās tirgus struktūras padara to gandrīz neiespējamu labi īstenot.

Mašīnmācība paplašina tehnoloģiju nozares plašākās prioritātes, kas koncentrējas uz mērogu un ieguvi. Tas nozīmē, ka līdzdalības mašīnmācība pagaidām ir oksimorons. Pēc noklusējuma lielākajai daļai mašīnmācīšanās sistēmu ir iespēja uzraudzīt, apspiest un piespiest (tostarp darba vieta ). Šajās sistēmās ir arī veidi, kā iegūt piekrišanu, piemēram, pieprasot lietotājiem izvēlēties uzraudzības sistēmas, lai izmantotu noteiktas tehnoloģijas, vai ieviešot noklusējuma iestatījumi kas viņus attur izmantot tiesības uz privātumu.

Ņemot to vērā, nav pārsteigums, ka mašīnmācībā netiek ņemta vērā esošā jaudas dinamika un tiek izmantota visaptveroša pieeja sadarbībai. Ja mēs nebūsim uzmanīgi, līdzdalības mašīnmācība varētu sekot AI ētikas ceļam un kļūt tikai par kārtējo iedomu, kas tiek izmantota, lai leģitimizētu. iekšā Taisnīgums.

Labāks veids

Kā mēs varam izvairīties no šīm briesmām? Nav vienkāršas atbildes. Bet šeit ir četri ieteikumi:

Atzīt līdzdalību kā darbu. Daudzi cilvēki ikdienā jau izmanto mašīnmācības sistēmas. Liela daļa šī darba uztur un uzlabo šīs sistēmas, un tāpēc tas ir vērtīgs sistēmu īpašniekiem. Lai to atzītu, visiem lietotājiem ir jālūdz piekrišana un jānodrošina iespējas atteikties no jebkuras sistēmas. Ja viņi izvēlas piedalīties, viņiem jāpiedāvā kompensācija. To darot, varētu būt jānoskaidro, kad un kā lietotāja uzvedības ģenerētie dati tiks izmantoti apmācības nolūkos (piemēram, izmantojot reklāmkarogu pakalpojumā Google Maps vai pieteikšanās paziņojumu). Tas nozīmētu arī atbilstoša atbalsta sniegšanu satura moderatori , godīgi kompensējot spoku darbiniekus un izstrādājot monetāras vai nemonetāras atlīdzības sistēmas, lai kompensētu lietotājiem viņu datus un darbu.

Konkrētu dalības kontekstu . Tā vietā, lai mēģinātu izmantot universālu pieeju, tehnologiem ir jāapzinās konkrētais konteksts, kurā viņi darbojas. Piemēram, projektējot a sistēma, lai prognozētu jauniešu un bandu vardarbību , tehnologiem ir nepārtraukti jāpārvērtē veidi, kā viņi izmanto uzkrāto pieredzi un zināšanas jomā, un jāsadarbojas ar cilvēkiem, kuriem viņi izstrādā. Tas ir īpaši svarīgi, jo projekta konteksts laika gaitā mainās. Pat nelielu procesa un konteksta pārmaiņu dokumentēšana var veidot zināšanu bāzi ilgstošai, efektīvai līdzdalībai. Piemēram, vai klīniskās aprūpes mašīnmācības sistēmas izstrādē ir jākonsultējas tikai ar ārstiem, vai arī medmāsām un pacientiem ir jāietver? Skaidri norādot, kāpēc un kā tika iesaistītas noteiktas kopienas, šādi lēmumi un attiecības kļūst pārredzamas, atbildīgas un īstenojamas.

Plānojiet ilgtermiņa dalību jau no paša sākuma. Cilvēki, visticamāk, laika gaitā turpinās iesaistīties procesos, ja viņi var dalīties un iegūt zināšanas, nevis iegūt tās no viņiem. To var būt grūti sasniegt mašīnmācībā, jo īpaši patentēta dizaina gadījumos. Šeit ir vērts atzīt spriedzi, kas sarežģī ilgtermiņa līdzdalību mašīnmācībā, un atzīt, ka sadarbība un taisnīgums nenotiek bezrūpīgi. Šīs vērtības prasa pastāvīgu uzturēšanu, un tās atkal un atkal ir jāformulē jaunos kontekstos.

Mācieties no pagātnes kļūdām. Vairāk ļaunuma var nodarīt, atkārtojot domāšanas veidus, kas sākotnēji radīja kaitīgas tehnoloģijas. Mums kā pētniekiem ir jāuzlabo mūsu spēja domāt par sānu lietojumprogrammām un profesijām. Lai to atvieglotu, mašīnmācības un dizaina kopiena varētu izveidot meklējamu datubāzi, lai izceltu dizaina līdzdalības nepilnības (piemēram, Sidewalk Labs krastmalas projekts Toronto ). Šīs neveiksmes varētu būt saistītas ar sociāli strukturāliem jēdzieniem (piemēram, jautājumiem, kas saistīti ar rasu nevienlīdzību). Šai datubāzei ir jāaptver dizaina projekti visās nozarēs un jomās, ne tikai mašīnmācības jomā, un skaidri jāatzīst neesības un novirzes. Bieži vien mēs varam mācīties no šiem malas gadījumiem.

Ir aizraujoši redzēt, ka mašīnmācības kopiena aptver taisnīguma un vienlīdzības jautājumus. Taču atbildes nedrīkst balstīties tikai uz dalību. Vēlme pēc sudraba lodes ir pārāk ilgi nomocījusi tehnoloģiju kopienu. Ir pienācis laiks aptvert sarežģītību, kas rodas, izaicinot mašīnmācības ekstraktīvā kapitālisma loģiku.

Mona Slouna ir sociologs Ņujorkas Universitātē. Viņa strādā pie dizaina nevienlīdzības AI dizaina un politikas kontekstā.

paslēpties