AI ētikas grupas atkārto vienu no klasiskajām sabiedrības kļūdām

Getty

Starptautiskās organizācijas un korporācijas sacenšas, lai izstrādātu globālas vadlīnijas mākslīgā intelekta ētiskai izmantošanai. Deklarācijas, manifesti un ieteikumi pārpludina internetu. Taču šie centieni būs veltīgi, ja tie neņems vērā kultūras un reģionālo kontekstu, kurā darbojas AI.

Ir vairākkārt pierādīts, ka mākslīgā intelekta sistēmas rada problēmas, kas nesamērīgi ietekmē marginalizētās grupas, vienlaikus gūstot labumu dažiem priviliģētajiem. Mūsdienās notiekošo globālo AI ētikas pasākumu mērķis ir palīdzēt ikvienam gūt labumu no šīs tehnoloģijas un novērst tās nodarīšanu. Vispārīgi runājot, viņi to dara, izstrādājot vadlīnijas un principus, kas izstrādātājiem, finansētājiem un regulatoriem jāievēro. Viņi, piemēram, var ieteikt kārtējos iekšējos auditus vai pieprasīt lietotāju personiski identificējamās informācijas aizsardzību.

Mēs uzskatām, ka šīm grupām ir labi nodomi un tās veic vērtīgu darbu. AI kopienai patiešām būtu jāvienojas par ētiskā AI starptautisku definīciju un jēdzienu kopumu. Taču bez plašāka ģeogrāfiskā attēlojuma tie radīs globālu AI ētikas redzējumu, kas atspoguļo cilvēku perspektīvas tikai dažos pasaules reģionos, jo īpaši Ziemeļamerikā un ziemeļrietumu Eiropā.

Šis darbs nav viegls vai vienkāršs. Taisnīgums, privātums un neobjektivitāte nozīmē dažādas lietas (pdf) dažādās vietās. Cilvēkiem ir arī atšķirīgas cerības uz šiem jēdzieniem atkarībā no viņu politiskās, sociālās un ekonomiskās realitātes. AI radītie izaicinājumi un riski arī atšķiras atkarībā no atrašanās vietas.

Ja organizācijas, kas strādā pie globālās AI ētikas, to neatzīst, tās riskē izstrādāt standartus, kas labākajā gadījumā ir bezjēdzīgi un neefektīvi visos pasaules reģionos. Sliktākajā gadījumā šie nepilnīgie standarti radīs vairāk AI sistēmu un rīku, kas saglabā esošos aizspriedumus un ir nejutīgi pret vietējām kultūrām.

Piemēram, 2018. gadā Facebook lēni reaģēja uz dezinformāciju izplatās Mjanmā kas galu galā noveda pie cilvēktiesību pārkāpumiem. Novērtējums (pdf) Uzņēmums atklāja, ka šī pārraudzība daļēji ir saistīta ar Facebook kopienas vadlīnijām un satura regulēšanas politikām, kas nespēja risināt valsts politisko un sociālo realitāti.

Daudzās AI konsultatīvajās padomēs, ekspertu grupās un padomēs nepārprotami trūkst reģionālās daudzveidības.

Lai novērstu šādus pārkāpumus, uzņēmumiem, kas strādā pie ētikas vadlīnijām attiecībā uz AI darbināmām sistēmām un rīkiem, ir jāiesaista lietotāji no visas pasaules, lai palīdzētu izveidot atbilstošus standartus šo sistēmu pārvaldībai. Viņiem arī jāapzinās, kā viņu politika tiek piemērota dažādos kontekstos.

Neskatoties uz riskiem, daudzās AI konsultatīvajās padomēs, ekspertu grupās un padomēs, ko iecēlušas vadošās starptautiskās organizācijas, nepārprotami trūkst reģionālās daudzveidības. The ekspertu padomdevēju grupa Piemēram, UNICEF projektā AI bērniem nav pārstāvju no reģioniem ar augstākā koncentrācija bērnu un jauniešu vidū, tostarp Tuvajos Austrumos, Āfrikā un Āzijā.

Diemžēl pašreizējā situācijā visa mākslīgā intelekta ētikas joma ir pakļauta nopietnam riskam aprobežoties ar valodām, idejām, teorijām un izaicinājumiem no dažiem reģioniem, galvenokārt Ziemeļamerikas, Rietumeiropas un Austrumāzijas.

Šis reģionālās daudzveidības trūkums atspoguļo pašreizējo situāciju AI pētījumu koncentrācija (pdf) : 86% no 2018. gadā AI konferencēs publicētajiem rakstiem tika attiecināti uz autoriem Austrumāzijā, Ziemeļamerikā vai Eiropā. Un mazāk nekā 10% no atsaucēm, kas norādītas šajos reģionos publicētajos AI dokumentos, attiecas uz dokumentiem no cita reģiona. Arī patenti ir ļoti koncentrēti: 51% no 2018. gadā publicētajiem mākslīgā intelekta patentiem tika attiecināti uz Ziemeļameriku.

Tie, kas strādājam AI ētikas jomā, nodarīs vairāk ļauna nekā laba, ja ļausim lauka ģeogrāfiskās daudzveidības trūkumam noteikt mūsu pašu centienus. Ja mēs nebūsim uzmanīgi, mēs varētu kodificēt mākslīgā intelekta vēsturiskās novirzes vadlīnijās, kas deformē tehnoloģiju nākamajām paaudzēm. Mums jāsāk par prioritāti noteikt balsis no valstīm ar zemiem un vidējiem ienākumiem ( īpaši t šļūtene globālajā Dienvidi ) un no vēsturiski marginalizētām kopienām.

Tehnoloģiju attīstība bieži ir devusi labumu Rietumiem, vienlaikus saasinot ekonomisko nevienlīdzību, politisko apspiešanu un vides iznīcināšanu citviet. Valstu, kas nav Rietumu valstis, iekļaušana AI ētikā ir labākais veids, kā izvairīties no šī modeļa atkārtošanās.

Saistīts stāsts

Līdzdalība-mazgāšana varētu būt nākamā bīstamā mašīnmācības iedoma Daudzi cilvēki jau tagad piedalās šajā jomā bez atzinības vai atalgojuma.

Labā ziņa ir tā, ka šādās padomdevēju grupās ir jāiekļauj daudzi eksperti un vadītāji no nepietiekami pārstāvētiem reģioniem. Tomēr šķiet, ka daudzas starptautiskas organizācijas īpaši necenšas aicināt šos cilvēkus piedalīties. Jaunizveidotais Globālais AI ētikas konsorcijs Piemēram, nav dibinātāju, kas pārstāvētu akadēmiskās institūcijas vai pētniecības centrus no Tuvajiem Austrumiem, Āfrikas vai Latīņamerikas. Šis izlaidums ir spilgts piemērs koloniālie modeļi (pdf) atkārtojas.

Ja mēs gatavojamies veidot ētiskas, drošas un iekļaujošas AI sistēmas, nevis iesaistīties ētikas mazgāšana , mums vispirms ir jāveido uzticība tiem, kuriem šīs pašas sistēmas vēsturiski ir cietušas. Tas sākas ar jēgpilnu iesaistīšanos.

Pie Monreālas AI ētikas institūts , kurā mēs abi strādājam, mēs cenšamies izmantot citu pieeju. Mēs rīkojam digitālās AI ētikas sanāksmes, kas ir atklātas diskusijas, kurām var pievienoties ikviens, kam ir interneta pieslēgums vai tālrunis. Šo notikumu laikā mēs esam sazinājušies ar daudzveidīgu personu grupu — no profesora, kurš dzīvo Makao, līdz universitātes studentam, kurš studē Mumbajā.

Tikmēr tādas grupas kā Partnerība AI, atzīstot AI ģeogrāfiskās daudzveidības trūkumu plašākā nozīmē, ir ieteicamās izmaiņas vīzu likumiem un ierosinātajām politikām, kas ļauj pētniekiem vieglāk ceļot un dalīties savā darbā. Maskhane , tautas organizācija, apvieno dabiskās valodas apstrādes pētniekus no Āfrikas, lai atbalstītu mašīntulkošanas darbu, kas ir atstājis novārtā nedominējošās valodas.

Ir iepriecinoši redzēt, ka starptautiskās organizācijas savās diskusijās par AI mēģina iekļaut daudzveidīgākas perspektīvas. Mums visiem ir svarīgi atcerēties, ka reģionālā un kultūras daudzveidība ir galvenais faktors jebkurā sarunā par AI ētiku. Atbildīgu AI padarīt par normu, nevis izņēmumu, nav iespējams bez tādu cilvēku balsīm, kuriem jau nav varas un ietekmes.

UZ bhishek Gupta ir dibinātājs Monreālas AI ētikas institūts un mašīnmācības inženieris uzņēmumā Microsoft, kur viņš strādā PMP Atbildīgā AI padomē. Viktorija Hīta ir pētnieks uzņēmumā Monreālas AI ētikas institūts un vecākais zinātniskais līdzstrādnieks Kanādas NATO asociācija .

paslēpties