211service.com
Hei Google, žēl, ka zaudējāt ētikas padomi, tāpēc mēs jums to izveidojām
Nu, tas neaizņēma ilgu laiku. Pēc nedaudz vairāk nekā nedēļas Google atteicās izveidot savu Uzlaboto tehnoloģiju ārējo konsultatīvo padomi jeb ATEAC — komiteju, kuras mērķis bija sniegt uzņēmumam norādījumus par to, kā ētiski izstrādāt jaunas tehnoloģijas, piemēram, AI. Heritage Foundation prezidentes Kejas Koulsas Džeimsas iekļaušana padomē izraisīja sašutumu par viņas pret vidi, LGBTQ un pret imigrantiem vērstajiem uzskatiem. vadīja gandrīz 2500 Google darbinieku parakstīt petīciju par viņas atcelšanu. Tā vietā interneta gigants vienkārši nolēma visu slēgt.
Kā lietas nogāja tik nepareizi? Un vai Google var tās sakārtot? Mēs saņēmām duci AI, tehnoloģiju un ētikas ekspertu, lai pastāstītu mums, kur uzņēmums ir apmaldījies un ko tas varētu darīt tālāk. Ja šie cilvēki būtu bijuši ATEAC, stāstam varētu būt bijis cits iznākums.
“Esiet pārredzams un precīzs attiecībā uz ētikas padomju lomām un pienākumiem”
Rašida Ričardsone, AI Tagad institūta politikas pētījumu direktore
'Mums nav izpratnes par to, vai ētikas padomes patiesībā ir morāls kompass vai tikai vēl viens gumijas zīmogs'
Teorētiski ētikas padomes varētu būt liels ieguvums, lai pārliecinātos, ka AI produkti ir droši un nav diskriminējoši. Taču, lai ētikas padomēm būtu kāda nozīmīga ietekme, tām ir jābūt publiski atbildīgām un tām ir jābūt reālas uzraudzības pilnvarām.
Tas nozīmē, ka tehnoloģiju uzņēmumiem vajadzētu būt gataviem dalīties ar kritērijiem, ko tie izmanto, lai izvēlētos, kurš var piedalīties šajās ētikas padomēs. Viņiem arī jābūt pārredzamiem un konkrētiem attiecībā uz to ētikas padomju lomām un pienākumiem, lai sabiedrība varētu novērtēt to efektivitāti. Pretējā gadījumā mums nav ieskata par to, vai ētikas padomes patiesībā ir morāls kompass vai tikai vēl viens gumijas zīmogs. Ņemot vērā lielo AI uzņēmumu globālo ietekmi un atbildību, šāds pārredzamības un atbildības līmenis ir būtisks.
Apsveriet, ko patiesībā nozīmē efektīva un taisnīga tehnoloģiju pārvaldība
Džeiks Metkalfs, Data & Society tehnoloģiju ētikas pētnieks
ATEAC hullabaloo parāda, cik grūts un strīdīgs būs šis jaunais tehnoloģiju ētikas laikmets. Google šajā gadījumā nepārprotami nepareizi nolasīja telpu. Politiski marginālās populācijas, kuras ir pakļautas AI/ML tehnoloģiju klasifikācijas kaprīzēm, visticamāk, piedzīvos lielāku ētisko kaitējumu, ko rada automatizēta lēmumu pieņemšana. Google dod priekšroku Kejai Koulai Džeimsai, ņemot vērā viedokļu dažādību, nevis viņas atklāto naidu pret transpersonām, liecina, ka viņi pietiekami neapsver, ko patiesībā nozīmē efektīva un taisnīga tehnoloģiju pārvaldība.
“Ētika nozīmē divas dažādas lietas, kas praksē var būt pretrunīgas. Uzņēmumi ir pakļauti pirmajam un baidās no pēdējiem.
Tas ir sarežģīti uzņēmumiem, jo ētika nozīmē divas dažādas lietas, kas praksē var būt pretrunīgas: tas ir gan ikdienas darbs, lai izprastu un mazinātu sekas (piemēram, neobjektivitātes noteikšanas rīka vadīšana vai pārdomātas projektēšanas sanāksmes rīkošana), gan spriedums par to, kā sabiedrība. var pasūtīt vistaisnīgāk (piemēram, vai atšķirīgs kaitējums marginalizētajām kopienām nozīmē, ka produktu līnija ir jāpalielina). Korporācijas ir pakļautas pirmajam un baidās no otrās. Bet, ja mākslīgā intelekta ētika nav saistīta ar automatizētas ļaunprātīgas izmantošanas novēršanu, bīstamu tehnoloģiju nodošanas bloķēšanu autokrātiskām valdībām vai valsts vardarbības automatizācijas aizliegšanu, tad ir grūti zināt, kas tehnoloģiju uzņēmumuprāt tas ir, izņemot tukšus žestus. Zem jaukā jaunā ētikas atskaites rīka, kas ir saderīgs ar uzņēmuma KPI metriku, ir patiesas bažas par dzīvību draudiem. Vienlaicīgi turēt tos savā galvā ir izaicinājums uzņēmumiem birokrātiski un ētikas speciālistiem, kuri ir ieguldījuši taisnīgāku tehnoloģiju uzvaru.
Vispirms atzīstiet ziloni telpā: Google AI principi
Evans Selingers, Ročesteras Tehnoloģiju institūta filozofijas profesors
Google ievietoja kibošu ATEAC, vispirms neatzīstot ziloni telpā: AI principi ko izpilddirektors Sundars Pichai izteica vasarā. Vadošie akadēmiķi, pilsoniskās sabiedrības organizāciju darbinieki un tehnoloģiju uzņēmumu vecākie darbinieki man ir konsekventi teikuši, ka, lai gan principi izskatās labi uz papīra, tie ir pietiekami elastīgi, lai tos interpretētu tādā veidā, kas pasargās Google no nepieciešamības apdraudēt jebkādu ilgtermiņa izaugsmi. stratēģijas, jo īpaši tāpēc, ka principu pārkāpšanas izpildes mehānismi nav precīzi definēti, un galu galā viss uzņēmums paliek pašregulācijas pasākums.
Tomēr tas noteikti palīdzētu padarīt vadību atbildīgāku ētikas padomei, ja grupa būtu (a) pareizi izveidota; b) piešķirtas skaidras un spēcīgas institucionālās pilnvaras (nevis tikai sniegt padomu); un (c) arī pati par sevi tiek pakļauta pārredzamiem pārskatatbildības standartiem, lai nodrošinātu, ka tā nekļūtu par zobratu racionalizējošā, ētiskā veļas mazgājamā mašīnā.
Mainiet cilvēkus, kas ir atbildīgi par šo grupu izveidošanu
Ellen Pao, Project Include dibinātājs
Šis neveiksmīgais darbs parāda, kāpēc uzņēmumam Google ir vajadzīgi labāki padomdevēji. Bet, iespējams, viņiem ir arī jāmaina cilvēki, kas ir atbildīgi par šo grupu izveidošanu, un, iespējams, arī viņu iekšējām komandām vajadzētu veikt šo darbu. Bija vairākas problēmas ar rezultātu, kā mēs visi esam redzējuši, taču arī problēmas ar procesu. Ja neesat sazinājies ar visu grupu par to, ar ko viņi strādās, tā ir milzīga kļūda. Cilvēku piesaistei, kas vairāk atspoguļo pasauli, kurā dzīvojam, vajadzēja notikt iekšēji, pirms mēģināt izveidot ārēju grupu.
Sānu piezīme: cilvēkiem pirms apņemšanās ir jāpārbauda grupas, kurām viņi pievienojas, konferenču paneļi, kuros viņi runā, un viņu komandas, lai viņi zinātu, uz ko viņi reģistrējas. Tas ir pārsteidzoši, cik daudz jūs varat viņus ietekmēt un kā jūs varat mainīt grupas sastāvu, tikai jautājot.
Stipriniet antagonismu — nevis šīs draudzīgās iekšējās partnerattiecības un roku centienus
Mega Leta Džounsa, Džordžtaunas universitātes komunikācijas, kultūras un tehnoloģiju docente
Ētikas padomes nav neviena ikdienas darbs, un tās piedāvā tikai augsta līmeņa neregulāras sarunas, kas labākajā gadījumā sniedz ieskatu un sliktākajā gadījumā aizsegu. Ja mēs vēlamies nodibināt uzticību institūcijām, tostarp tehnoloģijām, tehnoloģiju uzņēmumiem, plašsaziņas līdzekļiem un valdībai, mūsu pašreizējā politiskajā kultūrā ir nepieciešama antagonisms, nevis šīs draudzīgās iekšējās partnerattiecības un roku darbs. Antagonistu pilnvarošana un antagonisma atbalstīšana var atbilstošāk un efektīvāk sasniegt “ētiskā AI” mērķus.
“Ētikas padomes labākajā gadījumā sniedz ieskatu un sliktākajā gadījumā aizsedz”
Skatieties uz iekšu un dodiet iespēju darbiniekiem, kuri ir solidāri ar neaizsargātām grupām
Anna Laurena Hofmane, Vašingtonas Universitātes Informācijas skolas docente
Google neveiksmīgā ATEAC padome skaidri norāda, ka mākslīgā intelekta ētika ir ne tikai tas, kā mēs izstrādājam, izstrādājam un ieviešam AI tehnoloģijas, bet arī par to, kā mēs rīkojamies ar ētiku. Pārdzīvotās ievainojamības, varas un ietekmes sadalījums un to, kuru balsis kļūst paaugstinātas, ir svarīgi apsvērumi, īstenojot ētiku reālajā pasaulē. Šajā nolūkā ATEAC sabrukums un citi atgrūšanas gadījumi (piemēram, pret Project Maven , Dragonfly un seksuālas uzmākšanās politikām ) skaidri parāda, ka uzņēmumam Google jau ir milzīgs resurss daudzos tā darbiniekiem. Lai gan mums ir vajadzīgs arī jēgpilns regulējums un ārēja uzraudzība, uzņēmumam vajadzētu skatīties uz iekšu un dot iespēju tiem jau marginalizētajiem darbiniekiem, kuri ir gatavi organizēties un solidarizēties ar neaizsargātām grupām, lai risinātu izplatītās transfobijas, rasisma, ksenofobijas un naida problēmas.
Valde nevar būt tikai 'mēs pazīstami daži svarīgi cilvēki'. Jums ir vajadzīgi īsti ētiķi
Patriks Lins, direktors Ētika + jauno zinātņu grupa pie Cal Poly
Pēc Aaliyah vārdiem, es domāju, ka nākamais Google solis ir notīrīt putekļus un mēģināt vēlreiz. Bet viņiem ir vairāk jādomā par to, ko viņi ieceļ valdē — tas nevar būt tikai saraksts “pajautāsim dažiem svarīgiem cilvēkiem, kurus mēs zinām”, kā šķita padomes versija 1.0. Pirmkārt, ja ir patiesa interese saņemt ētiskus norādījumus, jums ir nepieciešami īsti ētikas speciālisti — eksperti, kuriem ir profesionāla apmācība teorētiskajā un lietišķajā ētikā. Pretējā gadījumā tas būtu ekspertīzes vērtības noraidīšana, ko mēs jau tagad redzam pārāk daudz, piemēram, runājot par fundamentālo zinātni.
'Iedomājieties, ja uzņēmums vēlētos sasaukt AI tiesību padomi, bet tajā būtu tikai viens jurists.'
Iedomājieties, ja uzņēmums vēlētos sasaukt AI tiesību padomi, bet tajā bija tikai viens jurists (tāpat kā AI ētikas padomē v1.0 bija tikai viens filozofs). Tas paceltu nopietnus sarkanos karogus. Nepietiek ar to, ka kāds strādā pie juridiski svarīgiem jautājumiem — to dara daudzi cilvēki, tostarp es, un viņi var labi papildināt tiesību zinātnieku un juristu ekspertu viedokli. Bet, lai šī padome būtu patiesi efektīva, tās pamatā ir jāiekļauj faktiskie domēna eksperti.
Pēdējās nedēļas parādīja, ka tiešā organizēšana darbojas
Os Keyes, Vašingtonas Universitātes Datu ekoloģijas laboratorijas doktorants
Godīgi sakot, man nav padomu Google. Google dara tieši to, kas korporatīvajām vienībām mūsu sabiedrībā ir jādara; strādā, lai iegūtu politiskas (un tātad regulējošas un finansiālas) priekšrocības, neļaujot ceturkšņa rezultātos vai stratēģiskajā plānā iegriezt morāles pēdas. Mans padoms ir visiem, izņemot Google. Personām ārpus Google: zvaniet saviem pārstāvjiem. Jautājiet, ko viņi dara saistībā ar AI regulējumu. Pajautājiet, ko viņi dara saistībā ar lobēšanas kontroli. Pajautājiet, ko viņi dara saistībā ar korporatīvo regulējumu. Cilvēkiem akadēmiskajā vidē: zvaniet saviem pasniedzējiem. Pajautājiet, ko viņi dara, mācot ētikas studentiem, ka ētika ir svarīga tikai tad, ja to pielieto un pārdzīvo. Personām Google tīklā: piezvaniet cilvēkiem ārpusē un jautājiet, kas viņiem no jums vajadzīgs. Pēdējo nedēļu notikumi liecināja, ka tiešā organizēšana darbojas; solidaritātes darbi.
Četras sanāksmes gadā, visticamāk, neietekmēs. Mums ir vajadzīgs veikls ētikas ieguldījums
Irina Raicu, Santaklāras universitātes interneta ētikas programmas direktore
Manuprāt, šī bija lieliski neizmantota iespēja. Mani radīja jautājums, kurš no Google ir iesaistīts lēmumu pieņemšanā par to, kuru uzaicināt. (Šis lēmums pats par sevi prasīja daudzveidīgu ieguldījumu.) Taču tas runā par plašāku problēmu: fakts, ka Google paziņoja par padomes izveidi, nepaskaidrojot dalībnieku atlases kritērijus. Tika arī ļoti maz diskusiju par padomes izveides iemesliem, viņu cerēto padomes ietekmi utt. Ja viņi būtu nodrošinājuši plašāku kontekstu, sekojošā diskusija varētu būt citāda.
Ir arī citi jautājumi; Ņemot vērā to, cik ātri AI attīstās un tiek ieviests, četrām sanāksmēm (pat ar dažādu AI ētikas padomnieku grupu) gada laikā, visticamāk, nebūs nozīmīgas ietekmes, t.i. lai patiešām mainītu pētniecības vai produktu attīstības trajektoriju. Kamēr modelis ir elastīgs, mums ir nepieciešams arī elastīgs ētikas ieguldījums.
Grupai ir jābūt pilnvarām pateikt nē projektiem
Sems Gregorijs, Witness programmas direktors
Ja Google vēlas AI iniciatīvās patiesi iekļaut ētikas vai cilvēktiesību ievērošanu, vispirms ir jāatzīst, ka padomdevēja padome vai pat pārvaldības padome ir tikai daļa no plašākas pieejas. Viņiem jau pašā sākumā ir jābūt skaidram, ka grupai faktiski ir tiesības teikt nē projektiem un tikt uzklausītai. Tad tiem ir skaidri jānorāda sistēma — mēs iesakām to balstīt uz pieņemtajiem starptautiskajiem cilvēktiesību likumiem un normām — tāpēc indivīdam vai grupai, kas ir pieredzējusi, ka tā ir bijusi diskriminējoša vai ļaunprātīga, tajā nevajadzētu būt.
Neattiecieties pret ētiku kā pret PR spēli vai tehnisku problēmu
Anna Jobina, Šveices Federālā tehnoloģiju institūta Veselības ētikas un politikas laboratorijas pētniece
Ja Google nopietni domā par ētisku AI, uzņēmumam ir jāizvairās no ētikas attieksmes kā pret PR spēli vai tehnisku problēmu un jāiekļauj tā savā uzņēmējdarbības praksē un procesos. Tai var būt nepieciešams pārveidot savas pārvaldības struktūras, lai nodrošinātu labāku pārstāvību un atbildību gan iekšējam darbaspēkam, gan sabiedrībai kopumā. Jo īpaši tai par prioritāti ir jānosaka minoritāšu un neaizsargātu kopienu labklājība visā pasaulē, jo īpaši to cilvēku labklājība, kurus tās tehnoloģija ietekmē vai var negatīvi ietekmēt.
'Meklējiet ne tikai tradicionālās zināšanas, bet arī to cilvēku atziņas, kuri ir savas pieredzes eksperti'
Džojs Buolamvini, Algorithmic Justice League dibinātājs
Domājot par mākslīgā intelekta pārvaldību, mums ir jāmeklē ne tikai tradicionālās zināšanas, bet arī to cilvēku atziņas, kuri ir savas pieredzes eksperti. Kā mēs varētu iesaistīt atstumtas balsis AI veidošanā? Kā varētu izskatīties līdzdalības AI, kas koncentrējas uz to cilvēku viedokļiem, kuri ir visvairāk pakļauti AI negatīvās ietekmes riskam?
'Es nevaru iedomāties, ka šādas konsultatīvās grupas ieteikums traucētu tirgus prasībām.'
Mācīšanās no ATEAC pieredzes Google savu produktu un pakalpojumu izstrādē jāiekļauj kompensēti kopienas pārskatīšanas procesi. Tam būs nepieciešama nozīmīga pārredzamība un pastāvīga uzraudzība. Un uzņēmumam Google un citiem AI partnerības dalībniekiem būtu jāatliek daļa no peļņas, lai nodrošinātu konsorcija finansējumu AI ētikas un pārskatatbildības pētījumiem, nekoncentrējoties tikai uz AI godīguma izpēti, kas paaugstina tikai tehniskās perspektīvas.
Varbūt tas ir labākais, ka “ētiskās attīstības” vīģes lapa ir noslaucīta
Ādams Grīnfīlds, autors Radikālās tehnoloģijas
Viss, ko esam dzirdējuši par šo padomi, ir bijis apkaunojošs, sākot no sākotnējā instinkta uzaicināt Džeimsu līdz lēmumam to slēgt, nevis veltīt enerģiju šīs izvēles seku risināšanai. Taču, tā kā manas izjūtas par mākslīgo intelektu vairāk vai mazāk ir tādas kā Batleriešu džihādam, iespējams, ka tas ir labākais, ka “ētiskās attīstības” vīģes lapa ir noslāpēta. Galu galā es nevaru iedomāties nekādu ieteikumu par šādu padomdevēju grupu, lai arī kāds tas būtu izveidots, traucējot tirgus prasībām un/vai uztverto nepieciešamību konkurēt ar citiem AI attīstībā iesaistītajiem dalībniekiem.
'Ir iepriecinoši redzēt darbinieku aktīvisma spēku'
Tesa Poznere, AI4ALL izpilddirektore
Ir lieliski redzēt uzņēmumus, organizācijas un pētniekus, kas strādā, lai izveidotu ētiskus mākslīgā intelekta pamatus. Tehnoloģiju nozare šajā jomā piedzīvo arvien lielākas grūtības — izdomāt, kā pareizi rīkoties, ir grūti, un tas prasīs laiku un atkārtojumus. Mēs uzskatām, ka tā ir iespēja turpināt jautāt, kuras balsis ir jāiekļauj, un noteikti iekļaut dažādas balsis un balsis, kuras var tieši ietekmēt pieņemto lēmumu rezultāti. Ir iepriecinoši redzēt darbinieku aktīvisma spēku, kas ietekmē pārmaiņas saistībā ar šo un citiem tehnoloģiju jautājumiem.