Es sāku raudāt: Timnit Gebru pēdējās dienas darbā Google — un kas notiks tālāk

.

Nhung Le

autors

• Kārena Hao arhīva lapa

2020. gada 16. decembris

Līdz šim mēs visi esam dzirdējuši kādu stāsta versiju. 2. decembrī pēc ieilgušām domstarpībām par pētnieciskā darba izdošanu Google izslēdza savu ētisko AI līdzvadītāju Timnitu Gebru . Papīrs bija uz lielo valodu modeļu riski , AI modeļi ir apmācīti, lai iegūtu satriecošu teksta datu apjomu, kas ir Google biznesa izpētes pamats. Gebru, vadošā AI ētikas pārstāve, bija viena no vienīgajām melnādainajām sievietēm Google pētniecībā.

Kopš tā laika šis solis ir izraisījis diskusijas par pieaugošo korporatīvo ietekmi uz AI, ilgstošo tehnoloģiju daudzveidības trūkumu un to, ko nozīmē veikt jēgpilnu AI ētikas izpēti. 15. decembrī vairāk nekā 2600 Google darbinieku un 4300 citu akadēmisko aprindu, nozares un pilsoniskās sabiedrības pārstāvju parakstīja petīciju nosodot Gebru atlaišanu, nosaucot to par bezprecedenta pētniecības cenzūru un atriebības aktu.

Saistīts stāsts

Mēs lasījām rakstu, kas lika Timnitam Gebru atteikties no Google. Lūk, kas tajā teikts.

Uzņēmuma zvaigznes ētikas pētnieks uzsvēra lielo valodu modeļu riskus, kas ir Google biznesa atslēga.

Gebru ir pazīstams ar pamatu darbu atklājot AI diskrimināciju , attīstot dokumentēšanas metodes un AI modeļu auditēšana un iestājas par lielāku pētniecības daudzveidību. 2016. gadā viņa bija līdzdibinātāja bezpeļņas organizācija Black in AI , kas ir kļuvis par galveno resursu pilsonisko tiesību aktīvistiem, darba organizatoriem un vadošajiem mākslīgā intelekta ētikas pētniekiem, attīstot un izceļot melnādaino AI pētniecības talantus.

Darba zaudēšana Gebru nepalēnināja. Nākamajā nedēļā viņa piedalījās vairākos semināros NeurIPS, lielākajā ikgadējā AI pētniecības konferencē, kuru šogad apmeklēja vairāk nekā 20 000 cilvēku. Viņa saka, ka bija terapeitiski redzēt, kā parādījās kopiena, kuru viņa palīdzēja veidot, un atbalstīja viena otru. Tagad, vēl nedēļu vēlāk, viņa vienkārši atpūšas un atvelk elpu — un cenšas tam visam izprast.

Pirmdien, 14. decembrī, panācu Gebru caur Zoom. Viņa stāstīja par notikušo, strādājot Google, pārdomāja, ko tas nozīmēja jomai un mākslīgā intelekta ētikas pētījumiem, un sniedza atvadu padomus tiem, kuri vēlas saukt tehnoloģiju uzņēmumus pie atbildības. Varat arī noklausīties mūsu aplādes īpašo sēriju In Machines We Trust, lai uzzinātu svarīgākos intervijas notikumus. (Google noraidīja pieprasījumu komentēt šīs intervijas saturu.)

Tālāk teksts ir rediģēts un saīsināts.

Es gribēju vispirms pārbaudīt, kā jums klājas.

Man šķiet, ka man nav īsti bijis laika, lai emocionāli apstrādātu visu notikušo un tā sekas. Es vienkārši eju un eju un eju. Tāpēc man šķiet, ka es, iespējams, kādā brīdī izjukšu, kad būs neliels klusums. Taču šobrīd esmu tikai ļoti noraizējies par savu komandu un cilvēkiem, kas mani atbalsta, un par to, kādus riskus viņi uzņemas, un gādāju, lai viņi netiktu atriebti.

Ir tik daudz stāstu par notikušo. Es gribēju sākt no daudz agrāka šī stāsta punkta. Kas lika jums sākotnēji izvēlēties strādāt uzņēmumā Google, un kāds bija Google toreiz?

ES domāju Samijs [Bendžio, Google AI direktors] un Džefs [Dīns, Google pētniecības SVP] bija Black in AI darbnīcā [NeurIPS 2017. gadā]. Viņi man jautāja, ko es daru, un viņi atbildēja: Ak, jā, jums vajadzētu strādāt Google. Es to nebiju plānojis. Tajā laikā es strādāju pēcdoktorantūras programmā Microsoft Research [MSR]. Es nebiju izdomājis, ko darīšu tālāk. Bet es zināju, ka vēlos atgriezties Bay Area, un viņi izveidoja biroju Akrā, Ganā. Es domāju, ka būtu labi, ja es varētu palīdzēt ar to.

Man bija daudz atrunu. Es biju Ņujorkā MSR, un tur bija daudz vokālu sieviešu — Danah Boyd, Hannah Wallach, Jen [Wortman Vaughan], Kate Crawford, Mary Gray. Tur nebija īsti krāsainu sieviešu. Vienīgās melnādainās sievietes, ko es pazīstu no visiem Microsoft Research, ir Danielle Bellgrave Apvienotajā Karalistē un Shawndra Hill Ņujorkā. Bet tomēr pat vīrieši ļoti atbalstīja. Es ļoti vilcinājos doties uz vidi, kurā es zināju, ka Google izpēte nav plaši pazīstama ar savu sieviešu aizstāvību. Bija vairākas problēmas, kuras biju dzirdējis savos čukstu tīklos. Patiesībā, kad es teicu, ka apmeklēšu Google pētījumu, daudzi cilvēki mani apsēdināja. Tāpēc es vienkārši jau baidījos no tā, piemēram, Ak, cilvēks, labi, ko es iedziļināšos?

Es noteikti biju pirmā melnādainā sieviete, kas bija Google pētniece. Pēc manis mēs ieguvām vēl divas melnās sievietes. Tas ir, piemēram, no tik daudziem pētniekiem. Simtiem un simtiem. Trīs no Dievs zina, cik daudz.

Viņi nepievīla. Tā bija tikai pastāvīga cīņa. Es mēģināju to uztvert kā sarunu ar cilvēkiem, mēģinājumu viņus izglītot, mēģināt panākt, lai viņi ieraudzītu noteiktu skatījumu. Es turpināju domāt, ka viņi varētu darīt labāk, vai zināt? Kopā ar Semiju viņš ir kļuvis par milzīgu advokātu. Cilvēki sūdzējās, ka šī organizācija [Google Research] pieņēma darbā tikai 14% sieviešu. Samijs, mans menedžeris, pieņēma darbā 39% sieviešu. Nebija tā, ka viņam būtu kāds stimuls to darīt. Viņš bija vienīgais iemesls, kāpēc man šķiet, ka tas ar mani agrāk nav noticis. Iespējams, tas ir tāpēc, ka viņš mūs sargāja. Un, mūs sargājot, viņš pats nonāktu nepatikšanās. Ja citi vadītāji jūs apņemas ar toni un jūs esat pārāk skaļš, jūs esat kā nekārtību cēlējs — mēs visi zinām, ka tā notiek ar tādiem cilvēkiem kā es —, tad, ja kāds jūs aizstāvēs, viņš acīmredzot arī radīs problēmas. pārējiem vadītājiem.

Tie bija mani divi gadi Google darbā. Es patiesībā domāju, ka varbūt mēs progresējam līdz pēdējam incidentam, jo ​​mūsu komanda auga. Tā gandrīz izjuka — divus mēnešus pēc darba laika Google, mana līdzstrādniece Mega Mičela grasījās pamest darbu. Bet tad mēs paplašinājām savu komandu, un tagad mēs esam, piemēram, 12 cilvēki. Tāpēc es domāju, ka mēs virzāmies uz priekšu.

Tik daudz tika runāts par daudzveidību un iekļaušanu, bet tik daudz liekulības. Esmu viena no 1,6% melnādainajām sievietēm Google tīklā. [Google] pētījumos tas nav 1,6% — tas ir daudz zemāks. Es noteikti biju pirmā melnādainā sieviete, kas bija Google pētniece. Pēc manis mēs ieguvām vēl divas melnās sievietes. Tas ir, piemēram, no tik daudziem pētniekiem. Simtiem un simtiem. Trīs no Dievs zina, cik daudz.

Tātad kādā brīdī man bija tā, vai zini ko? Es pat nevēlos runāt par dažādību. Tas vienkārši ir nogurdinoši. Viņi vēlas tikties ar jums, viņi jūs neklausa un pēc tam vēlas atkal tikties ar jums. Esmu uzrakstījis miljonu dokumentu par miljoniem ar daudzveidību saistītu lietu — par rasu pratību un mašīnmācīšanos [ML], ML godīguma iniciatīvām, par sieviešu saglabāšanu un problēmām. Tik daudz dokumentu un tik daudz e-pastu.

Tātad tā ir bijusi viena lieta pēc otras. Nav bijis nevienas atvaļinājuma, ko es paņēmu Google tīklā, kad man nebūtu radušās kādas problēmas. Tas vienkārši nekad nav bijis sirdsmiers. Iedomājieties, ka kāds uz jums šauj ar ieroci, un jūs kliedzat. Un tā vietā, lai mēģinātu apturēt personu, kas šauj uz jums ar ieroci, viņi mēģina atturēt jūs no kliegt. Tā jutās. Bija vienkārši tik sāpīgi atrasties tādā stāvoklī atkal un atkal un atkal.

Jūs veiksmīgi izveidojāt vienu no daudzveidīgākajām komandām AI nozarē. Kas patiesībā bija vajadzīgs, lai to izdarītu?

Mums bija jācīnās ar visdažādākajām lietām. Man bija jābūt vadītājam, un tad cilvēki negribēja, lai es būtu vadītājs. Man bija tā, ka esmu izveidojis ļoti labi zināmu bezpeļņas organizāciju. Kāpēc jums ir 'bažas' par to, ka es esmu vadītājs? Semija man to neteica, bet viņam bija jānodod šī ziņa: vai viņa zina, ka viņa var tikt atlaista par lietām? Vai viņa zina, ka, ja viņa kļūs par menedžeri, viņai būs jābūt Google pārstāvei? Pēc tam cilvēki izteica bažas par to, ka es nešķiet apmierināts ar Google. Nav tā, ka ir toksiska kultūra, kas padara tādus cilvēkus kā viņa nelaimīgus. Tāpēc labosim šo kultūru. Nē, tā nebija saruna. Saruna bija viņa, šķiet, ir nelaimīga, tāpēc nepadarīsim viņu par vadītāju.

Es tajā laikā biju sašutusi. Es biju tik dusmīgs. Es jautāju ikvienam citam cilvēkam, kurš kļuva par mana līmeņa vadītāju, kāda ir viņu pieredze. Man šķiet, ka šī persona kļuva par vadītāju, un neviens viņiem nekad nejautāja, vai viņi zināja, ka viņu atlaidīs par X, Y un Z. Šī cita persona kļuva par vadītāju. Nevienam ar viņiem nebija jārunā. Nekādas diskusijas nebija. Man tas tā nebija.

Iedomājieties, ka kāds uz jums šauj ar ieroci, un jūs kliedzat. Un tā vietā, lai mēģinātu apturēt personu, kas šauj uz jums ar ieroci, viņi mēģina atturēt jūs no kliegt.

Cita lieta: mēs gribējām algot sociālos zinātniekus. Daudzas reizes pētnieki vienkārši nolīgst savus draugus, un mēs negribējām to darīt. Mēs izsaucām zvanu. Mēs saņēmām 300 pieteikumus. Mēs tos izskatījām ar roku, jo vēlējāmies pārliecināties, ka vervētāji nefiltrē noteiktas cilvēku grupas. Mēs ātri sazvanījāmies ar 20 gadniekiem, klātienē veicām interviju ar 10 cilvēkiem, un tad mēs nolīgām divus no viņiem.

Es domāju, ka mēs progresējam tāpēc, ka varējām iegūt resursus, lai nolīgtu šos cilvēkus. Tāpēc es domāju, ka varbūt Džefs sāk atbalstīt mūsu komandu un atbalstīt to, ko mēs darām. Es nekad nebiju iedomājusies — es precīzi nezinu, kā tas vispār notika —, bet es vienkārši nebiju iedomājies, ka viņš atteiksies no tā [mana atlaišana]. Es nevaru iedomāties, ka viņš to ierosināja, bet pat viņa parakstīšanās man bija kaut kas tik pārsteidzošs.

Vai laikā, kad veidojāt komandu, varējāt veidot attiecības ar citām Google komandām? Vai noteiktas organizācijas daļas kļuva uzņēmīgākas pret AI ētikas jautājumiem?

Lielākā daļa mūsu komandas cilvēku ir pārpludināti ar pieprasījumiem no citām komandām vai citiem cilvēkiem. Un viens no mūsu izaicinājumiem bija ne vienmēr atrasties ugunsgrēka vidū, jo mēs gribējām tālredzību. Mēs vēlējāmies veidot to, kas notiek nākotnē, nevis tikai reaģēt.

Lielākā neatbilstība, ko es redzu, ir tā, ka ir tik daudz cilvēku, kas mūs ciena, bet tad augšgalā ir cilvēki, piemēram, VP, kuri vienkārši varbūt nevar mūs ciest vai vienkārši neciena mūsu autoritāti vai zināšanas. Esmu to redzējis vairākas reizes. Taču Google Cloud vai īpaši mākoņa AI darbinieki, daži no augstākā līmeņa vadītājiem — viņi ļoti atbalstīja. Man šķita, ka viņi patiešām ciena mūsu vadību, tāpēc viņi mēģinās mūs iesaistīt daudzās lietās. No otras puses, šis pēdējais fiasko nebija no viņiem. Man ir aizdomas, no kuriem VP tas bija, un viņi noteikti nerespektēja mūsu zināšanas vai vadību.

Vai jūs varētu mazliet vairāk par to runāt?

Nu, pat ja jūs vienkārši redzat e-pasts no Džefa — Es pieņemu, ka viņš nav rakstījis šo e-pastu; Es pieņemu, ka kāds to uzrakstīja un viņš to nosūtīja — tajā ir runāts par to, kā mūsu pētījumā [darbā par lieliem valodu modeļiem] bija nepilnības, tajā trūka literatūras. [E-pasts neizklausās] tā, it kā viņi runātu ar cilvēkiem, kuri ir eksperti savā jomā. Šī nav salīdzinošā pārskatīšana. Šis nav recenzents Nr. 2, kas jums saka: “Hei, trūkst šī citāta. Šī ir cilvēku grupa, ko mēs nezinām, kuri atrodas augstā līmenī, jo viņi ilgu laiku ir bijuši Google, kuriem kāda nezināma iemesla un procesa dēļ, ko es nekad neesmu redzējis, tika dota vara lai pārtrauktu šo pētījumu.

Mums bija 128 citāti [šajā dokumentā], un mēs nosūtījām savu rakstu daudziem no šiem cilvēkiem, kurus citējām. Mēs bijām tik rūpīgi. Es teicu: labi, es vēlos četros segmentos sagrupēt cilvēkus, kuriem mēs lūgsim atsauksmes. Viens no tiem ir cilvēki, kuri paši ir izstrādājuši lielus valodu modeļus, lai tikai iegūtu savu skatījumu. Viens no tiem ir cilvēki, kas strādā, lai izprastu un mazinātu neobjektivitāti šajos modeļos. Viens no tiem ir cilvēki, kuri varētu nepiekrist mūsu viedoklim. Viens no tiem ir cilvēki, kuri izmanto šos lielos valodu modeļus dažādām lietām. Un mums ir viss dokuments ar visām šīm atsauksmēm, kuras mums bija paredzēts izskatīt, un ko es vēlos izdarīt vēl pirms šī darba izlaišanas.

Taču tas, kā viņi [Google vadība] runāja ar mums, nebija tā, ka viņi sarunājās ar pasaulē pazīstamiem ekspertiem un valodniekiem. Tāpat kā Emīlija Benders [Vašingtonas universitātes profesore un raksta līdzautore] nav nejauša persona, kas vienkārši ievietojusi savu vārdu nejaušā papīra formātā. Man šķita, ka visa lieta bija tik necieņa.

Vai pirms šī konkrētā raksta bija gadījumi, kad jums kādreiz šķita, ka Google ierobežo vai ierobežo jūsu komandas iespējas veikt pētījumus?

Man šķita, ka ir bijuši gadījumi, kad viņi ļoti mazināja pētījumu rezultātus. Cilvēkiem bija sarunas ar PR un politiku vai jebko citu, un viņi apšaubīja noteiktus formulējumus vai noteiktu specifiku. Tas ir tas, ko es domāju, ka viņi varētu mēģināt darīt arī ar šo papīru. Tāpēc es uzrakstīju dokumentu un nepārtraukti jautāju viņiem: Kādas ir jūsu atsauksmes? Vai jūsu atsauksmes ir par sadaļas pievienošanu? Noņemt? Ko tas nozīmē? Ko tu mums jautā?

Šis bija burtiski mans e-pasts piektdien pēc Pateicības dienas [ 27. novembris, piecas dienas pirms Gebru atlaišanas ], jo Pateicības dienā es pavadīju savu dienu, rakstot šo dokumentu, nevis labi pavadīju laiku kopā ar ģimeni. Nākamajā dienā, piektdien, kad man bija paredzēts atsaukt šo dokumentu, es uzrakstīju: Labi, es esmu uzrakstījis šo sešu lappušu dokumentu, kurā augstā un zemā līmenī ir aplūkotas visas atsauksmes, ko varu savākt. Un es ceru, ka ir vismaz atvērtība turpmākai sarunai, nevis tikai turpmākiem rīkojumiem. Es uzrakstīju šo e-pastu. Tādi. Kā Megana [Kacholia, Google Research inženierzinātņu viceprezidente] reaģē uz šo e-pasta ziņojumu? Pirmdien viņa uz to atbild un saka: Vai varat, lūdzu, apstiprināt, ka esat vai nu atsaucis rakstu, vai izņēmis no šī darba autoru vārdus. Paldies. Un vai varat, lūdzu, apstiprināt pēc tam, kad esat to izdarījis. Nosūtiet man e-pastu un apstipriniet. It kā man nebūtu aģentūras.

Tas nav tas, ko viņi dara ar cilvēkiem, kuri ir izdarījuši rupjus pārkāpumus. Viņi izsniedz viņiem 80 miljonus dolāru, un viņi dod viņiem jauku izeju. Viņi nedara to, ko izdarīja ar mani.

Tad šajā dokumentā es rakstīju, ka tas ir bijis ārkārtīgi necieņa pret ētiskā AI komandu, un ir nepieciešama saruna ne tikai ar Džefu un mūsu komandu un Meganu un mūsu komandu, bet arī ar visu pētījumu par cieņu pret pētniekiem. un kā rīkot šāda veida diskusijas. Nē. Nekādas saistības ar to.

Es raudāju, starp citu. Kad man bija pirmā tikšanās, kas bija ceturtdien pirms Pateicības dienas, dienu pirms es gatavojos doties atvaļinājumā — kad Megana mums teica, ka jums ir jāatsauc šis dokuments, es sāku raudāt. Es biju tik sarūgtināts, jo teicu: esmu tik noguris no pastāvīgās cīņas šeit. Es domāju, ka, ja es vienkārši ignorētu visu šo DEI [daudzveidība, vienlīdzība un iekļaušana] liekulību un citas lietas, un es tikai koncentrējos uz savu darbu, tad vismaz es varētu paveikt savu darbu. Un tagad jūs nākat pēc mana darba. Tāpēc es burtiski sāku raudāt.

Kas, jūsuprāt, bija par šo konkrēto dokumentu, kas skāra šos notikumus? Vai jūs domājat, ka tas patiesībā bija par šo rakstu, vai arī bija citi faktori?

es nezinu. Semija bija šausmās par visu. Viņš teica, ka mēs tā neizturamies pret pētniekiem. Es domāju, ka jūs nevarat izturēties pret cilvēkiem kopumā. Cilvēki runā par to, kā, ja tas notiek ar kādu, kam tas ir izdevies, tas liek man iedomāties, ko viņi dara ar cilvēkiem, īpaši neaizsargātām grupām.

Viņi droši vien domāja, ka es par to būšu ļoti kluss. es nezinu. Es nedomāju, ka gala rezultāts bija tikai par šo papīru. Varbūt viņi bija pārsteigti, ka es kaut kādā veidā atgrūdu. Es joprojām cenšos saprast, kas noticis.

Vai, pamatojoties uz iepriekšējiem notikumiem un spriedzi, jums kādreiz bija aizdomas, ka tas tā beigsies? Un vai jūs gaidījāt sabiedrības reakciju?

Es domāju, ka viņi varētu padarīt mani pietiekami nožēlojami, lai aizietu, vai kaut kas tamlīdzīgs. Es domāju, ka viņi būtu gudrāki, nekā darīt to tieši šādā veidā, jo tas ir saistīts ar tik daudzām problēmām, ar kurām viņi nodarbojas: pētniecības cenzūra, ētiskais AI, darba tiesības, DEI — visas lietas, uz kurām viņi ir nonākuši. uguns pirms. Tāpēc es negaidīju, ka tas notiks tādā veidā, piemēram, pilnībā pārtraucu savu korporatīvo kontu. Tas ir tik nesaudzīgi. Tas nav tas, ko viņi dara ar cilvēkiem, kuri ir izdarījuši rupjus pārkāpumus. Viņi nodod viņiem 80 miljonus dolāru , un tie dod viņiem patīkamu izeju, vai varbūt viņi pasīvi-agresīvi tos nereklamē, vai kas cits. Viņi nedara cilvēkiem, kuri patiesībā rada naidīgu darba vidi, to, ko viņi izdarīja ar mani.

Es to uzzināju no saviem tiešajiem ziņojumiem, vai zināt? Kas ir tik skumji. Viņi vienkārši bija tik ļoti traumēti. Es domāju, ka mana komanda noturējās kopā līdz pulksten 4 vai 5 no rīta, mēģinot saprast notikušo. Un staigāt apkārt Semijam — tas viss bija tik briesmīgi un nežēlīgi.

Es domāju, ka, ja es vienkārši... koncentrējos uz savu darbu, tad vismaz es varētu paveikt savu darbu. Un tagad jūs nākat pēc mana darba. Tāpēc es burtiski sāku raudāt.

Es gaidīju zināmu atbalstu, bet noteikti negaidīju tādu izplūduma apjomu, kāds ir. Tas ir bijis neticami redzēt. Es nekad, nekad neesmu pieredzējis kaut ko tādu. Es domāju, nejauši radinieki man sūta īsziņas, es to redzēju ziņās. Tas noteikti nav kaut kas tāds, ko es gaidīju. Bet cilvēki šobrīd uzņemas tik daudz risku. Un tas mani uztrauc, jo es patiešām vēlos pārliecināties, ka viņi ir drošībā.

Jūs minējāt, ka tas neattiecas tikai uz jums; tas attiecas ne tikai uz Google. Tā ir tik daudz dažādu jautājumu saplūšana. Ko šī konkrētā pieredze saka par tehnoloģiju uzņēmumu ietekmi uz AI kopumā un to spēju faktiski veikt nozīmīgu darbu AI ētikas jomā?

Ziniet, tur bija vairāki cilvēki salīdzinot Big Tech un Big Tobacco , un kā viņi cenzēja pētījumus, lai gan kādu laiku zināja problēmas. Es virzu atpakaļ uz akadēmisko aprindu un tehnoloģiju dihotomiju, jo viņiem abiem ir tāda pati ļoti rasistiska un seksistiska paradigma. Paradigma, ko apgūstat un pārņemat Google vai citur, sākas akadēmiskajā vidē. Un cilvēki pārvietojas. Viņi dodas uz rūpniecību un pēc tam atgriežas akadēmiskajā vidē vai otrādi. Viņi visi ir draugi; viņi visi dodas uz tām pašām konferencēm.

Es nedomāju, ka mācība ir tāda, ka tehnoloģiju uzņēmumos nevajadzētu veikt AI ētikas pētījumus, bet es domāju, ka mācība ir tāda, ka a) ir nepieciešams daudz vairāk neatkarīgu pētījumu. Mums ir jābūt vairāk izvēles iespēju nekā tikai DARPA [Aizsardzības progresīvo pētījumu projektu aģentūra], salīdzinot ar korporācijām. Un b) acīmredzot ir nepieciešama tehnoloģiju uzņēmumu uzraudzība. Šobrīd es vienkārši nesaprotu, kā mēs varam turpināt domāt, ka viņi paši regulēs DEI vai ētiku, vai kas tas ir. Viņi nav rīkojušies pareizi, un viņi nerīkosies pareizi.

Es domāju, ka akadēmiskajām iestādēm un konferencēm ir jāpārdomā savas attiecības ar lielajām korporācijām un naudas summas, ko tās no tām atņem. Daži cilvēki pat domāja, piemēram, vai dažās no šīm konferencēm vajadzētu būt bezcenzūras uzvedības kodeksam vai tamlīdzīgam. Tāpēc es domāju, ka šīs konferences un akadēmiskās institūcijas var darīt daudz. Šobrīd ir pārāk liela spēku nelīdzsvarotība.

Kādu lomu, jūsuprāt, var spēlēt ētikas pētnieki, ja viņi strādā uzņēmumos? Konkrēti, ja jūsu bijusī komanda paliek Google, kādu ceļu jūs redzat viņu spējai veikt ietekmīgu un jēgpilnu darbu?

Es domāju, ka tādiem cilvēkiem vai tādiem pētniekiem ir jābūt kaut kādai aizsardzībai. Šobrīd acīmredzami ir ļoti grūti iedomāties, kā kāds var veikt reālus pētījumus šajās korporācijās. Bet, ja jums būtu darba aizsardzība, trauksmes cēlēju aizsardzība, ja jums ir lielāka pārraudzība, cilvēkiem varētu būt vieglāk tikt aizsargātiem, kamēr viņi veic šāda veida darbu. Tas ir ļoti bīstami, ja jums ir šāda veida pētnieki, kas veic to, ko mans līdzvadītājs sauca par vīģes lapu — piesegšanu. Piemēram, mēs neko nemainām, mēs tikai uzliekam vīģes lapu mākslai. Ja atrodaties vidē, kurā cilvēki, kuriem ir vara, netiek ieguldīti, lai kaut ko mainītu, jo viņiem nav nekāda stimula, acīmredzot šāda veida pētnieku iekļaušana tur nepalīdzēs. Bet es domāju, ka, ja mēs spēsim izveidot atbildības un pārraudzības mehānismus, aizsardzības mehānismus, es ceru, ka mēs varam ļaut šādiem pētniekiem turpināt pastāvēt korporācijās. Taču daudz kas ir jāmaina, lai tas notiktu.

Papildus tam, ka konferences vai noteikumi maina stimulu struktūras, vai ir citi mehānismi vai lietas, ko jūs varētu redzēt kā daļu no šīs ārējās pārraudzības sistēmas? Vai jūs redzat kādu lomu, ko sabiedrība varētu spēlēt tehnoloģiju uzņēmumu atbildībā?

Man par to vairāk jādomā. Es domāju, ka sabiedrība ir vairāk jāizglīto par tehnoloģiju uzņēmumu un arī AI lomu mūsu ikdienas dzīvē. Daudzi cilvēki ir paveikuši patiešām labu darbu. Cilvēki ir rakstījuši grāmatas - Matemātikas iznīcināšanas ieroči man bija ļoti laba grāmata lasīšanai. ir Kodēta novirze , dokumentālā filma. Esmu arī priecīgs, ka sāku redzēt, ka universitātes piedāvā dažas no šīm datorzinātņu nodarbībām. Es domāju, ka tie ir jāpieprasa. Nikija Vašingtona ir stunda pie Duke ko es vēlos, kaut būtu varējis paņemt. Ruha [Benjamins] ir stunda [Prinstonā] . Es domāju, ka mūsu izpratne par to, kā tiek attīstīta zinātne un kā tiek attīstīta inženierija, ir tikai jāmaina. Sabiedrībai ir jāsaprot šī darba politiskā būtība. Augstākās izglītības sistēmas, manuprāt, šādā veidā ļoti atpaliek. Viņiem ir jādara daudz darba.

Runājot par sabiedrību, es domāju, ka, ja es atgrieztos pirms trim, četriem gadiem, būtu daudz mazāka izpratne. Tagad tādas struktūras kā ACLU [Amerikas Pilsoņu brīvību savienība] ir ļoti iesaistītas; tev ir Algoritmiskā taisnīguma līga , Dati Black Lives , strādājot šeit daudz. Tāpēc es domāju, ka sabiedrība var uzzināt vairāk. Bet es domāju, ka tas vairāk attiecas uz politiķiem, jo ​​mums ir mehānisms, kā iesaistīt sabiedrību dažādās lietās. Taču politiķi nedod iespēju sabiedrībai iesaistīties. Piemēram, [datu analīzes uzņēmums] Palantir tika izmantots Ņūorleānā par paredzamo policijas darbu un neviens nezināja. Balsošanas nebija. Rēķina nebija. Nekādas diskusijas par to nebija. Tāpēc mūsu valdībai ir aktīvi jādod sabiedrībai iespēja izsvērt šāda veida jautājumus.

Ko nozīmē faktiski veikt jēgpilnu AI ētikas darbu?

Es domāju, ka varbūt tas nozīmē, ka varat apšaubīt AI pamatprincipus un pamatjautājumus. Jums nav vienkārši jāslēpj lietas, vai arī jums nav vienkārši jābūt reakcionāram. Jums var būt tālredzība par nākotni, un jūs varat saņemties agri, kamēr produkti tiek domāti un izstrādāti, nevis tikai darīt lietas pēc tam. Tā ir pirmā lieta, par ko es domāju. Un cilvēkiem, kurus tehnoloģija visvairāk ietekmējusi, vajadzētu būt ļoti lielam vārdam, sākot no paša sākuma.

Jūs jau iepriekš minējāt, ka tehnoloģiju uzņēmumu ētika bieži vien nāk no augšas uz leju, no cilvēkiem, kurus šī tehnoloģija ne vienmēr ietekmē. Kāds ir ideālais līdzsvars, ja sarunu virzītājspēks ir marginalizētas balsis, kā arī augstākā līmeņa līderu dalība?

Ja cilvēkiem, kas atrodas malā, nav varas, tad nevienam nav stimula viņus klausīties vai likt viņiem veidot diskusiju. Tāpēc es domāju, ka augstākajiem cilvēkiem ir jāveido vide, kurā cilvēki, kas atrodas malā, ir tie, kas veido diskusijas par šīm lietām, par AI ētiku, par daudzveidību un iekļaušanu.

Mūs māca, kad mēs objektīvi apgūstam zinātni, tā saukto skatu no nekurienes, it kā jums nebūtu jāsniedz savs viedoklis. Es domāju, ka cilvēkiem vajadzētu rīkoties tieši pretēji.

Tas nav tas, kas šobrīd notiek. Jūs atverat Google un redzat visus augsta līmeņa cilvēkus, kas ievēro AI ētiku — viņi absolūti nav cilvēki no nepietiekami pārstāvētām grupām. Tā bija saruna, kas mums bija, kad es tur biju, un daudzi no mums par to bija ļoti neapmierināti. Mums bija šie principi ar nosaukumu Nekas par mums bez mums, un pati pirmā lieta, ko mēs izdomājām, bija psiholoģiskā drošība. Vai varat iedomāties? Tas nozīmē, ka nesodi mani par izteikšanos, un tieši to viņi arī izdarīja. Tāpēc jums ir jāmeklē ievade, bet atkal nedariet to plēsonīgā veidā. Pirms jūs pat domājat par produktiem, ko veidojat, vai pētniecību, ko veicat, jums jāsāk iztēloties: kā jūs varat strādāt ar cilvēkiem no malas, lai veidotu šo tehnoloģiju?

Vai jūs savā ziņā redzat sevi kā mocekli?

Es necentos tāds būt, un es nedomāju, ka šobrīd esmu moceklis. Es ceru, ka esmu vairāk pārmaiņu aģents. Bet jā, Google mani padarīja par tādu, vairāk nekā es būtu bijis, ja viņi to nedarītu ar mani.

Kas jums būs tālāk?

Ak vecīt. Man nav bijis laika par to domāt. Šobrīd es burtiski cenšos pārliecināties, ka mana komanda ir drošībā, pārliecināties, ka stāstījums par to, kas ar mani notiek, ir precīzs, un nedaudz atvilkt elpu, kad varu. Cerams, ka iedzersi vīnu, paēdīsi, apēsi šokolādi, pavadi laiku kopā ar ģimeni. Un varbūt es to sapratīšu pēc tam. Taču mana lielākā prioritāte ir neatrasties tādā vidē, kādā biju. Tā ir mana lielākā prioritāte.

Kādi ieteikumi jums ir citiem cilvēkiem, kuri vēlas papildināt jūsu paveikto darbu?

Mans padoms ir izlasīt dažus no manis pieminētajiem darbiem, īpaši autoru Kleita [Benjamin] , Meredita [Brussard] , Safija [Noble] , Simona Brauna un daudzi citi cilvēki. Un iekļaujiet tajā savu pārdzīvoto pieredzi. Nemēģiniet sevi izņemt no šī darba. Tas ir ļoti saistīts ar jums. Tātad jūsu leņķis un spēks būs atkarīgs no jūsu pārdzīvotās pieredzes. Es sniedzu runu sauc Zināšanu un mašīnmācīšanās hierarhija , un tas bija apmēram par to: kā mums tiek mācīts, kad mēs objektīvi apgūstam zinātni, ko sauc par skatu no nekurienes, it kā jums nebūtu jāsniedz savs viedoklis. Es domāju, ka cilvēkiem vajadzētu rīkoties tieši pretēji.

Atjauninājums: mēs precizējām Samy Bengio amata nosaukumu un izlabojām atsauci uz pētnieku. Timnits atsaucās uz MSR vecāko galveno pētnieku Dženu Vortmenu Vonu, nevis Dženu Čeisu, tā paša uzņēmuma bijušo direktoru.