Mēs lasījām rakstu, kas lika Timnitam Gebru atteikties no Google. Lūk, kas tajā teikts.

Uzņēmuma zvaigznes ētikas pētnieks uzsvēra lielo valodu modeļu riskus, kas ir Google biznesa atslēga.





  • Kārena Hao arhīva lapa
2020. gada 4. decembris Timnits Gebru

pieklājīgi Timnit Gebru

Trešdienas, 2. decembra, vakarā Timnits Gebru, Google ētiskā AI komandas vadītājs, paziņoja caur Twitter ka uzņēmums viņu bija izspiedis.

Gebru, plaši cienīts AI ētikas pētījumu vadītājs, ir pazīstams ar līdzautoriem revolucionārs papīrs kas parādīja, ka sejas atpazīšana ir mazāk precīza, lai identificētu sievietes un krāsainus cilvēkus, kas nozīmē, ka tās izmantošana var beigties ar viņu diskrimināciju. Viņa arī bija līdzdibinātāja grupai Black in AI, un cīnās par dažādību tehnoloģiju nozarē . Komanda, kuru viņa palīdzēja izveidot uzņēmumā Google, ir viena no daudzveidīgākajām mākslīgā intelekta jomā, un tajā ietilpst daudzi vadošie eksperti. Jomas vienaudži to apskauda par kritisku darbu, kas bieži vien bija izaicinājums vispārējai AI praksei.



UZ tvītu sērija , nopludināti e-pasti , un mediju raksts parādīja, ka Gebru aiziešana bija kulminācija konfliktam par citu viņa līdzautorei veltītu rakstu. Džefs Dīns, Google AI vadītājs, pastāstīja kolēģiem iekšējā e-pastā (kas viņam ir kopš ievietot tiešsaistē ), ka avīze neatbilst mūsu prasībām publicēšanai un ka Gebru bija teikusi, ka atkāpsies no amata, ja vien Google neizpildīs vairākus nosacījumus, kurus tā nevēlējās izpildīt. Gebru tvītoja to viņa bija lūgusi vienoties par pēdējo darba datumu pēc tam, kad viņa atgriezās no atvaļinājuma. Pirms atgriešanās viņai tika atvienots korporatīvais e-pasta konts.

Tiešsaistē daudzi citi AI ētikas jomas līderi apgalvo, ka uzņēmums viņu atgrūda neērto patiesību dēļ, ko viņa atklāja par sava pētījuma pamatvirzienu un, iespējams, arī tā būtību. Ir arī vairāk nekā 1400 Google darbinieku un 1900 citu atbalstītāju parakstīja protesta vēstuli .

Daudzas detaļas par precīzu notikumu secību, kas noveda pie Gebru aiziešanas, vēl nav skaidras; gan viņa, gan Google ir atteikušās komentēt, izņemot savus ierakstus sociālajos medijos. Bet MIT Technology Review ieguva pētījuma kopiju no viena no līdzautoriem Emīlijas M. Benderes, Vašingtonas universitātes skaitļošanas lingvistikas profesores. Lai gan Benders lūdza mūs nepublicēt pašu rakstu, jo autori nevēlējās, lai tik agrīns melnraksts tiktu izplatīts tiešsaistē, tas sniedz ieskatu Gebru un viņas kolēģu uzdotajos jautājumos par AI, kas varētu radīt Google bažas.



Par stohastisko papagaiļu briesmām: vai valodu modeļi var būt pārāk lieli? izklāsta riskus, kas saistīti ar lieliem valodu modeļiem — AI, kas apmācīti satriecoši daudz teksta datu. Šie ir izauguši arvien populārāks -un arvien lielāka - pēdējo trīs gadu laikā. Tagad viņi, ievērojot pareizos apstākļus, ir ārkārtīgi labi, lai radītu to, kas izskatās pēc pārliecinoša, jēgpilna jauna teksta, un dažreiz arī novērtēt nozīmi no valodas. Taču, teikts raksta ievadā, mēs jautājam, vai ir pietiekami padomāts par iespējamiem riskiem, kas saistīti ar to izstrādi, un šo risku mazināšanas stratēģijām.

Papīrs

Rakstā, kas balstīts uz citu pētnieku darbu, ir izklāstīta dabiskās valodas apstrādes vēsture, pārskats par četriem galvenajiem lielo valodu modeļu riskiem un ieteikumi turpmākiem pētījumiem. Tā kā šķiet, ka konflikts ar Google ir saistīts ar riskiem, mēs esam koncentrējušies uz to apkopošanu šeit.

Vides un finanšu izmaksas

Lielu AI modeļu apmācība patērē daudz datora apstrādes jaudas un līdz ar to arī daudz elektrības. Gebru un viņas līdzautori atsaucas uz Emmas Strubellas un viņas līdzstrādnieku 2019. gada rakstu. oglekļa emisijas un finanšu izmaksas lieliem valodu modeļiem. Tajā tika konstatēts, ka to enerģijas patēriņš un oglekļa pēdas nospiedums kopš 2017. gada ir strauji pieaudzis, jo modeļiem tiek ievadīti arvien vairāk datu.



Štrubela pētījums atklāja, ka vienas valodas modeļa apmācība ar noteikta veida neironu arhitektūras meklēšanas (NAS) metodi būtu radījusi 626 155 mārciņas (284 metriskās tonnas) oglekļa dioksīda — aptuveni piecu vidējo amerikāņu automašīnu kalpošanas laikā. Google valodas modeļa BERT versijas apmācība, kas ir pamatā uzņēmuma meklētājprogrammu , saražoja 1438 mārciņas CO2 ekvivalenta pēc Strubel aplēsēm — gandrīz tikpat, cik lidojums turp un atpakaļ no Ņujorkas uz Sanfrancisko. Šie skaitļi ir jāuzskata par minimālajiem, izmaksas par modeļa apmācību vienreiz. Praksē modeļi pētniecības un izstrādes gaitā tiek apmācīti un pārkvalificēti daudzkārt.

Gebru dokumenta projektā ir norādīts, ka milzīgie resursi, kas nepieciešami, lai izveidotu un uzturētu šādus lielus AI modeļus, nozīmē, ka tie dod labumu bagātām organizācijām, savukārt klimata pārmaiņas vissmagāk skar marginalizētās kopienas. Pētniekiem ir pienācis laiks noteikt prioritāti energoefektivitātei un izmaksām, lai samazinātu negatīvo ietekmi uz vidi un nevienlīdzīgu piekļuvi resursiem, viņi raksta.

Milzīgi dati, neizdibināmi modeļi

Lieli valodu modeļi tiek apmācīti arī eksponenciāli pieaugošam teksta apjomam. Tas nozīmē, ka pētnieki ir mēģinājuši savākt visus iespējamos datus no interneta, tāpēc pastāv risks, ka apmācības datos nonāks rasistiska, seksistiska un citādi aizskaroša valoda.



AI modelis, kas mācīts rasistisku valodu uztvert kā normālu, acīmredzami ir slikts. Tomēr pētnieki norāda uz pāris smalkākām problēmām. Viens no tiem ir tas, ka pārmaiņām valodā ir svarīga loma sociālajās pārmaiņās; Kustības MeToo un Black Lives Matter, piemēram, ir mēģinājušas izveidot jaunu antiseksisma un antirasisma vārdu krājumu. AI modelis, kas apmācīts plašos interneta apgabalos, netiks pielāgots šīs vārdu krājuma niansēm un neveidos un neinterpretēs valodu saskaņā ar šīm jaunajām kultūras normām.

Tas arī nespēs uztvert valodu un normas valstīs un tautās, kurām ir mazāka piekļuve internetam un tādējādi mazāka lingvistiskā pēda tiešsaistē. Rezultātā mākslīgā intelekta radītā valoda tiks homogenizēta, atspoguļojot bagātāko valstu un kopienu praksi.

Turklāt, tā kā apmācības datu kopas ir tik lielas, ir grūti tās pārbaudīt, lai pārbaudītu, vai nav šīs iegultās novirzes. Pētnieki secina, ka metodoloģija, kas balstās uz datu kopām, kas ir pārāk lielas, lai dokumentētu, ir pēc būtības riskanta. Lai gan dokumentācija pieļauj potenciālu atbildību, [...] nedokumentēti apmācības dati saglabā kaitējumu bez regresa.

Pētījuma iespējas izmaksas

Pētnieki apkopo trešo izaicinājumu kā nepareizas pētniecības risku. Lai gan lielākā daļa AI pētnieku atzīst, ka lielie valodu modeļi patiesībā nevajag saprast valodu un ir vienkārši izcili manipulējot tā Big Tech var pelnīt naudu no modeļiem, kas precīzāk manipulē ar valodu, tāpēc tā turpina tajos ieguldīt. Šie pētniecības centieni rada alternatīvas izmaksas, raksta Gebru un viņas kolēģi. Netiek daudz pūļu, strādājot pie AI modeļiem, kas varētu panākt izpratni vai sasniegt labus rezultātus ar mazākām, rūpīgāk atlasītām datu kopām (un tādējādi arī patērē mazāk enerģijas).

Jēgas ilūzijas

Pēdējā problēma ar lielajiem valodu modeļiem, pēc pētnieku domām, ir tāda, ka, tā kā tie tik labi atdarina īstu cilvēku valodu, tos ir viegli izmantot, lai apmānītu cilvēkus. Ir bijuši daži skaļi gadījumi, piemēram, koledžas students kurš emuārā izplatīja AI radītus pašpalīdzības un produktivitātes padomus, kas kļuva plaši izplatīts.

Briesmas ir acīmredzamas: AI modeļus var izmantot, lai, piemēram, radītu dezinformāciju par vēlēšanām vai Covid-19 pandēmiju. Tie var arī nejauši kļūdīties, ja tos izmanto mašīntulkošanai. Pētnieki min piemēru: 2017. gadā Facebook nepareizi tulkots Palestīnas vīrieša posts, kurā arābu valodā bija rakstīts labrīt, kā uzbrukums viņiem ebreju valodā, kā rezultātā viņu arestēja.

Kāpēc tas ir svarīgi

Gebru un Bendera darbam ir seši līdzautori, no kuriem četri ir Google pētnieki. Benders lūdza neatklāt viņu vārdus, baidoties no sekām. (Turpretim Benders ir profesors: es domāju, ka tas uzsver akadēmiskās brīvības vērtību, viņa saka.)

Benders saka, ka darba mērķis bija izpētīt pašreizējo dabisko valodu apstrādes pētījumu ainavu. Mēs strādājam tādā mērogā, ka cilvēki, kas būvē lietas, faktiski nevar iegūt rokās datus, viņa sacīja. Un, tā kā pozitīvās puses ir tik acīmredzamas, ir īpaši svarīgi atkāpties un pajautāt sev, kādi ir iespējamie trūkumi? … Kā mēs varam gūt labumu no tā, vienlaikus mazinot risku?

Savā iekšējā e-pastā Dīns, Google AI vadītājs, teica, ka viens no iemesliem, kāpēc papīrs neatbilst mūsu prasībām, bija tas, ka tas ignorēja pārāk daudz atbilstošu pētījumu. Konkrētāk, viņš teica, ka tajā nav minēts jaunāks darbs par to, kā padarīt lielus valodu modeļus energoefektīvākus un mazināt neobjektivitātes problēmas.

Tomēr seši līdzstrādnieki izmantoja plašu stipendiju klāstu. Raksta citātu saraksts ar 128 atsaucēm ir īpaši garš. Tas ir tāds darbs, ko nevar paveikt neviens indivīds vai pat autoru pāris, sacīja Benders. Tas tiešām prasīja šo sadarbību.

Raksta versija, ko mēs redzējām, liecina arī par vairākiem pētījumu centieniem samazināt lielu valodu modeļu izmērus un skaitļošanas izmaksas, kā arī izmērīt modeļu iegultās novirzes. Tomēr tā apgalvo, ka šie centieni nav bijuši pietiekami. Es esmu ļoti atvērts, lai redzētu, kādas citas atsauces mums būtu jāiekļauj, sacīja Benders.

Nicolas Le Roux, Google AI pētnieks Monreālas birojā, vēlāk atzīmēja Twitter ka pamatojums Dīna e-pastā bija neparasts. Viņš teica, ka mani iesniegumi vienmēr tika pārbaudīti, lai atklātu sensitīvu materiālu, nevis literatūras apskata kvalitāti.

Dīna e-pastā arī teikts, ka Gebru un viņas kolēģi deva Google AI tikai vienu dienu darba iekšējai pārskatīšanai, pirms viņi to iesniedza konferencē publicēšanai. Viņš rakstīja, ka mūsu mērķis ir konkurēt ar recenzētiem žurnāliem stingrības un pārdomātības ziņā, kā mēs pārskatām pētījumus pirms publicēšanas.

Benders atzīmēja, ka pat tādā gadījumā konference tik un tā izskatīs dokumentu: Stipendija vienmēr ir saruna un vienmēr notiekošs darbs, viņa sacīja.

Citiem, tostarp Viljamam Ficdžeraldam, bijušajam Google PR menedžerim, ir vēl vairāk radīja šaubas par Dīna prasību.

Google bija aizsācējs lielai daļai fundamentālo pētījumu, kas kopš tā laika ir novedis pie nesenā lielo valodu modeļu eksplozijas. Google AI bija pirmais, kas izgudroja Transformatora valodas modelis 2017. gadā, kas kalpo par pamatu uzņēmuma vēlākajam modelim BERT un OpenAI GPT-2 un GPT-3. BERT, kā minēts iepriekš, tagad nodrošina arī Google meklēšanu, uzņēmuma naudas govi.

Benders pauž bažas, ka Google darbības varētu radīt vēsu ietekmi uz turpmāko AI ētikas izpēti. Daudzi no labākajiem AI ētikas ekspertiem strādā lielos tehnoloģiju uzņēmumos, jo tur ir nauda. Viņa saka, ka tas ir bijis izdevīgi daudzos veidos. Bet mēs galu galā iegūstam ekosistēmu, kurai, iespējams, ir stimuli, kas nav tie labākie pasaules zinātnes progresam.

Atjauninājums (7. decembris): Ir pievienota papildu informācija, lai precizētu lielu valodu modeļu vides izmaksas.

paslēpties