Vadošā AI ētikas pētniece saka, ka viņa ir atlaista no Google

Timnits Gebru

Kimberlija Vaita / Stringere





2. decembrī mākslīgā intelekta pētnieku kopiena bija šokēta, uzzinot, ka Timnita Gebru ir atlaista no amata Google. Gebru, viena no vadošajām balsīm atbildīgajā AI pētniecībā, cita starpā ir pazīstama ar to, ka ir līdzautors revolucionāram darbam, kas atklāja sejas atpazīšanas diskriminējošs raksturs , līdzdibinātājs Black in AI afinitātes grupai un nerimstoši iestājas par daudzveidību tehnoloģiju nozarē .

Taču trešdienas vakarā viņa paziņoja vietnē Twitter ka viņa tika atstādināta no Google ētiskās AI līdzvadītājas amata. Acīmredzot mana vadītāja menedžere nosūtīja e-pastu [uz] maniem tiešajiem ziņojumiem, sakot, ka viņa pieņēma manu atkāpšanos. Es nebiju atkāpusies, viņa teica.

In intervija ar Bloomberg ceturtdien Gebru sacīja, ka atlaišana notikusi pēc ilgstošas ​​cīņas ar viņas priekšniekiem par mākslīgā intelekta ētikas izpētes darba publicēšanu. Viens no Gebru tvītiem un vēlāk iekšējais e-pasts Džefs Dīns, Google AI vadītājs, liecina, ka raksts bija kritisks vides izmaksas un lielu valodu modeļu iegultās novirzes.



Gebru, kurš bija uzrakstījis darbu kopā ar četriem Google kolēģiem un diviem ārējiem līdzstrādniekiem, bija iesniedzis to pētniecības konferencē, kas notiks nākamajā gadā. Pēc iekšējās pārskatīšanas viņai tika lūgts atsaukt dokumentu vai noņemt Google darbinieku vārdus. Viņa atbildēja, ka viņa to darītu, ja viņas priekšnieki izpildīs vairākus nosacījumus. Ja viņi nevarētu, viņa to darītu strādāt pēdējā datumā , viņa teica.

Viņa arī nosūtīja a neapmierināts e-pasts iekšējam saraksta serverim Google Brain Women and Allies, detalizēti aprakstot atkārtotās grūtības, ar kurām viņa bija piedzīvojusi kā melnādaino sieviešu dzimuma pētniece. Mēs tikko veicām Black izpēti ar tik emocionālu sašutumu, viņa rakstīja. Vai jūs zināt, kas noticis kopš tā laika? Apklusināšana pēc iespējas pamatīgākā veidā.

Pēc tam Gebru devās atvaļinājumā un pirms atgriešanās saņēma e-pasta ziņojumu no Google Research inženierzinātņu viceprezidentes Meganas Kacholijas. Paldies, ka izskaidrojāt savus nosacījumus! norādīts e-pastā , kā tviterī ierakstījis Gebru. Mēs nevaram piekrist #1 un #2, kā jūs pieprasāt. Mēs cienām jūsu lēmumu pamest Google, un mēs pieņemam jūsu atkāpšanos. Viņas e-pasts uz listserv bija pretrunā ar Google menedžera cerībām, tas turpinājās. Rezultātā mēs nekavējoties pieņemam jūsu atlūgumu, kas stājas spēkā šodien.

Ceturtdienas rītā pēc Gebru atbalsta izplatības sociālajos tīklos Dīns nosūtīja vēstuli iekšējais e-pasts Google AI grupai ar savu situāciju. Viņš teica, ka Gebru darbs neatbilst mūsu publicēšanas prasībām, jo ​​tajā tika ignorēts pārāk daudz atbilstošu pētījumu. Viņš arī teica, ka Gebru nosacījumi ietvēra katras personas identitātes atklāšanu, ar kuru mēs ar Meganu bijām runājuši un konsultējušies, pārskatot darbu un sniedzot precīzas atsauksmes.



Viņš rakstīja, ka, ņemot vērā Timnitas kā cienīta pētnieka un vadītāja lomu mūsu ētiskā AI komandā, es jūtos slikti, ka Timnita ir nonākusi vietā, kur viņa tā jūtas pret mūsu darbu. Es zinu, ka mēs visi patiesi piekrītam Timnitam, lai padarītu mākslīgo intelektu vienlīdzīgāku un iekļaujošāku.

Ne Gebru, ne Dean, ne Google sakari neatbildēja uz komentāru pieprasījumiem, un daudzas detaļas par precīzu notikumu gaitu vai darbības pārtraukšanas iemeslu joprojām nav skaidras. Tā kā tie turpina parādīties, daudzi ir pievērsuši jaunu uzmanību 30. novembra tvīts ko Gebru piesprauda sava profila augšdaļā. Vai kāds strādā pie regulējuma, kas aizsargā ētiskos mākslīgā intelekta pētniekus, līdzīgi kā trauksmes cēlēju aizsardzība? tas skan. Jo, ņemot vērā cenzūras un iebiedēšanas apjomu, kas notiek pret cilvēkiem noteiktās grupās, kā kāds var uzticēties tam, ka var notikt reāls pētījums šajā jomā?

paslēpties