Kongress vēlas saņemt atbildes no Google par Timnit Gebru atlaišanu

Iveta Klārka

Pārstāve Iveta Klārka AP foto/Kathy Willens





Deviņi ASV Kongresa locekļi ir nosūtījuši uzņēmumam Google vēstuli, aicinot precizēt apstākļus, kas saistīti ar tās bijušā ētiskā AI vadītāja Timnita Gebru piespiedu aiziešanu. Pārstāves Ivetas Klārkas un senatora Rona Vaidena vadībā, kā arī senatoru Elizabetes Vorenas un Korija Bukera līdzparakstīšanu. vēstule sūta svarīgu signālu par to, kā Kongress rūpīgi pārbauda tehnoloģiju gigantus un domā par gaidāmo regulējumu.

Gebru, vadošā balss mākslīgā intelekta ētikas jomā un viena no nedaudzajām melnādainajām sievietēm Google uzņēmumā, bija bez ceremonijām atlaista pirms divām nedēļām pēc ieilgušām domstarpībām par pētniecisko darbu. Papīrs sīki izklāstīja lielu AI valodu modeļu riskus ir apmācīts par milzīgu teksta datu apjomu, kas ir Google pētījumu pamatvirzieni, kas nodrošina dažādu produktu darbību, tostarp ienesīgo Google meklēšanu.



Atsaucoties uz MIT Technology Review, vēstule izvirza trīs problēmas: iespējamo neobjektivitāti lielos valodu modeļos, pieaugošo korporatīvo ietekmi uz AI izpēti un Google daudzveidības trūkumu. Tā lūdz Google izpilddirektoram Sundaram Pichai izstrādāt konkrētu plānu, kā tas risinās katru no tiem, kā arī pašreizējo politiku attiecībā uz pētījumu pārskatīšanu un sīkāku informāciju par notiekošo izmeklēšanu par Gebru aiziešanu (Pičajs apņēmās veikt šo izmeklēšanu iekšēja piezīme , pirmo reizi publicēja Axios). Tā kā Kongresa locekļi aktīvi cenšas uzlabot mākslīgā intelekta izpēti, atbildību un dažādību, izmantojot tiesību aktus un pārraudzību, mēs ar cieņu lūdzam jūsu pieprasījumu veikt tālāk norādītos jautājumus, teikts vēstulē.

2019. gada aprīlī Klārks un Vaidens iesniedza likumprojektu Algoritmiskās atbildības likums , kas liktu lielajiem uzņēmumiem pārbaudīt savas mašīnmācīšanās sistēmas, lai noteiktu neobjektivitāti, un savlaicīgi veikt korektīvus pasākumus, ja šādas problēmas tiktu atklātas. Tas arī prasītu šiem uzņēmumiem pārbaudīt visus procesus, kas saistīti ar sensitīviem datiem, tostarp personu identificējošu, biometrisko un ģenētisko informāciju, lai noteiktu privātuma un drošības riskus. Toreiz daudzi juridiskie un tehnoloģiju eksperti uzteica likumprojektu par niansēto AI un datu vadītu tehnoloģiju izpratni. Lielisks pirmais solis, rakstīja Endrjū Selbsts, Kalifornijas Universitātes Losandželosas Juridiskās skolas docents, vietnē Twitter. Būtu nepieciešama dokumentācija, novērtējums un mēģinājumi risināt paredzētās ietekmes. Tas ir jauns, aizraujošs un neticami nepieciešams.

Saistīts stāsts

Mēs lasījām rakstu, kas lika Timnitam Gebru atteikties no Google. Lūk, kas tajā teikts.

Uzņēmuma zvaigznes ētikas pētnieks uzsvēra lielo valodu modeļu riskus, kas ir Google biznesa atslēga.



Jaunākā vēstule nav tieši saistīta ar Algoritmiskās atbildības likumu, taču tā ir daļa no tā paša dažu Kongresa locekļu rīcības, lai izstrādātu tiesību aktus, kas mazinātu AI aizspriedumus un citus uz datiem balstītu, automatizētu sistēmu radīto kaitējumu. Konkrēti, tas rodas, palielinoties spiedienam pretmonopola regulējumam. Šā mēneša sākumā ASV Federālā tirdzniecības komisija iesniedza pretmonopola prasību tiesā pret Facebook par tā pret konkurenci vērsto rīcību un negodīgām konkurences metodēm. Vasarā Pārstāvju palātas demokrāti publicēja 449 lappušu garu ziņojumu par Big Tech monopolistisko praksi.

Vēstule nāk arī pieaugošās ģeopolitiskās spriedzes kontekstā. Tā kā ASV un Ķīnas attiecības pandēmijas laikā ir sasniegušas visu laiku zemāko līmeni, ASV amatpersonas ir uzsvērušas tādu jauno tehnoloģiju kā AI un 5G stratēģisko nozīmi. Vēstulē arī tiek izcelta šī dimensija, atzīstot Google vadošo lomu mākslīgā intelekta jomā un tās lomu ASV līdera saglabāšanā. Taču tas skaidri norāda, ka tas nedrīkst mazināt regulatīvo darbību, kas ir arguments popularizējis Facebook izpilddirektors Marks Cukerbergs . Lai nodrošinātu, ka Amerika uzvar AI sacīkstēs, vēstulē teikts, ka amerikāņu tehnoloģiju uzņēmumiem ir ne tikai jāvadās pasaulē inovāciju jomā; tām ir arī jānodrošina, lai šāda inovācija atspoguļotu mūsu tautas vērtības.

Mūsu vēstulei vajadzētu likt ikvienam tehnoloģiju sektoram, ne tikai uzņēmumam Google, pamanīt, ka mēs pievēršam uzmanību, teikts Klārka paziņojumā MIT Technology Review. Ētiskais AI ir cīņas lauks par pilsoņu tiesību nākotni. Mūsu bažas par nesenajiem notikumiem nav saistītas tikai ar vienu personu; tie ir par to, kā izskatīsies 21. gadsimts, ja akadēmiskā brīvība un iekļaušana atkāpsies no citām prioritātēm. Mēs nevaram mazināt algoritmisko neobjektivitāti, ja traucējam tiem, kas cenšas to izpētīt un pētīt.



paslēpties