AI pētnieki saka, ka zinātniskie izdevēji palīdz iemūžināt rasistiskus algoritmus

Kategorija: Mākslīgais intelekts Ievietots 23. jūnijs

Ziņas: An atklāta vēstule no augošās mākslīgā intelekta pētnieku koalīcijas aicina zinātnisko izdevēju Springer Nature sagatavot konferences rakstu, ko tas plāno iekļaut savā gaidāmajā grāmatā. Darījumi par skaitļošanas zinātni un skaitļošanas inteliģenci . Rakstā ar nosaukumu Dziļa neironu tīkla modelis noziedzības prognozēšanai, izmantojot attēlu apstrādi, ir parādīta sejas atpazīšanas sistēma, kas, domājams, spēj paredzēt, vai kāds ir noziedznieks. oriģinālais paziņojums presei . To izstrādāja Harisburgas universitātes pētnieki, un to bija paredzēts prezentēt nākamajā konferencē.

Prasības: Citējot vadošā Black AI darbu zinātnieki vēstule atmasko darba zinātnisko pamatojumu un apgalvo, ka noziedzības prognozēšanas tehnoloģijas ir rasistiskas. Tajā arī uzskaitītas trīs prasības: 1) Springer Nature atsaukt savu piedāvājumu publicēt pētījumu; 2) lai tā izdotu paziņojumu, nosodot statistikas metožu, piemēram, mašīnmācīšanās, izmantošanu, lai prognozētu noziedzību, un atzīstot tās lomu šādas pētniecības stimulēšanā; un 3) visiem zinātniskajiem izdevējiem apņemties turpmāk nepublicēt līdzīgus rakstus. Vēstuli, kas pirmdien tika nosūtīta Springer Nature, sākotnēji uzrakstīja pieci pētnieki no MIT, Renselāras Politehniskā institūta, Makgila universitātes un AI tagad institūta. Dažu dienu laikā tas ieguva vairāk nekā 600 parakstu un skaitīšanu visās AI ētikas un akadēmiskajās kopienās, tostarp no vadošajām personām, piemēram, Mereditas Vitekera, AI Now institūta līdzdibinātāja un Ītans Cukermans, bijušais Pilsonisko mediju centra direktors. MIT Media Lab.

Kāpēc tas ir svarīgi: Lai gan vēstulē ir izcelts konkrēts raksts, autoru mērķis ir parādīt sistemātisku problēmu ar to, kā zinātniskā publikācija mudina pētniekus turpināt neētiskas normas. Tāpēc mēs atkal un atkal redzam, ka rasu zinātne parādās, sacīja Čelsija Barabasa, MIT doktorante un viena no vēstules līdzautorēm. Tas ir tāpēc, ka izdevēji to publicē. Šī Springera darba patiesā nozīme ir tā, ka tas nav unikāls, piebalsoja Teodora Dryer, AI Now pēcdoktorantūras pētniece un cits līdzautors. Tas simbolizē problēmu un kritiku, kas ir bijusi tik, tik ilgi.

Springera atbilde: Atbildot uz vēstuli, Springers sacīja, ka laikrakstu nepublicēs. Dokuments, uz kuru jūs atsaucāties, tika iesniegts gaidāmajai konferencei, kuras materiālus Springers bija plānojis publicēt, teikts tajā. Pēc rūpīgas salīdzinošās pārskatīšanas process darbs tika noraidīts. Arī Harisburgas universitāte noņēma savu paziņojumu presei , norādot, ka mācībspēki atjaunina dokumentu, lai novērstu paustās bažas. Harisburgas universitāte un raksta līdzautors noraidīja komentāru pieprasījumu, kā arī pieprasījumu pēc oriģinālā raksta kopijas. Vēstules parakstītāji paziņoja, ka turpinās uzstāt, lai tiktu izpildīta viņu otrā un trešā prasība.

Lielāka bilde: Kopš Džordža Floida nāves izraisīja starptautisku kustību par rasu taisnīgumu, mākslīgā intelekta joma un tehnoloģiju nozare kopumā ir saskārusies ar izrēķināšanos par lomu strukturālā rasisma stiprināšanā. Piemēram, 8. jūnija nedēļā IBM, Microsoft un Amazon paziņoja par savu sejas atpazīšanas produktu darbības pārtraukšanu vai daļēju apturēšanu. Gājiens bija kulminācija divus gadus aizstāvības no pētniekiem un aktīvistiem, lai parādītu saikni starp šīm tehnoloģijām un mazākumtautību kopienu pārmērīgu kontroli. Atklātā vēstule ir jaunākais notikums šajā kustībā uz lielāku ētisko atbildību AI.

Mēs patiešām vēlējāmies dot savu ieguldījumu šajā augošajā kustībā, sacīja Makgila universitātes Mediju, tehnoloģiju un demokrātijas centra pētniecības direktore Sonja Solomun. Īpaši tad, kad skatāmies ārpus mūsu logiem un redzam, kas šobrīd notiek ASV un visā pasaulē, likmes ir tik augstas.

Atjaunināt: Pēc publicēšanas Springer Nature izdeva paziņojumu, kurā paskaidroja, ka “[raksts] nekad netika pieņemts publicēšanai... Sērijas redaktora lēmums noraidīt galīgo rakstu tika pieņemts otrdien, 16. jūnijā, un oficiāli tika paziņots autoriem pirmdien, 22. Jūnijs.'