Mēs esam daudzveidības krīzē: Black in AI līdzdibinātājs par mūsu dzīves saindēšanās algoritmiem

Timnita Gebru aplūko AI pasauli un neredz gandrīz nevienu, kas līdzinātos viņai. Tā ir problēma mums visiem. Autors

• Džekijs Snovs arhīva lapa

2018. gada 14. februāris

pieklājīgi no timnit brug

Mākslīgais intelekts kļūst arvien vienmērīgāka mūsu ikdienas dzīves sastāvdaļa, un tas ir pieejams visās jomās, sākot no tīmekļa meklēšanas līdz sociālajiem saziņas līdzekļiem un beidzot ar mājas palīgiem, piemēram, Alexa. Bet ko mēs darām, ja šī ārkārtīgi svarīgā tehnoloģija ir netīši, bet būtībā neobjektīva? Un ko mēs darām, ja šajā ļoti svarīgajā jomā nav gandrīz neviena melnādaino pētnieku? Timnits Gebru šos jautājumus risina kā daļu no Microsoft godīguma, atbildības, pārredzamības un ētikas AI grupā, kurai viņa pievienojās pagājušajā vasarā. Viņa arī bija līdzdibinātāja pasākumam Black in AI Neironu informācijas apstrādes sistēmu (NIPS) konferencē 2017. gadā un bija pirmās godīguma un pārredzamības konferences vadības komitejā februārī. Viņa runāja ar MIT tehnoloģiju apskats par to, kā neobjektivitāte nonāk AI sistēmās un kā dažādība var to novērst.

Kā daudzveidības trūkums izkropļo mākslīgo intelektu un jo īpaši datora redzi?

Šis stāsts bija daļa no mūsu 2018. gada marta numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Es par to varu runāt veselu gadu. Pastāv neobjektivitāte attiecībā uz to, kādas problēmas, mūsuprāt, ir svarīgas, kādus pētījumus mēs uzskatām par svarīgiem un kur, mūsuprāt, AI vajadzētu virzīties. Ja mūsu pētnieku lokā nebūs daudzveidības, mēs nerisināsim problēmas, ar kurām saskaras lielākā daļa pasaules cilvēku. Ja problēmas mūs neskar, mēs nedomājam, ka tās ir tik svarīgas, un mēs, iespējams, pat nezinām, kas tās ir, jo mēs nesadarbojamies ar cilvēkiem, kuri ar tām saskaras.

Kad es sāku lietot Black in AI, es to sāku ar pāris saviem draugiem. Pirms tam man bija neliels adresātu saraksts, kurā es burtiski pievienoju adresātu sarakstam jebkuru melnādainu cilvēku, kuru redzēju šajā jomā, un saku: “Sveiki, es esmu Timnits. Es esmu melnādainais cilvēks numur divi. Sveiki, melnādainais numur viens. Būsim draugi.'

Vai ir veidi, kā novērst neobjektivitāti sistēmās?

Iemesls, kāpēc mākslīgā intelekta daudzveidība ir ļoti svarīga ne tikai datu kopās, bet arī pētniekiem, ir tas, ka jums ir nepieciešami cilvēki, kuriem ir šī sociālā izpratne par to, kā viss ir. Mēs esam AI daudzveidības krīzē. Papildus tehniskām sarunām, sarunām par likumu, sarunām par ētiku mums ir jārisina sarunas par AI daudzveidību. Mums ir vajadzīga visa veida AI dažādība. Un tas ir jāuztver kā kaut kas ārkārtīgi steidzams.

No tehniskā viedokļa ir daudz dažādu pieeju. Viens no tiem ir datu kopas dažādošana un daudz dažādu datu kopas anotāciju, piemēram, rases, dzimuma un vecuma. Kad esat apmācījis modeli, varat to pārbaudīt un redzēt, cik labi tas darbojas visās šajās dažādajās apakšgrupās. Bet pat pēc tam, kad esat to izdarījis, jūsu datu kopā noteikti būs kāda veida novirze. Jums nevar būt datu kopas, kas lieliski atspoguļo visu pasauli.

Mani ļoti aizrauj un šobrīd strādāju pie tā, lai izdomātu, kā mudināt uzņēmumus sniegt vairāk informācijas lietotājiem vai pat pētniekiem. Viņiem vajadzētu būt ieteiktam lietojumam, nepilnībām, datu kopas neobjektīvai u.c. Lai, kad esmu jaunizveidots uzņēmums un es tikai paņemu jūsu gatavu datu kopu vai gatavu modeli un Iekļaujot to savā darbībā, vismaz man ir zināmas zināšanas par to, kādas var būt nepilnības. Šobrīd mēs atrodamies vietā, kas ir gandrīz kā Mežonīgie Rietumi, kur mums īsti nav daudz standartu [par] datu kopu izlikšanai.

Un tad ir tikai dažas lietas, kurām, iespējams, šobrīd nevajadzētu izmantot mašīnmācīšanos, un mums nav skaidru vadlīniju par to, kas tās ir. Jāsaka, ka, ja šim konkrētajam uzdevumam izmantosit mašīnmācīšanos, modeļa precizitātei jābūt vismaz X, un tai šajā konkrētajā ziņā jābūt godīgai. Arī tam mums nav nekādu vadlīniju. AI tikai tagad sāk kļūt par plaši izplatītu produktu, visur, tāpēc mēs esam nonākuši pie krasas, kur mums patiešām ir vajadzīga kāda veida saruna par standartizāciju un izmantošanu.

IZMANTOTA TIMTNITA ATKLĀJĪBA

Kāda ir bijusi jūsu darba motivācija ar Google ielas attēlu un citiem demogrāfiskajiem pētījumiem?

Laikā, kad mēs sākām šo projektu, tika veikts ļoti maz darba, lai mēģinātu analizēt kultūru, izmantojot attēlus. Taču mēs zinām, ka tiešsaistē lielākā daļa mūsu datu ir attēlu veidā. Viena no mūsu motivācijām bija parādīt, ka jūs varat veikt sociālo analīzi, izmantojot attēlus.

Tas varētu būt ļoti noderīgi gadījumos, kad ir ļoti grūti iegūt uz aptauju balstītus datus. Pasaulē ir vietas, kur nav infrastruktūras un nav resursu, lai sūtītu cilvēkus no durvīm līdz durvīm un vāktu [skaitīšanas] datus, [bet kur] būtu izpratne par dažāda veida iedzīvotājiem, kas dzīvo jūsu valstī. esi ļoti izpalīdzīgs.

Bet atkal, tas ir tieši tas, kas man arī radīja vēlmi studēt godīgumu. Jo, ja es turpināšu veikt šo darbu, man patiešām ir labāk jāsaprot iespējamās negatīvās sekas. Kādas ir sekas novērošanai? Kā arī, kādas ir datu kopas novirzes sekas? Jebkurā datu ieguves projektā jums būs neobjektivitāte. Tāpēc mans darba virziens tur patiešām lika man vēlēties kādu laiku pavadīt godīguma sabiedrībā, lai saprastu, kur varētu būt nepilnības.

Kādus jautājumus jūs cerat risināt šajā pirmajā godīguma un pārredzamības konferencē?

Šī patiešām ir pirmā konference, kurā tiek risināti AI godīguma, pārskatatbildības, ētikas un pārredzamības jautājumi. Semināri ir bijuši arī citās konferencēs, un galvenokārt semināri ir bijuši vai nu uz dabiskās valodas apstrādi balstītās konferencēs, vai konferencēs, kuru pamatā ir mašīnmācīšanās. Ir ļoti svarīgi, lai būtu atsevišķa konference, jo pie tās ir jāstrādā cilvēkiem no daudzām disciplīnām, kuri savā starpā runā.

Mašīnmācības cilvēki paši nevar atrisināt šo problēmu. Ir problēmas ar pārredzamību; ir jautājumi par to, kā būtu jāatjaunina likumi. Ja jūs gatavojaties runāt par neobjektivitāti veselības aprūpē, jūs vēlaties runāt ar [veselības aprūpes speciālistiem] par to, kur varētu būt iespējamās novirzes, un pēc tam varat domāt par to, kā izveidot uz mašīnmācību balstītu risinājumu.

Kāda ir jūsu pieredze darbā ar AI?

Tas nav viegli. ES mīlu savu darbu. Man patīk pētījumi, pie kuriem es strādāju. Man patīk lauks. Es nevaru iedomāties, ko vēl es darītu šajā ziņā. To sakot, šajā jomā ir ļoti grūti būt melnai sievietei. Kad es sāku lietot Black in AI, es to sāku ar pāris saviem draugiem. Pirms tam man bija niecīgs adresātu saraksts, kurā es burtiski pievienoju adresātu sarakstam jebkuru melnādainu cilvēku, kuru redzēju šajā jomā, un saku: Sveiki, es esmu Timnits. Es esmu melnādainais cilvēks numur divi. Sveiki, melnādainais numur viens. Būsim draugi.

Tas, kas patiešām lika tam paātrināties, bija [2016. gadā], kad es devos uz NIPS un kāds teica, ka tajā ir aptuveni 8500 cilvēku. Es saskaitīju sešus melnādainus. Man bija burtiski panika. Tas ir vienīgais veids, kā es varu aprakstīt, kā es jutos. Es redzēju, ka šis lauks pieaug eksponenciāli, sasniedzot galveno virzienu; tas ietekmē katru sabiedrības daļu. Tajā pašā laikā es redzēju arī daudz retorikas par daudzveidību un to, kā daudzi uzņēmumi to uzskata par svarīgu.

Un es redzēju neatbilstību starp retoriku un darbību. Jo seši melnādainie cilvēki no 8500 — tas ir smieklīgs skaitlis, vai ne? Tas ir gandrīz nulle procenti. Man bija tā, ka mums tagad kaut kas jādara. Es vēlos aicināt uz rīcību cilvēkus, kuri uzskata, ka dažādība ir svarīga. Jo tā ir ārkārtas situācija, un mums tagad kaut kas ir jādara lietas labā.

paslēpties