211service.com
Kā cīnīties pret naidu tiešsaistē
Datu zinātniece Dženifera Čeisa uzskata, ka mēs varam izmantot skaitļošanas rīkus, lai izskaustu sliktu uzvedību tiešsaistē.
2021. gada 27. oktobris
Christie There Klok
Darbā Microsoft un akadēmiskajās aprindās Dženifera Čeisa cīnījās par datu zinātnes un skaitļošanas izmantošanu, lai padarītu mākslīgo intelektu godīgāku un mazāk tendenciozāku.
No skolas pamešanas 15 gadu vecumā līdz kļūšanai par datu zinātnes dojēnu Kalifornijas universitātē Bērklijā, Čejsam ir bijusi diezgan liela karjera. Viņa pievienojās UCLA 1987. gadā kā matemātikas profesore. Desmit gadus vēlāk Microsoft pievilināja viņu līdzdibināt savu starpdisciplināro pētniecības teorijas grupu.
Šis stāsts bija daļa no mūsu 2021. gada novembra numura
- Skatiet pārējo izdevuma daļu
- Abonēt
Viņas Microsoft laboratorijā Ņujorkā pētnieki atklāja novirzes uzņēmuma sejas atpazīšanas programmatūrā, parādot, ka sistēma baltās sejas klasificēja precīzāk nekā brūnās un melnās sejas. Šis atklājums lika uzņēmumam atteikties no ienesīga līguma ar policijas departamentu un sākt strādāt, lai novērstu neobjektivitāti no šādiem algoritmiem. The FATE (taisnīgums, atbildība, pārredzamība un ētika AI) grupa tika izveidots laboratorijā.
Anils Anantasvamijs Jautāja Čejs, tagad Datortehnikas, datu zinātnes un sabiedrības nodaļas asociētais provosts un Bērklija Informācijas skolas dekāns, kā datu zinātne pārveido skaitļošanu un citas jomas.
J: Kā bija pāreja no akadēmiskās vides uz rūpniecību?
A: Tas bija diezgan liels šoks. Microsoft pētniecības viceprezidents Dens Lings man piezvanīja, lai mēģinātu pārliecināt doties uz interviju. Es ar viņu runāju kādas 40 minūtes. Un es beidzot teicu: vai tiešām vēlaties zināt, kas mani nomāc? Microsoft ir daudz pusaudžu zēnu, un es nevēlos pavadīt savu dzīvi kopā ar pusaudžu zēniem.
J: Kā viņš uz to reaģēja?
A: Viņš teica: Ak, nē, mēs neesam. Nāc un satiec mūs. Es tur satiku dažas neticamas sievietes, kad viesojos, un satiku fenomenāli atvērtus cilvēkus, kuri vēlējās izmēģināt lietas, lai mainītu pasauli.
J: Kā datu zinātne ir mainījusi skaitļošanu?
UZ: Tā kā mēs esam ieguvuši vairāk datu, datorzinātne ir sākusi skatīties uz āru. Es uzskatu, ka datu zinātne ir skaitļošanas, statistikas, ētikas un jomas uzsvara vai disciplīnas uzsvars, neatkarīgi no tā, vai tā ir biomedicīna un veselība, klimats un ilgtspējība, vai cilvēku labklājība un sociālais taisnīgums utt. Tā pārveido skaitļošanu.
J: Vai pastāv atšķirības tajā, kā datu zinātnieki risina problēmas?
A: Līdz ar visu šo datu parādīšanos mums ir iespēja mācīties no datiem bez teorijas par to, kāpēc kaut kas notiek. Īpaši šajā mašīnmācības un dziļās mācīšanās laikmetā tas ļauj izdarīt secinājumus un izteikt prognozes bez pamatā esošas teorijas.
J: Vai tas var radīt problēmas?
UZ: Daži to uzskata par problēmu gadījumos, kad jums ir, piemēram, biomedicīnas dati. Dati ļoti precīzi paredz, kas darbosies un kas nedarbosies, bez pamatā esoša bioloģiska mehānisma.
J: Vai ir kādas priekšrocības?
UZ: Dati mums tagad ir ļāvuši daudzos gadījumos palaist to, ko ekonomists nosauktu par hipotētisku faktu, kur jūs faktiski redzat nejaušas datu variācijas, kas ļauj izdarīt secinājumus, neveicot eksperimentus. Tas ir neticami noderīgi.
Vai es tiešām vēlos izmēģināt dažādas izglītības dažādās populācijās? Vai arī es vēlos redzēt, [ka] kādā brīdī ir notikušas nejaušas variācijas, kas man ļaus izdarīt patiešām labus cēloņsakarības secinājumus, un tāpēc es varu uz to balstīt politiku?
J: Vai redzat problēmas datu izmantošanā, jo īpaši lielos uzņēmumos?
A: Ir neskaitāmas problēmas. To izmanto ne tikai tehnoloģiju korporācijas. To izmanto apdrošināšanas kompānijas. To izmanto valdības platformas, sabiedrības veselības platformas un izglītības platformas. Ja jūs nepārprotami nesaprotat, kādas novirzes var iezagties gan pašās datu kopās, gan algoritmos, jūs, iespējams, saasināsit novirzi.
Šīs novirzes parādās [ja] nav daudz datu. Un tas var būt saistīts arī ar citiem faktoriem. Es personīgi strādāju pie biogrāfijas un CV automātiskas tulkošanas. Mums nav atļauts izmantot dzimumu vai rasi. Pat ja es neskatos [šos] aizsargātos atribūtus, [datos] ir daudzas lietas, kas ir dzimuma vai rases aizstājēji. Ja esat mācījies noteiktās skolās, ja esat uzaudzis noteiktos rajonos, ja spēlējāt noteiktus sporta veidus un jums bija noteiktas aktivitātes, tās ir saistītas [ar dzimumu vai rasi].
J: Vai algoritmi uztver šos starpniekserverus?
UZ: Viņi to saasina. Jums tas ir skaidri jāsaprot, un jums tas ir skaidri jānovērš, rakstot algoritmu.
J: Kā mēs varam risināt šādas problēmas?
UZ: Ir visa šī FATE joma: godīgums, atbildība, pārredzamība un ētika AI, kas ir šo algoritmu dizains un izpratne par to, kas tie ir. Bet mums ir vēl tik daudz darāmā.
J: Un datu zinātne palīdz?
A: Šī ir absolūti datu zinātne. Ir daļa no tīkla, ko sauc par manosfēru, no kuras rodas daudz naida. To ir grūti izsekot. Bet, ja izmantojat dabiskās valodas apstrādi un citus rīkus, varat redzēt, no kurienes tas nāk. Varat arī mēģināt izveidot saskarnes, kas ļautu aizstāvības grupām un citiem to atrast un palīdzēt to izskaust. Tas pārsniedz tikai godīgumu. Tas maina tabulu par veidu, kādā šīs platformas ir uzurpētas, lai palielinātu neobjektivitāti un naidu, un saka: mēs izmantosim skaitļošanas un datu zinātnes iespējas, lai identificētu un mazinātu naidu.