AI kopienai ir jāuzņemas atbildība par savu tehnoloģiju un darbībām

Seleste Kida Nialls Kārsons / AP

Pirmdien, atklājot vienu no pasaulē lielākajām mākslīgā intelekta pētnieku sanāksmēm, Seleste Kidd uzrunāja tūkstošiem apmeklētāju telpā, kas gandrīz divreiz pārsniedz futbola laukumu. Viņa nevilka sitienus.

Nav tādas lietas kā neitrāla platforma, Vankūverā NeurIPS konferencē sanākušajiem sacīja ietekmīgais zinātnieks un ievērojamais #metoo tēls. Algoritmi, kas nospiež saturu tiešsaistē, būtiski ietekmē to, ko mēs uzskatām.

Kalifornijas Universitātes Bērklijā psiholoģijas profesore Kida savā jomā ir pazīstama ar nozīmīgu ieguldījumu mūsu prāta teorijas izpratnē — kā mēs iegūstam zināšanas un kā veidojam uzskatus. Pirms diviem gadiem viņa kļuva pazīstama arī plašākai pasaulei, kad Time viņu nosauca Gada cilvēks cita starpā, kas iestājās pret seksuālu vardarbību un uzmākšanos.

Uz skatuves Kida dalījās piecās mācībās no sava pētījuma un demonstrēja, kā tehnoloģiju nozares lēmumi var ietekmēt cilvēkus radīt maldīgus uzskatus, piemēram, noliedzot klimata pārmaiņas. Tuvojoties runas beigām, viņa arī dalījās pieredzē par seksuālu uzmākšanos kā maģistrantūras studente un tieši adresēts daži no pārpratumiem, ko viņa bija dzirdējusi par #metoo kustību no vīriešiem.

Pašlaik var šķist biedējošs laiks būt tehnikā, viņa sacīja konferences apmeklētājiem, no kuriem šogad aptuveni 80% ir vīrieši. Ir sajūta, ka neveiklu piespēļu vai pārpratumu dēļ karjeru var sagraut.

Tas, ko es šodien gribu pateikt visiem telpā esošajiem vīriešiem, ir tas, ka jūs esat maldināts, viņa teica.

Viņas runa izpelnījās ovācijas — rets brīdis konferences vēsturē.

Kida piezīmes nāk laikā, kad AI kopiena un tehnoloģiju nozare plašākā nozīmē ir spiesta rēķināties ar tās tehnoloģiju netīšu kaitējumu. Pagājušajā gadā vien virkne skaļu lietu ir atklājusi, kā viltoti viltojumi var ļaunprātīgi izmantot sievietes, kā algoritmi var pieņemt diskriminējošus lēmumus veselības aprūpē un kredītu izsniegšanā un kā mākslīgā intelekta modeļu izstrāde videi var izmaksāt ārkārtīgi dārgi. Tajā pašā laikā sabiedrību ir satricinājuši vairāki seksuālas vardarbības un uzmākšanās skandāli , tostarp daži vairāk nekā incidenti plkst pašas konferences iepriekšējos gados . Tā arī turpināja ciest no šausminošiem daudzveidības skaitļiem.

Taču Kida runa iezīmēja svarīgu pārmaiņu, kas ir sākusies — to, kas tajā vakarā telpā bija jūtama. Pēc viņas runas desmitiem cilvēku stāvēja rindā pie mikrofoniem, kas bija izkaisīti pa istabu, lai pateiktos viņai par runāšanu par šiem jautājumiem. Pēc sesijas ap viņu pulcējās vēl desmitiem cilvēku — daži tikai tāpēc, lai pateicībā paspiestu viņai roku. Apmeklētājiem, kuri atceras ikgadējo sanāksmi pat pirms diviem gadiem, ir jauna atvērtība šo izaicinājumu atzīšanai un jauna uzmanība, lai paveiktu labāk.

Nākamajā dienā pēc viņas runas es apsēdos ar Kidu, lai pastāstītu vairāk par diviem viņas sniegtajiem ziņojumiem, to saistību un viņas nākotnes cerībām.

Šī intervija skaidrības labad ir rediģēta un saīsināta.

Savas runas izpētes daļā jūs beidzāt ar savu vēstījumu: nav tādas lietas kā neitrāla platforma. Kā jūs nonācāt pie šāda secinājuma no sava pētījuma?

Kaut kas, ko esmu sapratis tikai dažu pēdējo gadu laikā — mijiedarbojoties ar saviem diviem maģistrantiem —, nav īsti atšķirības starp zināšanām un uzskatiem. Tās būtībā ir viena un tā pati lieta.

Tagad mēs virzāmies uz izpratni par to, kā šī dinamika, ko esam novērojuši laboratorijas eksperimentos, attiecas uz reālo pasauli. Kad kāds apmeklē internetu, nezinot, kam viņam vajadzētu ticēt, kādēļ viņš mēdz izvairīties no šiem neitrālajiem meklējumiem? Vai mēs varam izmantot tādas pašas idejas, lai mēģinātu izskaidrot, kāpēc cilvēki uzskata, ka zeme ir plakana, un kāpēc šie maldīgie priekšstati netiek laboti? Tā nav joma, kurai esmu redzējis lielu uzmanību, taču tā, manuprāt, ir ļoti svarīga.

Kāpēc jums bija svarīgi dalīties ar savu vēstījumu šajā konferencē?

Tik daudz no tā, ko mēs tagad uzskatām, nāk no tiešsaistes avotiem. Īpaši bērni — viņi veido zināšanu pamatelementus, kas vēlāk veidos to, kam viņi tic, ko viņi ir ieinteresēti uzzināt pa straumi. Maziem bērniem ir arī iemesls sagaidīt, ka viņi patērē vairāk automātiskās atskaņošanas un ieteiktā satura nekā pieaugušie. Tāpēc sākotnēji viņiem ir lielāks risks, ka viņus ietekmēs algoritms, kas virza saturu, jo tā ir viņu vienīgā izvēle.

Mana runa bija paredzēta kā vēstījums cilvēkiem, kas strādā pie sistēmām, lai viņi būtu uzmanīgi par to, kā šie aizmugures lēmumi ietekmē atsevišķas personas uzskatus, bet arī sabiedrību kopumā. Es nedomāju, ka tehnoloģijās ir pietiekami daudz jutīguma pret to, kā aizkulisēs pieņemtie lēmumi par satura virzīšanu ietekmē cilvēku dzīvi.

Pastāv izplatīts kaujas sauciens, kad rodas jautājumi par satura piedāvāšanu — apgalvojums, ka platformas ir neitrālas. Un es domāju, ka tas ir negodīgi. Jūsu pieņemtie aizmugures lēmumi tieši ietekmē cilvēku ticību, un cilvēki to zina. Tāpēc izlikties, ka tas nav nekas, ir negodīgi.

Kad mēs mainām cilvēku uzvedību, tas, ko mēs darām, maina viņu uzskatus. Un šīm izmaiņām ir reālas, konkrētas sekas. Kad vecāki meklē informāciju par to, vai viņiem vajadzētu vakcinēt savu bērnu — ja viņi neizlēmuši pieiet pie sava klēpjdatora un izlēmuši doties prom, ir patiešām svarīgi, kāds saturs tika piedāvāts un kādi viedokļi tika pārstāvēti.

Es nedomāju, ka ir saprātīgi teikt, ka jums nav nekādas atbildības par to, ko māte dara ar savu bērnu, neatkarīgi no tā, vai viņa nolemj viņu vakcinēt vai nē, jo jūs to neņēmāt vērā, veidojot sistēmu. Es domāju, ka jums ir pienākums apsvērt, kādas ir back-end lēmumu sekas.

Pēc savas runas privātajā jautājumu un atbilžu sadaļā jūs minējāt, ka nekad publiskā forumā neesat prezentējis gan savus pētījumus, gan seksuālās uzmākšanās pieredzi. Kāpēc jūs parasti šķirat tos divus un kāpēc nolēmāt tos apvienot?

Sākšu ar otro — šajā gadījumā es izdarīju izņēmumu no noteikuma, jo uzskatīju, ka šai kopienai ir ļoti svarīgi dzirdēt šo vēstījumu. Datorzinātne ir joma, kurā sievietēm jau ilgu laiku ir bijis ļoti grūti tikt galā un ielauzties. Jau agri ir liela interese, un tad rodas sūce. Un es zinu, ka viena no lietām, kas ļoti apgrūtina darbu kā sievietei šajā jomā, ir mazākas mentoringa iespējas.

Es zinu, ka ļoti bieži vīrieši datorzinātnēs ar labiem nodomiem uztraucas par sieviešu aizvainošanu. No tā izriet, ka sievietes zaudē apmācību iespējas, bet arī vīrieši zaudē idejas un jauninājumus, ko sievietes varētu sniegt. Empīriskie pētījumi liecina, ka daudzveidība rada augstāku inovāciju līmeni. Un iespēja sarunāties ar lielu daļu šo vīriešu vienā telpā vienlaikus — es jutu, ka tas ir svarīgi, un man tas bija jādara.

Iemesls, kāpēc es parasti tos nejaucu: es neizvēlējos to, kas ar mani notika manā pirmajā augstskolas gadā Ročesterā. Es neizvēlējos, kāda būtu universitātes atbilde. Es gribēju karjeru zinātnē un vēlos to aizsargāt, tāpēc es nevēlos mazāk runāt par zinātni, jo esmu runājis par šo jautājumu. Bet es arī apzinos, ka lielākajai daļai cilvēku nav iespējas, viņiem nav platformas, lai runātu. Parasti tas, kas notiek ar cilvēkiem, kuri savas karjeras sākumā tika seksuāli vajāti un kuru iestāde viņiem ir atriebusi, ir tas, ka viņi pazūd. Es nejustos labi, neko nedarot. Cilvēkiem, kuriem ir privilēģijas, tas jāizmanto, kur vien iespējams. Un šī bija iespēja izmantot privilēģiju uzstāties NeurIPS, lai palīdzētu jaunākajām sievietēm, kuras ir pelnījušas vienlīdzīgu attieksmi.

Vai jūs uztraucaties par to, kā šie komentāri tiks parādīti?

Protams. Bet baidīšanās no atbildes nav iemesls nerunāt. Es mazliet runāju par privilēģijām. Es arī esmu salīdzinoši priviliģētā stāvoklī šajā konkrētajā konferencē, jo rūpniecībā ir tik daudz cilvēku, un es domāju, ka spiediens klusēt uzņēmumos ir lielāks nekā akadēmiskajās aprindās, vismaz šobrīd tehnoloģiju jomā. Tātad, ja es būtu noraizējies par atlaišanu, tas būtu papildu lieta, kas liks mani klusēt. UC Berkeley zināja, ka es runāju par šiem jautājumiem, pirms viņi mani pieņēma darbā, un viņi man ir parādījuši tikai atbalstu un iedrošinājumu cīņā par taisnīgumu. Atrodoties vietā, kas mani tā atbalsta, es varu teikt lietas, nebaidoties zaudēt darbu un nevarēšu samaksāt par pārtiku savam bērnam. Un tas ir vēl viens iemesls, kāpēc es jutu, ka man vajadzētu runāt.

Es pilnībā gaidīju, ka daži cilvēki būs dusmīgi. Tie ir 13 000 cilvēku. Protams, daži cilvēki var mani pārprast. Es burtiski runāju par to, ka, lietojot vārdus, tie ir neskaidri un cilvēki aktivizē dažādus jēdzienus. Nav iespējams pārliecināt visus cilvēkus tieši par to, ko jūs domājat.

Lai gan jūs parasti nošķirat savas runas par savu pētījumu un savu aktivitāti, un jūs tās sadalījāt divās NeurIPS sadaļās, man tās patiesībā attiecas uz vienu un to pašu: kā attīstīt atbildīgu tehnoloģiju, uzņemoties lielāku atbildību par saviem lēmumiem un darbībām.

Taisnība. Jūs man minējāt, ka AI kopienā vairāk tiek runāts par ētiskām sekām, ka vairāk tiek novērtēta saikne starp tehnoloģiju un sabiedrību. Un es domāju, ka daļa no tā izriet no tā, ka sabiedrība kļūst daudzveidīgāka un iesaista vairāk cilvēku. Viņi nāk no mazāk priviliģētas vietas un vairāk apzinās tādas lietas kā neobjektivitāte un netaisnība, kā arī to, kā tehnoloģijas, kas izstrādātas noteiktai demogrāfiskai situācijai, var nodarīt kaitējumu nelabvēlīgā situācijā esošām iedzīvotāju grupām.

Ceru, ka tā turpināsies. Mums ir jārunā vienam ar otru, lai panāktu progresu. Un mēs visi esam pelnījuši justies droši, mijiedarbojoties viens ar otru.

Lai vairāk šādu stāstu tiktu piegādāts tieši jūsu iesūtnē, reģistrējieties mūsu Webby nominētajam AI informatīvajam izdevumam The Algorithm. Tas ir par brīvu.

paslēpties