Lūk, kā AI novirze patiešām notiek, un kāpēc to ir tik grūti novērst

Tehnikas kundze; Foto: PIXOLOGICSTUDIO/SCIENCE FOTO BIBLIOTĒKA

Dažu pēdējo mēnešu laikā esam dokumentējuši, kā lielākā daļa AI lietojumprogrammu mūsdienās ir balstītas uz algoritmu kategoriju, kas pazīstama kā dziļā mācīšanās, un kā dziļās mācīšanās algoritmi atrod datu modeļus. Mēs esam arī apskatījuši, kā šīs tehnoloģijas ietekmē cilvēku dzīvi: kā tās var iemūžināt netaisnību darbā pieņemšanas, mazumtirdzniecības un drošības jomā, un, iespējams, to jau dara krimināltiesību sistēmā.

Bet nepietiek tikai zināt, ka šī neobjektivitāte pastāv. Ja mēs vēlamies, lai varētu to salabot, mums vispirms ir jāsaprot tā rašanās mehānika.

Kā notiek AI novirze

Mēs bieži saīsinām savu skaidrojumu par AI novirzi, vainojot to neobjektīvos apmācības datos. Realitāte ir daudz niansētāka: var iezagties neobjektivitāte ilgi pirms datiem tiek savākts, kā arī plkst daudzi citi posmi padziļināto mācību procesu. Šīs diskusijas nolūkos mēs koncentrēsimies uz trim galvenajiem posmiem.

Problēmas ierāmēšana. Pirmā lieta, ko datorzinātnieki dara, veidojot padziļinātas mācīšanās modeli, ir izlemt, ko viņi patiesībā vēlas ar to sasniegt. Kredītkaršu uzņēmums, piemēram, varētu vēlēties paredzēt klienta kredītspēju, taču kredītspēja ir diezgan neskaidrs jēdziens. Lai to pārvērstu par kaut ko, ko var aprēķināt, uzņēmumam ir jāizlemj, vai tas vēlas, teiksim, palielināt savu peļņas normu vai palielināt atmaksājamo aizdevumu skaitu. Pēc tam tā varētu definēt kredītspēju šī mērķa kontekstā. Problēma ir tā, ka šie lēmumi tiek pieņemti dažādu uzņēmējdarbības iemeslu dēļ, nevis taisnīguma vai diskriminācijas dēļ, skaidro Solons Barokass, Kornela universitātes docents, kurš specializējas godīgumā mašīnmācībā. Ja algoritms atklātu, ka paaugstināta riska kredītu izsniegšana ir efektīvs veids, kā palielināt peļņu, tas beigtos ar plēsonīgu rīcību, pat ja tas nebūtu uzņēmuma nolūks.

Datu vākšana. Ir divi galvenie veidi, kā apmācības datos parādās neobjektivitāte: vai nu jūsu savāktie dati neatspoguļo realitāti, vai arī tie atspoguļo esošos aizspriedumus. Pirmais gadījums var rasties, piemēram, ja padziļinātas apmācības algoritmam tiek ievadīts vairāk fotoattēlu ar gaišām sejām nekā ar tumšām sejām. Iegūtā sejas atpazīšanas sistēma neizbēgami būtu sliktāka, lai atpazītu tumšākas sejas. Otrais gadījums ir tieši tas, kas notika, kad Amazon atklāja, ka tā iekšējais darbā pieņemšanas rīks bija sieviešu kandidātu atlaišana . Tā kā tas bija apmācīts pieņemt vēsturiskus lēmumus par pieņemšanu darbā, kas dod priekšroku vīriešiem, nevis sievietēm, tā iemācījās rīkoties tāpat.

Datu sagatavošana. Visbeidzot, ir iespējams ieviest neobjektivitāti datu sagatavošanas posmā, kas ietver atlasi, kurus atribūtus vēlaties ņemt vērā algoritmā. (To nedrīkst jaukt ar problēmu izstrādes posmu. Varat izmantot vienus un tos pašus atribūtus, lai apmācītu modeli ļoti dažādiem mērķiem, vai izmantot ļoti dažādus atribūtus, lai apmācītu modeli vienam un tam pašam mērķim.) Kredītspējas modelēšanas gadījumā, atribūts varētu būt klienta vecums, ienākumi vai atmaksāto aizdevumu skaits. Amazon personāla atlases rīka gadījumā atribūts varētu būt kandidāta dzimums, izglītības līmenis vai pieredzes gadi. Tas ir tas, ko cilvēki bieži sauc par dziļas mācīšanās mākslu: izvēloties, kurus atribūtus ņemt vērā vai ignorēt, var būtiski ietekmēt jūsu modeļa prognozēšanas precizitāti. Bet, lai gan tā ietekmi uz precizitāti ir viegli izmērīt, tā ietekmi uz modeļa novirzi nav.

Kāpēc AI novirzi ir grūti novērst

Ņemot vērā šo kontekstu, dažas problēmas, kas saistītas ar neobjektivitātes mazināšanu, jums jau var būt acīmredzamas. Šeit mēs izceļam četrus galvenos.

Nezināmie nezināmie. Modeļa izveides laikā ne vienmēr ir acīmredzama neobjektivitāte, jo datu un izvēļu pakārtoto ietekmi var saprast tikai daudz vēlāk. Kad tas ir izdarīts, ir grūti ar atpakaļejošu datumu noteikt, no kurienes radās šī novirze, un pēc tam izdomāt, kā no tā atbrīvoties. Amazon gadījumā, kad inženieri sākotnēji atklāja, ka tā rīks sodīja sievietes kandidātes, viņi to pārprogrammēja, lai ignorētu vārdus, kas saistīti ar dzimumu, piemēram, sieviešu. Viņi drīz atklāja, ka pārskatītā sistēma joprojām darbojas netieši dzimumu vārdi — darbības vārdi, kas bija cieši saistīti ar vīriešiem, nevis sievietēm, piemēram, izpildīti un sagūstīti, un to izmantošana lēmumu pieņemšanai.

Nepilnīgi procesi. Pirmkārt, daudzas no dziļās mācīšanās standarta praksēm nav izstrādātas, ņemot vērā novirzes noteikšanu. Padziļinātās apmācības modeļu veiktspēja tiek pārbaudīta pirms to izvietošanas, tādējādi radot ideālu iespēju novērst novirzes. Bet praksē testēšana parasti izskatās šādi: datorzinātnieki nejauši sadala savus datus pirms tam apmācību vienā grupā, kas faktiski tiek izmantota apmācībai, un citai, kas ir paredzēta apstiprināšanai, kad apmācība ir pabeigta. Tas nozīmē, ka datiem, ko izmantojat sava modeļa veiktspējas pārbaudei, ir tādas pašas novirzes kā datiem, ko izmantojāt, lai to apmācītu. Tādējādi tas nespēs atzīmēt šķībus vai aizspriedumus.

Sociālā konteksta trūkums. Tāpat veids, kā datorzinātniekiem tiek mācīts formulēt problēmas, bieži vien nav savienojams ar labāko veidu, kā domāt par sociālajām problēmām. Piemēram, iekšā jaunu papīru , Endrjū Selbsts, Datu un sabiedrības pētniecības institūta pēcdoktors, identificē to, ko viņš sauc par pārnesamības slazdu. Datorzinātnēs tiek uzskatīta par labu praksi izstrādāt sistēmu, ko var izmantot dažādiem uzdevumiem dažādos kontekstos. Bet tas, ko tas dara, ir liela sociālā konteksta ignorēšana, saka Selbsts. Jūs nevarat izveidot sistēmu Jūtā un pēc tam lietot tieši Kentuki, jo dažādām kopienām ir dažādas godīguma versijas. Vai arī jūs nevarat izveidot sistēmu, kurā jūs piesakāties “godīgiem” krimināltiesību rezultātiem un pēc tam piemērojat nodarbinātībai. Tas, kā mēs domājam par godīgumu šajos kontekstos, ir pilnīgi atšķirīgs.

Taisnīguma definīcijas. Nav arī skaidrs, kā vajadzētu izskatīties neobjektivitātes trūkumam. Tas attiecas ne tikai uz datorzinātnēm — šim jautājumam ir ilga diskusija filozofijā, sociālajās zinātnēs un tiesībās. Datorzinātnē atšķiras tas, ka godīguma jēdziens ir jādefinē matemātiski, piemēram, līdzsvarojot prognozēšanas sistēmas viltus pozitīvo un viltus negatīvo rādītāju. Taču, kā atklājuši pētnieki, ir daudz dažādu matemātisku godīguma definīciju, kas arī ir savstarpēji izslēdzošas. Vai godīgums nozīmē, piemēram, ka tāda pati proporcija melnbaltajiem cilvēkiem vajadzētu iegūt augstus riska novērtējuma punktus? Vai arī tas tāds pats riska līmenis vajadzētu iegūt vienādu punktu skaitu neatkarīgi no rases? Nav iespējams izpildīt abas definīcijas vienlaikus ( lūk padziļināts ieskats, kāpēc), tāpēc kādā brīdī jums ir jāizvēlas viens. Bet, lai gan citās jomās šo lēmumu saprot kā tādu, kas laika gaitā var mainīties, datorzinātņu jomā ir priekšstats, ka tas ir jālabo. Nosakot atbildi, jūs atrisināsit problēmu, kas izskatās pavisam citādāka, nekā sabiedrība mēdz domāt par šiem jautājumiem, saka Selbsts.

Kur mēs ejam no šejienes

Ja jūs satraucaties no mūsu virpuļvējš ceļveža par visu AI novirzes problēmu, tad arī es. Bet par laimi spēcīgs AI pētnieku kontingents smagi strādā, lai atrisinātu šo problēmu. Viņi ir izmantojuši dažādas pieejas: algoritmus, kas palīdz atklāt un mazināt slēptās novirzes apmācības datos vai mazina aizspriedumiem modelis apgūts neatkarīgi no datu kvalitātes; procesi kam pieder uzņēmumi atbildīgs uz godīgākiem rezultātiem un diskusijas kas izjauc dažādas godīguma definīcijas.

Selbsts saka, ka diskriminācijas “labošana” algoritmiskajās sistēmās nav viegli atrisināma. Tas ir process, kas turpinās, tāpat kā diskriminācija jebkurā citā sabiedrības aspektā.

Sākotnēji tas parādījās mūsu AI informatīvajā izdevumā The Algorithm. Lai tas tiktu tieši piegādāts jūsu iesūtnē, reģistrējieties šeit bez maksas.

paslēpties