Neobjektīvi algoritmi ir visur, un šķiet, ka tas nevienu neinteresē

Keita Kroforda, šonedēļ uzstājoties konferencē AI Now MIT. Džons Maeda (@johnmaeda)

Necaurredzami un potenciāli neobjektīvi matemātiskie modeļi pārveido mūsu dzīvi, un ne par to izstrādi atbildīgie uzņēmumi, ne valdība nav ieinteresēti risināt šo problēmu.

Šonedēļ pētnieku grupa kopā ar Amerikas Pilsoņu brīvību savienību uzsāka centienus identificēt un izcelt algoritmisko novirzi. The AI tagad iniciatīva tika paziņots pasākumā, kas notika MIT, lai apspriestu to, ko daudzi eksperti uzskata par pieaugošu izaicinājumu.

Algoritmiskā novirze kļūst par nozīmīgu sabiedrības problēmu kritiskā mašīnmācības un AI attīstības brīdī. Ja neobjektivitāte, kas slēpjas algoritmos, kas pieņem arvien svarīgākus lēmumus, netiks atpazīta un netiek pārbaudīta, tam var būt nopietnas negatīvas sekas, īpaši nabadzīgākām kopienām un minoritātēm. Iespējamais kliedziens var arī kavēt neticami noderīgas tehnoloģijas progresu (skatiet sadaļu Neobjektivitātes algoritmu pārbaude ).

Algoritmi, kas var slēpt slēptās novirzes, jau tiek regulāri izmantoti svarīgu finanšu un juridisku lēmumu pieņemšanai. Patentēti algoritmi tiek izmantoti, lai, piemēram, izlemtu, kurš saņem darba interviju, kurš saņem nosacītu pirmstermiņa atbrīvošanu un kurš saņem aizdevumu.

Jaunās AI tagad iniciatīvas dibinātāji, Keita Kroforda , Microsoft pētniece un Meredita Vitekere, Google pētniece, saka, ka novirze var pastāvēt visos pakalpojumos un produktos.

Vēl ir sākums, lai izprastu algoritmisko novirzi, e-pastā sacīja Krofords un Vitekers. Tikai šogad mēs esam redzējuši vairāk sistēmu, kurām ir problēmas, un šīs ir tikai tās, kuras ir izmeklētas.

Algoritmiskās novirzes piemēri, kas pēdējā laikā ir atklājušies, viņi saka, ka ir kļūdaini un maldinoši sistēmas, ko izmanto skolotāju klasifikācijai un uz dzimumu orientēti modeļi dabiskās valodas apstrādei .

Ketija O’Nīla, matemātiķe un grāmatas autore Matemātikas iznīcināšanas ieroči , grāmatā, kurā uzsvērts algoritmu neobjektivitātes risks daudzos kontekstos, teikts, ka cilvēki bieži ir pārāk gatavi uzticēties matemātiskajiem modeļiem, jo ​​viņi uzskata, ka tas novērsīs cilvēku aizspriedumus. Viņa saka, ka [algoritmi] aizstāj cilvēka procesus, taču tie neatbilst tiem pašiem standartiem. Cilvēki viņiem pārāk uzticas.

Šie un citi pētnieki saka, ka galvenais izaicinājums ir tas, ka būtiskas ieinteresētās personas, tostarp uzņēmumi, kas izstrādā un izmanto mašīnmācīšanās sistēmas un valdības regulatori, izrāda nelielu interesi par algoritmu novirzes uzraudzību un ierobežošanu. Finanšu un tehnoloģiju uzņēmumi izmanto visu veidu matemātiskos modeļus un nav pārredzami par to, kā tie darbojas. Piemēram, O'Nīla saka, ka ir nobažījies par to, kā darbojas Google jaunā darba meklēšanas pakalpojuma algoritmi.

Saistīts stāsts

Saistīts stāsts Bez zinātnes un tehnoloģiju padomniekiem Baltajā namā prezidents Tramps varētu cīnīties, lai reaģētu uz krīzēm.

O'Nīls iepriekš strādāja par profesoru Barnarda koledžā Ņujorkā un kvantitatīvo analītiķi uzņēmumā D. E. Shaw. Viņa tagad ir vadītāja Tiešsaistes riska konsultācijas un algoritmiskais audits , uzņēmums, kas izveidots, lai palīdzētu uzņēmumiem noteikt un labot izmantoto algoritmu novirzes. Taču O’Nīls saka, ka pat tie, kuri zina savus algoritmus, ir pakļauti neobjektivitātes riskam, ir vairāk ieinteresēti būtībā, nevis aizspriedumu izskaušanā. Es būšu pret jums godīga, viņa saka. Man šobrīd nav klientu.

O'Nīls, Krofords un Vitekers arī brīdina, ka Trampa administrācijas intereses trūkums par mākslīgo intelektu un zinātni kopumā nozīmē, ka problēmas risināšanai nav regulējošas kustības (skatiet The Gaping, Dangerous Hold in the Trump Administration).

Zinātnes un tehnoloģiju politikas birojs vairs aktīvi neiesaistās AI politikā vai daudz ko citu saskaņā ar viņu vietni, raksta Crawford un Whittaker. Politikas darbs tagad ir jādara citur.

paslēpties