Vai uztraucaties par sava uzņēmuma AI ētiku? Šie jaunizveidotie uzņēmumi ir šeit, lai palīdzētu.

Getty

Rumman Chowdhury darbā bija daudz tulkošanas. Būdama atbildīgā AI vadītāja konsultāciju uzņēmumā Accenture, viņa strādātu ar klientiem, kuriem ir grūtības izprast savus AI modeļus. Kā viņi zināja, vai modeļi dara to, kas viņiem bija jādara? Apjukums bieži radās daļēji tāpēc, ka uzņēmuma datu zinātnieki, juristi un vadītāji runāja dažādās valodās. Viņas komanda darbotos kā starpnieks, lai visas puses varētu nonākt vienā pusē. Tas bija maigi izsakoties neefektīvi: viena modeļa audits var ilgt mēnešus.

Tāpēc 2020. gada beigās Čaudhurija atstāja savu amatu, lai sāktu savu uzņēmumu. Zvanīja Paritātes AI , tas piedāvā klientiem rīku komplektu, kas cenšas saīsināt procesu līdz dažām nedēļām. Vispirms tas palīdz viņiem noteikt, kā viņi vēlas pārbaudīt savu modeli — vai tas ir neobjektivitātes vai tiesiskās atbilstības dēļ? — un pēc tam sniedz ieteikumus problēmas risināšanai.

Paritāte ir viens no pieaugošajiem jaunuzņēmumiem, kas organizācijām sola veidus, kā izstrādāt, uzraudzīt un labot savus AI modeļus. Tie piedāvā dažādus produktus un pakalpojumus, sākot no neobjektivitātes mazināšanas rīkiem līdz izskaidrojamības platformām. Sākotnēji lielākā daļa viņu klientu bija no tādām stingri regulētām nozarēm kā finanses un veselības aprūpe. Taču palielinājās pētniecība un mediju uzmanība neobjektivitātes jautājumi , privātums un caurspīdīgums ir mainījuši sarunas fokusu. Jaunie klienti bieži vienkārši uztraucas par atbildīgumu, savukārt citi vēlas pierādīt sevi, gaidot regulējumu.

Tik daudzi uzņēmumi patiešām ar to saskaras pirmo reizi, saka Chowdhury. Gandrīz visi no viņiem patiesībā lūdz kādu palīdzību.

No riska līdz ietekmei

Strādājot ar jauniem klientiem, Chowdhury izvairās lietot terminu atbildība. Vārds ir pārāk skops un slikti definēts; tas atstāj pārāk daudz vietas nepareizai komunikācijai. Tā vietā viņa sāk ar pazīstamāku korporatīvo valodu: riska ideju. Daudziem uzņēmumiem ir riska un atbilstības nodaļas, kā arī noteikti riska mazināšanas procesi.

AI riska mazināšana neatšķiras. Uzņēmumam vispirms vajadzētu apsvērt dažādas lietas, par kurām tas uztrauc. Tie var ietvert juridisku risku, iespēju pārkāpt likumu; organizatoriskais risks, iespēja zaudēt darbiniekus; vai reputācijas risks, iespēja ciest PR katastrofā. No turienes tas var strādāt atpakaļgaitā, lai izlemtu, kā pārbaudīt tās AI sistēmas. Finanšu uzņēmums, kas darbojas saskaņā ar godīgas kreditēšanas likumiem ASV, vēlas pārbaudīt savus aizdevumu modeļus, lai mazinātu juridisko risku. Televeselības uzņēmums, kura sistēmas apmāca sensitīvus medicīniskos datus, var veikt privātuma auditus, lai mazinātu reputācijas risku.

Parity ietver ieteikto jautājumu bibliotēku, lai palīdzētu uzņēmumiem novērtēt savu AI modeļu risku.

PARITĀTE

Paritāte palīdz organizēt šo procesu. Platforma vispirms lūdz uzņēmumam izveidot iekšējo ietekmes novērtējumu — būtībā atvērtu aptaujas jautājumu kopumu par to, kā darbojas tā uzņēmējdarbība un AI sistēmas. Tā var izvēlēties rakstīt pielāgotus jautājumus vai atlasīt tos no Parity bibliotēkas, kurā ir vairāk nekā 1000 uzvedņu, kas pielāgotas AI ētikas vadlīnijām un attiecīgajiem tiesību aktiem no visas pasaules. Kad novērtējums ir izveidots, darbinieki visā uzņēmumā tiek mudināti to aizpildīt, pamatojoties uz viņu darba funkcijām un zināšanām. Pēc tam platforma palaiž atbildes brīvā teksta veidā, izmantojot dabiskās valodas apstrādes modeli, un pārvērš tās, ņemot vērā uzņēmuma galvenās riska jomas. Citiem vārdiem sakot, paritāte kalpo kā jauns starpnieks datu zinātnieku un juristu piesaistīšanai vienai lapai.

Tālāk platforma iesaka atbilstošu riska mazināšanas darbību kopumu. Tie varētu ietvert informācijas paneļa izveidi, lai nepārtraukti uzraudzītu modeļa precizitāti, vai jaunu dokumentācijas procedūru ieviešanu, lai izsekotu, kā modelis tika apmācīts un precizēts katrā tā izstrādes posmā. Tā piedāvā arī atvērtā pirmkoda ietvaru un rīku kolekciju, kas varētu palīdzēt, piemēram, IBM AI Fairness 360 neobjektivitātes uzraudzībai vai Google modeļu kartes dokumentācijai.

Chowdhury cer, ka, ja uzņēmumi varēs samazināt laiku, kas nepieciešams savu modeļu auditēšanai, tie kļūs disciplinētāki, veicot to regulāri un bieži. Viņa cer, ka laika gaitā tas varētu arī pavērt viņiem iespēju domāt ne tikai par riska mazināšanu. Mans viltīgais mērķis patiesībā ir panākt, lai vairāk uzņēmumu domātu par ietekmi, nevis tikai par risku, viņa saka. Risks ir valoda, ko cilvēki saprot mūsdienās, un tā ir ļoti vērtīga valoda, taču risks bieži ir reaģējošs un atsaucīgs. Ietekme ir aktīvāka, un tas patiesībā ir labāks veids, kā noteikt, kas mums būtu jādara.

Atbildības ekosistēma

Kamēr Parity koncentrējas uz riska pārvaldību, cits jaunuzņēmums, Vijolnieks , koncentrējas uz izskaidrojamību. Izpilddirektors Krishna Gade sāka domāt par nepieciešamību pēc lielākas pārredzamības AI modeļu pieņemšanā, vienlaikus strādājot par Facebook ziņu plūsmas komandas inženieru vadītāju. Pēc 2016. gada prezidenta vēlēšanām uzņēmums veica lielu iekšēju spiedienu, lai labāk izprastu, kā tā algoritmi ranžē saturu. Gade komanda izstrādāja iekšējo rīku, kas vēlāk kļuva par pamatu Kāpēc es to redzu? funkciju .

Saistīts stāsts

Pieci veidi, kā 2021. gadā AI padarīt par lielāku spēku AI ietekmei tiek pievērsta lielāka uzmanība nekā jebkad agrāk. Liksim to skaitīt.

Neilgi pēc tam, 2018. gada oktobrī, Gade izlaida Fiddler. Tas palīdz datu zinātnes komandām izsekot savu modeļu veiktspējai, kas attīstās, un, pamatojoties uz rezultātiem, izveido augsta līmeņa pārskatus uzņēmumu vadītājiem. Ja modeļa precizitāte laika gaitā pasliktinās vai tas parāda neobjektīvu uzvedību, Fiddler palīdz atkļūdot, kāpēc tas varētu notikt. Gade uzskata, ka pārraudzības modeļi un izskaidrojamības uzlabošana ir pirmie soļi, lai AI izstrādātu un ieviestu apzinātāk.

Artūrs , dibināta 2019. gadā, un Svari un novirzes , dibināta 2017. gadā, ir vēl divi uzņēmumi, kas piedāvā uzraudzības platformas. Tāpat kā Fiddlers, Artūrs uzsver izskaidrojamību un neobjektivitātes mazināšanu, savukārt Weights & Biases izseko mašīnmācības eksperimentus, lai uzlabotu pētniecību. reproducējamība . Visi trīs uzņēmumi ir novērojuši pakāpenisku pāreju uz uzņēmumu galvenajām bažām, sākot no atbilstības tiesību aktiem vai modeļa darbības uz ētiku un atbildību.

Ciniskā daļa manis sākumā bija noraizējusies, ka mēs redzēsim, ka klienti ienāks un domās, ka viņi varētu vienkārši atzīmēt izvēles rūtiņu, saistot savu zīmolu ar kādu citu, kas veic atbildīgu AI, saka Liza O'Salivana, Artura atbildīgā AI viceprezidente. darbojas arī kā aktīvistu organizācijas Surveillance Technology Oversight Project tehnoloģiju direktors. Taču daudzi Artura klienti ir centušies domāt ne tikai par tehniskiem labojumiem savās pārvaldības struktūrās un pieejas iekļaujošajam dizainam. Bija tik aizraujoši redzēt, ka viņi patiešām ir ieguldījuši pareizo darbu, viņa saka.

Gan O’Salivans, gan Čaudhūrijs priecājas redzēt, ka tiešsaistē nonāks vairāk jaunuzņēmumu, piemēram, viņu. Lai veiktu atbildīgu AI, jums ir jādara ne tikai viens rīks vai viena lieta, saka O’Salivans. Chowdury piekrīt: tā būs ekosistēma.

paslēpties