211service.com
Kā saukt pie atbildības algoritmus
Algoritmi tagad tiek izmantoti visā valsts un privātajā sektorā, sniedzot informāciju par lēmumiem par visu, sākot no izglītības un nodarbinātības līdz krimināltiesībām. Taču, neskatoties uz potenciālu efektivitātes palielināšanu, to var veikt arī algoritmi, ko baro lielie dati pastiprināt strukturālo diskrimināciju , radīt kļūdas, kas atteikt pakalpojumus privātpersonām , vai pat savaldzināt vēlētājus viltus drošības sajūtā. Patiešām, ir pieaugoša izpratne ka sabiedrībai būtu jāuzmanās no sabiedrības riskiem ko rada pārmērīga paļaušanās uz šīm sistēmām un darbs turiet tos atbildīgs .
Dažādi nozares centieni, tostarp a konsorcijs Silikona ielejas behemoti, sāk cīnīties ar tādu algoritmu izvietošanas ētiku, kuriem var būt neparedzēta ietekme uz sabiedrību. Algoritmu izstrādātājiem un produktu vadītājiem ir vajadzīgi jauni veidi, kā domāt, izstrādāt un ieviest algoritmiskās sistēmas publiski atbildīgā veidā. Pēdējo vairāku mēnešu laikā mēs un daži kolēģi ir mēģinājuši sasniegt šos mērķus, izstrādājot a principu kopums atbildīgiem algoritmiem .
Apskatīsim vienu gadījumu, kad ir ļoti nepieciešama algoritmiskā atbildība: riska novērtējuma rādītāji kas informē par krimināltiesību lēmumiem ASV tiesību sistēmā. Šos punktus aprēķina, uzdodot virkni jautājumu saistībā ar tādām lietām kā apsūdzētā vecums, sodāmības vēsture un citas pazīmes. Dati tiek ievadīti algoritmā, lai aprēķinātu punktu skaitu, ko pēc tam var izmantot, pieņemot lēmumus par pirmstiesas apcietinājumu, probācijas laiku, nosacītu pirmstermiņa atbrīvošanu vai pat notiesāšanu. Un šie modeļi bieži tiek apmācīti, izmantojot patentētus mašīnmācības algoritmus un datus par iepriekšējiem apsūdzētajiem.
Jaunākie pētījumi liecina ka riska novērtēšanas algoritmi var būt rasistiski neobjektīvi, radot punktus, kas, ja tie ir nepareizi, biežāk melnos apsūdzētos nepareizi klasificē kā augsta riska faktorus. Šie rezultāti ir radījuši ievērojamas pretrunas. Ņemot vērā to, ka šie algoritmiskie lēmumi burtiski maina dzīvību, tiem jāpievērš īpaša uzmanība un jāuzņemas atbildība par negatīvajām sekām.
Algoritmus un datus, kas tos virza, izstrādā un izveido cilvēki. Pat tādām metodēm kā ģenētiskie algoritmi kas attīstās pašas no sevis, vai mašīnmācības algoritmi Ja iegūto modeli nav izstrādājis cilvēks, rezultātus veido cilvēka pieņemti dizaina lēmumi, noteikumi par optimizējamo saturu un izvēle par to, kādus apmācības datus izmantot. Algoritms nav pieņemams attaisnojums, ja algoritmiskās sistēmas pieļauj kļūdas vai rada nevēlamas sekas.
Atbildība ietver pienākumu ziņot un pamatot algoritmisku lēmumu pieņemšanu, kā arī mazināt jebkādu negatīvu sociālo ietekmi vai iespējamo kaitējumu. Mēs apsvērsim atbildību, izmantojot piecus pamatprincipus: atbildību, izskaidrojamību, precizitāti, pārbaudāmību un godīgumu.
Atbildība . Jebkurai algoritmiskai sistēmai ir jābūt personai, kurai ir tiesības savlaicīgi risināt tās nelabvēlīgās individuālās vai sabiedrības sekas. Šis nav paziņojums par juridisko atbildību, bet gan koncentrēšanās uz tiesiskās aizsardzības līdzekļiem, publisku dialogu un iekšējām pilnvarām veikt izmaiņas. Tas varētu būt tikpat vienkārši, kā piešķirt kādam no savas tehniskās komandas iekšējās pilnvaras un resursus, lai mainītu sistēmu, pārliecinoties, ka šīs personas kontaktinformācija ir publiski pieejama.
Izskaidrojamība . Jebkuriem lēmumiem, ko pieņēmusi algoritmiskā sistēma, jābūt izskaidrotiem cilvēkiem, kurus šie lēmumi ietekmē. Šiem skaidrojumiem jābūt pieejamiem un saprotamiem mērķauditorijai; tīri tehniski apraksti nav piemēroti plašai sabiedrībai. Riska novērtējuma punktu skaidrošana atbildētājiem un viņu juridiskajiem konsultantiem veicinātu lielāku izpratni un palīdzētu viņiem apstrīdēt acīmredzamas kļūdas vai kļūdainus datus. Daži mašīnmācības modeļi ir vairāk izskaidrojams nekā citi, taču tas, ka ir iesaistīts izdomāts neironu tīkls, nenozīmē, ka tas ir nozīmīgs skaidrojums nevar ražot.
Precizitāte . Algoritmi pieļauj kļūdas gan datu kļūdu dēļ, kas tiek ievadīti (atkritumi tiek ievadīti, atkritumi tiek izvadīti), vai statistiskās nenoteiktības dēļ. Princips par precizitāte ierosina, ka visā algoritmā un tā datu avotos ir jāidentificē, jāreģistrē un jāizvērtē kļūdu un nenoteiktības avoti. Izpratne par algoritmiskās sistēmas radīto kļūdu būtību var sniegt informāciju par mazināšanas procedūrām.
Pārbaudāmība . Princips par auditējamība nosaka, ka ir jāizstrādā algoritmi, kas ļautu trešām personām pārbaudīt un pārskatīt algoritma darbību. Algoritmu pārraudzības, pārbaudes un kritizēšanas iespējošana novestu pie apzinātākas projektēšanas un kursa korekcijas neveiksmes gadījumā. Kamēr var būt tehniskajiem izaicinājumiem ļaujot veikt publisko revīziju, vienlaikus aizsargājot patentētu informāciju, privātā revīzija (tāpat kā grāmatvedībā) varētu sniegt zināmu publisku pārliecību. Ja iespējams, pat ierobežota piekļuve (piemēram, izmantojot API) sniegtu sabiedrībai vērtīgu iespēju pārbaudīt šos sociāli nozīmīgos algoritmi.
Taisnīgums . Tā kā algoritmi arvien vairāk pieņem lēmumus, pamatojoties uz vēsturiskiem un sabiedrības datiem, pastāv risks, ka pastāvošie aizspriedumi un vēsturiski diskriminējoši cilvēku lēmumi tiks iekļauti automatizētos lēmumos. Visi algoritmi, kas pieņem lēmumus par indivīdiem, ir jānovērtē attiecībā uz diskriminējošu ietekmi. Novērtēšanas rezultāti un izmantotie kritēriji ir jāpublisko un jāpaskaidro.
Ir daudz iespēju pielāgot un interpretēt šos principus savam kontekstam, un, protams, iejauksies politiskās, īpašumtiesības vai biznesa problēmas. Taču mēs domājam, ka šo ideju izskatīšana visā izstrādes, ieviešanas un izlaišanas ciklā novedīs pie sociāli atbildīgākas algoritmu ieviešanas sabiedrībā.
Kā jūs sākat darbu? Mēs izklāstām dažus pragmatiskus jautājumus, ar kuriem produktu un izstrādes komanda var strādāt, lai izveidotu a sociālās ietekmes paziņojums kas attiecas uz šiem principiem .
Nikolass Diakopuls ir docents Merilendas Universitātē, Koledžparkā. Sorelle Frīdlere ir a n Haverfordas koledžas docente un Datu un sabiedrības pētniecības institūta filiāle.