AI var likt juridiski atbildēt par saviem lēmumiem

Mākslīgais intelekts ieņems ievērojami lielāku lomu sabiedrībā. Un tas rada jautājumu par atbildību. Ja mēs paļaujamies uz mašīnām, lai pieņemtu arvien svarīgākus lēmumus, mums būs nepieciešami pārsūdzības mehānismi, ja rezultāti izrādīsies nepieņemami vai grūti saprotami.

Taču likt AI sistēmām izskaidrot savus lēmumus nav gluži vienkārši. Viena problēma ir tā, ka skaidrojumi nav bezmaksas; tie prasa ievērojamus resursus gan AI sistēmas izstrādē, gan praksē.

Vēl viena problēma ir tāda, ka paskaidrojumi var atklāt komercnoslēpumus, liekot izstrādātājiem publicēt AI sistēmas iekšējo darbību. Turklāt viena no šo sistēmu priekšrocībām ir tā, ka tās var izprast sarežģītus datus tādos veidos, kas nav pieejami cilvēkiem. Tāpēc, lai padarītu viņu skaidrojumus saprotamus cilvēkiem, var būt nepieciešams samazināt veiktspēju.

Izskaidrošanas sistēmām ir jābūt nošķirtām no AI sistēmām, saka Hārvardas komanda

Kā tad panākt, lai mākslīgais intelekts būtu atbildīgs par saviem lēmumiem, neapgrūtinot inovācijas?

Šodien mēs saņemam sava veida atbildi, pateicoties Finale Doshi-Velez, Mason Kortz un citu darbu Hārvardas universitātē Kembridžā, Masačūsetsā. Šie cilvēki ir datorzinātnieki, kognitīvie zinātnieki un tiesību zinātnieki, kuri kopā ir izpētījuši juridiskos jautājumus, ko rada AI sistēmas, identificējuši galvenās problēmas un ierosinājuši iespējamos risinājumus. Viņi saka, ka kopā mēs esam eksperti likuma skaidrošanā, AI sistēmu izveidē, kā arī cilvēka domāšanas iespējām un ierobežojumiem.

Tie sākas ar skaidrojuma definēšanu. Viņi saka, ka, runājot par lēmuma skaidrojumu, mēs parasti domājam konkrētā rezultāta iemeslus vai pamatojumus, nevis lēmuma pieņemšanas procesa aprakstu kopumā.

Atšķirība ir svarīga. Doshi-Velez un co norāda, ka ir iespējams izskaidrot, kā AI sistēma pieņem lēmumus tādā pašā nozīmē, kā ir iespējams izskaidrot, kā darbojas gravitācija vai kā cept kūku. Tas tiek darīts, izklāstot noteikumus, kurus sistēma ievēro, neatsaucoties uz kādu konkrētu krītošu priekšmetu vai kūku.

Tā baidās rūpnieki, kuri vēlas slēpt savu AI sistēmu darbību, lai aizsargātu savas komerciālās priekšrocības.

Taču šāda veida pārredzamība daudzos gadījumos nav nepieciešama. Piemēram, lai paskaidrotu, kāpēc objekts nokrita rūpnieciskā avārijā, parasti nav nepieciešams skaidrojums par smaguma pakāpi. Tā vietā parasti ir nepieciešami paskaidrojumi, lai atbildētu uz šādiem jautājumiem: Kādi bija galvenie lēmuma pieņemšanas faktori? Vai, mainot noteiktu faktoru, lēmums būtu mainījies? Kāpēc divas līdzīga izskata lietas noveda pie atšķirīgiem lēmumiem?

Lai atbildētu uz šiem jautājumiem, nav obligāti nepieciešams detalizēts AI sistēmas darbības skaidrojums.

Tātad, kad būtu jāsniedz paskaidrojumi? Būtībā, ja ieguvums pārsniedz izmaksas. Mēs atklājam, ka ir trīs nosacījumi, kas raksturo situācijas, kurās sabiedrība uzskata, ka lēmumu pieņēmējam ir pienākums — morāli, sociāli vai juridiski — sniegt skaidrojumu, saka Doši-Velezs un citi.

Komanda saka, ka lēmumam ir jāietekmē kāda cita persona, nevis lēmuma pieņēmējs. Zināšanai, vai lēmums ir pieņemts kļūdaini, ir jābūt vērtīgam. Un ir jābūt kādam iemeslam domāt, ka lēmuma pieņemšanas procesā ir notikusi (vai notiks) kļūda.

Piemēram, novērotājiem varētu būt aizdomas, ka lēmumu ir ietekmējis kāds nebūtisks faktors, piemēram, ķirurgs atteicies veikt operāciju mēness fāzes dēļ. Vai arī viņi var neuzticēties sistēmai, ja tā ir pieņēmusi vienu un to pašu lēmumu divos pilnīgi atšķirīgos apstākļos. Tādā gadījumā viņiem varētu rasties aizdomas, ka tajā nav ņemts vērā svarīgs faktors. Citas bažas rada lēmumi, kas, šķiet, sniedz netaisnīgu labumu vienai grupai, piemēram, uzņēmumu direktori pieņem lēmumus, kas gūst labumu sev uz savu akcionāru rēķina.

Citiem vārdiem sakot, pirms paskaidrojuma pieprasīšanas ir jābūt pamatotam iemeslam uzskatīt, ka lēmums ir nepareizs. Taču var būt arī citi iemesli, lai sniegtu paskaidrojumus, piemēram, mēģinājums palielināt patērētāju uzticēšanos.

Tāpēc Doši-Velezs un kolēģi aplūko konkrētas juridiskas situācijas, kurās ir nepieciešami paskaidrojumi. Viņi norāda, ka saprātīgi prāti var atšķirties un ir atšķirīgi par to, vai ir morāli attaisnojami vai sociāli vēlami prasīt paskaidrojumus. No otras puses, likumi ir kodificēti, un, lai gan varētu strīdēties, vai likums ir pareizs, mēs vismaz zinām, kas ir likums, viņi saka.

Saskaņā ar ASV tiesību aktiem paskaidrojumi ir nepieciešami dažādās situācijās un ar dažādu detalizācijas pakāpi. Piemēram, paskaidrojumi ir nepieciešami stingras atbildības, šķiršanās vai diskriminācijas gadījumos; administratīviem lēmumiem; un tiesnešiem un žūrijām. Bet detalizācijas līmenis ir ļoti atšķirīgs.

Tam visam ir svarīga ietekme uz AI sistēmām. Doši-Velezs un kolēģi secina, ka mākslīgā intelekta sistēmām ir iespējami juridiski pamatoti skaidrojumi. Tas ir tāpēc, ka lēmuma skaidrojumu var veikt atsevišķi no tā iekšējās darbības apraksta. Turklāt komanda saka, ka skaidrojumu sistēma ir jāuzskata par atšķirīgu no AI sistēmas.

Tas ir ievērojams rezultāts. Tas nenozīmē, ka apmierinošus paskaidrojumus vienmēr būs viegli ģenerēt. Piemēram, kā mēs varam parādīt, ka drošības sistēma, kas kā ievadi izmanto sejas attēlus, nediskriminē pēc dzimuma? Tas ir iespējams, tikai izmantojot alternatīvu seju, kas ir līdzīga visos veidos, izņemot dzimumu, saka komanda.

Taču skaidrojumi AI sistēmu pieņemtajiem lēmumiem parasti ir iespējami. Un tas noved komandu pie skaidra secinājuma. Mēs iesakām, ka pašlaik mākslīgā intelekta sistēmām var un vajadzētu būt līdzīgam skaidrojuma standartam, kāds pašlaik ir cilvēkiem, viņi saka.

Taču mūsu izmantošana un izpratne par AI, visticamāk, mainīsies tādos veidos, ko mēs vēl nesaprotam (un, iespējams, arī nekad neizpratīsim). Šī iemesla dēļ šī pieeja būs jāpārskata. Nākotnē mēs, iespējams, vēlēsimies piemērot AI citam standartam, saka Doši-Velezs un citi.

Diezgan!

Atsauce: arxiv.org/abs/1711.01134 : AI atbildība saskaņā ar likumu: skaidrojuma loma

paslēpties