“Uzticams AI” ir sistēma, kas palīdz pārvaldīt unikālu risku

“Uzticams AI” ir sistēma, kas palīdz pārvaldīt unikālu risku

Nodrošina Deloitte AI institūts

Mākslīgā intelekta (AI) tehnoloģija turpina progresēt ar lēcieniem un robežām un ātri kļūst par potenciālu traucētāju un būtisku veicinātāju gandrīz katram uzņēmumam katrā nozarē. Šajā posmā viens no šķēršļiem plašai AI ieviešanai vairs nav pati tehnoloģija; drīzāk tas ir izaicinājumu kopums, kas ironiskā kārtā ir daudz cilvēciskāki: ētika, pārvaldība un cilvēciskās vērtības.

Irfans Saifs ir Deloitte Risku un finanšu konsultāciju nodaļas vadītājs. Beena Ammanath ir Deloitte Consulting LLP rīkotājdirektore.

Tā kā AI izvēršas gandrīz visos mūsdienu dzīves aspektos, nepareizas AI darbības risks pieaug eksponenciāli — līdz vietai, kur šie riski var burtiski kļūt par dzīvības un nāves jautājumu. Reāli piemēri, kad mākslīgais intelekts ir aizgājis greizi, ietver sistēmas, kas diskriminē cilvēkus viņu rases, vecuma vai dzimuma dēļ, un sociālo mediju sistēmas, kas netīšām izplata baumas, dezinformāciju un daudz ko citu.

Vēl ļaunāk, šie piemēri ir tikai aisberga redzamā daļa. Tā kā mākslīgais intelekts tiek izvērsts plašākā mērogā, ar to saistītie riski, iespējams, tikai palielināsies, kas var radīt nopietnas sekas sabiedrībai kopumā un vēl lielākas sekas atbildīgajiem uzņēmumiem. No biznesa viedokļa šīs iespējamās sekas ietver visu, sākot no tiesas prāvām, regulējošiem naudas sodiem un dusmīgiem klientiem līdz apmulsumam, reputācijas kaitējumam un akcionāru vērtības iznīcināšanai.

Tomēr, tā kā AI tagad ir kļuvusi par obligātu uzņēmējdarbības iespēju — ne tikai patīkamu, — uzņēmumiem vairs nav iespējas izvairīties no AI unikālajiem riskiem, vienkārši izvairoties no AI. Tā vietā viņiem ir jāiemācās efektīvi identificēt un pārvaldīt AI riskus. Lai īstenotu cilvēku un mašīnu sadarbības potenciālu, organizācijām ir jāpaziņo AI plāns, kas tiek pieņemts un izrunāts no pasta telpas līdz sanāksmju telpai. Ieviešot ētikas sistēmu, organizācijas veido kopīgu valodu, ar kuras palīdzību var izteikt uzticību un palīdzēt nodrošināt datu integritāti starp visām iekšējām un ārējām ieinteresētajām personām. Ja ir kopēja sistēma un objektīvs, ar ko konsekventi piemērot ar AI saistīto risku pārvaldību un pārvaldību visā uzņēmumā, tas var nodrošināt ātrāku un konsekventāku AI ieviešanu.

Uzticama AI sistēma

Lai labāk risinātu ar AI ētiku un pārvaldību saistītās problēmas, tas palīdz izmantot sistēmu. Deloitte Trustworthy AI ietvars ievieš sešas galvenās dimensijas, kuras, ja ņem vērā kopā AI sistēmas ieviešanas projektēšanas, izstrādes, izvietošanas un darbības fāzēs, var palīdzēt aizsargāt ētiku un izveidot uzticamu AI stratēģiju.

Trustworthy AI sistēma ir izstrādāta, lai palīdzētu uzņēmumiem identificēt un mazināt iespējamos riskus, kas saistīti ar AI ētiku katrā AI dzīves cikla posmā. Tālāk ir sniegts sīkāks ieskats katrā no sešām ietvara dimensijām.

Uzticama AI sistēma

1. Godīgi, neobjektīvi

Uzticams AI ir jāizstrādā un jāapmāca, lai tas ievērotu godīgu, konsekventu procesu un pieņemtu godīgus lēmumus. Tajā jāiekļauj arī iekšējās un ārējās pārbaudes, lai samazinātu diskriminējošus aizspriedumus.

Neobjektivitāte ir pastāvīgs izaicinājums cilvēkiem un sabiedrībai, ne tikai AI. Tomēr AI problēma ir vēl lielāka, jo tai trūkst niansētas izpratnes par sociālajiem standartiem, nemaz nerunājot par neparasto vispārējo inteliģenci, kas nepieciešama veselā saprāta sasniegšanai, kas, iespējams, noved pie tehniski pareiziem, bet sociāli nepieņemamiem lēmumiem. AI mācās no datu kopām, ko izmanto tā apmācīšanai, un, ja šajās datu kopās ir reālās pasaules novirze, AI sistēmas var mācīties, pastiprināt un izplatīt šo novirzi digitālā ātrumā un mērogā.

Piemēram, mākslīgā intelekta sistēma, kas lidojuma laikā izlemj, kur izvietot tiešsaistes darba sludinājumus, var negodīgi mērķēt reklāmas par labāk apmaksātu darbu vietnes apmeklētājiem vīriešiem, jo ​​reālie dati liecina, ka vīrieši parasti pelna vairāk nekā sievietes. Tāpat finanšu pakalpojumu uzņēmums, kas izmanto mākslīgo intelektu, lai pārbaudītu hipotēkas lietojumprogrammas, var atklāt, ka tā algoritms netaisnīgi diskriminē cilvēkus, pamatojoties uz tādiem faktoriem, kas nav sociāli pieņemami, piemēram, rase, dzimums vai vecums. Abos gadījumos uzņēmums, kas ir atbildīgs par mākslīgo intelektu, var saskarties ar nozīmīgām sekām, tostarp normatīvajiem sodiem un reputācijas kaitējumu.

Lai izvairītos no problēmām, kas saistītas ar godīgumu un neobjektivitāti, uzņēmumiem vispirms ir jānosaka, kas ir godīgs. Tas var būt daudz grūtāk, nekā izklausās, jo jebkurai problēmai parasti nav vienotas godīguma definīcijas, kurai visi piekrīt. Uzņēmumiem arī aktīvi jāmeklē neobjektivitāte savos algoritmos un datos, veicot nepieciešamās korekcijas un ieviešot vadīklas, lai palīdzētu nodrošināt, ka papildu novirze neparādītos negaidīti. Kad tiek konstatēta novirze, tā ir jāsaprot un pēc tam jāmazina, izmantojot izveidotos procesus problēmas risināšanai un klientu uzticības atjaunošanai.

AI vairs nevar uzskatīt par melno kasti, kas saņem ievadi un ģenerē izvadi bez skaidras izpratnes par to, kas notiek iekšpusē.

2. Caurspīdīgs un izskaidrojams

Lai mākslīgais intelekts būtu uzticams, visiem dalībniekiem ir tiesības saprast, kā tiek izmantoti viņu dati un kā AI pieņem lēmumus. AI algoritmiem, atribūtiem un korelācijām ir jābūt atvērtām pārbaudei, un tās lēmumiem ir jābūt pilnībā izskaidrojamiem.

Tā kā lēmumi un procesi, kas balstās uz AI, palielinās gan skaitam, gan nozīmei, AI vairs nevar uzskatīt par melno kasti, kas saņem ievadi un ģenerē izvadi bez skaidras izpratnes par iekšienē notiekošo.

Piemēram, tiešsaistes mazumtirgotāji, kas izmanto AI, lai klientiem sniegtu ieteikumus par produktiem, ir pakļauti spiedienam izskaidrot tā algoritmus un to, kā tiek pieņemti ieteikumi. Tāpat ASV tiesu sistēma saskaras ar pastāvīgām domstarpībām par necaurredzamu AI sistēmu izmantošanu, lai informētu par kriminālsodu lēmumiem.

Svarīgi jautājumi, kas jāapsver šajā jomā, ir AI lietošanas gadījumu noteikšana, kuriem īpaši svarīga ir pārredzamība un izskaidrojamība, un pēc tam izpratne par to, kādi dati tiek izmantoti un kā tiek pieņemti lēmumi par šiem lietošanas gadījumiem. Arī attiecībā uz pārredzamību pieaug spiediens uz skaidri informēt cilvēkus kad viņi mijiedarbojas ar AI, nevis AI maskējas kā īsta persona.

3. Atbildīgs un atbildīgs

Uzticamām mākslīgā intelekta sistēmām ir jāiekļauj politikas, kas skaidri nosaka, kurš ir atbildīgs un atbildīgs par to rezultātiem. Vainot pašu tehnoloģiju par sliktiem lēmumiem un nepareiziem aprēķiniem vienkārši nav pietiekami labi — ne cilvēkiem, kuriem tiek nodarīts kaitējums, un noteikti ne valdības regulatoriem. Šī ir galvenā problēma, kas, visticamāk, kļūs vēl svarīgāka, jo AI tiek izmantots arvien vairāk kritisku lietojumu, piemēram, slimību diagnostikai, bagātības pārvaldībai un autonomai braukšanai.

Piemēram, ja transportlīdzeklis bez vadītāja izraisa sadursmi, kurš ir atbildīgs un atbildīgs par bojājumiem? Šoferis? Transportlīdzekļa īpašnieks? Ražotājs? AI programmētāji? Izpilddirektors?

Līdzīgi apsveriet ieguldījumu sabiedrības piemēru, kas izmanto automatizētu platformu, ko nodrošina AI, lai veiktu tirdzniecību savu klientu vārdā. Ja klients iegulda savus mūža ietaupījumus caur firmu un pēc tam zaudē visu sliktu algoritmu dēļ, ir jābūt mehānismam, lai noteiktu, kurš ir atbildīgs par problēmu un kurš ir atbildīgs par lietas labošanu.

Galvenie faktori, kas jāņem vērā, ir tie, kuri likumi un noteikumi varētu noteikt juridisko atbildību un vai AI sistēmas ir pārbaudāmas un uz tām attiecas esošie trauksmes cēlēju likumi. Kā arī par problēmām informēs sabiedrību un regulatorus un ar kādām sekām saskarsies atbildīgās puses?

4. Izturīgs un uzticams

Lai mākslīgais intelekts panāktu plašu ieviešanu, tam ir jābūt vismaz tikpat izturīgam un uzticamam kā tradicionālajām sistēmām, procesiem un cilvēkiem, kurus tas papildina vai aizstāj.

Lai mākslīgais intelekts tiktu uzskatīts par uzticamu, tam ir jābūt pieejamam, kad tas ir paredzēts, un tam ir jāģenerē konsekventi un uzticami rezultāti, pareizi veicot uzdevumus ne ideālos apstākļos un neparedzētās situācijās un gadījumos. Uzticama AI ir labi jāpalielina, saglabājot stabilu un uzticamu, jo tā ietekme paplašinās un pieaug. Un, ja tas neizdodas, tam ir jākļūdās paredzamā, sagaidāmā veidā.

Apsveriet piemēru ar veselības aprūpes uzņēmumu, kas izmanto AI, lai noteiktu smadzeņu skenēšanas novirzes un noteiktu atbilstošu ārstēšanu. Lai Al algoritmi būtu uzticami, ir ļoti svarīgi, lai tie iegūtu konsekventus un uzticamus rezultātus, jo dzīvības var būt uz līnijas.

Uzņēmumiem ir jāapsver un jānovērš visa veida riski — ārējie, fiziskie, digitālie — un pēc tam jāpaziņo par tiem lietotājiem.

Lai panāktu stabilu un uzticamu AI, uzņēmumiem ir jānodrošina, ka viņu AI algoritmi katrai jaunai datu kopai rada pareizos rezultātus. Viņiem ir nepieciešami arī noteikti procesi problēmu un neatbilstību risināšanai, ja un kad tās rodas. Cilvēciskais faktors šeit ir būtisks elements: izpratne par to, kā cilvēka ieguldījums ietekmē uzticamību; noteikt, kuri ir īstie cilvēki, lai sniegtu ieguldījumu; un nodrošināt, ka šie cilvēki ir atbilstoši aprīkoti un apmācīti, jo īpaši attiecībā uz aizspriedumiem un ētiku.

5. Privātuma cieņa

Privātums ir kritisks jautājums visu veidu datu sistēmām, taču tas ir īpaši svarīgi AI, jo AI sistēmu radītie sarežģītie ieskati bieži vien izriet no datiem, kas ir detalizētāki un personiskāki. Uzticamam AI ir jāatbilst datu regulējumam un jāizmanto dati tikai norādītajiem un saskaņotajiem mērķiem.

AI privātuma problēma bieži pārsniedz paša uzņēmuma sienas. Piemēram, AI palīgu tverto audio datu konfidencialitāte pēdējā laikā ir kļuvusi par ziņu virsrakstiem, un rodas domstarpības par to, cik lielā mērā uzņēmuma pārdevējiem un partneriem tiek nodrošināta piekļuve datiem un vai dati ir jādala ar tiesībaizsardzības iestādēm.

Uzņēmumiem ir jāzina, kādi klientu dati tiek vākti un kāpēc, un vai dati tiek izmantoti tā, kā klienti ir sapratuši un vienojušies. Tāpat klientiem būtu jānodrošina nepieciešamais kontroles līmenis pār saviem datiem, tostarp iespēja to darīt izvēlēties vai atteikties par viņu datu kopīgošanu. Un, ja klientiem ir bažas par datu privātumu, viņiem ir nepieciešams veids, kā paust šīs bažas.

6. Droši un droši

Lai mākslīgais intelekts būtu uzticams, tas ir jāaizsargā no kiberdrošības riskiem, kas var izraisīt fizisku un/vai digitālu kaitējumu. Lai gan drošība un drošība ir nepārprotami svarīga visām datorsistēmām, mākslīgā intelekta darbībai tie ir īpaši svarīgi, jo AI loma un ietekme uz reālās pasaules darbībām ir liela un pieaug.

Piemēram, ja uz AI balstīta finanšu sistēma tiek uzlauzta, var tikt sabojāta reputācija un zaudēta nauda vai dati. Tās, protams, ir nopietnas sekas. Tomēr tās nav ne tuvu tik nopietnas kā iespējamās sekas, ko rada AI vadīta transportlīdzekļa uzlaušana, kas var apdraudēt cilvēku dzīvības.

Vēl viens AI kiberdrošības riska piemērs ir nesens datu pārkāpums, kas saistīts ar miljoniem cilvēku pirkstu nospiedumu un sejas atpazīšanas ieraksti . Šis pārkāpums bija īpaši nopietns, jo tas bija saistīts ar cilvēku biometriskajiem datiem, kas ir pastāvīgi un nav maināmi (atšķirībā no nozagtas paroles vai cita veida standarta datiem, kurus var ātri un viegli mainīt, lai ierobežotu bojājumus).

Lai palīdzētu nodrošināt savu AI sistēmu drošību, uzņēmumiem ir rūpīgi jāapsver un jānovērš visa veida riski — ārējie, fiziskie un digitālie, tostarp daudzi citi — un pēc tam jāpaziņo par šiem riskiem lietotājiem. Lai gan ārējiem riskiem parasti tiek pievērsta vislielākā uzmanība, iekšējie riski, piemēram, krāpšana, var būt tikpat nopietni. Katrā AI lietošanas gadījumā uzņēmumiem ir jānovērtē, vai potenciālie ieguvumi pietiekami atsver saistītos riskus.

AI, kam var uzticēties

AI ētika kļūst par lielāko izaicinājumu nepārtrauktam AI progresam un plašai ieviešanai, un tas ir izaicinājums, ko uzņēmumi vairs nevar ignorēt tagad, kad AI kļūst par būtisku uzņēmējdarbības iespēju. Uzticama AI sistēma piedāvā strukturētu un visaptverošu veidu, kā domāt par AI ētiku, palīdzot uzņēmumiem izstrādāt, izstrādāt, izvietot un darbināt AI sistēmas var uzticēties.

Lai iegūtu vairāk informācijas, apmeklējiet www.deloitte.com/us/trustai .

paslēpties