Ārpus AI hype cikla: uzticēšanās un AI nākotne

Nodrošina Nianse

Runājot par AI, solījumu netrūkst. Daži saka, ka tas atrisinās visas problēmas, savukārt citi brīdina, ka tas nesīs pasaules galu, kādu mēs to zinām. Abas pozīcijas regulāri spēlē Holivudas sižetos, piemēram Westworld, ogleklis, Mazākuma ziņojums, Viņa, un Bijusī Machina . Šie stāsti ir pārliecinoši, jo tie liek mums kā AI tehnoloģiju radītājiem un patērētājiem izlemt, vai mēs uzticamies AI sistēmai vai, precīzāk, uzticamies tam, ko sistēma dara ar tai sniegto informāciju.

Šo saturu veidoja Nuance. To nav rakstījuši MIT Technology Review redakcijas darbinieki.

Džo Petro ir uzņēmuma Nuance CTO.

Šie stāsti sniedz arī svarīgu mācību tiem no mums, kuri pavada savas dienas, izstrādājot un veidojot AI lietojumprogrammas: uzticēšanās ir būtisks faktors, kas nosaka AI lietojumprogrammas panākumus. Kurš vēlas mijiedarboties ar sistēmu, kurai viņi neuzticas?

Melnā kaste un nezināmā izpratne

Pat kā topoša tehnoloģija AI ir neticami sarežģīts un spēcīgs, sniedzot priekšrocības, veicot aprēķinus un nosakot modeļus milzīgās datu kopās ar ātrumu un efektivitāti. Taču šī jauda apvienojumā ar melnās kastes uztveri par mākslīgo intelektu un tā tieksmi pēc lietotāju datiem rada daudz mainīgo, nezināmo un iespējamās neparedzētās sekas. AI praktiskajos lietojumos slēpjas fakts, ka uzticēšanās var būtiski ietekmēt lietotāja uztveri par sistēmu, kā arī saistītajiem uzņēmumiem, pārdevējiem un zīmoliem, kas šīs lietojumprogrammas piedāvā tirgū.

Uzlabojumi, piemēram, visuresošais mākonis un malu skaitļošanas jauda, ​​padara AI spējīgāku un efektīvāku, vienlaikus atvieglojot un ātrāk lietojumprogrammu izveidi un izvietošanu. Vēsturiski galvenā uzmanība tika pievērsta programmatūras izstrādei un lietotāju pieredzes dizainam. Taču vairs nav vienkārši jāizstrādā sistēma, kas atrisina problēmu x . Mēs esam atbildīgi par saistošu, personalizētu, netraucētu un uzticamu pieredzi katram lietotājam.

AI ir izsalcis datu: ziniet, ko jūs to barojat

Iespēja to veiksmīgi izdarīt lielā mērā ir atkarīga no lietotāja datiem. Sistēmas veiktspēju, uzticamību un lietotāju uzticību AI modeļa izvadei tikpat lielā mērā ietekmē modeļa dizaina kvalitāte, kā tajā iekļautie dati. Dati ir degviela, kas darbina AI dzinēju, kas praktiski pārvērš lietotāja datu potenciālo enerģiju kinētiskā enerģijā praktisku ieskatu un inteliģentas izvades veidā. Tāpat kā Formula 1 sacīkšu automašīnas uzpildīšana ar sliktu vai sabojātu degvielu samazinātu veiktspēju un braucēja spēju konkurēt, mākslīgā intelekta sistēma, kas apmācīta ar nepareiziem vai neatbilstošiem datiem, var radīt neprecīzus vai neparedzamus rezultātus, kas grauj lietotāju uzticību. Kad uzticība ir salauzta, to ir grūti atgūt. Tāpēc AI izstrādātāju un pārdevēju stingra datu pārvaldības prakse ir būtiska, lai izveidotu efektīvus AI modeļus, kā arī radītu klientu pieņemšanu, apmierinātību un saglabāšanu.

Atbildīga datu pārvaldība veido uzticības ķēdi, kas sniedzas no patērētājiem līdz uzņēmumiem, kas apkopo lietotāju datus, un tiem, kas veido ar AI darbināmas sistēmas. Mūsu pienākums ir zināt un izprast privātuma likumus un politikas, kā arī apsvērt drošību un atbilstību sākotnējā izstrādes posmā. Mums ir jābūt dziļai izpratnei par to, kā dati tiek izmantoti un kam tiem ir piekļuve. Mums ir arī jāatklāj un jānovērš datu slēptās novirzes, veicot visaptverošu testēšanu.

Lietotāju datu apstrāde par patentētu “avota kodu”

Apstrādājiet lietotāju datus kā sensitīvu intelektuālo īpašumu (IP). Tas ir patentēts pirmkods, ko izmanto, lai izveidotu mākslīgā intelekta modeļus, kas atrisina konkrētas problēmas, rada individuālu pieredzi un sasniedz mērķtiecīgus vēlamos rezultātus. Šie dati tiek iegūti no personiskas lietotāju mijiedarbības, piemēram, sarunām starp patērētājiem un zvanu aģentiem, ārstiem un pacientiem, kā arī bankām un klientiem. Tas ir sensitīvs, jo tas rada intīmus, ļoti detalizētus digitālos lietotāju profilus, kuru pamatā ir privāta finanšu, veselības, biometriskā un cita informācija.

Lietotāju dati ir jāaizsargā un jāizmanto tikpat rūpīgi kā jebkurš cits IP, jo īpaši mākslīgā intelekta sistēmām tādās stingri regulētās nozarēs kā veselības aprūpe un finanšu pakalpojumi. Ārsti izmanto mākslīgā intelekta runu, dabiskās valodas izpratni un sarunvalodas virtuālos aģentus, kas izveidoti ar pacienta veselības datiem, lai dokumentētu aprūpi un piekļuvi diagnostikas norādījumi reāllaikā . Banku un finanšu pakalpojumos mākslīgā intelekta sistēmas apstrādā miljoniem klientu darījumu un izmanto biometriskos balss nospiedumus, acu kustības un uzvedības datus (piemēram, cik ātri rakstāt, kādus vārdus lietojat, ar kuru roku velkat). atklāt iespējamu krāpšanu vai autentificēt lietotāju identitāti .

Gan veselības aprūpes pakalpojumu sniedzēji, gan uzņēmumi veido savas zīmola digitālās durvis, kas nodrošina efektīvu, personalizētu lietotāja pieredzi, izmantojot SMS, tīmekli, tālruni, video, lietotnes un citus kanālus. Patērētāji arī izvēlas laiku taupošu reāllaika digitālo mijiedarbību. Veselības aprūpes un tirdzniecības organizācijas pamatoti vēlas kontrolēt un aizsargāt savas pacientu un klientu attiecības un datus katrā digitālās iesaistes metodē, lai veidotu zīmola atpazīstamību, personalizētu mijiedarbību un lojalitāti.

Katram mākslīgā intelekta pārdevējam un izstrādātājam ir ne tikai jāapzinās lietotāja datu sensitīvais raksturs, bet arī nepieciešamība darboties saskaņā ar augstiem ētikas standartiem, lai izveidotu un uzturētu nepieciešamo uzticības ķēdi.

Šeit ir galvenie jautājumi, kas jāapsver:

Kam ir piekļuve datiem? Ieviesiet skaidru un pārskatāmu politiku, kas ietver stingrus aizsardzības pasākumus, piemēram, piekļuves ierobežošanu noteikta veida datiem un tālākpārdošanas vai trešo pušu kopīgošanas aizliegšanu. Tādas pašas politikas būtu jāattiecina uz mākoņpakalpojumu sniedzējiem vai citiem izstrādes partneriem.

Kur dati tiek glabāti un cik ilgi? Jautājiet, kur dati atrodas (mākonis, mala, ierīce) un cik ilgi tie tiks glabāti. Ieviešot Eiropas Savienības Vispārīgo datu aizsardzības regulu, Kalifornijas Patērētāju privātuma likumu un paredzot papildu štata un federālās privātuma aizsardzības pasākumus, AI izstrādes laikā datu uzglabāšanas un saglabāšanas praksei būtu jāpievērš uzmanība.

Kā tiek definēti un sadalīti ieguvumi? AI lietojumprogrammas ir arī jāpārbauda ar dažādām datu kopām, lai atspoguļotu paredzētās reālās pasaules lietojumprogrammas, novērstu netīšus novirzes un nodrošinātu ticamus rezultātus.

Kā dati izpaužas sistēmā? Izprotiet, kā dati plūst caur sistēmu. Vai sensitīviem datiem piekļūst neironu tīkls un tos galvenokārt apstrādā kā 0 un 1 virkni, vai arī tie tiek glabāti sākotnējā formā kopā ar medicīnisku vai personu identificējošu informāciju? Katram sensitīvo datu veidam izveidojiet un ievērojiet atbilstošas ​​datu saglabāšanas un dzēšanas politikas.

Kurš var realizēt komerciālu vērtību no lietotāja datiem? Apsveriet iespējamās sekas, ko varētu radīt datu koplietošana nolūkos, kas neietilpst datu sākotnējā tvērumā vai avotā. Ņemiet vērā iespējamo apvienošanos un pārņemšanu, iespējamos papildu produktus un citus faktorus.

Vai sistēma ir droša un saderīga? Vispirms izstrādājiet un izveidojiet privātumu un drošību. Apsveriet, kā produkta vai pakalpojuma dzīves cikla laikā var tikt ietekmēta pārredzamība, lietotāja piekrišana un sistēmas veiktspēja.

AI realitāte darbībā

Biometriskās lietojumprogrammas palīdz novērst krāpšanu un vienkāršo autentifikāciju. HSBC VoiceID balss biometrijas sistēmai ir veiksmīgi novērsa gandrīz 400 miljonu mārciņu zādzību (apmēram 493 miljoni ASV dolāru) ar telefonkrāpniekiem Apvienotajā Karalistē. Tas salīdzina personas balss nospiedumu ar tūkstošiem individuālu runas īpašību izveidotā balss ierakstā, lai apstiprinātu lietotāja identitāti. Citi uzņēmumi izmanto balss biometriju, lai apstiprinātu attālo zvanu centra darbinieku identitāti, pirms viņi var piekļūt patentētām sistēmām un datiem. Vajadzība pēc šādiem pasākumiem pieaug, jo patērētāji arvien vairāk mijiedarbojas ar digitālo un tālruni.

Viedās lietojumprogrammas nodrošina drošu, personalizētu, digitālu klientu apkalpošanu. Globāls telekomunikāciju uzņēmums izmanto sarunvalodas AI, lai radītu konsekventu, drošu un personalizētu klientu pieredzi savā lielajā un daudzveidīgajā zīmolu portfelī. Tā kā klienti arvien vairāk iesaistās digitālajos kanālos, uzņēmums meklēja tehnoloģiju partnerus, lai paplašinātu savas iekšējās zināšanas, vienlaikus nodrošinot, ka tas saglabās kontroli pār saviem datiem, izvietojot virtuālo palīgu klientu apkalpošanai.

Trīs populārākais mazumtirgotājs izmanto ar balsi darbināmu virtuālā asistenta tehnoloģiju, lai ļautu pircējiem augšupielādēt bezsaistē redzēto preču fotoattēlus, un pēc tam piedāvā preces, lai tās varētu iegādāties, pamatojoties uz šiem attēliem.

Apkārtējās AI darbināmas klīniskās lietojumprogrammas uzlabo veselības aprūpes pieredzi, vienlaikus mazinot ārsta izdegšanu. EmergeOrtho Ziemeļkarolīnā izmanto niansi Dragon Ambient pieredze (DAX) lietojumprogramma, lai pārveidotu to, kā tās ortopēdiskā prakse visā valstī var sadarboties ar pacientiem un dokumentēt aprūpi. Apkārtējās klīniskās inteliģences televeselības lietojumprogramma precīzi fiksē katru ārsta un pacienta mijiedarbību pārbaudes telpā vai televeselības zvana laikā, pēc tam automātiski atjaunina pacienta veselības ierakstu. Pacientiem ir visa ārsta uzmanība, vienlaikus racionalizējot izdegšanu izraisošo elektronisko dokumentu kārtošanu, kas ārstiem jāpabeidz, lai saņemtu samaksu par aprūpes sniegšanu.

AI vadītas diagnostikas attēlveidošanas sistēmas nodrošina, ka pacienti saņem nepieciešamo turpmāko aprūpi. Radiologi vairākās slimnīcās izmanto AI un dabiskās valodas apstrādi, lai automātiski identificētu un iegūtu ieteikumus turpmākiem izmeklējumiem, ja ir aizdomas par vēzi un citām slimībām, kas redzamas rentgena un citos attēlos. Tā pati tehnoloģija var palīdzēt pārvaldīt atpalikušu un papildu attēlveidošanas pieaugumu, kad tiek atviegloti Covid-19 ierobežojumi, ļaujot pakalpojumu sniedzējiem plānot procedūras, sākt ieņēmumu atgūšanu un uzturēt pacientu aprūpi.

Paātrinoties digitālajai transformācijai, mums ir jāatrisina problēmas, ar kurām saskaramies šodien, vienlaikus gatavojoties nākotnes iespēju pārpilnībai. Šo centienu pamatā ir apņemšanās veidot uzticēšanos un datu pārvaldību mūsu AI attīstības projektos un organizācijās.

paslēpties