Attīstās uz taisnīgāku AI

Saistībā ar Salesforce

Pandēmija, kas pēdējā gada laikā plosījās visā pasaulē, ir auksta, skarba gaismā daudzām lietām — dažādajiem gatavības līmeņiem reaģēt; kolektīva attieksme pret veselību, tehnoloģijām un zinātni; un milzīgā finansiālā un sociālā nevienlīdzība. Tā kā pasaule turpina pārvarēt Covid-19 veselības krīzi un dažviet pat sākas pakāpeniska atgriešanās darbā, skolā, ceļošanā un atpūtā, ir ļoti svarīgi atrisināt konkurējošās prioritātes par sabiedrības veselības aizsardzību, vienlaikus nodrošinot privātumu.

Ilgstošā krīze ir izraisījusi straujas izmaiņas darbā un sociālajā uzvedībā, kā arī palielinājusi paļaušanos uz tehnoloģijām. Tagad ir svarīgāk nekā jebkad agrāk, lai uzņēmumi, valdības un sabiedrība ievērotu piesardzību, izmantojot tehnoloģijas un apstrādājot personisko informāciju. Mākslīgā intelekta (AI) paplašinātā un straujā ieviešana parāda, kā adaptīvās tehnoloģijas var krustoties ar cilvēkiem un sociālajām institūcijām potenciāli riskantā vai netaisnīgā veidā.

Mūsu attiecības ar tehnoloģijām kopumā pēc pandēmijas būs dramatiski mainījušās, saka Yoav Schlesinger, Salesforce ētiskās AI prakses vadītājs. Būs sarunu process starp cilvēkiem, uzņēmumiem, valdību un tehnoloģijām; kā viņu datu plūsma starp visām šīm pusēm tiks pārrunāta jaunā sociālo datu līgumā.

AI darbībā

Covid-19 krīzei sākot izvērsties 2020. gada sākumā, zinātnieki meklēja AI, lai atbalstītu dažādus medicīniskus lietojumus, piemēram, identificētu potenciālos medikamentu kandidātus vakcīnām vai ārstēšanai, palīdzētu atklāt iespējamos Covid-19 simptomus un piešķirtu ierobežotus resursus, piemēram, intensīvu. -aprūpes nodaļu gultas un ventilatori. Konkrēti, viņi balstījās uz AI papildināto sistēmu analītisko jaudu, lai izstrādātu visprogresīvākās vakcīnas un ārstēšanas metodes.

Lai gan uzlaboti datu analīzes rīki var palīdzēt iegūt ieskatu no milzīga datu apjoma, rezultāts ne vienmēr ir bijis vienlīdzīgāks. Faktiski mākslīgā intelekta vadīti rīki un datu kopas, ar kurām tie strādā, var iemūžināt raksturīgo neobjektivitāti vai sistēmisku nevienlīdzību. Visā pandēmijas laikā aģentūras, piemēram, Slimību kontroles un profilakses centri un Pasaules Veselības organizācija, ir apkopojušas milzīgu datu apjomu, taču dati ne vienmēr precīzi atspoguļo populācijas, kuras ir cietušas nesamērīgi un negatīvi, tostarp melnādainās, brūnās un pamatiedzīvotājus. cilvēki, kā arī daži no diagnostikas sasniegumiem, ko viņi ir panākuši, saka Šlesingers.

Piemēram, biometriskās valkājamās ierīces, piemēram, Fitbit vai Apple Watch, demonstrē daudzsološu spēju noteikt iespējamos Covid-19 simptomus, piemēram, temperatūras izmaiņas vai skābekļa piesātinājumu. Tomēr šīs analīzes balstās uz bieži vien nepilnīgām vai ierobežotām datu kopām un var radīt neobjektivitāti vai netaisnību, kas nesamērīgi ietekmē neaizsargātos cilvēkus un kopienas.

Ir daži pētījumi, kas parāda zaļa LED gaisma ir grūtāk nolasīt pulsu un skābekļa piesātinājumu uz tumšākiem ādas toņiem, saka Šlesingers, atsaucoties uz pusvadītāju gaismas avotu. Tāpēc cilvēkiem ar melnu un brūnu ādu tas var nedarboties vienlīdz labi, lai novērstu Covid simptomus.

AI ir pierādījis lielāku efektivitāti, palīdzot analizēt milzīgas datu kopas. Dienvidkalifornijas Universitātes Viterbi Inženieru skolas komanda izstrādāja AI sistēmu, lai palīdzētu analizēt Covid-19 vakcīnas kandidātus. Pēc 26 potenciālo kandidātu identificēšanas tā sašaurināja jomu līdz 11, kuriem, visticamāk, veiksies. Analīzes datu avots bija Imūno epitopu datu bāze, kas ietver vairāk nekā 600 000 infekcijas noteicošo faktoru, kas izriet no vairāk nekā 3600 sugām.

Citi pētnieki no Viterbi izmanto AI, lai precīzāk atšifrētu kultūras kodus un labāk izprastu sociālās normas, kas nosaka etnisko un rasu grupu uzvedību. Tas var būtiski ietekmēt to, kā noteiktai populācijai klājas krīzes, piemēram, pandēmijas, laikā, pateicoties reliģiskām ceremonijām, tradīcijām un citiem sociālajiem paradumiem, kas var veicināt vīrusu izplatību.

Vadošie zinātnieki Kristina Lerman un Freds Morstaters ir balstījuši savus pētījumus uz Morālo pamatu teorija , kas apraksta intuitīvo ētiku, kas veido kultūras morāles konstrukcijas, piemēram, rūpes, godīgumu, lojalitāti un autoritāti, palīdzot informēt indivīda un grupas uzvedību.

Mūsu mērķis ir izstrādāt sistēmu, kas ļauj mums izprast dinamiku, kas virza kultūras lēmumu pieņemšanas procesu dziļākā līmenī, saka Morstaters. USC publicētais ziņojums . To darot, mēs veidojam vairāk kulturāli pamatotas prognozes.

Pētījumā arī tiek pētīts, kā ētiskā un godīgā veidā izvietot AI. Lielākā daļa cilvēku, bet ne visi, ir ieinteresēti padarīt pasauli labāku, saka Šlesingers. Tagad mums ir jāiet uz nākamo līmeni — kādus mērķus mēs vēlamies sasniegt un kādus rezultātus mēs vēlētos redzēt? Kā mērīsim panākumus un kā tie izskatīsies?

Ētisko bažu kliedēšana

Šlesingers saka, ka ir ļoti svarīgi pārbaudīt pieņēmumus par savāktajiem datiem un AI procesiem. Mēs runājam par godīguma panākšanu, izmantojot izpratni. Viņš saka, ka katrā procesa solī jūs veicat vērtību spriedumus vai pieņēmumus, kas novērtēs jūsu rezultātus noteiktā virzienā. Tas ir galvenais izaicinājums, veidojot ētisku AI, proti, aplūkot visas vietas, kur cilvēki ir neobjektīvi.

Daļa no šī izaicinājuma ir datu kopu, kas informē AI sistēmas, kritiska pārbaude. Ir svarīgi izprast datu avotus un datu sastāvu, kā arī atbildēt uz tādiem jautājumiem kā: Kā dati tiek veidoti? Vai tas ietver daudzveidīgu ieinteresēto personu loku? Kāds ir labākais veids, kā šos datus izvietot modelī, lai samazinātu neobjektivitāti un palielinātu godīgumu?

Cilvēkiem atgriežoties darbā, darba devēji tagad var būt izmantojot sensoru tehnoloģijas ar iebūvētu AI , tostarp termokameras augstas temperatūras noteikšanai; audio sensori, lai noteiktu klepu vai paaugstinātas balsis, kas veicina elpceļu pilienu izplatīšanos; un video straumes, lai uzraudzītu roku mazgāšanas procedūras, fiziskās distancēšanās noteikumus un masku prasības.

Šādām uzraudzības un analīzes sistēmām ir ne tikai tehniskās precizitātes problēmas, bet arī tās rada galvenos riskus cilvēktiesības , privātumu, drošību un uzticēšanos . Impulss pastiprinātai uzraudzībai ir bijusi pandēmijas satraucoša blakusparādība. Valdības aģentūras ir izmantojušas novērošanas kameru ierakstus, viedtālruņa atrašanās vietas datus, kredītkaršu pirkumu ierakstus un pat pasīvus temperatūras skenēšanas datus pārpildītās sabiedriskās vietās, piemēram, lidostās, lai palīdzētu izsekot to cilvēku pārvietošanās gadījumiem, kuri varētu būt saslimuši ar Covid-19 vai bijuši pakļauti tam, un konstatētu vīrusa pārnešanu. ķēdes.

Pirmais jautājums, uz kuru jāatbild, ir ne tikai tas, vai mēs varam to izdarīt, bet vai mums tas ir jādara? saka Šlesingers. Personu biometrisko datu skenēšana bez viņu piekrišanas rada ētiskas bažas, pat ja tā tiek uzskatīta par ieguvumu lielākam labumam. Mums kā sabiedrībai vajadzētu būt spēcīgai sarunai par to, vai ir pamatots iemesls ieviest šīs tehnoloģijas.

Kā izskatās nākotne

Tā kā sabiedrība atgriežas pie kaut kā, kas tuvojas normālam, ir pienācis laiks fundamentāli pārvērtēt attiecības ar datiem un noteikt jaunas datu vākšanas normas, kā arī datu atbilstošu izmantošanu un iespējamu ļaunprātīgu izmantošanu. Veidojot un izvietojot AI, tehnologi turpinās izdarīt nepieciešamos pieņēmumus par datiem un procesiem, taču ir jāapšauba šo datu pamatojums. Vai dati ir iegūti likumīgi? Kurš to samontēja? Uz kādiem pieņēmumiem tas balstās? Vai tas ir precīzi uzrādīts? Kā var saglabāt pilsoņu un patērētāju privātumu?

Tā kā mākslīgais intelekts tiek izmantots plašāk, ir svarīgi apsvērt, kā arī radīt uzticību. Viena pieeja ir AI izmantošana, lai uzlabotu cilvēku lēmumu pieņemšanu, nevis pilnībā aizstātu cilvēka ieguldījumu.

Būs vairāk jautājumu par AI lomu sabiedrībā, tā attiecībām ar cilvēkiem un kādi ir piemēroti uzdevumi cilvēkiem un kādi ir piemēroti uzdevumi AI, saka Šlesingers. Ir noteiktas jomas, kurās mākslīgā intelekta iespējas un tā spēja palielināt cilvēka spējas palielinās mūsu uzticēšanos un paļaušanos. Vietās, kur AI neaizstāj cilvēkus, bet palielina viņu centienus, tas ir nākamais horizonts.

Vienmēr būs situācijas, kurās lēmumu pieņemšanā ir jāiesaista cilvēks. Piemēram, regulētās nozarēs, piemēram, veselības aprūpē, banku nozarē un finansēs, lai nodrošinātu atbilstību, ir jābūt cilvēkam, saka Šlesingers. Jūs nevarat vienkārši izmantot AI, lai pieņemtu lēmumus par aprūpi bez ārsta ieguldījuma. Lai arī kā mums patiktu ticēt, ka mākslīgais intelekts to spēj, mākslīgajam intelektam vēl nav empātijas un, iespējams, arī nekad nebūs.

Ir ļoti svarīgi, lai mākslīgā intelekta savāktie un izveidotie dati nevis saasinātu, bet gan samazinātu nevienlīdzību. Ir jābūt līdzsvaram starp AI veidu meklēšanu, kas palīdzētu paātrināt cilvēku un sociālo progresu, veicinot taisnīgas darbības un atbildes, un vienkārši atzīšanos, ka noteiktām problēmām būs nepieciešami cilvēku risinājumi.

Šo saturu izstrādāja Insights, MIT Technology Review pielāgotā satura grupa. To nav rakstījuši MIT Technology Review redakcijas darbinieki.

paslēpties