Ko AI joprojām nevar izdarīt

Mākslīgais intelekts nebūs īpaši gudrs, ja datori nesatvers cēloņus un sekas. Tas ir kaut kas, ar ko pat cilvēkiem ir problēmas. Autors

• Braiens Bergšteins arhīva lapa

2020. gada 19. februāris

Saimans Čovs

Nepilnu desmit gadu laikā datori ir kļuvuši ārkārtīgi labi slimību diagnosticēšanā, valodu tulkošanā un runas pārrakstīšanā. Viņi var pārspēt cilvēkus sarežģītās stratēģijas spēlēs, izveidot fotoreālistiskus attēlus un ieteikt noderīgas atbildes uz jūsu e-pastiem.

Tomēr, neskatoties uz šiem iespaidīgajiem sasniegumiem, mākslīgajam intelektam ir acīmredzamas nepilnības.

Šis stāsts bija daļa no mūsu 2020. gada marta numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Mašīnmācību sistēmas var maldināt vai sajaukt ar situācijām, kuras tās iepriekš nav redzējušas. Automašīna, kas brauc ar pašpiedziņu, kļūst apjukusi tāda scenārija dēļ, ar kuru cilvēks varētu viegli tikt galā. AI sistēma, kas ir smagi apmācīta viena uzdevuma veikšanai (teiksim, kaķu identificēšana), ir atkal jāiemāca darīt kaut ko citu (suņu identificēšanu). Šajā procesā tas var zaudēt daļu no sākotnējā uzdevuma zināšanām. Datorzinātnieki šo problēmu sauc par katastrofālu aizmirstību.

Šiem trūkumiem ir kaut kas kopīgs: tie pastāv, jo AI sistēmas nesaprot cēloņsakarību. Viņi redz, ka daži notikumi ir saistīti ar citiem notikumiem, bet viņi nenoskaidro, kuras lietas tieši liek citām lietām notikt. It kā jūs zinātu, ka mākoņu klātbūtne padara lietus iespējamību, bet jūs nezinātu, ka mākoņi izraisa lietu.

Eliass Bareinboims: AI sistēmas ir bezjēdzīgas, kad runa ir par cēloņsakarībām.

Izpratne par cēloņiem un sekām ir liels aspekts tam, ko mēs saucam par veselo saprātu, un tā ir joma, kurā AI sistēmas mūsdienās ir bezjēdzīgas, saka Eliass Bareinboims. Viņam būtu jāzina: kā Kolumbijas universitātes jaunās cēloņsakarības mākslīgā intelekta laboratorijas direktors, viņš ir šīs problēmas novēršanas centienu priekšgalā.

Viņa ideja ir iepludināt mākslīgā intelekta pētniecību ar atziņām no salīdzinoši jaunās cēloņsakarības zinātnes, jomu lielā mērā veidojusi Džūda Pērla, Tjūringa balvu ieguvusi zinātniece, kura uzskata Bareinboimu par savu protežē.

Kā to apraksta Bareinboims un Pērla, mākslīgā intelekta spēja pamanīt korelācijas, piemēram, ka mākoņi palielina lietus iespējamību, ir tikai vienkāršākais cēloņsakarības spriešanas līmenis. Tas ir pietiekami labs, lai pēdējo desmit gadu laikā būtu veicinājis AI tehnikas uzplaukumu, kas pazīstams kā dziļa mācīšanās. Ņemot vērā daudz datu par pazīstamām situācijām, šī metode var radīt ļoti labas prognozes. Dators var aprēķināt varbūtību, ka pacientam ar noteiktiem simptomiem ir noteikta slimība, jo tas ir uzzinājis, cik bieži tūkstošiem vai pat miljoniem citu cilvēku ar tādiem pašiem simptomiem slimo ar šo slimību.

Taču pieaug vienprātība par to, ka mākslīgā intelekta attīstība apstāsies, ja datori neuzlabosies cīņā ar cēloņsakarībām. Ja mašīnas varētu aptvert, ka noteiktas lietas noved pie citām lietām, tām nebūtu visu laiku jāmācās viss no jauna — tās varētu pārņemt vienā jomā apgūto un pielietot to citā. Un, ja mašīnas varētu izmantot veselo saprātu, mēs varētu tām vairāk uzticēties, lai tās varētu veikt darbības pašas, zinot, ka tās, visticamāk, nepieļaus stulbas kļūdas.

Mūsdienu mākslīgajam intelektam ir tikai ierobežota iespēja secināt, kas radīsies no noteiktas darbības. Pastiprināšanas mācībās, kas ir ļāvusi mašīnām apgūt tādas spēles kā šahs un Go, sistēma izmanto plašus izmēģinājumus un kļūdas, lai noteiktu, kuras kustības būtībā liks tām uzvarēt. Taču šī pieeja nedarbojas nekārtīgākos apstākļos reālajā pasaulē. Tas pat neatstāj mašīnu ar vispārēju izpratni par to, kā tā varētu spēlēt citas spēles.

Vēl augstāks cēloņsakarības domāšanas līmenis būtu spēja spriest par to, kāpēc lietas notika, un uzdot jautājumus, kā būtu, ja. Klīniskā pētījuma laikā pacients nomirst; vai pie vainas bija eksperimentālā medicīna vai kas cits? Skolas pārbaudes darbu rezultāti krītas; kādas politikas izmaiņas tos visvairāk uzlabotu? Šāda veida argumentācija tālu pārsniedz pašreizējās mākslīgā intelekta iespējas.

Darot brīnumus

Sapnis apveltīt datorus ar cēloņsakarību 2008. gadā Bareinboimu no Brazīlijas pārvilka uz ASV, kad viņš Riodežaneiro Federālajā universitātē ieguva maģistra grādu datorzinātnēs. Viņš izmantoja iespēju studēt UCLA datorzinātnieces un statistiķes Judea Pearl vadībā. 83 gadus vecā Pērla ir milzis... uz gigants — no cēloņsakarības, un viņa karjera palīdz ilustrēt, kāpēc ir grūti izveidot AI, kas izprot cēloņsakarību.

Pat labi apmācīti zinātnieki mēdz nepareizi interpretēt korelācijas kā cēloņsakarības pazīmes vai kļūdīties pretējā virzienā, vilcinoties izsaukt cēloņsakarību pat tad, ja tas ir pamatoti. Piemēram, 1950. gados daži ievērojami statistiķi apšaubīja, vai tabaka izraisa vēzi. Viņi apgalvoja, ka bez eksperimenta, kurā cilvēki nejauši tika iedalīti par smēķētājiem vai nesmēķētājiem, neviens nevarētu izslēgt iespēju, ka kāds nezināms, iespējams, stress vai kāds gēns, izraisīja cilvēku smēķēšanu un plaušu vēzi.

Galu galā fakts, ka smēķēšana izraisa vēzi, tika galīgi noskaidrots, taču tam nebija vajadzīgs tik ilgs laiks. Kopš tā laika Pērla un citi statistiķi ir izstrādājuši matemātisko pieeju, lai noteiktu, kādi fakti būtu nepieciešami, lai pamatotu apgalvojumu par cēloņsakarību. Pērla metode parāda, ka, ņemot vērā smēķēšanas un plaušu vēža izplatību, neatkarīgs faktors, kas izraisa abus, būtu ārkārtīgi maz ticams.

Un otrādi, Pērla formulas palīdz arī noteikt, kad korelācijas nevar izmantot, lai noteiktu cēloņsakarību. Bernhards Šolkopfs, kurš pēta cēloņsakarības mākslīgā intelekta paņēmienus kā Vācijas Maksa Planka Inteliģento sistēmu institūta direktors, norāda, ka jūs varat prognozēt valsts dzimstību, ja zināt tās stārķu populāciju. Tas nav tāpēc, ka stārķi dzemdē mazuļus vai tāpēc, ka mazuļi pievelk stārķus, bet gan tāpēc, ka ekonomiskā attīstība rada vairāk mazuļu un vairāk stārķu. Pērle ir palīdzējusi statistiķiem un datorzinātniekiem uzbrukt šādām problēmām, saka Schölkopf.

Judea Pearl: Viņa cēloņsakarības teorija ir pārveidojusi zinātni.

Pearl darbs ir arī novedis pie cēloņsakarīgu Beijesa tīklu izstrādes — programmatūras, kas izsijā lielu datu apjomu, lai noteiktu, kuri mainīgie, šķiet, visvairāk ietekmē citus mainīgos. Piemēram, GNS Healthcare, uzņēmums Kembridžā, Masačūsetsā, izmanto šīs metodes, lai konsultētu pētniekus par eksperimentiem, kas izskatās daudzsološi.

Vienā projektā GNS strādāja ar pētniekiem, kuri pēta multiplo mielomu, sava veida asins vēzi. Pētnieki vēlējās uzzināt, kāpēc daži pacienti ar šo slimību dzīvo ilgāk nekā citi pēc cilmes šūnu transplantācijas, kas ir izplatīta ārstēšanas forma. Programmatūra izpētīja datus ar 30 000 mainīgo lielumu un norādīja uz dažiem, kas, šķiet, ir īpaši iespējami cēloņsakarīgi. Biostatisti un slimības eksperti pievērsa īpašu uzmanību vienam: noteikta proteīna līmenim pacientu organismā. Pēc tam pētnieki varēja veikt mērķtiecīgu klīnisko izpēti, lai noskaidrotu, vai pacienti ar proteīnu patiešām gūst lielāku labumu no ārstēšanas. Tas ir daudz ātrāk nekā bakstīšanās šur un tur laboratorijā, saka GNS līdzdibinātāja Ija Kalila.

Tomēr uzlabojumi, ko Pērla un citi zinātnieki ir panākuši cēloņsakarības teorijā, vēl nav guvuši panākumus dziļās mācībās, kas identificē korelācijas, pārāk neuztraucoties par cēloņsakarību. Bareinboims strādā, lai spertu nākamo soli: padarīt datorus par noderīgākiem rīkiem cilvēku cēloņsakarību izpētei.

Pērla saka, ka mākslīgais intelekts nevar būt patiesi inteliģents, kamēr tam nav bagātīgas izpratnes par cēloņiem un sekām, kas ļautu veikt introspekciju, kas ir izziņas pamatā.

Viena no viņa sistēmām, kas joprojām ir beta versijā, var palīdzēt zinātniekiem noteikt, vai viņiem ir pietiekami daudz datu, lai atbildētu uz cēloņsakarību. Maksa Planka Evolūcijas antropoloģijas institūta antropologs Ričards Makelreats izmanto programmatūru, lai vadītu pētījumus par to, kāpēc cilvēkiem ir iestājusies menopauze (mēs esam vienīgie pērtiķi, kas to dara).

Hipotēze ir tāda, ka vecāku sieviešu auglības samazināšanās nāca par labu agrīnajām cilvēku sabiedrībām, jo ​​sievietēm, kuras pielika vairāk pūļu, lai rūpētos par mazbērniem, galu galā bija vairāk pēcnācēju. Bet kādi pierādījumi varētu pastāvēt šodien, lai apstiprinātu apgalvojumu, ka bērniem labāk klājas, ja apkārt ir vecvecāki? Antropologi nevar tikai salīdzināt to bērnu izglītības vai medicīnas rezultātus, kuri dzīvojuši kopā ar vecvecākiem un tiem, kuri nav dzīvojuši. Ir tādi, ko statistiķi sauc par mulsinošiem faktoriem: vecmāmiņas, iespējams, dzīvos kopā ar mazbērniem, kuriem nepieciešama visvairāk palīdzība. Bareinboima programmatūra var palīdzēt McElreath noteikt, kuri pētījumi par bērniem, kuri uzauguši kopā ar saviem vecvecākiem, ir vismazāk sajaukti ar mulsinošiem faktoriem un varētu būt noderīgi, atbildot uz viņa cēloņsakarību. Tas ir milzīgs solis uz priekšu, saka McElreath.

Pēdējā jūdze

Bareinboims runā ātri un bieži žesti ar divām rokām gaisā, it kā viņš mēģinātu līdzsvarot divas garīgā vienādojuma puses. Bija pusgads, kad es viņu apciemoju Kolumbijā oktobrī, bet likās, ka viņš tik tikko bija ievācies savā birojā — gandrīz nekas pie sienām, grāmatu plauktos, tikai gluds Mac dators un tik blīva tāfele. ar vienādojumiem un diagrammām, ka tas izskatījās kā detaļa no multfilmas par traku profesoru.

Viņš paraustīja plecus par telpas pagaidu stāvokli, sakot, ka bijis ļoti aizņemts, runājot par abām cēloņsakarības revolūcijas pusēm. Bareinboims uzskata, ka tāds darbs kā viņa piedāvā iespēju ne tikai iekļaut kauzālo domāšanu mašīnās, bet arī uzlabot to cilvēkiem.

Viņš saka, ka likt cilvēkiem rūpīgāk domāt par cēloņsakarību ne vienmēr ir daudz vieglāk nekā iemācīt to mašīnām. Pētnieki visdažādākajās disciplīnās, sākot no molekulārās bioloģijas līdz sabiedriskajai politikai, dažkārt ir apmierināti ar to, ka atklāj korelācijas, kas patiesībā nav saistītas ar cēloņsakarībām. Piemēram, daži pētījumi liecina, ka alkohola lietošana nogalinās jūs agri, savukārt citi norāda, ka mērens patēriņš ir labs un pat izdevīgs, un vēl citi pētījumi liecina, ka alkohola lietotāji pārdzīvo nedzērājus. Šī parādība, kas pazīstama kā reproducējamības krīze, parādās ne tikai medicīnā un uzturā, bet arī psiholoģijā un ekonomikā. Jūs varat redzēt visu šo secinājumu trauslumu, saka Bareinboims. Mēs mainām rezultātus ik pēc pāris gadiem.

Viņš apgalvo, ka ikvienam, kurš jautā, kā būtu, ja — medicīnas pētniekiem, kas veic klīniskos pētījumus, sociāliem zinātniekiem, kas izstrādā izmēģinājuma programmas, pat tīmekļa izdevējiem, kas gatavo A/B testus, — vajadzētu sākt ne tikai ar datu vākšanu, bet arī izmantojot Pērla cēloņsakarību loģiku un programmatūru, piemēram, Bareinboima, lai noteiktu, vai pieejamie dati, iespējams, varētu atbildēt uz cēloņsakarības hipotēzi. Galu galā viņš paredz, ka tas novedīs pie automatizētas zinātnieku programmatūras: cilvēks varētu izdomāt cēloņsakarības jautājumu, un programmatūra apvienotu cēloņsakarības secinājumu teoriju ar mašīnmācīšanās metodēm, lai izslēgtu eksperimentus, kas neatbildētu uz šo jautājumu. Tas varētu glābt zinātniekus no daudziem dārgiem strupceļiem.

Bareinboims aprakstīja šo redzējumu, kad mēs sēdējām MIT Sloan School of Management vestibilā pēc runas, ko viņš teica pagājušajā rudenī. Mums šeit, MIT, ir ēka ar, es nezinu, 200 cilvēkiem, viņš teica. Kā šie sociālie zinātnieki vai jebkurš cits zinātnieks izlemj, kurus eksperimentus veikt un kādus datu punktus apkopot? Sekojot savai intuīcijai: viņi mēģina redzēt, kur lietas vedīs, pamatojoties uz viņu pašreizējo izpratni.

Viņš teica, ka tā ir pēc būtības ierobežota pieeja, jo cilvēku zinātnieki, kas plāno eksperimentu, vienlaikus var apsvērt tikai dažus mainīgos lielumus. No otras puses, dators var redzēt simtiem vai tūkstošiem mainīgo lielumu mijiedarbību. Kodēts ar Pērla cēloņsakarības aprēķinu pamatprincipiem un spējīgs aprēķināt, kas varētu notikt ar jaunām mainīgo kopām, automatizēts zinātnieks varētu ieteikt, kādiem eksperimentiem cilvēku pētniekiem vajadzētu veltīt savu laiku. Varbūt kādu valsts politiku, kas ir pierādījusi, ka tā darbojas tikai Teksasā, varētu likt darboties Kalifornijā, ja tiktu labāk novērtēti daži cēloņsakarīgi faktori. Zinātnieki vairs neveiktu eksperimentus tumsā, sacīja Bareinboims.

Viņš arī nedomā, ka tas ir tik tālu: šī ir pēdējā jūdze pirms uzvaras.

Ja?

Lai pabeigtu šo jūdzi, iespējams, būs vajadzīgas metodes, kuras tikai sāk izstrādāt. Piemēram, Jošua Bendžo, Monreālas universitātes datorzinātnieks, kurš saņēma 2018. gada Tjūringa balvu par darbu dziļās mācīšanās jomā, cenšas panākt, lai neironu tīkli — programmatūra dziļās mācīšanās pamatā — veiktu metamācības un pamanītu. lietu cēloņi.

Pašreizējā situācijā, ja vēlaties, lai neironu tīkls noteiktu, kad cilvēki dejo, jūs tam rādītu daudz, daudz dejotāju attēlu. Ja vēlaties, lai tas identificētu, kad cilvēki skrien, jūs tam rādītu daudzus, daudzus skrējēju attēlus. Sistēma iemācītos atšķirt skrējējus no dejotājiem, identificējot pazīmes, kas attēlos mēdz atšķirties, piemēram, cilvēka roku un roku novietojumu. Bet Bengio norāda, ka pamatzināšanas par pasauli var iegūt, analizējot lietas, kas ir līdzīgas vai nemainīgas dažādās datu kopās. Varbūt neironu tīkls varētu uzzināt, ka kāju kustības fiziski izraisa gan skriešanu, gan dejošanu. Varbūt pēc šo piemēru un daudzu citu piemēru redzēšanas, kas parāda cilvēkus tikai dažas pēdas no zemes, mašīna galu galā kaut ko saprastu par gravitāciju un to, kā tā ierobežo cilvēka kustību. Laika gaitā, pietiekami apgūstot meta-apmācības par mainīgajiem, kas ir konsekventi visās datu kopās, dators varētu iegūt cēloņsakarības, kuras varētu atkārtoti izmantot daudzās jomās.

Savukārt Pērls saka, ka mākslīgais intelekts nevar būt patiesi inteliģents, kamēr tam nav bagātīgas izpratnes par cēloņiem un sekām. Lai gan cēloņsakarība nebūtu pietiekama mākslīgam vispārējam intelektam, tas ir nepieciešams, viņš saka, jo tas ļautu veikt introspekciju, kas ir izziņas pamatā. Ko darīt, ja jautājumi ir zinātnes, morālās attieksmes, brīvas gribas, apziņas pamatelementi, man teica Pērla.

Jūs nevarat piesaistīt Pērlu, lai prognozētu, cik ilgs laiks būs nepieciešams, lai datori iegūtu spēcīgas cēloņsakarības spriešanas spējas. Es neesmu futūrists, viņš saka. Bet jebkurā gadījumā viņš uzskata, ka vispirms ir jāizstrādā mašīnmācības rīki, kas apvieno datus ar pieejamajām zinātniskajām zināšanām: mums ir daudz zināšanu, kas atrodas cilvēka galvaskausā un netiek izmantotas.

Braiens Bergšteins, bijušais MIT Technology Review redaktors, ir Boston Globe viedokļu redaktora vietnieks.

paslēpties