Mēs neesam gatavi mākslīgajam intelektam, saka jaunās 1 miljona ASV dolāru AI balvas ieguvējs

Reičela Vu / MIT CSAIL

Regīna Barzilaja MIT Datorzinātnes un mākslīgā intelekta laboratorijas (CSAIL) profesors ir pirmais Vāveres AI balvas par mākslīgo intelektu cilvēces labā ieguvējs, kas ir jauna balva, ar ko tiek atzīti izcili pētījumi mākslīgā intelekta jomā. Barzilay sāka savu karjeru, strādājot pie dabiskās valodas apstrādes. Pēc pārdzīvošanas no krūts vēža 2014. gadā viņa pievērsa uzmanību mašīnmācības algoritmi vēža noteikšanai un jaunu zāļu izstrādei . Balvu 2021. gada februārī pasniegs Mākslīgā intelekta attīstības asociācija (AAAI).

1 miljona dolāru naudas balvu, ko nodrošina Ķīnas tiešsaistes izglītības uzņēmums Squirrel AI , par kuru esam rakstījuši iepriekš, piešķir balvu tādā pašā finansiālajā līmenī kā Nobela prēmija un Tjūringa balva datorzinātnēs. Es runāju ar Barzilaju pa tālruni par balvu un AI solījumu un vilšanos.

Mūsu saruna ir rediģēta garuma un skaidrības labad.

Apsveicam ar šo balvu. Ko tas nozīmē jums un AI kopumā?

Paldies. Zināt, ka ir daudz jomu, kurās AI joprojām neko nedara, bet varētu būt. Mēs visu laiku izmantojam mašīntulkošanas vai ieteikuma sistēmas, taču neviens tās neuzskata par izdomātu tehnoloģiju, neviens par tām nejautā. Taču citās mūsu dzīves jomās, kas ir ļoti svarīgas mūsu labklājībai, piemēram, veselības aprūpei, AI vēl nav akceptējusi sabiedrība. Es ceru, ka šī balva un ar to saistītā uzmanība palīdz mainīt cilvēku domas un ļauj viņiem saskatīt iespējas, kā arī mudina AI kopienu spert nākamos soļus.

Kāda veida soļi?

Kad tehnoloģija pārcēlās no tvaika enerģijas uz elektrību, pirmie mēģinājumi piegādāt elektroenerģiju rūpniecībā nebija īpaši veiksmīgi, jo cilvēki vienkārši mēģināja atkārtot tvaika dzinējus. Es domāju, ka kaut kas līdzīgs tagad notiek ar AI. Mums ir jāizstrādā, kā to integrēt daudzās dažādās jomās: ne tikai veselības aprūpē, bet arī izglītībā, materiālu dizainā, pilsētplānošanā utt. Protams, tehnoloģiju jomā ir jādara vairāk, tostarp labāku algoritmu izstrāde, taču mēs šo tehnoloģiju ieviešam stingri regulētā vidē, un mēs neesam īsti izskatījuši, kā to izdarīt.

Pašlaik AI plaukst vietās, kur neveiksmju izmaksas ir ļoti zemas. Ja Google atrod nepareizu tulkojumu vai sniedz nepareizu saiti, tas ir labi. jūs varat vienkārši doties uz nākamo. Bet ārstam tas nedarbosies. Ja pacientiem piešķirat nepareizu ārstēšanu vai nokavējat diagnozi, tas patiešām rada nopietnas sekas. Daudzi algoritmi patiesībā var paveikt lietas labāk nekā cilvēki. Bet mēs vienmēr vairāk uzticamies savai intuīcijai, savam prātam, nevis tam, ko nesaprotam. Mums ir jāsniedz ārstiem iemesli uzticēties AI. FDA izskata šo problēmu, bet es domāju, ka tā nav atrisināta ASV vai jebkur citur pasaulē.

2014. gadā jums tika diagnosticēts krūts vēzis. Vai tas mainīja jūsu domas par savu darbu?

Ak, jā, absolūti. Viena no lietām, kas notika, kad es izārstējos un pavadīju nesamērīgi daudz laika slimnīcā, ir tā, ka lietas, pie kurām strādāju, tagad šķita triviālas. Es domāju: cilvēki cieš. Mēs varam kaut ko darīt.

Sākot ārstēšanu, es jautāju, kas notiek ar tādiem pacientiem kā es, ar manu audzēja veidu un vecumu un šo ārstēšanu. Viņi teiktu: Ak, šis klīniskais pētījums bija, bet jūs tam īsti neatbilstat. Un es domāju, ka krūts vēzis ir ļoti izplatīta slimība. Ir tik daudz pacientu, ar tik daudz uzkrāto datu. Kāpēc mēs to neizmantojam? Taču šo informāciju nevar viegli iegūt no sistēmas ASV slimnīcās. Tas ir tur, bet tas ir tekstā. Un tāpēc es sāku izmantot NLP, lai tai piekļūtu. Es nevarēju iedomāties nevienu citu jomu, kurā cilvēki brīvprātīgi izmet pieejamos datus. Bet tas ir tas, kas notika medicīnā.

Vai slimnīcas izmantoja iespēju vairāk izmantot šos datus?

Pagāja zināms laiks, lai atrastu ārstu, kurš strādātu ar mani. Es teicu cilvēkiem, ja jums ir kāda problēma, es mēģināšu tās atrisināt. Man nav vajadzīgs finansējums. Vienkārši iedodiet man problēmu un datus. Taču man bija vajadzīgs laiks, līdz atradu līdzstrādniekus. Zini, es nebiju īpaši populārs tēls.

No šī NLP darba es pārgāju pie mammogrammu pacientu riska prognozēšanas, izmantojot attēlu atpazīšanu, lai prognozētu, vai jūs saslimsit ar vēzi vai nē, — kā jūsu slimība varētu progresēt.

Vai šie rīki būtu mainījuši, ja tie būtu bijuši pieejami jums, kad jums tika diagnosticēts?

Pilnīgi noteikti. Mēs varam izmantot šo informāciju manās mammogrammās pirms manas diagnozes noteikšanas, un tā jau bija — jūs to varat skaidri noteikt. Tas nav kaut kāds brīnums — vēzis neaug no vakardienas uz šodienu. Tas ir diezgan ilgs process. Audos ir pazīmes, bet cilvēka acs spēja noteikt ļoti mazus rakstus. Manā gadījumā tas būtu bijis redzams divus gadus iepriekš.

Kāpēc ārsts to neredzēja?

Tas ir grūts uzdevums. Katrā mammogrammā ir balti plankumi, kas var būt vai nebūt vēzis, un ārstam ir jāizlemj, kuram no šiem baltajiem plankumiem ir jāveic biopsija. Ārstam ir jāsabalansē darbība pēc intuīcijas un kaitējuma nodarīšana pacientam, veicot biopsijas, kas nav vajadzīgas. Taču tieši šāda veida lēmums mums var palīdzēt pieņemt datu vadīts AI daudz sistemātiskāk.

Tas mūs atgriež pie uzticības problēmas. Vai mums ir nepieciešams tehnisks labojums, padarot rīkus saprotamākus, vai arī mums ir jāizglīto cilvēki, kas tos izmanto?

Tas ir lielisks jautājums. Dažus lēmumus būtu patiešām viegli izskaidrot cilvēkam. Ja mākslīgais intelekts attēlā konstatē vēzi, varat tuvināt apgabalu, ko modelis aplūko, veicot prognozes. Bet, ja jūs lūdzat mašīnai, kā mēs arvien biežāk darām, darīt lietas, ko cilvēks nevar, ko tieši šī mašīna jums parādīs? Tas ir kā suns, kas var smaržot daudz labāk nekā mēs, izskaidrojot, kā tas var kaut ko saost. Mums vienkārši nav šīs spējas. Es domāju, ka, tā kā mašīnas kļūst daudz progresīvākas, tas ir lielais jautājums. Kāds izskaidrojums jūs pārliecinātu, ja jūs pats nevarat atrisināt šo uzdevumu?

Vai mums vajadzētu gaidīt, līdz AI var pilnībā izskaidrot sevi?

Nē. Padomājiet par to, kā mēs tagad atbildam uz jautājumiem par dzīvību un nāvi. Uz lielāko daļu medicīnisko jautājumu, piemēram, kā jūs reaģēsit uz šo ārstēšanu vai zālēm, tiek atbildēts, izmantojot statistikas modeļus, kas var izraisīt kļūdas. Neviens no tiem nav ideāls.

Tas pats ir ar AI. Es domāju, ka nav labi gaidīt, līdz mēs izstrādāsim perfektu AI. Es nedomāju, ka tas notiks tuvākajā laikā. Jautājums ir par to, kā izmantot savas stiprās puses un izvairīties no vājajām pusēm.

Visbeidzot, kāpēc mākslīgajam intelektam vēl nav bijusi liela ietekme uz Covid-19?

AI neatrisinās visas mūsu lielās problēmas. Bet ir bijuši daži nelieli piemēri. Kad šī gada sākumā tika samazināti visi nebūtiskie klīniskie pakalpojumi, mēs izmantojām AI rīku, lai noteiktu, kuriem onkoloģijas pacientiem Bostonā joprojām vajadzētu doties un veikt ikgadēju mammogrammu.

Taču galvenais iemesls, kāpēc AI nav bijis noderīgāks, ir nevis tehnoloģiju, bet gan datu trūkums. Ziniet, es esmu MIT J-Clinic, MI veselības aprūpes centrā, vadošajā komandā, un aprīlī daudzi no mums teica: Mēs patiešām vēlamies kaut ko darīt — kur mēs varam iegūt datus? Bet mēs nevarējām to iegūt. Tas bija neiespējami. Pat tagad, sešus mēnešus vēlāk, nav skaidrs, kā mēs iegūstam datus.

Otrs iemesls ir tas, ka mēs nebijām gatavi. Pat parastos apstākļos, kad cilvēki nav pakļauti stresam, ir grūti ieviest AI rīkus procesā un pārliecināties, ka tas viss ir pareizi regulēts. Pašreizējās krīzes apstākļos mums vienkārši nav šādas iespējas.

Ziniet, es saprotu, kāpēc ārsti ir konservatīvi: cilvēku dzīvības ir apdraudētas. Bet es ceru, ka tas būs modinātājzvans, cik nesagatavoti mēs esam, lai ātri reaģētu uz jauniem draudiem. Lai arī kā es domāju, ka mākslīgais intelekts ir nākotnes tehnoloģija, ja mēs neizdomāsim, kā tai uzticēties, mēs neredzēsim, ka tā virzīsies uz priekšu.

paslēpties