AI ir uzlauzis galveno matemātisko mīklu, lai izprastu mūsu pasauli

matemātiski ģenerēta ainava

Ms Tech | Zinātnes fotoattēlu bibliotēka, izmantojot AP





Ja vien neesat fiziķis vai inženieris, jums tiešām nav daudz iemesla zināt par daļējiem diferenciālvienādojumiem. Es zinu. Pēc tam, kad gadiem ilgi pētot tos bakalaura grāda iegūšanai, studējot mašīnbūvi, es tos nekad neesmu izmantojis reālajā pasaulē.

Taču daļējie diferenciālvienādojumi jeb PDE arī ir sava veida maģiski. Tie ir matemātikas vienādojumu kategorija, kas patiešām labi apraksta izmaiņas telpā un laikā, un tādējādi ir ļoti ērti, lai aprakstītu mūsu Visuma fiziskās parādības. Tos var izmantot, lai modelētu visu, sākot no planētu orbītām līdz plākšņu tektonikai un beidzot ar gaisa turbulenci, kas traucē lidojumu, kas savukārt ļauj mums veikt praktiskas lietas, piemēram, prognozēt seismisko aktivitāti un izstrādāt drošas lidmašīnas.

Lieta ir tāda, ka PDE ir ļoti grūti atrisināt. Un šeit atrisināšanas nozīmi, iespējams, vislabāk ilustrē piemērs. Pieņemsim, ka mēģināt simulēt gaisa turbulenci, lai pārbaudītu jaunu lidmašīnas dizainu. Ir zināms PDE ar nosaukumu Navier-Stokes, ko izmanto, lai aprakstītu jebkura šķidruma kustību. Navier-Stokes atrisināšana ļauj jebkurā brīdī uzņemt gaisa kustības momentuzņēmumu (pazīstams arī kā vēja apstākļi) un modelēt, kā tas turpinās kustēties vai kā tas kustējās iepriekš.



Šie aprēķini ir ļoti sarežģīti un skaitļošanas ietilpīgi, tāpēc disciplīnās, kurās tiek izmantots daudz PDE, matemātikas veikšanai bieži izmanto superdatorus. Tas ir arī iemesls, kāpēc AI joma ir īpaši interesējusies par šiem vienādojumiem. Ja mēs varētu izmantot padziļinātu mācīšanos, lai paātrinātu to risināšanas procesu, tas varētu sniegt daudz labuma zinātniskajai izpētei un inženierzinātnēm.

Tagad Caltech pētnieki ir ieviesuši jauna padziļinātas mācīšanās tehnika PDE risināšanai, kas ir ievērojami precīzāka nekā iepriekš izstrādātās padziļinātās mācīšanās metodes. Tas ir arī daudz vairāk vispārināms, spēj atrisināt visas PDE ģimenes, piemēram, Navjē-Stoksa vienādojumu jebkura veida šķidrumam, bez nepieciešamības atkārtoti apmācīt. Visbeidzot, tas ir 1000 reižu ātrāks nekā tradicionālās matemātiskās formulas, kas atvieglotu mūsu paļaušanos uz superdatoriem un palielinātu mūsu skaitļošanas jaudu, lai modelētu vēl lielākas problēmas. Pareizi. Aiziet.

Āmuru laiks

Pirms iedziļināmies tajā, kā pētnieki to izdarīja, vispirms novērtēsim rezultātus. Zemāk esošajā gifā var redzēt iespaidīgu demonstrāciju. Pirmajā kolonnā ir parādīti divi šķidruma kustības momentuzņēmumi; otrais parāda, kā šķidrums turpināja kustēties reālajā dzīvē; un trešais parāda, kā neironu tīkls paredzēja šķidruma pārvietošanos. Būtībā tas izskatās identisks otrajam.



Papīrs ir saņēmis daudz buzz vietnē Twitter, un pat repera MC Hammera uzsauciens . Jā, patiešām.

Labi, atpakaļ pie tā, kā viņi to darīja.



Kad funkcija atbilst

Vispirms ir jāsaprot, ka neironu tīkli būtībā ir funkciju aproksimatori. (Saki ko?) Kad viņi apmāca pārī savienotu ievades un izvades datu kopu, viņi faktiski aprēķina funkciju vai matemātisko darbību sēriju, kas transponēs vienu citā. Padomājiet par kaķu detektora izveidi. Jūs apmācāt neironu tīklu, ievadot tajā daudz attēlu ar kaķiem un lietām, kas nav kaķi (ievades) un atzīmējot katru grupu ar attiecīgi 1 vai 0 (izejas). Pēc tam neironu tīkls meklē labāko funkciju, kas var pārvērst katru kaķa attēlu par 1 un katru pārējo attēlu par 0. Tādējādi tas var aplūkot jaunu attēlu un noteikt, vai tas ir kaķis. Tas izmanto atrasto funkciju, lai aprēķinātu savu atbildi, un, ja tā apmācība bija laba, lielāko daļu laika tas būs pareizi.

Ērti šis funkcijas tuvināšanas process ir tas, kas mums nepieciešams, lai atrisinātu PDE. Galu galā mēs cenšamies atrast funkciju, kas vislabāk raksturo, piemēram, gaisa daļiņu kustību fiziskajā telpā un laikā.

Tagad šeit ir papīra būtība. Neironu tīkli parasti tiek apmācīti, lai tuvinātu funkcijas starp ieejām un izejām, kas definētas Eiklīda telpā, jūsu klasiskajā grafikā ar x, y un z asīm. Taču šoreiz pētnieki nolēma definēt ieejas un izejas Furjē telpā, kas ir īpašs grafika veids viļņu frekvenču attēlošanai. Intuīcija, ko viņi izmantoja darbā citās jomās, ir tāda, ka kaut ko līdzīgu gaisa kustībai patiesībā var raksturot kā viļņu frekvenču kombināciju, saka Anima Anandkumara, Caltech profesore, kura kopā ar saviem kolēģiem, profesoriem Endrjū Stjuartu un Kaušiku pārraudzīja pētījumu. Bhattacharya. Kopējais vēja virziens makro līmenī ir kā zema frekvence ar ļoti gariem, letarģiskiem viļņiem, savukārt mazie virpuļi, kas veidojas mikrolīmenī, ir kā augstas frekvences ar ļoti īsiem un straujiem.



Kāpēc tas ir svarīgi? Tā kā Furjē funkciju ir daudz vieglāk tuvināt Furjē telpā, nekā strīdēties ar PDE Eiklīda telpā, kas ievērojami vienkāršo neironu tīkla darbu. Iepazīstieties ar ievērojamu precizitātes un efektivitātes pieaugumu: papildus milzīgajām ātruma priekšrocībām salīdzinājumā ar tradicionālajām metodēm, to tehnika nodrošina par 30% zemāku kļūdu līmeni, risinot Navier-Stokes, nekā iepriekšējās padziļinātās mācīšanās metodes.

Viss ir ārkārtīgi gudrs, kā arī padara metodi vispārināmāku. Iepriekšējās padziļinātās apmācības metodes bija jāapmāca atsevišķi katram šķidruma veidam, turpretim šī ir jāapmāca tikai vienu reizi, lai apstrādātu visas tās, kā apstiprināja pētnieku eksperimenti. Lai gan viņi vēl nav mēģinājuši to attiecināt uz citiem piemēriem, tai vajadzētu būt arī iespējai apstrādāt visus zemes sastāvus, risinot PDE, kas saistīti ar seismisko aktivitāti, vai katru materiāla veidu, risinot PDE, kas saistīti ar siltumvadītspēju.

Super-simulācija

Profesori un viņu doktoranti neveica šo pētījumu tikai teorētiskas izklaides dēļ. Viņi vēlas ieviest AI vairāk zinātnes disciplīnās. Sarunājoties ar dažādiem klimata zinātnes, seismoloģijas un materiālu zinātnes līdzstrādniekiem, Anandkumara vispirms nolēma kopā ar saviem kolēģiem un studentiem risināt PDE izaicinājumu. Tagad viņi strādā, lai praksē izmantotu savu metodi kopā ar citiem Caltech un Lawrence Berkeley Nacionālās laboratorijas pētniekiem.

Viena pētījuma tēma Anandkumar ir īpaši sajūsmā: klimata pārmaiņas. Navier-Stokes ne tikai labi modelē gaisa turbulenci; to izmanto arī laika apstākļu modelēšanai. Viņa saka, ka labas, smalkas laika prognozes globālā mērogā ir tik sarežģīta problēma, un pat lielākajos superdatoros mēs to nevaram izdarīt globālā mērogā. Tātad, ja mēs varam izmantot šīs metodes, lai paātrinātu visu cauruļvadu, tas būtu ārkārtīgi iedarbīgi.

Ir arī daudz, daudz vairāk pieteikumu, viņa piebilst. Šajā ziņā debesis ir robeža, jo mums ir vispārīgs veids, kā paātrināt visas šīs lietojumprogrammas.

paslēpties