Viens mākslīgais neirons ir iemācīts atpazīt simtiem rakstu

Mākslīgais intelekts ir joma, kurā notiek straujas, aizraujošas pārmaiņas. Tas lielā mērā ir saistīts ar uzlabotu izpratni par neironu tīklu darbību un plašu datu bāzu izveidi, lai palīdzētu tos apmācīt. Rezultāts ir mašīnas, kas pēkšņi ir kļuvušas labākas tādās jomās kā sejas un objektu atpazīšana, uzdevumi, kuros cilvēki vienmēr ir turējuši virsroku (skatiet Mašīnu mācīšana, lai mūs saprastu).

Taču šo atklājumu pamatā ir mīkla. Lai gan šķiet, ka neironu tīkli ir veidoti pēc cilvēka smadzeņu darbības veida, tajos esošie mākslīgie neironi nelīdzinās tiem, kas darbojas mūsu pašu mitrajā programmā. Piemēram, mākslīgajiem neironiem parasti ir tikai nedaudzas sinapses, un tiem pilnībā trūkst īsu, sazarotu nervu paplašinājumu, kas pazīstami kā dendriti, un tūkstošiem sinapsu, kas veidojas gar tiem. Patiešām, neviens īsti nezina, kāpēc īstiem neironiem ir tik daudz sinapšu.

Mūsdienās tas mainās, pateicoties Džefa Hokinsa un Subutai Ahmada darbam Numentā, Silīcija ielejas starta uzņēmumā, kas koncentrējās uz bioloģiskās informācijas apstrādes principu izpratni un izmantošanu. Izrāviens, ko šie puiši ir panākuši, ir nākt klajā ar jaunu teoriju, kas beidzot izskaidro milzīgo sinapsu skaitu reālos neironos, un izveidot modeli, pamatojoties uz šo teoriju, kas atveido daudzas īstu neironu saprātīgās uzvedības.

Īstie neironi sastāv no šūnas ķermeņa, kas pazīstams kā soma, kurā atrodas šūnas kodols un no kura izplūst vairāki tuvumā esoši vai proksimāli dendrīti, kā arī aksons, smalka kabeļveida projekcija, kas var paplašināties daudzus centimetrus, lai izveidotu savienojumu. citiem neironiem. Aksona galā ir vēl viens zaru kopums, kas pazīstams kā distālie dendriti, jo tie atrodas tālu no somas.

Proksimālie un distālie dendriti veido tūkstošiem savienojumu, ko sauc par sinapsēm, ar citu nervu šūnu aksoniem. Šie savienojumi lieliski ietekmē ātrumu, ar kādu nervu šūna rada elektriskos signālus, kas pazīstami kā tapas.

Vienprātība ir tāda, ka neironi mācās, atpazīstot noteiktus savienojumu modeļus starp sinapsēm un uguni, kad viņi redz šo modeli.

Bet, lai gan ir viegli saprast, kā proksimālās sinapses var ietekmēt šūnu ķermeni un šaušanas ātrumu, ir grūti saprast, kā distālās sinapses var darīt to pašu, jo tās atrodas tik tālu.

Hokinss un Ahmads tagad saka, ka zina, kas notiek. Viņu jaunā ideja ir tāda, ka distālās un proksimālās sinapses mācīšanās procesā spēlē pilnīgi dažādas lomas. Proksimālās sinapses spēlē parasto lomu, lai aktivizētu šūnu, kad parādās noteikti savienojumu modeļi.

Šis ir parastais mācīšanās process. Mēs parādām, ka neirons var atpazīt simtiem modeļu pat liela trokšņa un mainīguma klātbūtnē, kamēr vispārējā nervu aktivitāte ir reta, saka Hokinss un Ahmads.

Bet distālās sinapses dara kaut ko citu. Viņi arī atpazīst noteiktus modeļus, bet neizraisa iedarbināšanu. Tā vietā tie ietekmē šūnas elektrisko stāvokli tādā veidā, kas palielina šaušanas iespējamību, ja rodas cits īpašs modelis. Tātad distālās sinapses sagatavo šūnu citu modeļu ienākšanai. Vai arī, kā saka Hokinss un Ahmads, šīs sinapses palīdz šūnai paredzēt, kāds būs nākamais modelis, ko uztver proksimālās sinapses.

Tas ir ļoti svarīgi. Tas nozīmē, ka papildus mācībām, kad ir konkrēts modelis, šūna apgūst arī secību, kādā parādās modeļi. Mēs parādām, kā neironu tīkls ar šo īpašību iemācīsies un atcerēsies modeļu secības, viņi saka.

Turklāt tie parāda, ka tas viss darbojas labi pat liela trokšņa daudzuma klātbūtnē, kā tas vienmēr notiek bioloģiskajās sistēmās.

Tas ir nozīmīgs jauns domāšanas veids par neironiem, un tas atveido dažas no galvenajām informācijas apstrādes iezīmēm cilvēka smadzenēs. Piemēram, Hokinss un Ahmads parāda, ka šī sistēma neatceras katru secības parauga detaļu, bet gan saglabā atšķirību starp vienu un nākamo modeli.

Tāpēc svarīgs ir nevis kopējais informācijas apjoms modelī, bet gan atšķirība starp šo modeli un nākamo.

Tā ir interesanta īpašība, kas var palīdzēt izskaidrot vēl vienu mulsinošu cilvēka atmiņas iezīmi, ko sauc par sadalīšanu. Šis ir novērojums, ka vidēji cilvēki savās darba atmiņās var saglabāt apmēram septiņas informācijas daļas. Šie gabali var būt tādi kā cipari, burti vai pat vārdi, taču neatkarīgi no tā, kādi tie ir, cilvēki var atcerēties tikai apmēram septiņus no tiem (plus vai mīnus divi!).

Bet šeit ir lieta — viena vārda informācijas saturs, piemēram, sinapse, ir ievērojami lielāks nekā viena cipara informācijas saturs, piemēram, 7. Mīkla ir tāda, ka neviens nezina, kā smadzenēm izdodas saturēt informāciju septiņos. vārdus tikpat viegli, cik tas satur informāciju septiņos ciparus.

Bet Hokinsa un Ahmada jaunajā modelī šī problēma pazūd. Smadzenes neuzglabā informāciju, kas saistīta ar vārdu vai ciparu, bet tikai atšķirību starp tiem, kas var būt ievērojami mazāka. Tam vajadzētu radīt dažas pārbaudāmas hipotēzes par atmiņas būtību.

Jaunais modelis rada arī citas pārbaudāmas hipotēzes. Piemēram, modelis darbojas tikai tad, ja starp viena neirona aksonu un cita neirona dendrītu ir dažas sinapses. Ja sinapses būtu pārāk daudz, nebūtu iespējams atšķirt vienu modeli no otra un visi modeļi izskatītos vienādi.

Ja Hokinsa un Ahmada modelis ir pareizs, tas nevar notikt reālos neironos. Lai tas nenotiktu, mēs prognozējam tāda mehānisma esamību, kas aktīvi attur no vairāku sinapsu veidošanās pēc vienas sinapses izveidošanas, viņi saka.

Tā ir neparasta lieta bioloģijā — pārbaudāma hipotēze. Bet tas noteikti dod neirozinātniekiem kaut ko meklēt ar saviem palielināmajiem stikliem.

Visbeidzot, šī jaunā domāšana nenāk no akadēmiskās vides, bet gan no Silīcija ielejas starta. Šis uzņēmums ir uzņēmēja, izgudrotāja un neirozinātnieka Džefa Hokinsa smadzeņu bērns. Hokinss izgudroja Palm Pilot 1990. gados un kopš tā laika ir pievērsis uzmanību neirozinātnei uz pilnu slodzi.

Tā ir neparasta zināšanu kombinācija, taču ļoti iespējams, ka tuvākajā nākotnē mēs redzēsim šos jaunos mākslīgos neironus, kas strādās pie reālās pasaules problēmām. Starp citu, Hokinss un Ahmads savas jaunās rotaļlietas sauc par Hierarhiskās Temporal Memory neironiem vai HTM neironiem. Gaidiet dzirdēt daudz vairāk par viņiem.

Atsauce: arxiv.org/abs/1511.00083 : Kāpēc neironiem ir tūkstošiem sinapšu, secības atmiņas teorija neokorteksā

paslēpties