Kāpēc pat kodes smadzenes ir gudrākas par AI

Viena no ziņkārīgajām dziļo neironu tīklu iezīmēm, kas ir aiz mašīnmācības, ir tā, ka tie pārsteidzoši atšķiras no neironu tīkliem bioloģiskajās sistēmās. Lai gan pastāv līdzības, dažiem kritiskiem mašīnmācīšanās mehānismiem nav analogu dabiskajā pasaulē, kur mācīšanās notiek citādā veidā.

Šīs atšķirības, iespējams, ir iemesls, kāpēc dažos veiktspējas aspektos mašīnmācīšanās sistēmas tik tālu atpaliek no dabiskajām. Piemēram, kukaiņi var atpazīt smakas jau pēc dažām iedarbības reizēm. No otras puses, mašīnām ir vajadzīgas milzīgas apmācības datu kopas, lai mācītos. Datorzinātnieki cer, ka plašāka izpratne par dabiskajām mācīšanās formām palīdzēs viņiem novērst plaisu.

Ienāc Čārlzs Delahunts un kolēģi no Vašingtonas universitātes Sietlā, kuri ir izveidojuši mākslīgu neironu tīklu, kas atdarina ožas mācīšanās sistēmas struktūru un uzvedību. piektdiena manduca kodes. Viņi saka, ka viņu sistēma sniedz svarīgu ieskatu par to, kā dabiskie tīkli mācās, un tas var ietekmēt iekārtas.

Vispirms nedaudz fona. Kožu ožas mācīšanās sistēma ir salīdzinoši vienkārša, un to ir labi kartējuši neirozinātnieki. Tas sastāv no pieciem atšķirīgiem tīkliem, kas pārsūta informāciju no viena uz otru.

Pirmā ir aptuveni 30 000 ķīmisko receptoru sistēma, kas nosaka smakas un nosūta diezgan trokšņainu signālu kopu uz nākamo līmeni, kas pazīstams kā antenas daiva. Tas satur apmēram 60 vienības, kas pazīstamas kā glomerulos, un katra koncentrējas uz specifiskām smaržām.

Pēc tam antenas daiva nosūta neironu smakas kodus uz sēņu ķermeni, kurā ir aptuveni 4000 kenjona šūnu un tiek uzskatīts, ka smaržas kodē kā atmiņas.

Visbeidzot, rezultātu nolasa ārējo neironu slānis, kuru skaits ir 10 s. Tie interpretē sēņu ķermeņa signālus kā darbības, piemēram, lidošanu pret vēju.

Vairāki šīs sistēmas aspekti pilnībā atšķiras no tiem, kas atrodami mašīnmācības tīklos. Piemēram, antenas daiva kodē informāciju zemas dimensijas parametru telpā, bet nosūta to sēnes ķermenim, kas to kodē augstas dimensijas parametru telpā. Turpretim mākslīgo neironu tīklu slāņiem mēdz būt līdzīgi izmēri.

Un kodes veiksmīga smakas atpazīšana iedarbina atalgojuma mehānismu, kurā neironi izsmidzina ķīmisku neirotransmiteru, ko sauc par oktopamīnu, antenas daivā un sēņu ķermenī.

Šī ir būtiska mācību procesa daļa. Šķiet, ka oktopamīns palīdz stiprināt nervu vadu, kas noved pie panākumiem. Tā ir galvenā hebiešu mācīšanās daļa, kurā šūnas, kas sašaurinās, savienojas. Patiešām, neirozinātnieki jau sen ir zinājuši, ka kodes nemācās bez oktopamīna. Bet loma, ko tas spēlē, nav labi saprotama.

Mācīšanās mašīnās ir ļoti atšķirīga. Tas balstās uz procesu, ko sauc par backpropagation, kas uzlabo neironu savienojumus tādā veidā, kas uzlabo rezultātus. Bet informācija šajā procesā būtībā pārvietojas atpakaļ pa tīklu, un dabā tai nav zināma analoga.

Lai labāk izprastu, kā kodes mācās, Delahunt un citi izveidoja mākslīgu neironu tīklu, kas atdarina dabiskā neironu tīklu. Mēs izveidojām pilnīgu skaitļošanas modeli piektdiena manduca kožu ožas sistēma, kas ietver antenas daivas un sēņu ķermeņa mijiedarbību oktopamīna stimulācijas ietekmē.

Modelis ir īpaši izstrādāts, lai reproducētu dabiskās sistēmas uzvedību visos līmeņos. Konkrēti, modelis simulē trokšņainos signālus, ko rada smakas receptori, un dimensijas izmaiņas, informācijai plūstot no antenas daivas uz sēņu ķermeni, un tajā ir iekļauts oktopamīna lomas analogs.

Un rezultāti padara interesantu lasīšanu. Modelis parāda, kā smakas receptori rada trokšņainu signālu, ko iepriekš pastiprina antenas daiva. Tomēr dimensijas maiņa, signālam virzoties uz sēnes korpusu, novērš troksni, un tas ļauj sistēmai ģenerēt īpašus, nepārprotamus darbības signālus, piemēram, lidot pret vēju.

Oktopamīna loma arī izskatās skaidrāka. Simulācijas parāda, ka mācīšanās var notikt bez oktopamīna, taču tā ir tik lēna, ka faktiski ir bezjēdzīga. Tas nozīmē, ka oktopamīns darbojas kā spēcīgs mācīšanās paātrinātājs.

Bet tas, kā tas tiek darīts, joprojām ir diskusijā. Delahunt un co ir savas idejas. Iespējams, tas ir mehānisms, kas ļauj kodei apiet raksturīgos organiskos ierobežojumus jaunu sinapsu augšanai Hebijā — ierobežojumus, kas citādi ierobežotu kodes līdz nepieņemami lēnam mācīšanās ātrumam.

Oktopamīnam ir arī cita loma. Hebbian mācīšanās tikai pastiprina jau esošos savienojumus, un tas rada jautājumu par to, kā rodas jauni vadi. Delahunt un co saka, ka oktopamīns atver jaunus pārraides kanālus vadiem. Tas paplašina risinājumu telpu, ko sistēma var izpētīt mācību laikā, viņi saka.

Un visiespaidīgākais ir tas, ka simulētais tīkls mācās līdzīgi dabiskajam tīklam. Mūsu modelis spēj spēcīgi apgūt jaunas smakas, un mūsu integrācijas un aizdedzes neironu simulācijas atbilst in vivo degšanas ātruma datu statistiskajām iezīmēm, saka Delahunt un co.

Šis darbs varētu būtiski ietekmēt sintētisko neironu tīklu izstrādi, kuriem ātri jāmācās. No mašīnmācīšanās viedokļa modelis nodrošina bioloģiski iedvesmotus mehānismus, kas ir potenciāli noderīgi, veidojot neironu tīklus ātrai apmācībai no ļoti dažiem paraugiem, saka komanda.

Tātad nākotnes mašīnmācības tīklos drīzumā var būt simulētas oktopamīna un citu neirotransmiteru versijas.

Protams, neirotransmiteri ir svarīgi ne tikai mācībās. Neirozinātnieki labi apzinās savu lomu emocijās, garastāvokļa regulēšanā utt. Tajā slēpjas vēl viens pētniecības ceļš, kuru mašīnmācības komandas būs ieinteresētas izpētīt.

Atsauce: arxiv.org/abs/1802.02678 : Mācīšanās bioloģiskie mehānismi: ožas mācīšanās skaitļošanas modelis Manduca sexta moth ar pielietojumu neironu tīkliem

paslēpties