AI mācās izveidot sevi

Cilvēki ir cīnījušies, lai izveidotu patiesi inteliģentas mašīnas. Varbūt mums jāļauj viņiem pašiem tikt galā.

Shuhua Xiong

autors

• Vils Duglass Heavens arhīva lapa

2021. gada 27. maijs

Maza nūju figūriņa ar ķīļveida galvu traucas pa ekrānu. Tas pārvietojas pustupē, velkot vienu ceļgalu gar zemi. Tā staigā! Eh, sava veida.

Tomēr Rui Vans ir sajūsmā. Katru dienu es ieeju savā birojā un atveru datoru, un es nezinu, ko gaidīt, viņš saka.

Uber mākslīgā intelekta pētniekam Vangam patīk pamest Pārī beztermiņa celmlauzis , programmatūra, kuru viņš palīdzēja izstrādāt, un tā visu nakti darbojās viņa klēpjdatorā. POET ir sava veida apmācības dojo virtuālajiem robotiem. Pagaidām viņi neko daudz nemācās darīt. Šie AI aģenti nav spēlē Go , atklājot vēža pazīmes , vai saliekamie proteīni — viņi mēģina orientēties rupjā multfilmu ainavā ar žogiem un gravām, neapgāžoties.

Taču aizraujoši nav tas, ko roboti apgūst, bet gan tas, kā viņi mācās. POET ģenerē šķēršļu joslas, novērtē robotprogrammatūras spējas un piešķir viņiem nākamo izaicinājumu bez cilvēka līdzdalības. Soli pa solim roboti uzlabojas, izmantojot izmēģinājumus un kļūdas. Kādā brīdī tas var pārlēkt pāri klintij kā kung fu meistars, saka Vans.

Šobrīd tas var šķist vienkārši, taču Vangam un nedaudziem citiem pētniekiem POET sniedz mājienu par revolucionāri jaunu veidu, kā izveidot superviedās mašīnas: panākot, ka mākslīgais intelekts izveidojas pats par sevi.

Vangas bijušais kolēģis Džefs Klūns ir viens no lielākajiem šīs idejas veicinātājiem. Clune ir strādājis pie tā gadiem ilgi, vispirms Vaiomingas Universitātē un pēc tam Uber AI Labs, kur viņš strādāja kopā ar Vangu un citiem. Tagad dalot savu laiku starp Britu Kolumbijas Universitāti un OpenAI, viņu atbalsta viena no pasaules labākajām mākslīgā intelekta laboratorijām .

Klūns mēģinājumu izveidot patiesi inteliģentu AI sauc par vērienīgāko zinātnisko meklējumu cilvēces vēsturē. Šodien, septiņas desmitgades pēc tam, kad sākās nopietni centieni izveidot AI, mēs joprojām esam tālu no tādu iekārtu radīšanas, kas ir gandrīz tikpat gudras kā cilvēki, nemaz nerunājot par gudrākām. Klūns domā, ka POET varētu norādīt uz īsceļu.

Viņš saka, ka mums ir jānoņem važas un jāiziet no sava ceļa.

Ja Klūnam ir taisnība, izmantojot AI, lai izveidotu AI varētu būt nozīmīgs solis ceļā, pie kura kāda diena ved mākslīgais vispārējais intelekts (AGI) — mašīnas, kas spēj pārdomāt cilvēkus. Tuvākajā laikā šī tehnika varētu arī palīdzēt mums atklāt dažādus intelekta veidus: necilvēciskus viedus, kas var atrast risinājumus negaidītos veidos un, iespējams, papildināt mūsu pašu intelektu, nevis to aizstāt.

Evolūcijas atdarināšana

Es pirmo reizi runāju ar Clune par ideju pagājušā gada sākumā, tikai dažas nedēļas pēc viņa pārejas uz OpenAI. Viņš labprāt apsprieda iepriekšējo darbu, taču palika šaurs par to, ko viņš dara ar savu jauno komandu. Tā vietā, lai pieņemtu zvanu iekšā, viņš labprātāk staigāja augšā un lejup pa ielām ārpus biroja, kamēr mēs runājām.

Viss, ko Klūns teiktu, bija tas, ka OpenAI bija piemērots. Mana ideja ļoti saskan ar daudzām lietām, kurām viņi tic, viņš saka. Tā bija sava veida laulība, kas noslēgta debesīs. Viņiem patika šī vīzija, un viņi gribēja, lai es nāku šeit un to īstenotu. Dažus mēnešus pēc Klūna pievienošanās OpenAI nolīga arī lielāko daļu savas vecās Uber komandas.

Clune ambiciozā vīzija ir balstīta ne tikai uz OpenAI investīcijām. AI vēsture ir piepildīta ar piemēriem, kuros cilvēku izstrādāti risinājumi padevās mašīnmācītiem risinājumiem. Ņemiet vērā datora redzi: pirms desmit gadiem lielais sasniegums attēlu atpazīšanas jomā notika, kad esošās ar rokām veidotās sistēmas tika aizstātas ar tādām, kas mācīja sevi no nulles. Tas pats attiecas uz daudziem AI panākumiem.

Viena no aizraujošajām lietām AI un jo īpaši mašīnmācībā ir tās spēja atrast risinājumus, ko cilvēki nav atraduši - lai mūs pārsteigtu. Bieži minēts piemērs ir AlphaGo (un tā pēctecis AlphaZero), kas senajā, valdzinošajā Go spēlē pārspēj labāko, ko cilvēce var piedāvāt, izmantojot šķietami svešas stratēģijas. Pēc simtiem gadu cilvēku meistaru pētījumiem AI atrada risinājumus, par kuriem neviens nekad nebija domājis.

Clune tagad strādā ar OpenAI komandu, kas izstrādāja robotprogrammatūras, kas iemācījās spēlēt paslēpes virtuālajā vidē 2018. gadā. Šie AI sākās ar vienkāršiem mērķiem un vienkāršiem rīkiem to sasniegšanai: vienam pārim bija jāatrod otrs, kas varētu paslēpties aiz kustīgiem šķēršļiem. Tomēr, kad šie roboti tika atbrīvoti, lai mācītos, viņi drīz vien atrada veidus, kā izmantot savas vides priekšrocības tā, kā pētnieki nebija paredzējuši. Viņi izmantoja savas virtuālās pasaules simulētās fizikas kļūdas, lai pārlēktu pāri sienām un pat izietu cauri tām.

Šāda veida negaidīta uzvedība piedāvā vilinošus mājienus, ka AI varētu nonākt pie tehniskiem risinājumiem, par kuriem cilvēki paši neiedomātos, izgudrojot jaunus un efektīvākus algoritmu vai neironu tīklu veidus vai pat pilnībā atsakoties no neironu tīkliem, kas ir mūsdienu AI stūrakmens.

Klūnam patīk atgādināt cilvēkiem, ka inteliģence jau ir radusies no vienkāršiem pirmsākumiem. Interesanti šajā pieejā ir tas, ka mēs zinām, ka tā var darboties, viņš saka. Ļoti vienkāršais Darvina evolūcijas algoritms radīja jūsu smadzenes, un jūsu smadzenes ir visgudrākais mācīšanās algoritms Visumā, ko mēs līdz šim zinām. Viņa doma ir tāda, ka, ja inteliģence, kādu mēs to zinām, ir radusies neprātīgas gēnu mutācijas rezultātā neskaitāmu paaudžu laikā, kāpēc gan necensties atkārtot intelekta radīšanas procesu, kas, iespējams, ir vienkāršāks, nevis pašu intelektu?

Saistīts stāsts

Mākslīgais vispārējais intelekts: vai mēs esam tuvu un vai ir jēga mēģināt?

Mašīna, kas varētu domāt kā cilvēks, ir bijusi mākslīgā intelekta izpētes vadošā vīzija kopš seniem laikiem, un joprojām ir tās visšķautīgākā ideja.

Bet šeit ir vēl viens būtisks novērojums. Intelekts nekad nav bijis evolūcijas galapunkts, kaut kas, uz ko jātiecas. Tā vietā tas parādījās daudzos dažādos veidos, sākot no neskaitāmiem sīkiem risinājumiem izaicinājumiem, kas ļāva dzīvām būtnēm izdzīvot un pieņemt nākotnes izaicinājumus. Intelekts ir pašreizējā un beztermiņa procesa augstākais punkts. Šajā ziņā evolūcija ļoti atšķiras no algoritmiem, kā cilvēki tos parasti uzskata par līdzekli mērķa sasniegšanai.

Tieši šī atvērtība, kas redzama šķietami bezmērķīgajā POET radīto izaicinājumu virknē, Klūns un citi uzskata, ka varētu radīt jaunus AI veidus. Gadu desmitiem mākslīgā intelekta pētnieki ir mēģinājuši izveidot algoritmus, lai atdarinātu cilvēka intelektu, taču patieso izrāvienu var panākt, veidojot algoritmus, kas mēģina atdarināt evolūcijas beztermiņa problēmu risināšanu, un sēdēt un skatīties, kas parādās.

Pētnieki jau izmanto mašīnmācīšanos pašas par sevi, apmācot to, lai rastu risinājumus dažām no šīs jomas smagākajām problēmām, piemēram, kā izveidot mašīnas, kas spēj apgūt vairāk nekā vienu uzdevumu vienlaikus vai tikt galā ar situācijām, ar kurām viņi iepriekš nav saskārušies. Daži tagad domā, ka šīs pieejas izmantošana un skriešana ar to varētu būt labākais ceļš uz mākslīgo vispārējo intelektu. Mēs varētu izveidot algoritmu, kuram sākotnēji nav daudz inteliģences, un skatīties, kā tas sāk darboties līdz pat AGI, saka Klūns.

Patiesība ir tāda, ka pagaidām AGI paliek tikai fantāzija. Bet tas lielā mērā ir tāpēc, ka neviens nezina, kā to izdarīt. AI attīstība ir pakāpeniska, un to veic cilvēki, un progress parasti ir saistīts ar esošo paņēmienu vai algoritmu pielāgošanu, kas rada pakāpenisku veiktspējas vai precizitātes lēcienus. Klūns šos centienus raksturo kā mēģinājumus atklāt mākslīgā intelekta pamatelementus, nezinot, ko jūs meklējat un cik bloku jums būs nepieciešams. Un tas ir tikai sākums. Kādā brīdī mums ir jāuzņemas Herkules uzdevums tos visus apvienot, viņš saka.

Lūgšana AI atrast un salikt mums šos celtniecības blokus ir paradigmas maiņa. Tas nozīmē, ka mēs vēlamies izveidot inteliģentu iekārtu, taču mums ir vienalga, kā tā varētu izskatīties — vienkārši dodiet mums visu, kas darbojas.

Pat ja AGI nekad netiek sasniegts, pašmācības pieeja joprojām var mainīt AI veidus, kas tiek izveidoti. Pasaulei ir vajadzīgs vairāk nekā ļoti labs Go spēlētājs, saka Klūns. Viņam izveidot supergudru mašīnu nozīmē izveidot sistēmu, kas izdomā savus izaicinājumus, atrisina tos un pēc tam izdomā jaunus. POET ir neliels ieskats šajā darbībā. Klūns iedomājas mašīnu, kas iemāca botam staigāt, pēc tam spēlēt hopscotch, tad varbūt spēlēt Go. Tad varbūt tas apgūst matemātikas mīklas un sāk izdomāt savus izaicinājumus, viņš saka. Sistēma nepārtraukti ievieš jauninājumus, un debesis ir robeža, kur tā varētu nonākt.

Iespējams, tās ir mežonīgas spekulācijas, taču viena cerība ir tāda, ka šādas mašīnas varētu izvairīties no mūsu konceptuālajiem strupceļiem, palīdzot mums pārvarēt ļoti sarežģītas krīzes, piemēram, klimata pārmaiņas vai globālā veselība.

Bet vispirms mums tas ir jāizveido.

Kā izveidot smadzenes

Ir daudz dažādu veidu, kā savienot mākslīgās smadzenes.

Neironu tīkli ir izgatavoti no vairākiem mākslīgo neironu slāņiem, kas kodēti programmatūrā. Katru neironu var savienot ar citiem iepriekš minētajos slāņos. Neironu tīkla vadu savienojuma veidam ir liela atšķirība, un jaunas arhitektūras bieži rada jaunus sasniegumus.

Cilvēku zinātnieku kodētie neironu tīkli bieži vien ir izmēģinājumu un kļūdu rezultāts. Ir maz teorijas par to, kas darbojas un kas nedarbojas, un nav garantijas, ka ir atrasti vislabākie dizaini. Tāpēc labāku neironu tīklu dizaina meklēšanas automatizācija ir bijusi viena no karstākajām AI tēmām vismaz kopš 80. gadiem. Visizplatītākais veids, kā automatizēt procesu, ir ļaut AI ģenerēt daudzus iespējamos tīkla dizainus un ļaut tīklam automātiski izmēģināt katru no tiem un izvēlēties labākos. To parasti sauc par neiro-evolūcijas vai neironu arhitektūras meklēšanu (NAS).

Dažu pēdējo gadu laikā šīs mašīnu konstrukcijas ir sākušas apsteigt cilvēku konstrukcijas. 2018. gadā Estebans Reāls un viņa kolēģi Google izmantoja NAS, lai ģenerētu neironu tīklu attēlu atpazīšanai. pārspēt labākos cilvēku veidotos tīklus tajā laikā. Tas bija acu atvēršana.

2018. gada sistēma ir daļa no notiekošā Google projekta AutoML, kas arī izmantoja NAS, lai izveidotu EfficientNets — padziļinātu apmācību modeļu saimi, kas ir efektīvākas nekā cilvēku izstrādātās , panākot augstu precizitātes līmeni attēlu atpazīšanas uzdevumos ar mazākiem, ātrākiem modeļiem.

Trīs gadus vēlāk Real pārkāpj robežas tam, ko var radīt no nulles. Iepriekšējās sistēmas vienkārši pārkārtoja pārbaudītus neironu tīklu elementus, piemēram, esošos slāņu vai komponentu veidus. Mēs varētu sagaidīt labu atbildi, viņš saka.

Pērn Real un viņa komanda noņēma treniņriteņus. Jaunā sistēma, saukta AutoML Zero , mēģina izveidot AI no paša sākuma, izmantojot tikai visvienkāršākās matemātiskās koncepcijas, kas regulē mašīnmācīšanos.

Pārsteidzoši, ka AutoML Zero ne tikai spontāni izveidoja neironu tīklu, bet arī nāca klajā ar gradienta nolaišanos, kas ir visizplatītākā matemātiskā tehnika, ko cilvēku dizaineri izmanto tīkla apmācīšanai. Es biju diezgan pārsteigts, saka Real. Tas ir ļoti vienkāršs algoritms — tas aizņem apmēram sešas koda rindiņas, taču tas uzrakstīja precīzas sešas rindiņas.

AutoML Zero vēl neģenerē arhitektūras, kas konkurētu ar cilvēka izstrādātu sistēmu veiktspēju, vai arī nedara daudz ko tādu, ko nebūtu paveicis cilvēku izstrādātājs. Taču Real uzskata, ka kādreiz tas varētu būt.

Laiks apmācīt jauna veida skolotāju

Vispirms jūs izveidojat smadzenes; tad tev tas ir jāmāca. Bet mašīnu smadzenes nemācās tā, kā to dara mūsējās. Mūsu smadzenes lieliski pielāgojas jaunai videi un jauniem uzdevumiem. Mūsdienu mākslīgais intelekts var atrisināt problēmas noteiktos apstākļos, bet neizdodas, ja šie apstākļi kaut nedaudz mainās. Šī neelastība kavē centienus izveidot vispārināmāku AI, kas var būt noderīgs dažādos scenārijos, kas būtu liels solis ceļā uz to, lai tie kļūtu patiesi inteliģenti.

Džeinai Vangai, DeepMind pētniecei Londonā, labākais veids, kā padarīt AI elastīgāku, ir panākt, lai tas pats apgūtu šo iezīmi. Citiem vārdiem sakot, viņa vēlas izveidot AI, kas ne tikai apgūst konkrētus uzdevumus, bet arī iemācās apgūt šos uzdevumus tādā veidā, ko var pielāgot jaunām situācijām.

Pētnieki gadiem ilgi ir mēģinājuši padarīt AI pielāgojamāku. Vans uzskata, ka mākslīgā intelekta panākšana, lai pati atrisinātu šo problēmu, ļauj izvairīties no dažiem ar rokām izstrādātas pieejas izmēģinājumiem un kļūdām: mēs nevaram sagaidīt, ka uzreiz atradīsim pareizo atbildi. Viņa cer, ka šajā procesā mēs arī uzzināsim vairāk par smadzeņu darbību. Viņa saka, ka joprojām tik daudz ko mēs nesaprotam par to, kā cilvēki un dzīvnieki mācās.

Ir divas galvenās pieejas mācību algoritmu automātiskai ģenerēšanai, taču abas sākas ar esošu neironu tīklu un izmanto AI, lai to mācītu.

Saistīts stāsts

AI, kas bruņots ar vairākām maņām, varētu iegūt elastīgāku intelektu

Cilvēka inteliģence rodas no mūsu sajūtu un valodas spēju kombinācijas. Varbūt tas pats attiecas uz mākslīgo intelektu.

Pirmā pieeja, ko atsevišķi izgudroja Vanga un viņas kolēģi uzņēmumā DeepMind un līdz komanda OpenAI aptuveni tajā pašā laikā izmanto atkārtotus neironu tīklus. Šāda veida tīklus var apmācīt tā, lai to neironu aktivizēšana, kas ir aptuveni līdzīga neironu aktivizēšanai bioloģiskajās smadzenēs, kodē jebkura veida algoritmu. DeepMind un OpenAI izmantoja šo iespēju, lai apmācītu atkārtotu neironu tīklu, lai ģenerētu pastiprināšanas mācīšanās algoritmus, kas norāda AI, kā rīkoties, lai sasniegtu noteiktos mērķus.

Rezultāts ir tāds, ka DeepMind un OpenAI sistēmas neapgūst algoritmu, kas atrisina konkrētu izaicinājumu, piemēram, attēlu atpazīšanu, bet apgūst mācīšanās algoritmu, ko var izmantot vairākiem uzdevumiem un pielāgot, kad tas notiek. Tas ir kā vecais sakāmvārds par mācīšanu makšķerēt: lai gan ar rokām izstrādāts algoritms var iemācīties konkrētu uzdevumu, šie AI ir radīti, lai iemācītos mācīties paši. Un daži no tiem darbojas labāk nekā cilvēku izstrādātie.

Otrā pieeja nāk no Chelsea Finn no Kalifornijas universitātes Bērklijā un viņas kolēģiem. Zvanīja modeļu-agnostiskā meta-apmācība vai MAML, tas apmāca modeli, izmantojot divus mašīnmācības procesus, no kuriem viens ir ievietots otrā.

Aptuveni, lūk, kā tas darbojas. MAML iekšējais process tiek apmācīts, izmantojot datus, un pēc tam pārbaudīts — kā parasti. Bet tad ārējais modelis izmanto iekšējā modeļa veiktspēju — cik labi tas identificē attēlus, piemēram, — un izmanto to, lai uzzinātu, kā pielāgot šī modeļa mācīšanās algoritmu, lai uzlabotu veiktspēju. Tas ir tā, it kā jums būtu skolas inspektors, kas uzrauga daudzus skolotājus, kuri katrs piedāvā dažādas mācīšanās metodes. Inspektors pārbauda, ​​kuri paņēmieni palīdz studentiem iegūt labākos rezultātus, un attiecīgi tos koriģē.

Izmantojot šīs pieejas, pētnieki veido AI, kas ir izturīgāks, vispārīgāks un spēj ātrāk mācīties, izmantojot mazāk datu. Piemēram, Finn vēlas, lai robots, kas ir iemācījies staigāt pa līdzenu zemi, spētu ar minimālu papildu apmācību pāriet uz staigāšanu pa nogāzi vai zāli vai nesot kravu.

Pagājušajā gadā Klūns un viņa kolēģi paplašināja Finna paņēmienu, lai izstrādātu algoritmu, kas mācās, izmantojot mazāk neironu, lai nepārrakstītu visu iepriekš apgūto, kas ir liela neatrisināta mašīnmācības problēma, kas pazīstama kā katastrofāla aizmirstība. Apmācītam modelim, kurā tiek izmantots mazāk neironu, kas pazīstams kā rets modelis, pēc pārkvalificēšanas paliks vairāk neizmantotu neironu, ko veltīt jauniem uzdevumiem, kas nozīmē, ka tiks pārrakstīts mazāk izmantoto neironu. Klūns atklāja, ka, izvirzot savam mākslīgajam intelektam izaicinājumu apgūt vairāk nekā vienu uzdevumu, tas radīja savu retā modeļa versiju, kas pārspēja cilvēku izstrādātos.

Ja mēs cenšamies ļaut AI radīt un mācīt pašam, tad arī AI būtu jārada sava apmācības vide — skolas un mācību grāmatas, kā arī stundu plāni.

Un pagājušajā gadā ir bijis daudz projektu, kuros AI ir apmācīts par automātiski ģenerētiem datiem. Seju atpazīšanas sistēmas tiek apmācītas, piemēram, ar mākslīgā intelekta radītām sejām. AI arī mācās apmācīt viens otru. Vienā nesenā piemērā divas robotu rokas strādāja kopā, vienai rokai mācoties izvirzīt arvien grūtākus bloku sakraušanas izaicinājumus, kas trenēja otru satvert un satvert priekšmetus.

Faktiski Klūns prāto, vai cilvēka intuīcija par to, kādi dati ir nepieciešami AI, lai mācītos, var būt nepareiza. Piemēram, viņš un viņa kolēģi ir izstrādājuši to, ko viņš sauc ģeneratīvie mācību tīkli , kas uzzina, kādi dati tiem jāģenerē, lai iegūtu vislabākos rezultātus, apmācot modeli. Vienā eksperimentā viņš izmantoja vienu no šiem tīkliem, lai pielāgotu ar roku rakstītu skaitļu datu kopu, ko bieži izmanto, lai apmācītu attēlu atpazīšanas algoritmus. Tas, ko tas radīja, izskatījās ļoti atšķirīgi no sākotnējās cilvēku apkopotās datu kopas: simtiem ne visai ciparu, piemēram, septiņu skaitļa augšējā puse vai tas, kas izskatījās kā divi cipari, kas saplūduši kopā. Dažus mākslīgā intelekta radītos piemērus vispār bija grūti atšifrēt. Neskatoties uz to, mākslīgā intelekta ģenerētie dati joprojām paveica lielisku darbu, apmācot rokraksta atpazīšanas sistēmu, lai noteiktu faktiskos ciparus.

Nemēģiniet gūt panākumus

AI radītie dati joprojām ir tikai daļa no mīklas. Ilgtermiņa vīzija ir izmantot visas šīs metodes — un citas, kas vēl nav izgudrotas — un nodot tās AI trenerim, kas kontrolē mākslīgo smadzeņu vadu pievienošanu, kā tās tiek apmācītas un ar ko tās tiek apmācītas. Pat Klūnam nav skaidrs, kā izskatīsies šāda nākotnes sistēma. Dažreiz viņš runā par sava veida hiperreālistisku simulētu smilšu kasti, kurā AI var izgriezt zobus un nodīrāt savus virtuālos ceļgalus. Kaut kas tik sarežģīts vēl ir gadiem ilgi. Pagaidām tuvākā lieta ir POET, sistēma Clune, ko izveidoja kopā ar Uber's Rui Wang un citiem.

DZEJNIEKU motivēja paradokss, saka Vans. Ja mēģināsit atrisināt problēmu, jums tas neizdosies; ja nemēģināsit to atrisināt, visticamāk, jums izdosies. Šī ir viena no atziņām, ko Klūns gūst no analoģijas ar evolūciju — pārsteidzošus rezultātus, kas rodas šķietami nejauša procesa rezultātā, bieži vien nevar radīt no jauna, veicot apzinātus soļus tā paša mērķa virzienā. Nav šaubu, ka tauriņi eksistē, taču attiniet atpakaļ uz saviem vienšūnu prekursoriem un mēģiniet tos izveidot no nulles, izvēloties katru soli no baktērijas līdz kukanei, un jūs, visticamāk, neizdosies.

POET sāk savu divkājaino aģentu vienkāršā vidē, piemēram, uz līdzenas takas bez šķēršļiem. Sākumā aģents nezina, ko darīt ar kājām, un nevar staigāt. Taču, izmantojot izmēģinājumus un kļūdas, pastiprināšanas-mācību algoritms, kas to kontrolē, iemācās pārvietoties pa līdzenu zemi. Pēc tam POET ģenerē jaunu nejaušu vidi, kas ir atšķirīga, taču ne vienmēr ir grūtāk tajā pārvietoties. Aģents mēģina tur staigāt. Ja šajā jaunajā vidē ir šķēršļi, aģents iemācās tiem tikt pāri vai pāri. Katru reizi, kad aģents gūst panākumus vai iestrēgst, tas tiek pārvietots uz jaunu vidi. Laika gaitā aģenti apgūst dažādas staigāšanas un lēkšanas darbības, kas ļauj viņiem pārvietoties pa arvien grūtākām šķēršļu trasēm.

Komanda atklāja, ka nejauša vides maiņa ir būtiska.

Piemēram, aģenti dažkārt iemācījās staigāt pa līdzenu zemi ar dīvainu, pusceļos noslīdējušu jaukšanu, jo tas bija pietiekami labi. Viņi nekad nemācās piecelties, jo viņiem tas nekad nav vajadzīgs, saka Vans. Bet pēc tam, kad viņi bija spiesti apgūt alternatīvas stratēģijas uz šķēršļiem nokaisītas zemes, viņi varēja atgriezties sākuma stadijā, izmantojot labāku staigāšanas veidu — izmantojot abas kājas, nevis velkot vienu aiz muguras, teiksim, — un pēc tam virzīt savu uzlaboto versiju uz priekšu. grūtākiem izaicinājumiem.

POET apmāca savus robotus tā, kā neviens cilvēks to nedarītu — tas ved neregulārus, neintuitīvus ceļus uz panākumiem. Katrā posmā robotprogrammatūra cenšas izdomāt risinājumu jebkuram izaicinājumam, kas viņiem tiek uzrādīts. Tiekot galā ar nejauši izvēlētiem šķēršļiem, kas tiek izmesti ceļā, viņi kopumā kļūst labāki. Taču šim procesam nav galapunkta, nav galīga pārbaudījuma, kas jānokārto, vai augsta rezultāta, ko pārspēt.

Clune, Wang un vairāki viņu kolēģi uzskata, ka tas ir dziļš ieskats. Viņi tagad pēta, ko tas varētu nozīmēt superviedo mašīnu attīstībai. Varētu mēģināt nē Konkrēta ceļa noteikšana patiesībā ir galvenais izrāviens ceļā uz mākslīgo vispārējo intelektu?

POET jau iedvesmo citus pētniekus, piemēram, Natašu Džeksu un Maiklu Denisu Kalifornijas universitātē Bērklijā. Viņi ir izstrādājuši sistēmu, ko sauc PĀRĀ kas izmanto AI, lai ģenerētu virkni labirintu, lai apmācītu citu AI, lai tajos pārvietotos.

Rui Vans uzskata, ka cilvēku radīti izaicinājumi būs šķērslis un ka patiesam AI progresam būs jānāk klajā ar AI. Neatkarīgi no tā, cik labi algoritmi ir šodien, tie vienmēr tiek pārbaudīti ar kādu ar rokām izstrādātu etalonu, viņš saka. Ir ļoti grūti iedomāties mākslīgo vispārējo intelektu, kas izriet no tā, jo tas ir saistīts ar noteiktiem mērķiem.

Jauns inteliģences veids

Straujā mākslīgā intelekta attīstība, kas var apmācīt sevi, rada arī jautājumus par to, cik labi mēs varam kontrolēt tā izaugsmi. Ideja par AI, kas veido labāku AI, ir būtiska daļa no mītu veidošanas, kas slēpjas aiz Singularitātes, kas ir iedomāts punkts nākotnē, kad AI sāks eksponenciāli uzlaboties un iziet ārpus mūsu kontroles. Galu galā daži likteņa piekritēji brīdina, ka mākslīgais intelekts var nolemt, ka tam vispār nav vajadzīgi cilvēki.

Tas nav tas, ko neviens no šiem pētniekiem domā: viņu darbs ir ļoti vērsts uz mūsdienu AI uzlabošanu. Mašīnas, kas darbojas amok, joprojām ir tāla antifantāzija.

Tomēr Džeinai Vangai no DeepMind ir iebildumi. Liela AI izmantošanas pievilcība AI veidošanai ir tāda, ka tā var radīt dizainu un paņēmienus, par kuriem cilvēki nebija domājuši. Tomēr Vangs atzīmē, ka ne visi pārsteigumi ir labi pārsteigumi: atvērtība pēc definīcijas ir kaut kas negaidīts. Ja visa ideja ir panākt, lai AI izdarītu kaut ko, ko jūs neparedzējāt, to būs grūtāk kontrolēt. Tas ir gan aizraujoši, gan biedējoši, viņa saka.

Clune arī uzsver, cik svarīgi ir domāt par jaunās tehnoloģijas ētiku jau no paša sākuma. Pastāv liela iespēja, ka mākslīgā intelekta izstrādātos neironu tīklus un algoritmus būs vēl grūtāk saprast nekā mūsdienu jau necaurredzamās melnās kastes sistēmas. Vai AI ir grūtāk ģenerēt ar algoritmiem neobjektivitātes audits ? Vai ir grūtāk garantēt, ka viņi neuzvedīsies nevēlamā veidā?

Klūns cer, ka šādi jautājumi tiks uzdoti un uz tiem tiks atbildēts, jo arvien vairāk cilvēku apzinās pašizveidojošo AI potenciālu. Viņš saka, ka lielākā daļa cilvēku mašīnmācības kopienā īsti nerunā par mūsu vispārējo ceļu uz ārkārtīgi jaudīgu AI, tā vietā viņi mēdz koncentrēties uz maziem, pakāpeniskiem uzlabojumiem. Klūns vēlas atkal sākt sarunu par jomas lielākajām ambīcijām.

Viņa paša ambīcijas ir saistītas ar viņa agrīnajām interesēm par cilvēka intelektu un to, kā tas attīstījās. Viņa lielais redzējums ir izveidot lietas tā, lai mašīnas kādu dienu varētu redzēt savu intelektu vai inteliģenci, kas parādās un uzlabojas neskaitāmu izmēģinājumu un kļūdu paaudžu laikā, vadoties pēc algoritmiem, neparedzot galīgo plānu.

Ja mākslīgais intelekts sāk ģenerēt intelektu pats, nav garantijas, ka tas būs līdzīgs cilvēkam. Tā vietā, lai cilvēki mācītu mašīnām domāt kā cilvēkiem, mašīnas var iemācīt cilvēkiem jaunus domāšanas veidus.

Droši vien ir ļoti daudz dažādu veidu, kā būt ļoti inteliģentam, saka Klūns. Viena no lietām, kas mani sajūsmina saistībā ar AI, ir tā, ka mēs varētu izprast intelektu vispārīgāk, redzot, kādas variācijas ir iespējamas.

Manuprāt, tas ir aizraujoši. Es domāju, tas ir gandrīz kā starpzvaigžņu ceļojumu izgudrošana un iespēja apmeklēt svešas kultūras. Cilvēces vēsturē nebūtu lielāka brīža kā sastapties ar svešzemju rasi un uzzināt par tās kultūru, zinātni un visu. Starpzvaigžņu ceļošana ir ārkārtīgi sarežģīta, taču mums ir iespēja digitāli radīt citplanētiešu intelektu.