Mākslīgais vispārējais intelekts: vai mēs esam tuvu un vai ir jēga mēģināt?

Ariels Deiviss

Ideja par mākslīgo vispārējo intelektu, kādu mēs to pazīstam šodien, sākas ar dot-com triecienu Brodvejā.

Pirms divdesmit gadiem — pirms Šeins Legs pievienojās neirozinātnei pēc Demisa Hasabisa, jo viņam bija kopīga aizraušanās ar inteliģenci; pirms pāris sazinājās ar Hassabisa bērnības draugu Mustafu Suleymanu, progresīvu aktīvistu, lai pārvērstu šo aizraušanos uzņēmumā DeepMind; pirms Google nopirka šo uzņēmumu par vairāk nekā pusmiljardu dolāru četrus gadus vēlāk — Leggs Ņujorkā strādāja jaunuzņēmumā Webmind, ko izveidoja AI pētnieks Bens Gērcels. Mūsdienās abi vīrieši pārstāv divas ļoti atšķirīgas mākslīgā intelekta nākotnes nozares, taču viņu saknes sniedzas kopīgā zemē.

Pat reibinošajās dot-com burbuļa dienās Webmind mērķi bija ambiciozi. Gērcels vēlējās izveidot a digitālās mazuļa smadzenes un izlaida to internetā, kur viņš uzskatīja, ka tas izaugs, pilnībā apzinoties sevi un daudz gudrāks par cilvēkiem. Mēs esam uz pārejas sliekšņa, kas pēc apjoma ir vienāda ar inteliģences vai valodas parādīšanos, viņš teica. Kristīgās zinātnes monitors 1998. gadā.

Webmind mēģināja bankrollēt, izveidojot instrumentu, lai prognozētu finanšu tirgu uzvedību malā, taču lielākais sapnis nekad nepiepildījās. Pēc 20 miljonu dolāru sadedzināšanas Webmind tika izlikts no birojiem Manhetenas dienvidu galā un pārtrauca maksāt saviem darbiniekiem. Tā 2001. gadā iesniedza bankrota pieteikumu.

Bens Gērcels

WIKIMEDIA COMMONS

Bet Legs un Gērcels uzturēja kontaktus. Kad Gērcels lika kopā grāmatu par esejas par pārcilvēcisko AI dažus gadus vēlāk tas bija Legg, kurš nāca klajā ar titulu. Es runāju ar Benu un domāju: 'Nu, ja runa ir par vispārīgumu, kāda AI sistēmām vēl nav, mums tas vienkārši jāsauc. Vispārējais mākslīgais intelekts ”, saka Legs, kurš tagad ir DeepMind galvenais zinātnieks. Un AGI tam ir sava veida gredzens kā akronīms.

Termins iestrēga. Gērcela grāmata un gadskārta AGI konference ko viņš palaida 2008. gadā, ir padarījuši AGI par plaši izplatītu cilvēku līdzīgo vai pārcilvēcisko AI apzīmēšanu. Bet tas ir kļuvis arī par galveno blakšu lāci. Man nepatīk termins AGI, saka Džeroms Pesenti, Facebook AI vadītājs. Es nezinu, ko tas nozīmē.

Viņš nav viens. Daļa no problēmas ir tā, ka AGI ir cerību un baiļu satvērējs, kas saistīts ar visu tehnoloģiju. Pretēji izplatītajam uzskatam, tas nav īsti par mašīnu apziņu vai domājošiem robotiem (lai gan daudzi AGI cilvēki arī par to sapņo). Bet runa ir par domāšanu lielā mērā. Daudzas problēmas, ar kurām mēs šodien saskaramies, sākot no klimata pārmaiņām līdz neveiksmīgām demokrātijām un beidzot ar sabiedrības veselības krīzēm, ir ļoti sarežģītas. Ja mums būtu mašīnas, kas varētu domāt tāpat kā mēs vai labāk — ātrāk un bez noguruma, tad varbūt mums būtu lielākas iespējas atrisināt šīs problēmas. Kā norāda datorzinātnieks I.J. Labs to izteica 1965. gadā: pirmā īpaši inteliģentā iekārta ir pēdējais izgudrojums, kas cilvēkam jebkad ir jāizgatavo.

Īlons Masks, kurš agri ieguldīja DeepMind un sadarbojās ar nelielu lielu investoru grupu, tostarp Pīteru Tīlu un Semu Altmanu, lai nogremdētu 1 miljardu dolāru OpenAI, ir izveidojis personīgo zīmolu, balstoties uz mežonīgām prognozēm. Bet, kad viņš runā, miljoni klausās. Pirms dažiem mēnešiem viņš to pastāstīja New York Times pārcilvēcisks AI ir mazāk nekā piecu gadu attālumā . Tas pie mums notiks ļoti ātri, viņš teica Leksa Frīdmena aplāde . Tad mums būs jāizdomā, kas mums būtu jādara, ja mums pat ir tāda izvēle.

Maijā Pesenti atšāva . Elonam Maskam nav ne jausmas, par ko viņš runā, viņš tvītoja. Nav tādas lietas kā AGI, un mēs ne tuvu neatbilstam cilvēka intelektam. Musks atbildēja: Facebook ir sūdīgs.

Šādi uzliesmojumi nav nekas neparasts. Lūk Endrjū Ng , bijušais Baidu mākslīgā intelekta vadītājs un Google Brain līdzdibinātājs: izbeigsim AGI muļķības un veltīsim vairāk laika steidzamām problēmām.

Un Džulians Togelijs , MI pētnieks no Ņujorkas universitātes: Ticība AGI ir kā ticība maģijai. Tas ir veids, kā atteikties no racionālas domāšanas un paust cerību/bailes par kaut ko, ko nevar saprast. Pārlūkojiet mirkļbirku #noAGI pakalpojumā Twitter, un jūs pieķersit daudzus mākslīgā intelekta smagnējus, tostarp Jans Lekuns , Facebook galvenais AI zinātnieks, kurš 2018. gadā ieguva Tjūringa balvu.

Taču līdz ar mākslīgā intelekta nesenajiem panākumiem — no galda spēļu čempiona AlphaZero līdz pārliecinošam viltus tekstu ģeneratoram GPT-3, tērzēšana par AGI ir palielinājusies. Lai gan šie rīki joprojām ir ļoti tālu no vispārējās inteliģences atspoguļošanas — AlphaZero nevar rakstīt stāstus un GPT-3 nevar spēlēt šahu, nemaz nerunājot par to, kāpēc stāsti un šahs ir svarīgi cilvēkiem, mērķis izveidot AGI, kas kādreiz tika uzskatīts par traku, kļūst pieņemams. atkal.

Dažas no lielākajām un cienījamākajām mākslīgā intelekta laboratorijām pasaulē šo mērķi uztver ļoti nopietni. OpenAI ir teicis, ka tā vēlas būt pirmais, kurš uzbūvēja mašīnu ar cilvēkiem līdzīgām spriešanas spējām . DeepMind neoficiālais, bet plaši atkārtotais misijas paziņojums ir atrisināt inteliģenci . Abu uzņēmumu vadošie darbinieki labprāt apspriež šos mērķus saistībā ar AGI.

Pēc pusgadsimta mēs joprojām ne tuvu neesam izveidojuši AI ar cilvēka vai pat kukaiņa daudzuzdevumu spējām.

Legs saka, ka runāšana par AGI 2000. gadu sākumā nostādīja jūs uz neprātīgu robežu. Pat tad, kad 2010. gadā uzsākām DeepMind, konferencēs saņēmām pārsteidzošu uzmanību. Bet lietas mainās. Dažiem cilvēkiem tas ir neērti, bet tas nāk no aukstuma,' viņš saka.

Tātad, kāpēc AGI ir pretrunīga? Kāpēc tas ir svarīgi? Un vai tas ir neapdomīgs, maldinošs sapnis vai galvenais mērķis?

Kas ir AGI?

Termins ir populārs lietots nedaudz vairāk nekā desmit gadus, taču tajā ietvertās idejas ir bijušas visu mūžu.

1956. gada vasarā apmēram ducis zinātnieku sapulcējās Dartmutas koledžā Ņūhempšīrā, lai strādātu pie, viņuprāt, pieticīga pētniecības projekta. Iepriekš piesakot semināru, AI pionieri Džons Makartijs, Mārvins Minskis, Nats Ročesters un Klods Šenons rakstīja : Pētījums ir jāturpina, pamatojoties uz pieņēmumu, ka katru mācīšanās aspektu vai jebkuru citu intelekta pazīmi principā var aprakstīt tik precīzi, ka var izveidot mašīnu, kas to simulē. Tiks mēģināts atrast, kā likt mašīnām lietot valodu, veidot abstrakcijas un jēdzienus, atrisināt tādas problēmas, kas šobrīd ir paredzētas cilvēkiem, un pilnveidot sevi. Viņi domāja, ka tas prasīs 10 cilvēkus divus mēnešus.

Ātri uz priekšu uz 1970. gadu, un atkal Minskis bez bailēm: pēc trim līdz astoņiem gadiem mums būs iekārta ar vidusmēra cilvēka intelektu. Es domāju mašīnu, kas spēs lasīt Šekspīru, ieeļļot mašīnu, spēlēt biroja politiku, izstāstīt joku, kauties. Tajā brīdī mašīna sāks sevi izglītot ar fantastisku ātrumu. Pēc dažiem mēnešiem tas būs ģeniālā līmenī, un dažus mēnešus pēc tam tā pilnvaras būs neaprēķināmas.

Šajos AI vīzijās izceļas trīs lietas: cilvēkam līdzīga spēja vispārināt, pārcilvēciska spēja sevi pilnveidot eksponenciālā ātrumā un ļoti liela vēlmju domāšanas daļa. Pēc pusgadsimta mēs joprojām ne tuvu neesam izveidojuši AI ar cilvēka vai pat kukaiņa daudzuzdevumu spējām.

GETTY IMAGES

Tas nenozīmē, ka nav bijuši milzīgi panākumi. Daudzi elementi šajā agrīnajā segmentu sarakstā ir atzīmēti: mums ir iekārtas, kas var izmantot valodu, redzēt un atrisināt daudzas mūsu problēmas. Taču mūsdienās pieejamie AI nav līdzīgi cilvēkiem, kā to iedomājās pionieri. Padziļināta mācīšanās, tehnoloģija, kas virza AI uzplaukumu, apmāca mašīnas kļūt par meistariem daudzās lietās, piemēram, viltus stāstu rakstīšanā un šaha spēlēšanā, taču tikai pa vienam.

Kad Legs ieteica Gērcelam terminu AGI savai 2007. gada grāmatai, viņš nostādīja mākslīgo vispārējo intelektu pret šo šauro, galveno AI ideju. Cilvēki bija izmantojuši vairākus saistītus terminus, piemēram, spēcīgs AI un reāls AI, lai atšķirtu Minska redzējumu no AI, kas bija tā vietā.

Runājot par AGI, bieži vien bija domāts, lai saprastu, ka mākslīgais intelekts ir cietis neveiksmi, saka Džoanna Braisone, MI pētniece no Herti skolas Berlīnē: Tā bija doma, ka cilvēki vienkārši dara šo garlaicīgo darbu, piemēram, mašīnredzi, bet mēs šeit... un es tajā laikā biju viens no viņiem — joprojām mēģina izprast cilvēka intelektu, viņa saka. Spēcīgs mākslīgais intelekts, kognitīvā zinātne, AGI — tie bija mūsu dažādie veidi, kā pateikt: 'Jūs, puiši, esat sajukuši; mēs virzāmies uz priekšu.'

Šī ideja, ka AGI ir AI pētniecības patiesais mērķis, joprojām ir aktuāla. Darbojoša AI sistēma drīz kļūst tikai par programmatūras daļu — Braisona garlaicīgu lietu. Tikmēr AGI kļūst par alternatīvu jebkuram AI, kuru mēs vēl neesam izdomājuši, un tas vienmēr nav sasniedzams.

Saistīts stāsts

Kas ir mašīnmācība?

Mašīnmācības algoritmi atrod un piemēro datu modeļus. Un viņi diezgan daudz vada pasauli.

Dažkārt Leggs runā par AGI kā sava veida daudzfunkciju rīku — vienu mašīnu, kas atrisina daudzas dažādas problēmas, bez katras papildu problēmas risināšanas jauna. Šajā skatījumā tas nebūtu gudrāks par AlphaGo vai GPT-3; tam vienkārši būtu vairāk iespēju. Tas būtu universāls AI, nevis pilnvērtīgs intelekts. Bet viņš arī runā par mašīnu, ar kuru jūs varētu sazināties tā, it kā tā būtu cita persona. Viņš apraksta sava veida izcilu rotaļu biedru: būtu brīnišķīgi mijiedarboties ar mašīnu un parādīt tai jaunu kāršu spēli, lai tā saprastu un uzdotu jums jautājumus un spēlētu spēli ar jums, viņš saka. Tas būtu sapņa piepildījums.

Kad cilvēki runā par AGI, viņi parasti domā par šīm cilvēkiem līdzīgās spējas. Tors Grepels , Legg's kolēģis uzņēmumā DeepMind, labprāt izmanto zinātniskās fantastikas autora Roberta Heinleina citātu, kas, šķiet, atspoguļo Minska vārdus: Cilvēkam ir jāspēj nomainīt autiņbiksītes, plānot iebrukumu, nokaut cūku, savienot kuģi, projektēt ēku, rakstīt sonetu, sabalansēt kontus, būvēt sienu, uzstādīt kaulu, mierināt mirstošos, pieņemt pavēles, dot pavēles, sadarboties, rīkoties vienatnē, atrisināt vienādojumus, analizēt jaunu problēmu, izmest kūtsmēslus, programmēt datoru, gatavot garšīga maltīte, cīnies efektīvi, mirsti galanti. Specializācija ir paredzēta kukaiņiem.

Un tomēr jautrs fakts: Grepela aprakstu izteica varonis Lācars Longs Heinleina 1973. gada romānā. Pietiekami laika mīlestībai . Longs ir sava veida supermens, ģenētiska eksperimenta rezultāts, kas viņam ļauj dzīvot simtiem gadu. Šajā ilgajā laikā ilgi dzīvo daudzas dzīves un apgūst daudzas prasmes. Citiem vārdiem sakot, Minskis apraksta tipiska cilvēka spējas; Graepel to nedara.

Tādā veidā AGI meklēšanas vārtu stabi nepārtraukti mainās. Ko cilvēki domā, runājot par cilvēkiem līdzīgu mākslīgo intelektu — tādu cilvēku kā tu un es vai cilvēku kā Lācars Longs? Pesenti šī neskaidrība ir problēma. Es domāju, ka neviens nezina, kas tas ir, viņš saka. Cilvēki nevar visu. Viņi nevar atrisināt visas problēmas, un viņi nevar sevi uzlabot.

Go čempions Lī Sedols (pa kreisi) sarokojas ar DeepMind līdzdibinātāju Demisu Hasabi

GETTY

Nu ko varētu AGI būtu kā praksē? Saukt to par cilvēcisku ir reizē neskaidri un pārāk specifiski. Cilvēki ir mūsu vispārējās inteliģences labākais piemērs, taču cilvēki ir arī ļoti specializēti. Ātrs ieskats daudzveidīgajā dzīvnieku gudrības pasaulē — no skudrās redzamās kolektīvās izziņas līdz vārnu vai astoņkāju problēmu risināšanas prasmēm līdz šimpanžu atpazīstamākam, bet tomēr svešam intelektam — parāda, ka pastāv daudzi veidi, kā veidot vispārēju intelektu. .

Pat ja mēs veidojam AGI, mēs to nevaram pilnībā saprast. Mūsdienu mašīnmācības modeļi parasti ir melnās kastes, kas nozīmē, ka tie iegūst precīzus rezultātus, izmantojot aprēķinu ceļus, ko neviens cilvēks nevar saprast. Pievienojiet maisījumam sevi pilnveidojošu superinteliģenci, un ir skaidrs, kāpēc zinātniskā fantastika bieži vien nodrošina vienkāršākās analoģijas.

Daži arī laso apziņu vai jūtīgumu attiecībā uz AGI prasībām. Bet, ja intelektu ir grūti noteikt, apziņa ir vēl sliktāka. Filozofiem un zinātniekiem nav skaidrs, kas tas ir mūsos, nemaz nerunājot par to, kas tas būtu datorā. Intelekts, iespējams, prasa zināmu pašapziņu, spēju pārdomāt savu skatījumu uz pasauli, taču tas ne vienmēr ir tas pats, kas apziņa — kas tā ir. jūtas patīk piedzīvot pasauli vai pārdomāt savu skatījumu uz to. Pat AGI uzticamākie ir agnostiķi attiecībā uz mašīnu apziņu.

Kā mēs izveidojam AGI?

Legs visu savu karjeru ir dzenājies pēc inteliģences. Pēc Webmind viņš strādāja kopā ar Markusu Hateru Lugāno Universitātē Šveicē, izstrādājot doktora disertāciju ar nosaukumu Mašīnas superinteliģence . Haters (kurš tagad strādā arī DeepMind) strādāja pie intelekta matemātiskas definīcijas, ko ierobežoja tikai fizikas likumi — galīgais vispārējais intelekts.

Šeins Legs

DEEPMIND

Pāris publicēja vienādojumu tam, ko viņi sauca universālais intelekts , ko Leggs raksturo kā mērauklu spējai sasniegt mērķus plašā vidē. Viņi parādīja, ka viņu matemātiskā definīcija bija līdzīga daudzām intelekta teorijām, kas atrodamas psiholoģijā, kas arī definē intelektu vispārīgi.

Uzņēmumā DeepMind Leggs pārvērš savu teorētisko darbu praktiskās demonstrācijās, sākot ar AI, kas sasniedz konkrētus mērķus noteiktā vidē, sākot no spēlēm līdz olbaltumvielu locīšana .

Nākamā ir sarežģītā daļa: vairāku spēju apvienošana kopā. Padziļinātā mācīšanās ir visvispārīgākā pieeja, kas mums ir, jo vienu padziļinātās mācīšanās algoritmu var izmantot, lai apgūtu vairāk nekā vienu uzdevumu. AlphaZero izmantoja to pašu algoritmu, lai apgūtu Go, Shogi (šaham līdzīgu spēli no Japānas) un šahu. DeepMind’s Atari57 sistēma izmantoja to pašu algoritmu, lai apgūtu visas Atari videospēles. Taču AI joprojām var iemācīties tikai vienu lietu vienlaikus. Apgūstot šahu, AlphaZero ir jāslauka atmiņa un jāiemācās shogi no nulles.

Leggs norāda uz šāda veida vispārīgumu kā viena algoritmu, salīdzinot ar vienu smadzeņu vispārīgumu, kas ir cilvēkiem. Viena algoritma vispārīgums ir ļoti noderīgs, bet ne tik interesants kā vienas smadzenes veids, viņš saka: jums un man nav jāmaina smadzenes; mēs neliekam savas šaha smadzenes, lai spēlētu šaha spēli.

Pāreja no viena algoritma uz vienas smadzenes ir viens no lielākajiem atklātajiem AI izaicinājumiem. Vienas smadzeņu mākslīgais intelekts joprojām nebūtu īsts intelekts, tikai labāks vispārējas nozīmes AI — Leggas daudzfunkciju rīks. Taču neatkarīgi no tā, vai viņi fotografē AGI vai ne, pētnieki piekrīt, ka mūsdienu sistēmas ir jāpadara vispārīgākas, un tiem, kuru mērķis ir AGI, vispārēja pielietojuma AI ir nepieciešams pirmais solis. Ir garš saraksts ar pieejām, kas varētu palīdzēt. Tie svārstās no jaunām tehnoloģijām, kas jau ir šeit, līdz radikālākiem eksperimentiem (skatiet lodziņu). Aptuveni brieduma secībā tie ir:

• Mācības bez uzraudzības vai pašapkalpošanās. Datu kopu marķēšana (piemēram, visu kaķu attēlu marķēšana ar kaķi), lai AI pastāstītu, uz ko viņi skatās apmācības laikā, ir tā dēvētās uzraudzītās mācīšanās atslēga. Tas joprojām lielākoties tiek darīts ar rokām, un tas ir galvenais šķērslis. AI jāspēj mācīt sevi bez cilvēka vadības, piemēram, skatoties kaķu un suņu attēlus un mācoties atšķirt tos bez palīdzības vai pamanot anomālijas finanšu darījumos bez iepriekšējiem piemēriem, ko atzīmējis cilvēks. Šī, kas pazīstama kā bez uzraudzības mācīšanās, tagad kļūst arvien izplatītāka.
• Mācības pārnest, tostarp mācības dažos gadījumos. Lielāko daļu mūsdienu padziļinātās apmācības modeļu var apmācīt vienlaikus darīt tikai vienu lietu. Mācību pārcelšanas mērķis ir ļaut AI pārsūtīt atsevišķas apmācības daļas vienam uzdevumam, piemēram, šaha spēlēšanai, citam, piemēram, spēlēt Go. Tā cilvēki mācās.
• Veselais saprāts un cēloņsakarības secinājumi. Būtu vieglāk pārnest apmācību starp uzdevumiem, ja AI būtu veselā saprāta pamats, no kura sākt. Un veselā saprāta galvenā sastāvdaļa ir cēloņu un seku izpratne. Došana veselais saprāts AI šobrīd ir aktuāla pētniecības tēma, kuras pieejas svārstās no vienkāršu noteikumu kodēšanas neironu tīklā līdz ierobežojot iespējamās AI prognozes . Bet darbs joprojām ir sākuma stadijā.
• Mācīšanās optimizētāji . Tie ir rīki, kurus var izmantot, lai veidotu AI mācīšanās veidu, palīdzot viņiem trenēties efektīvāk. Nesenais darbs liecina, ka šie instrumenti var būt apmācījuši paši — faktiski tas nozīmē, ka viens AI tiek izmantots citu apmācīšanai. Tas varētu būt neliels solis ceļā uz pašpilnveidojošu AI — AGI mērķi.

Visas šīs pētniecības jomas ir balstītas uz dziļu mācīšanos, kas šobrīd joprojām ir visdaudzsološākais veids, kā veidot AI. Dziļās mācīšanās pamatā ir neironu tīkli, kurus bieži raksturo kā smadzenēm līdzīgus, jo to digitālos neironus iedvesmo bioloģiskie neironi. Cilvēka inteliģence ir labākais vispārējās inteliģences piemērs, kas mums ir, tāpēc ir lietderīgi iedvesmu meklēt sevī.

Bet smadzenes ir vairāk nekā viens masīvs neironu mudžeklis. Viņiem ir atsevišķas sastāvdaļas, kas sadarbojas.

Piemēram, Hassabis pētīja hipokampu, kas apstrādā atmiņu, kad viņš un Leggs satikās. Hassabis domā, ka vispārējais intelekts cilvēka smadzenēs daļēji nāk no mijiedarbība starp hipokampu un garozu . Šī ideja noveda pie DeepMind Atari spēles, kas spēlē AI, kas izmanto hipokampu iedvesmotu algoritms , ko sauc par DNC (diferenciālais neironu dators), kas apvieno neironu tīklu ar speciālu atmiņas komponentu.

Mākslīgās smadzenēm līdzīgas sastāvdaļas, piemēram, DNC, dažreiz sauc par kognitīvām arhitektūrām. Tie spēlē lomu citos DeepMind AI, piemēram, AlphaGo un AlphaZero, kas apvieno divus atsevišķus specializētus neironu tīklus ar meklēšanas kokiem, kas ir vecāka algoritma forma, kas darbojas kā blokshēma lēmumu pieņemšanai. Valodu modeļi, piemēram, GPT-3, apvieno neironu tīklu ar specializētāku tīklu, ko sauc par transformatoru, kas apstrādā datu secības, piemēram, tekstu.

Galu galā visas pieejas AGI sasniegšanai ir saistītas ar divām plašām domāšanas skolām. Viens no tiem ir tāds, ka, ja algoritmi ir pareizi, varat tos sakārtot jebkurā kognitīvā arhitektūrā, kas jums patīk. Šķiet, ka tādas laboratorijas kā OpenAI atbalsta šo pieeju, veidojot arvien lielākus mašīnmācības modeļus, kas varētu sasniegt AGI ar brutālu spēku .

Otra skola saka, ka fiksācija uz dziļu mācīšanos mūs kavē. Ja AGI galvenais uzdevums ir izdomāt, kā mākslīgo smadzeņu komponentiem būtu jādarbojas kopā, tad, pārāk daudz koncentrējoties uz pašām sastāvdaļām — dziļās mācīšanās algoritmiem —, ir jāpalaiž garām kokiem. Pareizi izveidojiet kognitīvo arhitektūru, un jūs varat pievienot algoritmus gandrīz pēc domas. Šo pieeju iecienījis Gērcels, kura OpenCog projekts ir mēģinājums izveidot atvērtā pirmkoda platformu, kas ietilps dažādas mīklas daļas AGI veselumā. Tas ir arī ceļš, ko DeepMind pētīja, apvienojot neironu tīklus un AlphaGo meklēšanas kokus.

ATKLĀJOT

Mana personīgā sajūta ir tāda, ka tas ir kaut kas starp abiem, saka Legs. Man ir aizdomas, ka ir salīdzinoši neliels skaits rūpīgi izstrādātu algoritmu, kurus mēs varēsim apvienot, lai tie būtu patiešām spēcīgi.

Gērcels tam nepiekrīt. Viņš saka, ka Google un DeepMind domāšanas par AGI dziļums mani iespaido (abas firmas tagad pieder Alphabet). Ja kāds liels uzņēmums to iegūs, tas būs viņi.

Tomēr neaizturiet elpu. Saskaras ar to, ka gadu desmitiem ilgi ir pietiekami nenovērtēts izaicinājums, bet tikai Musks vēlas riskēt uzminēt, kad (ja vispār) ieradīsies AGI. Pat Gērcels neriskēs savus mērķus piesaistīt noteiktai laika skalai, lai gan viņš teiktu, ka drīzāk nekā vēlāk. Nav šaubu, ka straujais progress dziļās mācīšanās jomā un jo īpaši GPT-3 ir palielinājis cerības, atdarinot noteiktas cilvēka spējas. Bet mīmika nav inteliģence. Ceļā joprojām ir ļoti lielas bedres, un pētnieki joprojām nav sapratuši to dziļumu, nemaz nerunājot par to, kā tās aizpildīt.

Bet, ja mēs turpināsim kustēties ātri, kas zina? saka Leggs. Pēc dažām desmitgadēm mums varētu būt dažas ļoti, ļoti spējīgas sistēmas.

Kāpēc AGI ir pretrunīga?

Viens no iemesliem, kāpēc neviens nezina, kā izveidot AGI, ir tas, ka daži piekrīt, kas tas ir. Dažādās pieejas atspoguļo dažādas idejas par to, uz ko mēs tiecamies, no daudzrīku līdz pārcilvēciskajam AI. Tiek veikti nelieli soļi, lai AI padarītu vispārīgāku, taču pastāv milzīga plaisa starp vispārēja pielietojuma rīku, kas var atrisināt vairākas dažādas problēmas, un tādu, kas var atrisināt problēmas, kuras cilvēki nevar — Guda pēdējais izgudrojums. AI jomā ir panākts milzīgs progress, taču tas nenozīmē, ka AGI ir progress, saka Endrjū Ng.

Ja nevienai pusei nav pierādījumu par to, vai AGI ir sasniedzams vai nē, jautājums kļūst par ticības jautājumu. Šķiet, ka šie viduslaiku filozofijas argumenti par to, vai uz adatas galvas var salikt bezgalīgi daudz eņģeļu, saka Togelius. Tam nav jēgas; tie ir tikai vārdi.

Gērcels mazina runas par strīdiem. Viņš saka, ka abās pusēs ir cilvēki galējībās, taču arī vidū ir daudz cilvēku, un cilvēki, kas atrodas pa vidu, nemēdz tik daudz pļāpāt.

AGI pasaule ir piepildīta ar pētniekiem, kuri pēta superinteliģences veidošanas ārējos virzienus.

• Jaunā inteliģence

  Kristīne Torisone pēta, kas notiek, ja vienkāršas programmas pārraksta citas vienkāršas programmas, lai izveidotu vēl vairāk programmu. Viņu interesē sarežģīta uzvedība, kas rodas no vienkāršiem procesiem, kas paliek paši attīstīties.

• Universāls intelekts

  Artūrs Francs mēģina pārņemt Markusa Hatera AGI matemātisko definīciju, kas paredz bezgalīgu skaitļošanas jaudu, un sadalīt to kodā, kas darbojas praksē.

• Beztermiņa inteliģence

  Deivids Vainbaums ir pētnieks, kas strādā pie inteliģences, kas progresē bez izvirzītiem mērķiem . Ideja ir tāda, ka atalgojuma funkcijas, piemēram, tās, kuras parasti tiek izmantotas pastiprinošā apmācībā, sašaurina AI fokusu. Veinbaums strādā pie veidiem, kā attīstīt intelektu, kas darbojas ārpus noteiktas problēmas jomas un vienkārši bezmērķīgi pielāgojas videi.

Gērcels vienā galā novieto tādu AGI skeptiķi kā Ng, bet otrā – sevi. Kopš darba laika Webmindā Gērcels ir izturējies pret medijiem kā AGI nomaļu tēls. Viņš vada AGI konferenci un vada organizāciju SingularityNet,ko viņš aprakstakā sava veida Webmind blokķēdē. No 2014. līdz 2018. gadam viņš bija arī galvenais zinātnieks Hanson Robotics, Honkongas firmā, kas 2016. gadā atklāja runājošu humanoīdu robotu ar nosaukumu Sophia. Vairāktematiskā parka manekensnekā jaunākie pētījumi, Sofija nopelnīja Gērcela virsrakstus visā pasaulē. Bet pat viņš atzīst, ka tas ir tikai teātra robots, nevis AI. Gērcela īpašais izrādes zīmols ir licis daudziem nopietniem AI pētniekiem attālināties no viņa spektra gala.

Pa vidu viņš iecēla tādus cilvēkus kā Jošua Bendžo, mākslīgā intelekta pētnieks Monreālas Universitātē, kurš kopā ar Janu Lekunu un Džefriju Hintonu 2018. gadā bija Tjūringa balvas ieguvējs. 2014. gadā galvenā runa AGI konferencē Bengio ierosināja, ka mākslīgā intelekta izveide ar cilvēka līmeņa intelektu ir iespējama, jo cilvēka smadzenes ir mašīna — tā ir tikai jāizdomā. Taču viņš nav pārliecināts par superinteliģenci — mašīnu, kas pārspēj cilvēka prātu. Jebkurā gadījumā viņš domā, ka AGI netiks sasniegts, ja vien mēs neatradīsim veidu, kā dot datoriem veselo saprātu un cēloņsakarību.

Tomēr Ng uzstāj, ka viņš arī nav pret AGI. Es domāju, ka AGI ir ļoti aizraujoša, es labprāt tur nokļūtu, viņš saka. Ja man būtu daudz brīva laika, es pats pie tā strādātu. Kad viņš strādāja Google Brain un padziļināta mācīšanās gāja uz priekšu, Ng, tāpat kā OpenAI, domāja, vai vienkārši neironu tīklu palielināšana varētu būt ceļš uz AGI. Bet tie ir jautājumi, nevis apgalvojumi, viņš saka. AGI kļuva pretrunīgs, kad cilvēki sāka par to izteikt īpašus apgalvojumus.

Vēl šķeļošāka problēma nekā neprāts par to, cik ātri AGI var tikt sasniegts, ir baiļu izplatība par to, ko tā varētu darīt, ja tā tiktu palaista vaļā. Šeit spekulācijas un zinātniskā fantastika drīz vien saplūst. Musks saka, ka AGI būs bīstamāks par kodolieročiem. Hugo de Garis, mākslīgā intelekta pētnieks, kurš pašlaik strādā Uhaņas Universitātē Ķīnā, 2000. gados prognozēja, ka AGI līdz gadsimta beigām izraisīs pasaules karu un miljardiem nāves gadījumu. Dievam līdzīgas mašīnas, ko viņš sauca par artilektiem, sadarbotos ar cilvēku atbalstītājiem kosmistiem pret cilvēku pretestību, terrāniem.

Ticība AGI ir kā ticība maģijai. Tas ir veids, kā atteikties no racionālas domāšanas un paust cerību/bailes par kaut ko, ko nevar saprast.

Tas noteikti nepalīdz AGI atbalstošajai nometnei, ja kādam, piemēram, de Garisam, kurš ir arī atklāts maskulistisku un antisemītisku uzskatu piekritējs, ir raksts Gērcela AGI grāmatā līdzās tādu nopietnu pētnieku kā Haters un Jirgens Šmidhūbers — dažreiz. sauc par mūsdienu AI tēvu. Ja daudzi AGI nometnē sevi uzskata par mākslīgā intelekta lāpas nesējiem, daudzi ārpus tās uzskata viņus par kāršu nēsāšanas trakiem, kas domas par AI met blenderī ar mežonīgiem apgalvojumiem par Singularitāti (neatgriešanās punkts, kad sevi pilnveidojošas mašīnas pārspēj. cilvēka intelekts), smadzeņu augšupielāde, transhumānisms un apokalipse.

Mani netraucē ļoti interesantās diskusijas par intelektiem, kuru mums vajadzētu būt vairāk, saka Togelius. Mani nomāc smieklīgā doma, ka mūsu programmatūra kādu dienu pēkšņi pamodīsies un pārņems pasauli.

Kāpēc tas ir svarīgi?

Pirms dažām desmitgadēm, kad mākslīgais intelekts nespēja attaisnot Minska un citu ažiotāžu, lauks vairāk nekā vienu reizi avarēja. Finansējums pazuda; pētnieki devās tālāk. Pagāja daudzi gadi, līdz tehnoloģija parādījās no tā dēvētajām mākslīgā intelekta ziemām un atkal nostiprinājās. Tomēr šī ažiotāža joprojām pastāv.

Visas mākslīgā intelekta ziemas radīja nereālas cerības, tāpēc mums ar tām jācīnās ik uz soļa, saka Ng. Pesenti piekrīt: mums ir jāpārvalda rosība, viņš saka.

Tiešākas bažas rada tas, ka šīs nereālās cerības ietekmē politikas veidotāju lēmumu pieņemšanu. Braisone saka, ka viņa ir bijusi lieciniece daudzām neskaidrām domām valdēs un valdībās, jo cilvēkiem tur ir zinātniskās fantastikas skatījums uz AI. Tas var likt viņiem ignorēt ļoti reālas neatrisinātas problēmas, piemēram, veidu, kā rasu aizspriedumi var tikt iekodēti mākslīgajā intelektā, izmantojot novirzītus apmācības datus, algoritmu darbības pārredzamības trūkumu vai jautājumus par to, kurš ir atbildīgs, ja AI pieņem sliktu lēmumu. par labu fantastiskākām bažām par tādām lietām kā robotu pārņemšana.

Ažiotāža sajūsmina arī investorus. Muska nauda ir palīdzējusi finansēt reālus jauninājumus, bet, kad viņš saka, ka vēlas finansēt darbu pie eksistenciālā riska, tas mudina pētniekus runāt par tālas nākotnes draudiem. Daži no viņiem patiešām tam tic; daži no viņiem ir tikai pēc naudas, uzmanības un visa cita, saka Braisons. Un es nezinu, vai viņi visi ir pilnīgi godīgi pret sevi par to, kurš no viņiem ir.

AGI pievilcība nav pārsteidzoša. Pašrefleksija un radīšana ir divas no cilvēcīgākajām darbībām. Tieksme izveidot mašīnu pēc mūsu tēla ir neatvairāma. Daudzi cilvēki, kuri tagad kritizē AGI, ar to flirtēja savās iepriekšējās karjerās. Tāpat kā Gērcels, Braisons vairākus gadus pavadīja, mēģinot izveidot mākslīgu mazuli. 2005. gadā Ng organizēja semināru NeurIPS (tolaik NIPS), pasaules galvenajā AI konferencē, ar nosaukumu Towards human-level AI? Tas bija muļķīgi, saka Ng. Lekuns, tagad biežs AGI pļāpāšanas kritiķis, sniedza galveno runu.

Šie pētnieki pārgāja pie praktiskākām problēmām. Taču, pateicoties viņu un citu cilvēku panākumiem, cerības atkal pieaug. Daudzi cilvēki šajā jomā negaidīja tik lielu progresu, kāds mums ir bijis pēdējos gados, saka Legs. Tas ir bijis dzinējspēks, padarot AGI daudz uzticamāku.

Pat AGI skeptiķi atzīst, ka debates vismaz liek pētniekiem domāt par jomas virzienu kopumā, nevis koncentrēties uz nākamo neironu tīkla uzlaušanu vai etalonu. Nopietni apsverot AGI ideju, mēs varam nokļūt patiešām aizraujošās vietās, saka Togelius. Varbūt lielākais progress būs sapņa pilnveidošana, mēģinot izdomāt, par ko bija sapnis.

paslēpties