Pols Allens: Singularitāte nav tuvu

Futūristiem patīk Vernors Vindžs un Rejs Kurcveils ir apgalvojuši, ka pasaule strauji tuvojas lūzuma punktam, kad arvien gudrāku un gudrāku mašīnu straujais temps drīz pārsniegs visas cilvēka spējas. Viņi šo lūzuma punktu sauc par singularitāte , jo viņi uzskata, ka nav iespējams paredzēt, kā pēc šī brīža attīstīsies cilvēka nākotne. Kad šīs mašīnas pastāvēs, apgalvo Kurcveils un Vinge, tām būs pārcilvēcisks intelekts, kas mums ir tik nesaprotams, ka mēs pat nevaram racionāli uzminēt, kā mainītos mūsu dzīves pieredze. Vinge jautā mums ir jāpārdomā cilvēku loma pasaulē, kurā mašīnas ir tikpat gudrākas par mums, cik mēs esam gudrāki par mūsu mājdzīvnieku suņiem un kaķiem. Kurcveils, kurš ir nedaudz optimistiskāks, paredz nākotni kurā medicīnas nanotehnoloģiju attīstība ļaus mums lejupielādēt mūsu individuālo smadzeņu kopiju šajās pārcilvēciskajās mašīnās, atstāt savu ķermeni un savā ziņā dzīvot mūžīgi. Tās ir reibinošas lietas.

Kredīts: Tehnoloģiju apskats

Lai gan mēs domājam, ka šāda veida savdabība kādu dienu varētu notikt, mēs nedomājam, ka tā ir tuvu. Patiesībā mēs domājam, ka tas būs ļoti ilgs laiks. Kurcveils tam nepiekrīt, pamatojoties uz viņa ekstrapolācijām par attiecīgā zinātnes un tehnikas progresa ātrumu. Viņš uzskata, ka progresa ātrums uz singularitāti nav tikai nepārtraukti pieaugošu spēju progresēšana, bet patiesībā tas ir eksponenciāli paātrināts — tas, ko Kurcveils sauc par Paātrinošas atdeves likums . Viņš raksta, ka:

Tātad 21. gadsimtā mēs nepiedzīvosim 100 gadu progresu — tas būs vairāk kā 20 000 gadu progress (pēc šodienas ātruma). Arī atdeve, piemēram, mikroshēmas ātrums un rentabilitāte, palielinās eksponenciāli. Eksponenciālā pieauguma tempā ir pat eksponenciāls pieaugums. Dažu desmitgažu laikā mašīnu intelekts pārspēs cilvēka intelektu, kas novedīs pie The Singularity… [viens]

Izstrādājot modeļu kopumu un vēsturiskos datus, Kurcveils lieliski aprēķina, ka singularitāte ieradīsies ap 2045. gadu.

Šis pareģojums mums šķiet diezgan tāls. Protams, mēs apzināmies, ka zinātnes un tehnoloģiju vēsture ir piesātināta ar cilvēkiem, kuri pārliecinoši apgalvo, ka kāds notikums nevar notikt, lai vēlāk pierādītu, ka tas ir kļūdains — bieži vien iespaidīgā veidā. Mēs atzīstam, ka ir iespējams, bet ļoti maz ticams, ka Kurzweil galu galā tiks attaisnots. Pieauguša smadzenes ir ierobežota lieta, tāpēc to pamatdarbības galu galā var uzzināt ar ilgstošām cilvēka pūlēm. Bet, ja singularitāte tiks sasniegta līdz 2045. gadam, būs nepieciešami neparedzami un principiāli neparedzami izrāvieni, nevis tāpēc, ka Paātrinošās atdeves likums padarīja to par neizbēgamu konkrēta eksponenciāla progresa ātruma rezultātu.

Kurcveila argumentācija balstās uz paātrinātas atdeves likumu un tā brāļiem un māsām, taču tie nav fiziski likumi. Tie ir apgalvojumi par to, kā pagātnes zinātnes un tehnikas progresa tempi var paredzēt nākotnes ātrumu. Tāpēc, tāpat kā citi mēģinājumi prognozēt nākotni no pagātnes, šie likumi darbosies, kamēr tie nedarbosies. Kas ir problemātiskāk attiecībā uz singularitāti, šāda veida ekstrapolācijas lielāko daļu to vispārējās eksponenciālās formas iegūst, pieņemot, ka pastāvīgi tiks nodrošinātas arvien jaudīgākas skaitļošanas iespējas. Lai likumu piemērotu un singularitāte notiktu ap 2045. gadu, spēju attīstībai ir jānotiek ne tikai datora aparatūras tehnoloģijās (atmiņa, apstrādes jauda, ​​kopnes ātrums utt.), bet arī programmatūrā, ko mēs radām, lai darbotos ar šīm tehnoloģijām. spējīgāki datori. Lai sasniegtu singularitāti, nepietiek tikai ar mūsdienu programmatūras ātrāku palaišanu. Mums būtu arī jāveido viedākas un spējīgākas programmatūras programmas. Šāda veida uzlabotas programmatūras izveidei ir nepieciešama iepriekšēja zinātniska izpratne par cilvēka izziņas pamatiem, un mēs tikai skrāpējam to virsmu.

Šī iepriekšējā vajadzība izprast izziņas pamatzinātni ir vieta, kur singularitāte ir tuvu argumentiem, kas mūs nepārliecina. Tā ir taisnība, ka datoru aparatūras tehnoloģija var attīstīties pārsteidzoši ātri, ja mums ir stabila zinātniskā sistēma un atbilstoši ekonomiskie stimuli. Tomēr, lai izveidotu programmatūru reālam singularitātes līmeņa datora intelektam, būs vajadzīgs fundamentāls zinātnes progress, kas pārsniedz pašreizējo situāciju. Šāda veida progress ļoti atšķiras no Mūra likuma stila datoru aparatūras iespēju evolūcijas, kas iedvesmoja Kurzveilu un Vinge. Lai izveidotu sarežģītu programmatūru, kas ļautu notikt singularitātei, mums vispirms ir jābūt detalizētai zinātniskai izpratnei par cilvēka smadzeņu darbību, ko mēs varam izmantot kā arhitektūras ceļvedi vai arī izveidot to visu. atkal . Tas nozīmē ne tikai zināt smadzeņu fizisko struktūru, bet arī to, kā smadzenes reaģē un mainās, un to, kā miljardiem paralēlu neironu mijiedarbību var radīt cilvēka apziņa un oriģināla doma. Šāda veida visaptverošas izpratnes iegūšana par smadzenēm nav neiespējama. Tomēr, ja singularitāte notiks kaut kur, piemēram, Kurcveila laika skalā, tad mums noteikti ir nepieciešams milzīgs mūsu zinātniskā progresa paātrinājums, lai izprastu katru cilvēka smadzeņu aspektu.

Taču vēsture mums saka, ka oriģinālo zinātnisko atklājumu process vienkārši nedarbojas šādi, jo īpaši tādās sarežģītās jomās kā neirozinātne, kodolsintēze vai vēža pētniecība. Kopējais zinātnes progress smadzeņu izpratnē reti atgādina sakārtotu, nepielūdzamu gājienu uz patiesību, nemaz nerunājot par eksponenciāli paātrinātu gājienu. Tā vietā zinātnes sasniegumi bieži vien ir neregulāri, ar neparedzamiem ieskatu uzplaiksnījumiem, kas kavē lēno laboratorijas darbu, veidojot un pārbaudot teorijas, kas atbilst eksperimentāliem novērojumiem. Patiesi nozīmīgi konceptuāli sasniegumi nenotiek, kad tiek prognozēts, un katras tik bieži jaunas zinātniskās paradigmas izplatās cauri laukam un liek zinātniekiem pārvērtēt daļu no tā, ko viņi domāja, ka ir nokārtojuši. Mēs to redzam neirozinātnēs, atklājot ilgtermiņa potenciāciju, kortikālo zonu kolonnu organizāciju un neiroplastiskumu. Šāda veida fundamentālas izmaiņas neatbalsta kopējo Mūra likuma stila paātrinājumu, kas nepieciešams, lai sasniegtu Kurcveila grafika singularitāti.

Sarežģītības bremzes

Iepriekš minētais norāda uz pamatjautājumu par to, cik ātri var izstrādāt zinātniski adekvātu cilvēka intelekta pārskatu. Mēs šo problēmu saucam par sarežģītības bremzes . Iedziļinoties un dziļāk izpratnē par dabas sistēmām, mēs parasti atklājam, ka mums ir vajadzīgas arvien vairāk specializētas zināšanas, lai tās raksturotu, un mēs esam spiesti nepārtraukti paplašināt savas zinātniskās teorijas arvien sarežģītākos veidos. Detalizēto cilvēka izziņas mehānismu izpratne ir uzdevums, kas ir pakļauts šai sarežģītības bremzei. Vienkārši padomājiet par to, kas ir nepieciešams, lai pilnībā izprastu cilvēka smadzenes mikrolīmenī. Smadzeņu sarežģītība ir vienkārši satriecoša. Katru struktūru ir precīzi veidojusi miljoniem gadu ilga evolūcija, lai veiktu noteiktu darbību, lai kāda tā arī būtu. Tas nav kā dators ar miljardiem identisku tranzistoru regulāros atmiņas blokos, kurus kontrolē CPU ar dažiem dažādiem elementiem. Smadzenēs katra atsevišķa struktūra un neironu ķēde ir individuāli pilnveidota evolūcijas un vides faktoru ietekmē. Jo tuvāk mēs skatāmies uz smadzenēm, jo ​​lielāka ir nervu variāciju pakāpe. Uzzinot vairāk, kļūst arvien grūtāk izprast cilvēka smadzeņu neironu struktūru. Citiem vārdiem sakot, jo vairāk mēs mācāmies, jo vairāk saprotam, ka ir jāzina, un jo vairāk mums ir jāatgriežas un jāpārskata mūsu agrākā izpratne. Mēs uzskatām, ka kādu dienu šis vienmērīgais sarežģītības pieaugums beigsies — galu galā smadzenes ir ierobežots neironu kopums un darbojas saskaņā ar fiziskiem principiem. Taču tuvākajā nākotnē tā ir sarežģītības bremze un spēcīgu jaunu teoriju ienākšana, nevis paātrinātas atdeves likums, kas noteiks zinātniskā progresa tempu, kas nepieciešams, lai sasniegtu singularitāti.

Tātad, lai gan mēs domājam, ka smadzeņu nervu struktūras smalka izpratne galu galā ir sasniedzama, tā nav izrādījusies tāda joma, kurā mēs varam panākt eksponenciāli paātrinātu progresu. Bet pieņemsim, ka zinātnieki panāk kādu izcilu jaunu progresu smadzeņu skenēšanas tehnoloģijā. Singularitātes atbalstītāji bieži apgalvo, ka mēs varam sasniegt datora intelektu, tikai skaitliski simulējot smadzenes no apakšas uz augšu no detalizēta neironu līmeņa attēla. Piemēram, Kurcveils prognozē nesagraujošu smadzeņu skeneru attīstību, kas ļaus mums precīzi uzņemt cilvēka dzīvās smadzenes subneironu līmenī. Viņš iesaka ka šie skeneri, visticamāk, darbotos no smadzeņu iekšpuses, izmantojot miljoniem injicējamu medicīnisko nanobotu. Bet neatkarīgi no tā, vai skenēšana, kuras pamatā ir nanobots, izdodas (un mēs pat ne tuvu nezinām, vai tas ir iespējams), Kurcveils būtībā apgalvo, ka tas ir nepieciešamais zinātniskais sasniegums, kas noteiks singularitāti: datori varētu vienkārši parādīt cilvēka līmeņa inteliģenci. ielādējot katra smadzeņu neirona stāvokli un savienojamību masīvā digitālā smadzeņu simulatorā, savienojot ieejas un izejas un nospiežot start.

Tomēr cilvēka līmeņa programmatūras izveides grūtības ir dziļākas nekā katra mūsu neirona strukturālo savienojumu un bioloģijas skaitļošanas modelēšana. Šādas smadzeņu dublēšanās stratēģijas paredz, ka cilvēka izziņas apguvē nav citu būtisku problēmu, izņemot pietiekamu datora jaudu un neironu struktūras kartes, lai veiktu simulāciju. [divi] Lai gan teorētiski tas var būt taisnība, praksē tas tā nav izdevies, jo tas neattiecas uz visu, kas faktiski ir nepieciešams programmatūras izveidei. Piemēram, ja mēs vēlamies izveidot programmatūru, lai simulētu putna spēju lidot dažādos apstākļos, nepietiek tikai ar pilnīgu putna anatomijas diagrammu. Lai pilnībā simulētu reāla putna lidojumu, mums arī jāzina, kā viss darbojas kopā. Neirozinātnē ir paralēla situācija. Ir veikti simtiem mēģinājumu (izmantojot daudzus dažādus organismus), lai savienotu dažādu neironu simulācijas kopā ar to ķīmisko vidi. Šo mēģinājumu vienots rezultāts ir tāds, ka, lai izveidotu adekvātu organisma reālās notiekošās nervu darbības simulāciju, jums ir nepieciešams arī plašs zināšanu apjoms par funkcionāls Šo neironu loma, kā attīstās to savienojumu modeļi, kā tie ir strukturēti grupās, lai neapstrādātus stimulus pārvērstu informācijā, un kā nervu informācijas apstrāde galu galā ietekmē organisma uzvedību. Bez šīs informācijas ir izrādījies neiespējami izveidot efektīvus datorizētus simulācijas modeļus. Īpaši cilvēku kognitīvās neirozinātnes jomā mēs neesam tuvu nepieciešamajam funkcionālo zināšanu līmenim. Smadzenes simulācijas projekti Pašlaik tiek modelēta tikai neliela daļa no tā, ko dara neironi, un trūkst detaļu, lai pilnībā simulētu to, kas notiek smadzenēs. Lai gan pētniecības temps šajā jomā ir iepriecinošs, šķiet, ka tas nav eksponenciāls. Atkal, uzzinot arvien vairāk par smadzeņu darbības faktisko sarežģītību, galvenais, ko mēs atklājam, ir tas, ka problēma faktiski kļūst grūtāka.

AI pieeja

Singularitātes piekritēji laiku pa laikam atsaucas uz mākslīgā intelekta (AI) attīstību kā veidu, kā apiet lēno vispārējo zinātnes progresu augšupējās, uz neirozinātnēm balstītās izziņas pieejās. Tā ir taisnība, ka mākslīgais intelekts ir guvis lielus panākumus atsevišķu izolētu kognitīvo uzdevumu dublēšanā, nesen ar IBM Watson sistēma priekš Apdraudējums! atbildot uz jautājumu. Bet, atkāpjoties, mēs varam redzēt, ka arī vispārējās uz mākslīgo intelektu balstītās iespējas nav eksponenciāli pieaugušas, vismaz, ja to mēra ar pilnīgi vispārīga cilvēka intelekta izveidi. Lai gan mēs esam daudz iemācījušies par to, kā izveidot atsevišķas AI sistēmas, kas veic šķietami inteliģentas lietas, mūsu sistēmas vienmēr ir palikušas trausls — viņu veiktspējas robežas stingri nosaka viņu iekšējie pieņēmumi un definējošie algoritmi, viņi nevar vispārināt, un viņi bieži sniedz bezjēdzīgas atbildes ārpus savām īpašajām fokusa jomām. Datorprogramma, kas spēlē izcilu šahu, nevar izmantot savas prasmes spēlēt citas spēles. Labākās medicīniskās diagnostikas programmas satur ārkārtīgi detalizētas zināšanas par cilvēka ķermeni, taču nevar secināt, ka virves staigātājam būtu lieliska līdzsvara izjūta.

Kāpēc AI pētniekiem ir izrādījies tik grūti izveidot cilvēkam līdzīgu intelektu pat nelielā mērogā? Viena atbilde ietver pamata zinātnisko sistēmu, ko izmanto AI pētnieki. Kad cilvēki no zīdaiņiem kļūst par pieaugušajiem, viņi vispirms iegūst vispārīgas zināšanas par pasauli un pēc tam nepārtraukti papildina un pilnveido šīs vispārējās zināšanas ar īpašām zināšanām par dažādām jomām un kontekstiem. AI pētnieki parasti ir mēģinājuši rīkoties pretēji: viņi ir izveidojuši sistēmas ar padziļinātām zināšanām par šaurām jomām un mēģināja izveidot vispārīgāku iespēju, apvienojot šīs sistēmas. Šī stratēģija kopumā nav bijusi veiksmīga, lai gan Vatsona sniegums turpinājās Apdraudējums! norāda, ka šādi ceļi vēl var būt solīti. Daži mēģinājumi, kas ir veikti, lai tieši radītu lielu daudzumu vispārīgu zināšanu par pasauli un pēc tam pievienotu specializētās zināšanas par domēnu (piemēram, Cycorp ), arī ir bijuši tikai ierobežoti panākumi. Un jebkurā gadījumā mākslīgā intelekta pētnieki tikai sāk izstrādāt teoriju par to, kā efektīvi modelēt sarežģītas parādības, kas piešķir cilvēka izziņai tās unikālo elastību: nenoteiktība, kontekstuālā jutība, īkšķa noteikumi, pašrefleksija un ieskatu uzplaiksnījumi, kas ir būtiski svarīgi. uz augstāka līmeņa domu. Tāpat kā neirozinātnēs, šķiet, ka uz mākslīgo intelektu balstītais ceļš, lai sasniegtu singularitātes līmeņa datoru intelektu, prasa daudz vairāk atklājumu, dažas jaunas Nobela kvalitātes teorijas un, iespējams, pat pilnīgi jaunas pētniecības pieejas, kas nav samērīgas ar to, ko mēs pašlaik ticam. Šāda veida pamata zinātnes progress nenotiek uz uzticamas eksponenciālas izaugsmes līknes. Tātad, lai gan mākslīgā intelekta attīstība galu galā varētu būt ceļš uz singularitāti, atkal sarežģītības bremze palēnina mūsu progresa ātrumu un ievērojami virza singularitāti nākotnē.

Cilvēka izziņas apbrīnojamajai sarežģītībai vajadzētu būt brīdinājumam tiem, kuri apgalvo, ka savdabība ir tuvu. Ja mums nav zinātniski dziļas izpratnes par izziņu, mēs nevaram izveidot programmatūru, kas varētu izraisīt singularitāti. Tā vietā, lai Kurcveils prognozētu arvien straujāko progresu, mēs uzskatām, ka virzību uz šo izpratni būtiski palēnina sarežģītības bremzes. Mūsu spēja panākt šo izpratni, izmantojot mākslīgā intelekta vai neirozinātnes pieeju, pati par sevi ir cilvēka kognitīvs akts, kas izriet no cilvēka atjautības un atklājumu neparedzamā rakstura. Progresu šeit dziļi ietekmē veidi, kā mūsu smadzenes absorbē un apstrādā jaunu informāciju, un pētnieku radošums jaunu teoriju izstrādē. To nosaka arī veidi, kā mēs sociāli organizējam pētniecības darbu šajās jomās un izplatām iegūtās zināšanas. Plkst Vulkāns un pie Allena smadzeņu zinātnes institūts , mēs strādājam pie uzlabotiem rīkiem, lai palīdzētu pētniekiem tikt galā ar šo biedējošo sarežģītību un paātrinātu viņu izpēti. Visaptverošas zinātniskas izpratnes iegūšana par cilvēka izziņu ir viena no grūtākajām problēmām. Mēs turpinām gūt iepriecinošu progresu. Bet līdz gadsimta beigām, mēs uzskatām, mēs joprojām domāsim, vai singularitāte ir tuvu.

Pols G. Allens, kurš 1975. gadā līdzdibināja uzņēmumu Microsoft, ir filantrops un uzņēmuma Vulcan priekšsēdētājs, kurš investē tehnoloģiju, kosmosa, izklaides un sporta biznesā. Marks Grīvzs ir datorzinātnieks, kurš darbojas kā Vulcan zināšanu sistēmu direktors.

[viens] Kurzweil, Paātrinošas atgriešanas likums, 2001. gada marts.

[divi] Mēs sākam nokļūt datora jaudas diapazonā, kas mums varētu būt nepieciešams, lai atbalstītu šāda veida masveida smadzeņu simulāciju. Petaflop klases datori (piemēram, IBM BlueGene/P, kas tika izmantota Watson sistēmā) tagad ir pieejami komerciāli. Šobrīd uz rasējamiem dēļiem atrodas Exaflop klases datori. Šīs sistēmas, iespējams, varētu izmantot neapstrādātas skaitļošanas iespējas, kas nepieciešamas, lai modelētu visu smadzeņu neironu aizdedzes modeļus, lai gan pašlaik tas notiek daudzas reizes lēnāk, nekā tas notiktu faktiskajās smadzenēs.

ATJAUNINĀJUMS: Rejs Kurcveils atbild šeit.

paslēpties