Kurzveils atbild: nenovērtējiet par zemu singularitāti

Lai gan Pols Alens pārfrāzē manu 2005. gada grāmatu, Singularitāte ir tuvu , viņa esejas nosaukumā (kopā ar kolēģi Marku Grīvzu) šķiet, ka viņš šo grāmatu nav lasījis. Vienīgais viņa citāts ir eseja, kuru es uzrakstīju 2001. gadā (Paātrinošas atdeves likums), un viņa rakstā nav atzīti argumenti, kurus es patiesībā izteicu grāmatā.

Kredīts: Tehnoloģiju apskats

Kad mana 1999. gada grāmata, Garīgo mašīnu laikmets, tika publicēts un pāris gadus vēlāk papildināts ar 2001. gada eseju, tas radīja vairākas kritikas līnijas, piemēram, Mūra likumam pienāks gals, iespējams, ka aparatūras iespējas paplašinās eksponenciāli, bet programmatūra ir iestrēgusi dubļos, smadzenes ir pārāk sarežģītas, smadzenēs ir iespējas, kuras pēc savas būtības nevar replicēt programmatūrā, un vairākas citas. Es speciāli rakstīju Singularitāte ir tuvu lai atbildētu uz šo kritiku.

Es nevaru teikt, ka Alens noteikti būtu pārliecināts par argumentiem, ko es izteicu grāmatā, bet viņš vismaz varēja atbildēt uz to, ko es patiesībā uzrakstīju. Tā vietā viņš piedāvā atkal argumenti, it kā nekad nekas nebūtu rakstīts, lai atbildētu uz šiem jautājumiem. Šķiet, ka Alena apraksti par manām pozīcijām ir ņemti no manas 10 gadus vecās esejas. Kamēr es turpinu pieturēties pie šīs esejas, Alens nav pareizi apkopojis manas pozīcijas pat no šīs esejas.

Allens raksta, ka Paātrinošās atdeves likums (LOAR)... nav fizisks likums. Es vēlētos norādīt, ka lielākā daļa zinātnisko likumu nav fiziski likumi, bet tie izriet no daudzu notikumu raksturīgām īpašībām smalkākā līmenī. Klasisks piemērs ir termodinamikas likumi (LOT). Ja paskatās uz LOT pamatā esošo matemātiku, katra daļiņa tiek modelēta kā nejauša pastaiga. Tātad pēc definīcijas mēs nevaram paredzēt, kur kāda konkrēta daļiņa atradīsies nākotnē. Tomēr gāzes vispārējās īpašības ir ļoti precīzi paredzamas saskaņā ar likumus no termodinamikas. Tā tas ir ar paātrinātas atdeves likumu. Katrs tehnoloģiju projekts un ieguldītājs ir neprognozējams, tomēr kopējā trajektorija, ko nosaka cenu veiktspējas un jaudas pamatmēri, tomēr iet ļoti paredzamā virzienā.

Ja ar datortehnoloģiju nodarbotos tikai nedaudzi pētnieku, tas patiešām būtu neprognozējams. Taču tas tiek īstenots, izmantojot pietiekami dinamisku konkurētspējīgu projektu sistēmu, ka pamatmērs, piemēram, instrukcijas sekundē uz nemainīgu dolāru, seko ļoti vienmērīgam eksponenciālam ceļam, sākot ar 1890. gada Amerikas skaitīšanu. Savā grāmatā es plaši aplūkoju LOAR teorētisko pamatojumu, bet visspēcīgākais arguments ir plašie empīriskie pierādījumi, ko es un citi piedāvāju.

Allens raksta, ka šie “likumi” darbojas, kamēr tie nedarbojas. Šeit Allens jauc paradigmas ar informācijas tehnoloģiju pamata jomas pašreizējo trajektoriju. Ja mēs pētītu tendenci radīt arvien mazākas vakuuma lampas, kas bija skaitļošanas uzlabošanas paradigma 1950. gados, tā ir taisnība, ka šī īpašā tendence turpinājās līdz brīdim, kad tā nenotika. Bet, kad kļuva skaidrs šīs konkrētās paradigmas beigas, pieauga pētniecības spiediens uz nākamo paradigmu. Tranzistoru tehnoloģija saglabāja pamatā esošo cenu un veiktspējas eksponenciāla pieauguma tendenci, un tas noveda pie piektās paradigmas (Mūra likuma) un nepārtrauktas integrālo shēmu funkciju saspiešanas. Regulāri tiek prognozēts, ka Mūra likumam pienāks gals. The pusvadītāju nozares ceļvedi ar nosaukumu projektiem septiņu nanometru funkcijas līdz 2020. gadu sākumam. Tajā brīdī galvenās iezīmes būs 35 oglekļa atomu platums, un būs grūti turpināt to saraušanu. Tomēr Intel un citi mikroshēmu ražotāji jau sper pirmos soļus ceļā uz sesto paradigmu, kas ir skaitļošana trīs dimensijās, lai turpinātu eksponenciāli uzlabot cenu veiktspēju. Intel prognozē, ka trīsdimensiju mikroshēmas būs plaši izplatītas pusaudžu gados. Jau ir ieviesti trīsdimensiju tranzistori un trīsdimensiju atmiņas mikroshēmas.

Šī sestā paradigma saglabās LOAR attiecībā uz datora cenu veiktspēju līdz tādam līmenim, vēlāk šajā gadsimtā, kad tūkstoš dolāru aprēķini būs triljoniem reižu jaudīgāki nekā cilvēka smadzenes. [viens] Un šķiet, ka Allens un es vismaz esam vienisprātis par to, kāds skaitļošanas līmenis ir nepieciešams, lai funkcionāli simulētu cilvēka smadzenes. [divi]

Pēc tam Allens sniedz standarta argumentu, ka programmatūra neattīstās tādā pašā eksponenciālā veidā kā aparatūra. In Singularitāte ir tuvu , es plaši aplūkoju šo problēmu, minot dažādas programmatūras sarežģītības un iespēju mērīšanas metodes, kas demonstrē līdzīgu eksponenciālu pieaugumu. Vienā nesen veiktajā pētījumā (Prezidenta Zinātnes un tehnoloģiju padomnieku padomes ziņojums prezidentam un Kongresam, Digitālās nākotnes izstrāde: Federāli finansēta pētniecība un attīstība tīklu un informācijas tehnoloģiju jomā) teikts:

Vēl ievērojamāks — un vēl mazāk saprotams — ir tas, ka daudzās jomās veiktspējas uzlabojumi algoritmu uzlabojumu dēļ ir ievērojami pārsnieguši pat dramatiskos veiktspējas pieaugumu, ko izraisa palielināts procesora ātrums . Algoritmi, ko mēs šodien izmantojam runas atpazīšanai, dabiskās valodas tulkošanai, šaha spēlei, loģistikas plānošanai, pēdējo desmit gadu laikā ir ievērojami attīstījušies… Šeit ir tikai viens piemērs, ko sniedz Konrad-Zuse-Zentrum für Informationstechnik profesors Martins Grötšels. Berlīne. Grēšels, optimizācijas eksperts, norāda, ka ražošanas plānošanas etalona modeļa atrisināšana, izmantojot lineāro programmēšanu, 1988. gadā būtu prasījusi 82 ​​gadus, lai atrisinātu toreizējos datorus un lineārās programmēšanas algoritmus. Piecpadsmit gadus vēlāk — 2003. gadā — šo pašu modeli varēja atrisināt aptuveni vienā minūtē, kas ir uzlabojums par aptuveni 43 miljoniem. No tā aptuveni 1000 faktors ir saistīts ar palielinātu procesora ātrumu, savukārt aptuveni 43 000 faktors bija saistīts ar algoritmu uzlabojumiem! Grötschel arī min algoritmu uzlabojumu aptuveni par 30 000 jauktu veselu skaitļu programmēšanai laika posmā no 1991. līdz 2008. gadam. Algoritmu izstrāde un analīze, kā arī problēmu raksturīgās skaitļošanas sarežģītības izpēte ir datorzinātnes pamatnozares.

Grāmatā es minu daudzus citus līdzīgus piemērus. [3]

Attiecībā uz mākslīgo intelektu Allens ātri noraidīja IBM Watson kā šauru, stingru un trauslu. Man ir sajūta, ka Alens noraidīs jebkuru demonstrāciju, ja nav derīgi nokārtots Tjūringa tests. Es gribētu norādīt, ka Vatsons nav tik šaurs. Tas attiecas uz plašu cilvēku zināšanu klāstu un spēj tikt galā ar smalkām valodas formām, tostarp vārdu spēlēm, līdzībām un metaforām. Tas nav ideāls, bet arī cilvēki nav, un tas bija pietiekami labs, lai iegūtu augstāku punktu skaitu nekā divi labākie cilvēki Apdraudējums! spēlētāji salikti kopā.

Allens raksta, ka Vatsonu kopā izveidoja paši zinātnieki, veidojot katru šauru zināšanu saiti konkrētās jomās. Lai gan dažas Vatsona zināšanu jomas tika ieprogrammētas tieši, saskaņā ar IBM datiem Vatsons lielāko daļu zināšanu apguva pats, lasot dabiskās valodas dokumentus, piemēram, enciklopēdijas. Tas atspoguļo tā galveno spēku. Tas ne tikai spēj saprast sarežģīto valodu Apdraudējums! vaicājumus (atbildes, meklējot jautājumu), bet zināšanas tā ieguva, lasot milzīgu daudzumu dabiskās valodas dokumentu. IBM tagad sadarbojas ar Nuance (uzņēmumu, kuru es sākotnēji dibināju kā Kurzweil Computer Products), lai Vatsons izlasītu desmitiem tūkstošu medicīnisku rakstu, lai izveidotu medicīnas diagnostiku.

Šeit ir vietā daži vārdi par Vatsona izpratnes būtību. Daudz ir rakstīts, ka Vatsons strādā, izmantojot statistikas zināšanas, nevis patiesu izpratni. Daudzi lasītāji to interpretē tādējādi, ka Vatsons tikai vāc statistiku par vārdu secībām. Termins statistiskā informācija Vatsona gadījumā attiecas uz sadalītiem koeficientiem pašorganizācijas metodēs, piemēram, Markova modeļos. Tikpat viegli varētu atsaukties uz sadalīto neirotransmitera koncentrāciju cilvēka garozā kā statistisko informāciju. Patiešām, mēs atrisinām neskaidrības tāpat kā Vatsons, apsverot dažādu frāzes interpretāciju iespējamību.

Allens raksta: Katru struktūru [smadzenēs] ir precīzi veidojusi miljoniem gadu ilga evolūcija, lai veiktu kādu konkrētu lietu, lai kāda tā arī būtu. Tas nav kā dators ar miljardiem identisku tranzistoru regulāros atmiņas blokos, kurus kontrolē CPU ar dažiem dažādiem elementiem. Smadzenēs katra atsevišķa struktūra un neironu ķēde ir individuāli pilnveidota evolūcijas un vides faktoru ietekmē.

Alena apgalvojums, ka katra struktūra un neironu ķēde ir unikāla, ir vienkārši neiespējams. Tas nozīmētu, ka smadzeņu konstrukcijai būtu nepieciešami simtiem triljonu baitu informācijas. Tomēr smadzeņu (tāpat kā pārējā ķermeņa) dizains ir ietverts genomā. Un, lai gan genoma pārvēršana smadzenēs nav vienkārša, smadzenēm nevar būt vairāk informācijas par dizainu nekā genomam. Ņemiet vērā, ka epiģenētiskā informācija (piemēram, peptīdi, kas kontrolē gēnu ekspresiju) būtiski nepalielina informācijas daudzumu genomā. Pieredze un mācīšanās ievērojami palielina informācijas apjomu, taču to pašu var teikt par AI sistēmām. Es parādos Singularitāte ir tuvu ka pēc bezzudumu saspiešanas (sakarā ar masveida dublēšanu genomā) dizaina informācijas apjoms genomā ir aptuveni 50 miljoni baitu, no kuriem aptuveni puse attiecas uz smadzenēm. [4] Tas nav vienkārši, taču tas ir sarežģītības līmenis, ar kuru mēs varam tikt galā, un tas ir mazāk sarežģīts nekā daudzas programmatūras sistēmas mūsdienu pasaulē.

Kā mēs varam iegūt aptuveni 100 triljonus savienojumu smadzenēs no tikai desmitiem miljonu baitu dizaina informācijas? Acīmredzot, atbilde ir ar atlaišanu. Garozā ir aptuveni miljards modeļu atpazīšanas mehānismu. Tie ir savstarpēji saistīti sarežģītos veidos, taču pat savienojumos ir liela dublēšanās. Smadzenēs ir arī miljardiem atkārtotu neironu modeļu. Tā ir taisnība, ka masveidā atkārtotās struktūras smadzenēs apgūst dažādas informācijas vienības, kamēr mēs mācāmies un iegūstam pieredzi, taču tas pats attiecas uz mākslīgi inteliģentām sistēmām, piemēram, Vatsonu.

Dharmendra S. Modha, IBM Research kognitīvās skaitļošanas menedžeris, raksta : …neiroanatomi nav atraduši bezcerīgi samezglotu, patvaļīgi savienotu tīklu, kas būtu pilnīgi individuāls katra indivīda smadzenēm, bet gan daudz atkārtotas struktūras atsevišķās smadzenēs un lielu homoloģiju starp sugām… Pārsteidzošā dabiskā pārkonfigurējamība dod cerību ka neiroskaitļošanas pamatalgoritmi nav atkarīgi no specifiskām sensorajām vai motoriskajām modalitātēm un ka liela daļa novēroto garozas struktūras izmaiņu apgabalos atspoguļo kanoniskās shēmas pilnveidošanu; mēs patiešām vēlamies pārveidot šo kanonisko shēmu.

Alens formulē to, ko es aprakstu savā grāmatā kā zinātnieka pesimismu. Zinātnieki, kas strādā pie nākamās paaudzes, vienmēr cīnās ar šo nākamo izaicinājumu kopumu, tāpēc, ja kāds apraksta, kā tehnoloģija izskatīsies pēc 10 paaudzēm, viņu acis aizmirdz. Viens no integrēto shēmu pionieriem man nesen aprakstīja, kā pirms vairāk nekā 30 gadiem tika mēģināts pāriet no 10 mikronu (10 000 nanometru) līdz piecu mikronu (5000 nanometru) funkcijām. Viņi bija piesardzīgi pārliecināti par šo mērķi, taču, kad cilvēki prognozēja, ka kādreiz mums patiešām būs shēmas ar elementu izmēriem, kas mazāki par vienu mikronu (1000 nanometriem), lielākā daļa zinātnieku, kuri cīnījās, lai sasniegtu piecus mikronus, uzskatīja, ka tas ir pārāk mežonīgi, lai to apsvērtu. Tika izteikti iebildumi par shēmu trauslumu tādā precizitātes līmenī, termisko efektu utt. Nu, šodien Intel sāk izmantot mikroshēmas ar 22 nanometru vārtu garumu.

Mēs redzējām tādu pašu pesimismu ar genoma projektu. Pusceļā 15 gadu projektam bija savākts tikai 1 procents genoma, un kritiķi ierosināja pamata ierobežojumus tam, cik ātri genomu var sekvencēt, neiznīcinot smalkās ģenētiskās struktūras. Taču eksponenciālais pieaugums gan jaudas, gan cenu rādītājos turpinājās (abas katru gadu aptuveni dubultojās), un projekts tika pabeigts septiņus gadus vēlāk. Cilvēka smadzeņu reversās inženierijas projekts gūst līdzīgu progresu. Tikai nesen, piemēram, mēs esam sasnieguši slieksni ar neinvazīvām skenēšanas metodēm, kas ļauj redzēt atsevišķus starpneironu savienojumus reāllaikā.

Allena sarežģītības bremze sajauc mežu ar kokiem. Ja vēlaties izprast, modelēt, simulēt un no jauna izveidot aizkuņģa dziedzeri, jums nav nepieciešams no jauna izveidot vai simulēt katru organellu katrā aizkuņģa dziedzera saliņas šūnā. Tā vietā jūs vēlaties pilnībā izprast vienu salas šūnu, pēc tam abstrahēt tās pamata funkcionalitāti un pēc tam paplašināt to uz lielu šādu šūnu grupu. Šis algoritms ir labi saprotams attiecībā uz salu šūnām. Pašlaik tiek pārbaudītas mākslīgās aizkuņģa dziedzeris, kas izmanto šo funkcionālo modeli. Lai gan smadzenēs noteikti ir daudz vairāk sarežģījumu un atšķirību nekā masveidā atkārtotajās aizkuņģa dziedzera saliņu šūnās, tomēr funkcijas masveidā atkārtojas.

Alens nepareizi raksturo manu ierosinājumu uzzināt par smadzenēm, skenējot smadzenes, lai izprastu to smalko struktūru. Mans priekšlikums nav simulēt visas smadzenes no apakšas uz augšu, neizprotot informācijas apstrādes funkcijas. Mums ir sīki jāsaprot, kā darbojas atsevišķi neironu veidi, un pēc tam jāapkopo informācija par funkcionālo moduļu savienojumu. Funkcionālās metodes, kas iegūtas no šāda veida analīzes, var vadīt viedo sistēmu attīstību. Būtībā mēs meklējam bioloģiski iedvesmotas metodes, kas var paātrināt darbu AI, no kurām lielākā daļa ir progresējusi bez būtiska ieskata par to, kā smadzenes veic līdzīgas funkcijas. No sava darba runas atpazīšanas jomā es zinu, ka mūsu darbs tika ievērojami paātrināts, kad mēs guvām ieskatu par to, kā smadzenes sagatavo un pārveido dzirdes informāciju.

Veids, kā šīs smadzenēs masveidā liekās struktūras atšķiras, ir mācīšanās un pieredze. Tomēr pašreizējais mākslīgā intelekta sasniegums ļauj sistēmām mācīties arī no savas pieredzes. Google pašbraucošās automašīnas (kas ir nobraukušas vairāk nekā 140 000 jūdžu cauri Kalifornijas pilsētām) mācās no savas braukšanas pieredzes, kā arī no Google automašīnām, kuras vada cilvēki. Kā jau minēju, Vatsons lielāko daļu zināšanu apguva, lasot pats.

Tā ir taisnība, ka Vatsons savā spējā saprast cilvēku valodu nav gluži cilvēka līmenī (ja tā būtu, mēs tagad būtu Tjūringa testa līmenī), tomēr viņš spēja uzvarēt labākos cilvēkus. Tas ir saistīts ar datoriem piemītošo atmiņas ātrumu un uzticamību. Tātad, kad dators sasniegs cilvēka līmeni, kas, manuprāt, notiks līdz 2020. gadu beigām, tas varēs iziet tīmeklī un lasīt miljardiem lappušu, kā arī gūt pieredzi tiešsaistes virtuālajās pasaulēs. Cilvēka līmeņa modeļu atpazīšanas apvienošana ar datoriem raksturīgo ātrumu un precizitāti būs ļoti spēcīga. Taču tas nav svešs izlūkošanas iekārtu iebrukums — mēs radām šos rīkus, lai kļūtu gudrāki. Es domāju, ka Alens man piekritīs, ka tas ir tas, kas ir unikāls attiecībā uz cilvēku sugām: mēs veidojam šos rīkus, lai paplašinātu savu sasniedzamību.

Rejs Kurcveils ir izgudrotājs un autors. Viņa pēdējais gabals priekš Tehnoloģiju apskats bija apmēram cīnās ar novecošanas procesu .

[viens] 2. nodaļa, Singularitāte ir tuvu autors Rejs Kurcveils, Vikings, 2005.

[divi] Skatiet Pola G. Allena un Marka Grīvza 2. beigu piezīmi grāmatā The Singularity Isn’t Near.

[3] 9. nodaļa, Singularitāte ir tuvu.

[4] 4. nodaļa, Singularitāte ir tuvu.

paslēpties