211service.com
Singularitāte un fiksētais punkts
Daži futūristi, piemēram, Rejs Kurcveils, ir izvirzījuši hipotēzi, ka kādu dienu mēs drīz pārdzīvosim singularitāti, tas ir, strauju tehnoloģisku pārmaiņu periodu, pēc kura mēs nevaram iedomāties sabiedrības nākotni. Lielākā daļa vīziju par šo savdabību koncentrējas uz tādu mašīnu izveidi, kas ir pietiekami inteliģentas, lai izstrādātu mašīnas, kas ir vēl inteliģentākas par viņiem pašiem, un tā tālāk rekursīvi, tādējādi uzsākot intelekta pastiprināšanas pozitīvas atgriezeniskās saites cilpu. Tā ir intriģējoša doma. (Viena no pirmajām lietām, ko es gribēju darīt, kad es stājos MIT kā bakalaura students, bija izveidot robotu zinātnieku, kas varētu veikt atklājumus ātrāk un labāk nekā jebkurš cits.) Pat Intel tehnoloģiju vadītājs Džastins Ratners nesen ir publiski izteicies, ka mēs esam labi ceļā uz šo singularitāti un tādām konferencēm kā Singularity Summit (kurā Es runāšu oktobrī ) pēta, kā varētu notikt šādas pārvērtības.
Tomēr kā smadzeņu inženieris es domāju, ka, koncentrējoties tikai uz intelekta palielināšanu kā nākotnes virzītājspēku, tiek atstāta svarīga analīzes daļa, proti, izmaiņas motivācijā, kas varētu rasties, intelektam pastiprinoties. Sauciet to par vajadzību pēc mašīnas vadības prasmēm vai mašīnas filozofijas — bez tās šāda atgriezeniskā saite var ātri izlauzties.
Mēs visi zinām, ka ar intelektu, kā tas parasti tiek definēts, nepietiek, lai ietekmētu pasauli pati par sevi. Svarīga ir arī spēja tiekties uz mērķi neatlaidīgi pret šķēršļiem, ignorējot realitātes drūmumu (dažreiz pat līdz maldiem, t.i., pret inteliģenci). Lielākā daļa zinātniskās fantastikas stāstu dod priekšroku tam, lai viņu mākslīgais intelekts būtu ārkārtīgi motivēts kaut ko darīt, piemēram, paverdzināt vai iznīcināt cilvēkus, ja Matrica un Terminators II ir ko teikt par tēmu. Taču tikpat ticams man šķiet robots Mārvins, superinteliģentā Duglasa Adamsa mašīna. The Ceļvedis stopētājam galaktikā , kurš savu milzīgo inteliģenci galvenokārt izmantoja, lai sēdētu un sūdzētos, jo nebija nekādu lielu mērķu.
Patiešām, patiešām attīstīts intelekts, nepareizi motivēts, varētu apzināties visu lietu nepastāvību, aprēķināt, ka saule izdegs pēc dažiem miljardiem gadu, un nolemt spēlēt videospēles atlikušo pastāvēšanas laiku, secinot, ka izgudrojot vēl gudrāku mašīna ir bezjēdzīga. (Šīs domāšanas sekas varētu izskaidrot, kāpēc mēs vēl neesam atraduši ārpuszemes dzīvību: intelekti, kas atrodas uz starpzvaigžņu ceļojuma sasniegšanas, varētu domāt, ka galaktikām izvirzoties tikai 1019 gadu laikā, varētu būt labāk vienkārši palikt mājās. un skatīties televizoru.) Tādējādi, ja kāds mēģina izveidot viedu mašīnu, kas spēj izstrādāt viedākas mašīnas, ir svarīgi atrast veidu, kā veidot ne tikai motivāciju, bet arī motivācijas pastiprināšanu. - nepārtraukta vēlme veidot pašpietiekamu motivāciju, jo intelekts pastiprinās. Ja šāda motivācija ir nākamajām inteliģences paaudzēm — it kā metamotivācijai —, tad ir svarīgi šos principus atklāt jau tagad.
Ir otrs jautājums. Inteliģenta būtne var iztēloties daudz vairāk iespēju nekā mazāk saprātīga būtne, taču tas ne vienmēr var novest pie efektīvākas darbības, it īpaši, ja dažas iespējas novērš inteliģences uzmanību no sākotnējiem mērķiem (piemēram, mērķis izveidot saprātīgāku intelektu ). Visumam raksturīgā nenoteiktība var arī pārņemt vai padarīt nenozīmīgu šīs inteliģences lēmumu pieņemšanas procesu. Patiešām, ļoti lielai iespēju telpai (ar asis attēlo dažādus veicamās darbības parametrus), varētu būt ļoti grūti novērtēt, kurš ceļš ir labākais. Prāts var izstrādāt plānus paralēli, taču darbības galu galā ir vienotas, un, ņemot vērā ierobežotos pieejamos resursus, efektīvas darbības bieži vien būs maz.
Pēdējās divas rindkopas attiecas ne tikai uz AI un ET, bet arī apraksta cilvēka prāta iezīmes, kas dažkārt ietekmē lēmumu pieņemšanu daudzos no mums — motivācijas un motivācijas trūkums un lēmumu pieņemšanas paralīze, saskaroties ar pārāk daudzām iespējamām izvēlēm. . Bet kļūst vēl sliktāk: mēs zinām, ka motivāciju var nolaupīt, izmantojot iespējas, kas simulē gandarījumu, uz kuru motivācija ir vērsta. Atkarības no vielām vien nomoka desmitiem miljonu cilvēku Amerikas Savienotajās Valstīs, un arī atkarība no smalkākām lietām, tostarp noteikta veida informācija (piemēram, e-pasts), ir ievērojama. Un dažas mākslas ir grūtākas nekā motivācijas nodošana nākamajai paaudzei lielas idejas īstenošanai. Intelekti, kas izgudro arvien interesantākas un saistošākas tehnoloģijas, kas spēj labāk piesaistīt un noturēt viņu uzmanību, vienlaikus samazinot ietekmi uz pasauli, var nonākt pretstatā singularitātei.
Kas ir pretstats singularitātei? Singularitāte ir atkarīga no matemātiskas rekursijas: izgudrojiet superinteliģenci, un tad tas izgudros vēl spēcīgāku superinteliģenci. Bet, kā zina ikviens matemātikas students, atkārtotam procesam ir arī citi rezultāti, piemēram, fiksēts punkts. Fiksēts punkts ir punkts, kas, kad tiek lietota funkcija, atkal dod to pašu punktu. Lietojot šādu funkciju punktiem netālu no fiksētā punkta, tie bieži tiks nosūtīti uz fiksēto punktu.
Tāpēc sabiedrības fiksēto punktu varētu definēt kā stāvokli, kas sevi pastiprina, paliekot status quo — kas principā varētu būt mierīgs un pašpietiekams, bet varētu būt arī ārkārtīgi garlaicīgs, teiksim, iesaistot daudzus cilvēkus, kuri ir pieslēgti internetam. skatoties video mūžīgi. Tādējādi mēs, cilvēki, varētu vēlēties kaut kad drīz sākt izstrādāt tehnoloģiju izstrādes noteikumus, lai tie motivētu mūs sasniegt kādu augstu mērķi vai mērķi, vai vismaz prom no strupceļa sabiedrības fiksētajiem punktiem. Šis process ietvers domāšanu par to, kā tehnoloģija varētu palīdzēt risināt veco filozofijas jautājumu, proti, ko man darīt, ņemot vērā visus šos iespējamos ceļus? Iespējams, ir pienācis laiks sniegt empīrisku atbildi uz šo jautājumu, kas izriet no mūsu smadzeņu īpašībām un Visuma, kurā mēs dzīvojam.