Mūsu bailes no mākslīgā intelekta

Pirms gadiem es dzēru kafiju ar draugu, kurš vadīja jaunuzņēmumu. Viņam tikko bija apritējuši 40. Viņa tēvs bija slims, viņam sāpēja mugura, un viņš bija dzīves pārņemts. Nesmejies par mani, viņš teica, bet es paļāvos uz savdabību.

Mans draugs strādāja tehnoloģiju jomā; viņš bija redzējis izmaiņas, ko bija radījuši ātrāki mikroprocesori un tīkli. Tas nebija tik liels solis, lai viņš noticētu, ka pirms pusmūža pārņemšanas mašīnu inteliģence pārsniegs cilvēku intelektu — brīdi, ko futūristi sauc par singularitāti. Labvēlīgs superinteliģence varētu ļoti ātri analizēt cilvēka ģenētisko kodu un atklāt mūžīgās jaunības noslēpumu. Vismaz tas varētu zināt, kā salabot muguru.

Šis stāsts bija daļa no mūsu 2015. gada marta numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Bet ja tas nebūtu tik labestīgs? Niks Bostroms, filozofs, kurš vada Oksfordas universitātes Cilvēces nākotnes institūtu, savā grāmatā apraksta šādu scenāriju. Superinteliģence , kas ir izraisījis lielas diskusijas par mākslīgā intelekta nākotni. Iedomājieties mašīnu, ko mēs varētu saukt par saspraužu maksimizatoru, tas ir, mašīnu, kas ieprogrammēta tā, lai izgatavotu pēc iespējas vairāk saspraužu. Tagad iedomājieties, ka šī mašīna kaut kādā veidā kļuva neticami inteliģenta. Ņemot vērā tā mērķus, tā varētu nolemt izveidot jaunas, efektīvākas saspraužu ražošanas iekārtas — līdz King Midas stilā tas būtībā visu bija pārveidojis par papīra saspraudēm.

Neuztraucieties, jūs varētu teikt: jūs varētu vienkārši ieprogrammēt to, lai izveidotu tieši miljonu papīra saspraudes un apturētu. Bet ko darīt, ja tas izgatavo saspraudes un pēc tam nolemj pārbaudīt savu darbību? Vai tas ir pareizi saskaitīts? Tam ir jākļūst gudrākam, lai pārliecinātos. Superinteliģentā iekārta ražo vēl neizgudrotu neapstrādātu skaitļošanas materiālu (sauc to par computronium) un izmanto to, lai pārbaudītu visas šaubas. Bet katras jaunas šaubas rada papildu digitālās šaubas un tā tālāk, līdz visa zeme tiek pārveidota par datoru. Izņemot miljonus saspraudes.

Pārskatītās lietas

• Superinteliģence: ceļi, briesmas, stratēģijas

  Autors Niks Bostroms
  Oxford University Press, 2014

  
  
  

Bostroms netic, ka papīra saspraudes maksimizētājs radīsies, tieši tā; tas ir pārdomāts eksperiments, kas paredzēts, lai parādītu, kā pat rūpīga sistēmas projektēšana nevar ierobežot ārkārtēju mašīnu inteliģenci. Taču viņš uzskata, ka superinteliģence varētu parādīties, un, lai gan tas varētu būt lieliski, viņš domā, ka tas varētu arī izlemt, ka tam nav vajadzīgi cilvēki. Vai arī dariet daudzas citas lietas, kas iznīcina pasauli. 8. nodaļas nosaukums ir: Vai noklusējuma rezultāts ir nolemts?

Ja tas jums šķiet absurdi, jūs neesat viens. Kritiķi, piemēram, robotikas pionieris Rodnijs Brūkss, saka, ka cilvēki, kuri baidās no bēguļojoša AI, pārprot, ko dara datori, kad mēs sakām, ka viņi domā vai kļūst gudri. No šīs perspektīvas Bostroma aprakstītais iespējamais superinteliģence ir tālu nākotnē un, iespējams, neiespējams.

Tomēr daudzi gudri, pārdomāti cilvēki piekrīt Bostromam un tagad ir noraizējušies. Kāpēc?

Gribas

Jautājums Vai mašīna var domāt? ir ēnojusi datorzinātni no tās pirmsākumiem. Alans Tjūrings 1950. gadā ierosināja, ka mašīnu var mācīt kā bērnu; Programmēšanas valodas LISP izgudrotājs Džons Makartijs 1955. gadā radīja terminu mākslīgais intelekts. Kad mākslīgā intelekta pētnieki 1960. un 1970. gados sāka izmantot datorus, lai atpazītu attēlus, tulkotu starp valodām un saprastu instrukcijas normālā valodā, nevis tikai kodā, ideja, ka datori galu galā attīstīs spēju runāt un domāt — un līdz ar to darīt ļaunu —, ienāca galvenajā kultūrā. Pat ārpus bieži pieminētā HAL no 2001: Kosmosa odiseja , 1970. gada filma Koloss: Forbin projekts aprīkots ar lielu mirgojošu lieldatoru, kas noved pasauli pie kodoliznīcināšanas sliekšņa; līdzīga tēma tika izpētīta 13 gadus vēlāk Kara spēles . 1973. gada androīdi Westworld kļuva traks un sāka slepkavot.

Ekstrēmas mākslīgā intelekta prognozes ir salīdzināmas ar efektīvāku iekšdedzes dzinēju redzējumu… un lēcienu uz secinājumu, ka šķēru piedziņas ir tepat aiz stūra, raksta Rodnijs Brūks.

Kad mākslīgā intelekta pētījumi tālu nesasniedza savus augstos mērķus, finansējums izsīka, sākoties garām AI ziemām. Neskatoties uz to, inteliģentās mašīnas lāpu 80. un 90. gados iznesa tādi zinātniskās fantastikas autori kā Vernors Vindžs, kurš popularizēja singularitātes jēdzienu; tādi pētnieki kā robotiķis Hanss Moraveks, datorredzes eksperts; un inženieris/uzņēmējs Rejs Kurcveils, 1999. gada grāmatas autors Garīgo mašīnu laikmets . Kamēr Tjūrings bija izvirzījis cilvēcisku inteliģenci, Vindžs, Moraveks un Kurcveils domāja plašāk: kad dators spēs patstāvīgi izdomāt veidus, kā sasniegt mērķus, tas, ļoti iespējams, spēs veikt pašpārbaudi un tādējādi modificēt savu programmatūru un izveidot sevi. inteliģentāks. Īsi sakot, šāds dators varētu izveidot savu aparatūru.

Kā Kurcveils to aprakstīja, tas sāks skaistu jaunu laikmetu. Šādām mašīnām pietiktu izpratnes un pacietības (mērot pikosekundēs), lai atrisinātu neatrisinātās nanotehnoloģiju un kosmosa lidojumu problēmas; tie uzlabotu cilvēka stāvokli un ļautu mums augšupielādēt mūsu apziņu nemirstīgā digitālā formā. Intelekts izplatītos visā kosmosā.

Šādam saulainam optimismam var atrast arī tieši pretēju. Stīvens Hokings ir brīdinājis, ka, tā kā cilvēki nespētu konkurēt ar progresīvu AI, tas varētu nozīmēt cilvēces galu. Izlasot Superinteliģence , uzņēmējs Elons Masks tvītoja: Cerams, ka mēs neesam tikai digitālā superinteliģences bioloģiskais sāknēšanas ielādētājs. Diemžēl tas kļūst arvien ticamāks. Pēc tam Musks piešķīra 10 miljonu dolāru dotāciju Future of Life institūtam. Nejaukt ar Bostroma centru, šī ir organizācija, kas saka, ka tā strādā, lai mazinātu eksistenciālos riskus, ar kuriem saskaras cilvēce, tos, kas varētu rasties no cilvēka līmeņa mākslīgā intelekta attīstības.

Neviens neapgalvo, ka tagad pastāv kaut kas līdzīgs superinteliģentam. Patiesībā mums joprojām nav nekā tāda, kas tuvotos vispārēja pielietojuma mākslīgajam intelektam vai pat skaidrs ceļš, kā to varētu sasniegt. Jaunākie sasniegumi mākslīgā intelekta jomā, sākot no automatizētiem palīgiem, piemēram, Apple Siri, līdz Google bezvadītāja automašīnām, arī atklāj šīs tehnoloģijas nopietnos ierobežojumus; abus var izmest situācijas, ar kurām viņi iepriekš nav saskārušies. Mākslīgie neironu tīkli var iemācīties paši atpazīt kaķus fotogrāfijās. Bet viņiem ir jāparāda simtiem tūkstošu piemēru, un viņi joprojām ir daudz mazāk precīzi, pamanot kaķus nekā bērns.

Šeit ir vieta skeptiķi, piemēram, Brūkss , iRobot un Rethink Robotics dibinātājs, iesaistās. Pat ja tas ir iespaidīgi — salīdzinājumā ar to, ko varēja pārvaldīt agrākie datori —, ka dators atpazīst kaķa attēlu, iekārtai nav vēlēšanās, nav nekādas sajūtas par to, kas ir kaķis. vai kas vēl notiek attēlā, un neviena no neskaitāmajām atziņām, kas ir cilvēkiem. Šajā skatījumā mākslīgais intelekts, iespējams, varētu novest pie viedām mašīnām, taču tas prasītu daudz vairāk darba, nekā iedomājas tādi cilvēki kā Bostroms. Un pat ja tas varētu notikt, inteliģence ne vienmēr novedīs pie jūtīguma. Ekstrapolējot no mūsdienu mākslīgā intelekta stāvokļa, liekot domāt, ka superinteliģence tuvojas, ir salīdzināma ar efektīvāku iekšdedzes dzinēju parādīšanos un pārsteidzīgu secinājumu, ka šķēru piedziņas ir tepat aiz stūra, Brūkss nesen rakstīja vietnē. edge.org . Viņš saka, ka par ļaunprātīgo AI nav jāuztraucas vismaz dažus simtus gadu.

Apdrošināšanas polise

Pat ja izredzes uz superinteliģenci ir ļoti lielas, iespējams, ir bezatbildīgi izmantot iespēju. Viena persona, kas piekrīt Bostroma bažām, ir Stjuarts J. Rasels, Kalifornijas Universitātes Bērklijas datorzinātņu profesors. Rasels ir autors kopā ar Pīteru Norvigu (kurzveila līdzinieks Google). Mākslīgais intelekts: mūsdienīga pieeja , kas ir bijusi standarta AI mācību grāmata jau divus gadu desmitus.

Ir daudz it kā gudru publisko intelektuāļu, kuriem vienkārši nav ne jausmas, Rasels man teica. Viņš norādīja, ka mākslīgais intelekts pēdējās desmitgades laikā ir guvis milzīgu progresu un, lai gan sabiedrība varētu saprast progresu Mūra likuma ziņā (ātrāki datori dara vairāk), patiesībā nesenais AI darbs ir bijis būtisks, izmantojot tādas metodes kā dziļa mācīšanās. pamatu datoriem, kas var automātiski uzlabot viņu izpratni par apkārtējo pasauli.

Bostroma grāmatā ir piedāvāti veidi, kā saskaņot datorus ar cilvēku vajadzībām. Mēs būtībā sakām dievam, kā mēs vēlētos, lai pret mums izturas.

Tā kā Google, Facebook un citi uzņēmumi aktīvi cenšas izveidot inteliģentu, mācīšanās mašīnu, es teiktu, ka viena no lietām, ko mums nevajadzētu darīt, ir ar pilnu tvaiku virzīt uz priekšu superinteliģences veidošanā, nedomājot par potenciālu. riskus. Tas tikai šķiet mazliet muļķīgi. Rasels izteica analoģiju: tas ir kā kodolsintēzes pētniecība. Ja jautājat kodolsintēzes pētniekam, ko viņi dara, viņš saka, ka strādā pie ierobežošanas. Ja vēlaties neierobežotu enerģiju, labāk ierobežojiet saplūšanas reakciju. Tāpat viņš saka, ka, ja vēlaties neierobežotu intelektu, labāk izdomājiet, kā saskaņot datorus ar cilvēku vajadzībām.

Bostroma grāmata ir izpētes priekšlikums, lai to izdarītu. Superinteliģents būtu līdzīgs dievam, bet vai to rosinātu dusmas vai mīlestība? Tas ir atkarīgs no mums (tas ir, inženieriem). Tāpat kā jebkuram vecākam, mums ir jāsniedz savam bērnam vērtību kopums. Un ne jau jebkuras vērtības, bet tās, kas ir cilvēces interesēs. Mēs būtībā sakām dievam, kā mēs vēlētos, lai pret mums izturas. Kā turpināt?

Bostroms lielā mērā balstās uz ideju no domātāja Eliezera Judkovska, kurš runā par saskaņotu ekstrapolētu gribu — visu cilvēku vienprātībā iegūto labāko sevi. Mēs ceram, ka mākslīgais intelekts vēlētos sniegt mums bagātu, laimīgu un piepildītu dzīvi: salabot sāpošo muguru un parādīt, kā nokļūt uz Marsu. Un, tā kā cilvēki nekad ne par ko pilnībā nepiekritīs, mums dažreiz tas būs nepieciešams, lai tas izlemtu mūsu vietā — pieņemtu cilvēcei kopumā labākos lēmumus. Kā tad mēs ieprogrammējam šīs vērtības savā (potenciālajā) superinteliģencē? Kāda veida matemātika tos var definēt? Tās ir problēmas, pēc Bostroma domām, kuras pētniekiem vajadzētu atrisināt tagad. Bostroms saka, ka tas ir mūsu laikmeta galvenais uzdevums.

Civiliedzīvotājiem nav iemesla zaudēt miegu biedējošu robotu dēļ. Mums nav tehnoloģiju, kas būtu attālināti tuvu superinteliģentam. Turklāt daudzas no lielākajām korporācijām pasaulē ir ieguldījušas lielus ieguldījumus, lai padarītu savus datorus viedākus; īsts AI sniegtu jebkuram no šiem uzņēmumiem neticamas priekšrocības. Viņiem vajadzētu arī pielāgoties tās iespējamajiem trūkumiem un izdomāt, kā no tiem izvairīties.

Šis nedaudz niansētāks ieteikums — bez jebkādiem apgalvojumiem par draudošo AI-magedonu — ir pamats atklāta vēstule Dzīves nākotnes institūta tīmekļa vietnē, grupa, kas saņēma Muska ziedojumu. Tā vietā, lai brīdinātu par eksistenciālu katastrofu, vēstule aicina veikt vairāk pētījumu par AI priekšrocību izmantošanu, vienlaikus izvairoties no iespējamām kļūmēm. Šo vēstuli ir parakstījuši ne tikai AI nepiederošie cilvēki, piemēram, Hokings, Musks un Bostroms, bet arī ievērojami datorzinātnieki (tostarp Demis Hassabis, vadošais AI pētnieks). Jūs varat redzēt, no kurienes viņi nāk. Galu galā, ja viņi attīstīs mākslīgo intelektu, kam nav labākās cilvēciskās vērtības, tas nozīmēs, ka viņi nebija pietiekami gudri, lai kontrolētu savus darbus.

Pols Fords, ārštata rakstnieks Ņujorkā, rakstīja par Bitcoin 2014. gada martā/aprīlī.

paslēpties