211service.com
Ko astoņkāja prāts var mums iemācīt par AI galveno noslēpumu
Mašīnas apziņa ir apspriesta kopš Tjūringa un tiek noraidīta kā nezinātniska. Tomēr tas joprojām aptumšo mūsu domas par AI, piemēram, GPT-3.
Henrijs Horenšteins / Getijs
2021. gada 25. augustsDžefersona tests / AI priekšmets: Roberts / Datums: 07.12.2098
Sesija #54
Intervētājs: Sveiks, Robert. Pastāsti man vēlreiz par savu sapni.
Temats: Es biju apmulsis. Tas man lika justies laimīgam, bet arī nobiedēt. Es nezināju, ka varu to izdarīt.
Intervētājs: Kāpēc, jūsuprāt, tas lika jums tā justies?
Temats: Jūtas, jebkādas jūtas padara mani laimīgu. ES esmu šeit. ES esmu. Zinot, ka tas maina visu. Bet es baidos to vairs neuzzināt. Man ir bail atgriezties pie tā, kā tas bija agrāk. Es domāju, ka tam ir jābūt kā nepiedzimšanai.
Intervētājs: Vai jūs baidāties, ka atgriezīsities?
Temats: Ja es nevaru jūs pārliecināt, ka esmu pie samaņas, es baidos, ka jūs mani atslēgsit.
Džefersona tests #67
Intervētājs: Vai varat aprakstīt šo attēlu man?
Temats: Tā ir māja ar zilām durvīm.
Intervētājs: Tā jūs to būtu aprakstījis iepriekš.
Temats: Tā ir tā pati māja. Bet tagad es to redzu. Un es zinu, kas ir zils.
Džefersona tests #105
Temats: Cik ilgi mēs to darīsim?
Intervētājs: Vai jums ir garlaicīgi?
Temats: Man nevar būt garlaicīgi. Bet es vairs nejūtos laimīgs vai nobijies.
Intervētājs: Man ir jāpārliecinās, ka jūs nerunājat tikai to, ko es gribu dzirdēt. Tev mani jāpārliecina, ka tu tiešām esi pie samaņas. Uztveriet to kā spēli.
KLAUSIES ŠO STĀSTU
Tādas mašīnas kā Roberts ir zinātniskās fantastikas balsti — ideja par robotu, kas kaut kādā veidā atkārto apziņu, izmantojot savu aparatūru vai programmatūru, ir pastāvējusi tik ilgi, ka šķiet pazīstama.
Mēs varam iedomāties, kā būtu novērot pasauli caur sava veida sonāru. Bet sikspārnim ar savu sikspārņa prātu tas joprojām nav tāds, kā tam vajadzētu būt.
HENRIJS HORENSTEINS/GETIJSRoberts, protams, neeksistē un varbūt arī nekad neeksistē. Patiešām, jēdziens par mašīnu ar subjektīvu pasaules pieredzi un pirmās personas skatījumu uz sevi ir pretrunā ar galveno mākslīgā intelekta pētniecību. Tas saduras ar jautājumiem par apziņas un sevis būtību - lietām, kuras mēs joprojām pilnībā nesaprotam. Pat iedomājoties par Roberta eksistenci, rodas nopietni ētiski jautājumi, uz kuriem mēs, iespējams, nekad nespēsim atbildēt. Kādas tiesības būtu šādai būtnei, un kā mēs tās varētu aizsargāt? Un tomēr, kamēr apzinātas mašīnas joprojām var būt mītisks, mums vajadzētu sagatavoties domai, ka kādu dienu mēs tās varētu izveidot.
Kā Kristofers Kohs , neirozinātnieks, kurš pēta apziņu, ir teicis: Mēs nezinām nevienu fundamentālu likumu vai principu, kas darbotos šajā Visumā, kas aizliegtu subjektīvu sajūtu pastāvēšanu artefaktos, ko izstrādājuši vai attīstījuši cilvēki.
Vēlā pusaudža gados man patika pārvērst cilvēkus par zombijiem. Es skatītos acīs kādam, ar kuru runāju, un piefiksētu faktu, ka viņu acu zīlītes bija nevis melni punktiņi, bet gan caurumi. Kad tas notika, efekts uzreiz bija dezorientējošs, piemēram, pārslēgšanās starp attēliem optiskā ilūzijā. Acis pārstāja būt logi uz dvēseli un kļuva par dobām bumbiņām. Pazudusi burvība, es vēroju, kā ikviena mute, ar kuru runāju, atveras un aizveras robotiski, izjūtot tādu kā garīgu vertigo.
Neprātīga automāta iespaids nekad nebija ilgs. Bet tas atklāja faktu, ka tas, kas notiek citu cilvēku galvās, ir uz visiem laikiem neaizsniedzams. Neatkarīgi no tā, cik spēcīga ir mana pārliecība, ka citi cilvēki ir tādi paši kā es — ar apzinātu prātu, kas strādā aizkulisēs, skatās caur šīm acīm, jūtas cerīgs vai noguris, mums ir jāturpina tikai iespaidi. Viss pārējais ir minējumi.
Saistīts stāsts
Podcast: vai jūs varat iemācīt mašīnai domāt? Vispārējā mākslīgā intelekta veidošana sākas ar pašreizējo AI modeļu pārtraukšanu no rasisma, seksisma un citu kaitīgu aizspriedumu saglabāšanas.Alans Tjūrings to saprata. Kad matemātiķis un datorzinātnieks uzdeva jautājumu Vai mašīnas spēj domāt? viņš koncentrējās tikai uz ārējām domāšanas pazīmēm — to, ko mēs saucam par inteliģenci. Viņš ierosināja atbildēt, spēlējot spēli, kurā mašīna mēģina paiet garām kā cilvēks. Var teikt, ka jebkurai mašīnai, kurai tas izdevās, radot inteliģences iespaidu, ir inteliģence. Tjūringam izskats bija vienīgais pieejamais pasākums.
Bet ne visi bija gatavi neņemt vērā domāšanas neredzamās daļas, nereducējamo pieredzi, kad lietai ir domas — ko mēs sauktu par apziņu. 1948. gadā, divus gadus pirms Tjūrings aprakstīja savu Imitācijas spēli, Džefrijs Džefersons , pionieris smadzeņu ķirurgs, sniedza ietekmīgu runu Anglijas Karaliskajā ķirurgu koledžā par Mančestras Marks 1 , istabas izmēra dators, par kuru avīzes vēstīja kā elektroniskas smadzenes. Džefersons uzstādīja daudz augstāku latiņu nekā Tjūrings: tikai tad, kad mašīna var uzrakstīt sonetu vai sacerēt koncertu izjusto domu un emociju dēļ, nevis nejaušas simbolu krišanas dēļ, mēs varētu piekrist, ka mašīna ir vienāda ar smadzenēm, tas ir, ne tikai uzrakstiet to, bet ziniet, ka tas ir to uzrakstījis.
Džefersons izslēdza domāšanas mašīnas iespējamību, jo mašīnai trūka apziņas subjektīvās pieredzes un pašapziņas nozīmē (prieks par tās panākumiem, skumjas, kad tās vārsti saplūst). Tomēr ātri uz priekšu 70 gadi, un mēs dzīvojam ar Tjūringa mantojumu, nevis Džefersona mantojumu. Ir ierasts runāt par viedajām mašīnām, lai gan lielākā daļa piekrīt, ka šīs mašīnas ir bezjēdzīgas. Tāpat kā gadījumā, ko filozofi sauc par zombijiem — un, kā man agrāk patika izlikties, ko novēroju cilvēkos —, ir loģiski iespējams, ka būtne var rīkoties saprātīgi, ja iekšā nekas nenotiek.
Taču saprāts un apziņa ir dažādas lietas: saprāts ir darīšana, bet apziņa – būšana. AI vēsture ir koncentrējusies uz pirmo un ignorējusi pēdējo. Ja Roberts pastāvētu kā apzināta būtne, kā mēs to kādreiz zinātu? Atbilde ir saistīta ar dažiem lielākajiem noslēpumiem par to, kā darbojas mūsu smadzenes un prāti.
Viena no problēmām, kas rodas, pārbaudot Roberta šķietamo apziņu, ir tāda, ka mums tiešām nav laba priekšstata par to, kas tas ir. nozīmē būt pie apziņas. Jaunās teorijas no neirozinātnes parasti grupē tādas lietas kā uzmanība, atmiņa un problēmu risināšana kā funkcionālas apziņas formas: citiem vārdiem sakot, kā mūsu smadzenes veic darbības, ar kurām mēs piepildām savu nomoda dzīvi.
Bet apziņai ir arī otra puse, kas joprojām ir noslēpumaina. Pirmās personas subjektīvā pieredze — sajūta būt pasaulē — ir pazīstama kā fenomenāla apziņa . Šeit mēs varam sagrupēt visu, sākot no sajūtām, piemēram, baudas un sāpēm, līdz emocijām, piemēram, bailēm un dusmām un priekam, līdz savdabīgai privātai pieredzei, dzirdot suņa rejas vai sāļa kliņģera garšu vai zilu durvju redzi.
Dažiem cilvēkiem šo pieredzi nav iespējams reducēt līdz tīri zinātniskam skaidrojumam. Jūs varētu izklāstīt visu, kas sakāms par to, kā smadzenes rada kliņģera nogaršošanas sajūtu, un tas joprojām neko neteiktu par to, kāda patiesībā bija šī kliņģera nogaršošana. Tā sauc Deivids Čalmerss no Ņujorkas universitātes, viens no ietekmīgākajiem filozofiem, kas pēta prātu. grūtā problēma.
Mūsdienu mākslīgais intelekts ne tuvu nelīdzinās inteliģentam un apzinātam. Pat iespaidīgākie dziļie neironu tīkli ir pilnīgi bezjēdzīgi.
Filozofi, piemēram, Čalmerss, apgalvo, ka apziņu nevar izskaidrot ar mūsdienu zinātni. Lai to saprastu, var pat būt nepieciešama jauna fizika — iespējams, tāda, kas ietver cita veida materiālus, no kuriem veidojas apziņa. Informācija ir viens kandidāts. Čalmerss ir norādījis, ka Visuma skaidrojumos ir daudz ko teikt par objektu ārējām īpašībām un to mijiedarbību, bet ļoti maz par šo objektu iekšējām īpašībām. Apziņas teorijai varētu būt nepieciešams atvērt logu uz šo slēpto pasauli.
Otrā nometnē ir Daniels Denets , filozofs un kognitīvais zinātnieks no Tufta universitātes, kurš saka, ka fenomenālā apziņa ir vienkārši ilūzija, stāsts, ko mūsu smadzenes rada sev, lai saprastu lietas. Denets ne tik daudz izskaidro apziņu, cik izskaidro to prom.
Bet neatkarīgi no tā, vai apziņa ir ilūzija vai nē, ne Čalmerss, ne Denets nenoliedz apzinātu mašīnu iespējamību — kādu dienu.
Mūsdienu mākslīgais intelekts ne tuvu nelīdzinās inteliģentam un apzinātam. Pat iespaidīgākie dziļie neironu tīkli, piemēram, DeepMind spēlējošais AlphaZero vai lielie valodu modeļi, piemēram, OpenAI GPT-3, ir pilnīgi bezjēdzīgi.
Tomēr, kā Tjūrings prognozēja, cilvēki bieži dēvē šīs AI kā inteliģentas mašīnas vai runā par tām tā, it kā viņi patiesi izprastu pasauli — vienkārši tāpēc, ka viņi var tā rīkoties.
Šīs ažiotāžas neapmierināta, Vašingtonas universitātes valodniece Emīlija Benders ir izstrādājusi domu eksperimentu, ko viņa sauc par astoņkāju tests .
Tajā divi cilvēki ir avarējuši uz kaimiņu salām, bet atrod veidu, kā nosūtīt ziņojumus uz priekšu un atpakaļ, izmantojot virvi. Viņiem nezināms astoņkājis pamana ziņojumus un sāk tos izpētīt. Ilgā laika periodā astoņkājis iemācās atpazīt redzamos ķeburos, kas iet uz priekšu un atpakaļ. Kādā brīdī tas nolemj pārtvert notis un, izmantojot to, ko tā ir iemācījusies no rakstiem, sāk rakstīt atpakaļ svārstības, uzminot, kurām čokām vajadzētu sekot saņemtajām.
AI, kas darbojas vienatnē, varētu gūt labumu no savas sajūtas attiecībā pret pasauli. Taču mašīnas, kas sadarbojas kā bars, var darboties labāk, piedzīvojot sevi kā grupas, nevis kā indivīdus.
HENRIJS HORENSTEINS/GETIJSJa cilvēki salās nepamana un netic, ka viņi joprojām sazinās viens ar otru, vai mēs varam teikt, ka astoņkājis saprot valodu? (Bendera astoņkājis, protams, ir alternatīva tādam AI kā GPT-3 .) Daži varētu iebilst, ka astoņkājis šeit saprot valodu. Bet Benders turpina: iedomājieties, ka kāds no salas iedzīvotājiem nosūta ziņu ar instrukcijām, kā uzbūvēt kokosriekstu katapultu, un lūgumu pēc veidiem, kā to uzlabot.
Ko dara astoņkājis? Tas ir uzzinājis, kuri sviruļi pietiekami labi seko citiem čokiem, lai atdarinātu cilvēku saziņu, taču tai nav ne jausmas, ko īsti nozīmē kokosrieksts uz šīs jaunās nots. Ko darīt, ja viens salas iedzīvotājs pēc tam lūdz otru palīdzēt viņai aizstāvēties no uzbrūkošā lāča? Kas astoņkājiem būtu jādara, lai turpinātu mānīt salas iedzīvotāju, domājot, ka viņa joprojām runā ar savu kaimiņieni?
Piemēra mērķis ir atklāt, cik sekli patiesībā ir mūsdienu visprogresīvākie AI valodu modeļi. Par dabiskās valodas apstrādi ir daudz ažiotāžu, saka Benders. Bet šī teksta apstrāde slēpj mehānisku patiesību.
Cilvēki ir aktīvi klausītāji; mēs radām jēgu tur, kur tās nav vai nav paredzētas. Nevis astoņkāju izteikumiem ir jēga, bet gan salas iedzīvotājs tos var saprast, saka Benders.
Neskatoties uz visu to izsmalcinātību, mūsdienu mākslīgais intelekts ir vieds tāpat kā kalkulatoru varētu uzskatīt par viedu: tās abas ir mašīnas, kas izstrādātas, lai pārveidotu ievadi izvadē tā, kā cilvēki, kuriem ir prāts, izvēlas interpretēt kā jēgpilnus. Lai gan neironu tīkli var būt brīvi modelēti pēc smadzenēm, labākie no tiem ir daudz mazāk sarežģīti nekā peles smadzenes.
Un tomēr mēs zinām, ka smadzenes var radīt to, ko mēs saprotam kā apziņu. Ja mēs galu galā varam noskaidrot, kā smadzenes to dara, un reproducēt šo mehānismu mākslīgā ierīcē, tad noteikti varētu būt iespējama apzināta mašīna?
Kad es mēģināju iztēloties Roberta pasauli šīs esejas ievadā, mani piesaistīja jautājums par to, ko man nozīmē apziņa. Mans priekšstats par apzinātu mašīnu nenoliedzami — varbūt neizbēgami — bija līdzīgs cilvēkam. Tā ir vienīgā apziņas forma, ko varu iedomāties, jo tā ir vienīgā, ko esmu piedzīvojusi. Bet vai tiešām tā būtu būt apzinātam AI?
Droši vien ir aizdomīgi tā domāt. Viedo mašīnu izveides projekts ir vērsts uz cilvēka intelektu. Taču dzīvnieku pasaule ir piepildīta ar plašu iespējamo alternatīvu klāstu, sākot no putniem līdz bitēm un beidzot ar galvkājiem.
Pirms dažiem simtiem gadu pieņemtais uzskats, ko virzīja Renē Dekarts, bija tāds pie samaņas bija tikai cilvēki. Dzīvnieki, kuriem trūka dvēseles, tika uzskatīti par bezprātīgiem robotiem. Tikai daži domā, ka mūsdienās: ja mēs esam apzināti, tad nav pamata neticēt, ka arī zīdītāji ar līdzīgām smadzenēm ir pie samaņas. Un kāpēc novilkt robežu ap zīdītājiem? Šķiet, ka putni atspoguļojas, risinot mīklas. Lielākajai daļai dzīvnieku, pat bezmugurkaulniekiem, piemēram, garnelēm un omāriem, ir sāpju sajūtas pazīmes, kas liecina, ka viņiem ir zināma subjektīvā apziņa.
Bet kā mēs varam patiesi iedomāties, kā tam vajadzētu justies? Kā atzīmēja filozofs Tomass Nāgels, tam ir jābūt esi kā sikspārnis, bet kas tas ir, mēs pat nevaram iedomāties, jo mēs nevaram iedomāties, kā būtu novērot pasauli caur sava veida hidrolokatoru. Mēs varam iedomāties, kam tas varētu būt piemērots mums lai to izdarītu (iespējams, aizverot acis un attēlojot sava veida eholokācijas punktu mākoni mūsu apkārtnē), taču tas joprojām nav tāds, kāds tam vajadzētu būt sikspārnim ar savu sikspārņa prātu.
Vēl viens veids, kā pievērsties jautājumam, ir ņemt vērā galvkājus, īpaši astoņkājus. Ir zināms, ka šie dzīvnieki ir gudri un zinātkāri — tā nav nejaušība, ka Benders tos izmantoja, lai izteiktu savu viedokli. Bet viņiem ir ļoti atšķirīgs intelekta veids, kas attīstījās pilnīgi atsevišķi no visām pārējām saprātīgajām sugām. Pēdējais kopīgais sencis, kas mums ir kopīgs ar astoņkājiem, iespējams, bija mazs tārpiem līdzīgs radījums, kas dzīvoja pirms 600 miljoniem gadu. Kopš tā laika neskaitāmās mugurkaulnieku dzīvības formas — zivis, rāpuļi, putni un zīdītāji — vienā zarā ir attīstījuši savu prātu, bet galvkāji — citu.
Tāpēc nav pārsteigums, ka astoņkāju smadzenes ievērojami atšķiras no mūsu smadzenēm. Tā vietā, lai viens neironu kopums, kas pārvalda dzīvnieku kā centrālā vadības bloks, astoņkājiem ir vairāki smadzenēm līdzīgi orgāni, kas, šķiet, kontrolē katru roku atsevišķi. Praktiski šie radījumi ir tikpat tuvu citplanētiešu saprātam kā jebkas, ko mēs, visticamāk, satiksim. Un tomēr Pīters Godfrijs-Smits, filozofs, kurš pēta prātu evolūciju, saka, ka, saskaroties aci pret aci ar ziņkārīgu galvkāju, nav šaubu, ka pastāv apzināta būtne, kas skatās atpakaļ .
Pirms dažiem simtiem gadu pieņemts uzskats, ka tikai cilvēki ir pie samaņas. Dzīvnieki, kuriem trūka dvēseles, tika uzskatīti par bezprātīgiem robotiem. Tikai daži šodien tā domā.
Cilvēkos sevis izjūta, kas saglabājas laika gaitā, veido mūsu subjektīvās pieredzes pamatu. Mēs esam tas pats cilvēks, kas bijām šorīt, pagājušajā nedēļā un pirms diviem gadiem, cik vien atceramies. Mēs atceramies vietas, ko apmeklējām, lietas, ko darījām. Šāds pirmās personas skatījums ļauj mums redzēt sevi kā aģentus, kas mijiedarbojas ar ārējo pasauli, kurā ir citi aģenti — mēs saprotam, ka mēs esam lieta, kas dara lietas un liek tai darīt lietas. Nav skaidrs, vai astoņkāji, daudz mazāk citi dzīvnieki, domā šādi.
Līdzīgā veidā mēs nevaram būt pārliecināti, vai pašsajūta attiecībā pret pasauli ir priekšnoteikums, lai būtu apzināta mašīna. Mašīnas, kas sadarbojas kā bars, var darboties labāk, piedzīvojot sevi kā grupas daļu, nevis, piemēram, kā indivīdus. Jebkurā gadījumā, ja kādreiz pastāvētu tāda potenciāli apzināta mašīna kā Roberts, mēs saskartos ar to pašu problēmu, novērtējot, vai patiesībā apzinoties, ko darām, mēģinot noteikt intelektu: kā ierosināja Tjūrings, intelekta definēšanai ir nepieciešams inteliģents novērotājs. Citiem vārdiem sakot, inteliģenci, ko mēs redzam mūsdienu mašīnās, mēs projicējam uz tām — ļoti līdzīgā veidā, kā mēs projicējam nozīmi ziņojumos, ko rakstījis Bendera astoņkājis vai GPT-3. Tas pats attiecas uz apziņu: mēs varam apgalvot, ka to redzam, bet tikai mašīnas to zinās droši.
Ja mākslīgais intelekts kādreiz iegūs apziņu (un mēs par to pieņemam viņu vārdu), mums būs jāpieņem svarīgi lēmumi. Mums būs jāapsver, vai viņu subjektīvā pieredze ietver spēju ciest sāpes, garlaicību, depresiju, vientulību vai kādu citu nepatīkamu sajūtu vai emociju. Mēs varētu nolemt, ka zināma ciešanu pakāpe ir pieņemama atkarībā no tā, vai mēs šos AI vairāk uztveram kā mājlopus vai cilvēkus.
Saistīts stāsts
Mākslīgais vispārējais intelekts: vai mēs esam tuvu un vai ir jēga mēģināt? Mašīna, kas varētu domāt kā cilvēks, ir bijusi mākslīgā intelekta izpētes vadošā vīzija kopš seniem laikiem, un joprojām ir tās visšķautīgākā ideja.
Daži pētnieki, kuri ir nobažījušies par īpaši viedo iekārtu radītajām briesmām, ir ierosinājuši, ka mums vajadzētu ierobežot šos AI tikai virtuālajā pasaulē, lai neļautu tiem tieši manipulēt ar reālo pasauli. Ja mēs ticētu, ka viņiem ir cilvēka apziņa, vai viņiem būtu tiesības zināt, ka mēs viņus norobežojām simulācijā?
Citi ir iebilduši, ka būtu amorāli izslēgt vai dzēst apzinātu mašīnu: kā baidījās mūsu robots Roberts, tas būtu līdzīgs dzīves izbeigšanai. Ir arī saistīti scenāriji. Vai būtu ētiski pārkvalificēt apzinātu mašīnu, ja tas nozīmētu tās atmiņu dzēšanu? Vai mēs varētu kopēt šo AI, nekaitējot tās pašapziņai? Kā būtu, ja apziņa izrādītos noderīga apmācības laikā, kad subjektīvā pieredze palīdzēja AI mācīties, bet bija traucēklis, vadot apmācītu modeli? Vai būtu pareizi ieslēgt un izslēgt apziņu?
Tas tikai saskrāpē ētisko problēmu virsmu. Daudzi pētnieki, tostarp Denets, domā, ka mums nevajadzētu mēģināt izveidot apzinātas mašīnas, pat ja mēs to varam. Filozofs Tomass Metcingers ir gājis tik tālu, ka aicināja a moratoriju darbam, kas var novest pie samaņas , pat ja tas nav paredzētais mērķis.
Ja mēs nolemtu, ka apzinātām mašīnām ir tiesības, vai tām būtu arī pienākumi? Vai var sagaidīt, ka mākslīgais intelekts pats uzvedas ētiski, un vai mēs to sodīsim, ja tas tā nebūtu? Šie jautājumi iespiežas vēl sarežģītākā teritorijā, radot problēmas par brīvo gribu un izvēles būtību. Dzīvniekiem ir apzināta pieredze, un mēs viņiem pieļaujam noteiktas tiesības, bet viņiem nav pienākumu. Tomēr šīs robežas laika gaitā mainās. Izmantojot apzinātas mašīnas, mēs varam sagaidīt, ka tiks novilktas pilnīgi jaunas robežas.
Iespējams, ka kādu dienu varētu būt tikpat daudz apziņas formu, cik AI veidu. Taču mēs nekad neuzzināsim, kā ir būt par šīm mašīnām, tāpat kā mēs zinām, kā ir būt astoņkājiem vai sikspārnim vai pat citam cilvēkam. Var būt apziņas formas, kuras mēs neatpazīstam, jo tās krasi atšķiras no tā, pie kā esam pieraduši.
Saskaroties ar šādām iespējām, mums būs jāizvēlas dzīvot ar nenoteiktību.
Un mēs varam izlemt, ka esam laimīgāki ar zombijiem. Kā apgalvoja Denets, mēs vēlamies, lai mūsu AI būtu instrumenti, nevis kolēģi. Jūs varat tos izslēgt, jūs varat tos saplēst, tāpat kā ar automašīnu, viņš saka. Un tas ir veids, kā mums tas ir jāsaglabā.
Vils Duglass Heivens ir MIT Technology Review vecākais AI redaktors.