Kā mēs jūtamies pret robotiem, kas jūtas

Kad roboti kļūst pietiekami gudri, lai atklātu mūsu jūtas un atbilstoši reaģētu, viņiem var būt kaut kas līdzīgs emocijām. Bet tas ne vienmēr padarīs viņus līdzīgākus cilvēkiem. Autors

• Luiza zāle arhīva lapa

2017. gada 24. oktobris

Delcan & Company + Jenue

Octavia, humanoīds robots, kas paredzēts ugunsgrēku dzēšanai uz Jūras spēku kuģiem, ir apguvis iespaidīgu sejas izteiksmju klāstu.

Kad viņa ir izslēgta, viņa izskatās kā cilvēka izmēra lelle. Viņai ir gluda, balta seja ar slaidu degunu. Viņas plastmasas uzacis vienmērīgi atrodas uz pieres kā divas mazas apgāztas kanoe laivas.

Šis stāsts bija daļa no mūsu 2017. gada novembra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Tomēr, kad viņa ir ieslēgta, viņas plakstiņi atveras un viņa sāk izrādīt emocijas. Viņa var pamāt ar galvu, saprotot; viņa var ieplest acis un pacelt abas uzacis pārliecinošā satraukuma iespaidā; vai arī viņa var noliekt galvu uz vienu pusi un aizskrūvēt muti, atkārtojot cilvēcisku apjukumu. Komiskiem efektiem viņa var pat izliekt vienu uzaci un sašaurināt pretējo aci, vienlaikus sasitot kopā metāla pirkstus, it kā plānojot robotu atriebības aktus.

Taču Oktāvijas sejas izteiksmju klāsts nav viņas iespaidīgākā īpašība. Pārsteidzoši ir tas, ka viņas emocionālā ietekme ir precīza reakcija uz viņas mijiedarbību ar cilvēkiem. Viņa izskatās gandarīta, piemēram, atpazīstot kādu no saviem komandas biedriem. Viņa izskatās pārsteigta, kad komandas biedrs viņai dod komandu, ko viņa nebija gaidījusi. Viņa izskatās apmulsusi, ja kāds saka kaut ko, ko viņa nesaprot.

Viņa var parādīt atbilstošu emocionālo ietekmi, jo viņa apstrādā milzīgu daudzumu informācijas par savu vidi. Viņa var redzēt, dzirdēt un pieskarties. Viņa vizuāli novērtē savu apkārtni, izmantojot divas acīs iebūvētās kameras, un analizē tādas īpašības kā sejas vaibsti, sejas krāsa un apģērbs. Viņa var noteikt cilvēku balsis, izmantojot četrus mikrofonus un balss atpazīšanas programmu ar nosaukumu Sfinksa. Viņa var identificēt 25 dažādus objektus pieskaroties, tos apguvusi, izmantojot pirkstus, lai fiziski manipulētu ar tiem dažādās iespējamās pozīcijās un formās. Kopumā šīs uztveres prasmes veido daļu no viņas iemiesotās kognitīvās arhitektūras, kas ļauj viņai (pēc Jūras spēku Mākslīgā intelekta lietišķo pētījumu centra veidotāju domām) domāt un rīkoties līdzīgi kā cilvēkiem.

Tas ir aizraujošs apgalvojums, taču tas ne vienmēr ir šokējošs. Mēs esam pieraduši pie domas, ka mašīnas darbojas kā cilvēki. 18. gadsimta Francijā radītie automāti varēja dejot, ieturēt laiku un spēlēt bungas, cimbli vai klavieres. Būdams 80. gadu bērns, es nez kāpēc iekāroju lelli, kas tika reklamēta par spēju urinēt viņas biksēs.

Octavia spēj izteikt izteiksmes, taču izrādās, ka sejas izteiksmes nav nepieciešamas, lai cilvēki justos emocionāli saistīti ar saviem robotiem. ASV Jūras spēku pētniecības laboratorija

Mēs pat esam pieraduši pie domas par mašīnām, kas domā tādā veidā, kas mums atgādina cilvēkus. Daudzas no mūsu sen lolotajām cilvēka izziņas atzīmes — spēja pārspēt, piemēram, lielmeistaru šahā vai sacerēt metriski precīzu sonetu — ir sasnieguši un pārspējuši datori.

Tomēr Oktāvijas rīcība — viņas baiļpilnās ieplešanās acis, apmulsušā plastikāta uzacu rievošanās — šķiet soli tālāk. Tie nozīmē, ka viņa ne tikai domā, kā mēs domājam, bet arī izjūt cilvēka emocijas.

Tas tā nav: Oktāvijas emocionālā ietekme, saskaņā ar Gregoriju Traftonu, kurš vada Jūras spēku AI centra Inteliģento sistēmu nodaļu, ir tikai domāts, lai parādītu viņa domāšanas veidu un atvieglotu cilvēkiem mijiedarbību ar viņu. Bet ne vienmēr ir iespējams novilkt robežu starp domāšanu un jūtām. Kā atzīst Traftons, ir skaidrs, ka cilvēku domas un emocijas ir atšķirīgas, taču tās ietekmē viena otru. Un, ja, kā viņš saka, emocijas ietekmē izziņu un izziņa ietekmē emocijas, Oktāvijas spēja domāt, spriest un uztvert norāda uz dažiem lielākiem jautājumiem, kas pavadīs viedo mašīnu pieaugumu. Kurā brīdī mašīnas būs pietiekami gudras, lai kaut ko sajustu? Un kā mēs to īsti zinātu?

Personalizētas sajūtas

Oktāvija ir ieprogrammēta ar prāta teoriju, kas nozīmē, ka viņa var paredzēt savu komandas biedru garīgos stāvokļus. Viņa saprot, ka cilvēkiem ir potenciāli pretrunīgi uzskati vai nodomi. Kad Oktāvijai tiek dota komanda, kas atšķiras no viņas cerībām, viņa veic simulācijas, lai noskaidrotu, ko domā komandas biedrs, kurš deva komandu, un kāpēc šī persona uzskata, ka šis negaidītais mērķis ir derīgs. Viņa to dara, izpētot savus pasaules modeļus, bet tos nedaudz mainot, cerot atrast tādu, kas ved uz izvirzīto mērķi. Kad viņa noliec galvu uz vienu pusi un sarauca uzacis, tas nozīmē, ka viņa veic šīs simulācijas, cenšoties labāk izprast sava komandas biedra uzskatus.

Mēs joprojām nezinām visu, kas ir saistīts ar emociju izjūtu.

Octavia nav ieprogrammēta ar emocionāliem modeļiem. Viņas prāta teorija ir kognitīvs modelis. Bet tā darbojas līdzīgi empātijai, kas ir lolotākā no visām cilvēka emocijām.

Citi robotu ražotāji novērš problēmu par savu mašīnu emocionālo inteliģenci. Piemēram, uzņēmums SoftBank Robotics, kas pārdod Pepper — patīkamu un simpātisku humanoīdu robotu, kas izveidots, lai kalpotu kā cilvēka pavadonis, — apgalvo, ka Pepper spēj uztvert cilvēka emocijas, piebilstot, ka Piparam patīk ar jums sazināties, bet Pepper vēlas uzzināt vairāk par jūsu gaumi. savus ieradumus un gluži vienkārši to, kas jūs esat. Bet, lai gan Piparam varētu būt spēja atpazīt cilvēka emocijas un, lai gan Pipari varētu atbildēt ar priecīgiem smaidiem vai skumjām, neviens neapgalvo, ka Pipars patiesībā jūtas tādas emocijas.

Kas būtu nepieciešams, lai robotu radītājs to apgalvotu? Pirmkārt, mēs joprojām nezinām visu, kas ir saistīts ar emociju izjūtu.

Pārskatītās lietas

• Kultūra un cilvēka un robota mijiedarbība militarizētās telpās: kara stāsts

  Džūlija Kārpentere
  Routledge, 2016. gads

• Kā rodas emocijas: Smadzeņu slepenā dzīve

  Liza Feldmane Bareta
  Houtons Miflins Hārkorts, 2017

• ASV armijas robotu un autonomo sistēmu stratēģija

  2017. gada marts

Pēdējos gados revolūcijas psiholoģijā un neirozinātnē ir radikāli mainījušas pašu emociju jēdzienu, padarot to vēl grūtāk noteikt un aprakstīt. Saskaņā ar tādu zinātnieku kā psiholoģe Liza Feldmane Bareta, Ziemeļaustrumu universitātes profesore, kļūst arvien skaidrāks, ka mūsu emocijas ļoti atšķiras atkarībā no kultūras, kurā esam audzināti. Tās pat ļoti atšķiras indivīda iekšienē dažādās situācijās. Faktiski, lai gan mums ir kopīgas vispārējās jūtas, kas veido to, kas pazīstams kā afekts (prieks, nepatika, uzbudinājums un mierīgums) ar lielāko daļu citu cilvēku un daudziem citiem dzīvniekiem, mūsu asākās un specifiskākās emocijas atšķiras vairāk, nekā tās atbilst noteiktām normām. Piemēram, bailes ir kulturāli saskaņots jēdziens, taču tas mūsu ķermenī izpaužas neskaitāmos veidos. To iedvesmo dažādi stimuli, tas dažādi izpaužas mūsu smadzenēs un dažādi izpaužas mūsu sejās. Smadzenēs nav viena baiļu centra vai baiļu ķēdes, tāpat kā nav ticami bailīgas sejas izteiksmes: mēs visi apstrādājam un izpaužam savas bailes radikāli dažādos veidos, atkarībā no situācijas — veidos, kuros, mijiedarbojoties ar citiem cilvēkiem, mēs iemācāmies identificēt vai apzīmēt kā bailes.

Kad mēs runājam par bailēm, mēs runājam par vispārinātu jumta koncepciju, nevis par kaut ko tādu, kas nāk no noteiktas smadzeņu daļas. Kā saka Barets, emocijas mēs veidojam uz vietas, izmantojot ķermeņa sistēmu mijiedarbību. Tātad, kā mēs varam sagaidīt, ka programmētāji precīzi modelēs cilvēka emocijas robotos?

Labi karavīri

Ir arī morālas grūtības, kas saistītas ar robotu programmēšanu, lai viņiem būtu emocijas. Šīs problēmas īpaši labi parāda militārie roboti, kas, tāpat kā Octavia, ir paredzēti, lai tos nosūtītu biedējošās, sāpīgās vai potenciāli letālās situācijās mazāk vajadzīgu cilvēku komandas biedru vietā.

2017. gada konferencē, ko sponsorēja armijas nedaudz satraucoši nosauktā trako zinātnieku iniciatīva, ģenerālleitnants Kevins Mangums, armijas apmācības un doktrīnas pavēlniecības komandiera vietnieks, norādīja, ka šādiem robotiem vajadzētu būt un būs autonomi. Raugoties uz mūsu arvien sarežģītāko pasauli, nav šaubu, ka robotikai, autonomajām sistēmām un mākslīgajam intelektam būs nozīme, sacīja Mangum. 2017. gada armijas robotu un autonomo sistēmu stratēģija paredz pilnīgu autonomo sistēmu integrāciju līdz 2040. gadam, aizstājot mūsdienu bumbu iznīcināšanas robotus un citas mašīnas, kuras attālināti vada cilvēki.

Civilais treneris parāda desantniekiem, kā iestatīt displeju PackBot kaujas lauka robotam. Lai arī cik neizteiksmīgi šie roboti nešķistu, karavīri uz lauka veido ar tiem saikni, uzskatot tos par komandas daļu. Maikls J. Makleods

Ja šie roboti var darboties un domāt paši, vai tiem, tāpat kā Oktāvijai, vajadzētu būt ieprogrammētiem ar cilvēka emocijām? Vai tie faktiski ir jāieprogrammē ir cilvēka emocijas? Ja mēs viņus sūtām kaujā, vai viņiem ne tikai jādomā, bet arī jājūtas līdzās saviem cilvēku pavadoņiem?

No vienas puses, protams, nē: ja mēs projektējam robotus ar skaidru mērķi tos pakļaut briesmām, būtu sadistiski dot tiem iespēju ciest no šausmām, traumām vai sāpēm.

Tomēr, no otras puses, ja emocijas ietekmē intelektu un otrādi, vai mēs varam būt pārliecināti, ka robots bez emocijām būtu labs karavīrs? Ko darīt, ja emociju trūkums noved pie stulbiem lēmumiem, nevajadzīgiem riskiem vai pārmērīgi nežēlīgas izrēķināšanās? Vai robots bez emocijām varētu izlemt, ka saprātīgs lēmums būtu izdarīt to, ko karavīrs uzskata par kara noziegumu? Vai arī robots, kuram nav piekļuves bailēm vai dusmām, pieņemtu labākus lēmumus nekā cilvēks tādā pašā biedējošā un tracinošā situācijā?

Un tad pastāv iespēja, ka, ja emocijas un inteliģence ir nesaraujami saistītas, nav tādas lietas kā inteliģents robots bez emocijām, un tādā gadījumā jautājums par to, cik daudz emociju vajadzētu būt autonomam robotam, dažos veidos ir ārpus kontroles. programmētājs, kas nodarbojas ar izlūkošanu.

Emocionālās pieķeršanās

Ir arī jautājums par to, kā šie roboti varētu ietekmēt viņu komandas biedrus.

Līdz 2010. gadam ASV armija bija sākusi izvietot aptuveni 3000 mazu taktisko robotu floti, galvenokārt reaģējot uz arvien pieaugošo improvizēto sprāgstvielu izmantošanu karadarbībā. Cilvēku karavīru vietā šie roboti traucas pa atklātiem ceļiem tumšās alās un šaurās durvju ailēs, lai atklātu un atspējotu neparedzamos IED.

Karavīri ir ziņojuši, ka jūtas izmisuši, kad tādi kaujas lauka pavadoņi kā talons, kas redzams šeit, tiek iznīcināti, pildot dienesta pienākumus. Qinetiq

Šī flote galvenokārt sastāv no iRobot's PackBot un QinetiQ North America's Talon, robotiem, kas nav īpaši attīstīti. Tie nedaudz atgādina WALL-E, to metāla korpusi ir balansēti uz gumijas protektoriem, kas ļauj tiem veikt diezgan labu darbu, šķērsojot akmeņainu reljefu, kāpjot pa kāpnēm un dodoties lejā pa tumšajiem gaiteņiem. Viņiem ir savienotas rokas, kas aprīkotas ar videokamerām, lai apskatītu apkārtni, un nagi, lai lāpītu ar sprādzienbīstamām ierīcēm.

Tie ir noderīgi rīki, taču tie nav gluži autonomi. Tās tiek vadītas attālināti, piemēram, rotaļu automašīnas, karavīri, kas tur ierīces, kas dažreiz ir aprīkotas ar kursorsvirām. Kā mākslīgā intelekta piemērs, PackBot nav tik daudz modernāks par iRobot labāk zināmo produktu Roomba, kas sūc zem jūsu atzveltnes krēsla.

Un tomēr pat tagad, neskatoties uz šo robotu neizteiksmīgo dabu, cilvēku karavīri ar tiem veido saites. Džūlija Kārpentere demonstrē Kultūra un cilvēka un robota mijiedarbība militarizētās telpās ka šīs attiecības ir sarežģītas, gan izdevīgas, gan sāpīgas.

Kad Kārpenters kādam dienesta darbiniekam lūdza aprakstīt savas jūtas par iznīcināto robotu, viņš atbildēja:

Es domāju, ka tas nebija acīmredzami... ne tuvu tādam pašam līmenim, kā, piemēram, kāds tavs draugs tiek ievainots vai redzēja, ka kāds biedrs tiek izņemts, vai tamlīdzīgi. Bet joprojām bija zināms zaudējums, zaudējuma sajūta, jo kaut kas notika ar vienu no jūsu robotiem.

Cits dienesta darbinieks salīdzināja savu robotu ar mājdzīvnieku suni:

Es domāju, ka jūs par to parūpējāties tikpat labi kā jūsu komandas locekļi. Un jūs pārliecinājāties, ka tas ir iztīrīts, un pārliecinājāties, ka akumulatori vienmēr ir uzlādēti. Un, ja jūs to neizmantojāt, tas tika droši noslēpts, cik vien iespējams, jo jūs zinājāt, ja ar robotu kaut kas notiek, tad bija jūsu kārta, un nevienam nepatīk tā domāt.

Vēl viens vīrietis paskaidroja, kāpēc viņa komandas biedrs savam robotam deva cilvēka vārdu:

Ekskursijas beigās mēs vairāk laika pavadījām ārpus stieples, guļot savās kravas automašīnās, nekā atradāmies iekšā. Mēs gulējām savās kravas automašīnās ārpus stieples piecas līdz sešas dienas nedēļā, un kravas automašīnā bija trīs vīrieši, viens no tiem gulēja pāri priekšējiem sēdekļiem; otrs guļ pāri tornītim. Un mēs nevaram lejupielādēt sensitīvus vienumus un atstāt tos ārpus kravas automašīnas. Visam ir jābūt aizslēgtam, tāpēc mūsu TALONS atradās mūsu kravas automašīnas centrālajā ejā, un mūsu jaunākais puisis to nosauca par Danielu, lai viņam būtu sieviete, ar kuru naktī samīļot.

“Mans skaistais robots tika nogalināts…” patiesībā bija paziņojums, ko es izteicu savai komandas vadītājam.

Šie vīrieši visi uzsver, ka roboti ir instrumenti, nevis dzīvas radības ar jūtām. Tomēr viņi dod saviem robotiem cilvēku vārdus un droši ievieto tos naktī. Viņi joko par šo impulsu, bet jokiem ir nedaudz satraucoša disonanse. Šķiet, ka Kārpentera intervētie karavīri jūtas nedaudz iestrēguši starp divām sajūtām: viņi saprot, cik absurds ir rūpēties par bezemocionālu robotu, kas ir paredzēts iztērēšanai, taču viņi tomēr piedzīvo kārdinājumu vismaz nedaudz rūpēties.

Kad Kārpentere bija publicējusi savas sākotnējās intervijas, viņa vairāk sazinājās no militārpersonām, kurām bija izveidojušās īstas attiecības ar saviem robotiem. Viens bijušais sprāgstvielu neitralizēšanas tehniķis rakstīja:

Tā kā esmu EOD tehniķis astoņus gadus un trīs reizes, varu jums teikt, ka man jūsu pētījums šķita ārkārtīgi interesants. Es pilnībā varu piekrist citiem jūsu intervētajiem tehniķiem, sakot, ka roboti ir instrumenti, un tāpēc es tos nosūtīšu jebkurā situācijā neatkarīgi no iespējamām briesmām.

Tomēr 2006. gadā misijas laikā Irākā es pazaudēju robotu, kuru biju nosaucis par Stacy 4 (manas sievas vārdā, kura arī ir EOD tehniķe). Viņa bija lielisks robots, kas man nekad nesagādāja nekādas problēmas, vienmēr darbojās nevainojami. Stacy 4 tika pilnībā iznīcināta, un es varēju atgūt tikai ļoti mazus šasijas gabalus. Tūlīt pēc sprādziena, kas iznīcināja Stacy 4, es joprojām atceros dusmu sajūtu un daudz ko citu. Mans skaistais robots tika nogalināts... patiesībā tas bija paziņojums, ko es izteicu savai komandas vadītājam. Kad misija bija pabeigta un es biju atguvis pēc iespējas vairāk robota, es raudāju, zaudējot viņu. Es jutos tā, it kā būtu pazaudējis mīļu ģimenes locekli. Es tovakar piezvanīju savai sievai un arī viņai par to pastāstīju. Es zinu, ka tas izklausās stulbi, bet man joprojām nepatīk par to domāt. Es zinu, ka mūsu izmantotie roboti ir tikai mašīnas, un es pieņemtu tādus pašus lēmumus vēlreiz, pat zinot rezultātu.

Es novērtēju cilvēka dzīvību. Es novērtēju attiecības ar reāliem cilvēkiem. Bet es varu jums pateikt, ka man noteikti pietrūkst Steisijas 4, viņa bija labs robots.

Ja šādas atsauksmes var iegūt no karavīriem, kuri mijiedarbojas ar bezsejas mašīnām, piemēram, PackBots un Talons, ko jūs dzirdētu no karavīriem, kas izvietoti ar tādiem robotiem kā Oktāvija, kuri redz, dzird un pieskaras un var paredzēt savu komandas biedru prāta stāvokli. ?

Populārajās sarunās par jūtu dāvāšanas ētiku robotiem mēs mēdzam koncentrēties uz šādu tehnoloģisko jauninājumu ietekmi uz pašiem robotiem. Filmas un TV pārraides no Blade Runner uz Westworld Apmeklējiet traumu, ko cilvēki, kas tos izmanto izklaidei, radītu jūtošajiem robotiem. Taču jāņem vērā arī otrādi: traumas, kas tiek nodarītas cilvēkiem, kuri saikni ar robotiem un pēc tam nosūta tos noteiktā nāvē.

Saistīts stāsts

Saistīts stāsts Jaunā mākslīgā intelekta tendence ir panākt, lai datori noteiktu, kā mēs jūtamies, un attiecīgi reaģētu. Viņi pat varētu palīdzēt mums attīstīt līdzjūtību vienam pret otru.

To visu vēl vairāk sarežģī tas, ka, ja tāds robots kā Oktāvija izjutīs cilvēciskas emocijas, šīs sajūtas nebūs tikai kognitīvās arhitektūras rezultāts, ar kuru viņa iesākumā ir dota. Ja tās līdzinās mūsu emocijām, tās attīstīsies saistībā ar viņas attiecībām ar komandas biedriem, viņas vietu pasaulē, kurā viņa apdzīvo.

Ja viņas unikālā robota dzīve, piemēram, tiek pavadīta, cilvēku pavadoņu iemest ugunī vai vienatnē mīņājoties pa tuksneša ceļiem, kas apšauti ar sprādzienbīstamām ierīcēm, viņas emocijas atšķirsies no tām, kuras piedzīvo aizsargātāks robots vai aizsargātāks. cilvēks. Neatkarīgi no atpazīstamajām emocionālajām izpausmēm, ja viņa pavada savu dzīvi necilvēcīgās situācijās, viņas emocijas var nebūt atpazīstami cilvēciskas.

Luisa Hola, rakstniece Ņujorkā, ir autore Runājiet , 2015. gada romāns par mākslīgo intelektu.

paslēpties