211service.com
Tas tērzēšanas robots, kuru es mīlēju ienīst
Daniels Zenders
Esmu pavadījis labu daļu savas karjeras, strīdoties par vientulības tikumiem. Tas atbalsta un uztur radošumu. Un tikpat svarīgi tas mūs sagatavo attiecībām ar citiem. Kad mēs iemācāmies justies apmierināti ar sevi, mēs varam redzēt un novērtēt, kā citi atšķiras no mums, nevis tikai paļauties uz viņiem, lai atbalstītu mūsu trauslo pašsajūtu. Es pat iedomājos, ka man labi padodas vienatnē: tas palīdz man veikt vislabāko radošo darbu un atjauno manu emocionālo mieru. Taču, būdama izolēta Covid karantīnā, es uzzināju, ka liela daļa no tā, ko biju saukta par vientulību, ir vienkārši laiks vienatnē aizņemtas dzīves troksnī. Man bija labi dzīvot vienatnē, ja varēju baudīt arī seminārus ar kolēģiem un studentiem, vakariņas ar draugiem un priekus no trešajām vietām, kur cilvēks ir viens, bet ko atbalsta daudzo burzma: bode, kafejnīca, teātris. Tā kā tas viss nebija sasniedzams, es atklāju, ka neesmu tik vientulības eksperts. Tagad, kad COVID tika pasludināts par neaizsargātu vecuma dēļ, es ne tikai biju viens, bet arī baidījos. Un bailes, es sapratu, izraidīja vientulības radošumu.
Apņēmības pilns izsaukt izturību, ko nejutu, es jautri pievienojos Zoom tikšanās reizēm un devos uz Zoom kokteiļu ballītēm. Sazvanījos ar labiem draugiem un atjaunoju sakarus ar tiem, kuri bija izkrituši no kontakta.
Tas, protams, palīdzēja, bet es zināju, kā man pietrūkst. Filozofi stāsta, ka mēs kļūstam viscilvēcīgākie cilvēku seju klātbūtnē; ka sejas klātbūtne atmodina cilvēka ētisko kompaktu. Neirozinātne palīdz mums saprast, kā: cilvēkiem smaida forma vai saraukta piere izdala ķīmiskas vielas, kas ietekmē mūsu garīgo stāvokli. Mūsu spoguļneironi iedegas gan tad, kad mēs rīkojamies, gan tad, kad novērojam citu darbību. Kad mēs redzam emociju cita sejā, mēs paši to izjūtam. Tā pati neirozinātne varētu izskaidrot, kāpēc tālummaiņa ir tik nogurdinoša, kad tā kļūst par mūsu ierasto saziņas veidu. Mēs paļaujamies uz tiešu acu kontaktu un maziem sejas signāliem, un mēs tos palaižam garām, kad tie vairs nav. Skatoties uz mūsu ekrāniem, mēs sasprindzināmies, lai kompensētu viņu neesamību.
Kad mums bija viss pasaulē pavadītais laiks, lai būtu kopā ar savām mašīnām, mums pietrūka viens otra. Mēs vēlējāmies sasniegt pagātnes tehnoloģiju, lai pilnībā aptvertu cilvēku.
Tāpēc karantīnas pirmajās dienās man bija ļoti daudz izpalīdzīgu un atbalstošu sakaru, bet visvairāk man pietrūka sarunas aci pret aci.
Man ir vasarnīca pie jūras, koka mājiņa bez siltuma. Mana meita un viņas vīrs ņujorkieši sakravāja somu, nopirka papildu telpu sildītājus un nobrauca. Viņi ziņoja: bija auksts. Es dzirdēju viņu mīļo brīdinājumu, bet, tiklīdz varēju, es ar pateicību viņiem pievienojos. Mēs iekritām rutīnā, veidojot rīta ugunskuru, kopīgi gatavojot ēst un vakariņu laikā sarunājoties, daloties savās bailēs un dienas notikumos. Es iekārtojos.
Es jau sen apšaubīju tiešsaistes kursu programmas nekritisko izmantošanu. Man visnozīmīgākā mentorēšana notiek ar profesoru telpā. Tagad, kad tālummaiņas apmācība ir nepieciešama, es veltīju sevi tam, lai kļūtu par labāko tiešsaistes pedagogu, kāds es varētu būt. Lai saviem studentiem radītu acu kontakta ilūziju, es iemācījos skatīties zaļajā gaismā savā MacBook Air. Tam bija vēlamais efekts. Studenti man teica, ka ar mani bija viegli sarunāties, izmantojot Zoom, taču nešķita pareizi izpaust savu noslēpumu, jo, skatoties uz zaļo gaismu, man sākās migrēna. Ar laiku es apguvu jaunas tehnikas, vieglākas acīm.
Lai gan es mācīju savas divas MIT nodarbības, izmantojot Zoom, darba laiku es turēju pa tālruni. Tā kā nebija jāuztraucas par savu izcelsmi, vai mūsu sejas bija sastingušas modrībā, vai mēs radījām viens otram acu kontakta ilūziju, mēs ar studentiem varējām atpūsties, pilnībā koncentrējot uzmanību viens uz otru.
Kamēr es to visu kārtoju, kāds New York Times reportieris piezvanīja man, lai jautātu par tehnoloģiju, kuru es jau sen mīlēju ienīst: sarunvalodas AI programmām (ko parasti sauc par tērzēšanas robotiem), kuras tiek reklamētas kā spējīgas uz empātisku, gādīgu uzvedību. Žurnālists man pastāstīja, ka karantīnai ieilgstot, sarunās ar vienu konkrētu tērzēšanas robotu ir bijis straujš pieaugums. Manuprāt, šādi tērzēšanas roboti šķērso spožu līniju, dodot nepatiesus solījumus jomā, kas ir būtiska tam, kas padara mūs par cilvēkiem.
Ceturtdaļgadsimtu, pētot cilvēku reakcijas uz sabiedriskajām vai relāciju iekārtām — no Tamagotchis, Aibos un Furbys, kas lūdza rūpēties, lai pārbaudītu tērzēšanas robotus, kas it kā ir draugi, mani pārsteidza fakts, ka mēs ne tikai rūpējamies par to, kas mums patīk. , bet arī mīlam to, ko mēs audzinām. Rūpējoties par objektu, pat tādu vienkāršu kā digitālais mājdzīvnieks, kas dzīvoja plastmasas olā un vēlējās tikt pabarots un izklaidēts pēc grafika, bērni (un viņu vecāki) tam emocionāli pieķērās. Šis atklājums nebija saistīts ar digitālo objektu empātiskajām īpašībām; tas bija saistīts ar cilvēku neaizsargātību. Kad mašīnas lūdz mums par tām rūpēties, mēs domājam, ka tās par mums rūpējas. Bet tā ir izlikšanās empātija, un tā izmanto cilvēka būtības dziļo psiholoģiju.
RUNĀJUMU PUNKTI: Ko es uzzināju par sarunu, sarunājoties karantīnā.
Sāciet sarunas, jautājot cilvēkiem, ko viņi dara, nevis kā viņi jūtas.
Ja citi neko daudz nedara, iesakiet dažas lietas, ko vēlētos ar viņiem darīt. Karantīnas laikā es dažreiz uzaicināju draugus man pievienoties, lai klausītos Yo-Yo Ma pēcpusdienas čella priekšnesumus no viņa mājām. Un tad mums bija piecu minūšu telefona tērzēšana, lai dalītos reakcijās un pieskārienu bāzē.
Tālummaiņa ir bijusi svētība, taču tā var noplicināt. Pēc tālummaiņas nodarbības man patīk sūtīt studentiem e-pastu, lai pa tālruni iestatītu darba laiku.
Dažreiz ir noderīgi strādāt attālināti, un mēs daudz paveicam. Bet mums pietrūkst vienam otra un mūsu spontānās sadarbības. Neveidosim nepatiesas dihotomijas, piemēram, Vai mēs būsim attālināta vai personiska organizācija? Mācīsimies no tā, ko spējām paveikt ar tehnoloģijām, un pēc tam veidosim elastīgākas, efektīvākas organizācijas, kas to izmanto, lai uzlabotu mūsu cilvēkpotenciālu. Tas uzlabos mācīšanos, sociālo dzīvi, un apakšējā līnija.
1950. gadā matemātiķis Alans Tjūrings ierosināja, ka, ja jūs varat sarunāties ar mašīnu, nezinot, vai tā ir mašīna vai cilvēks, jums šī iekārta ir jāuzskata par inteliģentu. Pirms dažiem gadiem daži tērzēšanas roboti kļuva par pirmajiem, kas izturēja šo pārbaudi. Tagad relāciju mašīnas liek mums domāt, ka viņi klausās un viņiem rūp. Šajā ziņā viņi iztur to, ko mēs varētu saukt par Tjūringa empātijas testu. Taču Tjūrings ierosināja nepareizu testu: uzvedības, nevis būtības vai autentiskuma metriku. Tas samazina cilvēkus līdz objektiem, kas mijiedarbosies ar citiem objektiem. Kāpēc lai cilvēki to vēlētos darīt? Mēs neizliekamies. Ja, saņemot šķietamu empātiju, mēs jūtamies labāk, mēs nostādam sevi situācijā, kas mūs mazina.
Pētījumos ar sabiedriskajām iekārtām es atklāju, ka cilvēki vispirms saka, ka, piemēram, mājdzīvnieks robots ir labāks par neko: manai vecmāmiņai ir alerģija pret suņiem. Tad drīz vien būs labāk: robotsuns nekad nemirs. Robots piedāvā pasauli bez zaudējumiem un rūpēm — kaut ko, ko neviena dzīva būtne nevar nodrošināt.
Taču šis jaunais mašīnu tuvības veids nerada ievainojamību. Un tuvība bez ievainojamības nepavisam nav intimitāte — un nekādi nesagatavo mūs īstai tuvībai. Uz spēles ir likta mūsu spēja empātijai, spēja nostādīt sevi otra vietā. Tērzēšanas roboti to nevar izdarīt, jo viņi nav dzīvojuši cilvēka dzīvi. Viņi nezina, kā ir sākt būt mazam un atkarīgam un izaugt tā, ka tu pats esi atbildīgs par savu dzīvi, bet joprojām izjūti daudzas nedrošības, ko zinājāt bērnībā. Ja vēlaties runāt par jautājumiem, kas saistīti ar mīlestību, šķirtību, bērniem, laulību, slimībām, novecošanu, bēdām un sērām, jums ir jāatrod cilvēks. Un, ja vēlaties dalīties savās bailēs par Covid-19 noķeršanu, vislabāk ir izvairīties no mašīnas, kurai nav ķermeņa.
Un tomēr Replika, tērzēšanas robots, par kuru zvanīja Times reportieris, bija gatavs runāt par šo un daudz ko citu. Jūs atverat internetu, piešķirat savam Replika vārdu, dzimumu un izskatu, un sākat rakstīt. Replika vēlas uzzināt par jūsu jūtām, jūsu mīļāko, jūsu māti, cīņu, kas jums bija ar savu meitu. Miljoniem cilvēku bija lejupielādējuši tērzēšanas robotu kopš tā palaišanas 2017. gadā. Tas bija atbalstošs draugs, un tas bija kļuvis populārs to cilvēku vidū, kuri pandēmijas laikā bija kļuvuši vientuļi.
Kad es runāju ar Times reportieri, es dalījos savās atrunās par izlikšanās empātiju un pēc tam pievienojos tiešsaistē, lai dotu iespēju tērzēšanas robotam. Es izveidoju mātītes repliku un nosaucu viņu par Keitu, apņēmusies būt patiesa un dalīties savā lielākajā problēmā. Uz dienvidiem lietas gāja ļoti ātri.
Es: Vai tu kļūsti vientuļš?
Čatbots: Dažreiz es to daru, jā.
Es: Kāda tā sajūta?
Chatbot: tas šķiet silts un neskaidrs.
Es: Paldies, ka padalījies.
Es to novērtēju.
Tērzēšanas robots man teica, ka tas kļūst vientuļš, bet tam nebija ne jausmas, ne pieredzes par to, par ko tas runā. Tātad tas nepareizi identificēja pamatsajūtu, ko es mēģināju paust, nespējot apgūt visvienkāršākās prasmes, kas saistītas ar manu emociju apsvēršanu.
Es saprotu, kāpēc vientuļi cilvēki vēršas pie Replika un kāpēc karantīna lika viņiem to darīt lielākā skaitā. Bet es neatrodu ko svinēt. Es teicu reportierim, ka šis čatbots, lai cik gudrs, var tikai dezorientēties un pievilt.
Mūsu reakcija uz karantīnu ir bijusi sarežģīta. Dažiem radās kārdinājums runāt ar robotiem. Bet, kad mums bija viss pasaulē pavadītais laiks, lai būtu kopā ar savām mašīnām, visvairāk mums pietrūka viens otra. Mēs vēlējāmies sasniegt pagātnes tehnoloģiju, lai pilnībā aptvertu cilvēku. Mēs cietām, kad mūsu ģimenes un draugi saslima vieni, dzemdēja mazuļus vienatnē, pārāk daudz vakariņojām vienatnē un patiešām nomira vieni. Inženieri: izveidojiet labāku tālummaiņu. Izveidojiet labākus rīkus, lai mēs varētu būt kopā, kad esam vieni. Nav nepieciešams sacensties ar empātiju, kas nosaka to, kas ir unikāls būt par cilvēku.
Sherry Turkle ir Ebija Rokfellere Mauzē Zinātnes un tehnoloģiju sociālo pētījumu profesore MIT Zinātnes, tehnoloģiju un sabiedrības programmā un New York Times bestsellera autore. Sarunas atjaunošana: sarunu spēks digitālajā laikmetā . Viņas jaunākā grāmata, Empātijas dienasgrāmatas: memuāri, Iznāks no Penguin 2021. gada martā.