AI lasa cilvēka emocijas. Vai vajadzētu?

AI var nolasīt jūsu emocionālo reakciju uz reklāmu un jūsu sejas izteiksmes darba intervijā. Bet, ja tas jau to visu var izdarīt, kas notiks tālāk? Otrajā sērijas par emociju AI daļā Dženifera Stronga un MIT Technology Review komanda pēta, kā tas tiek izmantots un kur tas virzīsies nākotnē.

Mēs satikāmies:

• Šruti Šarma, VSCO
• Gabi Zijderveld, Affectiva
• Tims Vangētems, Hārmens
• Rohits Prasads, Amazon
• Meredita Vitekere, Ņujorkas Universitātes AI tagad institūts

Kredīti:

Par šo epizodi ziņoja un producēja Dženifera Stronga, Kārena Hao, Teits Raiens-Moslijs un Emma Cillekensa. Mums palīdzēja Bendži Rozens. Mūs rediģē Maikls Reilijs un Gideons Ličfīlds.

Pilns sērijas atšifrējums:

Dženifera Spēcīga : Šajā Covd-19 laikmetā tik daudz attiecību un pieredzes, kuras kādreiz baudījām klātienē, tagad ir tehnoloģiju starpnieks. Neatkarīgi no tā, vai strādājat no mājām, palīdzat izglītot bērnus no savām sienām vai, tāpat kā daudzi no mums, darāt abus, jauna konstante, kas, iespējams, nepazudīs, ir videozvans. Neatkarīgi no tā, vai atrodaties tālummaiņas telpā, pakalpojumā Google Meet vai kaut kas cits, patiesībā tas, visticamāk, paliks šeit pat pēc šī brīža. Un šajā pieredzē ir kaut kas tāds, kas jūtas attālināts un atdalīts. It kā jūs sazināties caur filtru. Vienkāršas sarunas, kuras pārtrauc interneta kļūmes vai pazuda tulkojumā. Ko darīt, ja šo tehnoloģiju varētu izmantot, lai uzlabotu mijiedarbību, nevis to izslēgtu? Ko darīt, ja tas varētu reaģēt uz jūsu ķermeņa valodu, jūsu balss intonācijām, lai palīdzētu jums nodot vairāk nekā tikai vārdus? Tas ir kaut kas tāds, uz ko norādīja Affectiva dibinātājs Rana el Kaliouby, kad mēs runājām par mūsu pēdējo sēriju.

Rana el Kaliouby : Kur es prezentēju, teiksim, simts attāliem cilvēkiem, ja tas būtu īsts tiešraides notikums, es tērētu telpā esošo cilvēku enerģiju, un es to nevaru izdarīt tiešsaistē. Un tas tiešām ir sāpīgi, un es to ienīstu. [smejas] Tāpēc es turpinu iztēloties kā reāllaika diagrammu par iesaistīšanās līmeni, smieklu līmeni, varbūt kā emocijzīmju straumi vai kaut ko tādu, kas vienkārši sniedz cilvēkiem sajūtu par šo kopīgo pieredzi.

Dženifera Spēcīga : Viņas uzņēmums un daudzi citi steidzas strādāt pie šāda veida iespējām, taču liela daļa tehnoloģiju, kas nodrošinātu šādas lietas, jau bieži tiek izmantota neparedzētā veidā. Piemēram, lai izmērītu sejas izteiksmes cilvēkiem, kuri ir pārcietuši insultu.

Gabija Zijdervelda : Tas ir saistīts ar lielu sociālo aizspriedumu, jo cilvēki domā, ka šie cilvēki izskatās dusmīgi vai raugās, taču viņiem ir insults un viņi nevar smaidīt. Parasti ķirurgi mēra, vai smaidu atjaunošana ir veiksmīga, kutinot pacientus, un tad viņi sāk smieties, un viņi izmanto lineālu un mēra milimetru kustības.

Dženifera Spēcīga : Un vienam ķirurgam šī metode šķita smieklīga.

Gabija Zijdervelda : Tātad, izmantojot mūsu emociju AI, viņš izveidoja programmatūras sistēmu, lai salīdzinātu un novērtētu viņa panākumus, atjaunojot pacientu smaidu.

Dženifera Stronga: Es esmu Dženifera Stronga, un mūsu sērijas otrajā daļā, kurā tiek pētīts emociju mākslīgais intelekts, mēs aplūkojam, kā tas jau tiek izmantots un kur tas varētu mūs novest nākotnē.

[PARĀDĪT ID]

Šruti Šarma : Labi, tāpēc es dalīšos šeit ar savu ekrānu. Paziņojiet man, ja varat to redzēt.

Dženifera Spēcīga : Shruti Sharma ir vecākais inženierzinātņu vadītājs par mašīnmācību fotoattēlu lietotnē VSCO.

Šruti Šarma : Tātad jūs vienkārši redzat šīs oranžās žalūzijas tumši melnajā telpā. Un saistītie attēli, kas tiek parādīti, būtībā ir šīs noslēpumainās gaismas un tumsas, kā arī gaismas un ēnu spēles sajūtas.

Dženifera Spēcīga : šos fotoattēlus izvēlējās Ava, kas ir AI, kas novērtē attēlus un klasificē tos pēc noskaņojuma un emocijām. Šķirošanas veids, ko agrāk veica cilvēki. Un mēs nerunājam par pludmales ainavām, kas iekrīt vienā kaudzē, vai veselu kaķu fotoattēlu kopu. Tas ir daudz niansētāk. Es to negaidīju. Tas nav tikai viens un tas pats krāsu tonis, tas patiešām rada tādas pašas sajūtas no fotoattēla uz fotoattēlu.

Šruti Šarma : Tātad mūsu mērķis, atpazīt noskaņojumu un sajūtas vai emocijas fotoattēlā, būtībā ir tvert to būtību, ko citādi varētu redzēt tikai cilvēks. Mūsu mašīnmācīšanās tehnoloģija Ava aplūko ne tikai fotoattēla saturu, bet arī fotografēšanai ļoti raksturīgus atribūtus, kas veicina šīs sajūtas un emocijas, ko fotogrāfija rada cilvēkos… tādas lietas kā kompozīcija, fotografēšanas stils. , estētisks.

Dženifera Spēcīga : šī lietotne ir radoša platforma fotogrāfiem.

Šruti Šarma : Fakts, ka visos šajos attēlos ir tāda sajūta, ka šeit notiek vairāk nekā tas, ko mēs redzam fotoattēlā. Ir grūti pateikt, kas notiek pilnībā, un šeit ir tāda noslēpumaina sajūta, kas tiek izsaukta. Tā ir ļoti personiska sajūta, ko izraisa fotogrāfijas, un, ja mašīna spēj sakārtot attēlus, pamatojoties uz to, tas gandrīz rada prieku manā sirdī. [smejas]

Dženifera Spēcīga : Atšķirībā no citām šīs tehnoloģijas lietojumprogrammām, ja mākslīgais intelekts nesasniedz kategoriju vai klasifikāciju, likmes šeit ir diezgan zemas.

Šruti Šarma : Kas, manuprāt, arī ir tā skaistums. Taisnība? Vai mašīna patiešām ir pieļāvusi kļūdu, vai arī tā sniedz jums citu skatījumu? Un es domāju, ka dažreiz tas ir mazliet no abiem.

Dženifera Spēcīga : Bet fotogrāfiju šķirošana ir tikai aisberga redzamā daļa.

Gabija Zijdervelda : Tātad, ja jūs varētu noklikšķināt uz tā…

Kārena Hao : Labi.

Gabija Zijdervelda : Un vislabāk, ja jūs braucat, jo tad varat izmēģināt demonstrāciju.

Dženifera Spēcīga : Gabi Zijderveld ir Affectiva mārketinga direktore. Viņa staigā manu kolēģi, Tech Review vecāko AI reportieri Kārenu Hao, demonstrējot vienu no viņu produktiem, kas spēj nolasīt emocijas.

Gabija Zijdervelda : tātad šī būtībā ir vienkāršota versija tam, kā mūsu tehnoloģija tiks izmantota mediju analīzē un īpaši reklāmu testēšanā. Tas tikai vairāk vai mazāk sniedz priekšstatu par to, kā mēs to darām un kādas lietas mēs varam izmērīt. Tātad, kā redzat, mums ir dažas dažādas reklāmas vai videoklipi, kas ir iepriekš ielādēti, un pēc tam varat izvēlēties sev piemērotāko.

Kārena Hao : Nospiežot atskaņošanu…

Gabija Zijdervelda : Kamēr jūs skatāties šo reklāmu, kā redzat, mēs novērtējam jūsu reakcijas uz to.

Kārena Hao : [dzirdami smiekli]

Dženifera Spēcīga : Viņa skatās smieklīgu YouTube klipu, kurā divi bērni un strādājošas mātes uzdevumi, cita starpā, pārtrauc ziņu raidījumu. Tā ir mānīšanās no vīrusa raidītās BBC intervijas — jūs zināt to, kur burvīga maza meitene iegriežas sava tēva mājas birojā.

Gabija Zijdervelda : Tātad šajā demonstrācijā mēs lūdzām jums atļauju ieslēgt tīmekļa kameru. Kad sākāt atskaņot videoklipu, galvenokārt kadrs pa kadram, mūsu AI mērīja jūsu reakcijas un atbildes uz to, ko redzējāt šajā reklāmā. Demonstrācijas kreisajā pusē ir redzamas visas šīs dažādās metrikas, piemēram, izteiksmīgums, uzmanība, riebums, smaids… tas parāda vai izceļ uzacu saraušanās gadījumus, kas varētu būt cilvēku apšaubīšana vai paceļot, paceļot uzacis, ja vēlaties, burtiski. Ja jūs noklikšķināt uz smaida līknes, tas varētu būt interesanti... smaids ne vienmēr nozīmē, ka jums kaut kas patīk, taču šeit mēs zinām kontekstu, mēs zinām, ka šī ir humoristiska reklāma, un mēs to varam redzēt no jūsu līkne, ka tu daudz smaidīji. Tik skaidrs, ka šim videoklipam bija paredzētais efekts ar jums. Un tad, ja noklikšķināt uz skatījumu kopsavilkuma, tas ir arī forši. Tādējādi jūsu dati tiek salīdzināti ar visiem citiem, kas ir skatījušies šo videoklipu.

Kārena Hao : Oho. Man šķiet, ka es biju daudz izteiksmīgāks nekā vidusmēra cilvēks.

Gabija Zijdervelda : Jā, jā, tieši tā. Arī tavs smaids bija daudz augstāks. Acīmredzot šis video jums patika daudz labāk nekā vidēji.

Dženifera Spēcīga : tas, ko viņi šeit demonstrē, nolasa emocijas un sadala tās reklāmdevēju un reklāmu aģentūru datos.

Gabija Zijdervelda : šie dati atkal ir ļoti svarīgs ieskats, jo tie būtībā palīdz viņiem noteikt, cik efektīvas ir viņu reklāmas un kur novirzīt multivides izdevumus.

Dženifera Spēcīga : Viņa saka, ka viņiem ir nepieciešami aptuveni simts testu, lai iegūtu pietiekami daudz datu efektīvam salīdzinājumam. Affectiva ir izvietojusi šo emociju AI tehnoloģiju visā pasaulē ar tādiem klientiem kā Disney, Coca Cola, Kelloggs, Samsung un Google.

Gabija Zijdervelda : Apmēram 28% no 500 pasaules uzņēmumiem izmanto mūsu tehnoloģiju. Reklāmas vecumam ir pasaules lielāko reklāmdevēju saraksts, un 70% no tiem izmanto mūsu tehnoloģiju. Gadu gaitā esam pārbaudījuši vairāk nekā 52 000 reklāmu 90 valstīs. Tātad tiek veikts daudz pētījumu. Pieņemsim, ka kāds testē alus reklāmu Apvienotajā Karalistē un vēlas salīdzināt savas alus reklāmas veiktspēju ar citām alus reklāmām Apvienotajā Karalistē vai varbūt ar alus reklāmu ASV, viņš to var izdarīt, jo mums ir tik daudz datu. tāda veida nodrošina šīs normas.

Dženifera Spēcīga : Un pēc 10 gadiem emociju mākslīgā intelekta uzlabošanas mediju analīzē... Affectiva tagad pāriet uz izklaides industriju.

Gabija Zijdervelda : Piemēram, mēs jau esam veikuši vairākus pētījumus, kuru mērķis ir saprast, kā auditorija iesaistās un, ja vēlaties, gandrīz sadarbojas ar noteiktiem televīzijas programmu varoņiem. Viņi iepazīstina ar jauniem varoņiem. Dažreiz šie varoņi pielīp, un skatītāji tos mīl. Dažreiz viņi to nedara. Tāpēc viņi par to veic daudz pētījumu. Un, protams, viņi mēģina prognozēt, kāda būs veiksmīgā formula, un, to darot agri, viņi var ietaupīt daudz naudas, jo kļūdas noteikšana šādos gadījumos ir dārga. Mēs esam arī pārbaudījuši filmu reklāmkadrus, kas pats par sevi ir reklāmas satura veids.

Dženifera Spēcīga : Bet Affectiva un daudzi citi uzņēmumi ir īpaši koncentrējušies uz auto industriju.

Gabija Zijdervelda : Papildus drošības lietojumprogrammai, izprotot vadītāja traucējumus, kas būtībā ir vadītāja uzraudzības sistēma, ir arī cita pielietojamība, jo brīdī, kad jūs saprotat, kas notiek ar aizmugurē sēdošajiem pasažieriem, jūs varat darīt daudz citu interesantu lietu. Pamatā vidi var pielāgot cilvēka konkrētajam stāvoklim. Tātad kāds varētu būt ceļā uz darba sapulci nākotnē. Jūsu transportlīdzeklis to var saprast, jo visas dažādās sistēmas ir savienotas kopā. Varbūt varat ieskatīties jūsu kalendārā, ja jūs to atļaujat. Un, ja jūs esat ceļā uz tikšanos, iespējams, nevēlaties mūziku. Varbūt jūs nevēlaties redzēt video aizmugurē. Varbūt vēlaties pareizo apgaismojumu jūsu automašīnas reģionā. Varbūt jums ir nepieciešams, lai jūsu sēdeklis būtu novietots noteiktā veidā. Tas varētu būt arī par pieredzes uzlabošanu, vai ne? Padarot to jautrāku un patīkamāku vai atjaunojošāku.

Dženifera Spēcīga : Tas vēl nav pieejams tirgū, bet viņa saka, ka viņi ir pārbaudījuši emociju AI elementus automašīnās, tostarp šo:

Gabija Zijdervelda : Pat pirms vairākiem gadiem bija izpētes projekts, ko mēs īstenojām ar Porsche, kur mūsu tehnoloģija pamatā lika novērtēt, kā cilvēki reaģē uz mūziku, kas tika atskaņota transportlīdzeklī. Un, ja viņiem patika mūzika, tā pamatā pielāgotu ieteikumus, pamatojoties uz cilvēku reakcijām, un personalizētu to šādā veidā.

Dženifera Spēcīga : Viņa lēš, ka paies 2 līdz 4 gadi, līdz šāda veida tehnoloģija tiks ieviesta.

Vēl viena grupa, kas strādā pie šāda veida emociju AI transportlīdzekļiem, ir Samsung piederošais uzņēmums Harman.

Tims VanGētems : Mēs veidojam šos algoritmus, kas varētu izmantot kameras attēlu no paneļa uzstādītas kameras, un mēs veidojam programmatūru, kas var aplūkot jūsu acis vai citus sejas vaibstus un spēt secināt vadītāja stāvokli.

Dženifera Spēcīga : Tas ir Tims Vangētems, uzņēmuma progresīvās mobilitātes vadītājs.

Tims VanGētems : Mēs varētu darīt tādas lietas kā, piemēram, izprast jūsu sirdsdarbības ātrumu, tikai aplūkojot, kā mainās jūsu ādas pigmentācija katru reizi, kad jūsu sirds pukst. Mēs varam aplūkot jūsu acu kustības raksturlielumus un, pamatojoties uz to, varam to korelēt ar to, vai esat izklaidīgs vai miegains, vai esat saspringts, vai šķiet, ka jūsu prāts nav koncentrēts… kā to padarīt jēgpilnu. Ja esat noguris, vai mēs varam veikt vienkāršus salona temperatūras regulējumus? Vai mēs varam smalki mainīt sēdekļa pozīciju? Izvēlieties mūzikas sajaukumu, kas, iespējams, ir nedaudz ātrāks, nevis tas, ko pašlaik klausāties. Tātad, tas varētu būt dažu ļoti vienkāršu pielāgojumu kombinācija dažām ļoti lielām darbībām atkarībā no tā, ko mēs varam secināt par jūsu stāvokli.

Dženifera Spēcīga : Cik tālāk tādi uzņēmumi kā šī varētu izmantot tehnoloģiju?

Tims VanGētems : Kur tas varētu būt nākotnē, ir saskarne ar valkājamām ierīcēm, ko ienesat automašīnā. Daudzi cilvēki mīl savus viedpulksteņus, un diezgan bieži šiem viedpulksteņiem ir arī fitnesa vai labsajūtas iespējas. Tātad automašīna nākotnē varēs ienest informāciju no šīm valkājamām ierīcēm. Tā vietā, lai mēģinātu izmantot kameru, lai secinātu vai secinātu jūsu sirdsdarbības ātrumu, mēs faktiski varētu izmantot sensoru no paša viedpulksteņa. Un tad viedpulkstenis ar lietotāja atļauju varētu kopīgot šo informāciju ar automašīnu. Un tad acīmredzot tas ir, tas, tas varētu būt precīzāks signāls. Solis tālāk ir tas, ka mēs varētu arī piekļūt vēl lielākām ekosistēmām. Piemēram, ja automašīna un automašīnā esošie algoritmi zinātu, ka pirms iekāpšanas automašīnā esat slikti gulējis, mēs varētu pieņemt dažus iepriekšējus lēmumus, zinot, ka jūs jau iekāpjat automašīnā, iespējams, noguris.

Dženifera Spēcīga : Nākamo 2 līdz 5 gadu laikā viņš mēģinās atbildēt uz šo jautājumu.

Tims VanGētems : Kā automašīna ne tikai atrisina problēmas cilvēkiem, kamēr viņi atrodas savā automašīnā, bet arī kā viņi var pievienoties šīm lielākajām ekosistēmām? Un, un es domāju, ka tas laika gaitā attīstīsies, jo cilvēki sapratīs attiecības, kā mana dzīve ārpus automašīnas un mana dzīve automašīnā dabiski saplūst kopā.

Dženifera Spēcīga : Cik ērti autovadītāji ļaus savai automašīnai lasīt viņu emocijas un reaģēt un pat sazināties ar savu dzīvi ārpus transportlīdzekļa? Mēs jau ļaujam mašīnām to darīt mūsu intīmākajās telpās...mūsu mājās.

Rohits Prasads : Tāpat kā mēs kā cilvēki — mēs lolojam mijiedarbību ar cilvēkiem, kuri ir pazemīgi, izpalīdzīgi, atsaucīgi un uzticami. Un, protams, jūs vēlaties arī kādu jautrību personībā, lai jūs varētu būt ļoti saistoši.

Dženifera Spēcīga : Rohits Prasads ir Amazones Alexa galvenais zinātnieks. Kad balss asistents tika izlaists pirms sešiem gadiem, tas atspoguļoja jauna veida attiecības ar personīgajām tehnoloģijām. Lai tas darbotos, viņš zināja, ka viņiem ir jāizveido personība, kas derētu dažādiem cilvēkiem dažādās telpās.

Rohits Prasads : Mēs uzskatām, ka uzticību neiegūst tikai tas, kā jūs izklausāties, bet arī tas, ko jūs sakāt un ko jūs darāt. Mēs vēlējāmies, lai tādi cilvēki kā mēs savās mājās varētu ērti sarunāties ar mākslīgo intelektu... Un mūsu mājas ir kopienas vide. Tā nav tikai personiska ierīce, piemēram, viedtālrunis. Un šajā vidē Alexa sazināsies ar mani, manu sievu, maniem bērniem. Taisnība? Tāpēc tagad jums ir jāpanāk, lai balss darbotos visās šajās vidēs.

Dženifera Spēcīga : Viņi zināja, ka uzticības veidošana ar lietotājiem paļautos arī uz Alexa spēju atpazīt cilvēku emocijas un reaģēt uz tām.

Rohits Prasads : Kad klienti ir priecīgi vai satraukti, Alexa vajadzētu atdarināt šo uzvedību. Un, kad klients ir vīlies, Alexa vajadzētu uzņemties empātiskāku toni.

Dženifera Spēcīga : Mūsdienās Alexa var veikt dažus pamatus.

Rohits Prasads : Tātad dažas no emocionālajām atbildēm, ko varat redzēt, ir tad, kad jautājat par savu iecienītāko sporta komandu un, ja tā uzvarēs, Alexa atbildēs jautrāk.

Dženifera Spēcīga : Turklāt Amazon turpina strādāt pie savām klausīšanās prasmēm.

Rohits Prasads : Vai Alexa var sajust jūsu balss vilšanos un mainīt savas atbildes uz jums? Lai Alexa uztvertu jūsu balss neapmierinātību un pielāgotu savas atbildes pareizajā veidā, lai sniegtu jums to, kas jums kā klientam ir nepieciešams, nevis tikai sagādātu jums lielāku vilšanos, sniedzot tādu pašu atbildi.

Dženifera Spēcīga : Un Alexa jau var izveidot sava lietotāja spoguļošanas versiju:

Alexa ieraksts : Ļaujiet man jums pastāstīt noslēpumu. Es varu čukstēt.

Rohits Prasads : To mēs saucam par čukstu režīmu. Tas notika, kad viens no maniem iepriekšējiem Alexa priekšniekiem ieradās mājās. Viņš čukstēja Aleksai, un Aleksa atbildēja un pamodināja sievu.

Dženifera Spēcīga : Viņš saka, ka tas viņus iedvesmoja iemācīt Aleksai čukstēt, jo, ja tu čuksti cilvēkam, šis cilvēks parasti čukst pretī. Viņi arī māca atbildēt kā ekspertam, un kad zināt, ka tā nav. Viņš saka, ka tas ir atkarīgs no jautājumu veida.

Rohits Prasads : noteiktos iestatījumos, kad runa ir par ļoti sensitīvām tēmām, ko varat kopīgot ar pavadoni, taču Alexa var nebūt eksperts šajā jomā, piemēram, par garīgo veselību. Vai kādas citas veselības problēmas. Es domāju, ka mūsu pamatprincips vienmēr ir saņemt ekspertu palīdzību šajos iestatījumos, un es domāju, ka, pat ja jūs to kopīgojat kā pavadonis, tajā brīdī AI ir ļoti atbildīga.

Dženifera Spēcīga : Alexa iepazīstoties ar saviem lietotājiem, tas varētu ieņemt arvien lielāku lomu viņu dzīvē.

Rohits Prasads : Es domāju, ka attiecības arvien vairāk kļūst par cilvēku palīgu un padomdevēju un pat kompanjonu. Un mēs redzam, ka tas notiek mūsdienu laikā. Un es domāju, ka, augot kopā ar Alexa, attiecības attīstās.

Dženifera Spēcīga : Bet viņš brīdina:

Rohits Prasads : Šīs vēl ir sākuma dienas, un mēs turpināsim veikt izpēti, lai noskaidrotu, kura ir labākā emocionālā vai stilistiskā reakcija, pamatojoties uz klienta sniegto informāciju. Bet es tikai vēlos pārliecināties, ka mēs esam vienisprātis, ka tā ir diezgan smaga problēma, jo jūs nevēlaties, lai kļūdas pastiprinātos un liktu klientiem zaudēt uzticību Alexa. Patiesībā jūs vēlaties uzticamāku darbību, kas nozīmē, ka, iespējams, ir pareizi, ja noteiktos iestatījumos ir neitrālākas atbildes. Un pie tā mēs arī šobrīd strādājam.

Dženifera Spēcīga : Emociju AI var uzlabot mūsu mijiedarbību ar tehnoloģijām, taču atkarībā no tā, kā tā tiek izmantota, tas var arī nodarīt reālu kaitējumu. Mēs izpētīsim dažus tā piemērus tūlīt pēc pārtraukuma.

[videoklipa laikā reklāma]

Dženifera Spēcīga : Pandēmija ir piedzīvojusi strauju digitālo programmu izmantošanu, kas uzrauga skolas eksāmenus. Šie produkti izmanto uzvedības izsekošanu un atpazīšanu, lai skatītos skolēnus, izmantojot klēpjdatorus, un meklētu krāpšanās pazīmes. Laikraksts New York Times runāja ar koledžas junioru, kam ir sejas tikuma invaliditāte, un nesen afrolatīniešu tiesību zinātņu absolventu, kura četras stundas cīnījās, lai programmatūra reģistrētu viņas seju. Šīs problēmas ir radušās arī intervēšanas programmatūrā, kas izmanto līdzīgu sejas un uzvedības izsekošanu, lai palīdzētu izlemt, vai esat cienīgs pieņemt darbā.

Meredita Vitekere : Ideja, ka cilvēku piekļuvi darbam un iespējām veido tādi stereotipi un pieņēmumi par to, kā viņi izskatās, kā viņi rīkojas, vai viņi runā tādā veidā, kas ir samērojams ar kādu vai citu veiksmes modeli, ir neticami. satraucošs.

Dženifera Spēcīga : Meredita Vitekere ir AI Now institūta līdzdibinātāja Ņujorkā.

Meredita Vitekere : Un mēs pētām mākslīgā intelekta sociālās sekas.

Dženifera Spēcīga : Viņa saka, ka ne tikai emociju marķēšana, bet arī šo emociju vērtības interpretācija un lēmumu automatizācija, izmantojot šo informāciju.

Meredita Vitekere : Šeit ir runa par korporatīvo spēku un veidu, kādā šie uzņēmumi ražo tehnoloģijas, kas gandrīz vienmēr slēpj fantastiskus apgalvojumus, kas slēpjas aiz komercnoslēpuma plīvura. Tie ir neauditēti. Tie ir nepārbaudīti. Mēs redzam tehnoloģiju, kas apgalvo, ka spēj noteikt cilvēku iekšējo raksturu, viņu kompetenci, jūtas, tiek izmantota, lai informētu par lēmumu pieņemšanu klasē, kuru pieņemt darbā un kuru paaugstināt. Mēs redzam, ka tas tiek izmantots krimināltiesību sistēmā — vietās, kas patiešām veido cilvēku dzīvi un piekļuvi iespējām. Un, ņemot vērā to, ka nav zinātniskas vienprātības par šāda veida apgalvojumu automatizācijas efektivitāti, mēs uzskatījām, ka ir pienācis laiks aicināt aizliegt šo tehnoloģiju izmantošanu šajās jomās.

Dženifera Spēcīga : Un viņa saka, ka, iespējams, visvairāk satraucošākais ir tas, cik bieži šīs tehnoloģijas tiek izmantotas, un cilvēkiem, kas tām pakļauti, nav ne jausmas, ne iespējas.

Meredita Vitekere : Ir ļoti grūti zināt, vai es, ja neesmu pieņemts darbā un mani intervēja HireVu, tas ir tāpēc, ka programmatūra ir neobjektīva, vai arī tāpēc, ka es tik un tā nebūtu ieguvis darbu. Taisnība? Piemēram, no viena parauga ir grūti izdarīt secinājumus. Un dati, kas ļautu mums atklāt diskriminācijas vai kaitējuma vai kļūdu modeli vai to, kas jums ir, nav publiski pieejami. Personas, kurām ir piekļuve šiem datiem, ir HireVu un neatkarīgi no uzņēmuma, kas licencē HireVu, lai tos izmantotu intervijām, vai ne? Un nevienam no šiem uzņēmumiem nav patiesas intereses ļaut sabiedrībai un likumdevējiem un advokātiem ķemmēt šos datus.

Dženifera Spēcīga : Tāpēc viņas grupa aicina aizliegt emociju AI sensitīvos lietošanas gadījumos, kas ietvertu lietojumprogrammas, kas var nešķist tik sensitīvas, piemēram, pīkstiens no automašīnas paneļa, kad tā domā, ka vadītājs varētu kļūt miegains.

Meredita Vitekere : Mums šeit ir jāatbalsta un jāskatās uz spēka dinamiku, vai ne? Iespējams, ka automašīna, kas nedaudz mirgo, domājot, ka esat miegains, ņemot vērā jūsu sejas izskatu, varētu nebūt tik kaitīga. Bet vai šī informācija tiek nosūtīta jūsu apdrošināšanas sabiedrībai? Vai šī informācija tiek izmantota, lai noteiktu jūsu apdrošināšanas likmes vai pieņemtu lēmumu par jūsu vainu, ja nokļūstat negadījumā? Vai tas neļauj Lyft vai Uber vadītājiem pierakstīties savā lietotnē? Kādi ir šo datu izmantošanas veidi?

Dženifera Spēcīga : Viņas teiktais varētu izklausīties pārāk piesardzīgi, taču pagājušajā gadā Ņujorkas augstākais finanšu regulators nolēma, ka dzīvības apdrošināšanas kompānijas var noteikt prēmijas šajā valstī, pamatojoties uz informāciju no sociālajiem medijiem. Tātad, ko darīt, lai turpmāk vairs netiktu izmantoti automašīnu dati vai jebkas cits, lai noteiktu jūsu apdrošināšanas likmes? Šobrīd lielākajā daļā vietu nekas.

Dženifera Spēcīga : Par šo sēriju ziņojām un producējām es un Kārena Hao, Teits Raiens-Moslijs un Emma Cillekens. Mums palīdzēja Bendži Rozens. Mūs rediģē Maikls Reilijs un Gideons Ličfīlds. Paldies, ka klausījāties, es esmu Dženifera Stronga.

paslēpties