Emociju AI pētnieki saka, ka pārspīlēti apgalvojumi viņu darbam piešķir sliktu vārdu

Ilustrācija. Kreisajā pusē izkaisīti sejas daļu izgriezumi, piemēram, acis un mute, kas atrodas kastē. Vidus: pilnīga seja, aizvērtas acis. Labajā pusē: tīkls galvas formā. Franciska Barčika

Varbūt esat dzirdējuši par AI, kas veic intervijas. Vai varbūt jūs pats esat intervējis. Uzņēmumi, piemēram, HireVue, apgalvo, ka viņu programmatūra var analizēt video intervijas, lai noskaidrotu kandidātu nodarbinātības rādītājs . Algoritmi ne tikai novērtē sejas un ķermeņa pozu pēc izskata; viņi arī paziņo darba devējiem, vai intervējamais ir sīksts vai labi strādāt komandā . Šie novērtējumi var būtiski ietekmēt kandidāta nākotni. Iekš ASV un Dienvidkoreja , kur AI atbalstīta darbā pieņemšana ir kļuvusi arvien populārāka, karjeras konsultanti tagad apmāca jaunos absolventus un darba meklētājus, kā intervēt, izmantojot algoritmu. Šī tehnoloģija tiek izmantota arī bērniem klasēs un ir izmantots pētījumos, lai atklātu maldināšanu tiesas zāles videoklipos .

Taču daudzus no šiem solījumiem neatbalsta zinātniskā vienprātība. Nav spēcīgu, recenzētu pētījumu, kas pierādītu, ka ķermeņa pozas vai sejas izteiksmju analīze var palīdzēt izvēlēties labākos darbiniekus vai studentus (daļēji tāpēc, ka uzņēmumi slēpj savas metodes). Rezultātā ažiotāža ap emociju atpazīšanu, kas ir lpp tiek prognozēts, ka līdz 2023. gadam tas būs 25 miljardu ASV dolāru tirgus , ir radījis pretreakciju no tehnoloģiju ētikas un aktīvistu puses, kuri baidās, ka tehnoloģija varētu radīt tādas pašas diskriminācijas problēmas kā paredzamā soda noteikšana vai mājokļu algoritmi lai saimnieki izlemj, kam īrēt.

Ažiotāža satrauc arī pētniekus. Daudzi piekrīt, ka viņu darbs, kurā tiek izmantotas dažādas metodes (piemēram, mikroizteiksmju vai balss analīze), lai izšķirtu un interpretētu cilvēka izpausmes, tiek kopoptēts un izmantots komerciālos lietojumos, kuriem zinātnē ir nestabils pamats. Viņi saka, ka valdības regulējuma trūkums nav slikts tikai patērētājiem. Tas ir slikti arī viņiem.

Labais un sliktais

Emociju atpazīšana, afektīvās skaitļošanas apakškopa, joprojām ir topoša tehnoloģija. Tā kā AI pētnieki ir pārbaudījuši robežas tam, ko mēs varam un ko nevaram noteikt attiecībā uz cilvēka uzvedību, emociju pamatā esošā zinātne ir turpinājusi attīstīties. Joprojām pastāv vairākas teorijas, piemēram, par to, vai emocijas var atšķirt diskrēti vai krist uz kontinuuma. Tikmēr vienādi izteicieni dažādās kultūrās var nozīmēt dažādas lietas. Jūlijā a meta-pētījums secināja, ka nav iespējams spriest par emocijām, tikai paskatoties uz cilvēka seju. Pētījums tika plaši atspoguļots (tostarp šajā publikācijā), bieži ar virsrakstiem, kas par to liecina emociju atpazīšanai nevar uzticēties .

Emociju atpazīšanas pētnieki jau apzinās šo ierobežojumu. Tie, ar kuriem mēs runājām, bija uzmanīgi, izvirzot apgalvojumus par to, ko viņu darbs var un ko nevar. Daudzi uzsvēra, ka emociju atpazīšana faktiski nevar novērtēt indivīda iekšējās emocijas un pieredzi. Tas var tikai novērtēt, kā šī indivīda emocijas varētu uztvert citi, vai ieteikt plašas, uz populāciju balstītas tendences (piemēram, viena filma izraisa vidēji pozitīvāku reakciju nekā cita). Neviens nopietns pētnieks neapgalvotu, ka jūs varat analizēt darbības vienības sejā un tad patiesībā zināt, ko cilvēki domā, saka Elizabete Andrē, Augsburgas universitātes afektīvo skaitļošanas eksperte.

Pētnieki arī atzīmē, ka emociju atpazīšana ietver daudz vairāk nekā tikai skatīšanās uz kāda cilvēka seju. Tas var ietvert arī ķermeņa stājas, gaitas un citu īpašību novērošanu, kā arī biometrisko sensoru un audio izmantošanu, lai apkopotu visaptverošākus datus.

Šādas atšķirības ir labas, taču svarīgas: tās diskvalificē tādas lietojumprogrammas kā HireVue, kas apgalvo, ka tās novērtē indivīda raksturīgo kompetenci, bet atbalsta citas, piemēram, tehnoloģijas, kuru mērķis ir padarīt mašīnas par viedākiem līdzstrādniekiem un cilvēku pavadoņiem. (HireVue neatbildēja uz komentāru pieprasījumu.) Humanoīds robots varēja smaidīt, kad jūs smaidāt. Tā ir spoguļdarbība, ko cilvēki bieži izmanto, lai padarītu mijiedarbību dabiskāku. Valkājama ierīce var atgādināt jums atpūsties, ja tiek konstatēts ķermeņa stresa hormona kortizola līmenis, kas pārsniedz sākotnējo līmeni. Nevienai no šīm lietojumprogrammām nav nepieciešams algoritms, lai novērtētu jūsu privātās domas un jūtas; tiem ir nepieciešams tikai novērtēt atbilstošu reakciju uz kortizola līmeni vai ķermeņa valodu. Viņi arī nepieņem augstus lēmumus par indivīda dzīvi — atšķirībā no nepierādītiem darbā pieņemšanas algoritmiem. Ja mēs vēlamies, lai datori un skaitļošanas sistēmas mums palīdzētu, būtu pozitīvi, ja viņiem būtu sajūta par to, kā mēs jūtamies, saka Nuria Oliver, bezpeļņas DataPop Alliance galvenā datu zinātniece.

Taču liela daļa no šīs nianses pazūd, kad emociju atpazīšanas pētījumi tiek izmantoti, lai izveidotu ienesīgus komerciālus lietojumus. Tos pašus stresa uzraudzības algoritmus valkājamās ierīcēs varētu izmantot uzņēmums, kas mēģina pārliecināties, ka strādājat pietiekami smagi. Pat tādiem uzņēmumiem kā Affectiva, ko dibināja pētnieki, kuri runā par privātuma un ētikas nozīmi, robežas ir grūti definēt. Tā ir pārdeva savu tehnoloģiju HireVue . (Affectiva atteicās komentēt konkrētus uzņēmumus.)

Aicinājums pēc regulējuma

Decembrī AI Now pētniecības institūts aicināja aizliegt emociju atpazīšanas tehnoloģijas svarīgos lēmumos, kas ietekmē cilvēku dzīvi . Tas ir viens no pirmajiem aicinājumiem aizliegt tehnoloģiju, kurai ir pievērsta mazāka regulējuma uzmanība nekā citiem mākslīgā intelekta veidiem, lai gan tās izmantošanai darba pārbaudēs un klasēs varētu būt nopietnas sekas.

Turpretim Kongress tikko turēja savu trešā uzklausīšana par sejas atpazīšanu mazāk nekā gada laikā , un tā ir kļūt par jautājumu 2020. gada vēlēšanās . Aktīvisti strādā, lai boikotētu sejas atpazīšanas tehnoloģijas, un vairāki pārstāvji atzīst regulējuma nepieciešamību gan privātajā, gan publiskajā sektorā. Afektīvajai skaitļošanai nav bijis tik daudz īpašu kampaņu un darba grupu, un regulēšanas mēģinājumi ir bijuši ierobežoti. Ilinoisas likums regulējot darba interviju video AI analīzi janvārī stājās spēkā, un Federālajai tirdzniecības komisijai tika lūgts izmeklēt H ireVue (lai gan nav neviena vārda par to, vai tā plāno to darīt).

Lai gan daudzi pētnieki uzskata, ka aizliegums ir pārāk plašs, viņi piekrīt, ka arī regulējuma vakuums ir kaitīgs. Mums ir skaidri definēti procesi, lai apliecinātu, ka daži produkti, ko mēs lietojam, — vai tas būtu pārtika, ko ēdam, vai tie būtu medikamenti, ko lietojam, — to lietošana mums ir droša, un viņi faktiski dara visu, ko viņi apgalvo, ka dara, saka Olivers. . Mums nav vienādi procesi tehnoloģijām. Viņa uzskata, ka uzņēmumiem, kuru tehnoloģijas var būtiski ietekmēt cilvēku dzīvi, būtu jāpierāda, ka tie atbilst noteiktam drošības standartam.

Rozalinda Pikarda, MIT Media Lab profesore, kas līdzdibināja Affectiva un citu afektīvu skaitļošanas uzņēmumu Empatica, atkārto šo noskaņojumu. Attiecībā uz esošo regulējuma modeli viņa norāda uz Darbinieku poligrāfa aizsardzības likums ierobežojot melu detektoru izmantošanu, kas pēc viņas teiktā būtībā ir afektīva skaitļošanas tehnoloģija. Piemēram, likums aizliedz lielākajai daļai privāto darba devēju izmantot poligrāfus un neļauj darba devējiem jautāt par melu detektora pārbaužu rezultātiem.

Viņa ierosina, ka jebkurai šādu tehnoloģiju izmantošanai vajadzētu būt izvēlei un uzņēmumiem būtu jāatklāj, kā to tehnoloģijas tika pārbaudītas un kādi ir to ierobežojumi. Viņa saka, ka šodien [uzņēmumi] var izteikt šos nežēlīgos apgalvojumus, kas ir tikai nepatiesi, jo šobrīd pircējs nav tik labi izglītots. Un mums nevajadzētu prasīt, lai pircēji būtu labi izglītoti. (Pikāra, kura saka, ka pameta Affectiva 2013. gadā, neatbalsta HireVue izvirzītos apgalvojumus.)

Savukārt Meredita Vitekere, NYU pētniece un AI Now līdzdirektore, uzsver atšķirību starp pētniecību un komercializāciju. Viņa saka, ka mēs neapstrīdam visu afektīvās skaitļošanas jomu. Mēs īpaši aicinām uz neregulētu, neapstiprinātu, zinātniski nepamatotu komerciālo efektu atpazīšanas tehnoloģiju ieviešanu. Komercializācija šobrīd, iespējams, kaitē cilvēkiem, jo ​​tā izvirza apgalvojumus, kas nosaka cilvēku piekļuvi resursiem.

Aizliegums izmantot emociju atpazīšanu tādās lietojumprogrammās kā darba pārbaude palīdzētu apturēt komercializāciju, kas apsteidz zinātni. Viņa saka, ka vispirms pārtrauciet tehnoloģiju ieviešanu un pēc tam ieguldiet pētniecībā. Ja pētījumi apstiprina, ka tehnoloģijas darbojas, kā apgalvo uzņēmumi, apsveriet iespēju atcelt aizliegumu.

Tomēr joprojām būtu nepieciešami citi noteikumi, lai cilvēki būtu drošībā: galu galā, Vitakers apgalvo, ir jāņem vērā vairāk nekā tikai zinātniskā uzticamība. Viņa saka, ka mums ir jānodrošina, ka šīs sistēmas tiek izmantotas sensitīvā kontekstā, lai tās būtu apstrīdamas, lai tās tiktu izmantotas godīgi un lai tās neizraisītu palielinātu varas asimetriju starp cilvēkiem, kas tās izmanto, un cilvēkiem, uz kuriem tās izmanto. tiek lietoti.

paslēpties