211service.com
Melu detektori vienmēr ir bijuši aizdomīgi. AI ir pasliktinājusi problēmu.
Nikolass Ortega
Pirms poligrāfs atzina viņu par vainīgu, Emanuels Merviluss strādāja cepamās eļļas uzņēmumā Ņūarkas ostā, Ņūdžersijā. Viņš nopelnīja 12 USD stundā, pārvietojot kastes, taču ar to nepietika. Viņa brālis un māsa bija pārāk jauni, lai strādātu, un viņa māte cīnījās dārgā cīņā pret vēzi. Tomēr viņa priekšnieks ostā viņam bija teicis, ka viņš ir nākamais rindā uz paaugstināšanu tehniķa amatā, kas tiks paaugstināts līdz 25 USD stundā.
Merviluss vēl gaidīja šo akciju 2006. gada 19. oktobrī, kad viņš kopā ar draugu apstājās pie Dunkin’ Donuts netālu esošajā Elizabetē, Ņūdžersijā. Dažas minūtes vēlāk, kad viņi gāja pa ielu, pie viņiem pienāca divi policisti un apsūdzēja viņus, ka viņi dažas minūtes iepriekš pie tuvējās dzelzceļa stacijas ar nazi aplaupījuši kādu vīrieti.
Cietušais Mervilu un viņa draugu bija identificējis no attāluma. Izmisīgi vēloties pierādīt savu nevainību, Merviluss piedāvāja veikt poligrāfa pārbaudi. Policija piekrita, taču dažas dienas pirms pārbaudes Mervilusa māte nomira. Viņš bija satraukts un satraukts, kad policija viņu piesprādzēja pie ierīces. Viņš neizturēja pārbaudi, lūdza to kārtot vēlreiz, un viņam atteica.
Pēc tam, kad Merviluss apstiprināja savu nevainīguma pamatojumu, viņa lieta tika nodota tiesai. Leitnants, kurš bija ievadījis poligrāfu, tiesā liecināja, ka ierīce ir uzticams patiesības rādītājs. Viņš teica, ka savas karjeras laikā viņš nekad nebija redzējis gadījumu, kad kāds izrādītu maldināšanas pazīmes, un [vēlāk] atklājās, ka tās bija patiesas. Apelācijas tiesa vēlāk konstatēja, ka žūrija Mervilusu notiesāja, jo nepareiza ticība poligrāfam bija satricināta. Tiesnesis viņam piesprieda 11 gadu cietumsodu.
Mūsdienu dzīvē ir iesakņojusies pārliecība, ka maldināšanu var atklāt, analizējot cilvēka ķermeni. Neskatoties uz daudzajiem pētījumiem, kas apšauba poligrāfa derīgumu, katru gadu ar šo ierīci tiek veikti vairāk nekā 2,5 miljoni skrīningu, un poligrāfa testi ir 2 miljardu dolāru liela nozare. ASV federālās valdības aģentūras, tostarp Tieslietu departaments, Aizsardzības departaments un CIP, izmanto ierīci, pārbaudot potenciālos darbiniekus. Saskaņā ar Tieslietu departamenta 2007. gada datiem vairāk nekā trīs ceturtdaļas visu pilsētu policijas un šerifu departamentu izmantoja arī melu detektorus, lai pārbaudītu darbiniekus.
Taču poligrāfa aparāti joprojām ir pārāk lēni un apgrūtinoši, lai tos izmantotu robežšķērsošanas vietās, lidostās vai lielās cilvēku grupās. Tā rezultātā pēdējā desmitgadē ir radusies jauna melu detektoru paaudze, kuras pamatā ir mākslīgais intelekts. Viņu atbalstītāji apgalvo, ka tie ir ātrāki un precīzāki nekā poligrāfi.
Patiesībā psiholoģiskais darbs, kas balstās uz šīm jaunajām mākslīgā intelekta sistēmām, ir vēl vājāks nekā pētījumi, kas ir poligrāfa pamatā. Ir maz pierādījumu, ka to radītajiem rezultātiem var uzticēties. Neskatoties uz to, mākslīgā intelekta radītā mūsdienīguma dēļ šīs sistēmas tiek ieviestas iestatījumos, kuros poligrāfs nav spējis iekļūt: robežšķērsošanas vietās, privātās darba intervijās, aizdevumu pārbaudēs un apdrošināšanas krāpšanas prasībās. Korporācijas un valdības sāk paļauties uz tām, pieņemot lēmumus par klientu, darbinieku, pilsoņu, imigrantu un starptautisko apmeklētāju uzticamību. Bet ko darīt, ja melošana ir pārāk sarežģīta, lai jebkura iekārta to varētu droši identificēt neatkarīgi no tā, cik uzlabots ir tās algoritms?
Inkvizitori senajā Ķīnā lūdza aizdomās turamajiem meļiem iebāzt mutē rīsus, lai redzētu, vai tiem neizdalās siekalošanās. The Romiešu varoņdarbi Viduslaiku morālo fabulu antoloģija stāsta par karavīru, kurš lika ierēdnim izmērīt sievas pulsu, lai noskaidrotu, vai viņa ir neuzticīga.
tulkojums angļu valodā Romiešu varoņdarbi jeb Romiešu darbi — stāstu krājums, kas sākotnēji tika izdots latīņu valodā 13. gadsimta beigās vai 14. gadsimta sākumā. Wikimedia commons
Kad Amerikas Savienotās Valstis iestājās Pirmajā pasaules karā, Hārvardas pētnieks Viljams Mārstons sāka izmantot aparātus, kas mērīja asinsspiedienu, lai mēģinātu noskaidrot maldināšanu. Dažus gadus vēlāk, iedvesmojoties no Mārstona darba, Džons Augusts Larsons, policists, kurš tikko bija pabeidzis doktora grādu fizioloģijā Kalifornijas universitātē Bērklijā, izstrādāja iekārtu, ko viņš sauca par kardio-pneumo psihogrammu, kas nodrošināja nepārtrauktus subjekta asinsspiedienu, pulsu un elpošanas ātrumu. Larsons apgalvoja, ka šie rādījumi bija vēl labāks maldināšanas rādītājs nekā tikai asinsspiediens.
Larsons vispirms izmantoja iekārtu, lai izmeklētu zādzību sieviešu kopmītnē Bērklijā, un gada laikā tā tika izmantota, lai Sanfrancisko notiesātu vīrieti, kurš tika apsūdzēts priestera slepkavībā. Līdz 20. gadsimta 30. gadiem viens no Larsona protežētajiem pārdeva pārnēsājamu versiju policijas dienestiem visā valstī, pievienojot sensoru, kas mēra izmaiņas ādas galvaniskajā reakcijā — jo vairāk subjekts svīst, jo vadošāka būs āda. Līdz 1970. gadiem miljoniem privātā sektora strādnieku veica regulāras pārbaudes ar poligrāfu pēc savu darba devēju pieprasījuma.
Lielākajai daļai poligrāfa testu mūsdienās ir tāda pati pamatstruktūra kā Larsonam: eksaminētājs uzdod virkni jautājumu, lai izmērītu subjekta normālo fizioloģisko stāvokli, vērojot, kamēr iekārta pārraksta šos mērījumus kā viļņu formas līnijas lapā vai ekrānā. Pēc tam eksaminētājs meklē pēkšņus šo līmeņu lēcienus vai kritumus, jo subjekts atbild uz jautājumiem par iespējamiem noziegumiem vai jūtām.
Taču psihologi un neirozinātnieki ir kritizējuši poligrāfu gandrīz kopš brīža, kad Larsons atklāja savu izgudrojumu sabiedrībai. Lai gan daži meli var izjust sirdsdarbības ātruma vai asinsspiediena izmaiņas, ir maz pierādījumu, ka šādas izmaiņas konsekventi korelē ar maldināšanu. Daudzi nevainīgi cilvēki kļūst nervozi, iztaujājot, un praktizēti meli var apspiest vai izraisīt izmaiņas savā ķermenī, lai maldinātu pārbaudi. Var arī poligrāfi tikt piekautam autors kost mēlē , uzkāpjot uz lāpstiņas, vai domājot par savām ļaunākajām bailēm . Ierīces vienmēr riskē uztvert mulsinošus mainīgos lielumus pat kontrolētos laboratorijas eksperimentos, un reālajā dzīvē tās joprojām ir mazāk uzticamas: tā kā noziedznieki, kuri pārspēj testu, gandrīz nekad nepasaka policijai, ka ir vainīgi, un tā kā nevainīgi aizdomās turamie bieži vien sniedz nepatiesas atzīšanos pēc neveiksmes. pārbaudēm, nav iespējams pateikt, cik labi tie patiesībā darbojās.
Leonarde Kīlers, poligrāfa izgudrotāja Džona Larsona protežē, veica pārbaudi Bruno Hauptmanam, kurš tika arestēts, notiesāts un izpildīts par Čārlza Augusta Lindberga jaunākā nolaupīšanu. Hauptmans saglabāja savu nevainību līdz pat savai nāvei. Publisks īpašums
Šo ierobežojumu dēļ poligrāfa testi jau sen ir bijuši nepieņemami lielākajā daļā Amerikas tiesu, ja vien abas puses nepiekrīt to iekļaušanai. Kopš 1988. gada federālie tiesību akti aizliedz privātajiem darba devējiem poligrāfēt savus darbiniekus (izņēmums attiecas uz tiem, kuri strādā sensitīvus darbus, piemēram, bruņoti apsargi vai zāļu izplatītāji, kā arī dažiem darbiniekiem, kurus tur aizdomās par zādzību vai krāpšanu). Amerikas Psihologu asociācija brīdina: Lielākā daļa psihologu piekrīt, ka ir maz pierādījumu tam, ka poligrāfa testi var precīzi noteikt melus, un Nacionālās Zinātņu akadēmijas 2003. gada ziņojumā, kas atspoguļo iepriekšējos valdības pētījumus, tika atklāts, ka ierīce atklāj meļus ar ātrumu, kas ievērojami pārsniedz iespējamību. , lai gan krietni zem pilnības; Ziņojuma vadošais autors toreiz teica, ka nacionālā drošība ir pārāk svarīga, lai to atstātu tik strupam instrumentam.
Bet varbūt instrumentam nav jābūt tik strupam. To sola arvien vairāk uzņēmumu, kas vēlas pārdot melu noteikšanas tehnoloģiju gan valdībām, gan komerciālajām nozarēm. Iespējams, viņi saka, ka daži sarežģīti uzvedības tiku modeļi varētu liecināt par melošanu daudz ticamāk nekā tikai paaugstināts pulss vai asinsspiediens. Un, iespējams, sarežģīts algoritms varētu pamanīt šos modeļus.
No 1969. līdz 1981. gadam sērijveida slepkava ar iesauku Jorkšīras kaut kas lielisks laupīja jaunas sievietes Anglijas ziemeļos, nogalinot vismaz 13 un mēģinot nogalināt vēl vismaz septiņas. Policija viņu intervēja un atbrīvoja deviņas dažādas reizes, kamēr viņa slepkavības turpinājās. Viņa pēdējais upuris bija Žaklīna Hila, 20 gadus vecā Līdsas universitātes studente, kura tika nogalināta 1980. gada novembrī. Dažus mēnešus vēlāk policija viņu beidzot notvēra, kad viņš gatavojās nogalināt prostitūtu tuvējā Šefīldā.
Kad Dženeta Rotvela 1980. gada rudenī ieradās Līdsas Universitātē, viņa dzīvoja kopmītnē, kas atrodas blakus Hill’s. Viņa atklāja, ka viņu vajā Hila slepkavība.
Viņa paķēra autobusu no universitātes bibliotēkas aptuveni tajā pašā laikā kā es, sacīja Rotvels, un viņa tika noslepkavota pēc tam, kad viņa izkāpa no autobusa. Vēlāk Rotvels uzzināja, cik ilgs laiks bija nepieciešams, lai notvertu slepkavu. Es prātoju, viņa atcerējās, vai dators var norādīt uz kaut kādas neatbilstības uzvedībā, lai brīdinātu policiju?
90. gadu beigās Rotvels beidzot absolvēja Mančestras Metropolitēna universitātes (MMU) skolu. Viņa satika Zuhair Bandar, Irākas un Lielbritānijas pasniedzēju, kas strādā datorzinātņu nodaļā. Bandaram nesen bija eureka brīdis, kad mārketinga uzņēmums viņam bija lūdzis izveidot elementāru ierīci, lai izmērītu patērētāju interesi par produktiem, ko viņi redz uz ekrāna.
FIB fotogrāfija ar sievieti, kas fotografē poligrāfu. Federālais izmeklēšanas birojs
Viņi iedotu klientam rokas ierīci, sacīja Bandars, un, ja viņi to apstiprina, viņi nospiež 1; ja viņiem nepatīk viņi nospiež 2. Es domāju, kāpēc mums ir vajadzīgas rokas ierīces, ja jau ir sejas izteiksmes? Bandars lūdza Rotvelu palikt MMU pēc maģistrantūras, lai iegūtu doktora grādu un palīdzētu viņam izstrādāt programmatūru, kas varētu analizēt sejas, lai iegūtu informāciju. Viņi uzskatīja, ka maldināšana nav mazāk nosakāma kā prieks vai dusmas. Tas viss radītu zināmas neatbilstības — uzvedības modeļus, gan verbālus, gan neverbālus, ko dators varētu saskatīt.
Rotvels 2000. gadu sākumā apmācīja neironu tīklu, lai izsekotu sejas kustībām, piemēram, mirkšķināšanai un piesarkšanai, un pēc tam datoram ievadīja dažus desmitus cilvēku klipu, kas godīgi un negodīgi atbildēja uz tiem pašiem jautājumiem. Lai noteiktu, kas meliem ir kopīgs, dators pārbaudīja indivīda sejas kustības, attiecības starp šīm kustībām un attiecības starp šīm attiecībām, izstrādājot teoriju, kas bija pārāk sarežģīta, lai to formulētu parastā valodā. Tiklīdz tā ir apmācīta šādā veidā, sistēma varētu izmantot savas zināšanas, lai klasificētu jaunus priekšmetus kā maldinošus vai patiesus, analizējot to izteiksmes izmaiņas katrā kadrā.
2006. gada pētījumā sistēma ar nosaukumu Silent Talker tika likta uzminēt, vai subjekts melo vai stāsta patiesību. Kamēr Rotvels pie tā strādāja, tas nekad nesasniedza vairāk par 80% precizitāti, kā arī nav bijis ievērojami labāks nekas, ko pētnieku grupa ir publicējusi kopš tā laika. Rotvels man arī pastāstīja, ka tas pilnībā sabojājās, ja dalībniecei bija brilles, un viņa norādīja: Jums jāatceras, ka apgaismojuma apstākļi bija vienādi un intervijas tika balstītas uz inscenētu zādzību. Bet pat agrīnā stadijā, Rothwell atgādina, Bandar ļoti vēlējās iegūt komerciālu produktu; viņš un kolēģis reiz viņai uzdāvināja video, kurā redzama sieviete, kuru tur aizdomās par sava vīra krāpšanu, un lūdza, lai Silent Talker to analizē, tāpat kā Romiešu varoņdarbi .
Rotvelam bija savas atrunas. Es redzēju, ka programmatūra, ja tā darbotos, varētu būt uzmācīga, viņa teica. Es nedomāju, ka jebkura sistēma varētu būt 100%, un, ja [sistēma] to kļūdās, risks attiecībām un dzīvībai var būt katastrofāls. Viņa pameta universitāti 2006. gadā; pēc audiologa apmācības viņa atrada darbu, strādājot slimnīcā Džersijas salā, kur viņa joprojām dzīvo.
MMU 2003. gadā publicēja paziņojumu presei, kurā tehnoloģiju reklamēja kā jaunu izgudrojumu, kas padarītu poligrāfu novecojušu. Es biju nedaudz šokēts, sacīja Rotvels, jo man šķita, ka tas ir par agru.
Pirmajos gados pēc 11. septembra ASV valdība veica daudzus uzbrukumus maldināšanas noteikšanas tehnoloģijām, Iekšzemes drošības departamentam (DHS), Aizsardzības departamentam (DoD) un Nacionālajam Zinātnes fondam šādiem pētījumiem tērējot miljoniem dolāru. . Šīs aģentūras Arizonas Universitātē finansēja kioska AVATAR izveidi. AVATAR, kas analizēja sejas izteiksmes, ķermeņa valodu un cilvēku balsis, lai piešķirtu subjektiem 'uzticamības punktu', tika pārbaudīts ASV lidostās. Tikmēr Izraēlā IDD palīdzēja finansēt jaunuzņēmumu ar nosaukumu WeCU (“mēs jūs redzam”), kas pārdeva skrīninga kiosku, kas izraisītu fizioloģiskas reakcijas tiem, kuri kaut ko slēpj. 2010. gada raksts žurnālā Fast Company . (Uzņēmums kopš tā laika ir slēgts.)
Bandar sāka mēģināt komercializēt tehnoloģiju. Kopā ar diviem saviem studentiem, Džimu O’Šiju un Kīliju Kroketu, viņš iekļāva Silent Talker kā uzņēmumu un sāka meklēt klientus, tostarp gan policijas departamentus, gan privātas korporācijas, lai izmantotu tās psiholoģiskās profilēšanas tehnoloģiju. Silent Talker bija viens no pirmajiem mākslīgā intelekta melu detektoriem, kas nonāca tirgū. Saskaņā ar uzņēmuma sniegto informāciju, pagājušajā gadā tehnoloģija, kas iegūta no Silent Talker, tika izmantota kā daļa no iBorderCtrl, Eiropas Savienības finansētas pētniecības iniciatīvas, kas testēja sistēmu ar brīvprātīgajiem uz Grieķijas, Ungārijas un Latvijas robežām. Bandar saka, ka uzņēmums šobrīd risina sarunas par šīs tehnoloģijas pārdošanu juridiskajām firmām, bankām un apdrošināšanas kompānijām, ieviešot testus darba intervijās un krāpšanas pārbaudēs.
Bandars un O'Šī pavadīja gadus, pielāgojot pamata algoritmu izmantošanai dažādos iestatījumos. Viņi mēģināja to pārdot policijas dienestiem Mančestras un Liverpūles metropoles rajonos. Mēs neoficiāli runājam ar ļoti vecāka gadagājuma cilvēkiem, uzņēmums sacīja Lielbritānijas izdevumam Inženieris 2003. gadā, atzīmējot, ka viņu mērķis bija to pārbaudīt īstās intervijās. 2013. gada baltā grāmata O’Shea publicēts savā tīmekļa vietnē ierosināja, ka Silent Talker varētu izmantot, lai aizsargātu mūsu spēkus ārzemēs no Green-on-Blue (“Insider”) uzbrukumiem. (Termins zaļš-zils parasti tiek lietots, lai apzīmētu uzbrukumus Afganistānas karavīriem formas tērpos pret saviem kādreizējiem sabiedrotajiem.)
Komanda arī publicēja eksperimentālus rezultātus, kas parāda, kā Silent Talker var izmantot, lai noteiktu izpratni, kā arī atklāšanu. 2012. gada pētījumā, kas bija pirmais, kurā tika parādīta šajā jomā izmantotā Silent Talker sistēma, komanda sadarbojās ar veselības aprūpes NVO Tanzānijā, lai reģistrētu 80 sieviešu sejas izteiksmes, kad viņas apmeklēja tiešsaistes kursus par HIV ārstēšanu un prezervatīvu lietošanu. Ideja bija noteikt, vai pacienti saprot ārstēšanu, ko viņi saņems — kā norādīts pētījuma ievadā, dalībnieku izpratnes novērtējums informētas piekrišanas procesa laikā joprojām ir kritiska problēma. Kad komanda salīdzināja ar mākslīgā intelekta minējumiem par to, vai sievietes saprata lekcijas ar īsu pēclekciju eksāmenu rezultātiem, viņi atklāja, ka 80% precīzi prognozēja, kurš izturēs un kurš nesekmīgi.
Preses paziņojumā teikts, ka Mančestrā apmācītais algoritms nodrošinās efektīvākas un drošākas sauszemes robežšķērsošanas vietas un veicinās noziedzības un terorisma novēršanu.
Tanzānijas eksperiments noveda pie Silent Talker iekļaušanas programmā iBorderCtrl. 2015. gadā Athos Antoniades, viens no topošā konsorcija organizatoriem, nosūtīja O’Šijai e-pastu, vaicājot, vai Silent Talker komanda vēlas pievienoties uzņēmumu un policijas spēku grupai, kas pretendē uz ES dotāciju. Iepriekšējos gados pieaugošā transportlīdzekļu satiksme uz ES bija pārsteigusi aģentus savienības pierobežas valstīs, un rezultātā ES piedāvāja 4,5 miljonus eiro (5 miljonus ASV dolāru) jebkurai iestādei, kas varētu nodrošināt efektīvākas un drošākas sauszemes robežšķērsošanas vietas... un tādējādi veicina noziedzības un terorisma novēršanu. Antoniāds domāja, ka Klusajam runātājam varētu būt izšķiroša loma.
Kad 2018. gada oktobrī projekts beidzot paziņoja par publisku izmēģinājuma projektu, Eiropas Komisija ātri iepazīstināja ar veiksmes stāstu par sistēmas unikālo pieeju maldināšanas noteikšanai. paziņojumā presei , paskaidrojot, ka tehnoloģija analizē ceļotāju mikrožestus, lai noskaidrotu, vai intervējamā persona melo. Turpināts paziņojums presei, Mančestrā apmācītais algoritms nodrošinātu efektīvāku un drošāku sauszemes robežu šķērsošanu un palīdzētu novērst noziedzību un terorismu.
O’Šī man teica, ka programmas pamatā esošo algoritmu var izmantot dažādos citos iestatījumos — reklāmā, apdrošināšanas atlīdzību analīzē, darba pretendentu pārbaudē un darbinieku novērtēšanā. Man bija grūti dalīties ar viņa nepārvaramo pārliecību par tā gudrību, taču pat tad, kad viņš un es runājām pa tālruni, Klusais runātājs jau pārbaudīja brīvprātīgos ES robežšķērsošanas vietās; uzņēmums nesen sāka savu darbību 2019. gada janvārī. Tāpēc es nolēmu doties uz Mančestru, lai pārliecinātos par to.
Silent Talker biroji atrodas aptuveni jūdzes attālumā no Mančestras Metropolitēna universitātes, kur O’Šī tagad ir vecākais pasniedzējs. Viņš ir pārņēmis no Bandar tehnoloģiju ikdienas izstrādi. Uzņēmums atrodas no ķieģeļu biroju parka, kas atrodas dzīvojamajā rajonā, kas atrodas netālu no kebabu restorāna un iepretim futbola laukumam. Iekšpusē Silent Talker birojā ir viena istaba ar dažiem datoriem, galdiem ar portfeļiem un skaidrojošiem plakātiem par 2000. gadu sākuma tehnoloģiju.
Kad es septembrī apmeklēju uzņēmuma biroju, es sēdēju kopā ar O’Šiju un Bandaru konferenču telpā gaitenī. O’Šija bija barga, bet nedaudz saburzīta, plika, izņemot dažus matu kušķus un Van Daika bārdu. Sarunu viņš iesāka, uzstājot, ka par iBorderCtrl projektu nerunājam, vēlāk tā kritiķus nosaucot par dezinformētiem. Viņš runāja par sistēmas AI ietvara jaudu garās, pakāpeniskās tangentēs, ik pa laikam citējot skaitļošanas pionieri Alanu Tjūringu vai valodas filozofu Džonu Sērlu.
Gan mašīnām, gan cilvēkiem ir mērķtiecība — uzskati, vēlmes un nodomi par objektiem un lietu stāvokļiem pasaulē, viņš teica, aizstāvot sistēmas paļaušanos uz algoritmu. Tāpēc sarežģītās lietojumprogrammās ir jāpiešķir savstarpēja nozīme abu idejām un nodomiem.
O’Šijs demonstrēja sistēmu, liekot tai analizēt video, kurā vīrietis atbild uz jautājumiem par to, vai viņš no kastes nozadzis 50 USD. Programma uzlika dzeltenu kvadrātu ap vīrieša seju un divus mazākus kvadrātus ap viņa acīm. Kad viņš runāja, adata ekrāna stūrī mainījās no zaļas uz sarkanu, kad viņš sniedza nepatiesas atbildes, un atkal uz vidēji oranžu, kad viņš nerunāja. Kad intervija bija beigusies, programmatūra izveidoja grafiku, kurā attēlota maldināšanas iespējamība attiecībā pret laiku. Teorētiski tas parādījās, kad viņš sāka un beidza melot.
Kad viņš runāja, adata ekrāna stūrī mainījās no zaļas uz sarkanu, kad viņš sniedza nepatiesas atbildes, un atkal uz vidēji oranžu, kad viņš nerunāja.
Sistēma var darboties tradicionālajā klēpjdatorā, saka O'Shea, un lietotāji maksā apmēram USD 10 par analizētā video minūti. O'Shea man teica, ka programmatūra veic sākotnējo videoklipa lokālu apstrādi, nosūta šifrētus datus uz serveri, kur tie tiek tālāk analizēti, un pēc tam nosūta rezultātus atpakaļ: lietotājs redz maldināšanas varbūtības grafiku, kas pārklāts apakšā. no videoklipa.
Pēc O’Šī teiktā, sistēma uzrauga aptuveni 40 fiziskos kanālus dalībnieka ķermenī — visu, sākot no mirkšķināšanas ātruma līdz galvas leņķim. Katrai jaunajai sejai tā sniedz teoriju par maldināšanu, ko tā ir izstrādājusi, apskatot meļu un patiesības stāstītāju apmācību datu kopu. Mērot subjekta sejas kustības un pozas izmaiņas daudzas reizes sekundē, sistēma meklē kustību modeļus, kas atbilst tiem, ko meļi dalījuši apmācības datos. Šie raksti nav tik vienkārši kā acis, kas velkas pret griestiem vai galva noliecas pa kreisi. Tie vairāk atgādina modeļu modeļus, daudzšķautņainas attiecības starp dažādām kustībām, kas ir pārāk sarežģītas, lai cilvēks to varētu izsekot — tipiska mašīnmācīšanās sistēmu iezīme.
AI uzdevums ir noteikt, kādus kustību modeļus var saistīt ar maldināšanu. Psihologi bieži saka, ka jums vajadzētu būt kādam sistēmas darbības modelim, O’Šija man teica, bet mums nav funkcionējoša modeļa, un mums tas nav vajadzīgs. Mēs ļaujam AI to izdomāt. Tomēr viņš arī saka, ka sejā redzamo kanālu pamatojums nāk no akadēmiskās literatūras par maldināšanas psiholoģiju. Iekšā 2018. gada raksts par Silent Talker , tā veidotāji saka, ka viņu programmatūra pieņem, ka daži garīgi stāvokļi, kas saistīti ar maldinošu uzvedību, izraisīs intervējamā [neverbālo uzvedību] maldināšanas laikā. Starp šīm uzvedībām ir kognitīvā slodze vai papildu garīgā enerģija, kas it kā ir nepieciešama, lai melotu, un sajūsmas maldināšana, vai bauda, ko indivīds it kā gūst no veiksmīgu melu stāstīšanas.
Pols Ekmans, psihologs, kura 'mikroizteiksmju' teorija ir daudz strīdīga, ir konsultējies ar neskaitāmām ASV valdības aģentūrām. Wikimedia / Momopuppycat
Taču Māstrihtas universitātes Nīderlandē psiholoģijas profesors Evouts Meijers saka, ka pamats uzskatīt, ka šāda uzvedība ir universāla, labākajā gadījumā ir nestabils. Ideja, ka sejā var atrast brīdinājuma uzvedības noplūdes, sakņojas amerikāņu psihologa Pola Ekmena darbā, kurš astoņdesmitajos gados atbalstīja tagad slaveno mikroizteiksmju teoriju jeb piespiedu sejas kustību, kuras ir pārāk mazas, lai kontrolētu. Ekmana pētījumi padarīja viņu par visvairāk pārdoto autoru un iedvesmoja televīzijas krimināldrāmu Meli Man . Viņš konsultējās ar neskaitāmām ASV valdības aģentūrām, tostarp DHS un DARPA. Atsaucoties uz valsts drošību, viņš pētījumu datus turējis noslēpumā. Tas ir izraisījis strīdīgas diskusijas par to, vai mikroizteiksmēm vispār ir kāda nozīme.
Silent Talker AI izseko visu veidu sejas kustības, nevis Ekmanam raksturīgās mikroizteiksmes. Mēs sadalījām šīs augstā līmeņa norādes mūsu pašu mikrožestu komplektā un apmācījām AI komponentus, lai tos apvienotu nozīmīgos indikatīvos modeļos, e-pastā rakstīja uzņēmuma pārstāvis. O'Shea saka, ka tas ļauj sistēmai pamanīt maldinošu uzvedību pat tad, ja subjekts tikai skatās apkārt vai grozās krēslā.
Daudz kas ir atkarīgs no tā, vai jums ir tehnoloģisks vai psiholoģisks jautājums, saka Meijers, brīdinot, ka O’Šī un viņa komanda, iespējams, meklē tehnoloģijas, lai meklētu atbildes uz psiholoģiskiem jautājumiem par maldināšanas būtību. AI sistēma var pārspēt cilvēkus [sejas izteiksmju] noteikšanā, taču pat tad, ja tas tā būtu, tas joprojām nenorāda, vai no tām var secināt, vai kāds ir maldinošs… maldināšana ir psiholoģiska konstrukcija. Ne tikai nav vienprātības par kuras izteicieni korelē ar maldināšanu, piebilst Meijers; pat nav vienprātības par to vai viņi dara. E-pastā uzņēmums norādīja, ka šāda kritika neattiecas uz Silent Talker un ka izmantotā statistika nav piemērota.
Televīzijas drāma Meli Man daļēji balstījās uz Ekmana mikroizteiksmes teoriju. Fox studijas
Turklāt Meijers norāda, ka algoritms joprojām būs bezjēdzīgs robežšķērsošanas vietās vai darba intervijās, ja vien tas netiks apmācīts par tik daudzveidīgu datu kopu, kādu tas novērtēs reālajā dzīvē. Pētījumi liecina, ka sejas atpazīšanas algoritmi mazāk spēj atpazīt minoritātes, ja tās ir apmācītas galvenokārt baltu seju komplektiem, ko atzīst pats O’Šī. Klusā runātāja pārstāvis e-pastā rakstīja: Mēs veicām vairākus eksperimentus ar mazāku dažādu paraugu lielumu. Tie kopā veido simtiem. Daži no tiem ir akadēmiski un ir publicēti [sic], daži ir komerciāli un ir konfidenciāli.
Tomēr visi publicētie pētījumi, kas pamato Klusā runātāja precizitāti, nāk no nelielām un daļējām datu kopām: piemēram, 2018. gada dokumentā 32 cilvēku apmācību populācijā bija divreiz vairāk vīriešu nekā sieviešu un tikai 10 aziātu/arābu izcelsmes dalībnieku. nav melnādainu vai spāņu valodas priekšmetu. Lai gan pašlaik programmatūrai ir atšķirīgi iestatījumi vīriešu un sieviešu analīzei, O’Šijs sacīja, ka nav pārliecināts, vai tai nepieciešami iestatījumi saistībā ar etnisko izcelsmi vai vecumu.
Pēc tam, kad 2018. gadā tika paziņots par iBorderCtrl izmēģinājuma versiju, aktīvisti un politiķi programmu nosodīja kā bezprecedenta orvelisku uzraudzības stāvokļa paplašināšanos. Nīderlandes Eiropas Parlamenta deputāte Sofija in 't Velda un centriski kreisās partijas Demokrāti 66 līdere vēstulē Eiropas Komisijai norādīja, ka Silent Talker sistēma var pārkāpt daudzu robežu šķērsojošo ceļotāju pamattiesības un ka tādas organizācijas kā Privacy International to nosodīja kā daļu no plašākas tendences izmantot nepārredzamas un bieži vien nepilnīgas automatizētas sistēmas, lai spriestu, novērtētu un klasificētu cilvēkus. Šķita, ka opozīcija pārsteidza iBorderCtrl konsorciju: lai gan sākotnēji Eiropas Komisija apgalvoja, ka iBorderCtrl izstrādās sistēmu, kas paātrinātu robežšķērsošanu, tagad pārstāvis saka, ka programma ir tikai teorētisks pētniecības projekts. Antoniades 2018. gada beigās Nīderlandes laikrakstam sacīja, ka maldināšanas noteikšanas sistēma galu galā var neiekļūt dizainā, taču šī raksta laikā Silent Talker joprojām reklamēja savu dalību programmā iBorderCtrl. savā tīmekļa vietnē .
Lai arī cik bieži tādi kritiķi kā Vailds to atspēko, sapnis par perfektu melu detektoru vienkārši nemirs, it īpaši, ja to pārņem mākslīgā intelekta spīdums.
Silent Talker ir jauna vecās krāpšanas versija, uzskata Vera Vailda, amerikāņu akadēmiķe un privātuma aktīviste, kura dzīvo Berlīnē un palīdzēja sākt kampaņu pret iBorderCtrl. Dažos veidos tā ir tā pati krāpšana, bet ar sliktāku zinātni. Poligrāfa pārbaudē eksaminētājs meklē fizioloģiskus notikumus, kas tiek uzskatīti par saistītiem ar maldināšanu; AI sistēmā eksaminētāji ļauj datoram pašam noskaidrot korelācijas. Kad O’Šija saka, ka viņam nav teorijas, viņš kļūdās, viņa turpina. Viņam ir teorija. Tā ir tikai slikta teorija.
Lai arī cik bieži tādi kritiķi kā Vailds to atspēko, sapnis par perfektu melu detektoru vienkārši nemirs, it īpaši, ja to pārņem mākslīgā intelekta spīdums. Pēc tam, kad DHS 2000. gados iztērēja miljoniem dolāru, lai finansētu maldināšanas pētījumus universitātēs, tā mēģināja izveidot savu uzvedības analīzes tehnoloģijas versiju. Šīs sistēmas, ko sauc par nākotnes atribūtu skrīninga tehnoloģiju (FAST), mērķis bija izmantot AI, lai meklētu noziedzīgas tendences subjekta acu un ķermeņa kustībās. (Agrīnā versija prasīja intervētajiem stāvēt uz Wii Fit līdzsvara paneļa, lai izmērītu stājas izmaiņas.) Trīs pētnieki, kuri runāja neklātienē, lai apspriestu klasificētos projektus, sacīja, ka programma nekad nav sākusies — departamentā bija pārāk daudz domstarpību. par to, vai izmantot Ekmana mikroizteicienus kā uzvedības analīzes vadlīnijas. Departaments programmu pārtrauca 2011. gadā.
Neskatoties uz FAST neveiksmi, DHS joprojām izrāda interesi par melu noteikšanas metodēm. Piemēram, pagājušajā gadā tā piešķīra 110 000 USD līgumu cilvēkresursu uzņēmumam, lai apmācītu savus darbiniekus atklāt maldināšanu un izsaukt reakciju, izmantojot uzvedības analīzi. Tikmēr citas valdības daļas joprojām atbalsta AI risinājumus. Armijas pētniecības laboratorijai (ARL) pašlaik ir līgums ar Ratgers universitāti, lai izveidotu mākslīgā intelekta programmu melu noteikšanai salona spēlē Mafia, kas ir daļa no lielāka mēģinājuma izveidot kaut ko līdzīgu Google Glass, kas brīdina mūs par pāris kabatzagļiem. pārpildītais tirgus, saskaņā ar Purush Iyer, ARL nodaļas vadītājs, kas atbild par projektu. Izraēlas uzņēmums Nemesysco, kas pārdod mākslīgā intelekta balss analīzes programmatūru, man teica, ka tās tehnoloģiju izmanto policijas departamenti Ņujorkā un šerifi Vidējo rietumu daļā, lai intervētu aizdomās turamos, kā arī parādu piedziņas zvanu centri, lai izmērītu parādnieku emocijas telefona zvani.
Tūlītējā un potenciāli bīstamā mākslīgā intelekta melu noteikšanas nākotne nav saistīta ar valdībām, bet gan privātajā tirgū. Politiķiem, kuri atbalsta tādas iniciatīvas kā iBorderCtrl, galu galā ir jāatbild vēlētājiem, un lielākajai daļai mākslīgā intelekta melu detektoru var tikt liegts piedalīties tiesā saskaņā ar to pašu juridisko precedentu, kas regulē poligrāfu. Tomēr privātās korporācijas saskaras ar mazākiem ierobežojumiem, izmantojot šādu tehnoloģiju, lai pārbaudītu darba pretendentus un potenciālos klientus. Silent Talker ir viens no vairākiem uzņēmumiem, kas apgalvo, ka piedāvā objektīvāku veidu, kā atklāt anomālu vai maldinošu uzvedību, sniedzot klientiem riska analīzes metodi, kas pārsniedz kredītreitingu un sociālo mediju profilus.
Programmatūra ģenerē lielu skaitu viltus pozitīvu rezultātu.
Montānā bāzēts uzņēmums Neuro-ID veic AI analīzi par peles kustībām un taustiņsitieniem, lai palīdzētu bankām un apdrošināšanas kompānijām novērtēt krāpšanas risku, piešķirot aizdevuma pieprasītājiem uzticības punktu no 1 līdz 100. Videoklipā uzņēmums man parādīja, kad klients veic Tiešsaistes aizdevuma pieteikums aizņem papildu laiku, lai aizpildītu lauku mājsaimniecības ienākumi, pārvietojot peli, vienlaikus to darot, sistēma to ietekmē tā uzticamības rādītājā. Tas ir balstīts uz uzņēmuma dibinātāju zinātnieku pētījumiem, kas apgalvo, ka parāda korelāciju starp peles kustībām un emocionālo uzbudinājumu: viens dokuments, kurā apgalvots, ka maldināšana var palielināt normalizēto kustības attālumu, samazināt kustības ātrumu, palielināt reakcijas laiku un rezultātu. vairāk kreiso klikšķu. Tomēr paša uzņēmuma testi atklāj, ka programmatūra ģenerē lielu skaitu viltus pozitīvu rezultātu: vienā gadījuma izpētē, kurā Neuro-ID apstrādāja 20 000 pieteikumu e-komercijas vietnei, mazāk nekā puse pretendentu ieguva zemākos punktus (5 līdz 10) izrādījās krāpniecisks, un tikai 10% no tiem, kas saņēma punktus no 20 līdz 30, pārstāvēja krāpšanas risku. Pēc paša uzņēmuma atziņas, programmatūra atzīmē pretendentus, kuri var izrādīties nevainīgi, un ļauj uzņēmumam izmantot šo informāciju, lai sekotu tam, kā tas vēlas. Nav tādas lietas kā uz uzvedību balstīta analīze, kas būtu 100% precīza, man teica pārstāvis. Mēs iesakām to izmantot kopā ar citu informāciju par pretendentiem, lai pieņemtu labākus lēmumus un efektīvāk notvertu [krāpnieciskos klientus].
Converus, Jūtas štatā bāzēts starta uzņēmums, pārdod programmatūru EyeDetect, kas mēra subjekta acu zīlīšu paplašināšanos intervijas laikā, lai noteiktu kognitīvo slodzi. Tāpat kā Silent Talker, šis rīks sākas ar pieņēmumu, ka melošana ir kognitīvi prasīgāka nekā patiesības teikšana. Saskaņā ar a 2018. gada raksts Wired, policijas departamenti Soltleiksitijā un Kolumbusā, Džordžijas štatā, ir izmantojuši EyeDetect, lai pārbaudītu darba pretendentus. Converus arī pastāstīja Wired, ka McDonald’s, Best Western, Sheraton, IHOP un FedEx izmantoja savu programmatūru Panamā un Gvatemalā tā, kā tas būtu bijis nelikumīgs ASV.
Paziņojumā, ko tas man sniedza, minēja uzņēmums uz maz studijas kas parāda, ka EyeDetect ir sasniedzis aptuveni 85% precizitāti, identificējot meļus un patiesības stāstītājus, izmantojot līdz pat 150 cilvēku paraugus. Uzņēmuma prezidents Tods Mikelsens saka, ka viņa firmas algoritms ir apmācīts simtiem tūkstošu interviju. Taču Čārlzs Honts, Boisas štata universitātes psiholoģijas profesors, kurš darbojas arī Converus konsultatīvajā padomē, teica, ka šie rezultāti nepierāda, ka intervijās uz lauka var paļauties uz EyeDetect. Man šķiet, ka EyeDetect sistēma ir patiešām interesanta, bet, no otras puses, es to neizmantoju, viņš man teica. Manuprāt, datubāze joprojām ir salīdzinoši maza, un tā nāk galvenokārt no vienas laboratorijas. Kamēr tas nav paplašināts un citi cilvēki to nav atkārtojuši, es negribētu to izmantot šajā jomā.
Arizonas Universitātes pētnieki, kas izstrādāja AVATAR sistēmu, ir arī izveidojuši privātu uzņēmumu Discern Science, lai tirgotu savu maldināšanas noteikšanas tehnoloģiju. Discern, kas tika uzsākts pagājušajā gadā, pārdod sešas pēdas augstu kiosku, kas ir līdzīgs oriģinālajam AVATAR; saskaņā ar rakstu laikrakstā Financial Times uzņēmums ir noslēdzis kopuzņēmuma līgumu ar partneri aviācijas nozarē par instrumenta pārdošanu lidostām. Sistēma pasākumiem sejas kustības un balss stress, lai nemanāmi savāktu informāciju no subjekta sarunas attālumā, saskaņā ar reklāmas materiāliem. Tāpat kā Silent Talker un Converus, arī Discern apgalvo, ka šī tehnoloģija var droši atklāt aptuveni 85% meļu un patiesības stāstītāju, taču tās rezultāti nekad nav bijuši neatkarīgi atkārtoti. Vismaz viena no kioska izmantotajām ievadēm ir bijusi atkārtoti parādīts būt neuzticams . (Honts arī atzīmēja, ka gandrīz nav atbalsta sejas kustību analīzei, piemēram, AVATAR un Silent Talker's — ir bijis tik daudz neveiksmju, lai to atkārtotu, viņš teica.)
Ikviens, kurš jums saka, ka viņiem ir ierīce, kas ir tiešs melu detektors, ir šarlatāns.
Uz jautājumu par uzņēmuma kioska zinātnisko atbalstu, Discern pētnieks Džūdijs Burgūns uzsvēra, ka viņi tikai izdara vērtējumus, nevis spriež par patiesību un nepatiesību. Viņa sacīja, ka tādas sistēmas kā AVATAR un Silent Talker nevar tieši izmērīt maldināšanu, piebilstot, ka ikviens, kurš stāsta, ka viņiem ir ierīce, kas ir tiešs melu detektors, ir šarlatāns. Tomēr mārketinga materiālos Discern šo rīku piedāvā kā uzticamu melu detektoru: uzņēmuma vietni pretenzijas ka tas var palīdzēt atklāt slēptos plānus un ka tā algoritmi ir zinātniski pierādīti, lai atklātu maldināšanu ātrāk un uzticamāk nekā jebkura alternatīva.
Apelācijas tiesa 2011. gadā atcēla Emanuela Mervilusa notiesājošo spriedumu, atbrīvojot viņu no cietuma un lemjot par lietas atkārtotu izskatīšanu; viņš bija izcietis vairāk nekā trīs gadus no sava soda. Otrajā tiesas procesā 2013. gadā zvērinātie apspriedās tikai 40 minūtes, pirms viņu attaisnoja. Ja nebūtu poligrāfa un neatlaidīgas ticības tā precizitātei, viņš, iespējams, nekad nebūtu spēris kāju tiesas zālē. Merviluss ir iesūdzējis tiesā policistus, kuri viņu sākotnēji arestēja un pratināja, apgalvojot, ka viņi pārkāpuši viņa tiesības uz pienācīgu procesu, izmantojot poligrāfa testus, par kuriem viņi zināja, ka tie ir kļūdaini, lai nodrošinātu notiesājošu spriedumu. Lieta tiks virzīta uz izlīguma konferenci 13. martā.
Pat ja Silent Talker un tamlīdzīgu sistēmu plašā izmantošana neizraisa vairāk nevainīgu cilvēku, piemēram, Mervilus, notiesāšanu, tas joprojām varētu palīdzēt radīt jauna veida sociālo slepkavību, liekot cilvēkiem veikt uzticamības novērtējumu pirms automašīnas nomas vai izņemšanas. aizņēmums.
Tiesā jums ir jāsniedz lietiskie pierādījumi, piemēram, jūsu mati un asinis, saka Vailds. Bet jums ir arī tiesības klusēt, tiesības nerunāt sev pretī. Merviluss izvēlējās veikt poligrāfa testu, pieņemot, ka, tāpat kā DNS tests, tas parādītu, ka viņš ir nevainīgs. Un, lai gan ierīce kļūdījās, nevis pati iekārta viņu nosūtīja cietumā. Žūrija uzskatīja, ka testa rezultāti bija ticamāki nekā lietas fakti.
AI melu noteikšanas pamatprincips ir tāds, ka melus var redzēt, izmantojot pareizos rīkus. Psihologi joprojām nezina, cik pamatots ir šis apgalvojums, taču tikmēr ar ticību tās pamatotībai var pietikt, lai diskvalificētu pelnītos darba un kredīta pretendentus un neļautu nevainīgiem cilvēkiem šķērsot valstu robežas. Solījums par logu uz citu cilvēku iekšējo dzīvi ir pārāk vilinošs, lai to nepalaistu garām, pat ja neviens nevar būt pārliecināts, cik skaidrs ir šis logs.
Tas ir domu lasīšanas solījums, saka Vailds. Var redzēt, ka tas ir viltus, bet viņi to pārdod.