Pasaulē populārākais viltotais mākslinieks cīnās ar paša radīto briesmoni

Ir jūnijs Dalianā, Ķīnā, pilsētā uz pussalas, kas iestiepjas Dzeltenajā jūrā dažus simtus jūdžu attālumā no Pekinas vienā virzienā un no Ziemeļkorejas robežas otrā virzienā. Hao Li stāv kavernozā, stūrainā ēkā, kas varētu būt Bonda ļaundara mītne. Ārā laiks ir svelmains, un apsardze ir stingra. Pilsētā notiek Pasaules ekonomikas foruma ikgadējā konference.

Netālu no Li politiķi un izpilddirektori no visas pasaules pārmaiņus ieiet stendā. Iekšpusē viņi smejas, kad viņu seja tiek pārveidota par slavenas personas seju: Brūsu Lī, Nīlu Ārmstrongu vai Odriju Hepbernu. Triks notiek reāllaikā, un tas darbojas gandrīz nevainojami.

Ievērojamā seju maiņas iekārta netika izveidota, lai tikai novirzītu un izklaidētu pasaules bagātos un varenos. Li vēlas, lai šie ietekmīgie cilvēki apsvērtu sekas, kādas viņiem un mums pārējiem var radīt ar AI apstrādāti video — dziļi viltojumi.

Dezinformācija jau sen ir bijis populārs ģeopolitiskās sabotāžas instruments, taču sociālie mediji viltus ziņu izplatīšanā ir iepludinājuši raķešu degvielu. Ja viltotus videomateriālus ir tikpat viegli izveidot kā viltus ziņu rakstus, tā ir virtuāla garantija, ka tie tiks bruņoti. Vai vēlaties ietekmēt vēlēšanas, sagraut ienaidnieka karjeru un reputāciju vai izraisīt etnisku vardarbību? Ir grūti iedomāties efektīvāku transportlīdzekli par klipu izskatās autentiski, izplatoties kā meža ugunsgrēks, izmantojot Facebook, WhatsApp vai Twitter, ātrāk, nekā cilvēki spēj saprast, ka ir apkrāpti.

Kā digitālās viltošanas pionieris Li uztraucas, ka dziļi viltojumi ir tikai sākums. Neskatoties uz to, ka viņš ir palīdzējis uzsākt laikmetu, kad mūsu acīm ne vienmēr var uzticēties, viņš vēlas izmantot savas prasmes, lai kaut ko darītu, lai atrisinātu draudošo visuresošo, gandrīz nevainojamo video maldināšanas problēmu.

Jautājums, vai var būt jau par vēlu?

Realitātes pārrakstīšana

Li nav tavs tipiskais viltnieks. Viņš neslēpjas vietnē Reddit viltus pornogrāfijas publicēšana vai slavenu filmu atkārtotas uzņemšanas pārveidots par zvaigzni Nikolasu Keidžu . Viņš ir pavadījis savu karjeru, izstrādājot visprogresīvākās metodes, lai vieglāk un pārliecinošāk veidotu sejas. Viņš ir arī sajaucies ar dažām no pasaules slavenākajām sejām mūsdienu grāvējfilmu dēļ, liekot miljoniem cilvēku noticēt smaidam vai aci, kas patiesībā nekad nav bijis. Kādu pēcpusdienu sarunājoties pa Skype no sava biroja Losandželosā, viņš nejauši piemin, ka Vils Smits nesen iegriezās filmā, pie kuras viņš strādā.

Aktieri bieži ierodas Li laboratorijā Dienvidkalifornijas Universitātē (USC), lai viņu līdzība tiktu digitāli skenēta. Tie ir ievietoti sfēriskā apgaismojuma un mašīnredzes kameru klāstā, lai tvertu viņu sejas formu, sejas izteiksmes un ādas toni un tekstūru līdz pat atsevišķu poru līmenim. Specefektu komanda, kas strādā pie filmas, pēc tam var manipulēt ar ainām, kas jau ir uzņemtas, vai pat pievienot aktieri jaunam pēcapstrādes laikā.

Ar Hao Li atļauju

Šāda digitālā maldināšana tagad ir izplatīta lielbudžeta filmās. Foni bieži tiek atveidoti digitāli, un aktiera seja parasti tiek uzlīmēta uz kaskadiera seja darbības ainā. Tas ir radījis dažus elpu aizraujošus mirkļus kinoskatītājiem, piemēram, kad pusaudze princese Leia īsi parādījās filmas beigās. Rogue One: Zvaigžņu karu stāsts , lai gan aktrisei Kerijai Fišerei, kura bija spēlējusi Leju, filmas uzņemšanas laikā bija gandrīz 60 gadu.

Lai šie efekti izskatītos labi, parasti ir nepieciešamas ievērojamas zināšanas un miljoniem dolāru. Taču, pateicoties mākslīgā intelekta sasniegumiem, tagad ir gandrīz triviāli video apmainīt divas sejas, izmantojot neko jaudīgāku par klēpjdatoru. Izmantojot nedaudz papildu zināšanas, jūs varat likt politiķim, izpilddirektoram vai personīgam ienaidniekam teikt vai darīt visu, ko vēlaties (kā stāsta augšpusē esošajā videoklipā, kurā Li attēloja Elona Maska līdzību manā sejā).

Viltības vēsture

Personīgi Li izskatās vairāk kiberpanka nekā Sunset Strip. Viņa mati ir noskūti uz Mohawk, kas nokrīt vienā pusē, un viņš bieži valkā melnu T-kreklu un ādas jaku. Runājot, viņam ir dīvains ieradums mirkšķināt acis tā, ka tas liecina par vēlām naktīm, kas pavadītas datora ekrāna siltajā mirdzumā. Viņš nekautrējas reklamēt savas tehnikas spožumu vai to, kas viņam ir izstrādāts. Sarunu laikā viņam patīk izvilkt viedtālruni, lai parādītu kaut ko jaunu.

Ar Hao Li atļauju

Li uzauga Zārbrikenē, Vācijā, Taivānas imigrantu dēls. Viņš apmeklēja franču-vācu vidusskolu un iemācījās brīvi runāt četrās valodās (franču, vācu, angļu un mandarīnu). Viņš atceras brīdi, kad nolēma pavadīt laiku, izjaucot robežu starp realitāti un fantāziju. Tas bija 1993. gads, kad viņš Stīvena Spīlberga filmā ieraudzīja milzīgu dinozauru zāģmateriālu. Juras laikmeta parks . Kad aktieri raudzījās uz datora radīto zvēru, Li, kuram toreiz bija 12 gadu, saprata, ko tehnoloģija tikko bija padarījusi iespējamu. Es sapratu, ka tagad būtībā var radīt jebko, pat lietas, kas pat neeksistē, viņš atceras.

Li ieguva doktora grādu ETH Cīrihes, prestižā Šveices tehniskajā universitātē, kur viens no viņa padomdevējiem viņu atceras gan kā izcilu studentu, gan nelabojamu palaidni. Akadēmiskajiem darbiem pievienotajos videoklipos dažkārt bija iekļautas ne tik glaimojošas viņa skolotāju karikatūras.

Pola Vokera brāļi nodrošināja veidni viņa digitālajai līdzībai filmā Furious 7. Weta Digital

Neilgi pēc pievienošanās USC Li izveidoja sejas izsekošanas tehnoloģiju, ko izmantoja nelaiķa aktiera Pola Vokera digitālās versijas veidošanai asa sižeta filmai. nikns 7 . Tas bija liels sasniegums, jo Vokers, kurš gāja bojā autoavārijā šaušanas pusceļā, nebija iepriekš skenēts, un viņa varonim vajadzēja parādīties tik daudzās ainās. Li tehnoloģija tika izmantota, lai uzlīmētu Vokera seju uz viņa divu brāļu ķermeņiem, kuri pārmaiņus darbojās viņa vietā vairāk nekā 200 ainās.

Filma, kas kasē nopelnīja 1,5 miljardus dolāru, bija pirmā, kas bija tik ļoti atkarīga no digitāli no jauna radītas zvaigznes. Li piemin Vokera virtuālo lomu, runājot par to, cik laba kļūst video viltība. Pat es nevaru pateikt, kuri no tiem ir viltoti, viņš saka, pakratot galvu.

Virtuāli tu

2009. gadā, mazāk nekā desmit gadus pirms dziļo viltojumu parādīšanās, Li izstrādāja veidu, kā iemūžināt cilvēka seju reāllaikā un izmantot to, lai darbinātu virtuālo leļļu. Tas ietvēra jaunāko dziļuma sensoru un jaunas programmatūras izmantošanu, lai kartētu šo seju un tās izteiksmes maskā, kas izgatavota no deformējama virtuāla materiāla.

Uz marķieriem balstītas sejas izsekošanas piemērs. Sejas programmatūras tehnoloģijas

Vissvarīgākais ir tas, ka pieeja darbojās bez nepieciešamības personas sejai pievienot desmitiem kustības izsekošanas marķieru — standarta nozares paņēmienu sejas kustību izsekošanai. Li piedalījās programmatūras Faceshift izstrādē, kas vēlāk tika komercializēta kā universitātes atzars. Uzņēmums Apple iegādājās 2015. gadā, un tā tehnoloģija tika izmantota, lai izveidotu Animoji programmatūru, kas jaunākajos iPhone tālruņos ļauj pārvērst sevi par vienradzi vai runājošu kaudzi.

Li un viņa skolēni ir publicējuši desmitiem rakstu par tādām tēmām kā iemiesojumi, kas atspoguļo visa ķermeņa kustības, ļoti reālistiski virtuālie mati un imitēta āda, kas stiepjas tā, kā to dara īsta āda. Pēdējos gados viņa grupa ir izmantojusi sasniegumus mašīnmācībā un jo īpaši padziļinātajā apmācībā, kas ir veids, kā apmācīt datorus veikt darbības, izmantojot lielu simulētu neironu tīklu. Viņa pētījumi ir izmantoti arī medicīnā, palīdzot izstrādāt veidus, kā izsekot audzējiem organismā un modelēt kaulu un audu īpašības.

Mūsdienās Li savu laiku sadala starp mācībām, konsultācijām filmu studijām un jauna starta uzņēmuma Pinscreen vadīšanu. Lai izveidotu virtuālos iemiesojumus, uzņēmums izmanto progresīvāku AI, nekā tas ir aiz dziļiem viltojumiem. Tā lietotne pārvērš vienu fotoattēlu fotoreālistiskā 3D iemiesojumā dažu sekunžu laikā. Tajā tiek izmantoti mašīnmācīšanās algoritmi, kas ir apmācīti kartēt sejas izskatu 3D modelī, izmantojot daudzus tūkstošus nekustīgu attēlu un atbilstošus 3D skenējumus. Process tiek uzlabots, izmantojot tā sauktos ģeneratīvos pretrunīgos tīklus jeb GAN (kas netiek izmantoti lielākajai daļai dziļo viltojumu). Tas nozīmē, ka vienam algoritmam ir jāveido viltus attēli, bet citam jālemj, vai tie ir viltoti, un šis process pakāpeniski uzlabo viltojumu. Varat likt savam iemiesojumam izpildīt muļķīgas dejas un izmēģināt dažādus tērpus, kā arī varat kontrolēt iemiesojuma sejas izteiksmes reāllaikā, izmantojot savu seju, izmantojot viedtālruņa kameru.

Bijušais darbinieks Imans Sadeghi iesūdz tiesā Pinscreen, apgalvojot, ka tas viltojis tehnoloģijas prezentāciju SIGGRAPH konferencē 2017. gadā. MIT tehnoloģiju apskats ir redzējis vēstules no vairākiem ekspertiem un SIGGRAPH organizatoriem, kas noraida šīs prasības.

Pinscreen sadarbojas ar vairākiem slaveniem apģērbu mazumtirgotājiem, kuri uzskata, ka tā tehnoloģija ir veids, kā ļaut cilvēkiem izmēģināt apģērbu, neapmeklējot fizisku veikalu. Šī tehnoloģija varētu būt liela arī videokonferencēm, virtuālajai realitātei un spēlēm. Iedomājieties Fortnite varoni, kurš ne tikai izskatās kā jūs, bet arī smejas un dejo tāpat.

Iemiesojumi, kas izveidoti, izmantojot lietotni Pin Screen. Ar Hao Li atļauju

Tomēr zem digitālās muļķības slēpjas svarīga tendence: mākslīgais intelekts strauji padara uzlabotas attēlu manipulācijas par viedtālruņa, nevis darbvirsmas apgabalu. FaceApp , ko izstrādājis uzņēmums Sanktpēterburgā, Krievijā, ir piesaistījis miljoniem lietotāju un neseno strīdu, piedāvājot veidu, kā ar vienu klikšķi mainīt seju tālrunī. Varat fotoattēlam pievienot smaidu, noņemt plankumus vai sajaukt ar savu vecumu vai dzimumu (vai kāda cita). Desmitiem citu lietotņu piedāvā līdzīgas manipulācijas, noklikšķinot uz pogas.

Ne visi ir sajūsmā par iespēju, ka šī tehnoloģija kļūs visuresoša. Li un citi pamatā cenšas izveidot viena attēla, mobilo un reāllaika dziļo viltojumu, saka Sems Gregorijs, bezpeļņas organizācijas Witness direktors, kas nodarbojas ar video un cilvēktiesībām. Tas ir draudu līmenis, kas mani satrauc, kad tas [kļūst] par kaut ko tādu, kas ir mazāk viegli kontrolējams un vairāk pieejams dažādiem dalībniekiem.

Par laimi, lielākā daļa dziļo viltojumu joprojām izskatās mazliet neparasti. Mirgojoša seja, neskaidra acs vai dīvains ādas tonis padara tos pietiekami viegli pamanāmus. Taču, tāpat kā eksperts var novērst šādus trūkumus, mākslīgā intelekta attīstība sola tos automātiski izlīdzināt, padarot viltotus videoklipus gan vienkāršākus, gan grūtāk atklājamus.

Pat tad, kad Li cīnās ar digitālo viltojumu, viņu satrauc arī iespējamā kaitējuma iespēja. Mēs esam problēmas priekšā, viņš saka.

Viltnieku ķeršana

ASV politikas veidotāji ir īpaši nobažījušies par to, kā viltus viltojumus var izmantot, lai izplatītu pārliecinošākas viltus ziņas un dezinformāciju pirms nākamā gada prezidenta vēlēšanām. Šā mēneša sākumā Pārstāvju palātas Izlūkošanas komiteja jautāja Facebook, Google un Twitter, kā viņi plāno cīnīties ar dziļo viltojumu draudiem. Katrs uzņēmums teica, ka strādā pie problēmas, taču neviens nepiedāvāja risinājumu.

DARPA, ASV armijas labi finansētā pētniecības aģentūra, arī ir noraizējusies par digitālo manipulāciju pieaugumu. 2016. gadā, pirms dziļās viltošanas kļuva par lietu, DARPA uzsāka programmu Media Forensics jeb MediFor, lai mudinātu digitālās kriminālistikas ekspertus izstrādāt automatizētus rīkus manipulētu attēlu uztveršanai. Cilvēku eksperts var izmantot dažādas metodes, lai atklātu fotogrāfijas viltojumus, sākot no faila datu vai noteiktu pikseļu īpašību nekonsekvences analīzes un beidzot ar fizisku neatbilstību, piemēram, nepareizi novietotas ēnas vai maz ticama leņķa, meklēšanu.

MediFor tagad galvenokārt koncentrējas uz dziļo viltojumu noteikšanu. Atklāšana būtībā ir grūtāka nekā radīšana, jo AI algoritmi var iemācīties paslēpt lietas, kas rada viltojumus. Agrīnās dziļās viltojumu noteikšanas metodes ietver nedabisku mirkšķināšanas un dīvainu lūpu kustību izsekošanu. Bet jaunākie deepfake jau ir iemācījušies automātiski izlīdzināt šādas kļūmes.

Šī gada sākumā Mets Tureks, MediFor DARPA programmas vadītājs, lūdza Li demonstrēt savus viltojumus MediFor pētniekiem. Tā rezultātā izveidojās sadarbība ar Haniju Faridu, UC Berkeley profesoru un vienu no pasaulē vadošajām digitālās kriminālistikas autoritātēm. Pāris tagad iesaistās digitālā kaķa un peles spēlē, kurā Li izstrādā dziļos viltojumus, lai Farid varētu tos uztvert, un pēc tam tos uzlabo, lai izvairītos no atklāšanas.

Farids, Li un citi nesen izdeva papīru ieskicē jaunu, jaudīgāku veidu, kā atklāt dziļos viltojumus. Tas ir atkarīgs no mašīnmācības algoritma apmācības, lai atpazītu konkrētas personas sejas izteiksmes un galvas kustības. Ja jūs vienkārši ielīmēsiet kāda līdzību uz citas sejas, šīs iezīmes netiks pārnestas. Lai izveidotu dziļo viltojumu, kas ietver šīs īpašības, būtu nepieciešams daudz datora jaudas un apmācības datu, t.i., personas attēli vai video. Bet kādu dienu tas būs iespējams. Tehniskie risinājumi turpinās uzlaboties aizsardzības pusē, saka Tureks. Bet vai tas būs ideāli? ES par to šaubos.

Pikseļi ideāli

Atgriežoties Dalianā, ir skaidrs, ka cilvēki sāk pamosties no dziļo viltojumu briesmām. No rīta, pirms es tikos ar Li, kāds Eiropas politiķis bija iegājis seju maiņas kabīnē, lai viņa prātnieki viņu apturētu. Viņi bija noraizējušies, ka sistēma varētu detalizēti iemūžināt viņa līdzību, padarot kādam vieglāk izveidot viltotus viņa klipus.

Pinscreen darbinieks demonstrē tiešraides seju apmaiņas sistēmu Pasaules ekonomikas foruma konferencē Dalianā, Ķīnā jūlijā. Ar Hao Li atļauju

Vērojot cilvēkus, kuri izmanto kabīni, Li man saka, ka nav nekāda tehniska iemesla, kādēļ dziļi viltojumi būtu nosakāmi. Viņš saka, ka videoklipi ir tikai pikseļi ar noteiktu krāsu vērtību.

Lai padarītu tos perfektus, ir tikai laika un resursu jautājums, un, kā liecina viņa sadarbība ar Faridu, tas visu laiku kļūst vieglāks. Viņš saka, ka mēs esam liecinieki bruņošanās sacensībai starp digitālajām manipulācijām un spēju tās atklāt, jo AI balstītu algoritmu attīstība katalizē abas puses.

Sliktās ziņas, Li domā, ir tādas, ka viņš galu galā uzvarēs. Pēc dažiem gadiem, pēc viņa domām, ar vienu klikšķi varētu izveidot nenosakāmus dziļos viltojumus. Kad pienāks šis brīdis, viņš saka, mums ir jāapzinās, ka ne katrs redzamais video ir patiess.

paslēpties