Viltus Amerika atkal lieliska

Sacensībās, lai noķertu satraucoši īstus viltojumus, kurus var izgatavot, izmantojot mākslīgo intelektu. Autors

• Vils Naits arhīva lapa

2018. gada 17. augusts

Brūss Pētersons

Uzmini kas? Es tikko dabūju rokās dažus apkaunojošus videomateriālus, kuros Teksasas senators Teds Krūzs dzied un griežas ar Tīnu Tērneri. Viņa politiskajiem ienaidniekiem būs ļoti jautri to parādīt starpposma laikā. Donalds Tramps viņu sauks par Dancin’ Ted.

Labi, es to atzīstu — es pats izveidoju videoklipu. Bet šeit ir satraucošā lieta: lai to izveidotu, bija nepieciešamas ļoti mazas video rediģēšanas prasmes. Es lejupielādēju un konfigurēju programmatūru, kas izmanto mašīnmācīšanos, lai veiktu pārliecinošu digitālo seju apmaiņu. Iegūtajā videoklipā, kas pazīstams kā dziļš viltojums, ir redzamas Krūza īpaši noslīdušās acis, kas piešūtas pie aktiera Pola Rūda vaibstiem, kas spēlē lūpu sinhronizācijas karaoke. Tas nav ideāls — tajā ir kaut kas nedaudz novirzīts — taču tas var apmānīt dažus cilvēkus.

Šis stāsts bija daļa no mūsu 2018. gada septembra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Fotoattēlu viltošana nebūt nav jauna, taču mākslīgais intelekts pilnībā mainīs spēli. Vēl nesen tikai liela budžeta filmu studija varēja veikt video seju apmaiņu, un tas, iespējams, būtu izmaksājis miljoniem dolāru. AI tagad ļauj ikvienam, kam ir pienācīgs dators un dažas brīvas stundas, darīt to pašu. Turpmāki mašīnmācīšanās sasniegumi padarīs iespējamu vēl sarežģītāku maldināšanu un padarīs viltojumu grūtāk pamanāmu.

Šie sasniegumi draud vēl vairāk izjaukt robežu starp patiesību un izdomājumu politikā. Jau tagad internets paātrina un pastiprina dezinformācijas izplatīšanu, izmantojot viltotus sociālo mediju kontus. Alternatīvi fakti un sazvērestības teorijas ir izplatītas un plaši tiek uzskatītas. Viltus ziņu stāsti, neskaitot to iespējamo ietekmi uz pēdējām ASV prezidenta vēlēšanām, pēdējā gada laikā ir izraisījuši etnisku vardarbību Mjanmā un Šrilankā. Tagad iedomājieties, ka iemet jaunus reāla izskata viltotus videoklipus: politiķi izrunā muļķības vai etniskus apvainojumus vai tiek pieķerti neatbilstošā uzvedībā video, izņemot gadījumus, kad tas patiesībā nav noticis.

Deepfakes var izjaukt no sliedēm politisko diskursu, saka Čārlzs Seifs, Ņujorkas universitātes profesors un grāmatas autors. Virtuālā nerealitāte: tikai tāpēc, ka internets jums teica, kā jūs zināt, ka tā ir patiesība? Seife atzīstas pārsteigts par to, cik ātri lietas ir attīstījušās kopš viņa grāmatas publicēšanas 2014. gadā. Tehnoloģijas satraucošā ātrumā maina mūsu uztveri par realitāti, viņš saka.

Vai mēs drīz ieiesim laikmetā, kad nevaram uzticēties nekam, pat autentiskiem videoklipiem, kas, šķiet, atspoguļo patiesas ziņas? Kā mēs izlemjam, kas ir ticams? Kam mēs uzticamies?

Šie Teda Krūza un Pola Ruda nekustīgie attēli tika ņemti no materiāla, kas tika ievadīts seju maiņas programmā.

Īsts viltojums

Vairākas tehnoloģijas ir apvienojušās, lai atvieglotu viltošanu, un tās ir viegli pieejamas: viedtālruņi ļauj ikvienam uzņemt video materiālu, un jaudīgi datorgrafikas rīki ir kļuvuši daudz lētāki. Pievienojiet mākslīgā intelekta programmatūru, kas ļauj izkropļot, remiksēt un sintezēt lietas, radot jaunus veidus. AI nav tikai labāka Photoshop vai iMovie versija. Tas ļauj datoram uzzināt, kā pasaule izskatās un izklausās, lai tas varētu uzburt pārliecinošus simularus.

Es izveidoju Cruz klipu, izmantojot OpenFaceSwap, vienu no vairākām sejas maiņas programmām, ko varat lejupielādēt bez maksas. Jums ir nepieciešams dators ar uzlabotu grafikas mikroshēmu, un tas var atmaksāt dažus tūkstošus dolāru. Bet jūs varat arī iznomāt piekļuvi virtuālajai mašīnai par dažiem centiem minūtē, izmantojot mākoņa mašīnmācības platformu, piemēram, Paperspace. Pēc tam vienkārši ievadiet divus videoklipus un apsēdieties dažas stundas, kamēr algoritms izdomā, kā katra seja izskatās un kustas, lai tās varētu samērot vienu ar otru. Iedarbināt lietas ir sava veida māksla: ja izvēlaties pārāk atšķirīgus klipus, rezultāts var būt murgains degunu, ausu un zoda sajaukums.

Bet process ir pietiekami vienkāršs.

Iedarbināt lietas ir sava veida māksla: ja izvēlaties pārāk atšķirīgus klipus, rezultāts var būt degunu, ausu un zoda sajaukums.

Seju maiņa, kā paredzams, pirmo reizi tika izmantota pornogrāfijas veidošanai. 2017. gadā kāds anonīms Reddit lietotājs, kas pazīstams kā Deepfakes, izmantoja mašīnmācīšanos, lai slavenu aktrišu sejas nomainītu uz ainām, kurās redzamas pieaugušajiem paredzētu filmu zvaigznes, un pēc tam publicēja rezultātus subredditā, kas bija veltīts nopludinātai slavenību pornogrāfijai. Pēc tam kāds cits Reddit lietotājs izlaida viegli lietojamu interfeisu, kā rezultātā izplatījās dziļi viltota pornogrāfija, kā arī kāda dīvaina iemesla dēļ bezgalīgi izplatījās aktiera Nikolasa Keidža klipi filmās, kurās viņš īsti nebija. Pat Reddit, a. bēdīgi brīvā Hangout sesijā, aizliedza šādu pornogrāfiju, kas nav vienprātīga. Taču šī parādība joprojām pastāv interneta tumšākajos nostūros.

OpenFaceSwap izmanto mākslīgo neironu tīklu, kas līdz šim ir AI rīks. Ļoti lieli vai dziļi neironu tīkli, kuriem tiek ievadīts milzīgs apmācības datu apjoms, var veikt dažādas noderīgas lietas, tostarp atrast cilvēka seju starp miljoniem attēlu. Tos var arī izmantot, lai manipulētu un sintezētu attēlus.

OpenFaceSwap apmāca dziļo tīklu, lai kodētu seju (process, kas līdzīgs datu saspiešanai), tādējādi radot atveidojumu, ko var dekodēt, lai rekonstruētu pilnu seju. Triks ir vienas sejas kodētos datu ievadīšana otras sejas dekodētājā. Pēc tam neironu tīkls bieži vien ar pārsteidzošu precizitāti uzburs vienu seju, kas atdarina otras sejas izteiksmes un kustības. Iegūtais video var šķist dīvains, taču OpenFaceSwap automātiski aizmiglos malas un pielāgos tikko pārstādītās sejas krāsu, lai viss izskatītos īstāks.

Pa kreisi: OpenFaceSwap priekšskata seju apmaiņas mēģinājumus apmācības laikā. Agrīnie mēģinājumi bieži var būt nedaudz dīvaini un groteski.

Pa labi: programmatūrai nepieciešamas vairākas stundas, lai izveidotu labu sejas maiņas darījumu. Jo vairāk treniņu datu, jo labāks gala rezultāts.

Līdzīgu tehnoloģiju var izmantot arī, lai atjaunotu kāda cilvēka balsi. Jaunuzņēmums ar nosaukumu Lyrebird ir ievietojis pārliecinošas demonstrācijas, kurās Baraks Obama un Donalds Tramps saka, ka runa ir par pilnīgi izdomātu lietu. Lyrebird saka, ka nākotnē tas ierobežos balss dublēšanu ar cilvēkiem, kuri ir devuši atļauju, taču noteikti ne visi būs tik skrupulozi.

Jaunuzņēmums ir publicējis pārliecinošas Baraka Obamas un Donalda Trampa demonstrācijas, kurās teikts, ka ir pilnīgi izdomātas lietas.

Ir vispāratzītas metodes, kā identificēt apstrādātus attēlus un video. Viena iespēja ir meklēt tīmeklī attēlus, kas varētu būt sajaukti. Tehniskāks risinājums ir meklēt signālu izmaiņas digitālā failā vai attēla vai video kadra pikseļos. Eksperts var meklēt vizuālas neatbilstības — ēnu, kurai tur nevajadzētu būt, vai objektu, kura izmērs ir nepareizs.

Dartmutas universitātes Hany Farid, viens no izcilākajiem ekspertiem pasaulē, ir parādījis, kā ainu var rekonstruēt 3D formātā, lai atklātu fiziskas dīvainības. Viņš arī pierādījis, ka smalkas video pikseļu intensitātes izmaiņas, kas norāda uz cilvēka pulsa ātrumu, var izmantot, lai pamanītu atšķirību starp reālu cilvēku un datora ģenerētu. Nesen viens no Farida bijušajiem studentiem, tagad profesors Ņujorkas štata universitātē Olbanijā, ir parādījis, ka neregulāra acu mirkšķināšana var izdalīt seju, ar kuru ir manipulējis mākslīgais intelekts.

Tomēr lielākā daļa cilvēku nevar veikt šāda veida detektīvu, un viņiem nav laika izpētīt katru attēlu vai klipu, kas parādās Facebook. Tā kā vizuālā viltošana ir kļuvusi izplatītāka, tika mēģināts automatizēt analīzi. Un izrādās, ka padziļināta mācīšanās ne tikai izceļas ar izdomājumiem, bet arī ir ideāli piemērota, lai rūpīgi pārbaudītu attēlus un videoklipus, lai noteiktu viltojumu pazīmes. Tomēr šie centieni ir tikai tikko sākušies, un tos galu galā var kavēt tas, cik reāli var kļūt automatizētie viltojumi.

Maldināšanas tīkli

Viena no jaunākajām idejām mākslīgā intelekta izpētē ir saistīta ar neironu tīklu pavēršanu pret sevi, lai radītu vēl reālistiskākus viltojumus. Ģeneratīvs pretrunīgs tīkls jeb GAN izmanto divus dziļus neironu tīklus: vienu, kas ir apmācīts identificēt reālus attēlus vai video, un otru, kas laika gaitā iemācās pārspēt savu līdzinieku. GAN var apmācīt radīt pārsteidzoši reālistiskus viltus attēlus.

Papildus seju kopēšanai un apmaiņai, GAN var ļaut sintezēt veselas ainas un cilvēkus, kas izskatās diezgan reāli, pārvēršot dienas ainu par nakts ainu un sapņojot par iedomātām slavenībām. GAN nedarbojas perfekti, taču tie visu laiku kļūst labāki, un šī ir aktuāla pētniecības joma ( MIT tehnoloģiju apskats nosauca GAN par vienu no savām 10 izrāvienu tehnoloģijām 2018. gadā).

GAN var pārvērst dienas ainas par nakts ainas un sapņot iedomātas slavenību sejas.

Satraucošākais ir tas, ka šo paņēmienu varētu izmantot arī, lai izvairītos no digitālās kriminālistikas. ASV Aizsardzības progresīvo pētījumu projektu aģentūra aicināja pētniekus piedalīties konkursā šovasar, kurā daži izstrādāja viltotus video, izmantojot GAN, bet citi mēģināja tos atklāt. GAN ir īpašs izaicinājums mums kriminālistikas kopienā, jo tos var vērst pret mūsu kriminālistikas metodēm, saka Farids. Jāskatās, kura puse gūs virsroku.

Šīs ir beigas

Ja mēs nebūsim uzmanīgi, tas var beigties ar pasaules galu vai vismaz to, kas tā šķiet.

Aprīlī, domājams, BBC ziņu ziņojums paziņoja par kodolkonflikta starp Krieviju un NATO atklāšanu. Klipā, kas sāka izplatīties ziņojumapmaiņas platformā WhatsApp, bija redzami kadri ar raķešu sprādzieniem, kad ziņu raidorganizācija skatītājiem stāstīja, ka Vācijas pilsēta Mainca ir iznīcināta kopā ar Frankfurtes daļām.

Tas, protams, bija pilnībā viltots, un BBC steidzās to nosodīt. Videoklips netika ģenerēts, izmantojot AI, bet tas parādīja viltus video spēku un to, kā tas var izplatīt baumas deformācijas ātrumā. AI programmu izplatība padarīs šādus videoklipus daudz vienkāršākus un vēl pārliecinošākus.

Pat ja mūs nemaldina viltus ziņas, tām var būt nopietnas sekas politiskām debatēm. Tāpat kā tagad esam pieraduši apšaubīt, vai fotogrāfija varētu būt apstrādāta ar fotošopu, mākslīgā intelekta radītie viltojumi var padarīt mūs aizdomīgākus par notikumiem, ko redzam tiešsaistē. Un tas varētu veicināt racionālu politisko debašu tālāku eroziju.

In Patiesības nāve Šogad publicētajā literatūrkritiķis Mičiko Kakutani apgalvo, ka alternatīvi fakti, viltus ziņas un vispārējais mūsdienu politikas trakums ir kulminācija kultūras strāvojumiem, kas stiepjas gadu desmitiem senā pagātnē. Kakutani uzskata, ka hiperreāli mākslīgā intelekta viltojumi ir tikai pēdējais smagais trieciens objektīvās realitātes koncepcijai.

Pirms tehnoloģija pat kļūst par labu, fakts, ka tā pastāv un ir veids, kā mazināt uzticību likumīgam materiālam, ir ļoti problemātisks, saka Renē DiResta, Data for Democracy pētniece un viena no pirmajām personām, kas atklāja politiski motivēta Twitter fenomenu. dezinformācijas kampaņas.

Iespējams, ka lielākais šīs jaunās tehnoloģijas risks nav tas, ka to ļaunprātīgi izmantos valsts hakeri, politiskie sabotieri vai Anonymous, bet gan tas, ka tā vēl vairāk iedragās patiesību un objektivitāti. Ja jūs nevarat atšķirt viltojumu no realitātes, tad kļūst viegli apšaubīt visa autentiskumu. Tas jau kalpo kā veids, kā politiķi var izvairīties no atbildības.

Iespējams, ka lielākais risks ir tāds, ka tehnoloģija vēl vairāk iedragās patiesību un objektivitāti.

Prezidents Tramps ir apgriezis ideju par viltus ziņām kājām gaisā, izmantojot šo terminu, lai uzbruktu jebkādiem plašsaziņas līdzekļu ziņojumiem, kas kritizē viņa administrāciju. Viņš arī izteicies, ka 2016. gada kampaņas laikā publicētais apsūdzošais klips, kurā viņš nomelno sievietes, varētu būt digitāli viltots. Šī gada aprīlī Krievijas valdība apsūdzēja Lielbritāniju, ka tā vilto video pierādījumus par ķīmisko uzbrukumu Sīrijā, lai attaisnotu ierosināto militāro darbību. Neviena apsūdzība nebija patiesa, taču izsmalcinātas viltošanas iespēja arvien vairāk mazina patiesas informācijas ticamību. Mjanmā un Krievijā jauni tiesību akti cenšas aizliegt viltus ziņas, taču abos gadījumos likumi var vienkārši kalpot kā veids, kā ierobežot valdības kritiku.

Tā kā varenie arvien vairāk apzinās mākslīgā intelekta viltošanu, būs viegli noraidīt pat skaidrus video pierādījumus par nepareizu rīcību, jo tas ir nekas vairāk kā GAN radīta digitālā maldināšana.

Patiesība joprojām būs tur. Bet vai tu to uzzināsi, kad ieraudzīsi?

Vils Naits ir vecākais redaktors vietnē MIT tehnoloģiju apskats kas aptver mākslīgo intelektu.

paslēpties