Jaunam dziļo viltojumu noteikšanas rīkam vajadzētu nodrošināt pasaules līderu drošību — pagaidām

Baraka Obamas dziļu viltojumu un uzdošanās piemēru attēls Kalifornijas Universitāte, Bērklija

Mākslīgā intelekta veidotā video varētu parādīt, kā Donalds Tramps saka vai dara kaut ko ārkārtīgi nežēlīgu un aizkaitinošu. Tas būtu pārāk ticami, un sliktākajā gadījumā tas varētu ietekmēt vēlēšanas, izraisīt vardarbību ielās vai izraisīt starptautisku bruņotu konfliktu.

Par laimi, jauns digitālās kriminālistikas tehnika sola aizsargāt prezidentu Trampu, citus pasaules līderus un slavenības pret šādiem viltus viltojumiem — vismaz pagaidām. Jaunā metode izmanto mašīnmācīšanos, lai analizētu konkrēta indivīda runas un kustību stilu, ko pētnieki sauc par mīksto biometrisko parakstu.

Pētnieki no UC Berkeley un Dienvidkalifornijas universitātes izmantoja esošu rīku, lai iegūtu indivīdu sejas un galvas kustības. Viņi arī izveidoja savus dziļos viltojumus Donaldam Trampam, Barakam Obamam, Bernijam Sandersam, Elizabetei Vorenai un Hilarijai Klintonei, izmantojot ģeneratīvus pretinieku tīklus.

Pēc tam komanda izmantoja mašīnmācīšanos, lai atšķirtu galvas un sejas kustības, kas raksturo reālo personu. Šie smalkie signāli — veids, kā Bernijs Sanderss, iespējams, pamāj, sakot konkrētu vārdu, vai veids, kā Tramps pasmaida pēc atgriešanās — pašlaik netiek modelēti ar viltus algoritmiem.

Eksperimentos paņēmiens bija vismaz 92% precīzs, pamanot vairākas dziļo viltojumu variācijas, tostarp seju mijmaiņas un tādas, kurās imitators izmanto digitālo lelli. Tas arī varēja tikt galā ar artefaktiem failos, kas radušies, atkārtoti saspiežot videoklipu, kas var sajaukt citas noteikšanas metodes. Pētnieki plāno uzlabot tehniku, ņemot vērā arī personas runas īpašības. Pētījums, kas tika prezentēts plkst Datorredzes konference Kalifornijā šonedēļ finansēja Google un DARPA, Pentagona pētniecības spārns. DARPA finansē programmu, lai izstrādātu labākas noteikšanas metodes.

Problēma, ar ko saskaras pasaules līderi (un visi pārējie), ir tā, ka ir kļuvis smieklīgi vienkārši izveidot video viltojumus, izmantojot mākslīgo intelektu. Nepatiesi ziņu ziņojumi, viltus sociālo mediju konti un sagrozīti video jau ir iedragājuši politisko ziņu atspoguļojumu un diskursu. Politiķus īpaši satrauc tas, ka 2020. gada prezidenta vēlēšanu laikā viltus plašsaziņas līdzekļi var tikt izmantoti, lai sētu dezinformāciju.

Daži rīki deepfake video ķeršanai jau ir ražoti, taču viltotāji ir ātri pielāgojušies. Piemēram, kādu laiku bija iespējams pamanīt dziļo viltojumu, izsekojot runātāja acu kustībām, kas dziļo viltojumu gadījumā mēdza būt nedabiskas. Tomēr neilgi pēc šīs metodes noteikšanas dziļās viltošanas algoritmi tika pielāgoti, lai iekļautu labāku mirgošanu.

Mēs esam liecinieki bruņošanās sacensībai starp digitālajām manipulācijām un spēju tās atklāt, un uz AI balstītu algoritmu sasniegumi katalizē abas puses, saka Hao Li, Dienvidkalifornijas universitātes profesors un uzņēmuma izpilddirektors. Pinscreen kas palīdzēja izstrādāt jauno tehniku. Šī iemesla dēļ viņa komanda vēl nav izlaidusi šīs metodes kodu.

Li saka, ka dziļo viltojumu veidotājiem būs īpaši grūti pielāgoties jaunajai tehnikai, taču viņš pieļauj, ka viņi, iespējams, ar laiku to izdarīs. Nākamais solis, lai apietu šo noteikšanas veidu, būtu kustību un uzvedības sintezēšana, pamatojoties uz iepriekšējiem šīs konkrētās personas novērojumiem, viņš saka.

Li arī saka, ka, tā kā dziļo viltojumu lietošana kļūst vieglāk lietojama un jaudīgāka, ikvienam var būt nepieciešams apsvērt iespēju sevi aizsargāt. Viņš saka, ka līdz šim galvenie mērķi ir bijuši slavenības un politiskās personas. Bet es nebrīnītos, ja pēc gada vai diviem mākslīgos cilvēkus, kas izskatās neatšķirami no īstajiem, var sintezēt jebkurš galalietotājs.

paslēpties