Gadā, kad dziļi viltojumi kļuva plaši izplatīti

Tehnikas kundze

2018. gadā Sems Kols, Motherboard reportieris, atklāja jauns un satraucošs interneta stūrītis. Reddit lietotājs, vārdā deepfakes, publicēja nevienprātīgus viltus porno video, izmantojot mākslīgā intelekta algoritmu, lai slavenību sejas nomainītu pret īstu pornogrāfiju. Kols pieteica trauksmi par šo parādību tieši tad, kad tehnoloģija gatavojās eksplodēt. Gadu vēlāk viltotā pornogrāfija bija izplatījusies tālu ārpus Reddit, un tas bija viegli pieejamas lietotnes kas varētu novilkt drēbes jebkurai fotografētai sievietei.

Kopš tā laika deepfakes ir slikts reps, un tas ir pareizi. The lielākā daļa no tiem joprojām tiek izmantoti viltus pornogrāfijai . Sieviete bija pētnieciskā žurnāliste smagi vajā un uz laiku apklusināja šāda darbība un nesen sieviete dzejniece un romānu rakstniece bija nobijies un kauns. Pastāv arī risks, ka politiski viltus viltojumi radīs pārliecinošas viltus ziņas, kas var radīt postījumus nestabilā politiskajā vidē.

Taču, tā kā mediju manipulācijas un sintezēšanas algoritmi ir kļuvuši spēcīgāki, tie ir radījuši arī pozitīvus lietojumus, kā arī dažus humoristiskus vai ikdienišķus. Šeit ir apkopoti daži no mūsu favorītiem aptuvenā hronoloģiskā secībā un kāpēc, mūsuprāt, tie liecina par gaidāmo.

Signalizācijas vairogs

JŪSU MEDIJI

Jūnijā, Laipni lūdzam Čečīnā , izmeklēšanas filma par LGBTQ personu vajāšanu Krievijas Republikā, kļuva par pirmā dokumentālā filma, kurā izmantoti dziļi viltojumi lai aizsargātu savu subjektu identitāti. Aktīvisti, kas cīnījās pret vajāšanām, kuri bija stāsta galvenie varoņi, dzīvoja slēpņā, lai izvairītos no spīdzināšanas vai nogalināšanas. Izpētījis daudzas metodes, kā slēpt savu identitāti, režisors Deivids Frenss nolēma viņiem uzdāvināt viltotus vākus. Viņš lūdza citus LGBTQ aktīvistus no visas pasaules aizdot savas sejas, kuras pēc tam tika uzpotētas viņa filmas cilvēku sejām. Šis paņēmiens ļāva Francijai saglabāt viņa subjektu sejas izteiksmes integritāti un tādējādi viņu sāpes, bailes un cilvēcību. Kopumā filma aizsargāja 23 personas, radot jaunu trauksmes cēlēju aizsardzības veidu.

Revizionistu vēsture

PANETTA UN BURGUNDIJA

Jūlijā divas MIT pētnieces Frančeska Paneta un Halsija Burgunda, izlaida projektu izveidot alternatīvu 1969. gada Apollo nolaišanās Mēness vēsturi. Zvanīja Mēness katastrofas gadījumā , tajā izmantota runa, ko prezidents Ričards Niksons būtu sacījis, ja nozīmīgais notikums nebūtu noticis saskaņā ar plānu. Pētnieki sadarbojās ar diviem atsevišķiem uzņēmumiem dziļi viltotu audio un video jomā un nolīga aktieri, lai nodrošinātu pamata sniegumu. Pēc tam viņi izlaida viņa balsi un seju cauri divu veidu programmatūrai un savienoja tos galīgajā dziļā viltotā Niksonā.

Lai gan šis projekts parāda, kā dziļi viltojumi var radīt spēcīgas alternatīvas vēstures, cits sniedz mājienus, kā dziļi viltojumi var atdzīvināt īstu vēsturi. Februārī žurnāls Time izveidots no jauna Mārtiņa Lutera Kinga jaunākā maršs Vašingtonā virtuālajai realitātei, lai iegremdētu skatītājus ainā. Projektā neizmantoja dziļo viltojumu tehnoloģiju, bet vēlāk Ķīnas tehnoloģiju gigantu Tencent citēja to Baltajā grāmatā par saviem plāniem attiecībā uz AI, kurā teikts, ka dziļi viltojumus varētu izmantot līdzīgiem mērķiem nākotnē.

mēmes

MS TECH | NEIRIPS (TRENIŅU KOMPLEKTS); HAO (PIELĀTĪBA)

Vasaras beigs memersfēra nokļuva vienkārši pagatavojamās deepfakes un atklāja rezultātus digitālajā visumā. Īpaši viena vīrusu mēma ar nosaukumu Baka Mitai (attēlā iepriekš), ātri pieauga, jo cilvēki iemācījās izmantot tehnoloģiju, lai izveidotu savas versijas. Īpašais algoritms, kas darbina neprātu, radās 2019. gada pētniecības darbs kas ļauj lietotājam animēt vienas personas sejas fotoattēlu ar citas personas video. Efekts pēc iztēles nav augstas kvalitātes, taču tas noteikti rada kvalitatīvu jautrību. Šī parādība nav gluži pārsteidzoša; spēle un parodija ir bijis dzinējspēks dziļo viltojumu un citu mediju manipulācijas rīku popularizēšanā. Tāpēc daži eksperti uzsver nepieciešamību pēc aizsargmargām lai nepieļautu, ka satīra kļūst par ļaunprātīgu izmantošanu .

Sporta reklāmas

Saspringts grafiks apgrūtina slavenību sporta zvaigžņu dabūšanu vienā telpā labākajā laikā. Bloķēšanas vidū tas nav iespējams. Tātad, ja jums Losandželosā ir jānofilmē reklāma, kurā redzami cilvēki karantīnas burbuļos visā valstī, vienīgā iespēja ir to viltot. Augustā straumēšanas vietne Hulu publicēja reklāmu, lai veicinātu sporta atgriešanos savā servisā, kurā galvenajās lomās bija NBA spēlētājs Deimians Lilards, WNBA spēlētājs Skylar Diggins-Smits un kanādiešu hokejists Sidnijs Krosbijs. Mēs redzam, ka šīs zvaigznes atsakās no saldskābju cepšanas un atgriežas pie sava sporta veida, rokā ar basketbola bumbām un hokeja nūjām. Izņemot to, ka mēs to nedarām: šo zvaigžņu sejas tika uzklātas uz ķermeņa dubultām, izmantojot deepfake tehnoloģiju. Algoritms tika apmācīts, izmantojot kadrus, kuros spēlētāji tika uzņemti, izmantojot tālummaiņu. Datora viltošana ir izmantota, lai viltotu šāda veida lietas, taču dziļās viltojumi padara to vienkāršāku un lētāku nekā jebkad agrāk, un šogad attālinātais viss ir devis tehnoloģiju stimulu. Hulu nebija vienīgais. Citi reklāmdevēji, tostarp ESPN , eksperimentēja arī ar deepfake.

Politiskās kampaņas

Septembrī, gatavojoties ASV prezidenta vēlēšanām, bezpartejiskā aizstāvības grupa RepresentUs atbrīvoja pāris dziļi viltotu reklāmu . Tajās tika demonstrētas viltotas versijas, kā Krievijas prezidents Vladimirs Putins un Ziemeļkorejas līderis Kims Čenuns sniedz vienu un to pašu vēstījumu: nevienam no tiem nav jāiejaucas ASV vēlēšanās, jo Amerika pati sagraus savu demokrātiju. Šī nebija pirmā dziļo viltojumu izmantošana politiskās kampaņas laikā. Februārī Indijas politiķis Manoj Tiwari kampaņas videoklipā izmantoja dziļos viltojumus lai liktos, ka viņš runā harjanvi — hindi dialektu, kurā runā viņa mērķa vēlētāji. Taču RepresentUs īpaši pārveidoja skriptu par tipisku stāstījumu par politiskiem viltus viltojumiem. Lai gan eksperti bieži uztraucas par tehnoloģiju spēju radīt neskaidrības un izjaukt vēlēšanas, grupa centās darīt tieši pretējo: palielināt izpratni par vēlētāju apspiešanu, lai aizsargātu vēlēšanu tiesības un palielinātu vēlētāju aktivitāti.

TV pārraide

Ja viltotas reklāmas un vienreizēji triki sāk šķist pazīstami, uzticieties to veidotājiem Dienvidu parks lai to novestu līdz galējībām. Oktobrī Trejs Pārkers un Mets Stouns debitēja ar savu jauno darbu, Sīkais tiesnesis , pirmais deepfake TV šovs . Iknedēļas satīriskais šovs griežas ap varoni Sasiju Džastisu, vietējo ziņu reportieri ar viltotu Trampa seju. Sasijs intervē tādas viltotas figūras kā Džareds Kušners (ar Kušnera seju uzlikts bērnam) un Als Gors. Ar Sīkais tiesnesis , deepfakes ir pārsniegušas mārketinga triku vai ļaunprātīgu maldināšanu, lai sasniegtu kultūras galveno virzienu. Varoņu radīšanai tiek izmantota ne tikai tehnoloģija, bet arī pati satīra. Pirmajā epizodē Sasijs Tramps Justice, spēlējot patērētāju aizstāvju, pēta patiesību, kas slēpjas aiz viltus ziņām.

paslēpties