Memers veido dziļus viltojumus, un lietas kļūst dīvainas

Apakšā pa labi: tas es. Ms Tech | NeurIPS (treniņu komplekts); Hao (pieklājīgi)

Greisa Vindheima par dziļajiem viltojumiem bija dzirdējusi jau iepriekš. Bet viņa nekad nebija domājusi, kā tādu izveidot. Tā bija vīrusu mēma, izmantojot tehnoloģiju, kas lika viņai izpētīt iespēju un atklāja, ka tas ir ļoti vienkārši un pilnīgi bez maksas.

Dienas laikā viņa bija izveidojusi soli pa solim YouTube apmācība lai palīdzētu citiem procesam. Viņa saka video, kas publicēts 4. augustā. Kopš tā laika tas ir skatīts vairāk nekā 360 000 reižu.

Vindheima ir daļa no jaunas tiešsaistes veidotāju grupas, kas spēlējas ar viltojumiem, jo ​​tehnoloģija kļūst arvien pieejamāka un iekļaujas interneta kultūrā. Parādība nav pārsteidzoša; mediju manipulācijas rīki bieži ir guvuši panākumus spēle un parodija . Bet tas arī rada jaunas bažas par tā ļaunprātīgas izmantošanas iespējamību.

Deepfakes jau ir izmantotas, lai uzmāktos sievietēm, nepārdomāti pārvēršot viņu sejas porno video. Zinātnieki arī uztraucas par viņu spēju izjaukt vēlēšanas. Lai gan mēmiem izveidotie dziļie viltojumi joprojām ir acīmredzami viltoti un salīdzinoši nekaitīgi, tie var nepalikt ilgi.

Vindheima saka, ka pastāv smalka robeža starp dziļo viltojumu izmantošanu izklaidei un mēmiem un to izmantošanu kaitējuma nolūkos. Šajā apmācībā es saku: “Tā jūs izveidojat šo konkrēto dziļo viltojumu.” Taču skripta biedējošākais ir tas, ka to var vienkārši izmantot, lai izveidotu jebkāda veida dziļo viltojumu.

Esmu bijis muļķis

Vindheima, nesen beidzis koledžu, strādā par satura veidotāju Sanfrancisko jaunuzņēmumā Kapwing. Uzņēmums, kas sāka savu darbību kā mēmu veidotājs, piedāvā bezmaksas pārlūkprogrammas video rediģēšanas programmatūras rīku komplektu. Sava darba ietvaros Vindheima vada YouTube kanālu un veido satura mārketinga video, lai parādītu produktu iespējas.

Augusta sākumā viņa uzgāja īpaši izplatītu meklēšanas vienumu pakalpojumā Google Trends. Trīs no pieciem populārākajiem vaicājumiem bija par Baka Mitai dziļi viltotu mēmu. Viņa saka, ka es gandrīz nekad neredzu, ka tik bieži tiek uzdoti vaicājumi.

Mēma, kā izrādās, tika balstīta uz video ar YouTube lietotāja lūpu sinhronizāciju japāņu videospēļu dziesmai Baka Mitai (tulkojums: I’ve Been a Fool). Dažādi interneta lietotāji bija izmantojuši videoklipu, lai izveidotu trakus dziļus viltojumus no visiem Baraks Obama uz Thanos dziedot dziesmu. Tomēr, neskatoties uz popularitāti, Vindheims atklāja, ka par to, kā to faktiski pagatavot, ir rakstīts maz. Viņa redzēja iespēju.

Īpašais dziļo viltojumu algoritms, ko izmantoja cilvēki, nāk no a 2019. gada pētniecības darbs prezentēts NeurIPS, lielākajā ikgadējā AI pētniecības konferencē. Atšķirībā no citiem, sarežģītākiem algoritmiem, tas ļauj lietotājam uzņemt jebkuru personas sejas video un izmantot to, lai animētu kāda cita sejas fotoattēlu, izmantojot tikai dažas koda rindiņas.

Vindheims atrada atvērtā pirmkoda algoritmu YouTube apmācībā un pārnesa to uz Google Colab piezīmju grāmatiņu — bezmaksas pakalpojumu koda palaišanai mākonī. Pēc dažiem mēģinājumiem, pateicoties prasmēm, ko viņa bija apguvusi neregulārajās kodēšanas stundās koledžā, viņa ieguva skriptu, lai izspļautu dziļu viltojumu. Pēc tam viņa sinhronizēja dziesmu ar videoklipu ar Kapwing rīkiem, izveidojot jaunu mēmas versiju.

Kopš viņa publicēja viņas apmācība Kapwing YouTube kanālā vairāki citi YouTube lietotāji arī ir sagatavojuši apmācības, izmantojot to pašu kopēšanas un ielīmēšanas algoritmu. Atšķirība: daudzi no viņiem māca auditorijai, kā to izdarīt jebkura sava veida deepfake meme. Viens pat māca cilvēkus kā tos izveidot mobilajā ierīcē .

Šīs mēmes tagad parādās visur sociālajos medijos: Twitter, Instagram un īpaši TikTok. Platformas īsie videoklipi, kuros bieži tiek piedāvāta aizraujoša horeogrāfija līdz aizraujošai mūzikai, īpaši veicina to viltošanu, lai radītu burvīgu efektu. #deepfake tēmturis lietotnē jau ir uzkrājis vairāk nekā 120 miljonus skatījumu.

@lemonjezus

@helltaker03

Videoklipos, kas uzņemti ar šo algoritmu, ir redzams seju mānīgums, kas padara tā roku darbu viegli atpazīstamu; tā ir daļa no deepfakes humora. Šīs nepilnības un sirreālistiska kvalitāte no mēmiem — neļaus viņiem sajaukt realitāti. Pašlaik hiperreālistiskāku dziļo viltojumu izveide ir daudz tehniski sarežģītāka un skaitļošanas ziņā dārgāka.

Taču tehnoloģiju attīstības tempā, iespējams, ap stūri būs viegli izgatavojami dziļi viltojumi, kas gandrīz neatšķiras no realitātes. Daži uzņēmumi, piemēram, Ķīnas tehnoloģiju gigants Tencent, WeChat īpašnieks, ir publiski paziņojuši par saviem nodomiem ieguldīt vairāk līdzekļu, lai veicinātu attīstību. jaunākās tehnoloģijas komerciāliem lietojumiem .

Deepfakes pēc savas būtības nav sliktas. Mākslinieki, pedagogi un citi šo tehnoloģiju jau ir izmantojuši kā spēcīgu jaunu radošās izpausmes rīku. Piemēram, februārī žurnāls Time izmantoja viltojumus, lai no jauna radītu Martina Lutera Kinga jaunākā pieredzi. sakot runu Man ir sapnis virtuālajā realitātē. Galu galā regulatoriem ir jādefinē, kas ir piemērots lietojums un kas var radīt kaitējumu.

Pagaidām Vindheima paļaujas uz savu spriedumu, lai veiktu šo aicinājumu. Pirms sava video publicēšanas viņa iepazinās ar dziļo viltojumu ietekmi un sarunājās ar kolēģiem. Viņa saka, ka mūsu produkti nekad nav paredzēti, lai palīdzētu lietotājiem izplatīt dezinformāciju, tāpēc mēs vienkārši vēlējāmies pārbaudīt sevi.

Galu galā viņi izlēma par dažiem pamatnoteikumiem: viņi savās pamācībās pievērsīs īpašu mēmu veidošanu, nevis dziļo viltojumu izveidi ārpus šī konteksta. Kamēr tā ir izklaide un mēmu kultūras ietvaros, viņa saka, mēs atrodamies skaidrā zonā.

paslēpties