Deepfakes Kongresā ir panikā. Tas ir jādara.

Prezidenta Trampa foto ilustrācija, viena puse melnbalta, bet otra ļoti piesātināta Tehnikas kundze; Oriģināls WIN MCNAMEE fotoattēls; GETTY IMAGES

Nesenā Nensijas Pelosi doktora video izplatība ir nobiedējusi likumdevējus Vašingtonā. Videoklips, kas tika rediģēts, lai liktu viņai izskatīties piedzēries, ir tikai viens no vairākiem piemēriem pēdējā gada laikā, kad manipulētie mediji ir iekļuvuši galvenajā publiskajā diskursā. Janvārī savādāk doktorāts video Mērķtiecība pret prezidentu Donaldu Trampu beidzās Sietlas televīzijas ēterā. Šonedēļ Instagram tika augšupielādēts AI ģenerēts Marka Cukerberga video. (Facebook ir apsolījis to nenoņemt.)

Tuvojoties 2020. gada vēlēšanām ASV, ASV Kongress ir kļuvis arvien vairāk nobažījies par to, ka ātra un viegla spēja veidot plašsaziņas līdzekļus var padarīt vēlēšanu kampaņas neaizsargātas pret ārvalstu darbinieku mērķēšanu un apdraudēt vēlētāju uzticību.

Atbildot uz to, Pārstāvju palāta rīt rīkos savu pirmo īpašo uzklausīšanu par dziļo viltojumu — mākslīgā intelekta radīto sintētisko datu nesēju klasi. Paralēli pārstāve Iveta Klārka iesniegs likumprojektu par šo pašu tēmu. Jaunajā bezpeļņas organizācijas šonedēļ publicētajā pētījuma ziņojumā ir uzsvērta arī stratēģija, kā tikt galā ar viltojumu un citu novājinātu mediju izplatību.

Tā nav pirmā reize, kad ASV politikas veidotāji ir mēģinājuši rīkoties šajā jautājumā. 2018. gada decembrī senators Bens Sasse iepazīstināja ar a atšķirīgs rēķins mēģina aizliegt ļaunprātīgus dziļos viltojumus. Senators Marko Rubio arī vairākkārt atskanēja trauksme par tehnoloģijām gadu gaitā. Taču tā ir pirmā reize, kad mēs redzam tik saskaņotus ASV likumdevēju centienus.

Deepfake rēķins

Likumprojektā, kas ir vairāku mēnešu diskusiju rezultāts ar datorzinātniekiem, dezinformācijas ekspertiem un cilvēktiesību aizstāvjiem, tiks iekļauti trīs noteikumi. Pirmajā gadījumā uzņēmumiem un pētniekiem, kas rada rīkus, ko var izmantot dziļo viltojumu izgatavošanai, būtu automātiski jāpievieno ūdenszīmes viltotiem darbiem.

Otrajā gadījumā sociālo mediju uzņēmumiem būtu jāievieš labāka manipulāciju noteikšana tieši savās platformās. Visbeidzot, trešais noteikums paredzētu sankcijas, piemēram, naudas sodus vai pat cietumsodu, lai sodītu likumpārkāpējus par ļaunprātīgu dziļu viltojumu radīšanu, kas kaitē indivīdiem vai apdraud valsts drošību. Jo īpaši tas mēģinātu ieviest jaunu tiesiskās aizsardzības mehānismu, ja sintētiskie mediji kaitē cilvēku reputācijai.

Šis jautājums skar ne tikai politiķus, saka Mutale Nkonde, Datu un sabiedrības pētniecības institūta līdzstrādniece un likumprojekta padomniece. Dziļi viltoti videoklipi daudz biežāk tiek izmantoti pret sievietēm, minoritātēm, cilvēkiem no LGBT kopienas, nabadzīgiem cilvēkiem. Un šiem cilvēkiem nebūs resursu, lai cīnītos pret reputācijas riskiem.

Nkonde saka, ka likumprojekta ieviešanas mērķis nav nodot to Kongresam tā, kā tas ir. Tā vietā tas ir paredzēts, lai rosinātu niansētāku sarunu par to, kā risināt šo problēmu tiesību aktos, piedāvājot konkrētus ieteikumus, kurus var kritizēt un pilnveidot. Tas, ko mēs patiešām vēlamies darīt, ir iekļaut Kongresa ierakstā ideju, ka audiovizuālās manipulācijas ir nepieņemamas, viņa saka.

Pašreizējais dziļo viltojumu stāvoklis

Nejaušības dēļ cilvēktiesību bezpeļņas organizācija Witness izlaida a jauns pētījuma ziņojums šonedēļ dokumentējot dziļo viltojumu tehnoloģiju pašreizējo stāvokli. Padziļinātie viltojumi pašlaik nav plaši izplatīti: to veidošanai joprojām ir nepieciešamas īpašas prasmes, un tie bieži vien atstāj videoklipā artefaktus, piemēram, traucējumus un pikseļus, kas padara viltojumu acīmredzamu.

Taču tehnoloģija ir strauji attīstījusies, un video viltošanai nepieciešamo datu apjoms ir dramatiski samazinājies. Pirms divām nedēļām Samsung demonstrēts ka no viena fotoattēla bija iespējams izveidot visu video; šonedēļ universitātes un nozares pētnieki demonstrēja jaunu rīku kas ļauj lietotājiem rediģēt kādas personas vārdus, ierakstot to, ko viņi vēlas pateikt.

Tādējādi ir tikai laika jautājums, kad izplatīsies dziļi viltojumi, saka Sems Gregorijs, Witness programmas direktors. Viņš saka, ka daudzi veidi, kā cilvēki apsvērtu viltojumu izmantošanu — lai uzbruktu žurnālistiem, liktu domāt par politiķu korupciju, manipulētu ar pierādījumiem —, nepārprotami ir esošo problēmu evolūcija, tāpēc mums vajadzētu sagaidīt, ka cilvēki mēģinās izmantot jaunākos veidus, kā to izdarīt efektīvi. .

Ziņojumā ir izklāstīta stratēģija, kā sagatavoties šādai gaidāmajai nākotnei. Daudzi ieteikumi un liela daļa apstiprinošo pierādījumu arī saskan ar priekšlikumiem, kas tiks iekļauti Parlamenta likumprojektā.

Ziņojumā konstatēts, ka pašreizējie pētnieku un tehnoloģiju uzņēmumu ieguldījumi dziļo viltojumu radīšanā ievērojami pārsniedz ieguldījumus dziļo viltojumu atklāšanā. Piemēram, Adobe ir izstrādājusi daudzus rīkus, lai atvieglotu multivides izmaiņas, tostarp nesenu līdzekli objektu noņemšanai videoklipos; tomēr tas viņiem nav nodrošinājis foliju.

Rezultāts ir neatbilstība starp mediju manipulācijas reālo raksturu un pieejamajiem rīkiem cīņai pret to. Ja veidojat sintēzes vai viltošanas rīku, kas ir nevainojams cilvēka acij vai cilvēka ausij, jums vajadzētu izveidot rīkus, kas ir īpaši izstrādāti, lai atklātu šo viltojumu, saka Gregorijs. Jautājums ir par to, kā panākt, lai instrumentu ražotāji novērstu šo nelīdzsvarotību.

Tāpat kā parlamenta likumprojekts, ziņojumā arī ieteikts sociālo mediju un meklēšanas uzņēmumiem veikt labāku darbu, integrējot manipulācijas noteikšanas iespējas savās platformās. Facebook varētu ieguldīt līdzekļus objektu noņemšanas noteikšanā, piemēram, lai novērstu Adobe funkciju, kā arī citas negodīgas rediģēšanas metodes.

Pēc tam videoklipiem un attēliem lietotāju ziņu plūsmās ir skaidri jānorāda, ja tie ir rediģēti cilvēka acij neredzamā veidā. Google kā vēl viens piemērs ir jāiegulda apgrieztā video meklēšanā, lai palīdzētu žurnālistiem un skatītājiem ātri noteikt klipa oriģinālo avotu.

Ārpus Kongresa

Neskatoties uz to, ka ziņojums ir cieši saskaņots ar likumprojektu, Gregorijs brīdina, ka ASV Kongresam vajadzētu divreiz pārdomāt, vai tuvākajā laikā pieņemt likumus par dziļo viltojumu. Viņš saka, ka vēl ir pāragri regulēt dziļos viltojumus un sintētiskos medijus, lai gan viņš pieļauj izņēmumus ļoti šauriem lietojumiem, piemēram, to izmantošanai, lai radītu seksuālus attēlus, kas nav vienprātīgi. Es nedomāju, ka mums ir pietiekami laba izpratne par to, kā sabiedrības un platformas apstrādās dziļos viltojumus un sintētiskos medijus, lai ieviestu noteikumus, viņš piebilst.

Gregorijs uztraucas, ka pašreizējā diskusija Vašingtonā var novest pie lēmumiem, kuriem vēlāk būs negatīvas sekas. Piemēram, ASV noteikumi varētu būtiski ietekmēt citu valstu rīcību. Un ir viegli saprast, kā valstīs ar autoritārākām valdībām politiķus aizsargājošus noteikumus varētu izmantot, lai attaisnotu jebkāda strīdīga vai politiskos līderus kritizējoša satura noņemšanu.

Nkonde piekrīt, ka Kongresam ir jāpieņem izsvērta un pārdomāta pieeja šim jautājumam un jāapsver ne tikai tā ietekme uz politiku. Es ļoti ceru, ka viņi [uzklausīšanas laikā] runās par to, cik daudz cilvēku ietekmē šī tehnoloģija, viņa saka, un psiholoģisko ietekmi, ko rada nespēja noticēt tam, ko jūs varat redzēt un dzirdēt.

paslēpties