Lielākie dziļo viltojumu draudi nav paši dziļi viltojumi

Attēls, kurā Hitlers uzstājas ar seju, kas aizstāts ar jautājuma zīmi. Tehniķa kundze

Bija 2018. gada beigas, un Gabonas iedzīvotāji mēnešiem ilgi nebija redzējuši savu prezidentu Ali Bongo. Dažiem sāka rasties aizdomas, ka viņš ir slims vai pat miris, un valdība to slēpa. Lai apturētu spekulācijas, valdība paziņoja, ka Bongo ir pārcietis insultu, taču viņam ir laba veselība. Drīz pēc tam, tā izlaida video kad viņš teica savu ierasto Jaungada uzrunu.

Tomēr tā vietā, lai mazinātu spriedzi, videoklipā bija tieši pretējs. Kā atklāj digitālo tiesību organizācija Internets bez robežām, daudzi cilvēki domā Bongo noskatījās kadrā , uzreiz radās aizdomas, ka tas ir viltojums — ar AI palīdzību viltots vai pārveidots multivides gabals. Pārliecība veicināja viņu aizdomas, ka valdība kaut ko slēpj. Nedēļu vēlāk militārpersonas veica neveiksmīgu apvērsumu, atsaucoties uz video kā daļu no motivācijas.

Turpmākā kriminālistikas analīze videoklipā nekonstatēja neko mainītu vai manipulētu. Tam nebija nozīmes. Ar ideju par viltojumiem vien pietika, lai paātrinātu jau tā nestabilās situācijas atrisināšanu.

Pirms 2020. gada ASV prezidenta vēlēšanām arvien pārliecinošāka dziļo viltojumu tehnoloģija ir radījusi bažas par to, kā šādi viltoti plašsaziņas līdzekļi varētu ietekmēt politisko uzskatu. Bet a jauns ziņojums no Deeptrace Labs, kiberdrošības uzņēmums, kas koncentrējās uz šīs maldināšanas atklāšanu, neatrada nevienu zināmu gadījumu, kad dziļās viltojumi patiešām būtu izmantoti dezinformācijas kampaņās. Visspēcīgākais efekts ir zināšanām, ka viņi varētu izmantot šādā veidā.

Dziļi viltojumi rada risku politikai, jo viltoti plašsaziņas līdzekļi šķiet reāli, taču šobrīd taustāmāks drauds ir tas, kā var piesaukt dziļo viltojumu ideju, lai patiesais liktos viltots, saka Henrijs Adžders, viens no filmas autoriem. Ziņot. Ažiotāža un diezgan sensacionāls atspoguļojums, kas spekulē par dziļo viltojumu politisko ietekmi, ir aizēnojis reālos gadījumus, kad dziļās viltošanas ir bijusi ietekme.

Dokumentācija vairs nav pierādījums

Cilvēktiesību aktīvisti un dezinformācijas eksperti ir izsaukuši trauksmi par šiem atsevišķajiem, taču savstarpēji saistītiem draudiem, kopš uz skatuves parādījās viltojumi. Pēdējos divos gados ASV tehnoloģiju uzņēmumi un politikas veidotāji ir koncentrējušies gandrīz tikai uz pirmo Ajdera pieminēto problēmu: vieglumu, ar kādu tehnoloģija var likt viltotām lietām izskatīties īstas. Bet tas ir otrais, kas ekspertus satrauc vairāk. Lai gan šķēršļi dziļo viltojumu izveidei var strauji kristies, lai apšaubītu kaut ko patiesumu, nav vajadzīgas nekādas tehnoloģijas.

Tas dod vēl vienu ieroci spēcīgajiem: teikt 'Tas ir dziļš viltojums' par visu, ko cilvēki, kuri ir bez varas, cenšas izmantot, lai parādītu korupciju.

Jau no paša sākuma tas ir bijis mans lielākais uztraukums šajā jomā, saka Avivs Ovadja, dezinformācijas eksperts, kurš tagad vada bezpeļņas projektu Thoughtful Technology Project.

Uzticības mazināšanai plašsaziņas līdzekļiem var būt dziļas sekas, jo īpaši nestabilā politiskajā vidē. Sems Gregorijs, bezpeļņas organizācijas Witness programmas direktors, kas palīdz cilvēkiem dokumentēt cilvēktiesību pārkāpumus, piedāvā piemēru. Brazīlijā, kas ir piedzīvojusi policijas vardarbību, pilsoņi un aktīvisti tagad uztraucas, ka viņu filmētie video, kurā redzams, kā virsnieks nogalina civiliedzīvotāju, vairs nebūs pietiekams pamats izmeklēšanai. Bailes, ka patiesus pierādījumus var uzskatīt par viltotiem, saka Gregorijs, ir kļuvušas par atkārtotu tēmu viņa rīkotajos semināros visā pasaulē.

Tā ir evolūcija apgalvojumam, ka kaut kas ir “viltus ziņas”, viņš saka. Tas dod vēl vienu ieroci spēcīgajiem: teikt 'Tas ir dziļš viltojums' par visu, ko cilvēki, kas ir ārpus varas, mēģina izmantot, lai parādītu korupciju, cilvēktiesību pārkāpumus.

Pierādīt, ka īsts ir īsts, un viltotais ir viltots

Lai atrisinātu šīs problēmas, būs jāsaprot abu veidu draudi. Augstā līmenī jūs vēlaties pēc iespējas vieglāk parādīt, ka īsts ir īsts un ka viltota lieta ir viltota, saka Ovadja.

Pēdējos mēnešos daudzas pētniecības grupas un tehnoloģiju uzņēmumi, piemēram, Facebook un Google, ir koncentrējušies uz viltojumu atklāšanas rīkiem, piemēram, datubāzēm noteikšanas algoritmu apmācībai un ūdenszīmes kurus var iebūvēt digitālajos fotoattēlu failos, lai atklātu, vai tie ir bojāti. Vairāki jaunizveidotie uzņēmumi ir arī strādājuši pie veidiem, kā veidot uzticēšanos, izmantojot patērētāju lietojumprogrammas, kas pārbauda fotoattēlus un videoklipus to uzņemšanas laikā, lai veidotu salīdzināšanas pamatu, ja satura versijas tiek izplatītas vēlāk. Gregorijs saka, ka tehnoloģiju gigantiem ir jāintegrē abu veidu pārbaudes tieši savās platformās, lai tās būtu plaši pieejamas.

Taču tehnoloģiju uzņēmumiem ir arī jānodarbina cilvēku satura moderatori, un mediju organizācijām ir jāapmāca žurnālisti un faktu pārbaudītāji gan atklāšanā, gan pārbaudē. Vietējie ziņojumi var apstiprināt, vai videoklips atspoguļo realitāti, un pievienot svarīgu nianšu slāni. Tehniskie modeļi nevar interpretēt viltotā videoklipa saturu dažādos kultūras kontekstos vai iedomāties, kā to varētu tālāk rekontekstualizēt, saka Brits Pariss, informācijas pētījumu eksperts, kurš nesen publicēja ziņojumu par dziļajiem viltojumiem.

Tas, ko [dezinformācijas aktieri] patiešām vēlas, nav tas, lai jūs vairāk apšaubītu, bet lai jūs apšaubītu visu.

Kā piemēru Parīze norāda uz Nensijas Pelosi un Džima Akostas mainītajiem videoklipiem, kas pagājušajā gadā kļuva plaši izplatīti. Abi bija tā sauktie lētie viltojumi, nevis dziļie viltojumi — to ātrums vienkārši tika mainīts, lai maldinātu skatītājus. Parīze saka, ka šos viltojumus nebūtu iespējams noķert ar tehniskām metodēm dziļo viltojumu ķeršanai. Tā vietā žurnālistiem tie bija jāatmasko, kas nozīmēja, ka cilvēkiem bija jāuzticas žurnālistiem.

Visbeidzot, visi eksperti ir vienisprātis, ka sabiedrībai nepieciešama lielāka medijpratība. Ir atšķirība starp pierādīšanu, ka īsta lieta ir īsta, un to, ka sabiedrība uzskata, ka īstā lieta ir īsta, saka Ovadja. Viņš saka, ka cilvēkiem ir jāapzinās, ka satura viltošana un šaubu radīšana par satura patiesumu ir taktika, ko var izmantot, lai apzināti sētu neskaidrības.

Tomēr Gregorijs brīdina neuzlikt pārāk lielu slogu ziņu patērētājiem. Pētniekiem, platformām un žurnālistiem būtu jādara pēc iespējas vairāk darba, lai palīdzētu noskaidrot, kas ir īsts un kas ir viltots, pirms ziņas sasniedz sabiedrību.

Ovadja saka, ka galvenais mērķis nav iedvest vispārēju skepsi, bet gan izveidot sociālu, izglītojošu, potenciālu infrastruktūru, lai neitralizētu dziļo viltojumu ietekmi. No kā mums jācenšas izvairīties? viņš jautā. Ir vērtīgi apšaubīt pierādījumus. Bet tas, ko [dezinformācijas aktieri] patiešām vēlas, nav tas, lai jūs vairāk apšaubītu, bet lai jūs apšaubītu visu.

Viņš piebilst: “Tā ir pretēja tam, ko mēs meklējam.

Lai vairāk šādu stāstu tiktu piegādāts tieši jūsu iesūtnē, reģistrējieties mūsu Webby nominētajam AI informatīvajam izdevumam The Algorithm. Tas ir par brīvu.

paslēpties