Lietojumprogrammas, kas novērš viltojumus, var pamanīt pat vienu pikseļu nevietā

Ar Serelay pieklājību





Fotoattēlu un videoklipu viltošana prasīja daudz darba. Vai nu jūs izmantojāt CGI, lai no jauna radītu fotoreālistiskus attēlus (gan izaicinošus, gan dārgus), vai arī jums bija nepieciešama Photoshop meistarība un daudz laika, lai pārliecinoši pārveidotu esošos attēlus.

Tagad mākslīgā intelekta radīto attēlu parādīšanās ir atvieglojusi ikvienam attēla vai videoklipa pielāgošanu ar mulsinoši reālistisku rezultātu. Agrāk šajā gadā, MIT tehnoloģiju apskats vecākais mākslīgā intelekta redaktors Vils Naits izmantoja gatavu programmatūru, lai viltotu pats savu viltus video ar ASV senatoru Tedu Krūzu. Videoklips ir nedaudz neveiksmīgs, taču tas nebūs ilgi.

Šī pati tehnoloģija rada pieaugošu materiālu un fotoattēlu klāstu, ko sauc par dziļu viltojumu , kas var iedragāt patiesību, mulsināt skatītājus un sēt nesaskaņas daudz plašākā mērogā, nekā mēs jau esam redzējuši ar tekstu balstītām viltus ziņām.



Šīs ir iespējas, kas satrauc Dartmutas koledžas datorzinātņu profesoru Haniju Faridu, kurš jau 20 gadus ir atmaskojis viltotus attēlus. Es domāju, ka mēs vēl neesam gatavi, viņš brīdina. Taču viņš cer, ka pieaugošā izpratne par šo problēmu un jaunās tehnoloģijas varētu labāk sagatavot cilvēkus, lai atšķirtu patiesus attēlus no manipulētiem darbiem.

Oriģināls Oksfordas Universitātes Brasenose koledžas attēls. Serelaja pieklājība

Piemērs tam, kā var rediģēt sākotnējo attēlu, lai noņemtu LGBTQ varavīksnes karogu uz jumta. Ar Serelay pieklājību



Ir divi galvenie veidi, kā tikt galā ar problēmu, kas saistīta ar attēlu pārbaudi, skaidro Farids. Pirmais ir meklēt modifikācijas attēlā. Attēlu kriminālistikas eksperti izmanto skaitļošanas metodes, lai noteiktu, vai pikseļi vai metadati šķiet mainīti. Viņi var meklēt, piemēram, ēnas vai atspulgus, kas neatbilst fizikas likumiem, vai pārbaudīt, cik reižu attēla fails ir saspiests, lai noteiktu, vai tas ir saglabāts vairākas reizes.

Otra un jaunāka metode ir pārbaudīt attēla integritāti tā uzņemšanas brīdī. Tas ietver desmitiem pārbaužu veikšanu, lai pārliecinātos, ka fotogrāfs nemēģina viltot ierīces atrašanās vietas datus un laika zīmogu. Vai kameras koordinātas, laika josla un augstums virs jūras līmeņa un tuvumā esošie Wi-Fi tīkli apstiprina viens otru? Vai attēlā redzamā gaisma laužas tā, kā tas notiktu trīsdimensiju ainā? Vai arī kāds fotografē citu divdimensiju fotoattēlu?

Farids uzskata, ka šī otrā pieeja ir īpaši daudzsološa. Ņemot vērā divus miljardus fotoattēlu, kas katru dienu tiek augšupielādēti tīmeklī, viņš domā, ka tas varētu palīdzēt pārbaudīt attēlus plašā mērogā.



Serelay ļauj lietotājiem augšupielādēt aizdomīgus fotoattēlus, lai pārbaudītu, vai tie ir pārbaudīti. Sistēma veic virkni pārbaužu, lai noteiktu, kur ir veiktas izmaiņas, ja tādas ir. Ar Serelay pieklājību

Divi jaunuzņēmumi, ASV bāzētie Truepic (kuru Farid konsultē) un Apvienotajā Karalistē bāzētie Serelay, tagad strādā, lai komercializētu šo ideju. Viņi ir izmantojuši līdzīgas pieejas: katrai no tām ir bezmaksas iOS un Android kameru lietotnes, kas izmanto patentētus algoritmus, lai automātiski pārbaudītu fotoattēlus, kad tie tiek uzņemti. Ja attēls kļūst par vīrusu, to var salīdzināt ar oriģinālu, lai pārbaudītu, vai tas ir saglabājis savu integritāti.

Kamēr Truepic augšupielādē savu lietotāju attēlus un saglabā tos savos serveros, Serelay saglabā sava veida digitālo pirkstu nospiedumu, no katra attēla izskaitļojot aptuveni simts matemātisku vērtību. (Uzņēmums apgalvo, ka šīs vērtības ir pietiekamas, lai noteiktu pat viena pikseļa labojumu un aptuveni noteiktu, kura attēla sadaļa tika mainīta.) Truepic saka, ka viņi izvēlas saglabāt visus attēlus, ja lietotāji drošības apsvērumu dēļ vēlas izdzēst sensitīvus fotoattēlus. (Dažos gadījumos Truepic lietotājiem, kas darbojas augsta apdraudējuma scenārijos, piemēram, kara zonā, lietotne ir jānoņem tūlīt pēc ainu dokumentēšanas.) Turpretim Serelay uzskata, ka fotoattēlu neuzglabāšana nodrošina lietotājiem lielāku privātumu.



Serelejs spēj noķert un izcelt fotoattēlā trūkstošo karogu. Ar Serelay pieklājību

Kā papildu uzticības un aizsardzības slānis Truepic arī saglabā visus fotoattēlus un metadatus, izmantojot blokķēdi — Bitcoin tehnoloģiju, kas apvieno kriptogrāfiju un izkliedētu tīklu, lai droši uzglabātu un izsekotu informāciju.

Farids atzīst, ka tas nav ložu necaurlaidīgs, un viņš saka, ka tam ir daži trūkumi. Piemēram, lietotājiem ir jāizmanto verifikācijas programmatūra, nevis kameras lietotne savā tālrunī. Viņš arī atzīmē, ka uzņēmumi, kas mēģina komercializēt šāda veida tehnoloģiju, var dot priekšroku monetizācijai, nevis drošībai. Viņš saka, ka mēs zināmā mērā uzticamies uzņēmumiem, kas veido šīs lietotnes.

Bet ir arī mazināšanas stratēģijas. Gan Truepic, gan Serelay piedāvā programmatūras izstrādes komplektus, lai padarītu savu tehnoloģiju pieejamu trešo pušu platformām. Viņu ideja ir kādu dienu padarīt viņu verifikācijas tehnoloģiju par nozares standartu digitālajām kamerām, tostarp Facebook, Snapchat vai pat Apple vietējai kameru lietotnei. Šādā gadījumā neizmainīts attēls, kas ievietots sociālajos saziņas līdzekļos, varētu automātiski saņemt atzīmi, piemēram, Twitter verifikācijas emblēmu, kas norāda, ka tas atbilst attēlam viņu datubāzē — zīme, ka Serelay cer nodrošināt uzticamību.

Farids saka, ka lielākā daļa satura, ko mēs redzam tiešsaistē, ir uzņemts ar mobilajām ierīcēm. Būtībā ir dažas kameras, kas savā sistēmā var iekļaut šāda veida tehnoloģijas, un es domāju, ka jums būtu diezgan labs risinājums.

Katrs jaunuzņēmums tagad sāk sarunas ar sociālo mediju uzņēmumiem, lai izpētītu partnerības iespēju, un Serelay ir arī daļa no jaunas Facebook paātrinātāja programmas ar nosaukumu LDN_LAB.

Lai gan šī tehnoloģija vēl nav izplatīta, Farids mudina cilvēkus to izmantot pēc noklusējuma, dokumentējot lielus scenārijus, neatkarīgi no tā, vai tās ir politiskās kampaņas runas, cilvēktiesību pārkāpumi vai pierādījumi nozieguma vietā. Truepic jau ir redzējis, ka iedzīvotāji izmanto tās lietotni, lai dokumentētu krīzes Sīrijā. Pēc tam Al Jazeera izmantoja pārbaudītos kadrus, lai izveidotu vairākas video . Abi uzņēmumi ir arī reklamējuši savas tehnoloģijas apdrošināšanas nozarē kā pārbaudītu veidu, kā dokumentēt bojājumus.

Farids saka, ka ir svarīgi, lai uzņēmumi, kas veic šo darbu, būtu pārskatāmi par saviem procesiem un sadarbotos ar uzticamiem partneriem. Tas var palīdzēt saglabāt lietotāju uzticību un novērst sliktus dalībniekus.

Viņš saka, ka mums vēl ir jādara, lai būtu pilnībā gatavi dziļo viltojumu izplatībai. Bet viņš ir cerīgs. Viņš saka, ka Truepic tipa tehnoloģija un Serelay tipa tehnoloģija ir labā stāvoklī. Es domāju, ka mēs gatavojamies.

paslēpties