Google ir izlaidusi rīku, lai pamanītu viltotus un apstrādātus attēlus

Kategorija: Mākslīgais intelekts Ievietots 05. februāris

Ir izlaists Google tehnoloģiju inkubators Jigsaw eksperimentāla platforma ar nosaukumu Assembler lai palīdzētu žurnālistiem un vadošajiem faktu pārbaudītājiem ātri pārbaudīt attēlus.

Kā tas strādā: Assembler apvieno vairākus esošās tehnikas akadēmiskajā vidē, lai atklātu izplatītas manipulācijas metodes, tostarp mainot attēla spilgtumu un ielīmējot kopētus pikseļus citur, lai kaut ko aizsegtu, vienlaikus saglabājot to pašu vizuālo tekstūru. Tas ietver arī detektoru, kas pamana dziļos viltojumus, kas izveidoti, izmantojot StyleGAN — algoritmu, kas var ģenerēt reālistiskas iedomātas sejas. Šīs noteikšanas metodes tiek ievadītas galvenajā modelī, kas lietotājiem norāda, cik liela ir iespējamība, ka attēls ir manipulēts.

Kāpēc tas ir svarīgi: Viltus attēli ir vienas no grūtāk pārbaudāmajām lietām, jo ​​īpaši saistībā ar mākslīgā intelekta veikto manipulāciju pieaugumu. Arī žurnālistu un faktu pārbaudītāju iespējas reaģēt strauji sarūk, jo dezinformācija izplatās lielā ātrumā un mērogā.

Nav panaceja: Assembler ir labs solis cīņā pret manipulētiem plašsaziņas līdzekļiem, taču tas neaptver daudzas citas esošās manipulācijas metodes, tostarp tās, kas tiek izmantotas video, kas komandai būs jāpievieno un jāatjaunina, ekosistēmai attīstoties. Tā joprojām pastāv arī kā atsevišķa platforma no kanāliem, kur parasti tiek izplatīti apstrādāti attēli. Eksperti ir ieteikuši tehnoloģiju gigantiem, piemēram, Facebook un Google, iekļaut šāda veida noteikšanas funkcijas tieši savās platformās. Tādā veidā šādas pārbaudes var veikt gandrīz reāllaikā, kad fotoattēli un videoklipi tiek augšupielādēti un kopīgoti.

Ir arī citas pieejas, kas jāapsver. Daži jaunizveidotie uzņēmumi izmanto verifikācijas tehnoloģiju , kas, piemēram, iegaumē pikseļu atrašanās vietas fotoattēlā to uzņemšanas brīdī, taču tas arī rada problēmas .

Papildus tehnoloģijām: Galu galā ar tehniskiem labojumiem nepietiks. Viens no sarežģītākajiem digitālās viltošanas aspektiem nav paši viltoti attēli. Drīzāk tā ir ideja, ka tie pastāv, un to var viegli izmantot, lai apšaubītu reālu mediju patiesumu. Tas ir tāds izaicinājums, kam būs nepieciešami arī sociāli un politiski risinājumi.