211service.com
ASV militārpersonas finansē centienus notvert dziļos viltojumus un citus AI viltus
Vai domājat, ka mākslīgais intelekts palīdzēs apturēt viltus ziņas? ASV armija nav tik pārliecināta.
Aizsardzības departaments finansē projektu, kas mēģinās noteikt, vai mākslīgā intelekta radīto viltus video un audio, kas kļūst arvien reālāks, iespējams, drīz nebūs iespējams atšķirt no īstā — pat citai AI sistēmai.
Šovasar saskaņā ar projektu, ko finansē Aizsardzības progresīvo pētījumu projektu aģentūra (DARPA) , pasaulē vadošie digitālās kriminālistikas eksperti pulcēsies AI viltojumu konkursā. Viņi sacentīsies, lai radītu pārliecinošākos mākslīgā intelekta radītos viltotos video, attēlus un audio, un viņi arī mēģinās izstrādāt rīkus, kas var automātiski uztvert šos viltojumus.
Konkursā tiks iekļauti tā sauktie dziļie viltojumi, video, kuros viena cilvēka seja tiek uzšūta uz otra cilvēka ķermeņa. Diezgan paredzami, ka tehnoloģija jau ir izmantota, lai radītu vairākus viltotus slavenību porno video. Taču šo metodi varētu izmantot arī, lai izveidotu klipu, kurā politiķis saka vai dara ko nežēlīgu.
DARPA tehnologi ir īpaši nobažījušies par salīdzinoši jaunu AI tehniku, kas varētu padarīt mākslīgā intelekta viltojumu gandrīz neiespējamu automātiski pamanīt. Izmantojot tā sauktos ģeneratīvos pretrunīgos tīklus jeb GAN, ir iespējams ģenerēt satriecoši reālistiskus mākslīgos attēlus.
Teorētiski, ja jūs sniegtu GAN visas mums zināmās metodes, lai to atklātu, tas varētu izturēt visas šīs metodes, saka Deivids Gunings, par projektu atbildīgais DARPA programmas vadītājs. Mēs nezinām, vai ir kāds ierobežojums. Tas ir neskaidrs.
GAN sastāv no divām sastāvdaļām. Pirmais, kas pazīstams kā aktieris, mēģina apgūt statistikas modeļus datu kopā, piemēram, attēlu vai videoklipu komplektā, un pēc tam ģenerē pārliecinošas sintētiskas datu daļas. Otrais, ko sauc par kritiķi, mēģina atšķirt īstus un viltus piemērus. Atsauksmes no kritiķa ļauj aktierim radīt arvien reālistiskākus piemērus. Un tā kā GAN jau ir izstrādāti, lai pārspētu AI sistēmu, nav skaidrs, vai kāda automatizēta sistēma varētu tos uztvert.
GAN ir salīdzinoši jauni, taču tie ir pārņēmuši mašīnmācības ainu (skatiet GANfather: Cilvēks, kurš mašīnām ir piešķīris iztēles dāvanu). Tos jau var izmantot, lai izsapņotu ļoti reālistiskas iedomātas slavenības vai lai pārliecinoši pārveidotu attēlus mainot sarauktu pieri smaidā vai pārvēršot nakti par dienu.
Digitālā viltojuma atklāšana parasti ietver trīs darbības. Pirmais ir pārbaudīt digitālo failu, vai nav pazīmju, ka divi attēli vai video ir savienoti kopā. Otrais ir aplūkot apgaismojumu un citas attēla fizikālās īpašības, lai atrastu pazīmes, ka kaut kas nav kārtībā. Trešais — ko ir visgrūtāk izdarīt automātiski un, iespējams, visgrūtāk uzveikt, ir ņemt vērā loģiskas neatbilstības, piemēram, nepareizus laikapstākļus paredzētajam datumam vai nepareizu fonu paredzētajai atrašanās vietai.
Valters Šīrers , digitālās kriminālistikas eksperts Notre Dame Universitātē, kurš ir iesaistīts DARPA projektā, saka, ka tehnoloģija ir sasniegusi pārsteidzoši garu ceļu kopš iniciatīvas uzsākšanas pirms pāris gadiem. Mēs noteikti esam bruņošanās sacensībā, viņš saka.
Lai gan kvalificētam grafikas ekspertam jau sen ir bijis iespējams izgatavot pārliecinoša izskata viltojumus, mākslīgais intelekts padarīs tehnoloģiju daudz pieejamāku. No valsts sponsorētiem aktieriem un Holivudas tas ir kļuvis par kādu Reddit, saka Hanijs Farids , Dartmutas profesors, kurš specializējas digitālajā kriminālistikā. Mēs šobrīd jūtam, ka steidzami ir jāaizsargā demokrātija.
Deepfakes izmanto populāru mašīnmācīšanās paņēmienu, kas pazīstams kā dziļā mācīšanās, lai esošā videoklipā automātiski iekļautu jaunu seju. Kad liels datu apjoms tiek ievadīts ļoti lielā vai dziļā simulētā neironu tīklā, dators var iemācīties veikt visu veidu noderīgus uzdevumus, piemēram, ļoti precīzu sejas atpazīšanu. Taču šī pati pieeja atvieglo manipulācijas ar ļaunprātīgiem video. Tiešsaistē izlaists rīks ļauj ikvienam, kam ir nelielas tehniskās zināšanas, radīt jaunus dziļos viltojumus. Un šī rīka radītājs stāstīja Mātesplate ka tiek izstrādāta vēl lietotājam draudzīgāka versija.
Problēma, protams, sniedzas daudz tālāk par seju apmaiņu. Eksperti arvien biežāk apgalvo, ka pēc neilga laika var būt daudz grūtāk noteikt, vai fotoattēlu, video vai audio klipu ir ģenerējusi mašīna. Google pat ir izstrādājis rīku Duplex, kas izmanto AI, lai viltotu tālruņa zvanu.
aviv ovadya , Mičiganas Universitātes Sociālo mediju atbildības centra galvenais tehnologs, pauž bažas, ka pašlaik izstrādātās AI tehnoloģijas var tikt izmantotas, lai kaitētu kāda cilvēka reputācijai, ietekmētu vēlēšanas vai vēl ļaunāk. Šīs tehnoloģijas var izmantot brīnišķīgos veidos izklaidei, kā arī daudzos ļoti šausminošos veidos, 15. maijā sacīja Ovadja. notikumu organizēja Blumbergs . Viņš teica, ka jums jau ir pārveidoti attēli, kas tiek izmantoti, lai jaunattīstības valstīs izraisītu reālu vardarbību. Tās ir reālas un aktuālas briesmas.
Ja tehnoloģiju nevar izmantot viltojumu un dezinformācijas uztveršanai, tā vietā var rasties stimuls izmantot likumu. Patiesībā Malaizija šā gada aprīlī ieviesa likumus pret viltus ziņām. Tomēr Dartmutas Farids saka, ka tas pats par sevi var izrādīties problemātiski, jo patiesība pati par sevi ir slidena tēma. Kā jūs definējat viltus ziņas? Tas nav tik vienkārši, kā jūs varētu domāt, viņš saka. Es varu apgriezt attēlu un būtiski mainīt attēlu. Un ko jūs darāt ar Sīpols ?