211service.com
Facebook tikko izlaida datubāzi ar 100 000 dziļo viltojumu, lai iemācītu AI tos pamanīt
Deepfakes ir satraukušas gan sabiedrību, gan pētniekus. Šajos mākslīgā intelekta radītajos attēlos, kuros cilvēki, šķiet, saka vai dara kaut ko tādu, ko viņi nav izdarījuši, ir kaut kas unikāli satraucošs.
Ar instrumenti dziļo viltojumu izgatavošanai tagad plaši pieejami un salīdzinoši vienkārši lietojami, daudzi arī uztraucas, ka tie tiks izmantoti bīstamas dezinformācijas izplatīšanai. Politiķi var likt citu cilvēku vārdus likt mutē vai likt piedalīties situācijās, kurās viņi nav piedalījušies, piemēram.
Tādas vismaz ir bailes. Cilvēka acīs patiesība ir tāda, ka viltojumus joprojām ir salīdzinoši viegli pamanīt. Un saskaņā ar Kiberdrošības firmas DeepTrace Labs ziņojums 2019. gada oktobrī, kas joprojām ir līdz šim visaptverošākie, tie nav izmantoti nevienā dezinformācijas kampaņā. Tomēr tajā pašā ziņojumā arī konstatēts, ka tiešsaistē publicēto dziļo viltojumu skaits strauji pieaug, un pēdējo septiņu mēnešu laikā tika parādīti aptuveni 15 000. Tagad šis skaitlis būs daudz lielāks.
Sociālo mediju uzņēmumi ir nobažījušies, ka dziļi viltojumi drīzumā varētu pārpludināt viņu vietnes. Bet tos automātiski noteikt ir grūti. Lai risinātu šo problēmu, Facebook vēlas izmantot AI, lai palīdzētu cīnīties pret mākslīgā intelekta radītajiem viltojumiem. Lai apmācītu AI pamanīt manipulētus videoklipus, tas izdod visu laiku lielāko dziļo viltojumu datu kopu — vairāk nekā 100 000 klipu, kas izveidoti, izmantojot 3426 dalībniekus un virkni esošo seju maiņas paņēmienu.
Deepfake pašlaik nav liela problēma, saka Facebook CTO Maiks Šroepfers. Taču mācība, ko es guvu pēdējo pāris gadu laikā, ir tāda, ka nedrīkst pieķert plakanām pēdām. Es vēlos būt patiešām gatavs daudzām sliktām lietām, kas nekad nenotiek, nevis otrādi.
Facebook arī paziņojis sava konkursa uzvarētāju Dziļās viltojumu noteikšanas izaicinājums , kurā 2114 dalībnieki iesniedza aptuveni 35 000 modeļu, kas apmācīti, izmantojot tās datu kopu. Labākais modelis, ko izstrādājis Selims Seferbekovs, mašīnmācības inženieris kartēšanas uzņēmumā Mapbox, spēja noteikt, vai videoklips ir viltots, ar 65% precizitāti, kad to pārbaudīja ar 10 000 iepriekš neredzētu klipu komplektu, tostarp jaunu videoklipu sajaukumu. ģenerē Facebook un esošie, kas ņemti no interneta.
Lai padarītu lietas grūtākas, apmācības komplektā un testu komplektā ir iekļauti videoklipi, kuros noteikšanas sistēma var apjukt, piemēram, cilvēki, kas sniedz grima pamācības, un videoklipi, kas ir pielāgoti, ielīmējot tekstu un formas virs runātāju sejām, mainot izšķirtspēju vai orientāciju un to palēnināšanu.
Tā vietā, lai mācītos kriminālistikas paņēmienus, piemēram, meklētu digitālos pirkstu nospiedumus video pikseļos, kas palikuši dziļās viltojumu ģenerēšanas procesā, šķiet, ka pieci labākie ieraksti ir iemācījušies pamanīt, kad kaut kas izskatās nepareizi, kā to varētu darīt cilvēks.
Lai to paveiktu, visi uzvarētāji izmantoja jauna veida konvolucionālo neironu tīklu (CNN), ko pagājušajā gadā izstrādāja Google pētnieki, ko sauc par EfficientNets. CNN parasti izmanto, lai analizētu attēlus, un tie labi var noteikt sejas vai atpazīt objektus. Tomēr, lai uzlabotu to precizitāti, pārsniedzot noteiktu punktu, var būt nepieciešama ad hoc precizēšana. EfficientNets nodrošina strukturētāku noskaņošanas veidu, atvieglojot precīzāku modeļu izstrādi. Bet nav skaidrs, kas tieši liek viņiem šajā uzdevumā pārspēj citus neironu tīklus, saka Seferbekovs.
Facebook savā vietnē neplāno izmantot nevienu no uzvarētājiem modeļiem. Pirmkārt, 65% precizitāte vēl nav pietiekami laba, lai būtu noderīga. Daži modeļi sasniedza vairāk nekā 80% precizitāti ar apmācības datiem, taču tas samazinājās, salīdzinot ar neredzētiem klipiem. Visgrūtākā izaicinājuma daļa ir vispārināt jaunus videoklipus, kuros var būt dažādas sejas, kas apmainītas, izmantojot dažādas metodes, saka Seferbekovs.
Viņš domā, ka viens no veidiem, kā uzlabot noteikšanu, būtu koncentrēties uz pārejām starp video kadriem, izsekojot tām laika gaitā. Pat ļoti kvalitatīviem dziļajiem viltojumiem starp kadriem ir mirgošana, saka Seferbekovs. Cilvēki labi pamana šīs neatbilstības, īpaši seju kadros. Taču, lai automātiski uztvertu šos indikatora defektus, būs nepieciešami lielāki un daudzveidīgāki apmācības dati un daudz lielāka skaitļošanas jauda. Seferbekovs mēģināja izsekot šīm kadru pārejām, bet nevarēja. Viņš saka, ka centrālais procesors bija īsts sašaurinājums.
Facebook norāda, ka dziļo viltojumu noteikšanu var uzlabot arī, izmantojot metodes, kas pārsniedz paša attēla vai videoklipa analīzi, piemēram, novērtējot tā kontekstu vai izcelsmi.
Sems Gregorijs, kurš vada projektu Witness, kas atbalsta cilvēktiesību aktīvistus video tehnoloģiju izmantošanā, atzinīgi vērtē sociālo mediju platformu ieguldījumu dziļās viltojumu atklāšanā. Witness ir partnerības AI dalībnieks, kas konsultēja Facebook par savu datu kopu. Gregorijs piekrīt Šroepferam, ka ir vērts gatavoties ļaunākajam. Viņš saka, ka mums nav bijušas dziļas viltus apokalips, taču šie rīki ir ļoti nepatīkams papildinājums ar dzimumu saistītai vardarbībai un dezinformācijai. Piemēram, DeepTrace Labs pārskatā konstatēts, ka 96% dziļo viltojumu bija nevienprātīga pornogrāfija, kurā citu cilvēku sejas tiek uzlīmētas pār porno klipos izpildītāju sejām.
Kad miljoniem cilvēku var izveidot un kopīgot videoklipus, uzticēšanās tam, ko mēs redzam, ir svarīgāka nekā jebkad agrāk. Viltus ziņas Facebook izplatās kā meža ugunsgrēks, un jau vien dziļu viltojumu iespēja rada šaubas, liekot mums visticamāk apšaubīs patiesus kadrus kā arī viltus.
Turklāt automātiskā noteikšana drīzumā var būt mūsu vienīgā iespēja. Nākotnē mēs redzēsim dziļus viltojumus, kurus cilvēki nevar atšķirt, saka Seferbekovs.