Facebook veido savus mākslīgā intelekta viltojumus, lai novērstu dezinformācijas katastrofu

Oriģinālā video un dziļās viltošanas blakus attēli. Facebook

Facebook baidās, ka mākslīgā intelekta ģenerēti dziļi viltoti videoklipi varētu būt nākamais lielais vīrusu dezinformācijas avots, kas izplatās lietotāju vidū ar potenciāli katastrofālām sekām nākamajām ASV prezidenta vēlēšanām.

Tās risinājums? Daudzu savu dziļo viltojumu izveide, lai palīdzētu pētniekiem izveidot un pilnveidot noteikšanas rīkus.

Facebook ir uzdevis savai AI pētnieku komandai izveidot vairākus ļoti reālistiskus viltus videoklipus, kuros redzami aktieri, kas dara un saka ikdienišķas lietas. Šie klipi kalpos kā datu kopa dziļo viltojumu noteikšanas rīku testēšanai un salīdzinošai novērtēšanai. Facebook dziļi viltojumi tiks izlaisti lielā AI konferencē gada beigās.

Dziļās viltojumu pieaugumu izraisīja nesenie sasniegumi mašīnmācībā. Kino studijām jau sen ir bijusi iespēja manipulēt ar attēliem un video, izmantojot programmatūru un datorus, un algoritmi, kas spēj tvert un no jauna izveidot personas līdzību, jau ir izmantoti, lai izveidotu norādes un klikšķināšanas rīkus, lai ielīmētu personas seju uz kāda cita. .

Metodes viltotu datu nesēju noteikšanai pastāv, taču tās bieži ietver rūpīgu ekspertu analīzi. Rīki dziļo viltojumu automātiskai uztveršanai ir tikai jauni.

Facebook CTO Maiks Šroepfers saka, ka dziļi viltojumi strauji attīstās, tāpēc ir ļoti svarīgi izstrādāt daudz labākus veidus, kā atzīmēt vai bloķēt iespējamos viltojumus.

Mēs to vēl neesam uzskatījuši par milzīgu problēmu mūsu platformās, taču es pieņemu, ka, ja jūs palielināsiet piekļuvi — padarīsit lētāku, vienkāršāku un ātrāku šo lietu izveidi — tas nepārprotami palielina risku, ka cilvēki to izmantos ļaunprātīgā veidā, Schroepfer , kurš ir iniciatīvas vadītājs, sacīja vakar vakarā. Es nevēlos nonākt situācijā, kad tā ir milzīga problēma un mēs neesam ieguldījuši milzīgas summas pētniecībā un attīstībā.

Salīdzinot centienus ar cīņu pret surogātpasta e-pastu, Šroepfers sacīja, ka Facebook, iespējams, nespēs noķert vismodernākos viltojumus. Mēs noķersim acīmredzamos, viņš teica. Taču viņš teica, ka Facebook vēl neizmanto nekādas metodes, jo viltojumi tik ātri uzlabojas.

Sociālais tīkls atvēlēs 10 miljonus ASV dolāru atklāšanas tehnoloģiju finansēšanai, izmantojot dotācijas un izaicinājumu balvas. Kopā ar Microsoft, Partnerība AI jomā un akadēmiķiem no tādām iestādēm kā MIT, UC Berkeley un Oksfordas universitāte, uzņēmums uzsāk Dziļās viltojumu noteikšanas izaicinājums , kas piedāvās nenoteiktas naudas balvas par labākajām noteikšanas metodēm.

Lai izveidotu dziļu viltojumu, parasti ir nepieciešami divi videoklipi. Algoritmi apgūst katras sejas izskatu, lai uzlīmētu vienu uz otras, vienlaikus saglabājot katru smaidu, mirkšķināšanu un mājienu. Lai no jauna izveidotu konkrētas personas balsi, var izmantot arī dažādas AI metodes. Termins deepfake ir ņemts no Reddit lietotāja, kurš 2017. gadā izlaida šādu rīku. Tas attiecas uz dziļo mācīšanos — izmantoto AI tehniku.

Viena no lielākajām bažām ir tāda, ka viltojumus varētu izmantot, lai nākamā gada ASV vēlēšanu laikā izplatītu ļoti lipīgu dezinformāciju, iespējams, pat ietekmētu iznākumu. Vairāki ASV senatori ir izsaukuši trauksmi par draudiem, un Bens Sase (R–Nebraska) iesniedza likumprojektu, lai padarītu nelikumīgu dziļu viltojumu izveidi vai izplatīšanu ar ļaunprātīgu nolūku. Nesens ziņojums par vēlēšanu dezinformāciju no NYU identificē dziļo viltojumu kā vienu no vairākiem galvenajiem izaicinājumiem 2020. gada vēlēšanām.

Manipulēti videoklipi jau izplatās sociālajās platformās. Šī gada sākumā visā Facebook strauji izplatījās klips, kurā redzams, kā Nensija Pelosi izrunā savu runu (izveidots, vienkārši palēninot kadrus). Uzņēmums atteicās noņemt šo ziņu vai Marka Cukerberga viltojumu, tā vietā izvēloties klipus atzīmēt kā viltotus faktu pārbaudes organizācijās.

Ir jēga, ka Facebook cenšas tikt galā ar problēmu, it īpaši pēc pēdējo prezidenta vēlēšanu nokrišņiem. Kad parādījās sīkāka informācija par politiskās dezinformācijas kampaņām, Facebook saskārās ar asu kritiku par šādas propagandas izplatīšanos.

Tomēr dziļās viltus izaicinājuma reklamēšanai var būt neparedzētas sekas. Henrijs Ajders, Nīderlandes uzņēmuma Deeptrace analītiķis, kas strādā pie viltotu klipu pamanīšanas instrumentiem, atzīmē, ka stāstījums par dziļo viltojumu var piedāvāt politiķiem veidu, kā izvairīties no atbildības, apgalvojot, ka ir viltota patiesa informācija (skatiet vēlreiz Fake America Great ). Ajder saka, ka ideja par dziļiem viltojumiem jau rada daudz problēmu. Tas ir politiskās sfēras vīruss, kas ir inficējis politiķu un pilsoņu prātus.

Turklāt, neskatoties uz trauksmi, Adžders, kurš izseko dziļos viltojumus savvaļā, šaubās, vai tehnoloģija kādu laiku tiks izmantota politiskiem mērķiem. Viņš uzskata, ka tas drīzāk kļūs par spēcīgu kiberizsekošanas un iebiedēšanas rīku.

Dažas metodes dziļo viltojumu noteikšanai jau pastāv. Vienkāršas metodes ietver datu analīzi video failā vai signālu mutes kustību un mirkšķināšanas meklēšanu, ko algoritmam ir grūtāk uztvert un izveidot no jauna.

Metode, ko nesen izstrādājusi vadošo ekspertu grupa, ietver padziļinātas mācīšanās algoritma apmācību, lai atpazītu konkrēto veidu, kā cilvēka galva kustas, jo algoritmi to parasti neapgūst.

Šī pieeja radās, veicot vēl vienu mēģinājumu izstrādāt atklāšanas rīkus , ko finansē Aizsardzības progresīvo pētījumu projektu aģentūra (DARPA).

Daudzus ekspertus pārsteidzis un satraucis AI viltojumu attīstības ātrums. Tikai šonedēļ ķīniešu lietotne Zao izraisīja diskusijas, ievietojot dziļi viltotus videoklipus, kas it kā tika izveidoti no nekustīga attēla. Hao Li , vizuālo efektu mākslinieks un Dienvidkalifornijas universitātes asociētais profesors, ir brīdinājis, ka drīzumā var būt iespējams masveidā ražot nenosakāmus dziļo viltojumus (skatiet Pasaules labāko dziļo viltojumu mākslinieks cīnās ar viņa radīto briesmoni ).

paslēpties