Uzlaušana, kas varētu likt sejas atpazīšanai domāt, ka kāds cits esat jūs

Maikls Aleo / Unsplash

Pētnieki ir pierādījuši, ka viņi var apmānīt modernu sejas atpazīšanas sistēmu, ieraugot kādu, kura tur nav.

Kiberdrošības firmas McAfee komanda izveidoja uzbrukumu sejas atpazīšanas sistēmai, kas ir līdzīga tai, ko pašlaik izmanto lidostās pasu pārbaudei. Izmantojot mašīnmācīšanos, viņi izveidoja attēlu, kas cilvēka acij izskatījās kā viens cilvēks, bet pēc sejas atpazīšanas algoritma tika identificēts kā kāds cits, kas ir līdzvērtīgs mašīnas viltināšanai, lai ļautu kādam iekāpt lidojumā, neskatoties uz to, ka viņš ir bez lidojuma. mušu saraksts.

Ja mēs ejam tiešraides kameras priekšā, kas izmanto sejas atpazīšanu, lai identificētu un interpretētu, uz ko viņi skatās, un salīdzinātu to ar pases fotoattēlu, mēs varam reāli un atkārtoti izraisīt šāda veida mērķtiecīgu nepareizu klasifikāciju, sacīja pētījuma vadītājs. Stīvs Povolnijs.

Kā tas strādā

Lai nepareizi novirzītu algoritmu, pētnieki izmantoja attēlu tulkošanas algoritmu, kas pazīstams kā CycleGAN, kas lieliski pārvērš fotogrāfijas no viena stila citā. Piemēram, tas var likt ostas fotoattēlam izskatīties tā, it kā to būtu gleznojis Monē, vai vasarā uzņemtam kalnu fotoattēlam izskatīties tā, it kā tas būtu uzņemts ziemā.

JUN-YAN ZHU UN TAESUNG PARKS uc.

McAfee komanda izmantoja 1500 fotoattēlus no katra no diviem projekta virzieniem un ievadīja attēlus CycleGAN, lai tos pārveidotu savā starpā. Tajā pašā laikā viņi izmantoja sejas atpazīšanas algoritmu, lai pārbaudītu CycleGAN ģenerētos attēlus, lai redzētu, ko tas atpazina. Pēc simtiem attēlu ģenerēšanas CycleGAN galu galā izveidoja viltotu attēlu, kas ar neapbruņotu aci izskatījās pēc personas A, taču lika sejas atpazīšanai domāt, ka tā ir persona B.

MCAFEE

Lai gan pētījums rada skaidras bažas par sejas atpazīšanas sistēmu drošību, ir daži brīdinājumi. Pirmkārt, pētniekiem nebija piekļuves faktiskajai sistēmai, ko lidostas izmanto, lai identificētu pasažierus, un tā vietā to tuvināja ar mūsdienīgu atvērtā koda algoritmu. Es domāju, ka uzbrucējam, kuru būs visgrūtāk pārvarēt, saka Povolnijs, ja [viņiem] nav piekļuves mērķa sistēmai. Tomēr, ņemot vērā seju atpazīšanas algoritmu lielās līdzības, viņš uzskata, ka uzbrukums varētu darboties pat faktiskajā lidostas sistēmā.

Kā darbojas GAN

• Ģeneratīvie pretrunīgie tīkli ir algoritmu klase, kas gudri sastāda neironu tīklus viens pret otru, lai radītu labākus rezultātus.

  Tradicionālajā GAN ir tikai divi tīkli: ģenerators, kas apmāca datu kopu, piemēram, vasaras ainavu, lai izspļautu vairāk vasaras ainavu; un diskriminators, kas salīdzina ģenerētās ainavas ar to pašu datu kopu, lai izlemtu, vai tās ir īstas vai viltotas.

  CycleGAN modificē šo procesu, izmantojot divus ģeneratorus un divus diskriminatorus. Ir arī divi attēlu komplekti, piemēram, vasaras ainavas un ziemas ainavas, kas atspoguļo fotoattēlu veidus, kurus vēlaties tulkot.

  Šoreiz pirmais ģenerators apmāca vasaras ainavu attēlus ar mērķi mēģināt ģenerēt ziemas ainavas. Tikmēr otrais ģenerators izmanto ziemas ainavu attēlus, lai ģenerētu vasaras ainavas. Abi diskriminētāji kārtējo reizi smagi strādā, lai notvertu viltojumu, līdz viltotās ainavas vairs neatšķiras no īstajām.

  
  
  

Otrkārt, šodien šāds uzbrukums prasa daudz laika un resursu. Lai apmācītu un izpildītu CycleGAN, ir nepieciešami jaudīgi datori un zināšanas.

Taču seju atpazīšanas sistēmas un automatizēta pasu kontrole arvien vairāk tiek izmantotas lidostu drošībai visā pasaulē, un tas ir mainījies paātrina Covid-19 pandēmija un vēlme pēc bezkontakta sistēmām. Šo tehnoloģiju jau plaši izmanto arī valdības un korporācijas tādās jomās kā tiesībaizsardzība , pieņemšana darbā , un pasākumu drošība — lai gan daudzas grupas ir aicinājušas a moratoriju šādai attīstībai un dažas pilsētas aizliedza tehnoloģiju .

Ir arī citi tehniski mēģinājumi izjaukt sejas atpazīšanu. Nesen tika atbrīvota Čikāgas Universitātes komanda Fawkes rīks, kas paredzēts seju apslēpšanai, nedaudz mainot fotoattēlus sociālajos medijos, lai apmānītu mākslīgā intelekta sistēmas, kas paļaujas uz izkoptām datubāzēm ar miljardiem šādu attēlu. Pētnieki arī no AI firmas Kneron parādīja kā maskas var apmānīt visā pasaulē jau izmantotās sejas atpazīšanas sistēmas.

McAfee pētnieki saka, ka viņu mērķis galu galā ir parādīt šīm AI sistēmām raksturīgās ievainojamības un skaidri norādīt, ka cilvēkiem ir jāpaliek cilpā.

AI un sejas atpazīšana ir neticami spēcīgi rīki, kas palīdz identificēt un autorizēt cilvēkus, saka Povolnijs. Bet, kad jūs vienkārši paņemat tos un akli nomaināt esošo sistēmu, kas pilnībā paļaujas uz cilvēku bez kaut kādas sekundāras pārbaudes, tad pēkšņi jūs esat ieviesis varbūt lielāku vājumu nekā iepriekš.

paslēpties