AI patērē daudz enerģijas. Hakeri varētu likt patērēt vairāk.

Teilors Viks/Unsplash

Ziņas: Jauns uzbrukuma veids varētu palielināt mākslīgā intelekta sistēmu enerģijas patēriņu. Tādā pašā veidā pakalpojuma atteikuma uzbrukums internetam cenšas aizsprostot tīklu un padarīt to nelietojamu, jaunais uzbrukums liek dziļam neironu tīklam piesaistīt vairāk skaitļošanas resursu nekā nepieciešams un palēnināt tā domāšanas procesu.

Mērķis: Pēdējos gados pieaugošās bažas par lielo AI modeļu dārgo enerģijas patēriņu ir likusi pētniekiem izstrādāt efektīvākus neironu tīklus. Viena kategorija, kas pazīstama kā ievades adaptīvās vairāku izeju arhitektūras, darbojas, sadalot uzdevumus atkarībā no tā, cik grūti tie ir atrisināti. Pēc tam tas iztērē minimālo skaitļošanas resursu daudzumu, kas nepieciešams katra risināšanai.

Pieņemsim, ka jums ir attēls ar lauvu, kas skatās tieši kamerā ar perfektu apgaismojumu, un attēls ar lauvu, kas tup sarežģītā ainavā, daļēji paslēpta no skata. Tradicionālais neironu tīkls izlaiž abus fotoattēlus cauri visiem tā slāņiem un iztērē tikpat daudz aprēķinu, lai katru marķētu. Bet ievadei adaptīvs vairāku izeju neironu tīkls var izlaist pirmo fotoattēlu tikai caur vienu slāni, pirms tas sasniedz nepieciešamo pārliecības slieksni, lai to nosauktu par to, kas tas ir. Tas samazina modeļa oglekļa pēdas nospiedumu, taču tas arī uzlabo tā ātrumu un ļauj to izvietot mazās ierīcēs, piemēram, viedtālruņos un viedajos skaļruņos.

Uzbrukums: Taču šāda veida neironu tīkls nozīmē, ka, mainot ievadi, piemēram, attēlu, kas tiek ievadīts, varat mainīt to, cik daudz aprēķinu nepieciešams, lai to atrisinātu. Tas paver ievainojamību, ko hakeri varētu izmantot, kā Merilendas kiberdrošības centra pētnieki izklāstīja jaunajā dokumentā, kas tiek prezentēts Starptautiskā konference par mācīšanās reprezentācijām šonedēļ. Pievienojot tīkla ieejām nelielu trokšņa daudzumu, tie ļāva tam uztvert ievades kā grūtākas un palielināt aprēķinu.

Kad viņi uzskatīja, ka uzbrucējam ir pilnīga informācija par neironu tīklu, viņi varēja maksimāli izmantot tā enerģijas patēriņu. Kad viņi uzskatīja, ka uzbrucējs nav izmantojis nekādu informāciju, viņi joprojām spēja palēnināt tīkla apstrādi un palielināt enerģijas patēriņu par 20% līdz 80%. Iemesls, kā atklāja pētnieki, ir tas, ka uzbrukumi labi pāriet dažādu veidu neironu tīklos. Uzbrukuma izstrāde vienai attēlu klasifikācijas sistēmai ir pietiekama, lai izjauktu daudzus, saka Yiğitcan Kaya, doktorants un papīra līdzautors.

Brīdinājums: Šāda veida uzbrukums joprojām ir nedaudz teorētisks. Ievades adaptīvās arhitektūras vēl netiek plaši izmantotas reālās pasaules lietojumprogrammās. Taču pētnieki uzskata, ka tas ātri mainīsies no nozares spiediena, lai izvietotu vieglākus neironu tīklus, piemēram, viedajām mājām un citām IoT ierīcēm. Profesors Tudors Dumitrašs, kurš vadīja pētījumu, saka, ka ir nepieciešams vairāk darba, lai saprastu, cik lielā mērā šāda veida draudi var radīt kaitējumu. Taču viņš piebilst, ka šis dokuments ir pirmais solis izpratnes palielināšanā: man ir svarīgi pievērst cilvēku uzmanību faktam, ka šis ir jauns draudu modelis un ka šāda veida uzbrukumus var veikt.

paslēpties