Jauns veids, kā apmācīt AI sistēmas, varētu aizsargāt tās no hakeriem

Kategorija: Mākslīgais intelekts Ievietots 10. jūlijs

Konteksts: Viens no lielākajiem neatrisinātajiem dziļās mācīšanās trūkumiem ir tās neaizsargātība pret t.s pretinieku uzbrukumi . Pievienojot AI sistēmas ievadei, šie traucējumi, kas šķiet nejauši vai cilvēka acij nenosakāmi, var padarīt lietas pilnīgi nepareizas. Piemēram, uzlīmes, kas stratēģiski novietotas uz apstāšanās zīmes, var mānīt pašbraucošai automašīnai, lai tā ieraudzītu ātruma ierobežojuma zīmi 45 jūdzes stundā, savukārt uzlīmes uz ceļa sajaukt Teslu nogriezties nepareizajā joslā.

Drošībai kritiski svarīgi: Lielākā daļa pretrunīgo pētījumu koncentrējas uz attēlu atpazīšanas sistēmām, bet uz dziļu mācīšanos balstītu attēlu rekonstrukcija sistēmas arī ir neaizsargātas. Tas ir īpaši satraucoši veselības aprūpē, kur pēdējie bieži tiek izmantoti rekonstruēt medicīniskos attēlus piemēram, CT vai MRI skenēšana no rentgena datiem. Mērķtiecīgs pretinieku uzbrukums var likt šādai sistēmai rekonstruēt audzēju skenēšanas laikā, ja tāda nav.

Pētījums: Bo Li (saukts par vienu no šī gada MIT Technology Review novatoriem, kas jaunāki par 35 gadiem) un viņas kolēģi Ilinoisas Universitātē Urbana-Champaign tagad ierosina jauna metode lai šādas padziļinātas apmācības sistēmas būtu drošākas un tādējādi uzticamākas drošībai kritiskos scenārijos. Viņi pretstata neironu tīklu, kas ir atbildīgs par attēla rekonstrukciju, un citu neironu tīklu, kas ir atbildīgs par pretrunīgu piemēru ģenerēšanu, līdzīgi kā GAN algoritmi . Izmantojot iteratīvos raundus, pretrunīgais tīkls mēģina apmānīt rekonstrukcijas tīklu, lai radītu lietas, kas nav daļa no sākotnējiem datiem vai patiesības. Rekonstrukcijas tīkls nepārtraukti pielāgo sevi, lai netiktu maldināts, padarot to drošāku izvietošanu reālajā pasaulē.

Rezultāti: Kad pētnieki pārbaudīja savu pretrunīgi apmācīto neironu tīklu divās populārās attēlu datu kopās, tas spēja rekonstruēt pamata patiesību labāk nekā citi neironu tīkli, kas bija aizsargāti pret neveiksmēm ar dažādām metodēm. Tomēr rezultāti joprojām nav ideāli, kas liecina, ka metode joprojām ir jāpilnveido. Darbs tiks prezentēts nākamnedēļ plkst Starptautiskā konference par mašīnmācīšanos . (Izlasiet šīs nedēļas algoritmu, lai iegūtu padomus par to, kā pārvietoties tādās AI konferencēs kā šī.)