Kā pārvērst suni par automašīnu? Mainiet vienu pikseļu.

Kategorija: Bez kategorijas Ievietots 30. oktobris

Paldies par šo joku jaunajai pieejai attēlu atpazīšanas AI viltošanai, ko izstrādājusi Japānas Kjusju universitātes komanda.

Mēģinājumi izzināt AI ir populāra izklaide daudziem pētniekiem , un mēs esam ziņojuši par mašīnmācīšanās viltībām. Vispārējā pieeja ir pievienot attēliem funkcijas, kas nepareizi aktivizēs neironu tīklu un liks tam identificēt to, ko tas uzskata par kaut ko citu.

Jaunais pētījums, publicēts arXiv , apraksta algoritmu, kas var efektīvi noteikt labākos pikseļus, kas jāmaina, lai sajauktu mākslīgo intelektu un nepareizu attēla marķēšanu. Mainot tikai vienu pikseļu 1024 pikseļu attēlā, programmatūra var apmānīt AI aptuveni 74 procentus laika. Šis skaitlis palielinās līdz aptuveni 87 procentiem, ja tiek pielāgoti pieci pikseļi.

Iepriekš varat skatīt dažus piemērus, kuros mākslīgais intelekts cita starpā nosauca lidmašīnu par suni, vardi par kravas automašīnu un zirgu par automašīnu.

Kā uz Reģistrēties norāda , 1024 pikseļu attēli ir diezgan mazi, kas nozīmē, ka lielākiem attēliem būtu jāpielāgo simtiem pikseļu. Taču centieni likt AI apgāzties, izmantojot mazāko iespējamo izmaiņu skaitu, ir vienlīdz interesanti un satraucoši. Kā mēs esam paskaidrojuši iepriekš, atrast veidu, kā aizsargāt AI no šāda veida trikiem, ir diezgan grūti, jo mēs joprojām īsti neizprotam dziļo neironu tīklu iekšējo darbību.

Kamēr mēs to nedarīsim, no šādiem uzlaušanas gadījumiem būs grūti izvairīties.